홍콩의 한 다국적기업 재무담당자가 생성형 인공지능(AI)을 활용한 딥페이크물(deep fake·현실과 거짓을 뒤섞은 이미지·음성·영상)에 속아 회삿돈 340억원을 송금하는 피해를 봤다. 일당은 거래가 필요하다는 이메일에 이어 딥페이크 기술로 화상회의까지 꾸며내 재무 직원을 감쪽같이 꾀어냈다.
홍콩 사우스차이나모닝포스트(SCMP)와 CNN 방송에 따르면 홍콩 경찰은 2일(현지시간) 브리핑을 통해 이같은 AI 딥페이크 사기가 최근 기승을 부리고 있다며 시민들을 상대로 각별한 주의를 당부했다. 경찰은 현재 회사 직원들을 사칭한 딥페이크물로 영국계 다국적기업 홍콩지사 소속 재무직원으로부터 2억홍콩달러(약 340억원)를 가로챈 일당의 뒤를 쫓고 있다고 밝혔다.
경찰에 따르면 피해 재무직원이 이메일을 받은 건 지난 1월 중순이다. 영국 본사 최고재무책임자(CFO) 명의로 발송된 이메일에서 ‘비밀 거래가 필요하다’는 내용을 확인한 피해자는 처음엔 CFO를 가장한 피싱 메일로 치부했다. 그러나 이후 초대된 그룹 화상회의에서 본사 직원과 CFO가 참석한 것을 확인하고는 모든 의심을 거뒀다. 딥페이크물의 얼굴과 목소리가 재무직원이 아는 실제 인물과 동일했기 때문이다.
결국 재무직원은 일당의 지시에 따라 홍콩 시중은행 계좌 5곳에 15차례에 걸쳐 총 2억홍콩달러(약 340억원)를 이체했다. 이메일을 받은 날로부터 1주일 만에 천문학적 금액이 송금된 것이다. 재무직원은 이후 영국 본사에 직접 문의한 끝에 자신이 사기를 당했음을 알고 경찰에 신고했다.
수사에 착수한 경찰은 사기 피의자들이 온라인상에 공개된 회사 직원들의 영상과 음성을 생성형 AI로 조합해 가상 회의에 필요한 딥페이크물을 만든 것으로 보고 있다. 피의자들은 재무직원의 의심을 차단하기 위해 그룹 화상회의 외에도 메신저와 이메일, 일대일 화상통화를 병행하는 등 범행 수법을 다양화했다. 또한 입금 지시는 주로 그룹 화상회의를 종료하기 직전에 내렸다.
이와 별도로 이날 홍콩 경찰은 또 다른 딥페이크 사기에 가담한 일당 6명을 체포했다고 밝혔다. 이들은 지난 7월부터 두 달간 도난당한 홍콩 신분증 8장을 입수해 홍콩 시중은행 계좌 54개를 개설하고 모두 90건의 대출을 신청한 혐의를 받고 있다. 신분증 속 사진을 활용해 만든 AI 딥페이크물은 계좌 개설과 대출 신청에 사용되는 은행 안면인식 프로그램을 무력화할 정도로 정교했다고 한다.
