채널9 뉴스의 실험 보도에 따르면, 단돈 11달러짜리 인공지능(AI) 프로그램으로 가족이나 친척도 구별하기 어려울 정도의 목소리를 복제할 수 있는 것으로 나타났다.
특히 유튜브나 페이스북에 공개된 영상 속 음성만으로도 특정인의 목소리를 재현할 수 있어, 가족을 사칭한 전화금융사기(보이스피싱)에 악용될 위험이 커지고 있다.
전문가들은 이제 전화기 너머에서 들리는 익숙한 목소리만으로 상대방의 신원을 확인해서는 안 된다고 경고했다.
공개 영상 32분으로 기자 목소리 복제
채널9 뉴스는 AI 음성 복제 기술이 실제로 얼마나 정교한지 확인하기 위해 사이버보안 전문가와 함께 실험을 진행했다.
보안업체 텐폴드 시큐리티의 애런 와이센플루 전문가는 유튜브와 페이스북에 공개된 브라이아 베리 기자의 영상을 수집했다.
이 과정에서 확보한 음성 자료는 총 32분 분량이었다.
전문가는 이 음성 자료를 11달러짜리 AI 음성 복제 프로그램에 입력해 기자의 목소리를 디지털 형태로 재현했다.
별도의 녹음실이나 전문 장비는 필요하지 않았다. 기자가 새로운 대본을 읽거나 추가로 녹음할 필요도 없었다.
이미 인터넷에 공개된 음성 자료만으로 복제가 가능했던 것이다.
일부 음성 복제 프로그램은 무료로도 이용할 수 있는 것으로 알려졌다.
친척에게 전화했더니 실제 목소리로 착각
제작진은 복제된 목소리가 실제 사람을 속일 수 있는지 확인하기 위해 기자의 친척을 대상으로 전화 실험을 진행했다.
실험에 참여한 친척은 자신이 AI 음성 복제 실험의 대상이라는 사실을 알지 못했다.
전화에서 들리는 목소리는 AI로 생성된 것이었지만, 친척은 실제로 베리 기자와 통화하고 있다고 믿었다.
대화가 진행되면서 친척은 중간중간 나타나는 부자연스러운 침묵을 감지했지만, 목소리 자체는 실제 기자의 음성으로 받아들였다.
이번 실험은 AI 음성 복제 기술이 가족이나 친척처럼 평소 목소리를 잘 아는 사람까지 속일 수 있음을 보여줬다.
다만 실험에서는 실제 금전 요구나 송금이 이뤄진 것은 아니다.
“급하게 돈 보내달라” 가족 사칭 범죄 우려
전문가들이 우려하는 것은 이 같은 기술이 전화금융사기에 활용될 가능성이다.
범죄자가 가족의 목소리를 복제한 뒤 사고나 긴급 상황을 가장해 돈을 요구하면 피해자가 상대방을 의심하지 않을 수 있기 때문이다.
특히 가족이 다쳤거나 체포됐다는 등의 긴급한 상황을 주장하면서 즉시 송금을 요구할 경우 판단력이 흐려질 수 있다.
전문가들은 전화 상대방이 익숙한 목소리로 말하더라도 다음과 같은 상황에서는 사기 가능성을 의심해야 한다고 조언했다.
- 갑작스러운 사고나 긴급 상황을 주장하며 돈을 요구하는 경우
- 지금 당장 송금해야 한다고 재촉하는 경우
- 다른 가족에게 알리지 말라고 요구하는 경우
- 평소와 다른 연락처로 전화해 금전적 도움을 요청하는 경우
의심스러운 전화는 끊고 직접 확인해야
전문가들이 권장하는 가장 확실한 예방 방법은 전화를 끊고 평소 알고 있던 가족의 전화번호로 다시 연락하는 것이다.
상대방이 실제 가족이라면 기존 연락처나 다른 가족을 통해 상황을 확인할 수 있다.
또한 가족끼리 비상 상황에서만 사용하는 암호나 확인 문구를 미리 정해두는 것도 도움이 된다.
예를 들어 가족 구성원만 아는 특정 단어나 질문을 정해두고, 긴급한 금전 요청이 있을 때 신원을 확인하는 방식이다.
다만 암호 역시 외부에 노출될 수 있으므로 다른 연락수단을 통한 확인 절차를 함께 사용하는 것이 바람직하다.
SNS에 올린 영상도 음성 복제에 이용 가능
이번 실험에서 주목할 부분은 음성 복제를 위해 특별한 개인정보 유출이나 해킹이 필요하지 않았다는 점이다.
전문가는 누구나 접근할 수 있는 유튜브와 페이스북 영상에서 음성을 확보했다.
일상생활을 촬영한 영상이나 소셜미디어 게시물에 자신의 목소리가 포함돼 있다면 음성 복제에 활용될 가능성이 있다는 의미다.
전문가들은 인터넷에 개인 음성이 담긴 영상을 게시할 때 공개 범위를 신중하게 설정할 것을 권고했다.
특히 어린이나 가족의 목소리가 포함된 영상도 불특정 다수에게 공개되지 않도록 주의할 필요가 있다.
AI 시대, 목소리만으로 신원 확인 불가능
이번 실험은 저렴한 AI 프로그램과 공개된 음성 자료만으로도 실제 사람과 구별하기 어려운 목소리를 만들 수 있다는 점을 보여줬다.
전문가들은 가족을 사칭한 긴급 전화가 걸려올 경우 목소리가 익숙하다는 이유만으로 송금하거나 개인정보를 제공해서는 안 된다고 강조했다.
가장 중요한 예방수칙은 상대방의 신원을 별도의 연락수단으로 직접 확인하는 것이다.
