미국 생성형 인공지능(AI) 업계가 정치 딥페이크(deep fake·현실과 거짓을 뒤섞은 이미지·음성·영상) 퇴치를 위한 협약을 발표한다. 전 세계 60여개국에서 전국 단위 선거가 치러지는 올해 딥페이크가 유권자들에게 미칠 악영향을 차단하기 위해서다.
페이스북을 소유한 메타는 13일(현지시간) AFP 통신에 서한을 보내 “세계적으로 중요한 선거의 해에 기술 기업들이 유권자를 대상으로 한 AI의 기만적인 사용에 맞서는 협정을 체결하기 위해 노력하고 있다”고 밝혔다.
서한에 따르면 메타, 구글, 마이크로소프트(MS), 오픈AI, 어도비, 틱톡 등이 협정에 참여하며 협정 내용은 오는 16일 독일 뮌헨에서 열리는 ‘뮌헨 보안 콘퍼런스’에서 공개된다.
이날 관련 움직임을 처음으로 보도한 워싱턴포스트(WP)는 내부 문건을 토대로 AI 생성 콘텐츠에는 라벨 부착을 의무화하는 한편 사용자들을 대상으로 AI의 위험성에 대해 교육하는 내용을 협약 전문에 수록할 예정이라고 보도했다.
미 백악관은 지난해 7월 오픈AI·구글·메타 등 7개 주요 AI 기업들로부터 자발적으로 ‘AI 생성’ 워터마크를 부착하겠다는 약속을 받아냈다. 지난해 10월에는 행정명령을 통해 기업들이 사용할 워터마크 표준을 개발할 것을 미 상무부에 지시한 바 있다.
기업들이 이처럼 자율 규제에 나선 것은 올해 각국 선거를 앞두고 AI로 생성한 딥페이크가 기승을 부리고 있기 때문이다. 지난달 22일 미국 민주당 비공식 대선 경선이 치러진 뉴햄프셔주에서 경선주자인 조 바이든 대통령을 사칭한 자동전화가 유권자 수만명에게 발신돼 혼선을 준 게 대표적이다.
