생성형 인공지능(AI) 기술을 악용한 딥페이크(deepfake·현실과 거짓을 뒤섞은 이미지·음성·영상)가 각종 소셜미디어를 중심으로 기승을 부리자 그간 기술 혁신을 주도해온 AI 학계와 업계도 규제 강화를 촉구했다.
로이터 통신에 따르면 앤드류 크리치 미국 UC버클리대 AI 연구원은 21일(현지시간) ‘딥페이크 공급망 붕괴’라는 제목의 공개서한을 웹사이트 ‘openletter’를 통해 발표했다.
크리치 연구원은 서한에서 “오늘날 딥페이크에는 성적 이미지와 사기, 허위 정보가 포함되는 경우가 많다”면서 “AI가 빠르게 발전하면서 딥페이크 제작이 쉬워진 만큼 이에 걸맞은 안전장치가 필요하다”고 강조했다.
구체적인 규제 방안도 제안했다. △아동·청소년을 대상으로 한 딥페이크 성착취물을 강력 범죄로 규정하고 △유해 딥페이크를 고의로 제작하거나 확산을 조장하는 개인을 형사처벌하는 한편 △AI기업에 유해 딥페이크 단속 의무를 부과하자는 내용이다.
공개서한에는 딥러닝 기술의 권위자로 ‘AI 대부’라 불리는 요슈아 벤지오 캐나다 몬트리올대 컴퓨터과학 교수와 스티븐 핑커 하버드대 심리학 교수 등 학계 관계자는 물론 구글 딥마인드와 오픈AI 소속 연구원 등 업계 종사자들도 동참했다. 이날 정계, 연예계 인사까지 포함해 700명 이상 서명했다.
