미국 민주당 대선 경선을 앞두고 조 바이든 대통령의 목소리를 흉내 낸 ‘로보콜'(robocall· 녹음된 음성이 재생되는 자동전화)이 등장하자 허위정보를 양산하는 생성형 인공지능(AI)을 규제하자는 여론이 미국 사회에서 또다시 확산하고 있다.
미국 선거당국도 올해 대선 기간 허위정보를 유포하는 AI 합성물이 기승을 부릴 것으로 보고 대책 마련에 착수했지만, 관련 규정을 마련하는 데 어려움을 겪고 있다. 극성 지지자들의 손에도 쥐어질 정도로 AI가 널리 보급된 만큼 의회 차원의 입법이 시급하다는 지적도 나온다.
민주당의 첫번째 비공식 프라이머리(예비선거)가 치러진 뉴햄프셔주에선 경선 전날인 지난 22일 ‘투표에 참여하지 말라’는 바이든 대통령의 로보콜을 받았다는 유권자들의 증언이 쏟아졌다. 백악관은 즉각 해당 로보콜이 바이든 대통령의 녹음본이 아니며 AI로 가짜 이미지와 음성을 합성한 딥페이크(deepfake)라고 해명했다.
누가 바이든 대통령 로보콜을 합성해 유권자들에게 유포했는지는 아직 명확히 밝혀지지 않았다. 공화당 유력 경선 주자인 트럼프 전 대통령 측도 이번 로보콜은 자신들과 관련이 없다고 선을 그었다. 뉴햄프셔 주정부는 공식 수사에 들어갔다.
이번 사태와 관련해 24일 미국 정치전문매체 더힐은 “AI로 인한 위협을 최소화하기 위한 근본적인 안전장치가 부족한 미국 사회에서 AI가 허위정보 선전에 어떻게 활용되고 있는지를 보여주는 최신 사례”라고 평가했다. 그러면서 전문가들을 인용해 AI 합성물은 “탐지가 어려운 데다 누구나 쉽게 사용할 수 있어 유권자들에게 더욱 혼란과 불신을 심어줄 수 있다”고 경고했다.
또한 칼리 교수는 AI가 허위정보 생성 외에도 특정 유권자 집단에 특화된 콘텐츠를 양산할 수 있어 주위가 요구된다고 당부했다. 그러면서 지난 대선 결과를 부정하는 일부 트럼프 전 대통령 지지자를 염두에 둔 듯 “선거 개표원이 마치 개표를 조작하는 듯한 거짓 영상을 생성하는 데도 활용될 수 있다”고 경고했다.
미국 시민단체 민주주의기술센터(CDT)의 사미르 자인 정책 담당 부사장은 바이든 대통령 로보콜로 AI가 후보자가 하지 않은 말을 만들어 내고, 투표에 대한 허위정보를 퍼뜨릴 수 있다는 사실이 확인됐다고 논평했다.
이처럼 AI 기술은 실제와 거짓의 경계를 허물 정도로 발전했지만, 규제 속도는 기술을 따라가지 못하는 실정이다. 미국 연방선거관리위원회(FEC)는 지난해 8월 위원 6명의 만장일치로 선거운동 시 AI 사용을 규제할 근거 규정을 마련하기로 의결하고, 시민과 전문가들을 대상으로 의견을 수렴했다. 그러나 의견 수렴이 끝난 10월 이후 석달 넘게 선거 규정은 개정되지 않고 있다. FEC는 더힐에 “올여름 규정 제정을 마무리할 것으로 예상한다”고 했다.
FEC에 청원을 제출해 의견수렴을 이끈 시민단체 퍼블릭 시티즌의 로버트 와이즈먼 대표는 더힐에 “정치적 딥페이크 시대가 이미 도래했으며 규제 당국이 나서지 않으면 선거가 혼탁해진다”고 우려했다. 이어 “FEC의 권한이 후보자와 정당의 범위로 제한되어 있어 외부 정치 후원자나 소셜 미디어에 게시하는 개인이 올린 콘텐츠는 규정만으로는 다루지 못한다”며 “결국 문제 해결을 위해선 의회의 입법이 필요하다”고 강조했다.
의회도 사안의 심각성을 깨닫고 입법 작업에 들어갔다. 지난해 12월 에이미 클로부차 민주당 상원의원은 조쉬 홀리 공화당 상원의원 외 3명과 함께 선거 운동 과정에서 AI 합성물 배포를 금지하는 법안을 지난해 11월 공동으로 발의했다. 이들은 더힐에 “민주당 지지자든 공화당 지지자든, 자신이 지지하는 후보인지 아닌지도 알 수 없는 가짜 광고나 로보콜을 보고 싶어 하는 사람은 아무도 없다”며 입법 필요성을 역설했다.
