아마존과 알파벳(구글 모회사), 메타, 마이크로소프트, 오픈AI, 인플렉션, 앤트로픽 등 7개 주요 인공지능(AI) 기업은 AI로 만든 콘텐츠에 워터마크를 넣는 등 안전 조치를 취하기로 했다.
백악관은 이날 보도자료를 통해 안전하고 위험이 없으며, 투명한 AI 기술 개발을 위해 이들 7개 기업으로부터 이같은 자발적인 약속을 확보했다고 발표했다.
백악관은 “이같은 새로운 기술을 개발하는 기업은 제품의 안전을 보장할 책임이 있다”면서 “AI의 잠재력을 최대한 활용하기 위해 조 바이든 행정부는 이 산업이 미국인의 권리와 안전을 희생하지 않도록 가장 높은 기준을 준수하도록 장려하고 있다”고 밝혔다.
백악관은 “혁신의 속도가 계속 빨라짐에 따라 바이든 행정부는 이들 기업에 책임을 상기시키고, 미국인들의 안전을 지키기 위해 단호한 조치를 취할 것”이라고 말했다.
백악관에 따르면, 이들 기업은 안전·보안·신뢰 등 3가지 기본 원칙에 따라 △AI 시스템 출시 전 내·외부 보안 테스트 수행 △모범사례·안전장치 회피 시도에 대한 정보 및 기술 협력 등 AI 위험 관리에 대한 업계 및 정부, 시민사회, 학계 공유 △사이버 보안 및 내부자 위협 보호 장치에 대한 투자 △제3자에 의한 AI 시스템의 취약성 발견 및 보고 촉진 등을 약속했다.
이들 기업들은 특히 워터마크 시스템처럼 사용자들이 AI로 만들어진 콘텐츠를 인식할 수 있도록 하기 위한 강력한 기술 메커니즘을 개발하기로 했다.
백악관은 “이같은 조치는 AI를 통한 창의성이 번성할 수 있게 하지만, 사기와 속임수의 위험을 줄여준다”고 설명했다.
아울러 △AI 시스템의 기능, 한계, 적절·부적절 사용 영역 등 공개 △유해한 편견, 차별을 방지하고 개인정보를 보호하는 것을 포함해 AI 시스템이 제기할 수 있는 사회적 리스크에 대한 우선적 연구 △암 예방, 기후변화 완화 등 사회의 가장 큰 도전들을 대처하는 데 도움이 되는 첨단 AI 시스템 개발 및 배치 등도 기업들의 약속에 포함됐다.
AI 기업들의 이번 조치는 오픈AI가 챗GPT를 출시한 것을 계기로 미국 안팎에서 AI 활용에 대한 우려가 커지고 있는 것에 대한 대응 차원으로 읽힌다.
백악관은 이어 한국과 일본·인도·호주·프랑스·독일 등 20개국을 언급하면서 “바이든 행정부는 동맹 및 파트너들과 협력해 AI의 개발 및 사용을 관리하기 위한 강력한 국제 프레임워크를 구축할 것”이라고 밝혔다.
바이든 대통령은 이날 백악관에서 이들 7개 기업들과 만나 회의를 진행하기 전 연설을 “우리는 지난 50년 동안 봤던 것보다 향후 10년이나 심지어 수년 안에 더 많은 기술 변화를 목격할 것”이라며 “AI는 전 세계 사람들의 삶을 변화시킬 것”이라고 말했다.
그는 “소셜미디어는 우리에게 올바른 안전장치가 없는 강력한 기술이 초래할 수 있는 해악을 보여줬다”면서 “우리는 민주주의와 우리의 가치에 영향을 미칠 수 있는 새로운 기술의 위협에 대해 명확하게 보고 경계해야 한다”고 강조했다.
바이든 대통령은 또 “이 기업들은 미국인들의 신뢰를 얻기 위해 책임성과 안전성을 갖춘 혁신을 주도하는 데 중요한 역할을 할 것”이라며 기업들이 하고 있는 약속은 “진지한 책임”이라고 말했다. 그는 AI는 “엄청난 잠재력이 있지만, 우리가 그것을 올바로 잡아야 한다”고 했다.
바이든 대통령은 “저는 국정연설에서 의회가 개인정보 수집에 엄격한 제한을 가하고, 아이들에 대한 표적 광고를 금지하며, 기업들이 건강과 안전을 우선하도록 요구하는 초당적 법안을 통과시킬 필요가 있다고 말했었다”며 “위험을 관리함으로써 AI의 가능성을 실현하려면 몇 가지 새로운 법률과 규제 및 감독이 요구될 것”이라고 말했다.
그러면서 “앞으로 수주 동안 저는 미국이 책임있는 혁신을 주도할 수 있도록 계속해서 행정조치를 취할 것”이라며 “우리는 적절한 입법과 규제를 개발하기 위해 양당과 협력할 것”이라고 덧붙였다.
바이든 대통령은 연설 서두에 “저는 AI다. 제가 에이브러햄 링컨이라고 생각하는 사람이 있다면 그것을 AI 탓으로 돌리세요”라고 말해 웃음바다가 되기도 했다.
