“선거 딥페이크 차단” 빅테크 20개사 합의

전 세계 시장을 대상으로 인터넷 기반 사업을 하는 주요 기술기업(빅테크) 20곳이 인공지능(AI)발 허위정보 확산을 막기 위해 손을 잡았다. AI로 만들어 낸 가짜뉴스·허위정보가 선거의 공정성을 해치고 민주주의를 위협할 것이라는 우려가 커지는 가운데, 세계 최대 기술기업들이 이런 위기에 함께 맞서겠다며 공동전선을 형성하고 나선 것이다.

지난해 3월  도널드 트럼프(가운데) 전 대통령이 경찰에 연행되는 사진이 트위터 등에 유통됐다. 해당 사진들은 모두 생성 AI에 의해 제작된 가짜 사진으로 드러났다. 트위터 캡처

17일(현지시간) 블룸버그통신 등에 따르면 테크업체 20곳은 선거 관련 AI 생성 콘텐츠의 확산 방지를 목표로 노력하기로 하고, 이 같은 다짐을 담은 합의문(’선거에서 AI의 기만적 활용을 방지하기 위한 기술 협정’)을 16일 개막한 독일 뮌헨안보회의에서 발표했다. 합의문에는 마이크로소프트(MS)·구글·아마존·메타·오픈AI·IBM·엑스(X)·앤트로픽 등 주요 AI 개발사들과 사회관계망서비스(SNS) 업체들이 서명했다. AI 생성 콘텐츠 확산에 직간접적 책임이 있는 주요 업체들이 사실상 전부 이름을 올린 것이다. 그간 AI 업체들은 “개발 경쟁에만 열을 올리고 부작용을 최소화하는 데는 소홀하다”는 지적을 받아 왔고, SNS 업체들은 ‘딥페이크(이미지·목소리·영상 등을 진짜처럼 합성하는 기술)’ 콘텐츠 확산의 ‘공범’으로 지목돼 왔다.

구체적으로 이들은 선거 관련 AI 생성 콘텐츠의 위험성을 최소화하기 위한 기술을 개발하는 데 협력하기로 했다. 여기에는 AI 생성 콘텐츠임을 이용자가 알아볼 수 있도록 워터마크(표식)를 삽입하거나 라벨(꼬리표)을 붙이는 등의 기술과 AI 생성 여부를 탐지하는 도구 등이 포함된다. 또 각 사가 개발한 AI 모델의 위험성을 평가하는 작업도 실시하기로 했다. 아울러 각 사가 선거 관련 AI 생성 콘텐츠 방지를 위해 어떤 노력을 하고 있는지 이용자에게 투명하게 공개하고, 쉽게 속아 넘어가지 않도록 대중 교육도 지원하기로 했다.

경쟁 관계인 빅테크들이 이 같은 협정을, 그것도 자발적으로 맺은 건 이례적이다. 그만큼 AI 생성 콘텐츠로 인한 위험 증폭에 모두가 위기의식을 갖고 있음을 보여준다. 올해는 특히 76개국에서 42억 명이 투표하는 이른바 ‘슈퍼 선거의 해’라 AI발 허위정보로 인한 혼란과 피해가 극에 달할 것이란 우려가 크다.

그러나 이번 협정의 한계도 뚜렷하다. 우선 이행 계획이 없고, 구속력도 없다는 점에서 선언 이상의 의미는 없다는 지적이 나온다. 그나마도 그간 업체들이 개별적으로 발표 또는 실시한 확산 방지책들을 재확인한 수준에 그쳤다는 비판도 있다. 실제로 워터마크나 라벨은 이미 오픈AI를 비롯한 대부분 업체들이 도입을 약속한 것들이다. 딥페이크 콘텐츠 게시 전면 금지와 같은 적극적 조치는 제외됐다. 

실리콘밸리=이서희 특파원