캐나다 총선, AI 컨텐츠 홍수 속 진행

진행 중인 연방선거 캠페인이 인공지능이 생성한 콘텐츠로 온라인 공간이 채워지며, 사상 가장 ‘디스토피아적’인 선거로 평가받고 있다. 온타리오주 기반의 미디어 생태계 관측소(MEO, Media Ecosystem Observatory)는 AI가 만들어낸 방대한 선거 관련 컨텐츠가 전례 없는 수준으로 확산되며, 기존 뉴스가 차지하던 공백을 메우고 있다고 분석했다.

그러나 맥길대학교(McGill University) 교수이자 MEO 소속 연구자 앵거스 브리지먼(Aengus Bridgman)은 현재까지 이 같은 컨텐츠가 캐나다 유권자들에게 실질적인 영향을 미쳤다는 증거는 없다고 밝혔다. 유권자들이 생각보다 더 높은 정보 해석 능력과 경각심을 갖고 있어, AI가 만든 가짜 정보에 쉽게 휘둘리지 않고 있다고 진단했다.

그는 캐나다 국민들이 외국의 선거 개입이나 딥페이크 영상 등 조작된 콘텐츠의 위험성에 대해 이전보다 훨씬 민감하게 반응하고 있으며, 실제로 AI 기반 컨텐츠가 다수 확인되었지만, 유권자의 판단을 바꾸는 데는 큰 영향을 미치지 못했다고 설명했다.

이번 선거에서 AI가 만들어낸 컨텐츠는 정치인을 모방한 딥페이크 영상, 밈(meme)은 물론이고, 암호화폐를 이용한 사기성 투자 홍보를 위해 실제 언론사처럼 보이도록 위장된 가짜 뉴스도 포함됐다. 과거 중고 거래 용도로 운영되던 페이스북 페이지를 정치적 목적의 플랫폼으로 바꿔 활용한 사례도 포착됐다.

이런 AI 컨텐츠를 초래한 뉴스 공백은 2023년 6월22일 발효된 온라인 뉴스법으로 인해 발생했다. 이 법은 메타(인스타그램과 페이스북 등을 운영하는 IT기업), 구글 등 빅테크 기업이 언론사 컨텐츠를 공유할 경우 이에 대한 보상을 하도록 규정하고 있다. 메타는 2023년 8월 해당 법을 ‘실행 불가능하다’며 자사 플랫폼에서 캐나다 뉴스를 차단했다.

브리지먼은 오는 28일 치러지는 연방총선이 전례 없는 온라인 뉴스 부재 속에서 진행되는 상황이라며, 이 공백을 AI 컨텐츠가 메우고 있으나 플랫폼 차원의 조치는 부족하다고 지적했다. 그는 이러한 현실이 넷플릭스 시리즈 '블랙 미러(Black Mirror)'와 같은 디스토피아적 상황을 떠올리게 한다고 평가했다.

이에 대해 메타(Meta) 대변인 줄리아 페레이라(Julia Perreira)는 성명에서 메타가 선거 관련 안전과 보안을 위해 전 세계적으로 약 4만 명의 인력을 배치했다고, 그 중 1만 5천 명이 페이스북, 인스타그램, 스레즈에서 컨텐츠를 검토한다고 밝혔다. 또한 그는 지난 10년간 약 300억 달러를 기술과 인력에 투자했다고 덧붙였으며 올해는 캐나다 선거에서 정확한 정보 전달을 위해 선거관리위원회(Elections Canada)와 협력하고 있다고 덧붙였다.

진행 중인 연방 선거 캠페인이 AI가 생성한 콘텐츠로 온라인 공간이 채워지며, 사상 가장 ‘디스토피아적’인 선거로 평가받고 있다. 언스플래쉬

MEO는 이번 선거에서 정치인과 유권자 모두 틱톡, 블루스카이 등 신규 플랫폼을 활발히 사용하는 추세도 주목했다. 특히 보수당과 자유당 후보자들이 사용하는 플랫폼의 특성이 서로 다르게 나타났으며, X(구 트위터)와 인스타그램에서는 보수당 후보의 참여가 더 많았고, 블루스카이에서는 거의 모든 정치적 반응이 자유당 후보자에게 집중됐다.

이처럼 플랫폼별 정보 소비 방식이 다르다 보니, 유권자들이 바라보는 주요 이슈나 선거 흐름에 대한 인식도 서로 달라지고 있으며, 이는 정치적 분열과 양극화를 심화시킬 수 있다고 브리지먼은 우려했다.

MEO는 2019년 연방 선거 당시 창설됐으며, 캐나다 문화유산부(Department of Canadian Heritage)와 여러 재단의 지원을 받아 운영되고 있다. 올해 MEO 연구진은 캐나다 및 미국 인플루언서, 정치인, 팟캐스터, 언론사 등이 운영하는 약 5,000개의 소셜미디어 계정을 분석 대상으로 삼아, 유튜브, 페이스북, 인스타그램, 틱톡, 블루스카이, 텔레그램 등 다양한 플랫폼을 모니터링했다.