Home / 핫뉴스
‘챗GPT 표절’ 탐지기 출시 망설이는 오픈AI
워터마크로 정확도 99.9% 불구
- 미디어1 (media@koreatimes.net)
- Aug 19 2024 01:08 PM
챗GPT 이용자 수 감소 등 우려 2년 넘게 공개 여부 논쟁만 지속
챗GPT 개발사 오픈AI가 에세이나 연구 논문 등에 챗GPT가 사용됐는지 판별해 주는 도구를 진작 개발해 놓고도 외부에 공개하지 않고 있는 것으로 알려졌다. 100%의 정확도가 담보되지 않는 한, 챗GPT를 전혀 쓰지 않았음에도 ‘사용했다’고 잘못 탐지하는 부작용이 발생하지 않을 가능성을 배제할 수 없다는 이유에서다.
챗GPT 개발사 오픈AI 로고. AP 연합뉴스
미국 월스트리트저널(WSJ)은 4일(현지시간) 오픈AI가 챗GPT 이용 여부 감지 도구의 출시 준비를 이미 1년 전쯤 마쳤다고 보도했다. 한 소식통은 “버튼을 누르기만 하면 되는 문제”라며 당장이라도 공개할 수 있는 상황임을 확인했다고 신문은 전했다.
이 도구는 챗GPT가 생성한 콘텐츠에 ‘이용자에게는 보이지 않는’ 고유의 워터마크가 삽입돼 있다는 점을 이용한다. 워터마크를 찾아냈을 경우, ‘챗GPT가 사용된 것’으로 판별하는 셈이다. 정확도는 99.9%에 이른다고 한다.
이른바 AI 감지 도구는 그간 교육계를 중심으로 필요성이 계속 제기돼 왔다. 학생들이 스스로 해야 할 시험이나 과제에서 AI 도움을 받는 경우가 늘고 있기 때문이다. 비영리단체인 민주주의기술센터의 최근 조사에 따르면, ‘학생들이 AI를 이용해 과제를 했다’고 생각하는 미국 중·고교 교사 비율은 전체의 59%에 달했다. 1년 전보다 17%포인트 증가한 수치다.
이처럼 확실한 수요가 있고 기술도 사실상 완성 상태지만, 오픈AI는 2년 동안 내부적으로 이 도구의 출시 여부를 두고 논쟁해 온 것으로 전해졌다. 출시를 반대하는 이들은 ①감지기의 공개가 챗GPT 이용 감소로 이어질 수 있다는 점을 걱정하는 것으로 알려졌다. 챗GPT 이용자 상당수는 숙제 등에 AI 힘을 빌리려는 학생들인데, 감지기가 나오면 챗GPT 사용을 중단할 것이라는 얘기다. 이용자가 감소하면 자연히 매출도 줄 수밖에 없다.
②아주 간단한 기술만으로 도구가 무력화할 가능성이 있다는 지적도 나온다. WSJ는 “일부 직원은 챗GPT가 생성한 글을 다른 언어로 번역한 다음에 다시 번역하는 식의 작업을 통해 워터마크를 지울 수 있다는 우려를 제기했다”고 전했다.
③0.01%의 확률이라도 억울하게 의심받는 사례가 생길 수 있다는 점 역시 문제로 꼽힌다. 실제로 지난해 미국에서는 에세이 평가에서 고득점을 한 고교생이 AI 감지 도구 ‘턴인잇’에 의해 ‘챗GPT 활용 의심’ 판정을 받자 억울함을 호소한 사례가 있었다. 미 워싱턴포스트는 “AI 감지기에서 부정행위가 있었다고 판단하는 한, 교사가 학생을 신뢰하는 것 외에는 부정행위가 없었다는 점을 증명할 방법이 없다”고 짚었다.
실리콘밸리=이서희 특파원
www.koreatimes.net/핫뉴스
미디어1 (media@koreatimes.net)