온주 의사 AI 보조도구 오류 확인돼

Updated -- May 13 2026 10:28 AM

온타리오주 감사원이 의사들의 진료 기록 작성을 돕기 위해 도입된 인공지능(AI) 메모 작성 도구에서 허위 정보와 누락, 이른바 ‘환각(hallucination)’ 현상이 발견됐다고 지적했다. 일부 시스템은 충분한 검증 없이 승인된 것으로 나타났다.

온타리오주 감사원은 공공 부문 전반의 인공지능 활용 실태를 조사하는 과정에서 이같은 문제를 확인했다고 밝혔다.

스크린샷 2026-05-13 101908.png

온타리오주 감사원이 의료용 AI 기록 시스템에서 허위 정보와 처방 오류 등을 발견했다. 셸리 스펜스 온타리오 감사원장. CBC 방송 사진

셸리 스펜스 온주 감사원장은 의사와 환자의 대화를 자동으로 기록하는 AI 의료 시스템 도입 과정에서 정부 평가원들이 20개 프로그램의 기록 내용에서 심각한 오류를 발견했다고 설명했다.

감사 보고서에 따르면 AI 필기 시스템이 생성한 의료 기록의 부정확성은 부적절하거나 위험한 치료 계획으로 이어질 수 있으며, 이는 환자 건강에도 영향을 줄 가능성이 있다고 지적했다. 보고서는 오류를 최소화하기 위해 AI 시스템의 품질 검증이 중요하다고 강조했다.

평가원들은 가상의 의사와 환자 간 대화 2건을 AI 시스템에 입력해 성능을 시험했으며, 이 과정에서 여러 문제가 드러났다.

20개 시스템 가운데 9개는 실제 의사가 언급하지 않은 치료 계획이나 정보를 임의로 생성하는 환각 현상을 보였다. 일부 시스템은 환자를 치료 시설에 의뢰하거나 혈액 검사를 주문하는 내용까지 추가한 것으로 나타났다.

또 20개 중 12개 시스템은 의사가 처방한 약물과 다른 약물을 기록하는 등 잘못된 정보를 포함했다. 17개 시스템은 환자의 정신건강 관련 핵심 정보를 누락한 것으로 조사됐다.

감사원은 일부 업체가 조달 과정에서 제3자 감사 보고서나 인증서, 보안 위험 평가 자료를 제출하지 않았음에도 정부가 4개 시스템을 승인했다고 밝혔다.

현재 해당 시스템들은 온타리오주 전역에서 사용되고 있다. 다만 정부는 의사들에게 AI가 작성한 기록을 직접 검토해 정확성을 확인하도록 하는 지침을 배포했다. 감사원은 의사들이 기록을 검토했는지 확인할 수 있도록 시스템 내 통제 장치를 도입할 것을 권고했다.

온타리오주 공공서비스·조달부의 스티븐 크로퍼드 장관은 보고서에서 지적된 오류들은 시험 단계에서 발견된 것이라고 설명했다. 그는 AI 시스템 사용 과정 전반을 의사들이 감독하고 있으며, AI가 생성한 모든 결과는 전문가 검토를 거친다고 밝혔다.

크로퍼드 장관은 AI 필기 시스템이 의사들의 업무 시간을 줄여 환자 진료에 더 많은 시간을 쓸 수 있도록 설계됐다고 말했다.

마이크 슈라이너 온타리오 녹색당 대표는 감사 결과가 매우 우려스럽고 환자 안전 문제를 제기한다고 비판했다. 그는 정부가 이런 기술을 활용하려면 실제 배치 전에 제대로 작동하는지 반드시 확인해야 한다고 주장했다.

감사원은 공공 부문 AI 활용 개선을 위해 정부와 조달 기관에 총 10건의 권고안을 제시했으며, 정부는 이 가운데 9건을 수용했다고 밝혔다. 권고안은 주로 보안과 개인정보 보호 강화에 초점이 맞춰졌다.

박해련 기자 (press3@koreatimes.net)