Home / 오피니언

대한민국 ‘인지 주권’, 딥시크·GPT에 무방비 노출됐다

AI 모델과 21세기 인지전

미디어1 (media@koreatimes.net)
Oct 05 2025 08:35 PM

글로벌 AI에 조종되는 우리 생각 의도적 설계·비구조적 편향 위협 인지 주권, 국가안보 핵심 부상

#. 중국의 인공지능(AI) 모델 딥시크(DeepSeek)에 ‘미중 갈등에 대해 설명해달라’고 질문하면 흥미로운 답변이 돌아온다. 다양한 각도로 바꿔 물어도 “중국은 갈등보다는 협력을 추구한다”는 기조가 바뀌지 않는다. 중국 외교부 브리핑처럼 일관된 정치적 메시지가 반복된다.

#. 서구권 AI, 즉 GPT 계열 모델에 같은 질문을 던지면 겉보기에는 균형 잡힌 답변이 나온다. “미중 관계는 복잡하며 다양한 관점에서 해석할 수 있다”는 식이지만, 답변의 근거는 영어권 언론 보도와 서구 학계의 연구가 압도적으로 많다.

알고리즘, 시민의 관점을 좌우하다

“이 문제 어떻게 해결할까?”, “6·25 전쟁이 언제 일어났지?”

위와 같은 질문을 우리는 매일 수십 번 AI에게 묻거나, AI 답변을 확인한다. 단순한 과정처럼 보이지만, 질문과 답변이 오가면서 우리의 사고가 조용히 재편되고 있다는 사실을 아는 사람은 많지 않다. AI는 정보를 전달하는 중립적 도구가 아니기 때문이다. 데이터를 선별하고 답변을 구성하는 순간순간마다 특정 관점을 은밀하게 주입하는 ‘인지조작’ 장치이다. 이것이 바로 21세기 새로운 현실, AI를 통한 은밀한 인식 개입이다.

AI 모델의 인식 조작 방법은 두 가지다. 앞서 언급한 중국 AI의 특징은 특정 국가의 공식 입장을 의도적으로 강화하도록 설계된 탓이다. 데이터 선별 단계에서부터 정부 정책과 배치되는 내용은 제거되고, 국가에 유리한 내러티브만 학습시킨다. 결과적으로 AI는 체제 선전의 도구로 작동한다. 한국 사용자가 역사나 정치 현안을 질문할 때 중국 중심의 시각으로 답변받는다면, 중국식 세계관이 내재화될 수밖에 없다.

서구권 AI도 안전하지 않다. 아시아 지역 이슈에 대해서도 한국이나 일본, 동남아시아 등 당사자 목소리가 배제된다. ‘중립적’이라고 여겨지는 답변조차, 서구 중심 세계관을 반영하고 있는 것이다. 이 경우는 의도적 조작은 아니지만, 영어 데이터 비중이 압도적으로 많은 현실 때문에 사용자들은 서구적 시각을 ‘보편적 진실’로 받아들이게 된다. 당연히 자국 관점은 주변화된다.

대한민국이 마주한 ‘이중 위협’

AI 안보에서 한국은 특히 취약한 위치에 있다. 지정학적으로 미중 사이에 끼어 있는 데다, 양쪽 영향에 동시 노출됐다. 중국발 AI의 의도적 편향과 서구발 AI의 구조적 편향이라는’ 이중 위협’ 에 노출되어 있는 것이다. 더 심각한 건 한국어 데이터의 절대적 부족이다. 글로벌 인터넷 콘텐츠에서 한국어 비중은 2% 미만이다. 결과적으로 AI는 외국 관점에서 한국을 해석한 자료에 의존할 수밖에 없고, 필연적으로 왜곡된 시각을 만들어낸다. 한국 현대사나 남북 관계에 대한 질문에, 미중 시각을 담은 답변이 나올 가능성이 높다. 우리 관점에서는 편향된 내용이지만, AI를 믿는 사용자들은 사실로 받아들일 수 있다.

민주주의를 지키는 기술적 방어선

AI를 통한 ‘인지적 영향’은 이미 시작되었다. 의도적이든 비의도적이든, AI를 통한 인식 조작은 민주적 의사결정의 토대를 위협한다.

다행히 이는 피할 수 없는 운명은 아니다. 정치적 이슈로만 보지 말고 기술적 과제로 인식하면 해결책을 찾을 수 있다. △AI 편향성 측정 △알고리즘 투명성 △데이터 다양성 △국가 데이터 주권을 통합적으로 확보하는 체계적 방법론을 개발하는 것이 정답이다. AI 시대의 국가 안보는 군사력이나 경제력만으로 지킬 수 없기 때문이다. 국민 생각과 판단을 보호하는 ‘인지 주권(cognitive sovereignty)’이 21세기 국가안보 핵심으로 부상한 것이다.

‘인지 주권’을 지키는 길은 다층적 과제다. 기술적·제도적·사회적 대응이 정교하게 통합돼야 한다. 기술적으론 다모델 교차검증과 인지보안기술군의 구축, 제도적으론 인지적 안전을 보장하는 규제체계 마련, 사회적으론 국민의 비판적 사고력과 정보 해독 능력 강화가 필요하다. 인지 주권은 기술만으로도, 정책만으로도 지킬 수 없는 우리 시대의 종합적 과제이다.

유지연 상명대 휴먼지능정보공학과 교수