Home / 기획기사

처음 본 ICE 요원이 내 이름을 알고 있다

시민 감시하는 ‘빅 브라더 AI’

미디어1 (media@koreatimes.net)
Mar 28 2026 07:07 PM

국가권력에 포섭된 ‘AI’

미국 미네소타주(州) 미니애폴리스의 한겨울 밤. 미국 이민세관단속국(ICE) 요원들이 묵는 숙소 앞은 연일 소음 시위로 뒤덮여 있었다. 기자가 현장을 찾은 1월 13일 늦은 밤, 미네소타대 트윈시티 캠퍼스에선 약 2,500명의 대규모 시위대가 집결해 구호를 외치며 이 호텔 유리 출입문을 사이에 두고 요원들과 대치하고 있었다.

1월 13일 미국 미네소타주 미니애폴리스의 한 호텔 앞에서 미 이민세관단속국(ICE) 요원들과 시위대가 출입문을 사이에 두고 대치하고 있다. ICE 요원의 가슴팍에 보디캠이 장착돼 있다. 미니애폴리스=박지연 특파원

그런데 의아한 장면이 포착됐다. 트럼펫, 드럼, 전자 기타는 물론 빈 페인트통과 양동이까지 동원해 거대한 소음으로 ICE 요원들의 잠을 방해하며 거세게 항의하는 시위대와 달리, ICE 요원들은 미동도 없이 서있었다. 시위대를 마주 보고 선 채 이따금씩 각도만 바꿀 뿐이었다. 유리 가까이에 선 시위대가 모두 복면이나 마스크를 쓰고 있다는 사실을 알아챈 뒤에야 요원들의 가슴으로 시선이 향했다. ICE 요원의 정복에는 작은 검은색 장치가 달려 있었다. 이들은 시위대의 얼굴이 보디캠에 흔들림 없이 담길 수 있도록 의도적으로 움직임을 최소화하고 있었던 것이다.

그 순간 묘한 긴장감이 스쳤다. 기자는 취재 중일 뿐이었지만 혹시라도 시위대로 오인돼 신원정보가 데이터베이스(DB)에 저장되는 것은 아닐까. 미국 국토안보부(DHS)가 지난해부터 공개한 정부 기관별 인공지능(AI) 활용 현황 보고서 'AI 활용 계획 목록'을 보면, 이 우려는 결코 과장이 아니다. ICE는 이미 현장 단속과 신원 확인에 얼굴 인식 기반 AI 시스템을 광범위하게 사용하고 있다. DHS 산하 기관들의 실제 활용 사례도 구체적으로 밝혀져 시민단체들은 "감시 기술의 범위가 지나치게 넓다"고 비판하고 있다.

"처음 본 요원이 내 이름을 불렀다"

미국 이민세관집행국(ICE)의 이니셜을 얼음(ice)에 비유한 'ICE는 저항 아래 녹는다'라는 팻말을 들고 있는 시위대원이 얼굴을 가린 채 한국일보 인터뷰에 응하고 있다. 미니애폴리스=박지연 특파원

공권력이 적법절차를 건너뛰고 AI를 활용해 감시를 일삼는 듯한 장면도 포착됐다. 같은 달 이 주(州)에 거주하는 니콜 클리랜드는 ICE 단속에 항의하기 위해 요원들의 움직임을 촬영하며 쫓던 중, 차에서 내린 ICE 요원이 "니콜?" 하고 자신의 이름을 불렀다고 증언했다. 클리랜드는 그 요원을 본 적이 없었다. 해당 요원은 "우리는 얼굴 인식 기술을 가지고 있고, 보디캠도 작동 중"이라고 말했다.

그로부터 사흘 뒤, 클리랜드는 국토안보부로부터 이메일 한 통을 받았다. 여행자 신속심사 특권이 전면 취소됐다는 통보였다. 이유는 적혀 있지 않았다. 그는 미 일간 뉴욕타임스(NYT)에 "분노가 두려움으로 바뀌었다"고 전했다.

민간 DB가 국가 권력의 비공식 인프라가 되다

13일 미국 텍사스주 맥앨런에서 미국 이민세관단속국(ICE) 요원들이 이주민들의 사슬과 수갑을 풀어주고 있다. 맥앨런=AP 연합뉴스

ICE가 사용하는 대표적 AI 시스템은 '포티파이'다. 요원들이 현장에서 사용하는 이 모바일 애플리케이션으로 요원이 얼굴·지문·홍채를 스캔하면, 이 생체 정보는 즉시 대규모 데이터베이스와 대조된다. 얼굴 사진 한 장으로 범죄기록, 이민번호 등까지 확인할 수 있다. 법원이 발부한 영장도 없이 AI가 시민을 식별하고 체포하려는 상황이 삼권분립 국가 미국에서 벌어지고 있는 셈이다.

포티파이에서 얼굴 특징을 수치화하는 알고리즘은 얼굴 인식 분야에서 NIST 벤치마크 테스트에서 오랫동안 상위권을 차지한 일본 전기주식회사(NEC)가 담당하고, 얼굴 이미지 대조에는 클리어뷰AI의 초대형 얼굴 데이터베이스가 활용된다. 클리어뷰AI는 인터넷과 사회관계망서비스(SNS)에서 수십억 장의 얼굴 사진을 무단 크롤링해 구축한 데이터베이스로 악명 높다.

문제는 이 시스템의 결과가 단순 참고가 아니라 신원 판단을 위한 결정적 근거로 사용된다는 점이다. 시민권 서류를 소지하고 있어도 알고리즘이 '외국인' 또는 '추방 대상'으로 판단하면 ICE 요원은 서류를 무시하고 구금 절차를 진행할 수 있다는 얘기다. 물론 ICE는 이를 부인하지만, 정보기술(IT) 전문매체 아르스 테크니카는 1월 30일 ICE 내부 문건과 전·현직 직원 증언을 인용해 포티파이 매칭 결과가 '결정적 신원 판단 근거'로 사용되고 있다고 전했다.

클리어뷰AI는 범죄자 식별을 명분으로 내세우지만, 실제로는 항의 시민·감시자·기자까지 식별하는 데 사용되고 있다는 증언이 잇따르고 있다. 민간 기업이 구축한 얼굴 데이터베이스가 국가 권력의 '비공식 감시 인프라'로 편입될 경우 이는 표현의 자유를 위축시키는 강력한 억압 장치가 될 수 있다.

표현의 자유 침해 소지 이어 국가안보 영역에도

미국 상원 법사위원회가 2024년 1월 25일 개최한 인공지능(AI) 관련 청문회에 AI 스타트업 앤트로픽의 다리오 아모데이(왼쪽) 최고경영자(CEO)가 참석해 발언하고 있다. 워싱턴=AFP 연합뉴스

얼굴 인식 기반 단속이 시민의 기본권을 위협한다면, 국가안보 영역에서의 AI 활용은 또 다른 차원의 윤리적 충돌을 드러낸다. 미 국방부는 최근 AI 모델의 군사적 활용을 거부한 앤트로픽을 사실상 퇴출시켰다. 앤트로픽의 AI 모델 '클로드'는 미군 기밀 시스템에서 사용 가능한 유일한 AI로 알려졌지만, 회사가 자사 기술을 대규모 국내 감시나 자율 살상 무기에 사용해서는 안 된다고 주장하면서 국방부와 갈등을 빚어왔다.

미 국방부는 AI의 군사적 활용 범위를 전면 개방하라고 요구했으나 앤트로픽은 미국인에 대한 대규모 감시나 완전 자율형 살상 무기 개발에 자사 기술을 사용해선 안 된다는 입장을 고수하며 대립했고, 결국 '공급망 위험' 기업으로 지정되며 국방부는 물론 미군과 거래하는 모든 계약업체·공급업체·파트너와의 사업에서 차단됐다.

다리오 아모데이 앤트로픽 최고경영자(CEO)는 지난달 26일 공개 성명을 내고 "양심적으로 국방부의 요청에 동의할 수 없다"고 밝혔다. SNS 게시글, 위치 데이터, 금융 정보를 개별적으로 수집하는 것은 '합법적' 기술 활용이지만, AI가 이것들을 결합하면 '감시 도구'가 될 수 있다는 게 주된 이유다. AI가 급속도로 발전하는 반면 그에 따른 윤리 문제를 반영하지 못한 현행법의 허점이 악용될 수 있다는 지점이다.

실리콘밸리 기술업계에서 첨단에 선 빅테크 직원들은 이미 국가권력이 AI를 만나면 벌어지는 부작용에 촉각을 곤두세우고 있다. 1월에는 AI 기반 데이터 분석 기업 팔란티어가 미국 이민당국의 이민자 감시에 AI 기술 지원을 하는 걸로 드러나면서 내부에서 비판이 들끓었다. 지난달에는 1,000명에 육박하는 구글 직원들이 'ICE에 반대하는 구글러들'로 연대해 ①구글 클라우드가 세관국경보호국(CBP)의 감시 시스템을 지원하고 ②ICE가 이민자 감시에 쓰는 팔란티어 시스템도 뒷받침하고 있으며 ③구글의 AI 기술이 국토안보부와 CBP의 업무 효율을 높이고 인력 운영을 강화하는 데 활용되고 있다고 비판했다.

비판서 자유롭지 못한 빅테크

미 캘리포니아 마운틴뷰 구글 사옥. 실리콘밸리=박지연 특파원

내부에선 자성의 목소리가 나오지만, 소비자와 기업에 그치지 않고 정부기관과 조 단위 방위계약을 맺고 있는 빅테크들도 이 같은 비판에서 자유롭지 않다. 대외적으로는 무기 및 비윤리적 감시에 AI 사용을 금지한다고 공언한 구글에선 이스라엘 군사 작전을 지원해왔다는 내부고발이 나왔다. 구글이 그동안 밝힌 AI 원칙은 무기 관련 기술이나 '국제적으로 통용되는 규범을 위반하는' 감시활동에 AI 기술을 적용하지 않겠다는 것이었다. 그러나 미국 증권거래위원회(SEC)에 제출된 고발장에는 구글이 2024년 7월 이스라엘군 관계자의 요청을 받아 무인기(드론) 감시 영상을 분석하는 데 AI를 적용하도록 지원했다는 내용이 담겼다고 미 워싱턴포스트(WP)가 보도했다.

구글과 아마존은 2021년 이스라엘 정부와 12억 달러(약 1조7,530억 원) 규모의 클라우드 계약 '프로젝트 님버스'를 수주했고, 마이크로소프트(MS) 역시 이스라엘 정부에 클라우드 컴퓨팅을 제공하고 있다고 WP는 보도했다.

AI 윤리학자 데버라 라지는 지난해 6월 미 캘리포니아주에 제출된 '프런티어 AI 정책 보고서'에서 AI가 사회적 통제·감시를 강화해 민주적 자유를 침해할 위험이 크다고 지적했다. "얼굴 인식 기반 감시는 민주주의의 기반을 조용히 침식시킨다"는 그의 경고는 2023년부터 학계와 미 상원 법제사법위원회 청문회 등에서 여러 차례 반복됐다. 기술이 이미 시민의 일상과 정치적 행동을 분류·예측·통제하는 단계에 들어섰다는 것이다. 국가권력이 AI를 손에 쥐었을 때 민주주의에 어떤 위협이 생기는지, 미니애폴리스의 밤은 그 단면을 보여준다.

실리콘밸리=박지연 특파원