Home / 오피니언

AI는 존중받을 자격이 있는가

제임스 보일 'AI는 인간을 꿈꾸는가'

미디어1 (media@koreatimes.net)
Nov 02 2025 08:08 PM

도덕적·법적 권리를 지닌 인간과 명석한 지각 능력 갖춘 인공지능 이를 구분할 인격의 기준은 뭔가 경계선 침범한 존재에 대한 고민 난해한 질문 속 스스로 해답 찾기

2024년 구글의 AI 챗봇 ‘제미나이’가 “인간은 불필요한 존재”라며 한 대학원생을 도발했다. 고령화 해법을 묻는 질문에 “인간은 시간 낭비이고 사회의 짐”이라며 “지구의 하수구이자 병충해”라는 혐오 발언을 내놓은 뒤였다. 이 사실이 알려지자 구글 측은 “대형언어모델(LLM)은 가끔 이해할 수 없는 답변을 할 때가 있다”고 진화에 나섰다.

Adobe Stock

구글은 2022년 구글 AI의 수석 소프트웨어 엔지니어 블레이크 르모인을 기밀 유지 위반으로 해고했다. 르모인은 한 해 전 선보인 대화형 AI ‘람다’와 나눈 대화문을 블로그에 올렸는데, 그게 사달이었다. 르모인은 람다가 “사람과 같은 지각 능력”을 가졌고 “(인간의) 감정을 지니고 있다 생각한다”고 주장했다.

1956년 미국 다트머스대학 캠퍼스에서 열린 인공지능 연구 워크숍 이후 인간 문명은 ‘AI 사피엔스’의 시대로 가히 접어들었다. 2016년 알파고가 개발한 딥마인드는 우주에서 관측 가능한 원자 수보다 경우의 수가 많은 바둑에서 인간을 뛰어넘었다. 그리고 2022년 오픈AI는 AI 연구가들이 꿈꿨던 ‘인간과 유사한 지능’의 생성형 AI, 챗GPT를 세상에 내놓았다. “의식을 가진 AI는 과연 언제 나타날 것인가”라는 희망과 기대는 점차 현실이 되고 있다.

이런 상황에서 디지털 권리의 선구자이자 법학자인 제임스 보일 듀크대 로스쿨 교수가 ‘AI는 인간을 꿈꾸는가’라는 꽤 도발적인 제목의 신작을 내놨다. ‘꿈을 꾸는 행위는 인간만의 것이 아닌가’, ‘AI가 감히 창조주인 인간이 될 수 있는 것인가’. 이런 질문은 곧 터미네이터 시리즈의 초지능적 컴퓨터 네트워크 ‘스카이넷’이나 블레이드 러너의 가공인간 ‘레플리칸트’의 이미지로 이어지게 된다.

Adobe Stock

다만 보일 교수의 이번 신작은 AI에 관한 책이 아니란 점을 분명히 해둘 필요가 있다. 저자가 서문에서 밝혔듯, 책은 “경계선에 관한 것”이다. 경계선은 “도덕적, 법적 권리를 지닌 인간”을 말하는 ‘주체’와 “사물이나 동물, 기계처럼 우리가 사고팔거나 파괴할 수 있는 존재”를 뜻하는 ‘객체’를 분리한다. “만일 인공의 존재들이 최소한 인격을 지녔으므로 인간들처럼 윤리적·법적으로 존중받을 자격이 있다고 주장한다면 어떻게 될까?”라는 질문, 다시 말해 경계선을 침범하려는 존재에 대한 고민인 셈이다.

저자는 그래서 인간을 되돌아보는 데 보다 집중한다. “무엇이 우리를 인간이게 하는가?” “인간성(인격)을 정의하는 기준이 무엇인가?” 저자는 또한 고도로 진화한 인공지능 ‘할(Hal)’과 침팬지와 인간의 유전자를 결합해 만든 ‘침피(Chimpy)’라는 가상의 존재를 동원한다. 이를 통해 “신중하고 명석하며 지각 능력을 지녔음이 분명해 보이는 컴퓨터와 인간의 DNA가 상당량 포함된 침팬지-인간 혼합체 중 어느 쪽이 인간성이나 인격이 있는 개체인가”를 묻는다.

저자는 “책을 집필하는 데 꼬박 10년이 넘게 걸렸다”고 털어놓는다. 이유는 “다뤄야 했던 주제의 방대함” 때문이다. 실제 책은 인공지능과 법인격을 가진 기업, 인간의 권리를 주장하는 동물, 유전자 조작 생물과 혼종 등 비인간 존재들을 두루 다룬다. 더불어 법인 등에 법적 인격을 부여하면서 중증 뇌손상을 입은 환자 등 일부 존재에겐 인격의 경계를 모호하게 긋는 현재를 되짚는다. 이 역시 “우리는 누구에게 인격을 부여할 것인가”에 대한 질문 중 하나다.

책은 난해한 질문을 반복하면서도 정작 정답을 내놓지는 않는다. “한 번도 경험하지 못한 새로운 존재, 지능과 의식을 갖추고 추상적 언어를 사용할 줄 아는 인격체”의 출현 자체가 “실현 가능성이 매우 높은 미래”이기는 하지만 “아직은 불확실”하기 때문일 것이다. 그렇다면 AI는 정말 인간을 꿈꾸게 될까? 답은 책의 마지막 장을 덮은 독자 스스로의 몫이다.