Home / 핫뉴스
멘털 흔들린 ‘88시간’ 술렁이는 수학계
“AI를 연구 파트너로” “질문하고 연결하는 능력 더 중요”
- 미디어1 (media@koreatimes.net)
- Sep 12 2026 09:03 AM
‘90년 난제’ 해결한 AI, 학계 파장
세계 최고 수학자들이 수십 년간 풀지 못한 '나비에-스토크스 문제'에 인공지능(AI)이 해법을 제시했다는 오픈AI의 발표 후 국내 수학계가 술렁이고 있다. 수학자들은 AI가 최전선 수학 연구에서 수많은 해결 경로를 동시에 탐색해 증명까지 만들어낼 가능성을 보였다는 점에서 충격적이라면서도, 수학의 본질을 이해하는 건 문제를 푸는 것과 차원이 다르다며 지나친 확대 해석은 경계했다. 일부 대학에선 아예 AI를 활용하는 수학 연구를 표방한 대학원까지 만들며 다가올 변화에 대응하기 시작했다.
AI를 계산 도구 넘어 연구 파트너로
오픈AI가 자사 인공지능(AI)이 유체의 움직임을 설명하는 방정식을 증명해 유체가 움직이는 모습을 시각화했다고 발표한 그림. 각기 다른 선의 색깔은 서로 다른 속도로 회전하는 유체의 움직임을 나타낸다. 오픈AI 홈페이지
10일 수학계에 따르면 과학기술특성화대학 중심으로 수학 연구에 AI를 활용하는 흐름이 빨라지고 있다. 한국과학기술원(KAIST·카이스트)은 지난해 ‘AI수학대학원’을 열고 2026학년도 봄학기 석·박사통합과정 신입생을 선발하며 학사 일정에 들어갔다. 이곳에선 AI를 이용한 수학 난제 해결을 목표로 기계 보조 증명, 증명 자동화, 수학의 형식화, AI 기반 수학적 추론과 발견 등을 교육한다. AI가 단순히 수학자 대신 계산하는 도구를 넘어 연구 파트너가 될 수 있는 체계를 만들겠다는 것이다.
광주과학기술원(GIST)은 AI대학원을 중심으로 수학은 물론 과학 전반에 AI를 활용하는 방식을 확산시키는 중이다. AI를 수학과 과학 발전의 동력으로 삼겠다는 것이다. 김종원 GIST AI대학원장은 "학계에선 'AI 포 사이언스(AI for Science)'가 이미 연구의 주요한 흐름"이라며 "오랫동안 풀리지 않는 문제를 해결할 수 있는 동력을 AI로 찾아가는 것이 중요하다"고 말했다.
AI가 '나비에-스토크스 문제'를 풀었다는 오픈AI의 주장에 대해 수학자들은 "아직 학계의 독립적인 검증을 거치지 않았다"며 신중한 시각을 보였다. 하지만 인간이 오랜 기간 제시하지 못한 해법을 AI가 짧은 시간 안에 내놓았다는 자체는 "충격적"이라고 했다. 나비에-스토크스 문제는 물, 공기 같은 유체의 움직임을 설명하는 방정식이다. 항공기 설계나 날씨 예측 등에 널리 쓰이지만, 3차원의 매끄러운 흐름이 어떻게 계속 유지되는지는 약 90년간 설명되지 못했다. 그런데 오픈AI의 AI 에이전트들이 88시간 만에 이를 설명해냈다는 것이다.
답 내는 것보다 답 이해하고 활용하는 게 중요
이를 두고 수학자의 역할이나 연구 가치가 흔들릴지 모른다는 불안감이 나온다. 오세욱 GIST 수리과학과 교수는 "'내가 한 연구를 AI라면 몇 시간 만에 풀 수 있는 건 아닐까' 생각도 한다"고 귀띔했다. 그러나 이번 결과가 AI만의 능력으로 얻어진 것은 아니다. 여러 수학자들이 이미 유체 방정식 문제에서 새로운 풀이법을 발전시켜왔기 때문이다.
채동호 중앙대 수학과 교수는 "문제를 푸는 것과 문제의 본질을 이해하는 것은 다른 차원"이라고 강조했다. 빠르게 답을 찾아내는 게 곧 수학적 이해의 발전을 뜻하지는 않는다는 것이다. 수학자들이 난제와 씨름하는 과정에서 새로운 방법을 만들고 여러 분야 간 연결고리를 발견해온 과정이 문제 풀이 자체보다 훨씬 의미 있다는 설명이다. AI가 답을 내는 시대일수록 인간에게는 무엇을 물을지 정하고, 그 답이 왜 중요한지 이해해 새로운 지식으로 연결하는 능력이 더 중요해질 거라고 수학자들은 입을 모았다.
이번 일을 계기로 앞으론 증명 자체보다 증명을 해석하고 검증하는 능력이 더 중요해질 거란 예상도 나온다. 권오남 서울대 수학교육과 교수는 "결국 교육의 문제"라고 짚었다. 권 교수는 "AI가 증명을 만들어내는 능력이 커질수록 더욱 중요해지는 건 주어진 증명을 받아들이는 것이 아니라 그 가정을 의심하고, 증명이 실제로 무엇을 의미하는지 결과를 해석하는 힘"이라고 설명했다.
오픈AI의 이번 발표를 둘러싼 논란도 이어지고 있다. 미국 연구진이 자신들의 유체 방정식 연구를 오픈AI의 AI 에이전트에 입력했는데, 이 내용이 AI 학습에 활용된 것 아니냐는 의문을 제기해서다. 연구자가 학계에 공식 발표하지 않은 아이디어를 AI 도구에 입력했을 때 이를 AI가 활용해도 되는지, 그렇다면 그 기여를 얼마나 인정할 건지 논의가 필요하다는 목소리가 수학뿐 아니라 과학계 전체로 확산될 것으로 보인다.
원다라·손현성 기자
www.koreatimes.net/핫뉴스
미디어1 (media@koreatimes.net)
