오픈AI, AI 수학 원고 722편 공개…리만 가설 관련 결과에 "사람이면 필즈상"

기사등록 2026/10/08 10:33:45 최종수정 2026/10/08 11:28:24

남은 밀레니엄 난제 5개 중 3개 관련 진전…약 4000개 문제 평가

수학계 “비공개 모델로 난제 시험 중단해야”…오픈AI “평가는 계속”

[보스턴=AP/뉴시스] 2023년 12월8일 미국 보스턴에서 챗GPT의 이미지 생성 모델 달리(DALL-E)가 만든 이미지가 컴퓨터 화면에 표시된 가운데 휴대전화에 오픈AI 로고가 보이고 있다. 2023.12.08.
[서울=뉴시스]박영환 기자 = 오픈AI가 내부 인공지능(AI) 모델이 만든 수학 원고 722편을 한꺼번에 공개했다. 오픈AI는 이 가운데 리만 가설을 포함한 미해결 밀레니엄 난제 5개 중 3개와 관련한 진전이 있다고 설명했다.

미국 월스트리트저널(WSJ)은 6일(현지시간) 오픈AI가 이날 내부 AI 모델이 생성한 수학 원고와 증명 자료를 온라인에 공개했다고 보도했다.

공개된 자료는 정수론과 대수기하학 등 여러 분야의 원고 722편을 서로 관련된 372개 연구 묶음으로 분류한 것이다. 하나의 연구 묶음에는 주요 결과와 이를 뒷받침하는 논증, 파생 결과나 대안 증명 등이 함께 포함될 수 있다.

오픈AI는 내부 모델에 약 4000개의 수학 문제를 제시했다고 설명했다. 또 10개 연구 결과에 대해서는 모델이 문제를 풀어간 과정을 간추린 추론 요약도 공개했다.

오픈AI가 이번 공개에서 주요 성과로 내세운 것은 밀레니엄 난제들과 관련한 결과다. WSJ은 아직 풀리지 않은 밀레니엄 난제 5개 가운데 3개와 관련한 진전이 포함됐다고 전했다. 그 3개 가운데 리만 가설도 포함됐다.

알렉스 콘토로비치 미국 럿거스대 수학 석좌교수는 리만 가설과 관련한 결과를 두고 엑스(X)에 “인간 연구자가 이런 결과를 냈다면 의심할 여지 없이 곧바로 필즈상을 받을 것”이라고 평가했다.

[뉴욕=AP/뉴시스] 2026년 2월26일 뉴욕의 한 컴퓨터 화면에 앤트로픽 웹사이트가 표시된 모습. 2026.09.11. *재판매 및 DB 금지
경쟁사 앤트로픽의 한 연구자도 오픈AI의 이번 공개를 “분명 수학 역사상 가장 중요한 순간”이라고 평가했다고 WSJ은 전했다.

오픈AI와 앤트로픽은 최근 고등수학을 최첨단 AI 모델 경쟁의 무대로 삼아왔다. 두 회사는 인간 수학자들이 수십년 동안 풀지 못한 문제에서 자사 모델이 거둔 성과를 잇따라 공개했다.

오픈AI는 앤트로픽이 밀레니엄 난제 가운데 적어도 하나에서 먼저 성과를 냈다는 소식을 접한 뒤 자사 최첨단 모델을 난제 풀이에 투입했다고 설명했다. 이 과정에 수백만 달러 규모의 컴퓨팅 자원을 사용했다.

오픈AI는 약 한 달 전에도 자사 내부 모델이 밀레니엄 난제 가운데 하나인 나비에-스토크스 문제의 해법을 제시했다고 발표했다. 당시에는 AI의 수학 능력을 보여주는 획기적 성과처럼 보였지만 곧 수학계의 거센 반발에 부딪혔다.

나비에-스토크스 관련 결과가 공개된 뒤에는 연구 자료 이용을 둘러싼 공방도 벌어졌다. 앤트로픽 연구자와 함께 일한 한 학자는 오픈AI 모델이 자신이 아직 공개하지 않은 연구 결과를 이용했을 가능성을 제기했다. 오픈AI는 이를 부인했다.

3차원 비압축성 나비에-스토크스 유체의 국소적인 소용돌이 운동을 시각화한 모습. 유체가 안쪽으로 나선형 회전하는 동시에 축 방향으로 늘어나는 '소용돌이 신장' 현상이 나타난다. 주황색은 각회전이 빠른 영역, 청록색은 느린 영역을 나타낸다. (사진=오픈AI) *재판매 및 DB 금지
수학계의 반발은 필즈상 수상자 20여 명이 공개서한을 내면서 더 커졌다. 이들은 AI 업계가 앞다퉈 수학 난제 풀이에 뛰어드는 경쟁이 수학 연구의 목적 자체를 훼손할 수 있다고 경고했다.

오픈AI는 이런 비판이 커지자 주요 수학자들로 구성된 독립 자문그룹을 꾸리는 데 참여했다. 회사는 지난달 “AI가 수학적 이해를 어떻게 도울 수 있는지를 두고 어려운 질문들이 남아 있다”며 “그 답을 만드는 과정의 중심에 수학자들이 있어야 한다”고 했다.

자문그룹은 지난주 수백 명의 수학자들로부터 의견을 받아 AI 기업들이 수학적 발견을 공개할 때 따라야 할 원칙을 제시했다. 이들은 특히 외부에 공개되지 않은 자체 모델에 고난도 수학 문제를 계속 풀게 하는 시험을 중단하라고 요구했다.

오픈AI는 이번 722편 공개에 자문그룹의 권고를 반영했다고 설명했지만, 자체 비공개 모델에 고난도 수학 문제를 풀게 하는 시험을 중단하라는 요구는 받아들이지 않았다. 오픈AI는 “수학과 다른 과학 분야의 발전을 도울 도구를 더 빨리 개발하려면 내부 최첨단 모델을 계속 평가하는 것이 중요하다”고 했다.


◎공감언론 뉴시스 yunghp@newsis.com

관련뉴스