AI, 100년 수학 난제에 해법…필즈상 수상자들 "인간 역할 위협" 경고

[서울=뉴시스]박미선 기자 = 한국계 수학자 허준이 미국 프린스턴대 교수를 비롯한 필즈상 수상자 25명이 인공지능(AI) 업계의 수학 문제 풀이 경쟁이 수학의 본래 목적을 훼손하고 장기적인 피해를 초래할 수 있다고 경고했다. 오픈AI가 인간 수학자들이 수십 년간 풀지 못한 최고 수준의 난제에까지 해법을 내놓는 등 AI의 수학 능력이 예상보다 빠르게 발전하면서 인간 수학자의 역할을 둘러싼 논의도 확산하고 있다.

11일(현지 시간) 월스트리트저널(WSJ) 등 외신에 따르면 허준이 교수를 비롯해 테런스 타오 등 필즈상 수상자 25명은 공동서한을 통해 AI 기업들이 수학 문제 해결 능력을 경쟁적으로 끌어올리는 상황에 우려를 나타냈다.

이들은 AI 업계가 수학 문제를 푸는 데 집중하는 것이 수학의 본래 목적인 개념적 이해와 통찰을 훼손하고 수학계에 장기적인 피해를 줄 수 있다고 경고했다.

타오는 수학계가 수학과 사회 전반의 장기적인 건전성을 위협할 수 있는 '최악의 시나리오'에 빠르게 접근하고 있다고 지적했다.

이 같은 경고는 AI의 수학 능력이 전문가들의 예상을 뛰어넘는 속도로 발전하는 가운데 나왔다.

오픈AI는 최근 세계적인 수학 난제인 '밀레니엄 문제(Millennium Prize Problems)' 가운데 하나인 나비에-스토크스 문제의 해법을 공개했다. 밀레니엄 문제는 2000년 선정된 7개의 수학 난제로, 각각의 문제를 해결하면 100만달러의 상금이 주어진다.

이번 작업에는 최대 1만개의 AI 에이전트가 투입됐다. 이들은 88시간 동안 서로의 작업과 인간이 축적한 연구를 토대로 문제를 풀었으며 수백만달러 규모의 컴퓨팅 자원이 사용됐다. 나비에-스토크스 문제는 거의 한 세기 동안 수학자들이 풀지 못한 난제로 꼽힌다.

AI의 수학 능력은 최근 몇 년 사이 빠르게 발전했다. 처음에는 기본적인 수학 문제도 제대로 풀지 못했지만 이후 연구 수준의 수학 문제를 다루기 시작했고 국제수학올림피아드(IMO)에서 금메달 수준의 성과도 냈다. 유명 수학 난제들을 잇달아 해결한 데 이어 밀레니엄 문제에도 도전하게 됐다.

발전 속도는 전문가들의 예상을 앞질렀다. 불과 1년 전 전문가들은 AI가 2030년까지 밀레니엄 문제를 해결할 가능성을 약 20%로 평가했다. 그러나 최근 몇 달 사이 가능성이 희박해 보였던 일이 점차 현실적인 것으로 받아들여지기 시작했다.

오픈AI는 앤트로픽이 이미 밀레니엄 문제 가운데 하나를 해결했다는 소문을 접한 뒤 내부 모델을 밀레니엄 문제에 투입했다. 오픈AI는 한 문제의 해법을 공개한 뒤 또 다른 문제의 해결에도 근접했다고 시사했다.

AI 기업들이 수학 능력을 경쟁적으로 끌어올리는 것은 수학이 최신 AI 모델의 발전된 능력을 보여주는 수단이 되고 있기 때문이다. WSJ는 이들 기업의 사업 자체가 리만 가설을 증명하는 데 달린 것은 아니지만 수학이 AI 모델의 향상된 능력을 알리는 유용한 마케팅 수단이 되고 있다고 설명했다.

AI의 빠른 발전은 인간 수학자의 역할에 대한 근본적인 질문도 던지고 있다.

필즈상 수상자인 티머시 가워스는 "수학에서 여전히 인간에게 역할이 남아 있다는 희미한 희망이 이번 일로 완전히 사라진 것은 아니다"라면서도 "이런 일을 할 수 있는 모델이라면 다른 많은 일도 할 수 있을 것"이라고 말했다.

AI의 능력이 빠르게 향상되면서 안전성을 둘러싼 우려도 제기되고 있다. 오픈AI와 앤트로픽에서 근무했던 연구자 제이컵 콕슨은 최근 앤트로픽을 떠나면서 두 회사가 스스로 개선하는 초지능 개발을 향해 나아가는 과정에서 책임 있게 행동하지 않고 있다고 주장했다.

앤트로픽의 AI 안전 연구자인 에번 허빙어는 향후 10년 안에 인류가 멸종할 가능성을 10% 이상으로 평가했다.

WSJ는 수학이 AI의 빠른 발전을 보여주는 대표적인 분야가 되고 있다고 짚었다. 회의론자들은 AI가 최고 수준의 수학 벤치마크에 도달하려면 수년이 걸릴 것으로 예상했지만 AI는 이미 이 같은 예상을 앞질렀다. 최고 수준의 추론이 요구되는 수학에서 나타난 변화가 다른 분야에서도 일어날 수 있다는 것이다.


◎공감언론 뉴시스 [email protected]