AI가 수학 논문 722편 쏟아내자…환호 대신 한숨 쉬는 수학계 왜?[사이언스 PICK]

[서울=뉴시스]윤현성 기자 = 인공지능(AI)이 수학계의 오랜 난제를 다룬 연구 결과 수백 건을 한꺼번에 공개하자 수학자들은 복잡한 심경을 드러내고 있다. 수학 발전을 앞당길 기술적 성과라는 기대와 함께 인간이 AI의 정답을 검증하고 이해하는 뒷정리만 맡게 되는 것 아니냐는 우려도 쏟아진다. 수학의 진짜 가치는 정답 자체보다 새로운 개념과 통찰을 찾아가는 탐구 과정에 있다는 지적이다.

수학계에 따르면 오픈AI는 지난 6일(현지시간) 자체 개발한 비공개 최첨단 AI 모델로 생성한 수학 연구 원고 722편을 깃허브에 공개했다.

대수학·기하학·수리논리학 등 다양한 분야의 원고를 연관된 연구 성과별로 묶으면 372개 결과군에 해당한다. 다만 원고 722편이 각각 독립적인 난제 722개의 해결을 뜻하는 것은 아니다.

오픈AI는 약 4000개 문제를 모델에 제시해 이 같은 결과를 얻었으며, 결과 하나를 산출하는 데 평균적으로 챗GPT 프로의 추론 약 3시간분에 해당하는 연산 자원이 쓰였다고 설명했다.

일부 증명에는 컴퓨터가 논리적 타당성을 확인하는 '린(Lean)' 형식 검증 자료도 붙였다. 다만 모든 원고의 검증이 끝난 것은 아니다. 오픈AI 측도 형식 검증을 거치지 않은 결과에는 오류가 있을 수 있다고 인정했다.

국제학술지 네이처는 7일 수학자들이 대량 공개된 원고를 두고 놀라움과 반발을 동시에 보였다고 전했다. 장기간 미해결 문제의 진전을 환영하는 목소리가 있었다. 반면 기존 연구를 AI 기업에 선점당하거나 방대한 결과를 일일이 검토해야 한다는 불만도 터져 나왔다.

문제의 핵심은 수학 연구가 난제에 대한 답을 내놓는 작업만은 아니라는 데 있다. 수학자들은 오랜 시간 난제에 도전하는 과정에서 새로운 이론과 방법론을 만들고, 다른 연구자들과 토론하며 증명을 다듬는다. 이는 다음 세대가 활용할 지식으로 이어진다.

테런스 타오·피터 숄체·허준이 등 필즈상 수상자 25명이 지난달 발표한 '수학 분야에서 AI의 심각한 목표 불일치'라는 공동선언은 AI 기업이 수학 난제 해결을 모델 성능의 평가 지표로 삼는 행태를 비판했다.

선언문은 난제 해결을 수학적 통찰을 얻기 위한 수단으로 정의했다. 빠르게 참·거짓 결과만 대량 생산하는 행위는 새로운 아이디어가 자라날 토양을 해친다고 경고했다.

1998년 필즈상 수상자인 티머시 가워스도 지난달 개인 블로그에서 어릴 적 페르마의 마지막 정리를 풀려다 실패했지만, 그 과정에서 스스로 발견한 개념을 훗날 더 깊이 이해하게 됐다고 회고했다.

그는 AI 덕분에 더 많은 연구 결과를 접할 수 있다는 가능성은 인정하면서도, 난제 해결의 꿈이 사라지면 젊은 세대가 수학 연구자의 길을 선택할 동기까지 약해질 수 있다고 우려했다.

 미국 프린스턴 고등연구소(IAS)의 수학·인공지능 자문그룹(AGMAI)은 지난달 29일 권고문을 냈다. AI 기업이 만든 증명의 선행연구 확인, 출처 표기, 학술 논문 수준의 정리 작업을 수학자들에게 넘겨서는 안 된다고 지적했다.

AI 기업이 가능한 범위에서 먼저 수행하고, 추가적인 인간의 검증과 이해 작업에는 연구비 등을 지원해야 한다는 것이다.

AGMAI는 오픈AI 발표 당일에도 성명을 내고 연구 원고의 공개는 인간이 결과를 이해해 수학적 지식으로 받아들이는 과정의 '완료가 아닌 시작'이라고 평가했다.

또 앞으로의 수학 연구가 AI 연구소가 만들어낸 결과를 이해하는 일로만 구성돼서는 안 되며, 수학자가 스스로 질문을 만들고 연구 방향을 정할 자유가 보장돼야 한다고 촉구했다.

비공개 AI 모델로 첨단 수학 문제를 연구하는 관행에도 반대했다. 기업 내부 연구진과 일반 수학자 사이의 연구 역량 격차가 고착되면 수학계가 스스로의 연구에서 소외될 수 있다는 이유다.

국내 전문가도 비슷한 견해를 내놨다. 백형렬 KAIST AI수학대학원장(수리과학과 교수)은 8일 한국과학기술미디어센터(SMCK)를 통해 의견을 밝혔다. 백 교수는 "이번 발표에는 내 연구 분야에서 필즈상급이라 할 만한 문제들이 여럿 포함됐다"며 주요 결과가 검증된다면 수학계가 받을 충격이 매우 클 것으로 전망했다.

다만 백 교수는 직접 읽어본 AI 원고의 문제점을 지적했다. 정의되지 않은 용어가 먼저 나오거나 핵심 논증 구조가 불분명해 검증이 어렵다는 설명이다. 기존 연구 활용 범위와 새로 밝힌 내용을 명확히 구분해야 후속 연구가 가능하다고 짚었다.

백 교수는 "AI가 증명을 아무리 쏟아내더라도 수학자 공동체 안에서 살아 숨 쉬는 지식이 되지 못한다면, 그 자체로 수학의 진보라고 하기는 어렵다"고 강조했다.

오픈AI는 원고 수정 및 인용 절차를 공개하고, AI가 만든 주요 결과를 수학계가 이해하도록 돕는 워크숍과 학술행사를 지원하겠다고 밝혔다.

결국 관건은 AI의 난제 해결 능력이 인간 수학자의 탐구와 지식 축적을 확장하는 도구가 될지, AI가 쏟아낸 연구 결과를 검증하고 해석하는 부담만 가중시키는 요인으로 작용할지가 될 것으로 보인다.


◎공감언론 뉴시스 [email protected]