[서울=뉴시스]윤현성 기자 = SK텔레콤이 서울대·한국과학기술원(KAIST) 등 국내 수학·인공지능(AI) 연구진과 손잡고 독자 AI 파운데이션 모델 'A.X K2(에이닷엑스 케이투)'의 수학 추론 능력을 높인다. 전문 수학 지식을 모델에 학습시키고, 고도화된 AI를 실제 수학 난제 연구에도 활용한다는 계획이다.

SK텔레콤은 서울 을지로 본사에서 서울대·KAIST 교수진 및 연구자들과 기술 교류회를 열고 A.X K2를 활용한 수학 난제 연구와 모델 고도화 방안을 논의한다고 22일 밝혔다.

교류회에는 서울대 수리과학부 서인석·변성수·홍영준 교수와 KAIST 전산학부 박노성 교수, 학생 연구원 등이 참석한다. 이번 프로젝트에는 이들을 포함해 국내 수학·AI 분야 연구진이 참여한다.

수학 분야에서는 확률론·통계물리를 연구하는 서인석 서울대 수리과학부 교수와 이산수학·그래프 이론을 연구하는 이준경 고등과학원 계산과학부 교수, 저차원 위상수학·기하적 군론을 연구하는 김상현 고등과학원 수학부 교수 등이 참여한다.

거대언어모델(LLM)과 이를 활용한 수학 연구 방법론 분야에서는 홍영준 서울대 수리과학부·협동과정 인공지능 전공 교수와 같은 대학 수리과학부 이다빈·오병권·변성수 교수, 박노성 KAIST 전산학부 교수가 협력한다.

이들 연구진은 수학자의 전문지식을 모델 학습 과정에 반영하고, LLM을 실제 수학 연구에 활용하기 위한 방법론도 함께 연구할 예정이다.

SK텔레콤과 연구진은 A.X K2가 수학의 각 세부 분야를 보다 깊이 학습할 수 있도록 협력하기로 했다. 기존 모델이 충분히 다루지 못했던 전문지식과 추론 역량을 보완한 뒤, 이를 활용해 각 연구 분야의 수학 난제를 해결하는 데 도전한다는 계획이다.

AI 모델을 수학 연구에 활용하려는 움직임은 글로벌 AI 기업에서도 이어지고 있다.

오픈AI는 이달 6일 내부 AI 모델이 도출한 새로운 수학 연구 결과를 공개했다. 앤트로픽도 지난 8월 '클로드'가 리만 가설과 관련된 문제에서 기존 연구 결과를 개선했으며, 이를 수학자들이 검토했다고 발표했다.

SK텔레콤은 이번 산학협력을 통해 확보한 수학 추론 능력을 에이전틱 AI 고도화에도 활용할 방침이다.

AI가 복잡한 문제를 해결하기 위한 계획을 수립하고 여러 단계의 작업을 수행하는 과정에서 각각의 판단과 최종 결과가 타당한지 검증하는 역량을 높이겠다는 것이다.

이 같은 추론·검증 능력은 AI가 스스로 성능을 개선하는 연구와도 연결된다.

최근 AI 분야에서는 AI가 스스로 능력을 높이고, 향상된 능력을 다음 단계의 발전에 다시 활용하는 '재귀적 자기개선(RSI)' 연구가 진행되고 있다. 이 과정에서는 AI가 내놓은 결과는 물론 스스로 설계한 실험이나 검증 방법이 수학적으로 타당한지를 판단하는 능력이 중요하다.

SK텔레콤은 장기적으로 글로벌 최상위 AI 모델과 견줄 수 있는 수학 역량을 확보하고, 필요한 지식을 스스로 학습하며 발전하는 AI 에이전트를 구현하는 것을 목표로 하고 있다.

김태윤 SK텔레콤 파운데이션 모델 담당은 "독자 파운데이션 모델의 실제 문제 해결 능력을 높이기 위해 수학 분야 산학협력을 활발하게 추진하고 있다"며 "전문 연구자들과의 공동 연구를 통해 에이전틱 AI 역량을 고도화해 나가겠다"고 말했다.


◎공감언론 뉴시스 hsyhs@newsis.com