[서울=뉴시스] 박영환 기자 = 인공지능(AI)이 사람의 개입 없이 더 강력한 다음 세대 AI를 설계·개발·훈련하는 단계에 예상보다 빨리 이를 수 있다는 경고가 나왔다.

미국 인터넷 매체 액시오스는 4일(현지시간) AI 기업 앤스로픽이 최근 블로그 글을 통해 이러한 내용의 연구 결과를 공개했다고 보도했다.

앤스로픽이 주목한 개념은 ‘재귀적 자기개선’이다. AI 시스템이 스스로 다른 AI를 만들고, 시험하고, 성능을 높이는 과정을 뜻한다.

쉽게 말하면 지금의 AI가 다음 버전의 AI를 만들고, 그 다음 AI가 다시 더 강한 AI를 만드는 구조다. 앤스로픽은 이런 흐름이 AI 개발 방식 자체를 바꿀 수 있다고 봤다.

앤스로픽은 자사 챗봇 클로드의 성능이 좋아지면서 AI 코딩 도구도 고도화됐고, 이는 자율형 AI 에이전트 개발 속도를 다시 끌어올렸다고 설명했다.

앤스로픽은 다음 단계로 AI가 스스로 다음 세대 모델을 설계하고 개발하며 훈련하는 상황을 제시했다. 이 경우 이전 버전의 클로드가 새 버전의 클로드를 만드는 일도 가능하다는 것이다.

앤스로픽은 최첨단 AI 모델들이 이미 코딩, 디버깅, 연구 업무 처리 속도를 높이고 있다고 설명했다. 이 과정이 반복되면 AI 개발 속도는 더 빨라질 수 있다.

앤스로픽의 잭 클라크는 액시오스와의 인터뷰에서 “앞으로 벌어질 수 있는 일을 사회가 미리 이해하도록 알리는 게 중요하다”는 취지로 말했다.

그는 “일부의 예상과 달리 앞으로 AI 발전은 멈추거나 느려지기보다 더 빨라질 수 있다”고 말했다.

클라크는 이 같은 변화가 과학과 의학 분야의 발전에는 큰 기회가 될 수 있다고 봤다. 다만 AI 시스템이 내놓은 결과가 정확한지, 인간의 의도와 사회적 가치에 부합하는지 확인할 수 있는 도구가 필요하다고 강조했다.

앤스로픽은 앞으로 수개월 안에 미 의회 관계자들과도 이 문제를 논의할 계획이다. AI 연구자들 사이에서 ‘재귀적 자기개선’이라는 말이 본격적으로 거론되기 전에 정책권도 미리 이해할 필요가 있다는 판단이다.

이 문제는 앤스로픽만의 우려는 아니다. 오픈AI도 앞서 관련 정보가 연구자들 사이에서 충분히 공유되지 않을 경우 재귀적 자기개선이 위험해질 수 있다고 지적했다. 액시오스는 AI가 사람 개입 없이 다음 세대 AI를 만드는 시대가 가까워지고 있으며, 주요 AI 연구소들도 그 파장을 확신하지 못하면서도 사회에 미리 경고할 필요성을 느끼고 있다고 전했다.


◎공감언론 뉴시스 yunghp@newsis.com