'‘AI 속도 늦추자'던 앤트로픽, 정작 자사 AI는 2배 속도로 달린다

[서울=뉴시스]박영환 기자 = 인공지능(AI) 개발 속도를 늦추자고 촉구해 온 미국 앤트로픽의 모델 성능 개선 속도가 일부 과제에서 과거의 약 두 배로 빨라졌다는 외부 평가가 나왔다.

AP통신은 5일(현지 시간) 미국 비영리 AI 평가기관 모델평가·위협연구(METR)가 이날 공개한 보고서를 인용해 이같이 전했다. 보고서는 해야 할 일과 성공 기준이 분명한 과제에서 앤트로픽 모델의 성능 개선 속도가 올해 10월 기준으로 2024년 3월~2025년 10월의 약 두 배에 이른다고 추정했다.

다리오 아모데이 앤트로픽 최고경영자(CEO)는 평가가 진행 중이던 지난 9월12일 에세이에서 “AI 모델의 성능을 높이는 속도를 늦춰야 한다”고 촉구했다. 안전 대책이 기술 발전을 따라잡을 시간을 확보해야 한다는 이유였다.

METR은 앤트로픽의 초청으로 8월12일부터 10월29일까지 약 11주간 내부 모델의 성능 평가 점수와 연구개발 자료를 검토하고 직원들을 인터뷰했다. 보고서의 ‘약 두 배’는 모델 성능 자체가 두 배가 됐다는 뜻이 아니라, 과거 속도로 2년 걸리던 만큼의 성능 향상을 1년에 이룬다는 의미다.

다만 METR은 이 결과를 성공 기준이 명확하지 않은 더 폭넓은 업무에 그대로 적용하기는 어렵다고 밝혔다.

METR은 개선 속도가 빨라진 상당 부분이 AI를 연구개발에 폭넓게 활용한 데서 비롯됐을 가능성이 크다고 봤다. 훈련에 쓰는 컴퓨팅 자원을 더 빠른 속도로 늘린 결과는 아니라고 판단했다.

샘 매캔들리시 앤트로픽 공동창업자는 5일 엑스(X)에 올린 글에서 METR의 여러 결론에 동의한다고 했다. 다만 “AI가 우리의 연구 속도를 높이고 있지만 정확히 얼마나 빨라졌는지는 말하기 어렵다”고 밝혔다.

앤트로픽은 자사 AI 챗봇 클로드가 후속 모델 개발을 점점 더 많이 돕고 있다고 밝혀 왔다. 아모데이 CEO는 AI의 다음 세대 AI 개발 능력이 커지는 흐름을 ‘재귀적 자기개선’이라고 설명했다. METR은 더 강력해진 AI가 다시 AI 개발을 돕는 과정이 반복되면 기술 발전이 한층 빨라질 수 있다고 우려했다.

다만 METR은 아직 AI가 모델 훈련의 핵심 단계에서 사람의 개입 없이 큰 성과를 내는 수준은 아니라고 평가했다. 앤트로픽 연구진은 가까운 시기에 이런 기여가 가능해질 수 있음을 보여주는 징후가 나타났다고 설명했다.

METR은 연산 자원이나 데이터 부족 등 향후 12개월 안에 개발 속도를 뚜렷하게 제한할 요인은 찾지 못했다고 밝혔다.

METR은 이번 평가와 함께 앤트로픽의 지난 8월 위험보고서 공개판과 비공개판, 다른 내부 자료도 대조했다. 공개판이 당시 가속 수준을 과소평가하고 관련 증거와 불확실성을 충분히 보여주지 못했다고 지적했다.

METR의 이번 보고서에도 공개되지 않은 핵심 근거가 있다. 앤트로픽이 보고서에 담긴 가속의 구체적 원인 등 일부 정보를 삭제하도록 했기 때문이다. 매캔들리시 공동창업자는 이 때문에 외부에서 분석을 검증하기 어려워졌다고 인정하면서도, 이 정보가 영업상 민감하고 다른 AI 개발사들의 개발 속도를 높이는 데 이용될 수 있다고 설명했다.

이번 보고서는 앤트로픽이 이달 말 기업공개(IPO)를 추진하는 가운데 나왔다. AP는 도널드 트럼프 미국 대통령 행정부가 AI 안전 문제에서 기업의 자율 규제를 장려해 온 상황에서, 외부기관이 내부 자료를 분석한 데 의미가 있다고 전했다.


◎공감언론 뉴시스 [email protected]