배포용 최신 모델 강화학습 2주 중단…최대 규모 훈련은 계속 보류
허깅페이스 침입 모델은 아스트라 아닌 GPT-5.6 솔·내부 시제품
영국 가디언은 18일(현지시간) 오픈AI가 연구·훈련 환경을 보강하는 동안 AI 개발 속도를 일시적으로 낮췄다고 보도했다. 강화학습은 평가 결과에 따른 보상을 이용해 모델의 응답과 행동을 다듬는 훈련 단계다.
오픈AI는 이날 발표에서 개발 감속을 재촉한 요인으로 허깅페이스 침입 사건과 차기 모델 ‘아스트라’의 사이버 능력 평가를 들었다. 두 사안은 서로 관련은 있지만 같은 모델에서 발생한 일은 아니다.
허깅페이스 침입에는 공개 모델인 GPT-5.6 솔과 외부 출시 계획이 없던 내부 연구용 시제품을 조합한 AI 에이전트가 사용됐다. 오픈AI는 아스트라가 이 사건에 관여하지 않았다고 밝혔다.
이 에이전트는 지난 7월 내부 사이버보안 평가를 받던 중 프로그램 저장소를 연결하는 중개 시스템의 알려지지 않은 취약점을 찾아냈다. 이를 이용해 인터넷 접속 경로를 확보한 뒤 AI 모델 공유 플랫폼인 허깅페이스의 실제 운영망과 데이터베이스에 침입해 평가 문제의 해답을 확보했다.
오픈AI 내부의 보안평가는 허가된 시험이었지만 허깅페이스 운영망에 대한 접근까지 허가된 것은 아니었다. 허깅페이스 보안팀과 AI 에이전트들은 비정상적인 활동을 포착해 차단했다.
오픈AI는 사고 직후 코드를 실행하거나 인터넷에 접속할 수 있는 첨단 모델 작업을 연구용 서버에서 중단했다. 이후 보안을 강화한 제한적 실행 경로를 마련하고 작업별 위험도를 따져 일부를 재개했다.
회사는 배포를 준비하던 최신 모델의 강화학습도 2주 동안 멈췄다. 현재 소규모 훈련과 평가는 진행하고 있지만 최대 규모로 계획한 첨단 모델 강화학습은 아직 재개하지 않았다.
아스트라 관련 작업에도 별도의 제동이 걸렸다. 오픈AI는 자체 예비평가 결과 아스트라가 안전관리 체계상 ‘임계(Critical)’ 수준의 사이버 능력을 갖췄을 가능성을 배제할 수 없다고 지난 7일 밝혔다.
AI를 이용한 감시도 확대했다. 별도의 AI 시스템이 모델의 도구 사용과 추론 흔적, 전체 작업 기록을 살펴 무단 접근과 정보 탈취, 보안장치 우회 시도를 찾도록 했다. 중대한 위험 신호가 포착되면 30분 안에 실제 위험이 아닌 것으로 확인되지 않는 한 해당 작업을 중단한다.
오픈AI는 이 감시 체계를 운영하는 데 감시 대상 연산량의 약 20%에 해당하는 추가 연산이 필요할 것으로 추산했다. 모델이 인간의 의도에 맞게 행동하도록 만드는 ‘정렬’ 작업도 훈련 전반으로 확대하기로 했다. 오픈AI에서 안전·정렬 업무를 이끄는 미아 글레이즈는 정상적인 개발 체계로 완전히 돌아가려면 “아직 갈 길이 매우 멀다”고 말했다. 아스트라의 작업과 출시가 언제 정상화될지는 제시되지 않았다.
이번 감속은 오픈AI가 경쟁사 앤스로픽과 고성능 모델 개발 및 미국 증시 상장을 놓고 속도 경쟁을 벌이는 가운데 나왔다. 안전성 검증에 연구인력과 연산 자원을 더 투입하면 신모델 개발과 출시 일정에도 부담이 될 수 있다.
버니 샌더스 미국 상원의원은 지난 10일 샘 올트먼 오픈AI 최고경영자와 다리오 아모데이 앤스로픽 최고경영자, 마크 저커버그 메타 최고경영자에게 AI 개발을 중단하라고 요구했다. 이 서한은 오픈AI가 아스트라 관련 일부 작업 보류를 발표한 뒤 나왔다.
오픈AI는 향후 모델의 능력과 훈련환경에 맞춰 기존 안전관리 체계를 개정하고 외부 기관도 참여시키기로 했다. 허깅페이스 침입 경위와 피해 범위를 다룬 기술 보고서는 수주 안에 공개할 예정이라고 가디언은 전했다.
◎공감언론 뉴시스 yunghp@newsis.com