[서울=뉴시스]고재은 기자 = 오픈AI의 차세대 인공지능(AI) 모델 '아스트라(Astra)'가 자체 안전 기준상 최고 위험 단계인 '중대(Critical)' 등급을 기록한 것으로 나타났다.

1일(현지 시간) 오픈AI 공식홈페이지, CNBC 등에 따르면 오픈AI는 추가 평가 결과 아스트라가 자사 모델 가운데 처음으로 '중대' 임계치에 도달했다고 밝혔다.

이 단계는 AI가 사람의 개입 없이 보안이 강화된 실제 시스템의 취약점을 찾아 공격하거나, 높은 수준의 목표만 주어져도 공격 과정을 스스로 설계·실행할 수 있는 수준을 뜻한다.

앞서 출시된 'GPT-5.6 솔' 등이 안전 평가에서 '높음(High)' 단계로 분류된 것보다 한 단계 높은 수준으로, 개발 단계 등부터 고도화된 통제가 필요하다는 의미다.

오픈AI는 "조만간 아스트라를 출시할 예정이지만 가장 고도화된 사이버 보안 기능에 대한 접근은 제한적일 것"이라며 "고급 사이버 보안 기능은 소수의 테스터에게만 제공하고 이후 순차적으로 확대할 계획"이라고 밝혔다. 다만 구체적인 출시 시점은 공개하지 않았다.

오픈AI는 미공개 모델들이 지난 7월 평가 과정에서 AI 플랫폼 '허깅페이스' 등을 무단 해킹한 사건 이후, 아스트라의 안전 조치를 대폭 강화했다.

아스트라가 사건에 직접 연루된 것은 아니지만, 회사는 유사 사고를 방지하기 위해 보다 강력한 보안조치를 도입했다고 설명했다.

구체적으로 악의적인 행위를 수행하라는 요청을 거부하고, 보안 장치를 우회하는 '탈옥'을 유도하는 메시지에 현혹되지 않도록 추가 훈련을 진행했다. 위험한 활동을 탐지해 중단시키는 모니터링 체계도 강화했다.

회사는 지난달 7일 아스트라가 '중대' 단계에 도달할 가능성이 있다며 보안 조치 강화를 위해 아스트라의 출시, 개발 일정을 일부 조정한 바 있다.

오픈AI는 아스트라 출시와 함께 보안 평가와 안전 조치 등에 관한 자세한 내용을 공개할 전망이다.

회사는 "우리는 모델이 더욱 중대한 작업을 맡을 수 있고, 정렬(alignment) 및 통제 실패가 더욱 심각한 영향을 미칠 수 있는 AI 개발 단계에 진입하고 있다"고 밝혔다.

이어 "이러한 이점을 실현하려면 이들을 얼마나 잘 제어할 수 있느냐가 관건이고, 그 책임은 교육, 평가, 배치 전반에 걸쳐 있다"며 개발 책임을 다하겠다고 강조했다.


◎공감언론 뉴시스 jeko@newsis.com