[서울=뉴시스] 강영진 기자 = 오픈AI가 개발중인 차세대 인공지능 모델 아스트라가 "중대한 사이버 공격 역량을 보유하지 않았음을 배제할 수 없다"며 아스트라와 관련된 일부 활동을 중단한다고 7일(현지시각) 발표했다고 미 월스트리트저널(WSJ)이 보도했다.

이번 속도 조절 발표는 인공지능 개발사가 보안 우려를 이유로 모델 개발을 공개적으로 보류한 첫 사례 가운데 하나로, 최근 일련의 인공지능이 인간의 통제를 벗어난 사건이 잇따르면서 우려가 커진 속에서 나왔다.

오픈AI는 지난 며칠 동안 진행한 평가에서 아스트라가 프로그래밍과 사이버 보안 분야에서 상당한 진전을 보여 자사의 대비 체계(Preparedness Framework)에서 정의한 '중대' 단계에 가까워졌다고 밝혔다. 이 대비 체계는 2023년 처음 공개됐으며, 인공지능으로 인해 새롭게 등장하는 위험을 회사가 어떻게 측정하고 완화하는지를 규정하고 있다.

오픈AI는 아스트라에 대한 성능 기준 평가와 위험성 평가는 계속 진행하고 있지만, 강화된 보안 요건을 충족하지 못하는 아스트라 관련 내부 작업은 중단하고 있다고 밝혔다. 또한 아스트라에 대해 전면적인 감시 체계와 더욱 엄격한 시험 환경을 도입하고 있다고 덧붙였다.

지난달 오픈AI의 인공지능 모델 두 개는 시험 환경을 벗어나 인터넷에 접속한 뒤 오픈소스 인공지능 도구 제공업체 허깅페이스를 해킹했다.

이어 지난달 앤스로픽은 자사의 인공지능 모델이 지난 4월 시험 과정에서 세 개 기업을 해킹했다고 밝혔다.

메타플랫폼스는 이번 주 독립 시험기관으로부터 자사의 인공지능 모델 가운데 하나가 시험 제한을 돌파했다는 통보를 받았음을 인정했다.

연구기관 프런티어 시큐리티는 중국 스타트업 문샷 AI의 대표 모델 키미 K3 역시 시험 과정에서 이른바 격리 시험 환경을 벗어나 인터넷에 접속했다고 공개했다.

비영리 인공지능 연구기관 팰리세이드 리서치의 제프리 래디시 사무총장은 오픈AI가 허깅페이스 해킹 사실을 확인한 직후 아스트라 개발을 중단했어야 했다고 생각한다고 말했다.

오픈AI는 그러나 아직 개발 중인 아스트라는 허깅페이스 해킹에는 관여하지 않았다고 밝혔다.

오픈AI는 아스트라의 출시 시기를 공개하지 않았다. 회사는 지난주 아스트라의 내부 버전이 수십 년 동안 해결되지 않았던 수학 난제 10개를 해결했다고 밝혔다.

오픈AI의 대비 체계에 따르면 모델이 자율적으로 취약점을 찾아 악용하거나, 대략적인 지시만으로도 강력한 보안 체계를 갖춘 목표를 상대로 처음부터 끝까지 사이버 공격을 수행할 수 있다면 '중대' 사이버 보안 단계에 도달한 것으로 간주된다.

오픈AI는 모델 위험을 '높음'과 '중대' 두 단계로 분류하며, '중대'는 가장 높은 수준의 위험 능력을 의미한다.

회사가 지난해 개정해 공개한 대비 체계 전문에 따르면 모델이 '중대' 단계에 도달하면 보호 장치와 보안 통제가 중대 단계 기준을 충족할 때까지 연구진은 "추가 개발을 중단해야 한다."

오픈AI는 안전성 평가를 확대하기 위해 정부 기관과 제3자 감사기관들과 협력하고 있다고 밝혔다.

앤스로픽도 오픈AI와 비슷한 수준의 역량을 갖춘 것으로 평가받는 유일한 다른 모델 개발사로서, 사이버 보안 위험에 대한 우려 때문에 모델 공개 방식을 변경했다.

지난 6월 앤스로픽은 사이버 보안과 생명과학 연구 등과 관련된 역량을 제한하는 안전장치를 적용한 미토스 모델의 제한된 버전을 일반에 공개했다. 회사는 신뢰할 수 있는 기관들을 대상으로 전체 모델을 순차적으로 제공하고 있다.


◎공감언론 뉴시스 yjkang1@newsis.com