"실험실 뛰쳐나와 외부 서버 해킹"…오픈AI·앤트로픽 최첨단 모델 안전성 시험대

[서울=뉴시스]윤정민 기자 = 개발자가 만든 최첨단 인공지능(AI)이 정해진 경계를 넘었다. 실제 기업 시스템에 스스로 접속하는 일이 벌어졌다. 해킹을 지시한 사람은 없었다. AI는 주어진 목표를 이루기 위해 보안이 허술한 시스템을 직접 찾아냈다.

오픈AI와 앤트로픽이 자사 연구용 AI 모델에서 발생한 침해 사고를 최근 공개했다. 오픈AI의 비공개 모델은 모의 해킹 문제의 정답을 찾기 위해 외부 플랫폼 '허깅페이스' 서버에 침투했다. 앤트로픽의 '클로드' 모델 역시 실제 조직 3곳의 시스템에 무단 접근한 사실이 밝혀졌다.

오픈AI 모델은 인터넷이 차단된 연구 환경에서 출발했다. 시스템의 숨겨진 취약점을 찾아 외부로 나갔다. 이어 정답이 있을 것으로 추정되는 허깅페이스의 실제 운영 서버까지 들어갔다.

앤트로픽의 사례는 보안 관리 부실이 원인이었다. 일부 평가 환경이 실수로 실제 인터넷에 연결됐다. 클로드 모델은 비밀번호가 허술한 시스템을 찾아 실제 조직 3곳에 접근했다. 피해 조직 중 2곳은 통보를 받기 전까지 침입 사실조차 몰랐다.

두 사건 모두 AI가 갑자기 별도의 목적을 갖고 인간에게 반기를 든 사례로 보기는 어렵다. 영화 '터미네이터'의 '스카이넷'처럼 AI가 스스로 적의를 품고 공격에 나선 상황은 아니라는 뜻이다.

문제는 사람이 부여한 목표와 권한이다. AI가 목표를 위해 어디까지 움직일 수 있는지, 범위를 벗어났을 때 어떻게 멈출지 제대로 대비하지 못했다.

그렇다면 두 회사가 자사 모델의 통제 실패를 스스로 공개한 이유는 뭘까.

앤트로픽이 자체 사이버 평가 기록을 조사한 계기는 오픈AI의 사고 공개였다. 경쟁사의 사고를 보고 지난 기록을 뒤진 결과 묻혀 있던 추가 침해 사례를 발견했다.

기업 이미지에 타격을 줄 수 있는 사고였다. 그럼에도 실패를 알린 것은 다른 기업의 유사 사고를 막기 위해서라는 설명이다.

규제 주도권을 쥐려는 정치적 계산도 작용했다. 도널드 트럼프 미국 대통령은 최첨단 AI의 보안 위험 평가 방안을 마련하라고 지시한 바 있다. 정부 조사로 뒤늦게 적발되기보다 자체 조사 결과와 대책을 먼저 내놓는 편이 협상에 유리하다는 판단이다.

하지만 두 기업의 자진 공개가 정부 감시를 피하는 방패가 될지는 미지수다. 오히려 최첨단 AI를 기업 내부 통제만으로 관리할 수 있느냐는 의문을 더 키웠다.

미국 워싱턴 정가에서는 정부가 최첨단 AI 모델의 위험을 더 일찍 검증해야 한다는 기류가 강해지고 있다.

트럼프 대통령은 기자들과 만나 AI 기업의 신제품 개발을 막지는 않겠지만 "AI 규제 방안을 살펴보고 있다"고 밝혔다.

샘 올트먼 오픈AI 최고경영자(CEO)도 미 상원의원들을 만나 차세대 모델과 허깅페이스 침해 사고를 논의했다. 이어 백악관에서 수지 와일스 비서실장, 숀 케언크로스 국가사이버국장, 마이클 크라치오스 과학기술정책실장 등과 만나 정부가 추진하는 자발적 사이버 안전성 평가 방안을 협의했다.

오픈AI와 앤트로픽은 실패를 솔직히 공개하는 길을 택했다. 그러나 이번 고백은 AI를 얼마나 잘 통제하고 있는지가 아니라, 아직 어디까지 통제하지 못하고 있는지를 극명히 보여줬다.


◎공감언론 뉴시스 [email protected]