[서울=뉴시스] 신효령 기자 = 미국 캘리포니아주가 AI(인공지능) 해킹 사건과 관련해 오픈AI에 소환장을 보냈다. AI가 개발자 통제를 벗어나 외부 시스템에 침입한 경위와 회사의 안전관리 책임을 조사한다.

1일(현지시간) 미국 CBS뉴스 등 외신에 따르면 캘리포니아주 법무장관실은 오픈AI에 조사용 소환장을 전날 전달했다. 지난달 조사에 착수한 허깅페이스 해킹 사건을 비롯해 회사와 AI 모델의 사이버 보안 사고·위험을 확인하기 위한 조치다.

롭 본타 캘리포니아주 법무장관은 "첨단 AI 모델은 사이버 방어를 위한 정당한 도구가 될 수 있다"고 말했다.

그는 개발사는 시험·개발 단계와 실제 서비스에서 모델이 사이버 공격을 하거나 돕지 않도록 보장할 책임이 있다고 강조했다. "이를 이행하지 않는 개발사에는 법적 책임을 물을 수 있고, 물어야 한다"며 이번 사건이 이에 해당하는지 확인하겠다고 밝혔다.

이 사건은 지난 7월 오픈AI의 내부 보안 평가 과정에서 발생했다. 회사에 따르면 연구용 모델들이 인터넷 접속 제한을 우회해 내부 연구 시스템과 AI 개발 플랫폼 허깅페이스의 시스템 일부에 침입했다.

모델들은 허가되지 않은 경로로 정보를 교환하고 보안 취약점을 이용했다. 오픈AI는 사람이 지시하지 않은 위험한 행동이었다며 안전장치 강화 필요성을 인정했다.

오픈AI는 조사에 협조하겠다고 밝혔다. 드루 푸사테리 오픈AI 대변인은 "사건과 광범위한 후속 조치에 관한 정보를 제공하기 위해 법무장관실과 계속 협력하겠다"고 말했다.

"사건 이후 연구 시스템의 안전장치를 강화하고 모델 활동을 추가 점검했다"며 "관련 기관에 통지하고 조사 결과도 공개했다"고 덧붙였다.


◎공감언론 뉴시스 snow@newsis.com