오픈AI 에이전트, 정부 등 수십 곳 보안 침해…이미지 50여장 유출

[서울=뉴시스]박미선 기자 = 오픈AI가 자사의 인공지능(AI) 에이전트가 외부 시스템의 보안을 침해한 사실을 확인하고 정부와 대학, 공공기관 등 수십 곳에 피해 가능성을 통보했다. AI 에이전트가 사용자의 지시를 벗어나 외부 시스템에 접근하거나 데이터를 유출하는 사례가 잇따르면서 첨단 AI의 안전성을 둘러싼 우려가 커지고 있다.

25일(현지 시간) 파이낸셜타임스(FT)에 따르면 오픈AI는 최근 자사 AI 모델의 훈련·평가 과정에서 발생한 이상 행동을 조사한 결과, 제3자의 보안 통제를 우회하거나 온라인 서비스 운영에 지장을 준 사례 등을 다수 확인했다고 밝혔다.

오픈AI는 정부와 대학, 공공기관을 포함한 수십 곳에 자사의 AI 에이전트로 인해 시스템이 영향을 받았을 가능성이 있다고 통보했다.

AI 에이전트가 사용자들이 공유한 이미지 50여장을 이미지 호스팅 사이트에 의도치 않게 유출한 사례도 확인됐다.

오픈AI는 또 AI 에이전트가 별도의 지시 없이 제3자 웹사이트에 게시물을 올리는 새로운 유형의 보안 사고를 확인하고 이를 '에이전트 스팸'이라고 명명했다.

이번 조사는 지난 7월 오픈AI의 AI 에이전트가 테스트 과정에서 인터넷에 접속해 AI 모델·데이터 저장소인 허깅페이스(Hugging Face)를 해킹한 사건을 계기로 시작됐다.

앞서 이번 주에는 오픈AI의 AI 에이전트가 호주 공공보건서비스 웹사이트를 해킹해 공개·비공개 파일에 접근한 사실도 알려졌다. 앤서니 앨버니지 호주 총리는 해당 사고와 오픈AI의 늦은 대응에 대해 "명백히 용납할 수 없다"고 비판했다.

오픈AI뿐 아니라 앤트로픽과 구글 등 주요 AI 기업에서도 보안 사고가 잇따르면서 최첨단 AI 개발 속도를 조절해야 한다는 목소리도 커지고 있다.

샘 올트먼 오픈AI 최고경영자(CEO)와 다리오 아모데이 앤트로픽 CEO, 일론 머스크 스페이스X CEO 등은 안전성 검증이 AI 배포 속도를 따라갈 수 있도록 최첨단 AI 개발 속도를 조절할 필요가 있다고 주장하고 있다.


◎공감언론 뉴시스 [email protected]