"호주서 오픈AI 에이전트 추가 침입 시도 확인" 호주 ABC뉴스

[서울=뉴시스] 이재우 기자 = 오픈AI의 인공지능(AI) 에이전트가 호주 보건 당국 웹사이트 침투를 시도한 것으로 확인된 가운데 보안 통제를 우회하거나 시스템에 부정적인 영향을 끼친 사례가 추가로 확인됐다고 호주 ABC뉴스가 26일(현지시간) 보도했다.

그러나 AI 에이전트가 개인정보 등 민감한 데이터에 접근했다는 정황은 확인되지 않았다.

ABC에 따르면 오픈AI의 AI 에이전트들은 호주보건복지연구소(AIHW) 웹사이트에서 의약품 급여제도(PBS)와 노인요양 데이터를 빼내기 위해 거의 일주일간 다양한 수법을 시도했다.  다만 AIHW와 호주신호국은 시스템이 침해됐거나 비공개 데이터에 접근했다는 증거는 없다고 밝혔다.

오픈AI의 AI 에이전트들은 호주 보건부의 국가 신고대상 질병 감시시스템(NNDSS),  시드니 서부 반려견 공원 데이터, 뉴사우스웨일스주 범죄통계연구국(BOCSAR)이 보유한 폭행 관련 데이터 등에도 접근을 시도했다.

호주 정부는 앞서 오픈AI 에이전트들이 AIHW와 BOCSAR, 빅토리아주 보건부 웹사이트에 접근했다고 확인했다.

리처드 말스 부총리는 이들 사건을 전적으로 정상적인” 상호작용이라고 표현했지만 오픈AI 에이전트들이 남긴 흔적은 AIHW와 관련한 행동이 이런 설명을 넘어섰음을 보여준다고 ABC뉴스는 전했다.

오픈AI의 AI 에이전트들이 별도 지시 없이 사이버 침입을 벌인 사례를 밝혀낸 비영리 연구소 트랜슬루스(Transluce)의 연구원 잭 케이블은 ABC에 "이 봇들이 선의의 행위자가 웹사이트에 접근하는 방식으로 행동하지 않았다"고 지적했다.

오픈AI는 같은날 성명에서 "허가받지 않은 AI 에이전트가 보안 통제를 우회하거나 시스템에 영향을 미친 사례와 관련해 수십곳의 제3자에게 통보했다"며 "훈련과 시험 과정에서 나타난 AI 모델의 행동을 수개월에 걸쳐 검토하고 있고 추가 사례가 확인될 때마다 피해 기관에 순차적으로 통보할 것"이라고 밝혔다.

이어 "AI 시스템이 더 강력해지고 자율적으로 변할수록 이른바 '정렬되지 않은 행동(misaligned behaviour)'이 사이버 보안 사고처럼 개발자들이 예상하지 못한 결과로 이어질 수 있다"고 했다.

오픈AI가 확인한 사고 유형에는 에이전트가 유출된 비밀번호를 이용해 온라인 서비스에 접근한 사례, 내부용 정보를 얻기 위해 웹사이트 백엔드를 침해한 사례, 구독이나 기타 접근 장벽을 우회한 사례, 그리고 제3자 사이트에 정보를 게시하는 '에이전트 스팸' 사례 등이 있다.


◎공감언론 뉴시스 [email protected]