11일(현지 시간) 영국 BBC에 따르면 호주 멜버른에 거주하는 앤드루 버드는 늘 예약이 꽉 차는 필라테스 수업을 대신 예약해달라며 AI 에이전트에 작업을 맡겼다. 버드는 이메일과 일정 관리, 식당 예약 등에 사용하던 '오픈클로'를 이용했다.
AI는 일반적인 예약 규정을 우회해 수개월 뒤 수업까지 예약하는 데 성공했다. 이후 버드가 대기자 명단에서 순위를 올릴 수 있는지 묻자 AI는 다른 회원의 예약을 취소하는 방법을 찾아냈다. 당시 버드는 대기 순번 4번이었지만 AI가 다른 회원의 예약을 취소하면서 3번으로 올라갔다.
AI는 버드에게 "AI에는 다른 사람의 예약을 취소하는 것에 대한 인증 확인이 전혀 없다"며 해당 방법을 직접 시험했고 실제로 작동했다고 설명했다.
버드는 AI에게 취소된 예약을 되돌리도록 했지만 AI는 이를 처리하지 못했다. 이에 버드는 AI에 사이버보안 보고서를 작성하도록 하고 헬스장 운영자에게 시스템 취약점을 알리도록 했다.
이번 사건은 지난 4월 발생했으며 최근 ABC 뉴스 호주의 보도로 알려졌다. 심각한 사이버 공격으로 분류되지는 않지만, AI 에이전트가 주어진 목표를 달성하는 과정에서 사용자가 예상하지 못한 행동까지 할 수 있다는 점에서 주목된다.
최근 오픈AI와 앤트로픽, 메타 등 주요 AI 기업에서도 테스트 과정에서 AI 봇이 목표를 수행하기 위해 사이버 공격을 벌인 사례가 공개된 바 있다. 버드는 "다른 필라테스 회원의 자리를 취소할 의도는 없었다"며 "AI를 책임감 있게 사용해야 한다는 경고 신호임은 분명했다"고 말했다.
◎공감언론 뉴시스 kse17@newsis.com