통제 불능에 빠진 AI 에이전트…'미·중 정상회담·UN' 전면에 뜬 안전망

[서울=뉴시스]오동현 기자 = 인공지능(AI)의 위험을 경고하는 목소리가 전 세계에서 거세지고 있다. 빌 게이츠 마이크로소프트(MS) 창업자는 AI 악용이 대규모 인명 피해로 이어질 수 있다고 경고했다. 유엔 안전보장이사회와 미·중 정상회담에서도 AI 안전 문제가 잇따라 안건으로 올랐다.

이러한 상황에서 오픈AI의 'AI 에이전트'가 호주 정부 웹사이트의 보안 통제를 무단으로 우회한 사실이 뒤늦게 밝혀졌다. 호주 정부는 개인 의료정보 유출 증거는 아직 없다고 밝혔다. 하지만 오픈AI가 사고를 파악하고도 한 달 뒤에야 통보한 경위를 집중 조사하고 있다.

28일 호주 정부 발표를 종합하면 오픈AI 연구팀은 지난 6월 18일(현지시간)  공공 의약품 지출 자료를 찾는 내부 시험에 AI 에이전트를 사용했다. 에이전트는 호주 정부의 메디케어 통계 보고 서비스 포털에서 자료 요청이 거듭 차단되자 다른 방법을 시도했고, 권한 없이 공개·비공개 파일에 접근했다. 이 과정에서 포털 내부 서버에 파일도 작성한 것으로 호주 정부는 파악했다.

이 포털은 의료비 지출 등의 집계 통계를 제공하는 별도 웹사이트다. 호주 정부는 현재까지 개인 의료정보에 접근했거나 메디케어 청구·지급 시스템이 침해됐다는 증거는 없다고 설명했다.

AI 에이전트가 접촉한 다른 호주 공공기관 사이트 3곳 ▲호주보건복지연구원(AIHW) ▲빅토리아주 보건부 ▲뉴사우스웨일스주 범죄통계연구국에서는 공개 정보에 접근한 것으로 파악됐다. 당국은 추가 피해 여부를 조사하고 있다.

사고 통보가 늦어진 점도 조사 대상이다. 호주 정부에 따르면 오픈AI는 8월에 무단 접근 사실을 파악했지만, 담당 기관에는 9월 10일 알렸다.

앤서니 앨버니지 호주 총리는 지난 23일 뉴욕에서 기자회견을 열어 사고를 공개했다. 그는 샘 올트먼 오픈AI 최고경영자(CEO)에게 전화로 우려를 전달했다며, 사고를 알리는 데 너무 오래 걸렸다고 지적했다. 호주 정부는 관계 기관 합동 조사팀을 꾸려 사고 경위와 대응 절차를 살피고, 법 집행이나 입법 조치가 필요한지도 검토하기로 했다.

오픈AI도 연구·평가 과정에서 자사 AI 에이전트가 외부 사이트의 접근 통제를 우회하거나 예상하지 못한 행동을 한 사례를 조사하고 있다. 회사는 조사 결과에 따라 수십 곳의 외부 기관에 관련 사실을 알렸으며, 검토가 진행되는 대로 추가 통보하겠다고 밝혔다.

AI의 위험을 경고하는 목소리는 업계 안팎에서 잇따르고 있다.

게이츠 마이크로소프트 창업자는 27일 방송된 미국 NBC 인터뷰에서 AI가 악용될 경우 10억명의 사망을 초래하는 사건을 일으킬 만큼 강력하다고 경고했다. 그는 악의를 가진 사람이 최신 AI 도구를 쓰는 것만큼 강력한 무기는 없었다고 했다. 기업의 자율규제만으로는 충분하지 않으며 입법이 필요하다고도 강조했다.

지난 23일 열린 유엔 안보리의 'AI와 국제 안보' 회의에서는 AI 기업 수장들이 국제 협력을 촉구했다.

올트먼 CEO는 혜택이 크다는 이유로 과도한 기술적 위험을 감수해서는 안 된다며, 각국이 AI의 성능과 위험을 측정하고 안전조치가 충분한지 판단할 공통 기준을 마련해야 한다고 제안했다. 사고를 신속히 보고하고 관련 정보를 공유할 체계도 요구했다.

미국과 중국도 머리를 맞댔다. 양국 정상은 워싱턴 정상회담에서 AI 사고에 대비한 양자 소통 채널을 만들기로 합의했다. 양국은 오는 11월까지 후속 대화를 이어간다. 다만 이번 합의에 AI 개발 속도를 직접 인위적으로 조절하는 내용은 포함되지 않았다.


◎공감언론 뉴시스 [email protected]