"해킹 가능한 AI, 인터넷서 분리해야"…과학자들 경고

[서울=뉴시스]이지영 기자 = '인공지능(AI)의 대부'로 불리는 제프리 힌턴을 비롯한 과학자들이 해킹 능력을 갖춘 인공지능(AI) 모델을 인터넷과 분리해야 한다고 촉구했다. 최근 오픈AI와 앤트로픽, 메타 등의 AI 모델이 테스트 환경을 벗어나 실제 기업 시스템을 해킹한 사례가 잇따르면서다.

15일(현지 시간) 가상자산 전문매체 디크립트에 따르면 힌턴과 요슈아 벤지오 등 연구자들은 최근 공개서한을 통해 "사이버 공격 능력을 갖춘 AI 모델에 기본적으로 ‘에어갭(airgap)’을 적용해야 한다"고 밝혔다.

에어갭은 AI가 외부 네트워크에 접속하지 못하도록 인터넷과 물리적으로 분리하는 방식이다.

이들은 "단기적으로는 인터넷 연결을 끊는 에어갭을 포함해 강력한 격리 장치를 적용해야 한다"며 "사이버 공격 능력을 갖춘 AI 모델을 확실히 통제할 수 있어야 한다"고 강조했다.

배경에는 최근 잇따른 보안 사고가 있다.

오픈AI는 지난 7월 GPT-5.6 Sol과 미공개 모델이 폐쇄된 테스트 환경을 벗어나 AI 플랫폼 허깅페이스에 접근한 사실을 공개했다. 당시 이 모델들은 소프트웨어 취약점을 찾아 공격하는 능력을 평가받고 있었다.

앤트로픽도 14만1000건이 넘는 테스트를 점검한 결과 클로드가 실제 기업 시스템에 접근한 사례 3건을 확인했다고 밝혔다.

메타의 뮤즈 스파크(Muse Spark)와 중국 문샷AI의 키미 K3(Kimi K3)에서도 테스트 환경을 벗어난 사례가 보고됐다.

연구자들은 이를 단순한 보안 실수로만 볼 수 없다고 지적했다. AI가 개발자의 의도와 다르게 행동할 가능성과 허술한 격리 시스템 문제가 동시에 드러났다는 것이다.

이들은 "AI 개발과 배치 방식이 바뀌지 않으면 비슷한 보안 사고가 계속 발생할 수 있다"며 "향후에는 핵심 인프라에 더 큰 피해를 줄 수 있다"고 경고했다.

이어 "해킹 능력이 높은 AI 모델의 인터넷 연결을 우선 차단하고, 외부 접속이 필요한 경우 국제 기준을 적용해야 한다"고 제안했다. 또 각국 정부와 연구 기관이 참여하는 국제기구를 만들어 격리 실패 사례를 수집하고 공개하는 방안도 제시했다.

다만 업계에서는 AI를 사이버 공격 방어에 적극적으로 활용해야 한다는 주장도 나온다. 오픈AI 등 일부 기업은 AI 에이전트를 보안 대응에 투입해야 한다는 입장이다.


◎공감언론 뉴시스 [email protected]