AI가 해커 무기로…오픈AI·MS 등 "수개월 내 공격 광범위해질 것"

[서울=뉴시스]박미선 기자 = 오픈AI와 앤트로픽, 마이크로소프트(MS), 알파벳, 아마존 등 주요 기술기업들이 인공지능(AI)을 활용한 사이버 공격이 향후 수개월 내 급증할 수 있다며 정부와 산업계에 대대적인 방어 체계 구축을 촉구했다.

27일(현지 시간) NBC, CBS 등 외신에 따르면 이들 기업은 공동서한을 통해 AI 위협이 본격화하기 전 "디지털 세계를 훨씬 더 안전하게 만들 수 있는" 시간이 제한적이라고 경고했다.

공동서한에는 브로드컴과 클라우드플레어, 크라우드스트라이크, 제너럴모터스(GM), IBM, 마스터카드, 오라클, 로빈후드, 비자 등 100개 이상의 기업과 기관이 참여했다.

이들은 "앞으로 수개월 동안 전 세계 AI 모델의 성능이 더욱 향상되면서 AI를 활용한 사이버 공격이 훨씬 더 광범위해질 것"이라며 정부과 산업계가 보유한 기술과 자원, 전문성을 총동원해야 한다고 강조했다.

AI를 활용한 사이버 공격은 이미 빠르게 늘어나고 있다. 크라우드스트라이크가 최근 발표한 보고서에 따르면 AI 기반 사이버 공격은 지난해 전년 대비 89% 증가했다. 악의적인 세력이 대규모언어모델(LLM)을 활용해 기업과 기관의 시스템에 침투하는 사례도 늘고 있다.

기업들은 기존의 사이버보안 체계만으로는 앞으로의 위협에 대응하기 어렵다고 지적했다. 오랫동안 방치된 소프트웨어 결함과 과도한 접근 권한, 잘못된 시스템 설정, 취약한 인증 체계, 업데이트되지 않은 소프트웨어와 노후 시스템 등이 AI를 활용한 공격에 취약할 수 있다는 설명이다.

다만 AI가 사이버 공격의 위력을 높이는 동시에 방어 수단으로도 활용될 수 있다고 강조했다. AI를 이용해 시스템의 취약점을 빠르게 찾아내고 보완함으로써 공격자보다 방어자가 먼저 우위를 확보할 수 있다는 것이다.

이에 기업들은 사이버보안 인력과 투자를 확대하고 사이버 공격을 방어하는 조직에도 최신 AI 기술을 제공해야 한다고 촉구했다.

특히 각국 정부에는 일반 대중에게 공개되기 전 일부 신뢰할 수 있는 기업들이 더 강력한 AI 모델에 먼저 접근할 수 있도록 하는 '신뢰 기반 접근 프로그램(trusted access programs)'을 확대할 것을 요구했다. 이를 통해 기업들이 새로운 AI 모델이 초래할 사이버 위협을 사전에 파악하고 방어책을 구축할 수 있도록 해야 한다는 취지다.

오픈AI 등 최첨단 AI 모델 개발업체에도 책임 있는 모델 접근 체계를 마련하고 사이버보안 인력 교육을 지원하는 한편 자체 모델의 보안을 강화할 것을 주문했다.

한편 미국과 영국, 캐나다, 호주, 뉴질랜드로 구성된 정보동맹 '파이브 아이즈(Five Eyes)'도 지난 6월 AI가 사이버보안 환경을 "근본적으로 변화시킬 것"이라며 관련 위협에 공동 대응할 필요가 있다고 경고한 바 있다.


◎공감언론 뉴시스 [email protected]