정부·기업 보안망 뚫을 AI 오나…5개국 정보기관 "지금 대비해야"

[서울=뉴시스] 박영환 기자 = 미국·영국·호주·캐나다·뉴질랜드 정보기관들이 첨단 인공지능(AI) 모델의 사이버 안보 위험을 공동 경고했다. AI가 악용되면 몇 달 안에 정부와 기업을 마비시킬 수준의 공격 역량이 해커나 적대국 손에 들어갈 수 있다는 것이다.

영국 가디언은 22일(현지시간) 이들 5개국의 정보동맹 ‘파이브아이즈’ 산하 사이버 보안·정보기관들이 공동 성명을 내고 각국 정부와 기업 지도자들에게 “지금 행동해야 한다”고 촉구했다고 보도했다.

이들 기관은 AI가 앞으로 사이버 방어를 강화하는 데 도움이 될 수 있지만, 동시에 해커나 적대국의 공격 속도와 규모, 정교함도 빠르게 끌어올리고 있다고 지적했다.

성명은 “첨단 AI 모델은 업계가 예상한 것보다 더 빠르게 공격과 방어 양쪽의 사이버 역량을 근본적으로 바꿀 수 있다”며 “그 시간표는 몇 년이 아니라 몇 달”이라고 경고했다.

이어 이런 변화에 대응하려면 기업과 기관이 사이버 공격을 받아도 서비스를 유지하고 빠르게 복구할 수 있는 능력을 갖춰야 한다고 강조했다. 이는 기업이 공격을 받아도 서비스를 멈추지 않고, 투자자와 고객의 신뢰를 지킬 수 있느냐의 문제라는 설명이다.

파이브아이즈 기관들은 AI 모델의 급격한 발전이 해커뿐 아니라 적대국까지 더 적은 전문지식으로 공격에 나설 수 있게 만들고, 공격의 속도와 복잡성을 높일 수 있다고 지적했다. 특정 기술 기업이나 모델 이름을 성명에 직접 적시하지는 않았다.

다만 이번 경고는 미국 트럼프 행정부가 이달 초 AI 기업 앤트로픽이 개발한 고성능 AI 모델 ‘페이블’을 외국 국적자가 쓰지 못하도록 한 직후 나왔다. 미국 정부는 국가안보 당국의 조언을 근거로 페이블과 또 다른 모델 ‘미토스’의 이용을 제한했다.

미토스는 사이버 시스템의 취약점을 찾아내는 능력을 갖춘 강력한 AI 모델로 알려져 있다. 악용 우려 때문에 사전에 심사를 거친 기관과 기업에만 제공돼 왔다.

앤트로픽의 또 다른 모델인 페이블5는 미토스보다 기업과 기관이 쓰기 쉽게 만든 모델로 소개돼 왔다. 그러나 미국 정부가 두 모델 모두에 대해 이용 제한 조치를 취하면서, 첨단 AI가 사이버 안보 문제로 본격 편입됐다는 평가가 나온다.

이들 모델은 이제 특정 기업의 신제품을 넘어 국가 안보 변수로 취급되기 시작했다. AI가 방어망을 강화하는 도구가 될 수도 있지만, 동시에 공격자가 더 빠르고 정교하게 침투하도록 도울 수 있다는 우려가 커지고 있다.

호주 시드니대 미국연구센터의 국가안보·AI 전문가 올리비아 셴은 앤트로픽의 다음 행보에 관심이 쏠려 있지만, 비슷한 수준의 강력한 AI 모델은 더 나올 수 있다고 말했다.

셴 전문가는 “다음 미토스나 다음 페이블이 곧 등장할 수 있다고 봐야 한다”며 “우리가 볼 수 있는 것은 이미 공개된 것뿐이지만, 중국이나 다른 국가, 기업, 집단이 그만큼 진전된 모델을 개발하고 있을 수도 있다”고 말했다.

이 때문에 파이브아이즈 기관들은 대응 주체도 기술 부서에만 머물러서는 안 된다고 강조했다. 성명은 “조직 전체, 사회 전체의 대응이 필요하다”며 “사이버 위험은 단순한 기술 문제가 아니라 기업 경영을 흔들 수 있는 위험이며, 지도부가 책임져야 할 문제”라고 밝혔다.

이번 경고는 AI 산업 육성을 앞세워온 호주 정부에도 부담으로 작용할 수 있다. 호주 앨버니지 정부는 지난 3월 정부가 추진하는 국가 AI 계획의 첫 참여 기업으로 앤트로픽을 선정했다. 법적 강제력은 없는 양해각서에 따라 참여 기업들은 AI 개발 상황을 정부와 공유하고 안전 조치를 강화하기로 했다.

호주 정부의 국가 AI 계획은 AI가 가져올 경제 효과와 생산성 향상을 얻기 위해 비교적 느슨한 규제 접근을 취해왔다. 그러나 이번 경고로 호주를 포함한 각국 정부는 AI 산업을 키우면서도 위험한 모델은 어디까지 통제해야 하는지 더 어려운 숙제를 안게 됐다고 신문은 전했다.


◎공감언론 뉴시스 [email protected]