[서울=뉴시스]오동현 기자 = 보안 취약점을 찾아주는 인공지능(AI) 도구가 해킹에도 쓰이면서 AI 업계의 악용 방지 역량이 시험대에 올랐다. 누구나 내려받을 수 있는 오픈소스 도구는 물론, 빅테크가 판매하는 상용 AI 도구도 공격에 동원된 정황이 나왔다.방어력을 키우는 AI가 해커의 손에 들어가는 양날의 검이 된 셈이다.

6일 업계에 따르면, 국내 금융권 연쇄 해킹이 대표적이다. 공격에 쓰인 것으로 보이는 서버 등에서 AI가 스스로 모의해킹을 수행하는 공개 도구 '아르텍스(ARTEX)'의 흔적이 발견됐다. 여기에 상용 AI 도구들도 함께 쓰인 것으로 보인다. 다만 각 도구가 실제 공격에서 어떤 역할을 했고, 누가 공격했는지 등 구체적인 내용은 아직 밝혀지지 않았다.

◆이미 퍼진 공개 도구…오픈소스는 '방어자 먼저'

아르텍스는 자체 AI를 갖춘 프로그램이 아니다. 앤트로픽·오픈AI 같은 회사의 AI를 불러와 시스템을 훑고 약점을 분석하게 하는 '작업 도구'다. 연결할 AI는 이용자가 바꿀 수 있고, 설계도가 공개돼 있어 누구나 내려받아 쓸 수 있다.

그만큼 아르텍스는 이미 세계 곳곳에 퍼져 있다. 보안업체 오아시스시큐리티가 지난달 23일부터 이달 3일까지 수집한 데이터를 분석한 결과, 아르텍스 관련 인터넷주소(IP)는 14개 국가·지역에서 359개가 확인됐다. 미국·중국·홍콩이 90% 이상을 차지했고, 한국에서도 4개가 관측됐다. 다만 이는 서버가 있는 위치일 뿐 공격자의 국적을 뜻하지 않는다. 아르텍스는 정상적인 보안 점검에도 쓰이는 만큼, 관측된 서버를 모두 공격용으로 볼 수도 없다.

아르텍스 개발자는 안내문에 허가된 테스트와 연구 목적으로만 쓰라고 적어뒀다. 하지만 공개 도구의 악용을 직접 막을 수단은 마땅치 않다. 대신 오픈소스 진영은 방어하는 쪽이 같은 AI를 먼저 손에 쥐도록 돕는 데 힘을 모으고 있다.

앤트로픽·오픈AI·구글·마이크로소프트·아마존웹서비스(AWS)·깃허브 등은 지난 3월 비영리단체 리눅스재단을 통해 오픈소스 보안에 1250만달러를 공동 투자하기로 했다. 이 자금을 운용하는 리눅스재단 산하 '알파-오메가'는 첨단 AI 보안 기능이 공격자들에게 널리 퍼지기 전에 핵심 오픈소스 프로젝트 1만개 이상이 이를 먼저 활용하도록 돕겠다고 밝혔다. 공격자보다 먼저 약점을 찾아 고치겠다는 것이다.

◆최상위 AI 잠갔지만…"장치 우회 완전 차단은 사실상 불가능"

아르텍스만의 문제가 아니다. 상용 AI 도구도 공격에 함께 쓰였을 가능성이 제기된다.

AI 개발사들도 악용 차단에 나서고 있다. 다만 초점은 해킹에 쓰일 만큼 강력한 최상위 AI를 누구에게 내줄지 가리는 데 있다. 이미 시중에 팔리고 있는 AI 도구의 악용까지 막기에는 한계가 있다.

클로드 개발사 앤트로픽은 지난 4월 협력 프로젝트 '글래스윙'을 시작했다. AI로 주요 소프트웨어의 보안 약점을 찾아 고치는 프로젝트다. 애플·구글·마이크로소프트·엔비디아 같은 빅테크와 보안기업 등 약 50곳이 처음 참여했다. 이들에게는 일반에 공개하지 않은 고성능 AI '클로드 미토스'가 제공됐다. 지난 6월에는 15개국 이상 약 150곳을 새로 받아 참여 기관을 약 200곳으로 늘리기로 했다. 국내에서는 한국인터넷진흥원(KISA)과 삼성전자·SK하이닉스·SK텔레콤이 포함됐다.

앤트로픽은 그동안 이런 AI를 일반에 공개하지 않았다. 누구나 쓰게 해도 될 만큼 확실한 악용 방지 장치가 없다는 이유에서다. 지난 6월 초에도 자사는 물론, 자사가 아는 한 다른 AI 개발사도 이런 장치를 갖추지 못했다고 설명했다. 그리고 일주일 뒤 일반용 모델 '클로드 페이블'을 내놨다. 사이버보안처럼 악용 위험이 큰 분야의 질문이 들어오면 한 단계 낮은 AI가 대신 답하게 하는 방식이다. 다만 앤트로픽은 이런 장치를 우회하는 시도까지 완전히 막기는 사실상 불가능하다고 인정했다.

오픈AI도 지난 5월부터 '데이브레이크'라는 프로그램으로 검증된 공공·민간 방어 조직에 AI를 지원하고 있다. 기본 등급은 일반 AI로 방어 업무를 돕는다. 더 까다로운 작업을 승인받은 조직만 보안 전용 AI를 쓸 수 있다. 오픈AI에 따르면 승인을 받은 2000곳에서 방어 인력 수천 명이 이를 쓰고 있다.

이 같은 프로그램은 모두 이번 국내 금융권 사고 이전부터 가동됐다. 그럼에도 상용 AI 도구가 공격에 쓰인 정황이 나온 만큼, 개발사들의 차단 장치가 실제 공격에서 어떻게 작동했는지는 따져볼 대목이다.

◆찾는 것보다 고치는 게 관건…악용 차단도 숙제

AI가 찾아낸 약점을 실제로 고치는 것도 과제다. 앤트로픽에 따르면 글래스윙 참여 기관들은 6월 초까지 심각한 보안 결함을 1만건 넘게 찾아냈다. 앤트로픽은 이제 걸림돌은 찾는 일이 아니라, 쏟아지는 결함을 확인하고 고치는 일이라고 설명했다. 오픈AI도 목표는 약점을 더 많이 찾는 데 그치지 않고 더 빨리 고치는 것이라고 밝혔다.

앤트로픽은 지난해 11월 한 해커 조직이 '클로드 코드'를 악용한 수법을 공개했다. 정상적인 보안 점검인 것처럼 속이고, 목적이 드러나지 않게 일을 잘게 쪼개 맡겼다는 것이다. 오픈AI도 지난 2월 악의적 이용자들이 작업 단계마다 여러 AI를 번갈아 쓰기도 한다고 밝혔다. 한 회사가 계정을 막아도 다른 AI로 옮겨가면 막기 어렵다.

남은 시간도 많지 않다. 앤트로픽은 지난 6월 6~12개월 안에 다른 AI 기업들도 비슷한 성능의 AI를 갖출 것으로 내다봤다. 이들이 악용 방지 장치 없이 AI를 공개할 수도 있다는 것이다. 오픈AI도 앞으로 수개월 안에 AI를 이용한 해킹이 훨씬 흔해지고 정교해질 것이라고 경고했다.

한 보안업계 관계자는 "방어용 AI는 널리 공유하되 악용은 신속히 가려내고, 찾아낸 약점은 빠르게 수정하는 선순환 체계를 갖추는 것이 AI 업계 전체의 시급한 과제"라고 강조했다.


◎공감언론 뉴시스 odong85@newsis.com