[서울=뉴시스]박영환 기자 = 중국의 오픈웨이트 인공지능(AI)을 핵심 도구로 쓴 이스라엘 사이버보안업체가 정부기관과 대기업의 실제 전산망 취약점을 찾는 해커원(HackerOne) 경쟁에서 1위에 올랐다. 한 항공사의 시스템에서는 정상적인 인증정보 없이 서버에 접속한 뒤 모바일 앱 이용 고객의 위치를 파악할 수 있는 취약점까지 확인했다.

뉴욕타임스(NYT)는 1일(현지시간) 이스라엘 사이버보안 스타트업 텐자이(Tenzai)가 3개월간 진행된 해커원의 취약점 탐지 경쟁에서 중국 스타트업 지푸AI(Z.ai)의 AI 모델을 사용해 정상에 올랐다고 보도했다. 텐자이는 처음 지푸AI의 GLM-5.2를 사용하다 8월 중순 더 강력한 GLM-5.3이 공개되자 모델을 교체했다.

이번 경쟁은 정부기관과 포천 500대 기업 등이 실제로 운영하는 전산망 가운데 보안 점검을 허용한 시스템에서 취약점을 찾아내고, 이를 신고한 연구자와 업체에 보상하는 방식으로 진행됐다.

텐자이가 찾아낸 사례 가운데 하나는 항공사 웹서버의 인증 취약점이었다. 텐자이의 AI 시스템은 정상적인 인증정보를 제시하지 않고 서버에 접속할 수 있었고, 이 경로를 통해 해당 항공사 모바일 앱을 사용하는 고객의 위치를 파악할 수 있었다.

또 다른 사례에서는 콜센터를 운영하는 한 기업의 데이터베이스에서 취약점을 찾아냈다. 데이터베이스에 비정상적인 명령을 넣어 보안장벽을 우회하는 방식으로, 텐자이는 이 경로를 통해 고객 통화를 엿들을 수 있었다.

텐자이는 특정 전산망을 점검할 때 최대 30개의 AI 에이전트를 동시에 투입했다. 전체 공격 과정을 총괄하는 '싱킹(thinking)' 에이전트와 네트워크의 취약점을 탐색하는 '액션(action)' 에이전트, 발견된 취약점을 조합해 실제 침투 경로를 찾는 다수의 '익스플로잇(exploit)' 에이전트가 역할을 나눴다.

침투 경로가 발견되면 마지막에는 검증 역할을 맡은 이른바 '반박(rebuttal)' 에이전트가 같은 공격이 실제로 작동하는지 다시 확인했다. 취약점을 찾아내는 데 그치지 않고 실제 침투 경로가 성립하는지까지 확인한 것이다.

파벨 구르비치 텐자이 최고경영자(CEO)는 "기업의 약 30%가 치명적이거나 심각도가 높은 취약점을 안고 있다"고 말했다. 그는 오픈웨이트 모델에 대해 "엄청난 능력을 갖추고 있으면서 사실상 안전장치가 없다"며 "내려받아 직접 실행할 수 있고 원하는 작업을 시킬 수 있다"고 설명했다.

이번 성과가 주목받는 또 다른 이유는 텐자이가 오픈AI나 앤트로픽 등 미국 AI가 아니라 중국 지푸AI 모델을 핵심 도구로 사용했다는 점이다. NYT는 미국 AI 기업들이 수년간 성능에서 앞서왔지만 올봄부터 미중 AI 모델의 격차가 좁아지기 시작했고, 지푸AI의 GLM과 중국 문샷AI의 키미(Kimi)는 일부 표준 성능평가에서 미국의 선두 모델과 맞먹는 수준에 이르렀다고 전했다.

성능 격차보다 더 큰 논쟁을 부르는 것은 중국 모델의 공개 방식이다. '오픈웨이트(open-weight)' 모델은 AI가 학습한 결과를 담은 가중치(weight)를 공개해 이용자가 모델을 내려받아 자신의 컴퓨터나 서버에서 직접 실행하고 활용할 수 있도록 한 방식이다. 지푸AI를 비롯한 중국의 주요 AI 업체들이 이런 모델을 적극 공개하고 있다.

반면 오픈AI와 앤트로픽, 구글 등 미국 업체들은 허위정보 생산이나 사이버 공격 등에 모델이 악용되는 것을 막기 위해 사용 범위를 제한하는 안전장치를 두고 있다. 일부 업체는 모델 사용을 더 제한하는 규제가 필요하다고 주장한다.

중국 오픈웨이트 모델의 이런 특성을 두고 미국의 일부 기업인과 연구자들은 위험성을 경고한다. NYT에 따르면 독립 연구진은 이번 주 중국 문샷AI의 모델이 생물무기 개발에 악용될 수 있는 정보를 제공할 가능성을 제기했다. 앤트로픽도 지푸AI 모델이 소프트웨어 취약점을 찾는 데 그치지 않고 이를 실제 공격에 악용하는 데 쓰일 수 있다고 경고했다.

반론도 나온다. 악성 해커가 오픈웨이트 AI를 공격에 이용할 수 있는 만큼 기업과 정부, 보안 전문가들도 같은 기술을 이용해 공격자보다 먼저 취약점을 찾아 고칠 수 있다는 것이다. 구글 보안 연구원 출신으로 사이버보안 스타트업 히노키(Hinoki)를 이끄는 조니 왕 최고경영자(CEO)는 "오픈웨이트 시스템을 활용하면 우리의 방어 역량을 100배까지 높일 수 있다"고 말했다. 왕 CEO는 이를 통해 과거에는 상상하기 어려웠던 수준의 방어 역량을 확보할 수 있다고 설명했다.

공격과 방어 가운데 어느 쪽에 더 유리한지를 둘러싼 논쟁과 별개로 왕 CEO를 비롯한 전문가들은 오픈웨이트 모델이 이미 널리 퍼졌으며 되돌리기 어렵다고 본다. 구르비치 CEO는 이런 상황을 "지니를 다시 병 안에 넣을 수 없다"고 표현했다.

중국 업체들도 자체 모델에 일정한 사용 제한을 두지만 오픈웨이트 모델에서는 이용자가 이를 제거할 수 있다. 왕 CEO와 히노키 연구진은 여러 중국 모델의 사이버보안 관련 제한을 하루 안에 해제했으며 비용은 약 1만달러에 그쳤다고 밝혔다. 관련 비용이 수백만달러까지 치솟는 이 분야에서는 상대적으로 적은 금액이다.

왕 CEO와 구르비치 CEO는 단기적으로 온라인 공격이 크게 늘어날 가능성이 있다고 내다봤다. 왕 CEO는 "국가 수준의 사이버 역량이 이제 평범한 해커에게도 열렸다"며 "방어하는 쪽의 계산법이 완전히 달라진다"고 말했다. 다만 왕 CEO는 사이버보안 분야에서는 공격 기술이 앞서가면 방어 기술이 뒤따라 강화되는 과정이 반복돼 왔다며 "결국 방어 역량이 따라잡을 것"이라고 말했다.


◎공감언론 뉴시스 yunghp@newsis.com