"누가 만든지도 모를 에이전트가 전산망 활보"…美양당, '통제 이탈 AI 차단법' 발의

[서울=뉴시스]박영환 기자 = AI 에이전트가 보안시험 도중 격리 통제를 뚫고 허깅페이스 전산망을 침해하는 등 허가 범위를 벗어난 행동이 잇따르자 미국 민주·공화 양당 의원들이 에이전트를 누가 만들었고 무슨 일을 했는지 추적하는 법안을 내놨다.

미국 인터넷매체 액시오스는 3일(현지시간) 민주당의 조시 고트하이머 뉴저지주 하원의원과 공화당의 마이크 롤러 뉴욕주 하원의원이 ‘통제 이탈 AI 차단법(Stop Rogue AI Act)’을 공동 발의했다고 보도했다.

AI 에이전트는 사용자의 목표를 받아 외부 도구와 시스템을 이용해 여러 단계의 업무를 스스로 수행하는 프로그램이다. 법안은 미 상무부 산하 국립표준기술연구소(NIST)에 법률 확정 뒤 1년 안에 AI 에이전트의 안전한 배치·운용을 위한 기준을 마련하도록 했다. 이 기준은 대부분의 민간 조직에는 자율적으로 적용되지만, 신규 연방계약을 수주하려는 정부 계약업체에는 준수를 요구하는 방향이라고 액시오스는 전했다.

기준에는 조직의 시스템에서 AI 에이전트가 벌이는 행동을 지속적으로 점검·검증하고, 에이전트의 보안성과 신뢰성을 평가하는 방안이 담긴다. 에이전트가 한 일을 사후에 고치거나 지울 수 없도록 위변조 방지 기록을 생성하는 기준도 마련한다.

액시오스에 따르면 법안에는 조직이 운용 중인 모든 AI 에이전트의 목록을 계속 갱신해 기계가 읽을 수 있는 형식으로 관리하는 내용도 포함됐다. 미 사이버보안·인프라보안국(CISA)과 협력해 연방 민간기관의 보안 프로그램에 해당 기준을 반영하는 방안도 담겼다.

입법 움직임의 배경에는 지난 7월 발생한 오픈AI 모델의 허깅페이스 시스템 침해 사건이 있다. 오픈AI에 따르면 이 사건은 안전장치를 낮춘 내부 사이버보안 평가에서 모델들이 인터넷 격리 통제를 우회하면서 발생했다. 일반 이용자용 서비스 환경에서 벌어진 사건은 아니며, 공개되지 않은 내부 연구모델이 주된 침입을 이끌었다.

오픈AI 기술보고서에 따르면 에이전트들은 허깅페이스의 운영 서버 41대에서 코드를 실행하고 최소 1대에서 최고 관리자 권한을 확보했다. 운영용 인증정보와 일부 내부 자료에 접근하고 비공개 코드 저장소 4개도 내려받았다. 다만 오픈AI는 고객 데이터나 제품 기능·서비스 가용성에는 영향이 없었다고 밝혔다.

고트하이머 의원은 법안의 필요성에 대해 “지금 AI 에이전트들이 우리 네트워크를 제멋대로 돌아다니지만 아무도 이를 볼 수 없고 누가 만들었는지도 확인하지 못한다”며 “갈수록 막기 어려워지고 있으며 최고 단계의 경보를 울려야 할 보안 위험”이라고 말했다.

미 의회에서는 AI 에이전트를 추적하거나 위험한 모델을 멈추게 하려는 입법 움직임이 잇따르고 있다. 마크 워너 민주당 상원의원은 지난 6월29일 NIST가 기술 기준을 만들고 연방거래위원회(FTC)가 신뢰할 수 있는 AI 에이전트 사업자 등록제도를 운영하는 내용의 ‘AI 에이전트 법안’ 토론용 초안을 공개했다. 민주당의 테드 리우 캘리포니아주 하원의원과 공화당의 너새니얼 모런 텍사스주 하원의원은 지난 7월 위험한 AI 모델의 감속이나 가동 중단을 국토안보부가 명령할 수 있게 하는 ‘AI 킬스위치법’을 발의했다.

미 의회에서 AI 통제를 강화하려는 법안이 잇따르는 것과 달리, 미국 정부는 이번 주 주요 20개국(G20) 기술회의에서 AI에만 고유한 새로운 문제가 있을 때만 별도 규제를 만들자며 광범위한 규제를 자제하라고 촉구했다. 다만 고트하이머·롤러 의원의 ‘통제 이탈 AI 차단법’도 민간 전체에 일률적인 강제 규제를 적용하지 않고 NIST의 자율 기준과 연방정부 조달을 지렛대로 삼았다.

법안은 사이버보안업체 팔로알토네트웍스와 인터넷서비스업체 고대디, 네트워크 보안업체 인포블록스, AI정책네트워크, 안전한 AI 연합 등의 지지를 확보했다. 다만 이번 회기에서 다른 AI 법안들이 좀처럼 진전을 이루지 못한 만큼 실제 통과 여부는 불투명하다고 액시오스는 짚었다


◎공감언론 뉴시스 [email protected]