美 민주당 잠룡 뉴섬, AI '킬 스위치' 추진…"미룰 수 없어"

[서울=뉴시스] 이재은 기자 = 2028년 미국 대선 민주당 후보군으로 거론되는 개빈 뉴섬 캘리포니아 주지사가 인공지능(AI) 시스템을 비상시에 강제로 중단할 수 있는 이른바 ‘킬 스위치’ 도입을 추진했다.

뉴섬 주지사는 18일(현지 시간) X(옛 트위터)를 통해 "AI 기업에 대한 독립적인 감독과 안전성 검사를 강화하고, 첨단 AI 모델에 비상 정지 장치를 마련하는 방안을 검토하도록 하는 행정명령에 서명했다"고 밝혔다.

이번 행정명령에 따라 캘리포니아 정부는 AI 안전 전문가들로 구성된 패널을 꾸리고 두 달 안에 주 정부의 AI 안전·보안 규제를 강화하기 위한 권고안을 마련할 예정이다.

특히 전문가들은 첨단 AI 기업들이 비상 상황에서 모델의 작동을 중단할 수 있는 '킬 스위치'를 개발하도록 하는 방안을 검토한다. 독립적인 검증기관이 해당 장치의 실제 작동 여부를 지속적으로 점검하는 방안도 포함됐다.

다만 이번 행정명령이 당장 모든 AI 기업에 킬 스위치 설치를 의무화한 것은 아니다. 전문가 패널이 구체적인 제도와 기술적 기준을 마련하도록 한 것이다. 뉴섬 주지사도 킬 스위치가 아직 구체화되지 않은 개념이라며 전문가들의 추가 검토가 필요하다고 밝혔다.

뉴섬 주지사는 성명에서 "우리는 행동을 미루지 않을 것"이라며 "너무 늦기 전에 실질적이고 책임감 있는 AI 감독을 위한 작업을 가속화할 것"이라고 밝혔다.

이어 "신중하게 접근하되 시급한 속도로 진행할 것"이라며 "상황의 위험성이 너무 커 기다리거나 행동을 미룰 수 없다"고 강조했다.

이번 조치는 캘리포니아가 최근 마련한 AI 감독 체계의 시행도 앞당기는 내용이다. 뉴섬 주지사는 지난 9일 AI 시스템의 안전성과 위험을 평가할 독립 검증기관 제도를 마련하는 법안에 서명했다. AI 감사기관을 등록·관리하는 제도도 도입했다.

뉴섬 주지사는 이날 영상 메시지에서 연방정부의 AI 규제 기조도 비판했다. 그는 AI 기업들이 위험한 사고를 보고하도록 하는 포괄적인 연방법이 없다며 도널드 트럼프 대통령이 새로운 규제를 거부하고 있다고 주장했다.

트럼프 대통령은 AI에 대한 새로운 규제가 미국의 기술 혁신을 저해하고 중국과의 경쟁에서 미국에 불리하게 작용할 수 있다는 입장을 보여왔다. 지난 14일에는 AI의 통제 불능 위험에 대한 우려를 "사기"라고 일축하며 규제 요구를 비판했다.

AI 업계에서도 규제를 둘러싼 의견이 엇갈리고 있다. 앤트로픽의 다리오 아모데이 최고경영자(CEO)와 오픈AI의 올트먼 등 일부 업계 관계자들은 AI의 안전성과 위험에 대한 정부의 감독 필요성을 주장해왔다. 트럼프 대통령은 이에 반대하는 입장이다.


◎공감언론 뉴시스 [email protected]