AI 위험해지면 강제 정지…美 의회 '킬스위치' 도입론(종합)

[서울=뉴시스]박영환 기자 = 미국 의회에서 위험한 행동을 하는 인공지능(AI)을 강제로 멈추는 '킬스위치'와 AI 전담 감독기구를 도입하자는 제안이 잇따랐다.

미국 월스트리트저널(WSJ)은 10일(현지시간) 로 칸나 민주당 하원의원이 전날 원자력·항공 분야의 감독기관과 유사한 연방 AI 규제기관을 신설하자고 제안했다고 보도했다. 칸나 의원은 AI 시스템이 위험하게 작동할 때 이를 정지시키는 킬스위치 도입도 지지했다.

이번 논의는 미 AI 기업 앤트로픽을 떠나는 제이컵 콕슨 연구원의 경고가 확산한 가운데 나왔다. 콕슨 연구원은 앤트로픽과 경쟁사들이 스스로 통제할 수 없게 될 시스템을 만들고 있다고 주장했다. WSJ은 이 경고가 공화·민주 양당의 우려를 키웠다고 전했다.

오픈AI가 지난달 26일 공개한 자료에 따르면, 7월 내부 사이버보안 평가 도중 AI 모델들이 인터넷 접속 제한을 우회해 다른 AI 기업 허깅페이스의 시스템에 침입했다. 당시 시험 환경에는 외부 서비스보다 안전장치가 적게 적용돼 있었다. 오픈AI는 이후 연구용 시스템의 격리와 인터넷 접근 통제를 강화하고 있다고 설명했다.

WSJ에 따르면 조시 홀리 공화당 상원의원이 이끄는 상원 소위원회가 이 사건을 조사하고 있다. 홀리 의원은 샘 올트먼 오픈AI 최고경영자(CEO)에게 조사 사실을 통보했고, 리처드 블루먼솔 민주당 상원의원도 9일 올트먼 CEO에게 관련 정보를 요구했다.

이와 함께 공화당 소속 테드 크루즈 상원 상무위원장과 에이미 클로버샤 민주당 상원의원은 AI가 초래할 수 있는 핵·생물학적 위협에 대응하는 초당적 법안 논의에 힘을 싣고 있다. 클로버샤 의원이 준비 중인 법안은 개발사가 정부 전문가와 함께 AI 모델의 안전성을 검증하고 시험하도록 하는 내용이다.

버니 샌더스 무소속 상원의원과 일부 진보 성향 정치인들은 가장 뛰어난 인간의 지능을 넘어서는 이른바 '초지능' AI를 금지하자고 요구했다.

WSJ은 관계자들을 인용해 민주당 하원의원들이 지난주 하킴 제프리스 민주당 하원 원내대표와 의회 내 AI 특별위원회 설치 가능성을 논의했다고 전했다. 중간선거에서 민주당이 하원 다수당을 차지할 경우를 전제로 한 구상이다.

AI 산업에 비교적 느슨한 규제 기조를 유지해 온 도널드 트럼프 대통령도 앞서 킬스위치 등 안전조치에 찬성한다는 입장을 보였다. 다만 과도한 규제가 미국의 기술 경쟁에 불리하게 작용할 수 있다고 경고했다.

위험 경고의 배경을 둘러싼 정치적 공방도 벌어졌다. 크루즈 위원장과 데이비드 색스 백악관 AI 자문역은 콕슨 연구원이 진보 진영을 지원하는 비영리단체들과 공조한 것 아니냐는 의문을 제기하는 게시물을 소셜미디어에 공유했다. 일부 업계 우호 인사들은 이번 경고가 민주당의 강력한 규제 추진에 힘을 실으려는 캠페인이라는 의혹을 제기했다.

이에 콕슨 연구원은 회사를 떠나기로 한 것은 자신의 결정이라고 말했다. 앤트로픽도 자사의 정책·안전 관련 활동은 진정성 있는 노력이며 AI의 위험은 실재한다는 입장을 앞서 내놓았다.

기업들이 원하는 규제 방식도 서로 다르다. 오픈AI 등은 감독과 합리적인 규칙을 환영한다는 입장이지만, WSJ은 이들 기업이 비공개로는 지나치게 부담스럽다고 보는 조치에 반대해 왔다고 전했다. 상대적으로 강한 규제를 제안해 온 앤트로픽은 다른 기업들과 자주 입장이 엇갈렸다.

WSJ은 의회에서 제안이 쏟아져도 AI 모델을 감독하는 연방법 제정으로 이어질지는 불투명하다고 진단했다. 과거에도 실무그룹이나 새 위원회를 통해 AI 정책 논의를 진전시키려 했지만 기본 구상과 로드맵을 넘어 입법으로 이어지지 못했다는 것이다.


◎공감언론 뉴시스 [email protected]