[서울=뉴시스]고재은 기자 = 미국 의회가 인공지능(AI) 패권을 지키면서도 AI 위험에 대응하기 위해 기업들의 배상책임보험 가입 의무화, 내부 고발자 보호, AI 기업 간의 합의 등 4가지 변화를 도입해야 한다는 주장이 나왔다.

인공지능(AI) 대부로 알려진 요슈아 벤지오 캐나다 몬트리올대 교수와 로렌스 레식 하버드 로스쿨 교수는 13일(현지 시간) 공개된 영국 이코노미스트 '의회가 AI 재앙을 위해 해야 할 일은?' 제하 기고문을 통해 이같이 말했다.

이들은 "과학자들이 우려하는 문제를 피하면서도 AI 안전성을 전반적으로 향상할 접근 방식이 필요하다"며 "의회가 4가지를 개선하면 뒤따를 매우 복잡할 문제를 해결할 시간을 벌 수 있다"고 제안했다.

교수들은 가장 먼저 "주요 AI 기업들이 다 함께 AI 개발 속도를 늦추는 것을 명시적으로 동의할 수 있도록 허용해야 한다"고 주장했다.

기업 간 합의가 반독점법에 저촉될 수 있다는 우려가 제기된 만큼, 기업들이 반독점법 취지를 훼손하지 않는 한 책임을 피할 수 있도록 의회 차원에서 뒷받침해야 한다고 강조했다.

두 번째로는 "식품의약국(FDA)과 유사한 기관이 먼저 안전성을 인증할 때까지, 기업이 스스로 새로운 AI 모델을 설계하는 '재귀적 자기 개선(RSI) 기술'을 개발하는 것을 금지해야 한다"고 밝혔다.

적어도 일정 수준의 고성능 AI는 스스로 발전하면서 인간의 통제 범위를 빠르게 벗어날 수 있어서 개발을 제한해야 한다는 취지다.

다만 교수들은 "경계가 명확하지 않아 규제 당국은 신중하게 기준을 설정해야 할 것"이라고 덧붙였다.

아울러 AI 기업이 자신들의 기술로 발생하는 피해에 대해 책임져야 한다는 것을 명문화하고, 피해 배상 보험을 의무 가입해야 한다고도 주장했다.

민간 보험 시장만으로 AI가 야기하는 위험을 모두 보장할 수 없겠지만, 과거 정부가 원자력 발전 개발을 위해 보험 시장에 적극 개입하면 AI 보험 시장이 활성화될 것으로 내다 봤다.

의회가 규제 기관이나 안전 연구소에 AI 안전 문제를 제보하는 '내부 고발자'를 보호해야 한다는 의견도 있었다.

기존 내부고발자 보호 제도는 주로 범죄 행위에 적용되지만, 범죄에 해당하지 않는 AI 안전 관리 소홀까지 보호 범위를 확대해야 한다는 취지다.

교수들은 끝으로 규제가 미국과 패권 전쟁을 이어가는 중국에만 유리할 것이라는 주장을 반박했다.

이들은 "규제가 중국에만 도움될 것이라는 주장은 틀렸다"며 "중국 AI 기술 규제는 미국에서 고려 중인 어떤 규제보다 훨씬 엄격하다"고 짚었다.

이어 "우리가 제안하는 조치를 지금 시행하면 양측은 AI 안전에 대해 보다 진지한 논의를 시작할 수 있고, 미국은 중국처럼 AI 기술을 제조 및 개발 분야로 폭넓게 활용할 수도 있다"고 강조했다.

또 "공화당 의원도 4가지 변화에 동의할 것"이라며 찰스 그래슬리 공화당 상원의원, 데이비드 색스 대통령 과학기술자문위원회 공동위원장 등이 비슷한 의견을 지지한 바 있다고 덧붙였다.


◎공감언론 뉴시스 jeko@newsis.com