"트럼프 AI 사전검증 체계 윤곽…美오픈웨이트 모델 제외"

[서울=뉴시스]고재은 기자 = 도널드 트럼프 미국 행정부가 첨단 인공지능(AI) 모델을 사전 평가하기 위한 자발적 프레임워크(체계)를 사실상 마련한 가운데, 개방형(오픈 소스) 모델은 검토 대상에서 제외된 것으로 알려졌다.

4일(현지 시간) 월스트리트저널(WSJ) 등에 따르면 트럼프 행정부는 사이버 보안 및 해킹 분야에서 최첨단 기능을 갖춘 미국 내 폐쇄형·독점형 AI 모델만을 출시 전 검토할 예정이다.

사용자가 모델 가중치를 내려받아 원하는 방식으로 수정·활용할 수 있는 '오픈 웨이트(가중치 개방형)' 모델 등은 검토 대상에서 제외됐다.

이번 프레임워크는 지난 6월 행정명령에 따른 것으로, 당시 트럼프 대통령은 AI 보안 위험에 대응하기 위해 최첨단 모델 출시 전 정부의 자발적인 안전 검증을 받도록 했다. 

참여는 자율이지만, 업계에서는 사후 발생할 문제에 대한 책임 등을 고려하면 정부 검토를 거치지 않기는 사실상 쉽지 않을 것으로 보고 있다.

WSJ은 "엔비디아 등 오픈 웨이트 모델 개발사들은 당장 적용 대상에서 제외된다"며 "다만 모델 성능이 향후 강력해지면 검증에 포함될 수 있다"고 풀이했다.

전문가들은 오픈 웨이트 모델을 검토 대상에서 제외한 것은 혁신을 저해하지 않으면서도 AI 안전성을 확보하려는 절충안이라고 분석한다.

미국 정부는 AI가 인간의 통제를 벗어나 자율적으로 시스템을 해킹하는 사고에 대응하는 동시에, 문샷 AI의 키미 K3 등 중국 오픈 웨이트 모델의 급성장에 맞서 기술 경쟁력도 유지해야 하는 과제를 안고 있다는 것이다.

미국 인터넷 매체 액시오스는 소식통을 인용해 "정부가 기업들에 초기 개발 단계보다 공개 직전 단계에 있는 모델을 공유하도록 권고했다"며 "상대적으로 성능이 낮은 모델을 개발하는 다수 기업은 프레임워크 적용 대상에서 제외될 가능성이 크다"고 전했다.

구체적인 평가 절차와 기준은 상당 부분 비공개로 유지될 전망이다. 최첨단 모델 기준, 신뢰할 만한 파트너 조건 등은 아직 알려지지 않았다.

백악관은 이날 주요 AI 기업들과 실무 회의를 열고 프레임워크 내용을 검토한 것으로 알려졌다.


◎공감언론 뉴시스 [email protected]