앤트로픽, AI 안전성 외부 검증 확대…직원 수준 접근권 부여

[서울=뉴시스]고재은 기자 = 앤트로픽이 자사 인공지능(AI) 모델의 위험성을 평가하는 외부 기관에 직원 수준의 접근 권한을 부여했다. AI 기술이 인간의 통제 불능 수준까지 발전할 수 있다는 우려에 대응해 안전 장치를 강화하고 있다.

15일(현지 시간) 파이낸셜타임스(FT)에 따르면 비영리 단체 METR(Model Evaluation and Threat Research)은 현재 앤트로픽 사무실에 상주하고 관련 하드웨어와 내부 시스템에 접근할 수 있는 3등급 권한을 부여받았다.

앤트로픽은 평가 기관 분류를 3단계로 나눴는데, 3등급은 직원과 유사한 접근 권한이 있다. 1등급은 제한된 범위의 위험 조사를 수행할 수 있으며, 2등급은 앤트로픽 승인 없이 보고서를 발표할 수 있다.

앤트로픽은 현재 METR 직원 6명을 상주시켜 회사 장비, 사무 공간, 자체 위험 평가팀이 사용하는 것과 거의 동일한 수준의 내부 접근 권한을 제공하고 있다.

다만 회사가 직접 METR에 자금을 지원하지는 않는다. METR은 개인·자선 단체 기부금이나 영국의 AI보안연구소 같은 정부 기관의 지원금으로 운영된다.

METR은 추후 앤트로픽 승인 없이 분석 결과를 발표할 수 있지만, 앤트로픽이 고객 데이터와 변호사 비밀유지권이 적용되는 정보, 모델 아키텍처(설계도)에 대한 세부 정보 등 민감한 정보는 삭제하도록 요구할 수 있다.

앤트로픽은 화학·생물학 무기 검토에 대해서는 1등급 독립 평가기관 시큐어바이오(SecureBio)와 협력하고 있다.

앤트로픽은 "우리는 평가자를 자발적으로 참여시키고 모든 AI 기업이 그렇게 해야 한다"고 밝혔다. METR은 "우리는 대중에게 더 나은 증거를 제공하기 위해 모든 첨단 AI 개발자들과 협력할 준비가 돼 있다"고 전했다.

이번 발표는 지난 9월 다리오 아모데이 앤트로픽 최고경영자(CEO)가 AI 위험성을 경고하며 '개발 속도조절론'을 꺼낸 가운데 이뤄졌다.

아모데이 CEO는 당시 AI 모델의 안전성을 보장하고자 외부 감사인을 배치해야 한다고 주장했고, 샘 올트먼 오픈AI CEO 등도 동의했다. 다만 오픈AI는 앤트로픽처럼 구체적인 평가 기관 배치 계획을 발표하지 않았다.

9월 말 도널드 트럼프 미국 대통령이 AI 기업과 체결한 '자발적 협약'에도 독립적인 외부 감사 기관이나 평가 기관과 협력할 것을 권장하는 내용이 포함됐다.

앤트로픽은 이날 "모델 성능이 향상됨에 따라 더욱 강력한 안전 장치와 까다로운 위험 평가가 필요해졌다"며 "우리는 내리는 모든 결정에 대해 공개적으로 책임을 지고자 하지만 안전 관련 모든 정보를 공개할 수는 없다"고 전했다.

또 "정보를 공개적으로 공유하는 것은 악의적인 단체나 경쟁 업체에 유리할 뿐"이라며 평가 시스템은 규제 당국이 대형 은행 내부에 상주 검사관을 배치하는 방식과 유사하게 운영될 것이라고 강조했다.


◎공감언론 뉴시스 [email protected]