日, 고성능 AI 기본계획 개정…위험AI 개발사에 벌칙 부과

[서울=뉴시스] 신효령 기자 = 일본 정부가 고성능 인공지능(AI)의 안보 위협에 대응하기 위해 AI 정책 지침을 개정한다. 고성능 AI가 사이버 공격과 딥페이크(허위 영상물) 등에 악용될 가능성이 커지자 안전성 검증을 강화하기로 했다.

19일 산케이신문 등 현지 언론에 따르면 일본 정부는 이 같은 내용을 담은 'AI 기본계획 개정안'을 마련했다. 의견 수렴 절차를 거쳐 다음 달 각의(국무회의)에서 개정안을 의결할 방침이다.

AI 기본계획은 일본 정부의 AI 개발과 활용, 안전성 확보 방향을 담은 국가 정책 지침이다. 일본은 지난해 12월 첫 기본계획을 정했지만, AI 성능 향상 속도가 예상보다 빨라지면서 반년 만에 개정 작업에 들어갔다.

이번 개정안은 고성능 AI의 사이버 공격 악용 가능성에 초점을 맞췄다. 미국 앤트로픽의 최신 모델 '클로드 미토스' 등 시스템 취약점을 탐지할 수 있는 AI가 등장하면서 금융, 통신, 전력 등 국가 주요 기반시설에 대한 위협이 커졌다는 판단에서다.

일본 정부는 위험 AI를 개발하고도 안전 대책을 소홀히 한 개발사에 벌칙을 부과하는 법률 제정도 추진할 방침이다. 실태조사나 행정지도만 가능했던 현행법의 한계를 보완하기 위해서다.

AI 안전성 평가 체계도 강화된다. 안전성 평가 기관인 AI안전연구소(AISI)의 인력과 역량을 확대하기로 했다. 해외 정부와 글로벌 AI 개발사와의 협력도 넓혀 고성능 AI의 악용 가능성을 더 빨리 파악할 방침이다.

딥페이크 대응도 주요 과제로 포함됐다. 일본 정부는 AI로 만든 가짜 영상과 음성을 판별하는 기술 개발을 지원하고, 경찰청을 중심으로 수사와 방어 역량을 높이기로 했다. 선거와 금융, 안보 분야에서 허위 영상이 악용될 가능성을 줄이기 위한 조치다.

일본 정부는 사람의 세부 지시 없이 스스로 업무를 수행하는 '자율행동형 AI'가 국가 경쟁력을 좌우할 것으로 보고 조기 실용화를 지원하기로 했다.

AI 의존에 따른 부작용도 다룬다. 개정안에는 AI 사용이 늘면서 인간의 사고력과 판단력이 약해질 수 있다는 우려를 반영해 교육 현장을 정비하는 방안이 포함됐다. 학생들이 AI 답변을 그대로 받아들이는 데 그치지 않고 스스로 질문하고 판단하는 능력을 기르도록 하겠다는 취지다.


◎공감언론 뉴시스 [email protected]