[서울=뉴시스]최은수 기자 = 경찰이 딥페이크 등 인공지능(AI)을 악용한 범죄에 대응하기 위해 영상과 음성, 문자를 종합적으로 분석하는 차세대 탐지 시스템 구축에 나선다. 전국 시도경찰청에는 AI 전문분석관을 배치해 조작물 탐지와 범행 과정 분석을 강화한다.

경찰청 국가수사본부는 15일 이 같은 내용을 담은 'AI 불법 조작물 탐지·분석체계 고도화 기본계획'을 수립해 시행한다고 밝혔다.

이번 계획은 AI 악용 범죄가 딥페이크 성범죄를 넘어 명예훼손, 투자사기, 보이스피싱 등으로 확산하는 데 대응하기 위한 것이다. 경찰은 기술·시스템·인력·조직 등 4개 분야에서 8대 과제를 추진한다.

우선 영상과 이미지뿐 아니라 음성과 문자까지 함께 분석하는 '멀티모달(Multi Modal)' 기반 딥페이크 탐지 시스템을 구축한다.

기존에는 주로 영상과 이미지의 시각적 요소를 분석해 조작 여부를 판별했다면, 앞으로는 영상 속 입 모양과 목소리가 일치하는지, 음성과 자막의 내용이 맞는지 등을 종합적으로 확인하는 방식이다.

이를 위해 경찰은 지난해부터 2027년까지 3년간 총 91억원을 투입하는 '허위조작 콘텐츠 진위 여부 판별 시스템 개발' 연구사업을 진행하고 있다. 연구개발이 완료되면 경찰을 비롯한 모든 수사기관이 공동으로 활용할 수 있는 시스템 구축도 추진할 계획이다.

경찰은 2024년부터 해외에서 사용되는 딥페이크 탐지 시스템을 도입해 활용하고 있다. 현재는 한국인 특성에 맞는 학습 데이터를 적용해 탐지 성능을 개선하고 있다.

AI를 이용한 조작물 생성부터 유포까지 범행 전 과정을 추적하는 기술도 강화한다.

주요 생성형 AI 서비스의 프로그램 실행 이력과 명령어 기록을 분석하고, 조작에 사용된 프로그램을 식별하는 기법 등을 개발한다. 범행 과정에서 디지털 증거를 자동으로 추출하는 도구 개발도 추진한다.

이를 위해 올해부터 2029년까지 4년간 총 100억원을 투입하는 '로컬환경 인공지능 모델 대상 포렌식 기술개발' 연구사업을 진행 중이다.

인력과 조직도 보강한다. 전국 시도경찰청에 AI 조작물 분석을 전담하는 전문분석관을 배치하고 현장 수사관과 분석관을 대상으로 전문교육을 확대한다.

아울러 AI 조작물 탐지·분석 표준절차를 정립하고, AI 포렌식 국제표준 인증 획득도 추진한다. 민·관·학 전문가 그룹을 운영해 최신 기술 동향과 주요 탐지 사례, 신규 프로그램 분석 성과 등도 공유할 방침이다.

김종철 경찰청장 직무대행은 "AI를 이용한 범죄 수법이 빠르게 변하는 만큼 경찰의 대응도 달라져야 한다"며 "AI로 만든 가짜를 신속하게 찾아내는 것은 물론, 어떻게 만들어지고 유포됐는지까지 효과적으로 추적할 수 있는 첨단 수사 역량을 갖추겠다"고 말했다.


◎공감언론 뉴시스 eschoi@newsis.com