[서울=뉴시스]박은비 기자 = 인공지능(AI)이 만든 가짜 영상과 음성이 실제처럼 정교해지면서 진짜와 가짜의 경계가 흐려지고 있다. 가짜를 진짜로 믿는 것도 문제지만, 진짜를 가짜로 의심하는 상황도 적지 않다. 이에 국립과학수사연구원(국과수)이 기술 고도화와 함께 진실을 가려내는 데 주력하고 있다.

박남인 국과수 공업연구관은 지난 11일 개최된 제4회 코리아 디지털포렌식 서밋(K-DFS 2026)에서 'AI가 만들어낸 디지털 콘텐츠, 진짜와 가짜를 어떻게 구별할 것인가'를 주제로 발표했다. 국과수는 지난해 대통령선거부터 딥페이크 관련 감정 업무에 본격적으로 뛰어들었다.

박 연구관은 "국과수에 감정이 들어온 내용을 살펴보면 디지털 성범죄 관련된 게 압도적으로 많다"며 "청소년들 사이에서 카카오톡이나 인스타그램의 프로필을 이용해 나체 사진을 만들어 단체채팅방에 공유하는 유형의 문제들이 많이 있다"고 말했다.

딥페이크 악용 범죄는 디지털 성범죄에 그치지 않는다. 유명인의 얼굴과 목소리를 합성해 투자 광고를 만들고 돈을 가로채는 사기, 가족이나 지인의 목소리를 복제해 송금을 유도하는 보이스피싱도 존재한다.

화상회의에서 기업 임원의 얼굴과 목소리를 실시간으로 합성해 송금을 지시하거나, 후보자의 허위 발언을 담은 영상과 음성을 만들어 유포하는 사례도 있다. 반대로 실제 증거를 AI로 조작한 것이라고 주장하며 진위를 흐리는 경우도 마찬가지다.

◆눈으로 구별하기 어려워진 딥페이크…진짜도 가짜로 의심받는다

딥페이크 영상의 완성도는 빠르게 높아지고 있다. 박 연구관은 "딥페이크로 제작된 영상 퀄리티가 예전보다 굉장히 높아졌다"며 "요새는 텍스트 하나만으로 오디오와 비디오를 전부 생성할 수 있는 시대가 와서 육안으로 보이는 어색한 특징들이 최근에 많이 사라졌다"고 언급했다.

이런 생성 기술이 등장하면서 수사기관이 마주한 문제도 두갈래다. 그는 "가짜인데 진짜로 둔갑한 경우, 진짜인데 가짜로 보는 경우 두가지 모두 수사기관이 입증해야 하는 부담이 있다"며 "조작 여부를 확인하려면 가장 먼저 필요한 게 무결성 입증이고 그 다음이 파일 자체를 분석해 조작 흔적을 찾는 것"이라고 짚었다.


이때 핵심 단서 중 하나가 메타 정보다. 여기에는 영상이나 사진 파일에 기록된 촬영 시점과 촬영 기기 정보 등이 담겨있다. 파일이 편집되거나 변형되면 이런 정보에도 변화가 생길 수 있어 조작 여부를 판단하는 단서가 된다.

박 연구관은 "깨진 메타 정보로 조작인지 아닌지 판단할 수 있는데 이를 판단하기 위해 중요한 건 대조 파일"이라며 "딥페이크 같은 경우 원본이 있는 경우도 있지만 온라인 상에 올라있는 정보를 분석하는 경우가 많아 분석에 어려움이 있다"고 설명했다.

특히 사회관계망서비스(SNS)에 올라온 영상은 여러 차례 전송되면서 파일이 반복적으로 압축될 수 있다. 이 과정에서 원래 파일에 담긴 정보가 손상되면 딥페이크 탐지 성능도 떨어질 수 있다.

국과수는 이런 한계를 극복하기 위해 국가 연구개발(R&D) 과제를 진행하고 있다. 한국전자기술연구원, 경찰대, 카이스트 등과 함께 연구 과제를 수행 중이다.

◆원본 파일 확보부터 분석 쟁점 설정까지…수사 현장 6가지 원칙

박 연구관은 수사 현장에서 지켜야 할 6가지 원칙도 제시했다. 첫째는 화면을 녹화하거나 캡처한 파일, SNS에서 다시 내려받은 파일보다 처음 만들어진 원본 파일을 확보해야 한다.

둘째는 파일을 확보한 즉시 해시값을 기록하는 일이다. 나중에 파일이 바뀌지 않았다는 점을 입증할 수 있어야 한다.

셋째, 영상이나 음성이 퍼진 경로를 남기는 것이다. 게시물 주소(URL)와 계정, 게시 시각, 관련 화면 등을 함께 보존해야 유포 과정을 추적할 수 있다.

넷째, 가능하다면 촬영이나 영상 생성에 사용된 기기도 확보하는 게 좋다. 다섯째, 영상 속 인물이 실제로 촬영된 당사자인지 확인할 수 있도록 해당 인물의 실제 영상이나 음성 자료도 확보할 필요가 있다.

마지막으로 수사에 앞서 무엇을 밝혀야 하는지 명확히 정해야 한다. 영상이 AI로 합성됐는지를 확인하려는 것인지, 영상 속 인물이 특정 인물과 동일한지를 확인하려는 것인지에 따라 필요한 증거와 분석 방법이 달라지기 때문이다.

박 연구관은 "딥페이크 연구를 해본 분들은 알겠지만 공개된 데이터 대부분이 전부 미국, 중국 데이터라 한국에 특화된 데이터가 필요하다"며 "데이터를 수집할 때 개인정보 이슈도 있는데, 이를 다루는 표준과 검증 체계가 자리잡아야 하는 과제가 있다"고 덧붙였다.


◎공감언론 뉴시스 silverline@newsis.com