사람이 작성한 일반 글, AI로 판단 오탐률 2%로 낮춰
[대구=뉴시스] 박준 기자 = 가짜뉴스를 막는 인공지능(AI) 포렌식 핵심 기술이 개발됐다.
2일 대구경북과학기술원(DGIST)에 따르면 전기전자컴퓨터공학과·인공지능전공 김영식 교수 연구팀은 인공지능(AI)이 작성한 글에 눈에 보이지 않는 고유의 디지털 워터마크를 정교하게 심어두고 텍스트가 훼손되거나 조작돼도 AI 생성 여부와 출처를 증명하는 가짜 방지 기술 BREW(브류·Block-wise Reliable Embedding for Watermarking)를 개발했다.
이번 기술은 향후 가짜 뉴스로 인한 사회적 혼란을 막고 디지털 저작권을 보호하는 글로벌 AI 포렌식 분야에서 핵심적으로 활용될 전망이다.
연구팀이 개발한 BREW는 글을 여러 조각(블록)으로 나눠 독립적으로 검증하고 문장의 미세한 변화를 추적하는 방식을 도입했다.
또 단어를 교체하거나 문장 구조를 교묘하게 비틀어 암호를 지우려는 악의적인 시도가 있더라도 윈도우 시프팅(Window-Shifting) 기법을 통해 정렬을 복구하여 워터마크를 완벽하게 추적해 낸다.
실제 실험 결과 BREW는 AI 생성 글의 10%를 동의어로 바꾸는 훼손 환경에서도 96.5%의 높은 탐지율을 유지했다.
200단어 정도의 비교적 짧은 글에서도 우수한 성능을 입증했으며 사람이 작성한 일반 글을 AI 생성 글로 잘못 판단하는 오탐률을 단 2% 수준으로 극적으로 낮췄다.
김영식 교수는 "이번 연구는 가짜뉴스로 인한 사회적 혼란을 막고 디지털 저작권을 보호하는 글로벌 AI 포렌식 분야에서 핵심적인 역할을 할 것"이라고 말했다.
한편 이번 연구는 DGIST 김영식 교수팀이 수행했다. 연구 성과를 담은 논문은 인공지능 분야 최고 권위 학회인 ICML 2026에 채택됐다.
연구팀은 이달 서울 코엑스에서 열리는 ICML 2026에서 해당 연구 결과를 발표한다.
이와 함께 이번 연구는 과학기술정보통신부 정보통신기획평가원(IITP)의 양자안전 보안인프라 전환 및 양자보안 검증 기술 개발 과제와 자율주행 차량 서비스 보호를 위한 V2X 무선통신 인프라 보안 핵심기술 개발 과제의 지원을 받아 수행됐다.
◎공감언론 뉴시스 [email protected]
