[서울=뉴시스]박시은 인턴 기자 = 국민대학교는 인공지능학과 김민규 교수가 안전한 콘텐츠 생성 인공지능(AI)을 위한 프레임워크를 개발해, AI 분야 세계 3대 우수 학회인 'ICLR 2026'의 구두발표(Oral) 부문으로 채택됐다고 17일 밝혔다.

김 교수는 이미지·비디오 생성 AI의 대표 기법인 확산 모델(Diffusion Model)과 플로우 매칭(Flow Matching)을 통합한 '세이프티-가이디드-플로우(SGF·Safety-Guided Flow)'를 제안했다.

그는 기존의 대표적 안전 생성 기법인 실디드 디퓨전(Shielded Diffusion)과 세이프 디노이저(Safe Denoiser)가 각각 '최대 평균 불일치(MMD)' 포텐셜의 특수한 사례임을 이론적으로 증명했다. 이를 통해 그간 파편화돼 있던 안전 생성 연구들을 하나의 통합 프레임워크로 체계화했다.

또한 안전한 생성을 위해 집중 관리가 필요한 '임계 시간 창(Critical Time Window)'의 존재를 규명했다. 생성 초기에는 유해 요소가 섞이지 않도록 강력한 제어를 가하고, 이미지가 어느 정도 형상화된 후에는 제어를 완화해 생성 효율을 높이는 원리다.

SGF를 적용한 모델은 ▲유해 콘텐츠 방어 ▲학습 데이터 암기 방지 ▲저작권 보호 등 다양한 안전 생성 시나리오에서 기존 기법 대비 우수한 성능을 보이며, 생성 AI의 안전한 실용화를 위한 핵심 기반 기술로서의 가능성을 확인했다.

김 교수는 "향후 확산 모델과 플로우 매칭 모델이 자율주행, 의료, 콘텐츠 생성 등 고위험 영역에 실용화되는 과정에서 안전성을 보장하는 핵심 기반 기술로 활용될 수 있을 것"이라고 밝혔다.

한편 이번 연구는 정보통신기획평가원(IITP)과 캐나다 고등연구소(CIFAR)의 지원을 받아 진행됐으며, 김 교수가 제1저자로 참여하고 캐나다 브리티시컬럼비아대학교(UBC)의 김영헌·박미정 교수가 공동 참여했다.


◎공감언론 뉴시스 xieunpark@newsis.com