단국대 김선오 교수팀, AI 적대적 공격 방어 기술 개발

[용인=뉴시스] 이준구 기자 = 단국대학교 AI융합대학 김선오 교수팀이 서울시립대 엄대호 교수와 공동으로 인공지능(AI)의 신뢰성을 높이는 '적대적 공격(Adversarial Attack)' 방어 기술인 'MAC(Multi-View Guided Adaptive Counterattack)'를 개발했다고 20일 밝혔다.

적대적 공격 차단은 이미지 등에 미세한 변형을 주어 AI를 오작동하게 만드는 공격을 효과적으로 방어하는 것이다.

김 교수팀은 다각도 분석 및 보정을 통해 단일 이미지에 의존하던 기존 방식과 달리, 여러 이미지를 동시에 분석해 오염 정도를 추정하고 결과를 스스로 보정하는 기술을 개발했다.

또 기존 모델을 다시 학습시킬 필요 없이 추론 단계에서 즉시 적용 가능토록해 비용과 메모리 효율을 높였다.

김선오 교수는 "자율주행, 보안, 의료영상 등 높은 신뢰도가 필요한 분야에서 AI의 안전성을 확보하는 데 기여할 것"이라고 강조했다.

이번 연구 성과는 세계 최고 권위의 컴퓨터 비전 학술대회인 'CVPR 2026'에 채택됐으며, 오는 6월 공식 발표될 예정이다.


◎공감언론 뉴시스 [email protected]