과기정통부·KISA, 'AI 보안 위협 대응 매뉴얼·레드팀 가이드' 발간
의도적으로 AI 공격해 약점 찾는 '레드팀' 운영 방법론 체계화
[서울=뉴시스]박은비 기자 = 인공지능(AI) 서비스의 보안 위협에 대응하고 현장 보안 점검 역량을 강화하기 위한 대응 매뉴얼이 나왔다.
과학기술정보통신부와 한국인터넷진흥원(KISA)은 'AI 보안 위협 대응 매뉴얼'과 'AI 보안 레드티밍 가이드'를 발간했다고 8일 밝혔다.
최근 AI 기술이 다양한 산업과 서비스에 빠르게 확산되면서 AI를 속이려는 공격이나 권한 오남용, 데이터 유출 등 새로운 유형의 보안 위협도 함께 증가하는 추세다. 특히 AI 보안 위협은 기존 정보보호 체계만으로는 충분히 검증하고 대응하기 어려운 특성이 있다.
이에 실제 공격자 관점에서 보안 취약점을 찾고 대응 방안을 마련하는 'AI 레드팀' 중요성이 부각되고 있다. AI 모델에 의도적으로 문제가 되는 행동을 유도해 취약점과 위험을 발견하는 팀이다.
이번에 나온 가이드 2종은 AI 환경에서 발생할 수 있는 주요 보안 위협과 사례를 체계적으로 정리했다. 또 실제 현장에서 활용할 수 있는 점검·대응 방안과 레드팀 운영 방안을 제시하는 데 중점을 뒀다.
특히 AI 보안 위협 매뉴얼에는 C-레벨급 경영진에게 AI 보안 위협 유형과 사례를, 실무자에게는 AI 보안 위협을 어떻게 진단하고 대응할지 구체적인 기준과 방안을 안내한다. AI 보안 레드티밍 가이드는 여러 산업을 아우루는 AI 레드팀 운영 방법론을 체계적으로 정리했다.
임정규 과기정통부 정보보호네트워크정책관은 "AI 기술 확산과 함께 보안 위협도 빠르게 진화하고 있다"며 "이번 가이드가 AI 서비스의 보안 수준을 높이고 현장에서 활용할 수 있는 실질적인 기준이 되길 기대한다"고 말했다.
◎공감언론 뉴시스 [email protected]
