웜GPT로 피싱 문구 생성…"내년 AI 악용한 사이버 위협 증가"

[서울=뉴시스]최은수 기자 = 내년에는 생성형 인공지능(AI) 모델을 악용한 사이버 보안 위협이 더욱 늘어날 전망이다. 특히 사이버 범죄에 특화된 악성 AI 모델이 다양하게 활용될 것으로 예상된다.

과학기술정보통신부와 한국인터넷진흥원(KISA)은 이같은 내용을 담은 2025년 사이버위협 전망을 발표했다.

2025년에 예상되는 사이버 위협은 ▲공격자의 생성형 AI 활용 본격화 ▲디지털 융복합 시스템에 대한 사이버 위협 증가 ▲글로벌 환경 변화에 따른 사이버 위협 증가 가능성 ▲무차별 디도스 공격 증가 예상 등이다.

내년 생성형 AI를 악용한 사이버 위협은 더욱 늘어날 전망이다. 다크웹을 중심으로 사기GPT, 웜GPT와 같이 사이버 범죄에 특화된 악성 생성형 AI 모델이 다양하게 활용될 가능성이 있다. 또한 챗GPT와 같은 검증된 서비스를 활용해 맞춤형 스피어피싱 메일을 작성하거나 공격 도구(취약점 탐색, 침투 등)를 개발하는 등의 악용 사례가 증가할 것으로 보인다.

오픈AI에 따르면 러시아와 중국 등 일부 국가에서 인터넷상 여론 조작 및 정치적 선전을 위해 챗GPT를 사용한 것으로 나타났다.

특히 생성형 AI가 기업 내부 시스템과 연동돼 구축된 경우 민감 데이터의 노출과 오용 가능성이 커진다. 이에 따라 기업들은 안전한 생성형 AI 사용을 위해 도입 단계에서 보안을 내재화하고, 상시 모니터링 체계를 구축해 지속적으로 관리해야 한다고 과기정통부는 조언했다.

자율주행차, 스마트 빌딩·교통 시스템 등 디지털 융합기술이 널리 확산되면서 기업·기관 중심의 공격에서 자율주행차, 스마트팜 등 디지털 융복합 제품·서비스에 대한 사이버위협도 증가할 것으로 보인다.

특히 사물인터넷(IoT) 기기에 대한 사이버 위협이 꾸준히 증가하고 있다. 공격자는 보안이 취약한 IoT 기기를 탐색한 후 악성코드를 감염시키고 디도스(DDoS) 공격과 같은 사이버 공격에 봇넷(Botnet)으로 악용한다.

과기정통부는 "스마트시티, 디지털 융복합 시스템 및 서비스, IoT 기기 등에 대한 설계 및 개발 단계에서부터 사이버 위협으로부터 보호할 수 있는 보안을 내재화해 안전한 운영 환경을 보장할 필요가 있다"고 조언했다.

내년 우크라이나-러시아 전쟁 등 글로벌 분쟁 등이 심화될 경우 사이버 공격자(핵티비스트)들이 정부기관 디도스, 사회기반시설 등에 사이버 공격을 통해 사회적 혼란을 유발해 국민들의 불안을 가중시킬 수 우려가 제기된다.

미국의 친 가상자산 정책으로 비트코인 가치 변동성이 확대돼 국가배후 공격그룹과 사이버 범죄 조직의 활동이 증가할 것으로 예상된다. 이들은 가상자산 사업자, 블록체인 기업, 가상자산 이용자, 가상자산 거래소 등을 대상으로 한 공격이 집중될 것으로 보인다. 이에 기업들은 사이버 보안 체계를 상시 점검하고 협력사의 보안 역량을 강화해 대응 능력을 높여야 한다.

올해 디도스 공격 증가 추세를 고려할 때 내년에도 정부·공공 및 민간 기업을 가리지 않고 지속적인 증가할 것으로 보인다. 디도스 공격은 악성코드에 감염된 단말기를 이용해 대규모 트래픽을 발생해 기업에서 운영 중인 서버의 자원이나 네트워크 대역폭을 고갈시키는 전통적인 사이버 공격 방식이다.

특히 최근에는 취약한 라우터 등 네트워크 장비를 악용해 대규모의 네트워크 트래픽을 유발하거나 데이터 유출 등 공격 사례가 나타나고 있어 기업들의 주의가 요구된다. 라우터와 같은 기업의 중요 네트워크 장비가 악성코드 감염 시 업무 장애나 중요 기밀 정보의 유출 등 심각한 피해가 발생할 수 있다.

올해 주로 발생했던 주요 사이버 보안 위협은 사이버 사기(스팸, 피싱 등)로 인한 국민 피해, SW 공급망 공격 등 복합적인 공격 전술 사용, 랜섬웨어 공격기법 고도화 등이 꼽힌다.

류제명 과기정통부 네트워크정책실장은 “국민과 기업들의 보안인식 제고와 일상속 사이버 위협에 대한 이용자 경각심 강화가 필요하다"라며 “고도화된 사이버위협에 체계적으로 대응할 수 있도록 더욱 유기적인 민간, 공공기관의 협력체계를 구축해 사이버위협의 선제적 방어와 억제를 통해 안전한 디지털 환경을 만들어 가겠다”고 말했다.


◎공감언론 뉴시스 [email protected]