인기 AI 서비스 사칭 공격 9만2000건 이상 탐지
챗GPT 사칭 공격 가장 많아…악성코드 실행 유도
개발자 커뮤니티 '깃허브' 조차 유포 경로로 악용
기기 저장된 비번·가상자산 지갑 등 모조리 노려
"AI 유료 모델, 무료로 제공한다고 하면 의심해야"
[서울=뉴시스]박은비 기자 = 챗GPT·클로드·제미나이 등 '3대장 인공지능(AI)'을 사칭하는 악성코드가 확산되고 있어 주의가 요구된다. 공식 홈페이지를 그대로 옮긴 것처럼 가짜 다운로드 사이트를 만드는 식이다. 특히 유료 모델을 무료로 쓸 수 있는 것처럼 유인하는 것으로 나타났다.
11일 안랩 시큐리티 레터에 따르면 생성형 AI 서비스가 빠르게 확산되면서 이를 악성코드 유포 미끼로 삼는 공격도 늘어나는 추세다.
글로벌 보안업체 카스퍼스키는 올해 1월부터 5월 초까지 전세계에서 인기 AI 서비스나 AI 에이전트로 위장한 악성코드와 잠재적으로 원치 않는 애플리케이션(PUA) 관련 공격이 9만2000건 이상 탐지됐다고 공개했다. 이 중에서 챗GPT를 사칭한 공격이 49%로 가장 많았고, 클로드와 제미나이가 각각 18%를 차지했다.
공격자 입장에서 AI 서비스는 사용자의 관심을 끌기 좋은 미끼가 될 수 있다. 새로운 모델이나 기능, 데스크톱 앱과 개발 도구가 잇따라 등장하면서 사용자가 처음 접하는 프로그램을 직접 검색해 설치하는 경우가 많아져서다.
공격자는 실제 AI 서비스와 비슷한 로고와 화면을 사용하거나 다운로드 버튼을 배치해 정상 페이지처럼 꾸미고 악성코드를 실행하도록 유도한다.
AI 서비스 사칭 공격, 어디로 유입되나 했더니…대표 경로는 '검색'
가장 비중이 많았던 챗GPT 사칭 'openew[.]app'의 경우 OpenAI의 실제 다운로드 페이지와 유사한 디자인과 브랜딩을 사용하고 윈도우와 맥OS용 다운로드 버튼까지 제공한 것으로 파악됐다. 사용자가 운영체제에 맞는 버튼을 선택하면 정상 챗GPT 앱이 아니라 각각 다른 악성 파일이 다운로드됐다.
클로드 사칭 공격에서는 검색 광고가 이용됐다. 'claude app', 'claude desktop' 등의 키워드로 검색했을 때 피싱 사이트가 검색 결과 최상단에 노출되고, 해당 페이지 역시 클로드 공식 홈페이지처럼 정교하게 꾸몄다.
특히 다운로드 버튼을 누르면 설치 파일 대신 특정 명령어를 복사해 실행하도록 안내하는 팝업이 나온다. 사용자가 이를 그대로 실행하면 악성코드가 설치된다. 정상적인 설치 절차처럼 꾸며 사용자가 직접 악성 명령을 실행하게 만드는 걸 '클릭픽스(ClickFix)'라고 한다.
개발자들이 소프트웨어와 개발 도구를 찾는 깃허브(GitHub) 역시 AI 서비스 사칭 악성코드의 유포 경로로 악용되고 있다. 안랩은 지난 7월 제미나이, 클로드 코드, 코덱스, 그록 CLI 등 AI 개발 도구와 보조 툴을 사칭한 악성 ZIP 파일이 깃허브 저장소와 깃허브 페이지를 통해 유포되는 사례가 확인됐다고 했다.
공격자는 실제 사용자가 검색할 법한 도구명으로 저장소와 소개 페이지를 미리 만들어 정상 프로젝트처럼 꾸민 뒤 다운로드 링크를 악성 ZIP 파일로 연결했다. 이 때문에 프로젝트 소개와 설치 방법 등을 담은 안내 페이지(README)가 정상 프로젝트처럼 꾸며져 있더라도 안전한 프로그램이라고 생각해서는 안 된다는 게 안랩 설명이다.
기기 저장된 자격증명·가상자산 지갑 노린다…"공식 배포 이용해야"
클로드 무료 데스크톱 앱으로 위장한 악성코드(RevStealer)는 브라우저 데이터와 세션 쿠키, 윈도우 자격 증명 관리자, 비밀번호 관리자, 가상자산 지갑뿐 아니라 VPN 및 원격 접속 자격증명, 메시징 애플리케이션 데이터와 사용자 문서 등을 수집 가능한 것으로 알려졌다.
가짜 챗GPT 사이트를 통해 맥OS 사용자에게 전달된 악성코드(Odyssey Stealer) 역시 브라우저 비밀번호와 쿠키, 텔레그램 세션, 가상자산 지갑 및 민감 파일 등을 노린 것으로 파악됐다.
이같은 피해를 당하지 않으려면 AI 서비스와 관련된 프로그램은 서비스 제공업체의 공식 홈페이지나 공식 앱스토어에서만 다운로드해야 한다. 개발 도구 역시 검색으로 발견한 임의의 깃허브 저장소가 아니라 개발사가 안내하는 공식 프로젝트와 배포 경로를 이용할 필요가 있다.
또 유료 모델이나 기능을 무료로 제공한다면서 별도의 프로그램이나 파일 설치를 요구한다면 일단 의심해야 한다. 공식 서비스와 무관한 깃허브 저장소나 웹사이트에서 배포하는 데스크톱 앱은 실행 전 출처를 반드시 확인하는 게 좋겠다.
가짜 AI 서비스가 검색 광고 등을 통해 결과 상단에 노출된 사례도 있기 때문에 검색 순위나 익숙한 로고만 믿는 것도 경계해야 한다.
마지막으로 출처가 불분명한 AI 프로그램을 이미 실행했다면 해당 파일을 삭제하는 것만으로는 불충분하다. 감염되지 않은 기기에서 주요 계정 로그인 상태를 종료하고 비밀번호를 바꾼 뒤 노출 가능성이 있는 API 키 등 인증 정보도 교체해야 한다. 업무용 PC라면 바로 IT·보안 담당자에게 알려서 해결할 필요가 있다.
◎공감언론 뉴시스 [email protected]
