[서울=뉴시스]박은비 기자 = 최근 발생한 사이버 침해사고의 상당수가 외부에 노출된 서버 취약점에 집중된 것으로 나타났다. 해커들의 취약점 탐색에 인공지능(AI) 활용이 본격화되는 가운데, 공격 표면도 넓어지는 추세다. AI에 입력한 명령어(프롬프트)나 개발자 플랫폼을 노린 새로운 형태의 해킹 공격도 조만간 본격화할 것이라는 경고가 나왔다.

12일 한국인터넷진흥원(KISA)에 따르면 올해 상반기 국내에서 신고된 사이버 침해사고는 총 1236건으로 집계됐다. 지난해 같은 기간(1034건)보다 약 19.5% 늘어난 수치다. KISA는 올해 연간 침해사고가 2500건에 육박할 것으로 내다봤다.

신고된 사고 가운데 39.4%는 서버 해킹이었다. 서버의 보안 약점을 악용하거나 계정 정보를 빼내 시스템에 몰래 들어가는 방식이다. 업종별로는 온라인 서비스와 IT 시스템을 운영하는 정보통신업이 전체의 44.7%로 가장 큰 비중을 차지했다.

특히 웹 취약점이나 원격 계정관리 악용 등 외부에 노출된 취약한 서비스 공격이 집중됐다. 외부에서 접근할 수 있는 시스템에 보안상 허점이 있거나 계정 관리가 제대로 이뤄지지 않을 때 침투 경로가 될 수 있다는 의미다. 공격자는 이런 취약점을 통해 시스템에 접근한 뒤 추가 정보를 확보하거나 다른 시스템으로 침투 범위를 넓히는 게 가능해진다.

◆서버 뚫고 계정 탈취…AI 확산에 프롬프트도 잠재적 표적

최근 주목해야 할 새로운 위협은 사람 아닌 프로그램이나 AI 에이전트가 사용하는 '디지털 신원(NHI)' 탈취다. 사람이 로그인할 때 쓰는 비밀번호뿐만 아니라, 시스템끼리 통신할 때 사용하는 인증 열쇠(API 키·액세스 토큰)까지 해커의 목표가 되고 있다.

기업의 서비스가 서로 연결되고 업무 자동화가 확대될수록 이런 인증정보의 중요성도 커진다. 여러 서비스가 연결된 환경에서 하나의 인증정보가 다른 시스템으로 침투하는 출발점이 될 수 있어서다.

AI 활용이 늘어나면서 프롬프트와 대화 기록 역시 보안 관점에서 살펴봐야 할 대상으로 떠오르고 있다. 프롬프트는 사용자가 AI에 입력하는 질문이나 명령, 업무 지시 등을 가리킨다.

기업이 AI로 문서를 작성하거나 코드를 개발할 때 내부 사업 정보나 주요 프로젝트 내용을 입력하는 경우가 많다. 이 기록이 외부로 유출되면 해커는 복잡한 과정 없이도 해당 기업의 내부 사정을 한눈에 파악할 수 있게 된다.

KISA는 조만간 기업의 AI 프롬프트를 전문적으로 노린 유출 공격이 늘어날 것으로 내다봤다. AI에 축적되는 정보의 양과 종류가 폭발적으로 증가하고 있기 때문이다.

개발자들이 널리 사용하는 코드 공유 플랫폼 '깃허브(GitHub)' 역시 주의가 필요한 영역이다. 소스코드나 설정 파일에 비밀번호, API 키, 액세스 토큰 등 인증정보가 포함된 채 공개되면 공격자가 이를 확보해 다른 시스템에 접근을 시도할 수 있다.

개발자들이 필수적으로 쓰는 코드 공유 플랫폼 '깃허브(GitHub)'도 비상이다. 소스코드 안에 비밀번호나 인증 열쇠가 들어간 채 실수로 공개되면, 해커가 이를 가져가 다른 내부 시스템을 공격하는 발판으로 삼는다.

◆자율성 커지는 AI 에이전트…정상 권한 악용도 경계해야

AI를 둘러싼 보안 문제는 정보 유출에 그치지 않는다. AI 에이전트가 스스로 판단해 외부 서비스와 연결되고 실제 업무를 수행하는 수준으로 발전하면서, AI의 권한을 어디까지 허용할지가 새로운 과제로 떠올랐다.

박용규 KISA 디지털위협대응본부장은 지난 8일 한국정보보호학회 워크숍에서 "AI가 서로 복잡하게 얽히면서 관리 난이도가 크게 늘었다"며 "AI의 자율성과 업무 범위를 사람이 어떻게 정하고 통제할지가 핵심 관건"이라고 지적했다.

AI는 방대한 보안 기록에서 이상 징후를 빠르게 찾아내는 보조 도구로 유용하게 쓰일 수 있다. 다만 AI의 분석 결과를 검증 없이 그대로 믿는 것은 위험하다.

박 본부장은 "AI 역할을 직접 결정을 내리는 '판정자'가 아니라 보조 분석가로 한정해야 한다"며 "AI가 제시한 결과를 그대로 믿지 말고 실제 데이터를 확인해 사람이 최종 판단을 내려야 한다"고 강조했다.

실제로 싱가포르 정보통신미디어개발청(IMDA)이 올해 발표한 AI 거버넌스 가이드라인도 이와 뜻을 같이한다. 고위험 행동은 반드시 사람의 승인을 거치도록 하고, AI 사용에 따른 책임 교육을 병행하도록 권고하고 있다.


◎공감언론 뉴시스 silverline@newsis.com