"AI 폭주 막을 가드레일 필수…데이터 주권 수호의 핵심"

[서울=뉴시스] 신효령 기자 = "인공지능(AI)이 데이터를 다루는 과정에서 발생할 수 있는 오작동이나 권한 남용을 막기 위한 '가드레인'이 반드시 필요하다."

윤도웅 팔란티어 코리아 국방사업개발실장은 17일 서울 코엑스에서 열린 '제32회 정보통신망 정보보호 컨퍼런스(NetSec-KR 2026)'에서 'AI 대전환기 데이터 주권 확립과 지능형 보안 아키텍처' 주제 강연을 통해 이같이 밝혔다.

윤 실장은 AI 에이전트가 우리 업무의 핵심 파트너로 급부상하고 있는 현실을 짚었다. 과거에는 인간이 데이터를 직접 분석하고 보고서를 작성했다면, 이제는 AI가 방대한 데이터를 훑어보고 논리적 근거를 찾아 결과물을 내놓는다.

그는 "AI가 어떤 데이터를 참조했는지, 어떤 논리를 바탕으로 추론했는지, 그리고 결과적으로 어떤 도구를 사용해 액션을 취했는지를 인간이 완벽하게 파악하고 통제할 수 있어야 한다"고 역설했다. 만약 AI가 권한이 없는 민감 데이터에 접근하거나, 잘못된 근거로 의사결정을 내린다면 그 피해는 걷잡을 수 없기 때문이다. AI의 모든 활동 경로를 투명하게 관리하는 '지능형 가드레인'이 데이터 주권의 핵심 요소라고 설명했다.

윤 실장은 데이터 주권의 패러다임 전환 중요성을 강조했다. 과거의 주권이 데이터를 물리적으로 어느 국가, 어느 서버에 저장하느냐는 '영토적 관점'에 머물렀다면, 이제는 데이터에 대한 '실질적 지배권'을 확보하는 것이 핵심이라는 것이다.

그는 데이터 주권 확립을 위한 3단계 로드맵을 제시했다. 첫 단계는 외부 위협으로부터 데이터를 지키는 '보호'다. 이어 누가 데이터를 보고 분석하며 변형할 수 있는지 세밀하게 관리하는 '통제' 단계를 거쳐야 한다.

최종적으로 데이터를 통해 새로운 인사이트를 도출하고 의사결정에 반영하는 '활용' 단계에 이르러야 비로소 주권이 완성된다고 설명했다. 윤 실장은 "데이터가 단순히 어디에 위치해 있는지를 넘어, 그 데이터에 대한 완벽하고 융통적인 통제권을 가질 때 진정한 주권 확립이 가능하다"고 덧붙였다.

AI 시대가 도래하며 보안의 양상은 더욱 복잡해졌다. 특히 생성형 AI는 사이버 공격의 진입장벽을 획기적으로 낮췄다. 윤 실장은 "과거에는 소수의 전문가만 가능했던 정교한 사이버 공격을 이제는 의도만 있다면 전문 지식이 없는 일반인조차 감행할 수 있게 됐다"며 "공격자 그룹이 비약적으로 확장된 환경에서 기존의 보안 전략은 전면 수정돼야 한다"고 강조했다.

그는 기존 보안 체계를 '성벽 중심 방어'에 비유했다. 성문만 잘 걸어 잠그면 내부가 안전할 것이라는 가정이 과거의 핵심이었다면, AI 시대에는 이러한 전제가 더 이상 유효하지 않다는 것이다. 윤 실장은 "성벽만 칠 것이 아니라, 성 안의 집집마다 도어락을 설치하고 문을 열 때마다 검증해야 한다"며 '제로 트러스트' 아키텍처의 중요성을 강조했다.

제로 트러스트의 핵심은 '이미 침투당했다'는 가정이다. 사용자와 시스템을 기본적으로 신뢰하지 않고 모든 접근 행위를 지속적으로 검증하는 방식이다. 이를 구현하기 위해 윤 실장은 내부 네트워크를 세분화해 접근 영역을 최소화하는 '마이크로 세그멘테이션' 전략을 제시했다.

같은 조직 내에서도 부서, 프로젝트, 사용자 역할에 따라 권한을 철저히 분리함으로써, 설령 한 곳이 뚫리더라도 피해가 전체 시스템으로 확산되는 것을 원천 차단해야 한다는 것이다. 또한, 데이터가 이동 중일 때는 물론 저장된 상태에서도 이중·삼중의 암호화를 적용하고, 민감 정보의 경우 사용자가 직접 암호화 키를 관리하는 방식이 중요해질 것으로 전망했다.

윤 실장은 AI를 역이용하는 '지능형 보안'의 청사진을 제시했다. AI가 위협의 대상이기도 하지만, 동시에 데이터를 지키는 가장 강력한 방패가 될 수 있다는 논리다.

그는 "단순히 AI로부터 데이터를 보호하는 단계에 머물지 않고, AI를 활용해 보안 업무를 자동화하고 고도화된 사이버 위협을 실시간으로 탐지하는 체계를 구축해야 한다"고 말했다. 반복적인 보안 관제 업무를 AI가 대신 수행하고, 인간은 보다 고차원적인 보안 전략에 집중하는 구조다.

데이터 보안의 큰 숙제는 관리의 어려움이다. 윤 실장은 "대부분의 기관에서 사이버 보안이나 데이터 주권을 담당하는 인력은 1~2명에 불과하다"며 "이들이 일당백 역할을 하려면 데이터의 흐름과 보안 현황을 한눈에 파악할 수 있는 완전한 가시성이 필수"라고 제언했다.

윤 실장은 "AI 대전환기는 우리에게 위협인 동시에 데이터 주권을 한 단계 진화시킬 절호의 기회"라며 "철저한 가드레인 아래 보호와 통제, 지능형 활용이 조화를 이루는 보안 아키텍처를 구축해야만 AI 시대의 진정한 승자가 될 수 있을 것"이라고 강조했다.


◎공감언론 뉴시스 [email protected]