"해킹된 로봇이 흉기로 돌변"…'피지컬 AI' 보안 특별법 서둘러야

[서울=뉴시스]심지혜 기자 = # 중국 로봇 기업 유니트리의 로봇은 300초마다 중국 서버로 센서 데이터를 보낸다고 한다. 미국 잔디깎이 로봇 야르보는 백도어(보안 구멍)가 뚫려 약 1만 km 밖에서도 누군가 원격으로 카메라를 엿보고 조종할 가능성이 있었던 것으로 나타났다.

인공지능(AI)이 온라인을 넘어 현실 세계의 물리적 시스템을 직접 제어하는 '피지컬 AI(Physical AI)' 시대가 다가왔다. 생활 공간을 누비는 로봇이 해킹으로 오작동할 경우 끔찍한 인명 사고로 이어질 수 있다는 지적이다. 이에 피지컬 AI의 안전과 보안을 규정할 특별법 제정이 시급하다는 목소리가 커지고 있다.

20일 김장겸 국민의힘 의원실 주최로 열린 '피지컬 AI 시대, 일자리와 보안' 토론회에서 노병규 연세대 바른ICT연구소 교수는 이 같은 위험성을 강도 높게 경고했다.

노 교수는 피지컬 AI 보안을 기존 사이버 보안과 똑같이 취급해선 안 된다고 강조했다. 과거엔 해킹 피해가 데이터 유출이나 서비스 마비에 그쳤다. 하지만 피지컬 AI 시대엔 로봇, 자율주행차, 스마트팩토리 등 기기들이 직접 흉기로 돌변해 사람을 칠 수 있다.

노 교수는 "기존 해킹은 연결을 끊고 격리하면 그만이었다"며 "하지만 로봇은 자율적으로 움직이기 때문에 사람이 개입할 틈도 주지 않고 사람을 다치게 할 수 있다"고 설명했다. 똑같은 보안 취약점을 가진 제품군이 동시에 뚫리면 국가 인프라 전체가 마비될 수도 있다.

실제 위협은 빠르게 커지고 있다. 노 교수에 따르면 지난해 소프트웨어(SW) 보안 취약점(CVE) 발표 건수는 약 4만8000건으로 역대 최고치를 찍었다. 취약점 공개 후 실제 악성코드가 만들어지는 시간은 2020년 700일에서 최근 44일로 확 줄었다. 챗GPT 같은 고성능 AI가 취약점을 찾아내 악성코드를 스스로 짜내는 성공률은 87%에 달한다.

해결책은 무엇일까. 노 교수는 피지컬 AI 맞춤형 '특별법'을 첫 단추로 꼽았다. 현재 논의 중인 'AI 기본법'은 생성형 AI의 윤리 문제 등에 초점이 맞춰져 있다. 로봇 해킹이나 물리적 사고 같은 피지컬 AI 특유의 위험을 다루기엔 역부족이다.

사고가 났을 때 책임 소재도 명확히 해야 한다. 로봇 해킹으로 사람이 다치면 제조사와 운영자 중 누가 책임질지 법으로 정해야 한다는 것이다. 이를 위해 로봇 보안 인증 체계, 보안대응센터 신설, 데이터 해외 이전 사전신고제 등도 필수 과제로 제시됐다.

 군사 분야의 위협도 심각하다. 우크라이나나 중동 전쟁에서 보듯 로봇과 드론은 이미 핵심 무기가 됐다. 이런 군사 시스템이 해킹되거나 오작동하면 단순한 장비 고장을 넘어 작전 실패와 대규모 인명 피해로 직결된다.

특히 보안 검증 없는 외국산 피지컬 AI 도입은 잠재적인 스파이를 들여오는 것과 같다는 지적이다. 국제 사회에서 자율살상무기를 규제하려는 합의가 지지부진한 만큼, 한국이 먼저 주도적으로 피지컬 AI 보안 기준을 세워야 한다.

노 교수는 "피지컬 AI 보안은 국민 안전과 국가 안보를 좌우하는 핵심 인프라"라며 "전용 보안 체계와 국가 차원의 통합 거버넌스를 서둘러 구축해야 한다"고 거듭 강조했다


◎공감언론 뉴시스 [email protected]