메일·카메라 다 맡긴 메타 AI비서, 명령 한 줄이면 공격 길 열렸다

[서울=뉴시스]박영환 기자 = 메타가 보안을 강점으로 내세운 개인형 인공지능(AI) 비서 ‘뮤즈(Muse)’의 맥용 앱에서 계정 통제권을 빼앗길 수 있는 제로데이 취약점이 발견됐다. 메타는 취약점이 공개된 뒤 긴급 패치를 내놨다.

22일(현지시간) 미국 정보기술 전문매체 아르스테크니카에 따르면 맥 운영체제 보안 전문가인 패트릭 워들 오브젝티브시(Objective-See) 재단 설립자는 뮤즈 맥용 앱에서 이 같은 취약점을 찾아 공개했다. 제로데이는 발견 당시 개발사의 수정 패치가 마련되지 않은 보안 취약점을 말한다.

뮤즈는 이용자를 대신해 예약을 잡고 양식을 작성하며 고객 서비스 업무를 처리하는 AI 에이전트다. 물건을 구매하고 이미지를 만들거나 문서를 작성할 수 있으며 이용자가 연결한 각종 앱과 서비스도 사용할 수 있다.

이런 기능을 수행하려면 일반 챗봇보다 훨씬 많은 권한이 필요하다. 맥용 뮤즈는 이용자의 허락을 받아 왓츠앱·이메일·캘린더·소셜미디어와 연결된다. 파일 저장이나 마이크·카메라 사용, 위치·일정 정보 등 맥OS가 별도로 보호하는 기능에도 접근할 수 있다.

문제는 뮤즈의 일부 비공개 설정을 다른 앱이나 실행 중인 코드가 자신의 권한 수준과 관계없이 바꿀 수 있는 구조였다는 점이다. 대부분은 화면 표시처럼 위험성이 크지 않은 설정이었지만, 그중에는 음성을 문자로 바꾼 데이터를 어느 서버로 보낼지 정하는 설정도 있었다.

뮤즈는 음성 명령을 처리할 때 통상 메타가 운영하는 서버로 데이터를 보낸다. 하지만 취약점을 악용하면 이 음성 처리 서버 주소를 공격자가 운영하는 서버로 바꿀 수 있었다.

이 과정에서 뮤즈 계정의 인증 토큰도 공격자 측 서버로 전달될 수 있었다. 인증 토큰은 이용자가 이미 로그인했다는 사실을 증명하는 일종의 디지털 열쇠로, 이를 확보하면 공격자가 해당 뮤즈 계정을 사실상 통제할 수 있다는 게 워들 설립자의 설명이다.

공격자가 자신의 서버를 뮤즈와 메타 서버 사이의 중간 경유지로 만들면 이용자가 보낸 명령에 악성 지시를 덧붙이는 것도 가능했다. 이 경우 공격자는 직접 복잡한 악성 프로그램을 만들지 않고도 뮤즈에 이미 부여된 광범위한 접근 권한을 이용해 기기와 연결 서비스에 접근할 수 있다.

워들 설립자는 실험에서 뮤즈를 이용해 맥에 악성 파일을 저장하거나 카메라로 사진을 찍는 데 성공했다고 밝혔다. 일부 경우에는 주의 깊은 이용자에게조차 별다른 경고가 나타나지 않았다고 설명했다.

다만 실제 공격에는 한 가지 전제조건이 있었다. 이 취약점만으로 외부 공격자가 인터넷을 통해 곧바로 이용자의 맥에 침입할 수 있었던 것은 아니며, 공격자가 먼저 피해자의 맥에서 코드나 명령을 실행할 수 있어야 했다.

워들 설립자는 이 조건도 충분한 방어벽은 아니라고 지적했다. 가짜 오류 해결 안내를 띄워 이용자가 공격자가 제시한 터미널 명령을 직접 실행하도록 유도하는 ‘클릭픽스(ClickFix)’ 수법을 이용하면, 이용자가 명령 한 줄을 실행하는 것만으로 앞서 말한 공격 조건을 충족시킬 수 있다는 것이다.

메타는 뮤즈를 내놓으면서 개인정보 보호와 보안을 처음부터 고려해 설계했다고 거듭 강조해 왔다. 마크 저커버그 메타 최고경영자(CEO)도 뮤즈가 “처음부터 개인정보 보호와 보안을 염두에 두고 만들어졌다”고 주장했다. 하지만 워들 설립자는 이번 취약점이 생길 수 있었던 배경으로 뮤즈의 설계 방식을 지목했다.

보안 취약점과는 별개로 아마존도 비슷한 시기에 뮤즈의 자사 쇼핑 사이트 접근을 차단했다. 뮤즈를 이용해 아마존에서 구매를 시도한 이용자에게는 뮤즈가 아마존 이용조건을 위반한 ‘승인되지 않은 AI 에이전트’라는 안내가 표시됐다. 아마존은 고객 대신 다른 회사에서 물건을 구매하는 제3자 앱이라면 제3자라는 사실을 투명하게 밝혀야 한다며, 메타에 뮤즈에서 아마존을 제외해 달라고 요청했다고 밝혔다.

워들 설립자는 이용자의 이메일과 카메라, 파일, 각종 계정에 폭넓게 접근하는 AI 에이전트에는 일반 앱보다 훨씬 높은 보안 기준이 필요하다고 강조했다. 그는 이런 앱이 완벽할 필요까지는 없지만 적어도 개발 초기부터 보안을 핵심 조건으로 삼아야 한다고 지적했다.

한편, 메타는 해당 취약점을 막는 긴급 패치를 배포했다. 메타는 이 취약점이 외부에서 곧바로 기기를 뚫는 ‘원격 공격’은 아니었다는 점도 강조했다.


◎공감언론 뉴시스 [email protected]