메타 "AI 비서 '뮤즈', 대신 결제해도 카드정보는 못 본다"

[서울=뉴시스]윤정민 기자 = 메타가 이메일 전송과 상품 구매·결제까지 대신하는 인공지능(AI) 에이전트 '뮤즈'에서 결제 기능과 신용카드 정보를 나누고 이용자의 말 한마디로 특정 사람이나 사물에 관한 과거 기록을 찾아 삭제할 수 있도록 했다.

메타는 이러한 조치로 AI가 개인정보와 계정 접근 권한을 넘겨받아 행동하는 과정에서 발생할 수 있는 개인정보 침해 위험을 줄였다고 강조했다.

스테파노 프라타 메타 프라이버시 정책 부사장은 29일 서울 서초구 엘타워에서 열린 '글로벌 AI 프라이버시 포럼'에서 "결제를 위한 별도의 경로를 마련해 에이전트가 이용자의 신용카드 정보를 보지 못하도록 했다"며 이같이 밝혔다.

뮤즈는 여러 앱과 웹사이트를 오가며 이용자가 지시한 업무를 수행하는 개인용 AI 에이전트다. 이달 초 북미에서 서비스를 시작했으며 이메일·메시지 전송, 일정 관리, 여행·식당 예약과 상품 구매 등을 수행한다.

메타는 뮤즈의 결제 기능을 위해 온라인 결제 인프라 기업 '스트라이프'와 손잡고 별도 결제 방식을 구축했다.

또 프라타 부사장은 "과거에는 이용자가 특정 인물과 관련한 사진과 정보를 직접 찾아야 했다면 이제는 에이전트가 맥락을 파악해 해당 정보를 삭제할 수 있다"고 말했다.

아울러 뮤즈는 개인정보 처리방침 등 관련 문서를 바탕으로 이용자의 정보가 어떻게 처리되는지 설명하는 역할도 한다. 이용자가 긴 개인정보 처리방침에서 필요한 내용을 직접 찾는 대신 AI에 질문해 답을 받을 수 있다는 설명이다.

프라타 부사장은 이러한 기능을 설명하던 중 뮤즈의 한국 지역의 조속한 출시 의지도 밝혔다. 그는 "미국에서 출시한 AI 에이전트가 한국에도 곧 출시되기를 바란다"며 "본사로 돌아가 한국 출시의 우선순위를 높이도록 최선을 다하겠다"고 말했다.

이번 포럼은 AI 혁신과 개인정보 보호를 조화시킬 방안과 개별 국가만으로 대응하기 어려운 개인정보 문제의 국제협력 방향을 논의하기 위해 마련됐다.

송경희 개인정보보호위원장은 "AI가 질문에 답하는 데서 우리를 대신해 행동하는 방향으로 빠르게 바뀌고 있다"며 "AI가 어떤 개인정보를 처리할 수 있는지를 넘어 우리의 정보와 권한을 얼마나 맡길 수 있는지를 물어야 한다"고 밝혔다.

송 위원장은 AI 에이전트가 개인정보와 계정에 지속해서 접근하고 상황에 따라 스스로 판단하는 만큼 일회성 동의만으로는 충분하지 않다고 봤다. AI가 무엇을 했고 왜 그렇게 판단했는지 확인하고 서비스 운영 과정에서 계속 감시할 수 있어야 한다는 설명이다.

개인정보위는 연내 에이전틱 AI 개인정보 보호 안내서를 발표한다. AI에 위임하는 권한과 외부 도구 연결, 기억 기능, 작업 기록 관리, 사람의 감독 등이 주요 검토 대상이다.

송 위원장은 "안내서가 새로운 규제를 만드는 것은 아니다"며 "기존 법이 에이전틱 AI에 어떻게 적용되는지를 명확히 해 기업에는 예측 가능성을, 이용자에게는 신뢰를 주는 것이 목표"라고 설명했다.

여러 AI 에이전트가 협업하다 문제가 발생했을 때 책임을 어떻게 나눌지는 중장기 과제로 남겼다. 송 위원장은 "복수의 에이전트가 함께 작동할 때 책임을 공정하게 배분하는 문제처럼 아직 답하기 어려운 사안은 국제 논의를 살피며 중장기 정책과제로 다루겠다"고 말했다.

해외 개인정보 감독기구와 글로벌 기업 관계자들은 AI 에이전트를 하나의 기술로 묶어 일률적으로 규제하기보다 구체적인 용도와 위험에 따라 규율해야 한다고 강조했다. 서비스 출시 이후 제재하는 데 그치지 않고 개발 단계부터 규제기관과 기업이 협력해야 한다는 의견도 나왔다.

프라타 부사장은 "규제 요건은 기술의 범주가 아니라 이용 사례의 위험을 따라야 한다"며 "일정을 예약하는 에이전트와 신용 관련 결정을 내리는 에이전트는 위험이 매우 다르다"고 말했다. 목적 제한과 개인정보 최소화, 투명성, 책임성 등 기존 개인정보 보호 원칙을 유지하되 용도별 위험에 맞춰 적용해야 한다는 주장이다.

필립 뒤프렌 캐나다 개인정보보호위원장은 규제기관도 사후 조사·제재 중심에서 벗어나 기업과 조기에 협의해야 한다고 강조했다. 그는 "개인정보 보호와 혁신은 제로섬 게임이 아니다"며 "개인정보 보호와 혁신에 대한 신뢰는 공공기관과 경제에 대한 시민의 신뢰를 높이고 경쟁 우위로 이어질 수 있다"고 말했다.

루이스 데 살바도르 카라스코 스페인 데이터보호청 국장은 AI를 무조건 도입하거나 막아야 한다는 양극단을 경계했다. 그는 "한쪽 극단은 전략적 기회를 잃게 하고 다른 한쪽은 지속 불가능한 디지털 환경으로 이어질 수 있다"고 말했다.

캐리 벤 마이크로소프트 최고개인정보보호책임자(CPO)는 AI 서비스를 출시하기 전 개인정보·보안·안전성 검토와 개인정보 영향평가를 실시한다고 설명했다.

그는 "특히 프론티어 모델 분야에서는 기업과 정부의 협력이 중요하다"며 "산업계와 정부, 시민사회, 학계가 여러 관점에서 이 문제를 다룰 수 있도록 협력해야 한다"고 말했다.


◎공감언론 뉴시스 [email protected]