AI 비서 막는 아마존·은행…전문가들, 장기 차단에는 '회의적'

[서울=뉴시스]박영환 기자 = 미국 은행과 유통업체의 외부 인공지능(AI) 비서 차단이 장기적으로는 고객 이탈을 부를 수 있다는 전문가들의 진단이 나왔다.

미국 CNBC는 1일(현지 시간) JP모건체이스와 찰스슈워브, 아마존 등이 메타의 ‘뮤즈’ 같은 외부 AI 에이전트의 접근을 제한하는 가운데, 전문가들이 이런 전략의 지속 가능성에 의문을 제기하고 있다고 보도했다. 월마트는 고객이 선택한 에이전트를 받아들이기 위한 전용 통로 도입을 추진하고 있다.

AI 에이전트는 이용자의 요청에 따라 여러 단계의 일을 대신 처리하는 소프트웨어다. 더 높은 예금금리나 저렴한 상품을 찾는 데 그치지 않고, 이용자가 권한을 주면 구매와 구독 해지 같은 작업도 실행한다.

마이클 애벗 액센츄어 글로벌 은행산업 책임자는 고객이 명시적으로 권한을 준 에이전트의 활동을 고객 선택의 연장으로 봐야 한다고 설명했다. 인터넷·모바일 뱅킹과 디지털 지갑이 확산했을 때처럼 이용자는 번거로움을 줄이고 시간을 아껴주는 서비스로 향하기 때문에, 기업도 이를 받아들일 방법을 찾아야 한다는 것이다.

애벗 책임자가 인용한 액센츄어 조사에서는 응답자의 65%가 생성형 AI 플랫폼이나 디지털 지갑을 통한 금융비서 이용에 긍정적인 반응을 보였다. 주거래은행 모바일 애플리케이션에 AI 비서를 도입하는 것을 환영한다는 응답은 71%였다.

에드 펠튼 프린스턴대 컴퓨터과학 명예교수는 차단의 기술적 한계도 지적했다. 이용자의 브라우저에서 버튼이 눌렸을 때 사람이 직접 누른 것인지, 이용자 컴퓨터의 AI가 지시한 것인지 외부 사이트가 구별하기 어렵다는 설명이다. 그는 접근 제한이 AI 에이전트의 확산을 늦출 수는 있지만, 이용자에게 유용한 에이전트를 지나치게 막는 사이트는 결국 고객을 잃을 것으로 내다봤다.

은행들이 밝힌 차단 이유는 보안 위험이다. 제이미 다이먼 JP모건체이스 최고경영자(CEO)는 지난달 13일 고객과 은행에 위험할 수 있다며 외부 에이전트가 개인 고객을 대신해 업무를 처리하는 것을 차단하고 있다고 설명했다. 다만 금융정보를 조회하는 ‘읽기 전용’ 접근과 송금·요금 납부 같은 실제 거래는 구분하고 있다.

마이클 자바라 비자 결제 생태계 위험·통제 책임자는 가짜 에이전트가 로그인 정보와 결제정보를 빼내거나, 정상적인 에이전트도 이용자가 의도하지 않은 행동을 할 수 있다고 지적했다. 소파를 찾아달라는 요청을 구매 지시로 받아들여 결제하는 식이다. 그는 어떤 에이전트가 누구를 대신해 움직이며 어디까지 권한을 받았는지 확인해야 한다고 강조했다.

보안과 함께 고객 데이터의 통제권도 걸려 있다는 분석이 나온다. 전자상거래 브랜드의 온라인 판매 운영을 대행하는 애드베리오의 마이크 댄퍼드 최고매출책임자는 아마존이 뮤즈를 막으면서도 자사 에이전트로 다른 업체 사이트에서 상품을 사는 ‘바이 포 미’를 운영한다는 점을 지적했다. 그는 아마존이 걱정하는 것은 에이전트 자체보다 누가 데이터를 보유하느냐라고 분석했다.

아마존은 고객 대신 다른 업체에서 구매하는 제3자 앱이 투명하게 운영되고, 해당 업체의 참여 여부를 존중해야 한다는 입장이다. 회사 측은 메타에 뮤즈의 이용 대상에서 아마존을 제외해 달라고 요청했다고 전했다. 앤디 재시 아마존 CEO는 자사의 ‘알렉사 포 쇼핑’을 고객이 아마존에서 사용하는 주력 쇼핑 에이전트로 키우겠다는 구상을 밝혔다.

가상자산 보유기업 샤프링크의 조지프 챌롬 CEO는 기존 기업들이 당분간 외부 에이전트를 받아들이는 데 소극적일 것으로 예상했다. AI가 더 싼 항공권으로 예약을 바꾸거나 낮은 이자를 받는 계좌의 여유자금을 더 높은 금리의 계좌로 옮길 수 있어, 고객이 다른 업체로 갈아타는 데 드는 수고와 비용이 줄어든다는 이유다. 그는 이런 변화가 기존 사업모델을 위협하는 만큼 기업들이 서둘러 접근 제한을 풀지는 않을 것으로 내다봤다.

신용점수 산정으로 잘 알려진 데이터 분석업체 FICO의 니킬 벨 소프트웨어 부문 사장도 기존 고객 관계가 시험받을 것으로 봤다. AI에는 로고나 오랜 거래 관계에 대한 애착이 없으며, 투명한 가격과 빠른 문제 해결, 유리한 거래 조건이 중요해질 것이라는 설명이다.

개방을 주장하는 애벗 책임자도 이용자가 AI의 행동을 통제할 수 있어야 한다고 강조했다. 그는 자사 조사에서 응답자의 82%가 AI의 행동을 매번 직접 승인하기를 원했고, 79%는 AI의 활동을 즉시 멈출 수 있기를 바랐다고 소개했다. 편리함을 원한다고 해서 통제권까지 넘기려는 것은 아니라는 해석이다.

CNBC가 인용한 신원 인증업체 빌리언스 네트워크의 미국 유통업체 51곳 조사에서는 AI 에이전트에 관한 방침을 정한 업체가 11곳이었고, 이 가운데 아마존 등 5곳은 접근을 명시적으로 제한했다. 37곳은 웹 정보를 자동 수집하는 프로그램을 막기 위한 기존 규정이 쇼핑 에이전트의 계정 접속이나 결제까지 제한하는 구조였다.

조사 당시 신원과 권한이 확인된 에이전트가 구매를 마칠 수 있는 전용 경로를 갖춘 업체는 없었다. 이 조사는 8월에 실시돼 9월2일까지 확인한 공개 규정을 분석한 것이다.

월마트는 이 조사 이후인 지난달 21일 에이전트별 전용 프로필과 연결 통로를 도입하겠다고 발표했다. 회사가 공개한 계획에 따르면 고객은 구매할 때마다 승인을 요구하거나 에이전트별 지출 한도를 정하고, 필요하면 접근 권한을 거둘 수 있게 된다. AI 에이전트에도 사람이 월마트닷컴에서 보는 것과 같은 상품 가격을 제시한다는 방침이다.

애벗 책임자는 인프라 보강의 필요성을 강조했다. 에이전트의 신원과 이용자가 부여한 권한을 확인하고, 기계끼리 대량의 요청을 효율적으로 주고받을 수 있는 전산 기반을 구축해야 한다는 것이다. 그는 은행들이 고객과 만나는 화면을 직접 운영하지 않더라도, 에이전트에 필요한 데이터와 거래 실행 서비스를 제공하는 역할을 확보해야 한다고 강조했다.


◎공감언론 뉴시스 [email protected]