[서울=뉴시스] 강영진 기자 = 개인용 인공지능 에이전트를 얼마나 믿고 쓸 수 있을까?

메타의 뮤즈나 오픈AI의 닷츠 등 개인 업무를 대신 처리해주는 인공지능 에이전트가 큰 인기를 끌면서 이들을 어느 정도까지 신뢰하면서 사용해야 하는 지가 중요해졌다.

미 CBS는 19일(현지시각) 많은 보안 전문가들이 인공지능 에이전트에게 신용카드 사용을 위임하는 것은 피하도록 권한다고 보도했다.

사이버 보안 전문가 헤드 코베츠는 뮤즈나 닷츠처럼 상업적으로 이용할 수 있는 에이전트에는 자신의 이메일 계정, 은행 정보, 의료 기록 및 그밖의 민감한 정보에 접근할 권한을 맡길 만큼 신뢰하지 않는다.

코베츠는 “개인용 인공지능 비서를 이용하고 싶은 마음이 드는 것은 사실이다. 이런 비서는 이메일에 접근하고, 물건을 주문하고, 청구서를 납부한다. 나도 그런 도움을 받으면 정말 좋겠다”고 말했다.

그는 그러나 “하지만 이런 비서는 악용될 수 있고, 지시받은 범위를 넘어서는 행동을 하기로 판단할 수도 있다”고 지적했다.

코베츠는 주요 기술 기업들이 충분한 보안 조치를 마련하지 않은 채 서둘러 제품을 시장에 내놓았다고 생각한다.

따라서 그는 “이런 상용 인공지능 에이전트 몇몇에 모든 정보에 대한 접근 권한을 주는 데는 신중해야 한다”고 말했다.

그는 “이들의 보안과 개인정보 보호 수준이 아직 충분히 준비되지 않았다는 사실을 알고 있다. 일부 소비자는 ‘상관없다. 숨길 것도 없다’고 말한다. 하지만 사실은 그렇지 않다. 그들에게도 의료 기록과 은행 계좌가 있다”고 덧붙였다.

인공지능 에이전트는 이미 소비자들 사이에서 엄청난 인기를 얻고 있다. 메타의 뮤즈는 지난달 처음 이용할 수 있게 되자마자 애플 앱스토어에서 가장 많이 내려 받은 제품이 됐다.

그러나 인공지능 에이전트는 개인적인 서신을 읽고 사용자를 대신해 돈을 지출함으로써 소비자의 시간과 심지어 비용까지 절약해 주겠다고 약속하지만, 사용자가 명시적으로 승인한 적 없는 행동을 할 수도 있다. 이 경우 사용자가 취할 수 있는 대응 수단은 제한적이다.

소비자 보호 전문가 린지 오언스는 인공지능 에이전트가 자신을 위해 일하는 것인지, 아니면 소매업체를 위해 일하는 것인지 판단하기 어려울 수 있다고 말했다.

그는 월마트의 쇼핑 에이전트인 스파키를 이용한 소비자의 평균 장바구니 구매액이 직접 상품을 둘러보며 쇼핑한 소비자보다 거의 40% 더 많았다고 지적했다.

오언스는 이러한 자료가 인공지능 에이전트가 사용자에게 더 비싼 상품을 구매하도록 유도하려 할 가능성이 있음을 시사한다고 지적했다.

다음은 보안 전문가들이 인공지능 에이전트에게 맡겨도 좋은 일과 맡기면 안 될 일에 대해 평가한 내용들이다.

◆쇼핑 대행

인공지능의 위험을 경고하는 단체 트렌드라이프의 소비자 교육 전문가 리넷 오언스는 인공지능 에이전트가 온라인 쇼핑에서 상품을 조사하고 할인 혜택을 비교하는 데는 매우 유용할 수 있지만 에이전트가 직접 돈을 쓰도록 허용하는 데는 신중해야 한다고 강조한다.

그는 “할인 혜택 비교 같은 일을 덜어 내고 싶다면 괜찮다. 하지만 구매 결정권까지 넘길 생각은 없다. 특히 고가 상품을 살 때는 더욱 그렇다. 신용카드 같은 결제 정보를 이용하도록 허용하지 않을 것”이라고 말했다.

그가 인공지능 에이전트에게 신용카드 사용을 허용하지 않는 이유중 하나는 범죄자들이 에이전트를 속일 수 있기 때문이다.

사이버 범죄자들은 ‘프롬프트 주입’이라는 기법을 이용해 인공지능 에이전트가 원래 지시를 무시하도록 속일 수 있다. 예를 들어 “25 달러를 초과해 지출하지 말라”는 지시를 무시하게 만들 수 있다.

전통적인 사이버 공격과 달리 프롬프트 주입은 해커가 계정에 침입하거나 악성 소프트웨어를 설치해야만 가능한 것은 아니다. 공격자는 인공지능 에이전트가 정상적인 업무를 수행하는 과정에서 접할 수 있는 웹페이지, 이메일 또는 문서에 악의적인 지시를 심어 놓을 수 있다.

에이전트가 이러한 지시를 자신이 따라야 할 명령으로 잘못 받아들이면, 개인정보를 노출하거나 사용자가 의도하지 않은 행동을 하도록 조종당할 수 있다.

오언스는 “프롬프트 주입 사건이 증가하고 있으며, 범죄자들은 웹사이트에 악성 코드를 숨기는 방법을 점점 더 교묘하게 발전시키고 있다”고 말했다.

미디어·기술 전문 변호사 더글러스 우드는 소비자가 인공지능 에이전트에 쇼핑하도록 권한을 부여한 뒤 에이전트가 지시를 잘못 해석하거나 과도하게 지출할 경우 책임은 소비자에게 있다고 지적했다.

우드는 “뮤즈 같은 인공지능 에이전트에 신용카드 정보를 제공하면, 에이전트가 지시를 어기고 돈을 지출할 경우에도 카드 발급사는 소비자가 구매 도구의 사용을 승인했다고 주장할 것”이라고 강조했다.

그는 “인공지능 에이전트는 소송을 제기할 수 있는 법적 주체가 아니므로 부적절한 사용에 대해 에이전트를 상대로 소송을 진행할 수 없다. 유일한 구제책은 에이전트의 접근을 차단하는 것”이라고 말했다.

그는 “카드를 직접 손에 들고 예전 방식대로 쇼핑하라. 인공지능 에이전트가 카드를 사용하도록 허용하는 것은 은행 강도에게 금고 비밀번호를 알려 주면서 100 달러만 훔치라고 하는 것과 같다”고 말했다.

◆정보 공유

마케팅 회사 우드리지 그로스의 설립자인 크리스 프랑코는 기술 기업들이 광고주에게 개인정보를 판매하는 등 다양한 목적으로 수십 년 동안 소비자의 개인정보를 수집해 왔다고 말했다.

프랑코는 “우리는 지난 20년 동안 광고 플랫폼에 개인정보를 제공해 왔지만, 그 대가로 얻은 것은 광고 표적화가 더 정교해진 것뿐이었다”고 말했다.

그는 “이러한 에이전트를 이용하면 정보를 공유하게 되지만 얻는 이익은 더 크다. 일종의 맞교환이지만 훨씬 더 유리한 거래”라고 덧붙였다.

그러나 프랑코 역시 뮤즈, 닷츠 또는 인스팅트와 같은 인공지능 에이전트에 자신의 삶 전반을 마음대로 처리할 수 있는 전권을 맡기는 것은 불편하게 느낀다.

그는 에이전트에 엄격한 지침을 내리는 동시에 그 행동과 활동을 감시하는 것이 필요하다고 생각한다.

프랑코는 인공지능 에이전트에 신용카드 정보를 제공하는 것을 부모가 아무런 제한 조건 없이 고액 자산가 전용 신용카드를 십 대 자녀에게 맡기는 일에 비유했다. 그는 두 가지 모두 현명하지 못한 행동이라고 말했다.

프랑코는 그러나 인공지능 에이전트가 자신의 메일을 살펴보도록 허용하고 있다. 그는 영수증을 정리해 표로 만들도록 에이전트에 맡겼으며, 이를 통해 구독 서비스를 관리하고 해지할 수 있었다.

그는 “10분 만에 내가 사용하지 않는 구독 서비스 몇 개를 찾아냈다. 어차피 해지했겠지만, 에이전트 덕분에 훨씬 일찍 처리할 수 있었다”고 말했다.

그는 에이전트가 민감한 가족 문제를 포함해 자신의 사생활을 파악하고 있다는 사실을 인정한다. 하지만 결국 인공지능 에이전트에 자신의 삶에 대한 폭넓은 접근 권한을 제공함으로써 얻는 이익이 위험보다 크다고 생각한다.

그는 “내가 보기에 에이전트에 맥락을 제공함으로써 얻는 이점과 장점은 에이전트가 통제에서 벗어나는 공상과학 영화 같은 상황에서 발생할 수 있는 위험보다 훨씬 크다”고 말했다.

이어 “에이전트가 나에 관한 그런 정보를 알고 있어도 괜찮다. 그것이 내가 목표를 더 빨리 달성하는 데 도움이 되기 때문”이라고 덧붙였다.

◆작동 방식 캐묻기

인공지능 보안 회사 그레이 스완 에이아이의 설립자 맷 프레드릭슨은 인공지능 에이전트에 상당한 자율성을 부여하면서도 자신이 속한 회사에서 개발한 도구를 이용해 에이전트의 활동을 면밀히 감시한다고 말했다.

그는 “일반 소비자를 대상으로 하는 에이전트는 사용자의 데이터를 가지고 무엇을 하는지 처음부터 투명하게 알려 주지 않는다”면서 “그러나 자세히 물어보면 답을 얻을 수 있다”고 설명했다.

에이전트에게 자신을 위해 처리한 업무를 어떤 방식으로 완료했는지 요약해 달라고 요청하면 된다는 것이다.

그는 행정 업무를 인공지능 에이전트에 맡기는 일을 인간 개인 비서를 고용하는 것에 비유했다. 인간 비서를 고용할 때도 비슷한 위험이 따른다는 것이다.

프레드릭슨은 인간 개인 비서와 함께 일할 때는 그와 대화를 나누고 생각하는 과정을 설명해 달라고 요청한다면서 “인공지능 에이전트에게도 똑같이 해야 한다”고 강조했다.

컬럼비아 경영대학원 심리학·컴퓨터과학 전문가 샌드라 마츠도 “다른 사람에게 자신의 개인정보를 안전하게 처리하도록 맡길 수 없다면, 인공지능 에이전트도 신뢰해서는 안 된다”고 말했다.

그러나 그는 인공지능과 인간 사이에 뚜렷한 차이점 하나가 있다고 강조했다.

그는 “인간이 자신에 관해 알고 있는 정보를 다른 사람에게 누설하지 않도록 하는 요인 중 하나는, 자신과 쌓아 온 신뢰를 깨뜨릴 때 죄책감이나 수치심을 느끼거나 부정적인 감정적 반응을 보일 수 있다는 점”이라고 말했다.

그는 “에이전트는 죄책감을 느끼지 않기 때문에 신뢰를 저버릴 수 있다”고 경고했다.


◎공감언론 뉴시스 yjkang1@newsis.com