AI 애인에게 털어놓은 속마음, 회사 파산하면 '매물' 될 수도

[서울=뉴시스]박영환 기자 = 인공지능(AI) 챗봇 기업 캐릭터AI가 파산보호 절차에 들어가면서 이용자들이 챗봇에 털어놓은 사적인 대화까지 매각될 수 있다는 우려가 제기됐다.

영국 BBC는 29일(현지시간) 캐릭터AI 사례를 통해 AI 기업이 보유한 민감한 개인정보가 기업 매각 과정에서 다른 업체로 넘어갈 수 있는 위험을 짚었다. 캐릭터AI는 가상의 인물과 친구나 연인처럼 대화하는 서비스를 제공해 왔다.

캐릭터AI는 법원 감독 아래 자산 매각을 추진하는 파산보호 절차를 밟고 있다. 디즈니와 일부 자산을 2000만달러에 넘기는 거래에 합의했지만 이용자 데이터는 포함하지 않았다. BBC가 인용한 법원 제출 서류에 따르면 데이터가 다른 매수자에게 넘어갈 가능성은 남아 있다.

미국 전자프라이버시정보센터(EPIC)의 캘리 슈뢰더 AI·인권 프로그램 국장은 “사람처럼 느껴지는 챗봇과 대화할 때 사람들은 더 사적이고 민감한 정보를 털어놓곤 한다”고 말했다.

슈뢰더 국장은 AI 서비스를 사용하지 않는 사람도 영향을 받을 수 있다고 지적했다. 이용자가 가족에 대한 감정이나 친구의 성적 지향을 챗봇과 이야기하면 그 가족과 친구에 관한 정보도 회사가 보유한 데이터에 들어갈 수 있기 때문이다.

슈뢰더 국장은 기업의 개인정보 처리방침에 파산 등의 상황을 예외로 두는 조항이 포함되곤 한다고 설명했다. 이용자가 기대했던 개인정보 보호가 기업의 파산 이후에도 같은 방식으로 유지될 것이라고 안심하기 어렵다는 취지다.

BBC에 따르면 캐릭터AI의 개인정보 처리방침은 이용자 정보를 새 기능과 알고리즘 개발, AI 모델 훈련, 맞춤형 광고를 위한 이용자 특성 분석 등에 활용할 수 있도록 규정하고 있다. 슈뢰더 국장은 인수자가 이 같은 용도로 민감한 데이터를 활용할 수 있다는 점을 우려했다.

미국 주·지역 법무장관 40명은 지난 14일 파산법원에 아동 안전과 개인정보 보호 조치를 요구하는 서류를 제출했다. 이들은 이용자의 정신건강과 인간관계 등에 관한 사적 대화가 회사에 쌓여 있다는 점을 문제로 지적했다.

법원 제출 자료에서 이들은 인수자가 이용자와 부모의 유효한 동의 범위를 넘어 대화 기록을 AI 훈련이나 광고 등에 사용하지 않도록 해야 한다고 주장했다. 또 데이터가 매각되기 전에 이용자에게 삭제할 기회를 제공해야 한다고 요구했다.

멜리사 자코비 미국 노스캐롤라이나대 채플힐 법학 교수는 BBC에 미국의 개인정보 보호 장치가 강화되지 않으면 주정부가 할 수 있는 일에도 한계가 있다고 말했다.

캐릭터AI 측은 BBC에 지난 1년간 AI 안전과 청소년 보호를 위한 조치를 취했으며 앞으로도 업계의 안전 기준 강화를 추진하겠다고 밝혔다. 다만 아동 개인정보에 관한 구체적인 질문에는 답하지 않았다.

회사는 지난 12일 파산보호 신청을 알린 공식 공지에서는 플랫폼을 계속 운영하고 있으며 개인정보 보호·보안 방침에도 변화가 없다고 밝혔다. 계정 삭제와 데이터 내보내기 기능도 이용할 수 있다고 안내했다.

BBC는 이 문제가 캐릭터AI 한 곳에 그치지 않을 수 있다고 지적했다. AI 개발·운영에 막대한 비용이 드는 만큼 투자 열기가 꺾이고 기업들의 인수·합병이나 폐업이 이어지면 방대한 이용자 정보의 처리 문제가 잇따라 불거질 수 있다는 것이다.

슈뢰더 국장은 AI 기업이 보유한 방대한 정보가 파산 절차에서 매력적인 자산으로 평가될 것이라며, 규제가 충분하지 않으면 이 정보가 어디로 넘어가고 누구와 공유되며 어떤 용도로 쓰일지 우려된다고 말했다.

BBC는 민감한 정보를 맡긴 서비스를 더 이상 이용하지 않는다면 개인정보 설정이나 처리방침에서 삭제 방법을 확인하라고 조언했다. 방법을 찾기 어렵다면 고객지원에 문의해 삭제를 요청할 수 있다고 안내했다.


◎공감언론 뉴시스 [email protected]