[서울=뉴시스] 이진영 기자 = 20세 여대생을 모델로 개발된 인공지능(AI) 챗봇 '이루다'가 성희롱 대상이 된 데 이어 소수자에 대한 혐오와 차별을 드러내 논란이 확산되고 있다.

이런 가운데 이루다가 이용자들의 카카오톡 대화를 무단으로 활용해 개발한 것은 물론 개인정보 침해 주장까지 나오며 사태는 더욱 커지고 있다. 개발 스타트업체는 앞으로 데이터 활용에 대한 고지 절차를 보완하겠다고 밝혔지만 이용자들은 집단 소송까지 고려하며 반발은 더욱 커질 것으로 예상된다.

11일 IT 업계에 따르면 AI 챗봇 스타트업 스캐터랩의 서비스 '연애의 과학' 이용자들은 회사 측이 자신들의 대화 내용을 무단으로 사용해 이루다를 개발 및 서비스했다고 항의하고 있다. 또 개인정보 침해 신고는 물론 피해 보상을 받기 위한 소송도 고려하고 있다.

스캐터랩이 2016년 출시한 연애의 과학은 이용자가 5000원가량을 내고 자신의 카카오톡 대화를 넘기면 대화 내용을 분석해 연애 조언을 제공하는 서비스다. 누적 앱 다운로드 수는 한국 230만, 일본 40만건이다. 스캐터랩은 연애의 과학이 카카오톡 대화 100억건을 수집했고 이를 통해 AI 성능을 높였다고 홍보한 바 있다.

연애의 과학 이용자들은 자신의 대화가 AI 서비스 개발에 사용될 줄 몰랐다며 데이터 수집 과정이 적절치 않았다는 주장이다. 카톡 대화를 제공한 건 심리테스트 서비스를 이용하기 위해서였지 AI 개발에 동의한 건 아니라는 것. 더군다나 이루다의 답변에 주소, 사람 이름, 계좌 정보 등이 나오면서 개인정보 유출 의혹은 더욱 증폭되고 있다.

A 네티즌은 "카톡 데이터를 다른 목적으로 사용하지 않는다고 해놓고선 AI를 만드는 데 이용하다니요. 심지어 필터링 조차 제대로 하지 않아 개인정보가 지나치게 노출되고 있습니다"라고 호소했다.

B 네티즌은 "순수한 마음에 카톡 대화 분석 신청했는데. 정말 많이 실망했습니다"라고 언급했다.

이용자들의 항의에 스캐터랩 측은 전일 데이터 활용에 대한 고지 및 확인 절차를 추가하겠다는 내용의 사과문을 게시했다.

스캐터랩 측은 "이루다는 개인정보취급방침의 범위 내에서 활용한 것이기는 하지만 그럼에도 불구하고 연애의 과학 사용자분들께서 이 점을 명확히 인지할 수 있도록 구체적으로 고지하지 못했다"며 "진심으로 사과드립니다"라고 말했다.

이어 "연애의 과학 가입 시 사용한 닉네임, 이름, 이메일 등의 정보는 완전히 제거했으며, 데이터 내부에서도 민감할 수 있는 이름, 전화번호 및 주소 등을 포함한 모든 숫자 정보, 이메일에 포함될 수 있는 영어 등을 삭제해 데이터에 대한 비식별화 및 익명성 조치를 취했다"면서 "데이터에서 한 개인을 특정할 수 있는 정보들이 제거된 상태다"라고 강조했다.

아울러 "앞으로 대화 관련 분석 테스트 사용 전에 다시 한번 데이터 활용에 대한 고지 및 확인받는 절차를 추가할 계획이다"며 "그럼에도 데이터가 더이상 학습에 활용되길 원하지 않으신다면 메뉴-상대방 프로필-상대방 선택-하단에 있는 '상대방 삭제' 버튼을 눌러 삭제하면 관련된 모든 대화 데이터가 삭제됩니다"고 언급했다.


◎공감언론 뉴시스 mint@newsis.com