스캐터랩, 청소년 AI챗 과몰입 우려에 대표 직속 '제타' 안전팀 신설

기사등록 2026/11/17 09:27:57

주요 AI 개발 인력 절반, 콘텐츠·대화 검수 모델 개발에 투입

스토리 제작·출시·노출 3단계 검수…연령별 접근 제한

국내 청소년 하루 3시간·월 기본 결제 10만원 한도 연내 도입

[서울=뉴시스] 스캐터랩 엔터테인먼트형 인공지능(AI) 채팅 서비스 '제타' (사진=스캐터랩 제공) *재판매 및 DB 금지

[서울=뉴시스]윤정민 기자 = 스캐터랩이 인공지능(AI) 캐릭터 채팅 서비스 '제타'의 이용자 보호를 맡을 대표 직속 조직을 만들었다. 지난달 예고한 국내 청소년 이용 시간과 결제 한도 제한은 연내 도입할 계획이다. 청소년의 하루 기본 이용 시간은 3시간, 월 기본 결제 한도는 10만원으로 설정한다.

스캐터랩은 김종윤 대표가 직접 이끄는 안전 전담 조직 '트러스트&세이프티 팀'을 신설했다고 17일 밝혔다.

스캐터랩은 제타의 주요 AI 개발 인력 절반을 콘텐츠와 대화를 검수하는 AI 모델 개발에 투입한다. 새 조직은 콘텐츠 안전 정책 수립부터 자체 AI 모델 개발, 콘텐츠 검수까지 맡는다.

제타에서는 창작자가 인물과 상황을 설정한 이야기인 '플롯'을 고른 뒤 AI 캐릭터와 대화하며 이야기를 이어갈 수 있다.

스캐터랩은 연말까지 플롯 검수 체계를 개선해 이용 등급을 구분하고 가입 단계에서 연령 확인을 강화해 이용자가 자신의 연령에 맞는 플롯에 접근하도록 할 계획이다.

플롯 검수는 제작·출시·서비스 내 노출 등 세 단계에서 이뤄진다. 플롯의 소재와 글, 이미지를 살펴 이용 등급을 분류한다. 이를 위해 한국·일본·미국 등 주요 서비스 국가에 적용할 콘텐츠 정책과 검수 기준을 마련하고 플롯 검수에 특화된 자체 AI 모델을 개발한다.

이용자가 플롯을 골라 AI 캐릭터와 대화를 시작한 뒤에도 보호 장치를 적용한다. 스캐터랩은 부적절한 대화를 방지하는 자체 AI를 출시하고 AI 캐릭터가 이용자 연령에 맞게 답하도록 대화 기준도 마련한다.

제타를 이용하는 동안 대화 상대가 AI라는 사실을 주기적으로 알리는 기능도 마련한다. 자살·자해 관련 민감 콘텐츠가 감지되면 정해진 기준에 따라 이용자에게 안내하는 기능을 개발하고 검증할 예정이다.

스캐터랩은 이용자 신고와 이의제기를 처리하거나 콘텐츠 일부를 정기적으로 검수하는 과정에서 확인한 문제를 정책과 AI 모델에 반영한 뒤 다시 점검한다. 스캐터랩은 지식재산권과 청소년 보호를 놓고 규제 당국, 앱스토어 운영사, 콘텐츠 업계 등과도 논의를 이어갈 계획이다.

김종윤 스캐터랩 대표는 "제타는 이용자가 이야기의 주인공이 돼 AI와 함께 자신만의 이야기를 만들어 가는 서비스인 만큼 창작의 즐거움과 이용자의 안전을 함께 고려해야 한다"고 말했다.

한편 청소년이 AI 캐릭터와 장시간 대화하거나 과도하게 결제하는 데 대한 우려가 커지면서 국내 AI 캐릭터 채팅 업체들이 이용 제한을 잇달아 예고했다. 뤼튼테크놀로지스가 '크랙'에 청소년 이용 시간과 결제 한도를 두기로 한 데 이어 스캐터랩도 '제타'에 같은 기준을 적용하기로 했다.

앞서 뤼튼은 지난 9월 AI 캐릭터 채팅 서비스 '크랙'의 청소년 이용 시간을 하루 3시간, 결제액을 월 10만원으로 제한하는 방안을 발표했다. 하루 3시간을 넘겨 이용하거나 월 10만원을 초과해 결제하려면 보호자의 인증과 동의를 받도록 할 예정이다. 적용 시점은 내년 초다.

스캐터랩은 더 나아가 콘텐츠와 대화의 안전을 전담하는 조직을 대표 직속으로 뒀다. 지난달에는 청소년의 과몰입을 줄이기 위해 이용 시간과 결제 한도를 연내 도입하겠다고 밝혔고 이번에는 연령에 따라 볼 수 있는 이야기와 AI 캐릭터가 대화에서 할 수 있는 말의 기준까지 마련하기로 했다.


◎공감언론 뉴시스 alpaca@newsis.com