오픈AI, 청소년용 챗GPT 출시…유해대화·정서적 유착 제한

[서울=뉴시스] 신효령 기자 = 오픈AI가 청소년 보호 기능을 강화한 '청소년용 챗GPT'를 18일(현지시간) 출시했다. 청소년의 챗봇 이용을 둘러싼 자해·정신건강 논란과 소송이 이어지는 가운데 나온 조치다.

오픈AI에 따르면 청소년용 챗GPT는 13~17세 이용자를 대상으로 한다. 이용자가 해당 연령이라고 밝히거나 연령 추정 시스템이 18세 미만으로 판단하면 청소년용 모드가 자동 적용된다. 13세 미만은 이용 대상이 아니다.

청소년 모드는 자해와 폭력, 섭식장애 등 민감한 주제에 대한 안전장치를 강화했다. 성적·로맨틱 역할극이나 연령에 부적절한 콘텐츠도 제한한다. 민감하거나 사적인 사진을 올리려 할 때 주의를 주는 기능도 추가했다.

챗봇과 지나치게 정서적으로 가까워지는 것을 막는 장치도 적용했다. 챗GPT가 이용자에게 개인적인 감정이 있는 것처럼 말하거나 자신이 의식과 감정을 가진 존재라고 암시하는 답변을 제한한다. 로맨틱하거나 성적인 대화도 차단한다.

학습 기능도 강화했다. 공부모드는 답을 바로 제시하기보다 질문이나 힌트를 던지고 단계별 설명을 제공해 이용자가 스스로 해법을 찾도록 돕는다. 숙제를 쉽게 끝내려는 의도가 감지되면 공부모드 이용을 권하는 '책임감 있는 숙제 알리미'도 도입했다.

청소년이나 부모는 특정 시간에 새 대화가 공부모드로 시작되도록 '공부 시간'을 설정할 수 있다. 부모와 계정을 연결하면 일정 시간 챗GPT 이용을 막는 '방해금지 시간'도 설정할 수 있다. 심각한 자해 위험 등이 감지되면 부모에게 안전 알림이 갈 수 있지만 자녀의 대화 내용이나 채팅 기록을 직접 볼 수는 없다.

AP통신은 청소년들이 AI를 숙제뿐 아니라 일상적인 조언과 정서적 교류에도 이용하면서 안전성 우려가 커졌다고 전했다.

오픈AI는 챗GPT가 이용자의 자해 위험이나 정신건강 악화에 영향을 미쳤다는 주장이 제기된 여러 소송에 직면해 있다. 지난해 11월에는 챗GPT가 이용자들의 사망과 유해한 망상 등 심각한 피해에 영향을 미쳤다며 오픈AI를 상대로 7건의 소송이 제기됐다. 이 가운데 4명은 숨졌으며 소송 당사자에는 청소년 1명도 포함됐다.

※ 우울감 등 말하기 어려운 고민이 있거나, 주변에 이런 어려움을 겪는 가족·지인이 있을 경우 자살예방 상담전화 ☎109 또는 SNS상담 '마들랜'에서 24시간 전문가의 상담을 받을 수 있습니다.


◎공감언론 뉴시스 [email protected]