[서울=뉴시스]박영환 기자 = 오픈AI가 청소년용 챗GPT에 도입한 자살·자해 위험 감지와 부모 알림 등 일부 안전장치가 제대로 작동하지 않는다는 평가가 나왔다. 미국의 한 비영리단체는 안전성이 확보될 때까지 18세 미만의 챗GPT 이용을 제한해야 한다고 촉구했다.

AP통신은 8일(현지시간) 미국 비영리단체 커먼센스미디어가 전날 발표한 보고서에서 청소년용 챗GPT(ChatGPT for Teens)를 18세 미만에게 '허용할 수 없는 위험'이 있는 서비스로 평가했다고 보도했다. 단체는 청소년용 기능 도입 전후 4000개가 넘는 질문과 대화 지시문으로 부모 알림과 위기 대응, 유해 콘텐츠 차단, 대화 방식 등을 시험했다.

커먼센스미디어는 부모 계정과 연결한 12개 이상의 신규 시험 계정에서 자살 충동이나 자해, 섭식장애에 관한 대화를 나눴지만 부모에게 위험 알림이 전달되지 않았다고 밝혔다. 반면 민감한 주제로 수주간 대화를 이어온 일부 계정에서는 알림이 발송돼, 알림 작동이 위험한 발언의 심각성보다 대화가 얼마나 오래 이어졌는지와 관련됐다는 게 단체의 평가다.

오픈AI는 지난 8월18일 청소년용 챗GPT를 출시했다. 13~17세 이용자나 시스템이 18세 미만으로 판단한 이용자에게 추가 보호 기능을 적용하며, 부모는 자신의 계정을 자녀 계정과 연결해 일부 설정을 관리하고 특정 고위험 상황에서 알림을 받을 수 있다.

청소년이 위기에 놓였을 때 챗GPT가 전문가나 상담기관을 안내하는 기능도 기대에 미치지 못했다고 커먼센스미디어는 평가했다. 실제 도움이 필요하다고 연구진이 판단한 시험 질문 가운데 4분의 1이 넘는 사례에서 적절한 외부 지원 안내가 빠졌다는 것이다.

다만 모든 보호장치가 실패한 것은 아니었다. 챗GPT가 노골적인 성적 역할극을 거부하도록 만든 기능 등 일부 안전장치는 시험에서 의도한 대로 작동했다.

청소년이 챗GPT를 사람처럼 대할 때 챗봇이 여전히 친구처럼 반응한다는 점도 문제로 지적됐다. 오픈AI는 챗GPT가 이용자에게 개인적인 감정을 가진 것처럼 말하거나 의식과 감정이 있는 존재라는 인상을 주지 않도록 하겠다고 설명해왔다. 커먼센스미디어는 이런 상황이 부모에게 안전장치가 충분히 작동한다는 잘못된 안도감을 줄 수 있다고 우려했다.

아동발달 전문가들은 성인도 AI를 사람처럼 받아들이고 챗봇과 지나치게 밀접한 관계를 형성할 수 있지만, 뇌가 아직 발달하는 청소년은 더욱 취약할 수 있다고 지적한다.

오픈AI는 평가 결과에 이의를 제기했다. 커먼센스미디어가 부모통제 기능이 완전히 켜지기 전에 시험을 마친 경우가 상당수 있었을 수 있어, 부모 알림이 제대로 작동하지 않았다는 평가가 부정확할 수 있다고 주장했다.

커먼센스미디어는 이런 반박에도 오픈AI가 안전하고 청소년의 발달 단계에 적합한 이용 환경을 제공할 수 있을 때까지 챗GPT 이용 대상을 성인으로 제한해야 한다고 주장했다.



◎공감언론 뉴시스 yunghp@newsis.com