[서울=뉴시스] 심지혜 박은비 윤현성 기자 = 청소년이 손쉽게 접근할 수 있는 인공지능(AI) 대화형 서비스에서 성적·범죄적 대화가 오가고 있음에도 현행 법체계상 규제와 단속이 사실상 불가능한 사각지대에 놓여 있다는 지적이 국회에서 제기됐다.

14일 열린 방송미디어통신위원회 대상 국정감사에서 노종면 더불어민주당 의원은 “AI로 생성되는 챗봇형 대화 서비스 중 중·고등학생의 이용 비율이 70%에 육박한다”며 “일부 서비스는 15세로 접속해도 성적 표현이 난무하는 대화를 아무 제약 없이 주고받을 수 있다”고 지적했다.

노 의원은 “실제 해보니 국감장에서 공개할 수 없을 정도의 표현이 포함돼 있었다”며 “국내 한 업체가 지난해 시작한 공공 챗봇형 서비스는 1년 반 만에 이용자 304만명을 돌파하는 등 급격하게 성장하고 있는데, 이용자 중 청소년 비중이 높은데도 마약을 어떻게 할 수 있는지 알려준다. 자살을 미화하기도 한다”고 말했다.

방미통위는 이같은 상황에 대해서는 파악하고 있지만 현행 법체계상 즉각적인 제재나 단속은 어렵다는 입장이다.

김영관 사무처장 직무대행은 “청소년에게 유해한 콘텐츠임이 분명하다”며 “관련 사례에 대해 보고 받은 바 있다”고 말했다.

신영규 이용자정책국장은 “AI 대화형 서비스는 이용자에게 일대일로 제공되는 구조라 기존 정보통신망법 적용이 어렵다”고 설명했다.

신 국장은 “AI 기본법이 있지만 이 법에서 규제는 고영향 AI만 대상으로 한다"며 "생성형 AI는 고영향에 분류되지 않아 (규제) 한계가 있다"고 덧붙였다.


◎공감언론 뉴시스 siming@newsis.com, silverline@newsis.com, hsyhs@newsis.com