[서울=뉴시스]하지현 기자 = 정부가 운영하는 청소년상담1388에서 자살·자해·성폭력 등 위기 사례로 분류된 상담 기록 1만4000여건이 인공지능(AI) 학습용으로 민간업체에 제공된 것으로 나타났다. 상담 당시 청소년 이용자에게 AI 학습 활용이나 민간 제공 사실은 고지되지 않았고, 별도의 동의 절차도 없었다.

5일 국회 성평등가족위원회 소속 김건 국민의힘 의원이 성평등가족부와 한국청소년상담복지개발원으로부터 제출받은 자료에 따르면, 청소년상담1388을 운영하는 성평등가족부 산하 개발원은 지난 7월29일 상담 데이터 1만4282건을 가명 처리해 민간 기업·재단에 제공했다.

이는 과학기술정보통신부가 추진하는 'AI 민생 10대 프로젝트' 중 하나로, SNS 게시글 등에서 AI로 청소년 위기 징후를 찾아내 상담사의 답변 작성 등을 돕는 모델을 개발하기 위한 연 15억원 규모 사업의 일환이다.

개발원은 온라인 상담사가 2023~2025년 '위기'로 등록한 사례 데이터를 지난 6월 1일 일괄 추출했다. 임신, 성매매, 자살, 자해, 가출, 가정폭력, 성폭력, 학교폭력 등의 사례가 포함됐다.

김 의원에 따르면 이들 데이터는 사업 수행기관들에 넘어가 AI 모델 학습 등에 쓰였다.

개발원은 이름·연락처·주소·연령·학교·지역 등 개인을 식별할 수 있는 정보를 대체값으로 바꾸는 가명 처리를 거쳤다고 밝혔지만, 개발원이 제출한 가명 처리 기준을 보면 거주지 인근 지하철역 이름이나 상호 등은 처리 대상에서 빠졌다.

청소년과 상담사가 주고받은 대화 내용 역시 식별 정보만 바뀐 채 학습 데이터에 포함됐다. 대화형 상담 기록은 사건 경위나 가족관계 같은 맥락 정보가 남아 있어 재식별 위험이 상대적으로 크다는 지적이 나온다.

개발원은 이와 관련, 채팅 상담 이용약관에 '관계 법령에 따라 상담 내용을 가명 처리해 서비스 개선을 위한 연구 및 데이터로 활용할 수 있다'는 내용을 고지해왔다는 입장이다. 외부 기관에 데이터를 제공해 AI 학습에 활용하는 것도 이 내용에 포함된다는 취지다. 그러나 해당 문구에는 'AI 학습'이나 '외부 민간업체 제공'은 명시돼 있지 않다.

개발원은 관련 질의에 "AI 학습 활용에 대한 별도 동의 내용은 없다"고 했다.

게다가 개인정보 수집·이용 동의 항목에는 '연구 및 데이터로 활용할 수 있다'는 내용도 빠져 있었다. 개발원에 따르면 2024년 7월 이후 약 2년간 신규 홈페이지의 개인정보 수집·이용 동의 항목에는 연구·데이터 활용 관련 내용이 없었다. 개발원은 AI 학습용 데이터를 추출하기 나흘 전인 5월28일 해당 내용을 개인정보처리방침에 다시 넣었다.

개발원은 "본 사업은 과학적 연구에 해당해 AI 모델 학습이 '연구 및 데이터 활용' 범위에 포함되는 것으로 판단했다"며 개인정보보호법 제28조의2(가명정보 처리 특례)를 근거로 들었다.

데이터 처리 과정에서는 민간업체 인력 30여명이 상담 데이터에 접근했다. 개발원은 인터넷이 차단된 공간에서 원문 가명처리를 진행하는 등 보안 조치를 했다고 밝혔다. 가명 처리된 데이터는 민간업체가 구축한 클라우드 서버에 보관 중이며, 2027년 말까지 파기될 예정이다.

김 의원은 "AI 개발을 위한 데이터 활용도 필요하지만, 청소년들이 상담 과정에서 털어놓은 민감한 정보가 잘 보호될 수 있도록 균형을 맞춰야 한다"며 "자신의 개인사와 고충이 민간업체의 AI 학습에 활용될 수 있다는 사실을 이용자가 충분히 인지할 수 있도록 안내할 필요가 있다"고 했다.


◎공감언론 뉴시스 judyha@newsis.com