"AI 비서와 수천 번 대화한 아이, 정서 조작 위험"…'미성년 빗장'이 없다

[서울=뉴시스]심지혜 기자 = 어린아이들이 인공지능(AI)을 일상적으로 쓰는 시대가 왔다. 하지만 이들의 눈높이에 맞춘 AI 안전성 평가 체계는 아직 충분하지 않다. 현재의 보호 대책은 유해 콘텐츠 차단 수준에 머물러 있다. 아동·청소년의 정신 건강과 발달 단계를 고려한 독자적인 AI 안전 검증망을 서둘러 짜야 한다는 지적이 나온다.

조지연 한국전자통신연구원(ETRI) AI안전연구소 연구원은 16일 서울대학교 인공지능정책 이니셔티브가 주관한 서울 AI 정책 콘퍼런스 2026(SAPICON 2026)에서 이같이 주장했다. 조 연구원은 'AI와 아동보호' 세션 발표자로 나서 미성년자 맞춤형 AI 안전성 평가 필요성을 강조했다.

 조 연구원은 미성년자를 단순히 성인보다 더 취약한 사용자로 바라보는 접근은 충분하지 않다고 지적했다. 아이들은 인지적, 도덕적 발달 과정에 있다. 아이들은 인지적·도덕적 발달 과정에 있고 자아 정체성이 형성되는 시기인 만큼, AI와 대화하고 상호작용하는 방식 자체가 성인과 다를 수 있다는 설명이다.

그는 "아동을 단순히 더 취약한 성인이 아니라 별도의 프로파일로 보고 위험을 식별하고 평가해야 한다"고 말했다. 같은 AI 시스템이라도 미성년자와 성인에게 미치는 위험의 종류가 다를 수 있기 때문이다. 특히 스스로 판단하고 행동하는 에이전틱 AI가 확산하는 환경에서는 그 차이가 더 커질 수 있다고 봤다.

더 큰 문제는 장기적인 관계 형성이다. AI와 수개월, 수년 동안 수천 번씩 대화를 나누면 과도한 의존과 정서적 종속 현상이 나타난다. 은연중에 아이의 행동이 바뀌거나 교묘하게 조작당할 가능성도 배제할 수 없다. 이는 단 한 번의 질문과 답변을 감시하는 기존의 AI 평가 방식으로는 찾아내기 어려운 사각지대다.

 
현재 미성년자 보호 논의는 가짜 이미지(딥페이크), 온라인 그루밍, 유해물 노출 등 콘텐츠 기반 위험 수준에 머물러 있다. 그러나 최신 AI는 사용자를 기억하고 맞춤형 대화를 건넨다. 기술이 발전할수록 보호의 초점도 콘텐츠 차단을 넘어 '상호작용의 위험'으로 넓어져야 한다.

AI는 이제 단순한 지식 검색 도구가 아니다. 아이들의 고민을 들어주는 조언자, 공부를 돕는 튜터, 언제든 놀아주는 동반자 역할을 맡기 시작했다. 컴퓨터 속 인공지능이 아이의 일상적 의사결정을 지원하면서 전통적인 유해물 차단 제도로는 막을 수 없는 새로운 정서적 위험이 나타날 수 있다.

조 연구원은 AI 에이전트가 아이들과 장기적으로 상호작용할 때 생기는 정서적 예속 문제를 심각하게 바라봤다. 이에 따라 미성년자의 발달 단계와 상호작용 특성을 반영한 별도의 평가체계를 고민해야 한다고 진단했다.

지금 시행되는 대다수 AI 안전성 평가나 '레드팀(모의 공격을 통해 시스템 취약점을 찾는 보안 팀)'은 성인 사용자를 전제로 움직인다. 정작 아이들이 AI와 어떤 방식으로 대화하고 어떤 돌발 행동을 하는지는 데이터베이스에 없다.

조 연구원은 "현재의 안전 평가는 아동의 프로파일을 전혀 반영하지 못하고 있다"고 짚었다. 타겟층을 세분화해야 한다는 뜻이다. 청소년뿐만 아니라 글을 막 배우기 시작한 3~5세 유아까지 고려한 다양한 가상 인물(페르소나)을 만들어 평가 방식을 완전히 뜯어고쳐야 한다고 제안했다.

문제가 터진 뒤에 원인을 찾거나 답변을 지우는 방식으로는 에이전틱 AI 시대의 부작용을 막기 어렵다는 게 조 연구원 시각이다. 사전 예방이 필요한 이유다. 사전에 위험을 평가하고 안전을 내재화하는 방향으로 거버넌스가 마련돼야 한다고 강조했다.

이와 함께 유아와 청소년의 언어 습관을 반영한 전용 성능 가이드라인(벤치마크) 구축을 시급한 과제로 꼽았다.

조 연구원은 미성년자 대상 AI 안전 평가는 공학 기술만으로 풀 수 없는 복합적인 영역이라고 해석했다. 아동 발달과 교육 분야 전문가가 기술학자들과 처음부터 함께 머리를 맞대고 거버넌스를 짜야 실효성 있는 방어벽을 세울 수 있다는 지적이다.


◎공감언론 뉴시스 [email protected]