[울산=뉴시스] 구미현 기자 = 인공지능(AI)이 사용자의 취향을 분석해 상품을 추천하는 시대가 열렸지만 정작 AI가 만들어낸 추천 결과가 다시 학습 자료로 활용되면서 잘못된 추천과 편향이 반복될 수 있다는 연구 결과가 나왔다. 사용자의 실제 취향보다 AI가 앞서 추천한 상품에 의존하는 현상이 심화하면서 추천의 신뢰성을 떨어뜨릴 수 있다는 지적이다.

울산과학기술원(UNIST) 인공지능대학원 이연창 교수팀은 대형언어모델(LLM) 기반 추천시스템에서 발생하는 오류와 편향을 추적·진단하는 기술 '에코트레이스(EchoTrace)'를 개발했다고 8일 밝혔다.

연구팀은 영화와 도서·가게 추천 데이터를 활용해 LLM 기반 추천시스템 3종을 분석했다. 그 결과 LLM이 직접 추천 목록을 만드는 과정에서 실제 데이터에 없는 항목을 추천하는 오류가 영화 4.07%, 도서 7.40%, 가게 13.14%로 나타났다.

사용자 취향을 파악하는 과정에서도 문제가 확인됐다. 영화 이용 기록을 바탕으로 LLM이 추정한 사용자의 직업은 93.16%가 실제 정보와 달랐으며 기존 분류에 없는 '영화 평론가'라는 직업을 만들어내기도 했다. 학습 자료를 생성하는 과정에서는 특정 장르나 업종에 추천이 집중되는 편향도 나타났다.

특히 AI가 추천한 결과를 다시 학습 자료로 활용할수록 문제가 반복되거나 심화하는 것으로 확인됐다. 최종 추천 결과를 5차례 반복 학습한 결과 초기의 오류와 편향이 사라지지 않았으며 일부 시스템에서는 인기 상품에 대한 쏠림이 더욱 커졌다.

영화 추천 모델의 경우 사용자 100명 가운데 86~92명은 다음 영화를 추천받을 때 AI가 이전에 제시했던 작품을 가장 중요한 기준으로 삼는 것으로 분석됐다. AI가 만든 추천이 다시 다음 추천의 근거가 되는 이른바 '피드백 루프'가 형성되면서 사용자의 실제 취향보다 AI 자신의 판단이 반복적으로 반영되는 것이다.

연구팀은 데이터마이닝과 정보검색 분야 학술논문 116편을 분석해 LLM이 추천시스템에서 수행하는 역할을 5가지로 분류하고 각 단계에서 발생하는 오류와 편향을 점검하는 에코트레이스를 개발했다. 이번 연구에서는 추천 목록 생성과 사용자 프로필 생성, 학습 자료 생성 등 3가지 역할을 중심으로 정보 생성부터 최종 추천과 반복 학습까지 편향이 이어지는 과정을 검증했다.

이연창 교수는 "이번 연구는 LLM 기반 추천시스템의 편향과 환각이 반복적인 추천 과정에서 어떻게 누적되고 증폭되는지를 체계적으로 진단할 수 있는 기반을 마련했다"며 "앞으로 더욱 안전하고 신뢰할 수 있는 추천시스템을 설계하고 평가하는 데 활용될 수 있을 것"이라고 말했다.

이번 연구에는 UNIST 인공지능대학원 박동욱 연구원이 제1저자로 참여했으며 미국 펜실베이니아주립대학교 이동원 교수와 공동으로 수행했다.

연구 결과는 데이터마이닝 분야 국제학술대회인 'ACM CIKM 2026'에 채택됐다. 학회는 7일부터 11일까지 이탈리아 로마에서 열린다.


◎공감언론 뉴시스 gorgeouskoo@newsis.com