[서울=뉴시스] 김진아 기자 = 토스증권은 자사 커뮤니티 내 욕설·비방 등 부적절한 게시글을 가려내기 위해 인공지능(AI) 기반한 검수 체계를 도입했다고 4일 밝혔다.

이번 개선은 커뮤니티 내 욕설·비방, 불법 리딩방 홍보 등 부적절한 게시글을 보다 정확하게 걸러내기 위해 마련됐다.

새로운 AI 검수 모델은 게시글 작성 또는 수정 후 제목과 본문, 이미지를 자동으로 분석하며, 욕설·비방, 혐오·차별 표현을 비롯해 불법 리딩방 홍보 등 유해 콘텐츠를 탐지한다.

기존 금지어 중심의 필터링 방식에서 벗어나 게시글의 내용과 맥락을 종합적으로 분석하며, 검수 결과에 따라 위반 정도를 판단해 게시글 추천 제외 및 숨김 등 조치를 적용한다.

게시글 작성 단계에서 적용되는 욕설 필터링 기능도 고도화했다.

새로운 검수 모델은 이용자들이 자주 사용하는 금지어의 우회 표현까지 탐지하며, 변형 표현도 걸러낼 수 있도록 개선됐다.

토스증권 측은 커뮤니티 운영 기준을 정비하기 위해 '커뮤니티 서비스 콘텐츠 가이드라인'도 선보였다.

여기에는 욕설 및 유해 콘텐츠, 혐오·차별 표현, 홍보·광고, 시장질서 교란 행위 등 제한 대상과 제재 기준이 담겼다.

토스증권 관계자는 "서비스 개선은 투자자들이 불쾌감을 주는 게시글이나 부적절한 투자 권유에 노출되는 것을 줄이고, 신뢰할 수 있는 환경에서 소통하도록 지원하는 데 초점을 맞췄다"며 "앞으로도 투자자들이 유용한 정보를 나누고 의견을 교환할 수 있도록 커뮤니티 환경을 개선해 나갈 것"이라고 밝혔다.


◎공감언론 뉴시스 hummingbird@newsis.com