[서울=뉴시스]최은수 기자 = 네이버가 오는 4월 제22대 총선을 앞두고 생성형 AI(인공지능)을 활용한 '딥페이크' 관련 키워드 검색 결과에 경고 문구를 노출하는 방안을 추진한다.

21일 정보기술(IT) 업계에 따르면 네이버는 딥페이크 관련 키워드 검색 결과에 '경고 라벨'을 붙이는 방안을 검토 중이다.

네이버는 다음 주 중 총선 페이지를 오픈하고 이같은 딥페이크 대응 방안을 발표할 예정이다.

네이버 관계자는 “당사는 이미 카페, 블로그 콘텐츠 업로드시에도 허위 정보를 포함한 딥페이크 영상에 대한 주의 문구를 노출하고 있다”라면서 “검색 결과 등에도 딥페이크로 인한 피해를 막기 위한 다양한 방안을 논의 중”이라고 밝혔다.

이밖에도 네이버 자체 초대규모언어모델 '하이퍼클로바X'에 기반한 AI 챗봇 '클로바X' 내에서 얼굴 합성 등 안전 이슈가 있는 질문에 대해선 답변을 제공하지 않는 방식으로 차단하고 있다.

최근 전세계적으로 생성형 AI를 활용한 딥페이크 영상, 이미지가 사회적으로 논란이 되고 있고, 총선이 다가오면서 대응책을 마련한 것으로 풀이된다. 메타, 구글 등 글로벌 빅테크들이 생성형 AI가 만든 콘텐츠에 라벨을 부착하는 등 대응을 마련한 반면 국내 기업들의 대응책이 미비하다는 지적이 제기되기도 했다.

양대 포털인 다음도 총선 페이지를 오픈할 계획이다. 현재 다음 이미지 검색에 업로드 되는 콘텐츠가 성인물인지 검출하는 시스템을 적용하고 있다. AI를 활용해 일반 이미지와 스팸⁄성인 이미지를 분류해 빠른 시간 내에 색인 대상으로 유입되는 이미지들을 분류 처리하고 있다. 또 카카오브레인의 AI 이미지 생성 모델인 칼로는 비가시성 워터마크 기술 도입을 검토 중이다.


◎공감언론 뉴시스 eschoi@newsis.com