AI 질주에 '안전장치' 거는 방미통위…생성물 표시·알고리즘 투명성 강화

[서울=뉴시스]윤현성 기자 = 방송미디어통신위원회가 인공지능(AI) 확산에 따른 이용자 피해와 정보 왜곡 가능성에 대응해 AI 생성물 표시 의무, 플랫폼 관리 의무, 추천 알고리즘 투명성 강화 등 안전장치 마련에 나선다.

빠르게 발전하는 AI를 둘러싸고 기술 혁신과 안전성 확보 간 균형이 주요 과제로 떠오른 가운데, 방미통위는 AI 개발 자체를 제한하기보다는 생성물의 유통과 서비스 이용 단계에서 이용자 보호를 강화하는 방향을 제시했다.

방미통위는 30일 제39차 전체회의를 열고 '국민과 함께하는 미디어 기본사회'를 비전으로 한 '제1기 비전 및 주요 시책'을 의결했다.

지난해 10월 방미통위 출범 이후 약 1년 만에 수립한 첫 중장기 정책 청사진이다. 기존 방송·통신 분야별 정책 구분에서 벗어나 국민이 미디어를 어떻게 누리고 참여하며 선택할 것인지를 중심으로 정책체계를 재구성했다.

김종철 방미통위원장은 "AI와 디지털 기술의 발전으로 새로운 미디어와 서비스가 끊임없이 등장하고, 콘텐츠의 생산과 유통, 이용방식은 물론 국민이 미디어를 매개로 정보를 접하고 소통하며 사회에 참여하는 방식까지 달라지고 있다"고 진단했다.

이에 방송은 방송, 통신은 통신이라는 공급자 중심 구분에서 벗어나 국민의 접근·참여·활용·선택을 중심으로 정책체계를 전환해야 한다는 게 김 위원장의 설명이다.

방미통위가 제1기 비전으로 제시한 '국민과 함께하는 미디어 기본사회'는 미디어 생태계 전반에서 국민의 접근·참여·활용·향유가 국가와 사회의 책임 아래 보장되는 사회를 뜻한다.

이를 위해 ▲누구나 누리는 보편적 접근 강화 ▲국민 주도의 능동적 참여 확대 ▲안전·신뢰 기반의 자율적 선택 보장 ▲혁신·상생의 지속가능한 생태계 조성 등 4대 목표와 12개 정책과제를 추진한다.

특히 AI 생성물과 추천 알고리즘, AI 서비스 이용자 보호 등은 '안전·신뢰 기반의 자율적 선택 보장'의 핵심 과제로 제시됐다. 방미통위는 AI와 플랫폼의 영향력이 커지는 상황에서 국민이 정보와 서비스를 스스로 판단하고 선택하려면 투명성과 신뢰성을 높이는 제도적 장치가 필요하다고 판단했다.

우선 실제와 구분하기 어려운 AI 생성물의 무분별한 확산을 막기 위해 유통 단계의 표시 의무를 강화한다. AI 생성물을 게시하는 이용자에게 해당 콘텐츠가 AI로 만들어졌음을 표시하도록 하고, 다른 이용자는 이 표시를 훼손하거나 위·변조하지 못하도록 할 방침이다.

포털·플랫폼 사업자에게도 직접 정보제공자와 이용자의 AI 생성물 표시 여부 등을 관리하도록 의무를 부과한다. 방미통위는 이를 위한 정보통신망법 개정을 올해 12월까지 추진할 계획이다.

방송 분야에는 별도의 AI 활용 윤리원칙을 마련한다. 방송사가 AI를 활용할 경우 인간의 최종 검증과 책임을 명확히 하고, AI 생성물을 방송할 때 화면이나 음성 등을 통해 이를 표시하도록 한다.

보도·시사 프로그램에는 실제 촬영·녹음 자료로 오인될 수 있는 증거자료 생성이나 실존인물 재현을 지양하도록 하는 특칙도 검토하기로 했다.

검색·노출을 좌우하는 추천 알고리즘에도 투명성 원칙을 적용한다. 알고리즘 추천 여부와 작동 원리, 주요 변경사항 등을 약관에 명시하고 투명성 보고 의무를 제도화한다.

아울러 이용자가 알고리즘 추천 여부와 추천 방식을 직접 선택할 수 있는 권리도 폭넓게 보장할 방침이다. 방미통위는 관련 정보통신망법 개정을 2027년 6월까지 추진할 계획이다.

김 위원장도 "AI 생성물 표시와 추천알고리즘의 투명성을 높여 이용자가 충분한 정보를 바탕으로 스스로 판단하고 선택할 수 있도록 하겠다"고 강조했다. 딥페이크 등 새로운 디지털 위험에 대한 대응과 이용자 권리·피해구제 강화도 함께 추진한다.

허위조작정보 대응을 위한 민간 팩트체크 자율생태계도 강화한다. 방미통위는 대규모 정보통신서비스 제공자의 자율규제 이행 현황을 점검하고, 사실확인단체 지원 등을 담당하는 투명성센터를 운영한다.

팩트체크 결과와 관련 정보를 공유하는 플랫폼에는 AI 교차검증 기능도 단계적으로 도입할 계획이다.

AI 서비스 이용 과정에서 발생하는 새로운 피해에도 별도 보호체계를 마련한다. 방미통위는 딥페이크 성범죄물과 유해 콘텐츠, 중독 등을 대표적인 위험으로 보고 아동·청소년 등 취약 이용자 보호 필요성을 강조했다.

단기적으로는 성범죄물 대응과 AI 서비스의 아동·청소년 특별보호를 위한 정보통신망법 개정을 내년 6월까지 추진한다.

중장기적으로는 AI 사업자의 이용자 보호 의무와 이용자 권리 보장, 이용자보호업무평가, 분쟁조정제도 등을 포괄하는 규율체계 구축도 검토한다. 별도 법률을 만들거나 정보통신망법에 'AI 이용자보호' 관련 절을 신설하는 방안이 검토 대상이다.

AI 안전장치뿐 아니라 미디어 접근권과 산업 경쟁력 강화도 제1기 비전에 함께 담겼다. 장애인·고령층 등 취약계층을 위한 미디어·AI 바우처를 도입하고 생애주기별 AI·미디어 역량교육을 확대한다.

지역에서는 '5극 3특'을 기반으로 시청자미디어센터를 확충·거점화하고, 지상파 라디오 통합플랫폼 구축과 찾아가는 미디어 서비스 확대도 추진한다.

산업 측면에서는 방송과 온라인·플랫폼을 함께 아우르는 통합미디어법 제정, 지상파·종편 재허가·재승인과 유료방송 제도 개선, OTT 해외진출 및 중소·영세 방송사의 AI 전환 지원 등을 추진한다.

광고·협찬 및 광고판매 제도를 시장 환경에 맞게 손질하고, 방송통신발전기금과 방송콘텐츠 거래·수익배분 구조도 합리화할 계획이다.

김 위원장은 "규제와 진흥도 별개의 영역으로 접근하기보다 필요한 규율은 합리적으로 정비하면서 산업의 혁신과 성장을 함께 이끌 수 있도록 유기적으로 연계해 나갈 필요가 있다"며 "새로운 진흥사업이 국민과 산업이 체감하는 성과로 이어질 수 있도록 재정당국 및 국회와도 긴밀히 소통해 필요한 재원과 추진기반을 마련하겠다"고 말했다.

이어 "오늘의 비전은 완성이 아니라 시작"이라며 "4대 목표를 토대로 국민 일상에 실질적인 변화를 체감할 수 있는 구체적인 시책을 지속적으로 마련하고, 종합계획·기본계획 수립 등 후속 과제도 충실히 추진해 비전의 내용을 보완하고 구체화해 나가겠다"고 덧붙였다.


◎공감언론 뉴시스 [email protected]