플랫폼도 AI 생성물 표시 책임져야…조인철, 'AI 생성물 표시 의무화법' 발의

[서울=뉴시스] 심지혜 기자 = 인공지능(AI) 생성물에 대한 표시제 도입과 허위·과장 AI 광고에 대한 신속 대응을 담은 법안이 발의됐다.

국회 과학기술정보방송통신위원회 소속 더불어민주당 조인철 의원은 이같은 내용을 담은 정보통신망법·방송미디어통신위원회 설치법 개정안을 대표발의 했다고 21일 밝혔따.

이번 법안은 딥페이크 등 AI 생성물이 정보통신망을 통해 빠르게 확산되면서 이용자가 진위를 판단하기 어려운 상황이 조성되고 있으나, 플랫폼 등 유통 단계를 규율할 제도적 장치가 미흡하다는 문제의식에서 마련됐다.

최근 AI 기술 고도화로 일반 이용자도 진위를 구분하기 어려운 AI 생성물이 SNS와 플랫폼을 통해 무분별하게 유통되고 있다. AI로 합성된 '가짜 경찰 출동' 영상의 경우 많은 이용자가 실제 상황으로 오인해 사회적 혼란을 야기한 바 있다.

특히 디지털 정보 판별 능력이 낮은 취약계층에게 이러한 환경은 치명적이다. 과학기술정보통신부의 2023 디지털정보격차 실태조사에 따르면 고령층의 디지털 정보화 수준은 70.7%로 정보취약계층 중 가장 낮다. 유튜브와 SNS를 일상적으로 이용하는 아동과 고령층이 AI로 조작된 가짜 전문가 영상이나 딥페이크 영상에 노출될 경우 신체·재산상 피해를 입을 가능성이 높다는 지적이다.

오는 22일 시행되는 AI 기본법은 생성형 AI 결과물에 대한 고지·표시 의무를 규정하고 있으나, 이는 AI 사업자에 한정된다. 포털·플랫폼 등 유통·확산 단계에서의 표시 의무와 관리 책임은 사각지대로 지적된다.

정보통신망법 개정안은 플랫폼 사업자에게 게시자와 이용자의 AI 생성물 표시 유지·관리 의무를 부과하고, AI 생성물을 직접 제작·편집해 게시하는 자에게 표시 의무를 부과한다. 또한 이용자의 AI 생성물 표시 임의 제거 및 훼손을 금지한다.

국민의 생명·재산 피해 우려가 큰 경우 식품의약품안전처·공정거래위원회 등 관계 중앙행정기관 요청 시 방송미디어통신위원회가 방송미디어통신심의위원회 심의 이전에도 플랫폼에 임시 시정조치를 요청할 수 있도록 했다.

방미통위 설치법 개정안은 의약품·화장품·의료기기 등 국민 건강과 직결되는 분야의 AI 허위·과장 광고를 서면심의 대상에 추가해 긴급 대응이 가능하도록 했다.

조인철 의원은 "AI 기술이 고도화되면서 국민이 접하는 정보가 ‘진짜인지, AI가 만든 것인지’조차 구분하기 어려운 상황이 됐지만, 이용자 보호를 위한 제도적 장치는 여전히 미흡하다"며 "AI 기본법이 AI 개발자 책임을 다뤘다면, 이번 법안은 플랫폼 등 유통 단계에서 국민 보호의 책임을 명확히 하는 보완입법으로 법안의 상당 부분은 정부 대응 방향과도 궤를 같이하고 있다”고 설명했다.


◎공감언론 뉴시스 [email protected]