[서울=뉴시스]윤정민 심지혜 최은수 기자 = 딥페이크를 악용한 불법 합성물이 부쩍 늘어난 데는 이를 막을 제도가 부실했기 때문이라는 지적이 나오고 있다. 이에 국회가 딥페이크 악용을 막을 관련 법안을 잇달아 발의하고 정부도 대응책 마련에 팔을 걷어 부쳤다.

▲성범죄 관련 딥페이크 콘텐츠 제작 처벌 강화·콘텐츠 소지에 대한 처벌 도입 ▲저작자 등을 밝히는 표식(워터마크) 표기 의무화 ▲콘텐츠를 유통하는 플랫폼 기업의 모니터링 강화 등이 딥페이크 범죄 확산을 막을 방안으로 꼽힌다.

전문가들은 인공지능(AI) 기술 부작용을 최소화할 수 있는 규제가 어느 정도 불가피하다고 말한다. 다만 어떤 규제로든 현실적으로 모든 유형의 딥페이크 성범죄를 막을 순 없다. 이에 따라 빠르게 진화되고 있는 디지털 기술 변화와 새로운 성인지 감수성에 맞는 미디어 윤리 의식과 교육 시스템이 동반돼야 한다고 입을 모은다.

◆"딥페이크 음란물 가지고만 있으면 처벌 없었다고?"…국회, 조속 입법 추진

딥페이크 성범죄가 확산된 데는 허위 영상물 관련 처벌이 불법 촬영물보다 약하다는 점이 꼽힌다. 현행 성폭력처벌법(성폭력범죄의 처벌 등에 관한 특례법)에 따르면 '몰래카메라' 등 불법 촬영물을 소지·구입·저장·시청한 자는 3년 이하의 징역 또는 3000만원 이하의 벌금에 처하도록 하고 있다.

하지만 허위 영상물의 경우 편집·합성·가공·반포(유포)한 자에게 처벌할 수 있지만 소지·구입·저장·시청한 자를 처벌하는 조항이 없다. 이에 성폭력 범죄와 연관된 허위 영상물 소지·구입·저장·시청한 자에게도 처벌할 수 있도록 한 성폭력처벌법 개정안이 잇달아 발의됐다.

또 불법 촬영물 반포한 자의 최대 형량은 징역 7년이지만 허위 영상물 반포 최대 형량은 징역 5년이다. 이에 당정은 지난 29일 국회에서 딥페이크 성범죄 관련 부처 긴급 현안보고를 열고 성 착취물 등 허위 영상물을 제작·배포하는 행위에 대한 형사 처벌 강화를 추진하겠다고 밝혔다.

인공지능(AI) 기반 합성물에 'AI가 만든 영상입니다' 등과 같은 표식(워터마크)이나 제작자를 파악할 수 있는 메타데이터를 의무 삽입하는 AI기본법(인공지능 산업진흥 및 신뢰기반 조성 등에 관한 법률안) 논의도 탄력이 붙을 전망이다.

이미 지난 6월 국민의힘이 당론으로 제출한 AI 기본법 제정안은 사업자를 대상으로 생성형 AI 서비스에 대한 사전 고지 및 워터마크 표시 등 기본적인 규제사항을 준수할 것을 요구하는 내용을 담고 있다.

조인철 더불어민주당 의원이 대표 발의한 '인공지능 산업 육성 및 신뢰 회복에 관한 법률안'도 AI 관련 사업·연구 지원과 함께 AI 잠재적 위험성 제거 등의 내용을 담았다.

◆한계 뚜렷한 딥페이크 성범죄 방지 방안…"윤리 교육 병행해야"

[서울=뉴시스] 추상철 기자 = 29일 오후 서울 강남구 강남역 앞에서 열린 서울여성회와 서울여성회 페미니스트 대학생 연합동아리의 '딥페이크 성범죄 규탄' 여성 시민·대학생 긴급 기자회견에서 참가자가 구호를 외치고 있다. 2024.08.29. scchoo@newsis.com

관건은 AI기본법이 딥페이크 성범죄 확산을 막는데 얼마나 기여할 수 있느냐다. 전문가와 업계 관계자들은 워터마크 표시 의무화, 딥페이크 음란물 생성·유통 책임을 플랫폼 기업에 책임을 지우도록 하는 규제에 대해 필요성을 공감하면서도 실효성에 의문을 제기했다.

딥페이크 콘텐츠 제작 프로젝트에 참여한 한 개발자는 "워터마크는 말 그대로 표식일 뿐이라 딥페이크를 악용하는 사람은 신경 쓰지 않을 것이다. 결국 피해자에게 상처를 주는 건 똑같다"고 말했다.

워터마크 부착도 기술력이나 자금이 부족한 스타트업 및 중소기업의 산업 진출을 막을 수 있다는 우려가 있다. 스타트업 업계 관계자는 "워터마크 부착 기술 개발이 쉽지 않아 스타트업에 (워터마크 부착 의무화는) 시기상조라는 입장"이라며 "기술력을 정부에서 지원해 주든지 유예가 필요하다"고 말했다.

플랫폼 기업에 책임을 지우도록 하는 점도 국내외 기업 역차별 문제를 낳을 수 있다. 이번 딥페이크 성범죄물 확산에는 텔레그램 영향이 컸다. 텔레그램은 익명성 보장을 극대화한 메신저라 수사당국도 수사하기 까다로운 앱으로 꼽힌다. 이에 텔레그램은 마약 거래, 음란물 유통 창구 등으로 활용돼 왔다.

또 어떤 규제를 도입해도 개인이 범죄 수단으로 이용하기 위해 개발한 딥페이크 프로그램까지 워터마크 의무화 등을 강제하기 힘들다는 한계도 있다. 이번에 문제가 된 나체 사진 합성을 돕는 텔레그램 봇에도 워터마크를 강제로 부착시킬 가능성은 작다.

결국 생성형 AI 기술 악용에 대응하는 규제와 함께 기술을 안전하고 올바르게 쓰는 방법을 교육하는 게 병행해야 한다는 게 전문가들의 주장이다.

김명주 서울여대 정보보호학과 교수는 "범죄인 줄 모르고 재미를 위해서 딥페이크를 썼다고 생각하는 사람이 있을 수 있다. AI 도구가 긍정적인 방향으로 쓰일 수 있도록 교육이 같이 이뤄져야 한다"고 밝혔다.

한진영 성균관대 인공지능융합학과 교수도 최근 한국과학기술단체총연합회가 연 세미나에서 "생성형 AI의 물결을 막을 수 없다. 생성형 AI 시대에 취약계층이 (AI를) 잘 활용할 노력이 필요하다. 기술과 함께 제도, 교육 발전 같이 이뤄져야 한다"고 말했다.


◎공감언론 뉴시스 alpaca@newsis.com, siming@newsis.com, eschoi@newsis.com