[서울=뉴시스] 류인선 기자 = 현직 검사가 논문을 통해 'Chat GPT와 같은 생성형 인공지능 이용자가 타인을 사칭해 명예훼손 목적 생산물을 제작하는 경우 형사 처벌할 필요가 있다'고 밝혀 주목된다.

5일 법조계에 따르면 김정화(37·변호사시험4회) 대구지검 검사는 최근 대검찰청이 발간하는 논문집 '형사법의 신동향'에 '생성형 인공지능(Generative AI) 기술의 규제 방향에 대한 입법론적 고찰'이라는 제목의 논문을 기고했다.

임동민(30·변시8회) 서울중앙지검 검사는 공동저자로, 차호동(44·사법연수원38기) 대검 검찰연구관(부부장검사)은 교신저자로 이름을 올렸다.

김 검사 등은 생성형 인공지능을 활용한 ▲딥페이크 포르노 제작·유포 ▲명예훼손 목적 사진 제작·유포 ▲허위선행 사진 제작·유포 ▲착취형 대화형 챗봇 제작·운영 ▲허위정보 생성 챗봇 제작·운영 사례 등을 문제 상황으로 설정한 후 논지를 전개했다.

이들은 딥페이크 포르노 제작·유포 사례의 규제 공백은 크지 않다고 봤다. 현행법으로 생성형 인공지능을 이용해 딥페이크 포르노를 제작한 이용자는 물론, 인공지능 제공자도 의율할 수 있다는 것이다.

다만 명예훼손을 목적으로 사진을 제작·유포한 경우 처벌 공백이 발생할 수 있다고 분석했다.

김 검사 등은 고등학생 A군이 생성형 인공지능을 활용해 담배를 피우고 술을 마시는 다른 학생 B군의 사진, 이성과 숙박업소에 드나드는 B군의 사진을 B군을 사칭한 SNS에 게시해 유포하는 상황을 가정했다.

이 경우 대법원의 '타인 사칭' 법리에 따라 별도 입법 조치가 없으면 무죄 선고 가능성이 있다고 봤다. 명예훼손죄는 공연히 (허위) 사실을 적시할 때 성립하는데, 대법원은 온라인 타인 사칭 행위는 '사실의 적시'에 해당하지 않아 명예훼손죄에 해당하지 않는다고 판단한 바 있다.

김 검사 등은 이에 대해 "한 사람이 다른 사람에 대해 '아동학대를 일삼는 사람입니다'고 글을 작성하면 유죄가 인정되는 반면, 이 사람이 다른 사람을 사칭해 '나는 오늘도 아이들을 매우 때렸습니다'라는 글을 작성하면 무죄가 된다는 취지"라고 설명했다.

김 검사 등은 생성형 인공지능 제공자와 이용자를 나눠 규제할 필요가 있다고 했다.

우선 이용자에 대해 "딥페이크 포르노 제작, 명예훼손 목적 생성물 제작 등을 금지하여야 한다"고 했다. 또 "제공자에게는 영상, 사진, 음성 생성물이 인공적인 방법으로 제작된 것임을 나타내는 표시를 하게 하는 등의 투명성 규제를 부과할 필요가 있다"고 했다.

구체적으로 "다른 사람의 명예를 훼손하거나 그 신분을 사칭하기 위한 목적으로 다른 사람의 얼굴·신체 또는 음성을 대상으로 한 촬영물·영상물 또는 음성물을 생성형 인공지능 시스템을 이용하여 제작·편집·합성·가공하거나 유포한 자는 형사처벌할 필요성이 있다"고 했다.

아울러 제공자에게 영상, 사진, 음성 생성물에 대한 표시 의무(인공적으로 생산된 것을 표시), 문자 생성형 시스템에 있어서 고지 의무(인공적으로 생산된 것을 고지) 및 표시 의무를 부여하자고 했다. 불이행시 시정명령과 과태료를 부과하고, 재차 불이행하면 형사처벌 대상으로 삼자고 했다.

그외 ▲허위선행 사진 제작·유포 ▲착취형 대화형 챗봇 제작·운영 ▲허위정보 생성 챗봇 제작·운영은 앞으로 규제가 필요한 영역이라고 했다.


◎공감언론 뉴시스 ryu@newsis.com