“인물 주변 살짝 지웠는데 AI 생성물 표시?" 인공지능기본법 적용 어디까지

[서울=뉴시스] 심지혜 기자 = "스마트폰에서 사진 지우개 기능을 한 번 썼을 뿐인데, AI 표시가 붙는 건가요."

스마트폰으로 직접 촬영한 사진에 원치 않게 다른 사람이 함께 담긴 경우 사진 편집 기능을 이용해 해당 부분만 삭제하는 일은 일상적이다. 결과물은 여전히 본인이 찍은 사진이지만 이 과정에서 AI 기반 편집 기능이 활용되면 사진에는 ‘AI가 생성한 콘텐츠’라는 표식이 함께 붙는다. 전체를 인공지능(AI)가 새로 만들어낸 것도 아니고 사진의 극히 일부만 수정했을 뿐인데도 마치 AI가 만든 이미지처럼 표시되는 셈이다.

이처럼 일상적인 편집 과정에서 AI 표시가 함께 나타나면서, 이용자들 사이에서는 혼란이 적지 않다. “이 정도 사용도 법 적용 대상이 되는 것 아니냐”, “AI 기본법 시행 이후 새롭게 의무가 생긴 것 아니냐”는 반응이 나온다. 사진 일부를 손 본 것뿐인데도 결과물이 동일하게 ‘AI 생성물’로 분류되는 것이 과도한 적용 아니냐는 문제 제기도 이어진다. 나아가 자신도 의무 대상에 포함되는 것은 아닌지, 자칫 처벌 대상이 되는 것은 아닌지 헷갈린다는 목소리도 나온다.

29일 과학기술정보통신부에 따르면 지난 22일부터 시행된 AI 기본법은 생성형 AI 제품·서비스를 제공하는 사업자에게 ‘투명성 확보 의무’를 부과하고 있다. 생성형 AI가 활용된 서비스라는 점과, 그 결과물이 AI에 의해 생성됐다는 사실을 이용자가 인식할 수 있도록 하자는 취지다.

이 같은 규정이 도입된 배경에는 생성형 AI 결과물이 실제 사진이나 영상과 구분되지 않은 채 소비되는 현실이 있다. 온라인상에서는 현실에서는 벌어지기 어려운 장면이 마치 실제 상황인 것처럼 유통되는 사례도 적지 않다. 별다른 표식 없이 이런 콘텐츠를 접한 뒤 뒤늦게 AI가 만든 생성물이라는 사실을 알고 ‘진짜인 줄 알았다’거나 ‘속은 것 같다’는 반응이 나오는 이유다.

이처럼 생성형 AI 결과물이 실제 기록물과 뒤섞여 소비될 경우, 이용자 신뢰가 훼손될 수 있다는 문제의식이 투명성 확보 의무의 출발점이라는 설명이다. 누가 만들었는지보다 최소한 AI가 관여했다는 사실만큼은 이용자가 인지할 수 있도록 하자는 취지다.

이 같은 흐름은 국내만의 시도는 아니다. 이미 소라(Sora) 등 해외 주요 생성형 AI 서비스들은 별도의 규제 여부와 관계없이 AI가 생성한 결과물임을 알리는 표시를 적용해 오고 있다. 이미지·영상에 로고를 노출하거나, 화면 내 안내 문구를 통해 AI 기반 결과물임을 고지하는 방식이다.

국내에서도 유사한 변화는 이미 시작됐다. 삼성전자는 갤럭시S24 시리즈부터 사진 지우개 등 일부 AI 기능을 활용해 편집한 결과물에 별도 표식을 표시하고 있다. 해당 콘텐츠가 실제 상황으로 오인돼 소비되는 것을 최소화하려는 취지다.

다만 이용자 입장에서는 자신의 창작물이 AI가 ‘만든 것’으로 일괄 표시되는 데 대한 불만도 있다. 전체를 AI가 새로 생성한 것이 아니라 직접 촬영한 사진이나 영상에 일부 기능만 활용했음에도 결과물이 동일하게 ‘AI 생성물’로 분류되면서 창작의 주체가 희석되는 것 아니냐는 것이다. 일상적인 편집과 생성형 AI 결과물 사이의 경계가 모호한 만큼, 이용자 혼선을 줄이기 위한 기준 정리가 필요하다는 지적도 뒤따른다.

이러한 궁금증을 둘러싸고, 과학기술정보통신부가 정리한 AI 기본법 투명성 확보 기준을 문답으로 정리했다.

-표시 의무는 누가 지켜야 하나?

"표시 의무는 생성형 AI 제품·서비스를 제공하는 AI사업자에게만 부과된다. 챗GPT나 제미나이 등이 해당된다. 여기에 제미나이가 제공하는 나노바나나로 개인화된 콘텐츠 생성을 지원하는 캐럿과 같은 플랫폼 사업자도 대상이다. AI 기업의 생성형 AI 제품 또는 서비스를 이용하는 사람은 AI기본법상 투명성 확보 의무가 없다.

다만 이용자가 AI 생성물을 이용해 관계법령(정보통신망법, 공직선거법, 청소년보호법, 표시광고법 등)에 저촉되는 행위를 할 경우, 해당 법령에 따른 제재를 받을 수 있음을 유의해야 한다."

-표시 의무가 적용되는 예시는

"일례로 챗GPT나 제미나이 등 생성형AI 서비스를 이용해 동영상·이미지를 생성해 활용하는 방송사·언론사 등에게는 표시 의무가 없다. 콘텐츠를 제작하는 사업자에게도 표시 의무가 없다.

다만 생성형 AI를 탑재한 웹툰 제작 서비스를 제공하는 AI사업자는 표시 의무가 있다."

-유튜버, 개인 창작자도 대상인가

"일반적으로 생성형 AI를 이용해 영화, 동영상 등 콘텐츠를 만드는 이들은 AI기본법상 ‘이용자’로서 표시 의무가 없다."

-이용자는 정말 아무런 의무가 없는가

"없다. AI기본법은 기존 각 영역의 법령을 존중하는 가운데, 새롭게 등장한 AI사업자들에게 건전한 AI 활용을 위한 최소한의 의무를 부여하는 법이다. 다만 이용자가 AI 생성물을 활용해 관계법령(정보통신망법, 공직선거법, 청소년보호법, 표시광고법 등)에 저촉되는 행위를 하면 해당 법령에 따라 제재를 받는다."

-워터마크는 무엇을 의미하나

"가시적 표시는 사람이 직관적으로 인식할 수 있는 표시로, 글자·기호 등으로 나타낸 표식을 의미한다. 비가시적 표시는 기계로 판독할 수 있는 표시로, 메타데이터나 디지털 워터마크를 의미한다.

메타데이터는 파일에 내장된 속성 정보 형태로 저장돼 전용 읽기 도구 등으로 확인 가능한 데이터다. 디지털 워터마크는 콘텐츠 내에 사람이 인식할 수 없는 잡음·무늬 등으로 저작권·출처 정보를 삽입하는 기법이다. 다만 딥페이크 생성물은 반드시 이용자가 직관적으로 인식할 수 있는 가시적 표시 방법만 허용된다. "

-스마트폰 편집 툴인 사진 지우개 같은 기능도 AI 표시 의무가 적용되나

“사진 지우개와 같이 AI 기술이 활용된 편집 기능을 서비스 형태로 제공하는 경우, AI 기본법상 투명성 확보 의무는 해당 기능을 개발·운영·제공하는 AI사업자에게 적용된다. 개인 이용자가 해당 기능을 사용했다고 해서 AI 표시 의무가 발생하거나 법적 책임을 지게 되는 구조는 아니다.

현재 제도에서는 표시 여부를 이용자가 선택하거나 판단하는 방식이 아니라, 서비스 제공자가 자사 서비스 운영 방식에 따라 적용하게 된다.”

-사진의 일부만 수정했는데도 ‘AI가 만든 콘텐츠’처럼 표시되는 게 과도한 것 아닌가

"현재 제도는 AI 기술이 결과물 생성 과정에 관여했는지 여부를 기준으로 표시 여부를 판단한다. 전체를 새로 생성했는지, 일부만 편집했는지에 따라 표시를 달리하도록 법에서 세분화해 규정하고 있지는 않다. 이 때문에 일부 편집 결과물에도 동일한 표식이 붙는 사례가 발생할 수 있다."

-이용자가 표식을 지우거나 편집하면 문제가 되나

" 이용자가 개인적으로 편집하는 행위 자체를 두고 법적 책임을 묻는 구조는 아니다. AI 기본법은 이용자 처벌을 전제로 한 법이 아니라, 생성형 AI 서비스 제공 단계에서의 투명성 확보를 목표로 하고 있다."

-왜 이렇게까지 표시를 강조하나

"생성형 AI 결과물이 실제 사진이나 영상처럼 유통될 경우, 이용자가 이를 사실로 오인할 가능성이 있기 때문이다. AI 기본법의 투명성 확보 의무는 ‘속였는지’를 가리기 위한 규제가 아니라, 이용자가 결과물의 성격을 인지할 수 있도록 하려는 최소한의 장치다."

-예술 창작물은 표시가 감상을 방해하지 않나

"AI 기본법은 예술적·창의적 표현물의 경우 딥페이크 결과물이라 하더라도 비가시적 표시 등 전시·향유를 저해하지 않는 표시 방식을 허용하고 있다. 이에 따라 예술 작품에는 비가시적 표시를 적용해 감상에 방해가 안 되게 할 수 있다."


◎공감언론 뉴시스 [email protected]