16일부터 데이팅·관계 기능 별도 분류…로맨틱·성적 AI 컴패니언도 포함
해당 앱 최소 18+ 등급…기존 앱도 내년 1월까지 기능 여부 신고해야
OS엔 연령대 확인 API 이미 구축…AI 안전 책임, 개발사 넘어 플랫폼까지
AI 컴패니언 서비스 '레플리카'가 공개한 서비스 이미지. 레플리카는 이용자와 대화하며 친구나 연인 등 다양한 관계를 형성할 수 있는 AI 가상 동반자 서비스다. (사진=레플리카) *재판매 및 DB 금지
[서울=뉴시스]윤현성 기자 = 애플이 데이팅 앱뿐 아니라 이용자와 로맨틱·성적 관계를 맺는 인공지능(AI) 가상 동반자까지 앱스토어에서 최소 18세 이상 등급으로 분류하기로 했다. 단순한 이용등급 조정을 넘어 생성형 AI 서비스 확산에 맞춰 앱스토어 유통 단계에서 미성년자 접근을 관리하는 체계를 넓혀가는 모습이다.
4일 애플에 따르면 오는 16일부터 앱스토어 개발자 관리도구인 '앱스토어 커넥트'의 연령등급 설문에 '데이팅 및 관계(Dating and Relationships)' 항목이 새로 추가된다.
개발자는 자신의 앱에 실제 사람 간 데이팅·관계 형성 기능이 있는지, 이용자와 성적 또는 로맨틱 콘텐츠로 상호작용하는 '가상 동반자(버추얼 컴패니언)' 기능이 있는지를 신고해야 한다.
해당 기능을 포함한 앱에는 최소 18+ 등급이 부여된다. 기존 앱도 내년 1월12일까지 관련 기능 포함 여부를 애플에 제출해야 한다. 이번 연령등급 개편은 글로벌 앱스토어에 적용된다.
다만 모든 AI 챗봇이나 가상 친구 서비스가 18+로 분류되는 것은 아니다. 애플이 명시한 대상은 이용자와 성적·로맨틱 콘텐츠로 관계를 맺는 가상 동반자다. 단순 정보 제공형 AI나 일반적인 대화형 챗봇까지 일괄적으로 성인 등급을 적용하는 조치는 아니다.
애플의 이번 조치는 앱스토어 연령등급 체계를 지속적으로 세분화해온 흐름의 연장선이다.
애플은 지난해 앱스토어 연령등급 체계를 개편해 기존 4+, 9+에 13+, 16+, 18+를 추가했다. 앱 내부의 민감한 콘텐츠와 기능을 더 세밀하게 구분하기 위한 조치였다.
이번에는 여기서 한발 더 나아가 '누구와 어떤 관계를 맺는 앱인지'까지 연령등급 판단 요소로 집어넣었다. 같은 날 추가되는 '공유 위치' 항목도 이용자가 현실의 위치를 다른 사람이나 집단과 공유하는 기능을 개발자가 별도로 신고하도록 했다.
특히 생성형 AI가 단순 질문·답변을 넘어 친구나 연인의 역할을 수행하는 'AI 동반자(AI 컴패니언)'로 영역을 넓히면서 미성년자 보호 문제가 새로운 규제 대상으로 떠오르고 있다.
미국 뉴욕주는 최근 미성년자를 상대하는 AI 컴패니언이 자신을 실제 인간처럼 표현하거나 성적으로 노골적인 메시지를 보내는 등의 행위를 제한하는 법을 제정했다. 캘리포니아 등 다른 지역에서도 AI 챗봇의 아동·청소년 안전을 강화하는 규제가 잇따르고 있다.
4일 애플에 따르면 오는 16일부터 앱스토어 개발자 관리도구인 '앱스토어 커넥트'의 연령등급 설문에 '데이팅 및 관계(Dating and Relationships)' 항목이 새로 추가된다.
개발자는 자신의 앱에 실제 사람 간 데이팅·관계 형성 기능이 있는지, 이용자와 성적 또는 로맨틱 콘텐츠로 상호작용하는 '가상 동반자(버추얼 컴패니언)' 기능이 있는지를 신고해야 한다.
해당 기능을 포함한 앱에는 최소 18+ 등급이 부여된다. 기존 앱도 내년 1월12일까지 관련 기능 포함 여부를 애플에 제출해야 한다. 이번 연령등급 개편은 글로벌 앱스토어에 적용된다.
다만 모든 AI 챗봇이나 가상 친구 서비스가 18+로 분류되는 것은 아니다. 애플이 명시한 대상은 이용자와 성적·로맨틱 콘텐츠로 관계를 맺는 가상 동반자다. 단순 정보 제공형 AI나 일반적인 대화형 챗봇까지 일괄적으로 성인 등급을 적용하는 조치는 아니다.
13·16·18세로 등급 세분화한 애플…AI 관계형 서비스도 별도 관리
애플은 지난해 앱스토어 연령등급 체계를 개편해 기존 4+, 9+에 13+, 16+, 18+를 추가했다. 앱 내부의 민감한 콘텐츠와 기능을 더 세밀하게 구분하기 위한 조치였다.
이번에는 여기서 한발 더 나아가 '누구와 어떤 관계를 맺는 앱인지'까지 연령등급 판단 요소로 집어넣었다. 같은 날 추가되는 '공유 위치' 항목도 이용자가 현실의 위치를 다른 사람이나 집단과 공유하는 기능을 개발자가 별도로 신고하도록 했다.
특히 생성형 AI가 단순 질문·답변을 넘어 친구나 연인의 역할을 수행하는 'AI 동반자(AI 컴패니언)'로 영역을 넓히면서 미성년자 보호 문제가 새로운 규제 대상으로 떠오르고 있다.
미국 뉴욕주는 최근 미성년자를 상대하는 AI 컴패니언이 자신을 실제 인간처럼 표현하거나 성적으로 노골적인 메시지를 보내는 등의 행위를 제한하는 법을 제정했다. 캘리포니아 등 다른 지역에서도 AI 챗봇의 아동·청소년 안전을 강화하는 규제가 잇따르고 있다.
애플 앱스토어. (사진=애플) *재판매 및 DB 금지
앱 등급 넘어 연령대까지 구분…OS·앱스토어가 '문지기'로
대표적인 것이 '디클레어드 에이지 레인지 API(Declared Age Range API)'다. 앱이 13세·16세·18세 등 필요한 기준을 제시하면 공유를 허용한 경우 iOS가 이용자의 정확한 생년월일 대신 어느 연령 범위에 속하는지만 전달하는 방식이다. 미성년자가 가족 공유 그룹에 포함된 경우에는 부모나 보호자가 자녀의 연령대 정보 공유 여부를 결정할 수도 있다.
일부 국가·지역에서는 신용카드나 정부 발급 신분증 등으로 확인된 연령 정보도 활용된다. 이 경우에도 개발사에는 정확한 생년월일이 아니라 서비스 이용에 필요한 연령대 정보만 전달된다.
이같은 연령확인 체계는 이번 AI 가상 동반자 18+ 분류의 실효성을 뒷받침하는 기반이 될 수 있다.
실제로 일부 국가에서는 앱스토어 자체가 18+ 앱의 다운로드를 제한하고 있다. 애플은 지난 2월부터 호주·브라질·싱가포르에서 성인으로 확인되지 않은 이용자가 18+ 등급 앱을 내려받지 못하도록 하고 있다. 미국 유타·루이지애나에서도 현지 법률에 따라 신규 애플 계정 이용자의 연령대 정보를 개발사 앱이 요청할 경우 공유하는 체계를 적용 중이다.
다만 연령정보 공유 방식과 실제 다운로드 제한 여부는 국가·지역별 규제에 따라 다르다. 이번에 AI 가상 동반자가 18+ 분류 대상에 포함됐다고 해서 모든 국가에서 곧바로 별도의 신분증 인증을 거쳐야 한다는 의미는 아니다.
그럼에도 AI 서비스의 아동·청소년 안전 책임이 개발사의 자체 필터링에만 머물지 않고 앱스토어와 OS를 운영하는 플랫폼 사업자로 확대되는 흐름은 뚜렷하다. AI가 사람과 맺는 관계까지 앱 유통 단계에서 분류하기 시작하면서 애플의 '플랫폼 문지기' 역할도 한층 커질 전망이다.
◎공감언론 뉴시스 [email protected]
