[서울=뉴시스]박은비 기자 = 인공지능(AI) 서비스의 불법·유해정보 노출 위험이 커지는 가운데 이용자 보호를 위한 민관 논의의 장이 마련됐다.

방송미디어통신위원회는 27일 서울에서 'AI 서비스 이용자보호 민관협의회' 2차 회의를 개최했다고 밝혔다.

AI 서비스 확산에 따른 기존 제도의 사각지대를 진단해 안전한 서비스 환경을 조성하기 위한 제도 개선 방안을 모색하기 위한 자리다. 정보통신기술(ICT)·법률·미디어 관련 전문가와 소비자·시민단체, 통신사·플랫폼·AI 기업 등 사업자, 정부·공공기관 관계자들이 참석했다.

이날 회의에서는 김경훈 카카오 AI 안전 리더가 발제를 맡아 AI 서비스의 불법·유해정보 대응을 위한 가드레일 시스템 현황에 대해 발표했다. 카카오는 자체 개발한 AI 안정성 검증을 위한 가드레일 모델 '카나나 세이프카드'를 운영 중이다.

이어진 종합토론에서는 AI 서비스 내 불법·유해정보 노출 위험이 커진 가운데 사업자의 자율적 안전조치 활성화를 위한 민관 협력 방안에 대해 논의가 이뤄졌다. 사업자의 이용자 보호를 위한 법제 마련시 제도의 실효성을 제고하는 방향으로 반영될 필요가 있다는 게 참석자들의 시각이다.

신영규 방미통위 방송통신이용자정책국장은 "윤리적으로 신뢰할 수 없는 AI 기술은 사회적 불신을 초래해 결국 AI 산업 전체의 성장을 가로막을 수 있다"며 "기술 진흥과 이용자 보호를 위한 기술적 안전조치는 반드시 동반돼야 한다"고 말했다.

그러면서 "이날 논의된 내용을 바탕으로 법과 기술, 제도 등 종합적 지원 방안을 마련해 국민이 안심하고 신뢰할 수 있는 AI 이용 환경을 만드는 데 최선을 다하겠다"고 강조했다.

한편 방미통위는 지난 2021년부터 운영해온 지능정보사회 이용자 보호 민관협의회를 2024년 AI 서비스 이용자 보호 민관협의회로 확대 개편했다. 2기는 정부, 산업계, 법조계, 학계, 시민단체 등 전문가 35명으로 구성됐다.


◎공감언론 뉴시스 silverline@newsis.com