방미통위, 'AI 이용자 보호 컨퍼런스' 개최…AI 에이전트 책임·규제 논의

[서울=뉴시스]심지혜 기자 = 인공지능(AI)이 단순히 질문에 답하는 수준을 넘어 스스로 판단하고 직접 행동하는 'AI 에이전트(AI 비서)' 시대로 진화하면서 새로운 이용자 보호 대책이 시급해졌다.

이에 따라 AI 서비스의 숨은 위험 요소를 미리 점검하고, 기업(사업자)의 책임과 정부의 역할을 새롭게 정립하기 위한 정책 논의가 본격적으로 시작됐다.

방송미디어통신위원회는 2026 인공지능서비스 이용자 보호 컨퍼런스를 12일 개최했다고 밝혔다.

이번 행사는 AI 에이전트 서비스 확산에 따른 이용자 보호 문제를 살펴보고 정부와 산업계, 기술 전문가, 이용자가 참여하는 협력 방안을 논의하기 위해 마련됐다.

AI 에이전트는 사람이 설정한 목표에 따라 외부 개입 없이 스스로 전략을 수립하고 실행하는 AI 시스템이다. 기존 생성형 AI가 정보를 만들고 제공하는 데 초점을 맞췄다면, AI 에이전트는 직접 판단하고 행동한다는 점에서 차이가 있다.

AI가 정보를 제공하는 역할에서 실제 행동을 수행하는 단계로 발전하면서 이용자 보호 논의 역시 서비스의 위험 요소와 사업자의 책임 문제로 확산되고 있다.

이날 컨퍼런스에서는 기술적 안전성 확보 방안과 함께 이용자 권익 보호를 위한 사업자 책무, 정부의 정책 과제가 주요 의제로 다뤄졌다.

기조발제에 나선 박태웅 국가인공지능전략위원회 공공AX분과장은 기술 발전에 따른 이용자 보호 제도의 변화 과정을 짚고 AI 에이전트 시대에 새롭게 등장하는 위험과 쟁점을 설명했다.

다음으로 이상근 고려대 인공지능보안연구소장은 AI 에이전트의 위험 요소를 분석하고 서비스 안전성을 확보하기 위한 최신 기술 동향을 소개했다. 조성은 정보통신정책연구원 박사는 AI 에이전트 서비스 이용자의 권익을 보호하기 위한 사업자 책임과 향후 정책 과제를 발표했다.

기술적 위험에 대한 대응뿐 아니라 서비스 제공자의 책임과 정부의 역할을 어떻게 설정할 것인지도 이날 논의의 주요 내용이었다.

이어 오병철 연세대 법학전문대학원 교수가 좌장을 맡은 전문가 토론에서는 AI 에이전트 서비스 이용 과정에서 발생할 수 있는 위험과 방미통위의 역할을 논의했다. 정부와 기술계, 산업계, 이용자가 함께 참여하는 이용자 보호 거버넌스 구축 방안에 대해서도 의견을 나눴다.

김종철 방미통위원장은 "이용자가 보호되어야 산업도 진흥할 수 있음에 따라 인공지능 에이전트 서비스 진흥과 이용자 보호가 동반 성장의 관계로 나아갈 수 있도록 오늘 논의된 의견을 정책에 적극 반영하겠다"며 "이용자가 안전하고 신뢰할 수 있는 환경에서 인공지능서비스를 이용할 수 있도록 최선을 다할 것"이라고 말했다.


◎공감언론 뉴시스 [email protected]