정부, AI 에이전트 신분증 도입…사고시 책임소재 가린다

[서울=뉴시스]심지혜 기자 = 정부가 인공지능(AI) 에이전트가 누구 권한으로 행동했는지 확인하고 사고 발생 시 책임소재를 가릴 수 있는 신원확인·관리 체계 마련에 나선다. AI 에이전트 유통을 위한 마켓플레이스를 지원하고 AI 모델·추론·에이전트·도구를 통합 관리하는 AI 운영체제(OS) 핵심 기술도 개발한다.

과학기술정보통신부는 23일 열린 제11회 과학기술관계장관회의에서 관계부처 합동으로 마련한 '에이전틱 AI 이니셔티브'를 발표했다고 밝혔다.

에이전틱 AI는 이용자가 제시한 목표에 따라 스스로 계획을 세우고 외부 시스템이나 도구와 연계해 실제 업무를 수행하는 AI를 뜻한다. 정부는 AI 경쟁의 축이 우수한 모델 보유 여부에서 데이터와 시스템, 업무 흐름을 연결하고 실행하는 역량으로 확대될 것으로 보고 있다.

이에 '실행 기반 중심의 에이전틱 AI 생태계 선점'을 비전으로 제시하고 ▲에이전틱 AI 안전·신뢰 선도 ▲개방형 에이전틱 AI 실행 기반 조성 ▲수요 중심의 에이전틱 AI 도입 촉진 등 3대 전략을 추진한다.

정부는 에이전틱 AI가 외부 시스템과 연동돼 실제 실행까지 수행하는 만큼 생성형 AI보다 권한 오남용과 보안 위협, 민감 데이터 유출 등의 위험이 크다고 판단했다.

이를 반영해 개인정보·민감데이터 보호, AI 권한 관리, 목표 이탈 방지, 인간 감독 체계 등 에이전틱 AI 고유 위험 요소를 담은 '에이전틱 AI 안전·신뢰 가이드라인'을 올해 안에 마련한다.

에이전틱 AI의 성능과 안전·신뢰성을 평가할 수 있도록 데이터셋과 시나리오, 벤치마크 도구 등 평가 기반도 구축한다. 내년부터는 에이전틱 AI의 안전성과 신뢰성을 검증할 수 있는 환경을 지원할 계획이다.

AI 에이전트의 안전한 활용과 행위에 따른 책임성 확보를 위해 신원확인·관리 방안과 책임소재도 검토한다.

정부는 국민이 일상생활이나 업무에서 반복적으로 활용할 수 있는 생활밀착형·고수요 AI 에이전트 서비스와 도구 개발을 지원한다.

신뢰할 수 있는 AI 에이전트 서비스와 도구가 안전하게 연결·유통될 수 있도록 민간의 AI 에이전트 마켓플레이스도 지원한다.

AI 모델과 추론 시스템, 에이전트, 외부 도구 등 핵심 요소를 통합 관리하는 AI OS 핵심 기술도 개발한다. AI OS는 자원 최적화와 보안을 기반으로 AI 에이전트의 자율적인 서비스 실행을 지원하는 시스템이다.

특히 에이전틱 AI는 여러 에이전트가 협업하거나 도구를 활용하고 반복 호출하는 과정에서 많은 연산 자원이 요구된다. 정부는 토큰 효율 기반의 실행 운영 기술 확보에도 나설 방침이다.

국산 AI 모델의 에이전틱 AI 성능 강화를 위해 내년부터 그래픽처리장치(GPU)와 관련 데이터도 지원한다.

정부는 '모두의 AI 프로젝트'를 통해 국민 누구나 AI 에이전트를 활용할 수 있는 기반을 마련한다. 민간 기업 주도로 범용 AI 챗봇과 국민의 수요·선호를 반영한 특화 AI 에이전트 서비스를 함께 제공할 계획이다.

장기적으로 모든 국민이 자신만의 AI 에이전트를 일상과 경제활동에 활용하도록 한다. 내년부터는 AI 에이전트를 개발·운영하거나 1인 창업에 활용할 수 있도록 인프라 비용을 바우처 형태로 지원한다.

산업 현장에는 'AI 에이전트 플래그십 프로젝트'를 추진한다. AI 파운데이션 모델 기업과 인프라 기업, AI 서비스 개발사, 수요 기업 등 AI 가치사슬 전반과 연계한 대형 컨소시엄을 구성해 에이전틱 AI 서비스 개발과 실증을 지원한다.

대상 분야로는 미디어와 물류, 핀테크, 에듀테크, 리걸테크, 에너지, 농업, 헬스케어, 바이오, 건축 등이 검토되고 있다.

기업이 AI 에이전트를 자체적으로 개발·운영할 수 있도록 도입 진단과 위험관리, 운영 체계 수립 등을 지원하는 전문 컨설팅도 내년부터 제공한다.

정부는 산업별 수요와 서비스 유형, 기업 현황을 종합한 'AI 에이전트 산업 지도'를 구축해 서비스 발굴과 실증, 확산에 활용한다.

여러 AI 에이전트가 연쇄적으로 작동하거나 자율적으로 의사결정을 내려 기존 규제로 실증이 어려운 서비스에는 ICT 규제샌드박스를 연계한다. 실증 결과를 기반으로 에이전틱 AI에 친화적인 제도 개선을 단계적으로 추진한다.

과기정통부는 280여개 기업이 참여한 민관 합동 에이전틱 AI 얼라이언스를 중심으로 올해 하반기 정책 세부 내용을 구체화할 계획이다.

배경훈 부총리 겸 과기정통부 장관은 "에이전틱 AI는 단순한 기술 혁신을 넘어 일하는 방식과 경제·사회 전반의 변화를 이끄는 새로운 전환점이 될 것"이라며 "국민과 기업이 에이전틱 AI 시대에 기회를 확보하고 새로운 가치를 창출할 수 있도록 안전·신뢰 기반의 에이전틱 AI 생태계를 조성하겠다"고 말했다.


◎공감언론 뉴시스 [email protected]