AWS, 오픈소스 '도그우드' 공개…AI 에이전트 위험 작업 차단

[서울=뉴시스]이주영 기자 = 아마존웹서비스(AWS)가 인공지능(AI) 에이전트의 개별 행동뿐 아니라 연속된 행동의 흐름까지 통제할 수 있는 오픈소스 정책 언어 '도그우드'를 공개했다고 13일 밝혔다.

AI 에이전트는 이용자의 지시를 받아 스스로 다음 행동을 결정하고 여러 작업을 연속적으로 수행한다. 각각의 행동에는 문제가 없더라도 여러 행동이 이어지면서 예상하지 못한 위험이 발생할 수 있다.

예를 들어 고객 계좌를 조회한 뒤 조회하지 않은 다른 계좌로 돈을 보내거나, 승인 한도보다 적은 금액을 여러 차례 결제해 전체 예산을 초과하는 경우다. 오류가 발생한 도구를 계속 호출하면서 불필요하게 토큰을 소모할 수도 있다.

AWS는 이 같은 문제를 막기 위해 도그우드를 기반으로 한 '시간 기반 정책'을 AI 에이전트 구축·운영 서비스 '아마존 베드록 에이전트코어'에 적용했다.

시간 기반 정책은 AI 에이전트가 현재 수행하려는 작업뿐 아니라 같은 세션에서 앞서 수행한 행동까지 함께 살펴 작업 허용 여부를 결정한다. 앞선 작업의 결과와 다음 작업의 입력값이 일치하도록 하거나 누적 결제액이 정해진 예산에 도달하면 다음 결제를 차단하는 식이다.

특정 작업을 정해진 순서대로 수행하도록 제한하거나 중요한 작업을 실행하기 전에 사람의 승인을 받도록 설정하는 것도 가능하다.

정책은 AI 에이전트 자체가 아닌 게이트웨이에서 적용된다. 이에 따라 에이전트는 적용된 정책을 확인하거나 스스로 변경할 수 없다. 프롬프트 인젝션이나 에이전트 코드에 문제가 발생하더라도 정책을 우회하기 어렵도록 설계했다.

도그우드는 AI 에이전트를 위해 설계한 오픈소스 정책 언어다. 기존 접근 권한 제어에 사용되는 오픈소스 정책 언어 '시더'와 호환되면서 에이전트의 이전 행동을 확인할 수 있는 기능을 추가했다. 이를 통해 도구 사용 순서와 사전 조건, 사용 빈도, 누적 사용량 등을 제한할 수 있다.

AWS는 에이전트코어 게이트웨이에 사용량 제한 기능도 추가했다. 분당 요청 수와 토큰 처리량, 동시 연결 수를 기준으로 이용자별 상한을 설정할 수 있다. 사용자와 팀, 도구, AI 모델별로 서로 다른 한도를 적용하는 것도 가능하다.

시간 기반 정책과 게이트웨이 사용량 제한 기능은 이날부터 이용할 수 있다. 기존 AI 에이전트를 새로 설계하거나 코드를 수정하지 않고도 적용할 수 있다. 도그우드 참조 구현과 언어 가이드는 깃허브(GitHub)에서 확인 가능하다.


◎공감언론 뉴시스 [email protected]