고액거래·정보충돌·이상징후, 정교한 통제체계 필요
[서울=뉴시스] 박주연 기자 = 금융권 인공지능(AI) 에이전트 활용의 성패는 'AI가 정상적인 업무를 얼마나 자동화하느냐'가 아니라' AI가 처리하기 어려운 예외 상황을 얼마나 안전하고 신속하게 처리할 수 있느냐'에 달렸다는 제언이 나왔다.
한국 딜로이트 그룹은 6일 이같은 내용을 담은 보고서를 발간하고, "고액 거래, 정보 충돌, 이상징후 등 예외가 발생했을 때 AI가 언제 판단을 멈추고 누구에게 이관할지를 사전에 설계하는 정교한 통제체계가 금융업 프로세스 혁신(PI)의 핵심"이라고 강조했다.
PI는 기업의 업무 방식과 프로세스를 원점에서 재검토해 시간과 비용을 줄이고 가치를 높이는 경영개선 활동이다. 딜로이트는 기존 PI가 사람 중심의 업무 수행을 전제로 목표 프로세스와 시간·공수 절감에 초점을 맞췄다면, AI 시대의 PI는 사람과 AI의 역할·권한·통제체계를 함께 설계하고 운영모델을 지속적으로 검증해 전략과 고객가치 실현을 이끌어내야 한다고 설명했다.
한국 딜로이트는 AI 에이전트가 실제 업무 수행에 참여하면서 PI의 설계 범위 또한 개별 업무 프로세스에서 엔드투엔드(End-to-End) 고객여정을 중심으로 재구성하고, 사람·코파일럿(Copilot)·AI 에이전트·기존 시스템의 역할과 자율성을 다시 배분해야 한다고 강조했다.
특히 금융사의 AI 에이전트 설계에는 ▲권한 통제 ▲결정 통제 ▲증적 통제 ▲예외 통제 등 네 가지 통제장치가 필요하다고 강조했다.
AI 에이전트가 어디까지 실행할 수 있는지(권한 통제), 언제 사람이 개입해야 하는지(결정 통제), 어떤 판단 근거를 남길지(증적 통제), 예외 상황 발생 시 누구에게 이관할지(예외 통제)를 명확히 설계해야 한다는 설명이다.
글로벌 금융사들도 AI를 실제 업무에 적용하면서 사람과 AI의 역할을 구분하고 예외 상황을 관리하는 방식으로 업무를 재설계하고 있다.
보험·금융서비스 기업 알리안츠는 호주에서 자연재해 시 급증하는 소액 음식물 변질 청구를 대상으로 '프로젝트 니모'를 운영하고 있으며, 7개 전문 에이전트가 보장 확인부터 사기징후 점검까지 수행하되 최종 지급 결정은 사람이 내리도록 했다. JP모건체이스의 기업·투자은행(CIB) 결제부문은 거래 물량이 최근 몇 년간 50% 이상 늘어나는 동안 AI·머신러닝을 활용해 수작업 예외 건수를 50% 이상 줄이고 예외 처리시간을 약 75% 단축했다.
한국 딜로이트는 "이들 사례는 AI 운영 성과를 높이려면 정상 경로의 자동화 뿐 아니라 예외 건수를 줄이고, 남은 예외를 사람이 안전하고 신속하게 처리할 수 있는 구조를 함께 설계해야 함을 보여준다"며 "AI가 절감한 시간을 곧바로 비용 절감이나 손익 개선으로 간주해서는 안 되며, 확보된 업무용량을 실제 고객가치와 경영성과로 전환할 수 있는 운영모델 설계가 필요하다"고 강조했다.
한국 딜로이트는 국내 금융회사들의 운영모델 전환을 위해 ▲목표가치와 베이스라인 정의 ▲우선순위 엔드투엔드 여정 선정 ▲불필요한 업무 우선 제거 ▲과업 분해 및 자율성 배분 ▲에이전틱 목표운영모델 설계 ▲한정된 범위 검증 및 확산의 6단계 실행방안을 제시했다.
변성욱 딜로이트 컨설팅 금융컨설팅본부 보험산업 리더는 "AI 에이전트 시대에 중요한 것은 몇 개의 업무를 자동화했는지가 아니라, 사람과 AI가 어떤 역할과 권한을 갖고 일하며 예외 상황에서 최종 책임을 누가 지는지를 설계하는 것"이라며 "금융업에서는 정상 경로의 자동화보다 AI가 처리하기 어려운 예외를 사람이 얼마나 원활하게 이어받고 해결할 수 있는지가 성과와 리스크를 좌우한다"고 강조했다.
◎공감언론 뉴시스 [email protected]
