[대전=뉴시스] 김양수 기자 = 국내 연구진이 인공지능(AI)이 어떤 근거와 이유로 판단했는지 설명하고 결과의 신뢰성까지 검증하는 기술을 개발해 국제표준으로 승인을 받았다.

한국전자통신연구원(ETRI)은 전문지식을 기반으로 추론하고 판단 이유와 근거를 설명하며 생성 결과를 검증할 수 있는 '설명가능한 의사결정지원 AI' 기술을 개발하고, 이 기술의 시스템 구조 및 요구사항을 담은 국제표준이 국제전기통신연합(ITU)에서 승인됐다고 12일 밝혔다.

이번 국제표준은 ITU-T F.748.59 '인간-기계 상호작용 기반 설명가능한 의사결정지원 시스템의 프레임워크와 요구사항'이다. 특정 AI 모델이나 제품에 한정되지 않고 기업과 공공기관이 설명가능한 AI 서비스를 설계할 때 활용할 수 있는 공통 기준을 제시한다.

최근 생성형 AI는 다양한 질문에 자연스럽게 답하지만 어떤 근거로 결론을 도출했는지와 결과를 얼마나 신뢰할 수 있는지 설명하는 데 한계가 있다. 특히 의료·법률·금융·행정 등 판단의 책임과 신뢰성이 중요한 분야에서는 AI의 판단 과정과 근거를 제시하는 기술이 요구돼 왔다.

이번 표준은 설명가능한 AI가 갖춰야 할 공통 구조와 핵심 기능을 정의했다.  연구팀은 "AI가 결과만 제시하는 것이 아니라 판단 근거와 이유를 설명하고 추가 확인이 필요한 정보까지 식별할 수 있도록 했다"며 "사용자 질문에 대한 결과·이유 설명, 전문지식 기반 추론, 판단 근거와 분석 내용을 담은 보고서 제공, 사용자 피드백 반영, 전문지식 업데이트, 텍스트·표·이미지·도식 등 다양한 정보 활용 기능 등이 포함됐다"고 설명했다.

ETRI는 국제표준 마련과 함께 이를 실제 구현키 위한 핵심기술도 개발했다.

설명가능한 분류 기술은 전문문서나 상담기록 등을 분석해 상황과 유형을 분류하고 판단 근거를 제시한다. 멀티모달 기반 자가검증 RAG 기술은 표·이미지·도식 등이 포함된 전문문서에서 정보를 검색하고 검색 결과와 생성 답변의 적절성을 스스로 검증한다.

또 생성 결과 사실성 검증 기술은 AI가 작성한 답변이나 보고서가 실제 근거와 일치하는지를 확인하고 신뢰하기 어려운 내용을 사용자에게 알리며 인터랙티브 플래닝 기반 보고서 생성 기술은 사용자의 목적과 형식에 맞춰 작성 계획을 세운 뒤 전문지식과 분석 결과를 반영해 보고서를 단계적으로 생성한다.

ETRI는 이를 통해 AI가 자연스러운 문장을 생성하는 수준을 넘어 전문지식을 바탕으로 추론하고 판단 근거와 이유, 검증 결과까지 제공하는 의사결정지원 시스템을 구현할 수 있을 것으로 기대하고 있다.

특히 최근 시행된 AI 기본법이 고영향 AI에 대해 주요 기준과 판단 과정 등을 설명하도록 요구하고 있어 이번 국제표준이 기업과 공공기관의 설명 의무 이행을 위한 기술적 기준으로 활용될 전망이다.

과제책임자인 배경만 시각지능연구실 박사는 "AI는 답을 잘 만드는 것뿐 아니라 그 답이 어떤 근거에서 나왔는지, 왜 그런 결론을 내렸는지, 잘못된 내용은 없는지를 함께 보여주는 것이 중요하다"며 "전문가가 AI 결과를 직접 확인하고 책임 있게 활용할 수 있도록 지속적으로 기술을 고도화하겠다"고 밝혔다.


◎공감언론 뉴시스 kys0505@newsis.com