[서울=뉴시스]권안나 기자 = BC카드가 문맥을 이해하는 금융 특화 생성형 인공지능(AI) 임베딩 모델을 자체 개발했다. 검색 정확도를 높여 금융 AI 경쟁력을 강화하고 독자적인 금융 AI 기술 기반을 확보했다.

BC카드가 금융 특화 생성형 AI 서비스의 검색 정확도를 높이는 자체 개발 임베딩 모델을 공개했다고 2일 밝혔다.

임베딩 모델은 질문과 문서의 의미를 AI가 이해할 수 있는 좌표값(숫자)으로 변환한다. 의미가 비슷한 정보는 가까이 배치해 가장 관련성이 높은 정보를 찾아 사용자에게 제공한다.

예를 들어 "해외결제 수수료는 얼마인가요?"라는 질문을 생성할 경우 AI는 관련 약관 및 문서를 찾은 후 답변을 생성한다. 이때 임베딩 모델은 '해외 이용 수수료', '국제 브랜드 수수료'처럼 표현은 다르지만 의미가 같은 문서를 찾아 AI에게 전달해준다.

기존 임베딩 모델은 가맹점, 카드 결제 등 국내 금융 분야의 전문 용어와 문맥을 충분히 이해하지 못한다는 한계가 있었다. BC카드는 이러한 문제 해결을 위해 오픈소스 플랫폼에 공개했던 182만건 규모 데이터셋을 활용해 금융 특화 임베딩 모델을 개발했다.

이번에 개발된 모델은 서비스 목적에 맞춰 경량형, 고품질형 2가지 라인업으로 구성된다.

경량형 모델은 약 6억(0.6 B)개의 피라미터 규모로 일반 CPU로 이용 가능하다. 이 모델은 공개 직후 글로벌 벤치마크 SOTA(State Of The Art) 평가 항목에서 타 모델 대비 최대 15%까지 향상된 성능을 보이며 전세계 1위를 기록했다.
 
고품질형 모델은 약 40억(4.0B)개의 파라미터로 GPU환경에서만 활용할 수 있다. 경량형 모델 대비 약 10% 가량 성능이 뛰어나며, 정밀한 검색이 필요한 업무에 적합하다.

두 모델은 각각 속도와 정밀도를 강점으로 한다. 빠른 응답이 필요한 서비스에는 경량형 모델을, 높은 검색 정확도 필요한 시에는 고품질형 모델을 선택적으로 적용할 수 있다.

BC카드는 이번 개발 과정을 통해 금융 AI 서비스의 핵심 검색 기술을 자체 확보했다. 외부 AI 서비스에 금융 데이터를 제공하지 않고도 독자적인 AI 서비스를 운영할 수 있는 기반을 마련했다.

해당 모델은 글로벌 오픈소스 플랫폼인 허깅페이스를 통해서도 공개할 예정이다. BC카드는 향후 KT 그룹사 AI 서비스 적용을 시작으로 정부와 금융기관 등을 대상으로 금융 AI 검색 플랫폼 사업도 확대해 나갈 계획이다.

오성수 BC카드 상무(AI데이터본부장)은 "이번 개발은 금융 특화 AI 서비스의 핵심 기술을 자체 확보 및 운영할 수 있는 기술 기반을 마련해 정부의 소버린 AI 기조, 금융위원회가 추진 중인 금융권 AX 가속화 정책과도 부합한다는 점에서 의미가 크다"면서 "자체 개발한 금융 특화 모델과 데이터셋을 개방과 공유해 금융권 전반의 AX 저변 확대와 한국형 금융 AI 생태계 구축에 기여할 것"이라고 말했다.


◎공감언론 뉴시스 mymmnr@newsis.com