박윤영 KT 대표의 미래 청사진 첫 신호탄…AI 과금폭탄 잡는 '토큰팩토리' 출격

[서울=뉴시스]심지혜 기자 = "토큰 경제 시대, 대한민국 인공지능(AI) 생태계를 이끄는 핵심 플랫폼 기업으로 거듭나겠다."

박윤영 KT 대표가 지난 7월 취임 100일에 제시했던 미래 청사진을 마침내 실행에 옮긴다. 통신을 넘어 인공지능(AI) 인프라와 관리 시장까지 영토를 넓히기 위한 첫 먹거리로 박 대표가 내세웠던 '토큰팩토리'가 시장에 전격 등판한다.

KT는 다양한 AI 모델을 한곳에서 고르고 이용료까지 줄여주는 '토큰팩토리'를 오는 30일 출시한다고 27일 밝혔다.

토큰은 AI가 질문을 이해하고 답변을 만들어낼 때 쓰는 데이터의 기본 단위다. 데이터 사용량에 따라 통신 요금을 내듯, AI 서비스 역시 주고받은 토큰량에 맞춰 이용료를 정산한다.

KT 토큰팩토리는 제각각 흩어져 있는 국내외 AI 모델들을 하나의 플랫폼으로 묶어서 제공하는 서비스다. 기업은 여러 AI 서비스를 일일이 찾아다닐 필요 없이 업무 목적과 예산에 맞게 가입부터 결제까지 한 곳에서 해결할 수 있다.

KT는 오는 30일 자체 인프라에서 구동되는 AI 모델 7종과 글로벌 모델 66종 등 총 73종을 우선 내놓는다. 글로벌 유통 플랫폼인 '오픈라우터'와 파트너십을 통해 연말까지 제공 모델을 500종 이상으로 대폭 늘릴 계획이다.

KT가 토큰팩토리를 미래 핵심 먹거리로 내세운 까닭은 AI 시장 환경이 빠르게 바뀌고 있어서다.

기업이 특정 AI 모델을 도입하고 서비스를 구축하는 단계를 넘어 여러 AI 모델을 업무에 맞게 활용하고 비용을 효율적으로 관리하는 것이 중요해지고 있다. AI 모델은 번역과 요약, 코딩, 복잡한 추론 등 분야별로 강점이 다르고 성능과 이용 비용도 제각각이다. 새로운 모델도 빠르게 등장하면서 기업 입장에서는 하나의 모델에 의존하기보다 업무 목적에 따라 적합한 모델을 선택하는 것이 합리적이다.

최근 글로벌 AI 토큰 소비량은 1년 사이 약 35배나 폭증했다. 이에 따라 기업들은 단일 AI 모델에 의존하기보다, 번역·코딩·분석 등 업무별로 가장 뛰어난 모델을 골라 쓰며 비용을 아끼는 일이 시급해졌다.

KT는 기존 기업 AI 전환 과정에서 겪는 문제를 토큰팩토리로 해소한다는 방침이다. 그동안 기업과 공공기관을 대상으로 AI 에이전트 구축, 클라우드 전환, 데이터 정제 등을 지원해온 데 이어 앞으로는 AI 도입 이후 모델을 교체하고 이용 현황과 비용을 관리하는 과정까지 포함한다는 것이다.

이진형 KT AX사업본부장은 "토큰팩토리는 기존 AX 사업과 별개의 사업이 아니다"라며 "기존 AX 사업에 좀 더 보완을 해서 함께 움직이는 것"이라고 설명했다.

강점은 자체 개발한 '오토 모델 라우터'다.

이용자가 질문을 던지면 난이도와 비용을 스스로 분석해 가장 적합한 AI 모델을 자동으로 연결해 준다. 단순 질문에는 저렴한 경량 AI를 붙이고, 고난도 분석에는 고성능 AI를 붙이는 방식이다. 이 기술은 글로벌 벤치마크 '라우터아레나'에서 종합 1위를 차지했다.

이용자의 질문과 업무 난이도, 요구 품질, 비용 등을 분석해 적합한 AI 모델을 자동으로 선택하는 기술이다. 이는 글로벌 모델 선택 성능 평가인 '라우터아레나'에서 종합 1위를 기록했다.

질문 속 불필요한 표현을 솎아내는 '프롬프트 압축 기술'도 더했다. 불필요한 단어를 줄여 토큰 소비 자체를 줄이고 저렴한 모델을 자동 배치함으로써 기업의 AI 이용료를 최대 25%까지 깎아준다는 게 KT측 설명이다.
 
김준석 KT AX미래기술원 랩장은 "프롬프트 내용에서 불필요한 내용들을 삭제함으로써 입력 토큰 수 자체를 줄여서 비용을 절감하는 것"이라고 설명했다.

KT는 단순한 AI 모델 중개 수수료에만 머물지 않고 수익성을 극대화한다는 전략이다. 자체 데이터센터의 그래픽처리장치(GPU)를 활용해 직접 AI 추론 서비스를 제공하며 수익을 확보하겠다는 구상이다.

기존 통신과 클라우드 사업과의 시너지도 도모한다. 기업 전용회선과 프라이빗 클라우드, 통신 부가서비스에 토큰팩토리를 결합해 패키지로 공급한다.

기업용 요금제는 스탠다드와 엔터프라이즈 두 가지다. 오는 30일 출시하는 스탠다드 요금제는 사용한 토큰만큼 후불로 정산하는 방식을 기본으로 하면서 선불 크레딧도 지원한다. 엔터프라이즈는 기업이 일정 사용량을 약정하면 할인을 적용하고 실제 이용량에 따라 매월 정산하는 방식이다.

출시 초기 KT가 국내 데이터센터에서 직접 구동하는 AI 모델은 7종이다. 여기에는 KT의 자체 AI 모델인 '믿음'과 업스테이지, 모티프 등 국내 AI 기업의 모델이 포함돼 있다.

KT는 이처럼 국내에서 직접 AI 모델을 구동하는 소버린 AI 역량을 활용해 데이터 보안 요구가 높은 금융·공공시장도 공략할 계획이다. 공공 분야에서는 정부의 독자 AI 파운데이션 모델과 검증된 오픈웨이트 모델도 함께 제공하는 방안을 추진한다. 향후 국내에서 직접 구동하는 모델은 내년 10여종으로 늘릴 예정이다.

아울러 내년 3월 말에는 개인과 개발자에게도 서비스를 개방한다. 기업 고객에게 제공하는 후불·약정 요금제와 달리 개인 이용자를 위한 구독형 요금제를 도입할 예정이다.

이진형 KT AX사업본부장은 "토큰팩토리는 기존 AX 사업을 보완해 함께 움직이는 핵심 축"이라며 "기업 중심 사업을 단단히 다지면서 국내 AI 생태계 저변을 계속 넓혀가겠다"고 강조했다.

한편, 박윤영  KT 대표가 선언한 '대한민국 AX 대표 플랫폼' 구상은 이번 토큰팩토리 출격을 계기로 한층 가속도가 붙을 전망이다. 박 대표는 지난 7월 취임 100일을 맞아 토큰 팩토리·실 수요 기반의 AI 데이터센터 1기가와트(GW) 추가 확보·산업별 기업 인공지능 전환(B2B AX) 사업 등을 통해 AX 플랫폼 컴퍼니로 도약하겠다며 향후 5년간 약 18조원 규모를 투자하겠다는 미래 청사진을 제시한 바 있다.


◎공감언론 뉴시스 [email protected]