AI 비용 90% 절감 자신감…LGU+, 내년 B2B 토큰 시장 도전장

[서울=뉴시스]심지혜 기자 = LG유플러스가 내년부터 기업 간 거래(B2B) AI 토큰 사업에 나선다. 인공지능(AI) 모델 운영 비용을 최대 90% 절감한 자체 기술과 실제 서비스에서 축적한 운영 경험을 경쟁력으로 내세운다.

LG유플러스는 최근 개최한 AI 토큰 최적화 스터디에서 이같은 내용의 사업 계획을 공개했다고 13일 밝혔다.

LG유플러스의 토큰 사업은 AI 모델의 이용 단가를 낮추는 데 그치지 않고 실제 업무를 완료하는 데 드는 전체 비용을 줄이는 데 초점을 맞췄다. 작업 난이도에 따라 적합한 모델을 선택하고 불필요한 연산을 줄이는 방식이다.

자체 기술 검증에서는 AI 코딩에 자체 모델을 적용해 통상 사용하는 모델보다 운영 비용을 약 90% 줄인 사례를 확인했다. 동일 인프라에서 연산 처리 효율도 최대 4배 높였다.

여러 AI 모델 가운데 작업에 적합한 모델을 선택하는 모델 라우팅 기술을 적용한 내부 시험에서는 일반 질문 처리 비용을 25% 이상, 코딩 에이전트 운영 비용을 30% 이상 절감했다. AI 에이전트가 불필요한 검색이나 검증을 반복하지 않도록 하는 기술도 개발하고 있다.

이상엽 LG유플러스 최고기술책임자(CTO)는 "AI 시장의 패권은 누가 더 큰 모델을 만드느냐를 넘어, 고객이 원하는 비즈니스 결과를 얼마나 정교하고 경제적으로 완수하느냐로 이동했다"며 "AI 에이전트가 확산될수록 모델 단가가 아무리 저렴해도 불필요한 검색과 분석을 반복하면 전체 비용은 눈덩이처럼 불어나기 때문이다"고 설명했다.

LG유플러스는 AI 통화 에이전트 익시오와 AI컨택센터(AICC), 사내 업무 환경에서 모델 운영 경험을 쌓아왔다. 익시오는 출시 초기 LG AI연구원의 온디바이스 모델과 구글 제미나이를 함께 활용했으나, 이후 자체 모델과 엑사원(EXAONE) 등의 활용 비중을 조정해 서비스 품질과 비용 효율을 개선했다.

사내 개발자용 AI 코딩 도구에도 자체 모델을 적용해 이용 비용을 줄이고 있다. 올 연말 카카오와 협력하는 모두의 AI에서도 AI 모델 운영을 담당하며, 해당 서비스에서 확보할 운영 데이터와 최적화 경험을 기업용 사업에 활용할 계획이다.

이 CTO는 "LG유플러스는 전화 AI와 사내 AX 등 실제 현장에서 치열하게 부딪히며 완성한 최적화 기술력이야말로 누구도 쉽게 따라올 수 없는 지속 가능한 AI 사업의 핵심 해자(Moat)가 될 것"이라고 말했다.

LG유플러스는 AI 모델 자체를 경량화하고 답변 생성 속도를 높이는 기술에서도 성과를 확보했다.

자체 온디바이스 AI 모델의 크기를 기존 2.4~3GB에서 약 800MB로 줄였다. 모델 크기는 약 3분의 1 수준으로 축소했지만 비교 대상 클라우드 모델의 95% 이상에 해당하는 성능을 확보했다는 설명이다.

작은 모델이 먼저 답변을 생성하고 큰 모델이 이를 검증하는 추론 기술 등을 적용해 토큰 생성 속도도 2배 이상 높였다. 관련 연구 논문 2편은 국제 AI 학술대회 뉴립스(NeurIPS)에 채택됐다.

AI 연산에 사용하는 반도체를 혼합하는 방식도 추진하고 있다. 엔비디아와 AMD의 그래픽처리장치(GPU)뿐 아니라 국산 신경망처리장치(NPU)를 함께 활용해 작업 특성에 따라 연산 자원을 배분하는 구상이다.

LG유플러스는 퓨리오사AI와 2년 이상 협력하며 NPU를 검증하고 있다. 연산량이 많은 작업과 메모리 대역폭이 중요한 작업을 구분해 각각 적합한 반도체에서 처리함으로써 인프라 운영 비용을 줄이는 것이 목표다.

내년부터 추진할 기업용 토큰 사업은 협력사와 제휴하는 방식과 자체 인프라를 구축하는 방식으로 전개할 예정이다.

이 CTO는 "LG유플러스의 토큰 최적화는 이론적 효율화를 넘어, 이미 수많은 실전 서비스에서 검증을 끝낸 즉시 전력감 기술"이라며 "글로벌 수준의 모델 경량화·추론 기술과 AI 업무 수행 궤적을 반영한 운영 레시피를 결합해, 내년부터 기업 고객들이 가장 합리적인 비용으로 최고의 AI 성과를 낼 수 있도록 시장을 주도해 나가겠다"고 말했다.


◎공감언론 뉴시스 [email protected]