[서울=뉴시스]윤현성 기자 = LG유플러스가 인공지능(AI)의 답변 속도를 높이면서 배터리 소모는 줄이는 '토큰 최적화' 기술로 글로벌 AI 학회에서 연구 성과를 인정받았다. 스마트폰의 제한된 메모리와 전력만으로 소형언어모델을 효율적으로 구동하고, 개인 데이터를 외부로 보내지 않은 채 기기 안에서 추가 학습하는 기술도 구현했다.

LG유플러스는 AI 토큰 최적화 관련 논문 2편이 '뉴립스 2026'의 온디바이스 인텔리전스 워크숍에 채택됐다고 29일 밝혔다.

뉴립스는 ICML, ICLR과 함께 세계 3대 AI 학회로 꼽힌다. 구글·메타·오픈AI 등 글로벌 빅테크와 주요 대학 연구진이 최신 AI 연구 성과를 발표하는 자리다. 올해 행사는 오는 12월6~12일 호주 시드니에서 열린다.

최근 AI 서비스 경쟁은 단순히 모델 성능을 높이는 것을 넘어 같은 성능을 얼마나 빠르고 적은 자원으로 구현하느냐로 확대되고 있다.

여기서 '토큰'은 AI가 이용자의 질문을 이해하고 답변을 만들어낼 때 사용하는 데이터 단위다. 같은 작업이라도 토큰을 더 빠르고 효율적으로 처리하면 응답 시간을 줄이는 동시에 전력과 연산 자원 사용도 낮출 수 있다.

LG유플러스는 토큰 최적화 기술을 스마트폰에 적용해 제한된 메모리와 배터리 환경에서도 소형언어모델(sLM)을 효율적으로 실행하고 학습하는 방법을 연구했다.

먼저 통화 서비스에 활용할 소형언어모델을 개발한 뒤 모델 경량화와 추론 가속 기술을 적용해 스마트폰에 맞게 최적화했다. 그 결과 최신 클라우드 AI 수준의 성능을 유지하면서 기존 방식보다 처리 속도를 약 4.5배 높였다. 배터리 소모량은 약 77% 줄였다.

성능 저하를 최소화하면서도 스마트폰의 한정된 연산 성능과 배터리를 보다 효율적으로 활용할 수 있도록 한 것이 이번 연구의 핵심이다.

개인정보를 외부 서버로 보내지 않고 스마트폰 자체에서 AI를 학습시키는 기술도 연구했다.

AI 추가 학습 과정에서 필요한 연산량과 메모리 사용을 줄여 학습 자체를 스마트폰 내부에서 진행하도록 했다. 실제 스마트폰 환경에서 검증한 결과 개인 데이터를 외부로 전송하지 않고도 서버에서 학습한 것과 같은 수준의 정확도를 기록했다.

LG유플러스는 이번 연구에서 확보한 기술을 향후 자체 AI 서비스에 적용하는 방안을 검토하고 있다.

스마트폰 환경에서 검증한 AI 최적화 역량을 향후 서버 그래픽처리장치(GPU) 환경까지 확대해 AI 서비스의 응답속도와 이용 편의성을 높인다는 계획이다.

이상엽 LG유플러스 최고기술책임자(CTO)는 "이번 뉴립스 논문 채택은 제한된 환경에서도 AI를 빠르고 효율적으로 실행하고 학습하기 위한 연구 성과를 인정받은 것"이라며 "고객이 AI 서비스를 보다 빠르고 편리하게 이용할 수 있도록 관련 기술을 실제 서비스에 적용하고, 향후 서버 환경까지 연구 범위를 확대해 나갈 것"이라고 말했다.


◎공감언론 뉴시스 hsyhs@newsis.com