클라우드 TPU 기반 '바르코 LLM'…학습 속도 향상·비용 최적화
"자체 LLM 개발에 클라우드 TPU 도입한 선도적 사례"
구글 클라우드 로고(사진=구글 클라우드 제공) *재판매 및 DB 금지
[서울=뉴시스]송혜리 기자 = 구글 클라우드는 엔씨소프트가 자사 클라우드 TPU(Tensor Processing Unit)를 기반으로 '바르코(VARCO) 거대언어모델(LLM)'을 개발하고 학습 환경을 구축했다고 10일 밝혔다.
엔씨소프트는 지난 8월 국내 게임사 최초로 자체 개발한 인공지능(AI) 언어 모델 '바르코 LLM'을 공개했다. 개발 초기 단계부터 엔씨소프트가 직접 선별한 데이터로 학습한 '바르코 LLM'은 질의응답, 챗봇, 요약, 정보 추출 등 다양한 자연어처리(NLP) 기반 AI 서비스 개발에 활용되고 있다.
엔씨소프트는 바르코 LLM을 개발하기 위해 '클라우드 TPU'를 도입하고 지난 1년 동안 AI 모델 학습을 진행했다. '클라우드 TPU'는 대규모 AI 모델 학습과 추론에 최적화된 머신러닝 가속기(ASIC)로 챗봇, 코드 생성, 미디어 콘텐츠 생성 등 다양한 사용 사례를 지원한다.
구글 클라우드에 따르면 엔씨소프트는 클라우드 TPU를 통해 LLM 학습에 소요되는 시간을 단축시키면서도 학습 생산성을 향상시킬 수 있었다. 아울러 AI 관련 인프라 수요가 폭발적으로 증가해도 탄력적인 운영이 가능한 환경을 구축했으며, GPU 보다 높은 성능을 구현하면서도 비용을 최적화할 수 있었다.
이연수 엔씨소프트 NLP 센터장은 "클라우드 TPU의 뛰어난 성능과 확장성, 국내외를 아우르는 구글 클라우드 엔지니어링 팀의 전방위적 지원 덕분에 LLM 개발을 빠르고 비용 효율적으로 수행할 수 있었다"면서 "앞으로도 양 사가 함께 성장을 도모하며 협력을 지속해 나갈 예정"이라고 전했다.
강형준 구글 클라우드 코리아 사장은 "게임사가 자체 LLM 개발에 클라우드 TPU를 도입한 것은 구글 클라우드 고객 중 최초이며, 이는 매우 선도적인 사례"라며 "구글 클라우드가 국내 게임 업계에서 AI 퍼스트 무버를 지켜온 엔씨소프트의 든든한 조력자로 함께 할 수 있어 기쁘게 생각한다"고 말했다.
◎공감언론 뉴시스 [email protected]
