AWS 트레이니움·인퍼런시아 도입 기업 대상
"정확도는 그대로, 크기는 90% 축소" 가성비 극대화 플랫폼 시동
[서울=뉴시스]오동현 기자 = 인공지능(AI) 전문 기술 기업인 노타가 아마존웹서비스(AWS) 공인 파트너 자격으로 기업용 AI 모델 성능 최적화 서비스를 출시했다고 7일 밝혔다. AWS의 AI 전용 칩인 트레이니움(Trainium)과 '인퍼런시아(Inferentia)' 환경에 맞춰 기업들의 AI 모델을 가볍고 빠르게 다듬어주는 서비스다.
이번 서비스의 핵심은 노타가 독자 개발한 AI 최적화 플랫폼 '넷츠프레소(NetsPresso)'다. 넷츠프레소는 AI 모델의 핵심 기능과 정확도는 그대로 유지하면서 덩치와 무게만 최대 90% 이상 줄여주는 배포 자동화 플랫폼이다.
전문 인력이 부족해 AI 모델을 최적화하는 데 어려움을 겪는 기업들이 주요 대상이다. 서비스는 기술검증(PoC) 및 진단, 모델 이식 및 경량화, 최종 성능 튜닝 등 총 3단계 과정으로 진행된다.
실제 효과도 입증됐다. 노타는 320억 개의 매개변수(파라미터)를 가진 대규모 언어모델(LLM)에 자사 기술을 적용한 결과, 모델 크기를 68%나 압축하는 데 성공했다. 이때 발생한 AI의 정확도 손실은 단 1% 미만에 불과했다.
트레이니움과 인퍼런시아는 앤트로픽, 애플, 데이터브릭스, 우버, 리코 등이 활용 중이다. 2025년 3분기 기준 트레이니움 관련 사업은 분기 대비 150% 성장해 수십억 달러 규모로 확대됐다.
채명수 노타 대표는 "AWS AI 칩은 뛰어난 가격 대비 성능을 제공하며, 노타는 이러한 AWS 칩의 성능을 고객이 자사 모델에서 온전히 활용할 수 있도록 모델 튜닝을 지원한다"며 "AWS AI 칩 기반 인프라 도입을 검토하는 기업 고객에게 실질적인 비용 효율화 성과를 제공하겠다"고 말했다.
한편 노타는 모바일 분야의 삼성전자, 반도체 IP 설계의 Arm, 데이터센터용 AI 가속기의 퓨리오사AI, 엣지 디바이스의 모빌린트에 이르기까지 AI 모델 경량화가 요구되는 다양한 하드웨어 환경에서 글로벌 기업들과 협력하며 기술력을 검증해왔다
노타는 이번 서비스 출시로 AI 모델 경량화 사업 영역을 클라우드 부문까지 확장한다는 계획이다.
◎공감언론 뉴시스 [email protected]
