리벨리온 'ATOM Plus' 탑재
"국산 AI 반도체 확산 정책 뒷받침"
KT 클라우드 CI(사진=KT 클라우드 제공) *재판매 및 DB 금지
[서울=뉴시스]오동현 기자 = kt cloud가 국내 클라우드 사업자(CSP) 가운데 처음으로 공공기관 전용 클라우드에 리벨리온의 차세대 신경망처리장치(NPU)를 적용한 'NPU 서버' 상품을 출시한다고 4일 밝혔다.
kt cloud는 공공 전용 데이터센터 내 가상머신(VM) 방식의 NPU 인프라를 상용화하고, 국내 서비스형 NPU(NPUaaS) 가운데 처음으로 클라우드 보안인증(CSAP)을 획득했다. 정부의 국산 AI 반도체 활용 확대 정책에 맞춰 공공 보안 가이드라인을 충족하는 AI 인프라 환경을 제공한다는 점에서 의미가 있다는 게 회사 측 설명이다.
공공 AI 전환(AX) 사업에 참여하는 사업자는 NPU Server 상품을 통해 보안 규제 준수와 정책 가점 요건을 동시에 충족할 수 있다. AI 솔루션 기업은 보안성이 확보된 NPU 인프라를 기반으로 공공기관과 지방자치단체에 민원 상담, 행정 업무 지원, 문서 검색·분석 등 AI 에이전트 서비스를 제공할 수 있다.
kt cloud의 NPUaaS는 국내 AI 반도체 기업 리벨리온의 데이터센터용 NPU '아톰 플러스(ATOM Plus)'를 기반으로 제공된다. 최근 AI 워크로드 비중이 학습에서 추론으로 빠르게 옮겨가면서, 추론에 최적화된 NPU는 AI 인프라 운영 효율을 높이고 비용 부담을 낮출 수 있는 대안으로 주목받고 있다.
앞서 kt cloud는 지난 4월 공공뿐 아니라 민간 고객까지 활용할 수 있는 AI 통합 플랫폼 'AI 넥서스(AI Nexus)'를 출시했다. AI 넥서스는 AI 모델 학습부터 추론, 배포까지 전체 파이프라인을 하나의 플랫폼에서 제공하는 것이 특징이다.
특히 '모델 서빙(Model Serving)' 기능을 강화해 고객이 직접 개발한 AI 모델을 복잡한 배포 과정 없이 클릭 몇 번으로 추론 환경에 적용할 수 있도록 했다. 자체 모델이 없는 스타트업과 중소기업은 '모델 스토어(Model Store)' 기능을 통해 시장에서 널리 쓰이는 오픈소스 모델을 선택해 대규모언어모델(LLM) 기반 AI 서비스를 보다 손쉽게 구성할 수 있다.
AI 넥서스는 A100, H100, H200 등 다양한 엔비디아 그래픽처리장치(GPU) 라인업을 지원하며, 올해 3분기 초에는 차세대 GPU인 엔비디아 B300 기반 서비스로 지원 범위를 넓힐 계획이다.
김봉균 kt cloud 대표는 "정부의 국산 AI 반도체 활용 확대 기조에 맞춰 공공 전용 NPU 상품을 출시하게 됐다"며 "kt cloud는 최적의 AI 인프라 플랫폼 사업자로서 공공기관과 기업의 AX 혁신을 지원하고 국가 AI 산업 경쟁력 강화에 기여하겠다"고 말했다.
◎공감언론 뉴시스 [email protected]
kt cloud는 공공 전용 데이터센터 내 가상머신(VM) 방식의 NPU 인프라를 상용화하고, 국내 서비스형 NPU(NPUaaS) 가운데 처음으로 클라우드 보안인증(CSAP)을 획득했다. 정부의 국산 AI 반도체 활용 확대 정책에 맞춰 공공 보안 가이드라인을 충족하는 AI 인프라 환경을 제공한다는 점에서 의미가 있다는 게 회사 측 설명이다.
공공 AI 전환(AX) 사업에 참여하는 사업자는 NPU Server 상품을 통해 보안 규제 준수와 정책 가점 요건을 동시에 충족할 수 있다. AI 솔루션 기업은 보안성이 확보된 NPU 인프라를 기반으로 공공기관과 지방자치단체에 민원 상담, 행정 업무 지원, 문서 검색·분석 등 AI 에이전트 서비스를 제공할 수 있다.
kt cloud의 NPUaaS는 국내 AI 반도체 기업 리벨리온의 데이터센터용 NPU '아톰 플러스(ATOM Plus)'를 기반으로 제공된다. 최근 AI 워크로드 비중이 학습에서 추론으로 빠르게 옮겨가면서, 추론에 최적화된 NPU는 AI 인프라 운영 효율을 높이고 비용 부담을 낮출 수 있는 대안으로 주목받고 있다.
앞서 kt cloud는 지난 4월 공공뿐 아니라 민간 고객까지 활용할 수 있는 AI 통합 플랫폼 'AI 넥서스(AI Nexus)'를 출시했다. AI 넥서스는 AI 모델 학습부터 추론, 배포까지 전체 파이프라인을 하나의 플랫폼에서 제공하는 것이 특징이다.
특히 '모델 서빙(Model Serving)' 기능을 강화해 고객이 직접 개발한 AI 모델을 복잡한 배포 과정 없이 클릭 몇 번으로 추론 환경에 적용할 수 있도록 했다. 자체 모델이 없는 스타트업과 중소기업은 '모델 스토어(Model Store)' 기능을 통해 시장에서 널리 쓰이는 오픈소스 모델을 선택해 대규모언어모델(LLM) 기반 AI 서비스를 보다 손쉽게 구성할 수 있다.
AI 넥서스는 A100, H100, H200 등 다양한 엔비디아 그래픽처리장치(GPU) 라인업을 지원하며, 올해 3분기 초에는 차세대 GPU인 엔비디아 B300 기반 서비스로 지원 범위를 넓힐 계획이다.
김봉균 kt cloud 대표는 "정부의 국산 AI 반도체 활용 확대 기조에 맞춰 공공 전용 NPU 상품을 출시하게 됐다"며 "kt cloud는 최적의 AI 인프라 플랫폼 사업자로서 공공기관과 기업의 AX 혁신을 지원하고 국가 AI 산업 경쟁력 강화에 기여하겠다"고 말했다.
◎공감언론 뉴시스 [email protected]
