퍼블릭 클라우드·CSP 한계 보완한 AI 인프라 운영 모델
프라이빗 기반 소버린 AI 클라우드 아키텍처로 모듈형 AI 인프라 구현
[서울=뉴시스]오동현 기자 = 인공지능(AI)·클라우드 소프트웨어 전문 기업 오케스트로는 일본 AI 데이터센터에 1350 물리 노드 규모의 ‘소버린 AI 클라우드 솔루션’ 패키지 공급 계약을 체결했다고 31일 밝혔다.
이번 계약은 국내에서 검증된 AI 인프라 소프트웨어 풀스택을 일본 시장에 수출한 첫 사례로, 오케스트로는 자체 개발한 소버린 AI 클라우드 아키텍처를 기반으로 글로벌 시장 진출에 속도를 내고 있다.
최근 생성형 AI의 확산으로 대규모 AI 서비스를 안정적으로 운영할 수 있는 인프라 수요가 빠르게 증가하고 있다. 퍼블릭 클라우드 기반 AI 운영은 GPU 장애 발생 시 원인 분석의 어려움, 장시간 연산에 따른 비용 부담 등 구조적 한계를 드러내고 있다. 이에 따라 AI 데이터센터를 중심으로 운영과 비용을 직접 통제할 수 있는 프라이빗 인프라 구축에 대한 관심이 높아지고 있다.
오케스트로의 ‘소버린 AI 클라우드 솔루션’ 패키지는 이러한 환경 변화에 대응해 AI 데이터센터에 필수적인 AI 워크로드 최적화를 구현할 뿐 아니라 고객 환경에 따라 필요한 기능만 선택해 구성할 수 있는 ‘모듈형 AI 인프라 아키텍처’를 핵심으로, 퍼블릭 클라우드나 CSP(클라우드 서비스 제공자)와 달리 데이터와 AI 운영, 비용과 장애 대응 체계를 고객이 직접 통제할 수 있도록 설계됐다.
이번 프로젝트는 기존 코로케이션 방식에 한계를 느낀 AI 사용 고객의 페인 포인트를 프라이빗 클라우드 기술로 해결하는 데 초점을 맞췄다. 오케스트로는 GPU 가상화(GPUaaS)를 기반으로 생성된 컨테이너 자원을 활용해, 대규모 초거대언어모델(LLM) 서비스를 안정적으로 운영할 수 있는 AI 인프라 환경을 구성한다.
오케스트로 소버린 AI 클라우드 솔루션 패키지에는 ▲서버 가상화 솔루션 '콘트라베이스(CONTRABASS)' ▲클라우드 네이티브 운영관리 플랫폼 '비올라(VIOLA)'가 적용돼 데이터센터 내 GPU 자원의 통합 관리부터 컨테이너 배포 및 AI 엔드포인트 운영까지 전 과정을 지원한다.
뿐만 아니라 ▲콘체르토 AI(CONCERTO AI) ▲트럼본(TROMBONE) ▲클라리넷(CLARINET) ▲심포니 A.I(SYMPHONY A.I) ▲오케스트로 CMP(OKESTRO CMP) 등 오케스트로의 AI·클라우드 풀스택 솔루션으로 구성돼, AI 서비스부터 클라우드 인프라, 통합 운영관리까지 아우르는 아키텍처를 제공한다.
오케스트로는 이번 솔루션 패키지 수출 성과를 토대로, 소프트웨어뿐만 아니라 하드웨어가 결합된 ‘소버린 AI 클라우드 데이터센터’로 사업 범위를 단계적으로 확장할 계획이다. 고객 맞춤형 하드웨어 설계까지 포함한 통합 솔루션을 제공함으로써 각국의 규제와 산업 및 기업 환경에 최적화된 글로벌 AI 인프라 사업을 본격적으로 확대해 나갈 방침이다.
김범재 오케스트로 대표는 “국내에서 검증된 소버린 AI 클라우드 솔루션이 일본 데이터센터 환경에서 실제 서비스로 구현된다는점에서 매우 뜻깊다”며 “퍼블릭 클라우드 중심의 기존 운영 방식과는 차별화된 소버린 AI 클라우드 데이터센터 아키텍처를 앞세워, 글로벌 AI 인프라 시장의 새로운 표준을 제시하겠다”고 말했다.
◎공감언론 뉴시스 [email protected]
