생성형 AI 확산에 GPU 연산 수요 빠르게 증가
데이터 넘어 '토큰' 만드는 인프라로 진화
전력·냉각 더 필요한 AI 서버, 기존 DC보다 단가 높아
통신망·클라우드·B2B 역량 결합해 새 수익 모델로
[서울=뉴시스]심지혜 기자 = 생성형 인공지능(AI) 서비스 확산과 기업들의 AI 전환(AX)이 본격화하면서 AI 데이터센터(AIDC) 수요가 빠르게 늘고 있다. 무선 가입자당평균매출(ARPU) 정체로 전통적인 통신사업의 성장 한계에 직면한 통신사들이 AIDC를 새로운 수익원으로 주목하는 이유다.
기존 데이터센터 사업 경험과 네트워크, 기업 고객 기반을 갖춘 통신사들은 AI 연산 수요 증가를 새로운 성장 기회로 보고 있다. 일반 데이터센터보다 높은 상면 단가를 기대할 수 있는 데다 네트워크와 클라우드, 기업 AX 사업까지 연계할 수 있다.
◆ 데이터에서 토큰으로…통신사도 AI 인프라 경쟁
생성형 AI 확산으로 모델 개발을 위한 사전 학습뿐 아니라 실제 서비스 과정에서 발생하는 추론 수요가 빠르게 늘고 있다. 이용자가 AI에 질문하거나 문서 요약, 이미지 생성 등을 요청할 때마다 입력과 출력 과정에서 '토큰(Token)' 단위의 연산이 발생한다. AI 사용량이 늘어날수록 이를 처리하기 위한 그래픽처리장치(GPU) 연산과 전력 수요도 함께 커진다.
이에 따라 AI 경쟁의 무게중심도 단순 모델 자체에서 이를 뒷받침하는 컴퓨팅 인프라로 넓어지고 있다. 데이터센터 역시 중앙처리장치(CPU)와 저장장치 중심에서 대규모 GPU와 고밀도 전력·냉각설비를 갖춘 AIDC로 진화하고 있다.
금융·제조·유통은 물론 공공 영역까지 AX가 확산되면서 추론 연산 수요는 계속 늘어날 전망이다. 기존 통신사업의 성장 여력이 줄어든 상황에서 빠르게 커지는 AI 컴퓨팅 인프라 시장은 통신사들의 새로운 성장 기회로 떠오르고 있다.
통신업계는 AIDC가 단순히 AI 연산 수요를 처리하는 시설을 넘어 새로운 산업과 서비스를 만들어내는 기반 인프라가 될 수 있다고 본다. 과거 고속도로나 인터넷 같은 기반 인프라가 구축된 뒤 자동차·정유·게임·검색 등 수많은 산업이 함께 성장한 것처럼 AIDC 역시 AI 산업 전반의 성장을 뒷받침할 수 있다는 것이다.
AI 시대에는 고객의 요구도 데이터 전송을 넘어 토큰을 생성하고 처리하는 연산 자원으로 확대되고 있다. 이에 따라 토큰을 만들어낼 AIDC와 GPU 인프라를 확보하고 이를 효율적으로 운영하는 역량이 통신사의 새로운 경쟁력이 될 수 있다는 판단이다.
AIDC 얼라이언스 초대 의장인 정재헌 SK텔레콤 대표는 "기존 데이터센터가 정보를 저장하는 데이터 창고였다면 AIDC는 지능을 생산해 글로벌 시장에 공급하는 수출 공장"이라며 "서버와 스토리지, 클라우드와 소프트웨어, 전력과 냉각 등 첨단 기술이 집약된 종합 결정체"라고 말했다.
이어 "하이퍼스케일 AIDC 건설은 관련 솔루션과 기술 고도화, 장비 경쟁력 제고로 이어질 것"이라며 "AI 수출과 산업화의 새로운 기회가 될 것"이라고 강조했다.
◆ 전력·냉각 더 필요한 AI 서버…일반 DC보다 높은 단가
통신3사는 이미 기업 고객을 대상으로 데이터센터 사업을 영위해 왔다. AI 인프라 수요가 빠르게 늘어나는 상황에서 기존 데이터센터 사업을 AIDC로 전환·확장할 경우 보다 높은 수익성을 기대할 수 있다.
AIDC는 일반 데이터센터보다 훨씬 많은 전력을 사용하고 고성능 GPU가 밀집하면서 발생하는 열도 크다. 이에 따라 고밀도 전력 인프라뿐 아니라 직접 칩 냉각이나 액침냉각 등 고성능 냉각 설비가 필요하다. 이런 추가 설비와 운영 난도가 상면 단가에도 반영되는 구조다.
특히 AIDC는 설비를 짓는 것 이상으로 365일 무중단으로 안정적으로 운영하는 역량이 중요하다. 통신사들은 수십 년간 전국 통신 국사와 데이터센터를 가동하며 대규모 인프라 장애 대응과 전력 운영 노하우를 축적해 왔다.
◆ 통신망·클라우드까지 묶는다…AIDC 사업 넓히는 통신사
통신사들은 AIDC에 기존 네트워크와 클라우드, 보안, 기업 고객 기반을 결합해 단순 상면 임대 이상의 사업을 만들 수 있다는 점을 강점으로 내세운다.
데이터센터 간 대용량 데이터를 전송하는 전용망(DCI)과 전용회선은 물론 클라우드와 보안 등 기존 기업간거래(B2B) 사업을 AIDC와 연계할 수 있다.
단순히 서버를 둘 공간과 전력·냉각을 제공하는 데서 그치지 않고 사업자가 직접 보유한 GPU 연산 자원을 시간이나 사용량 단위로 제공하는 GPUaaS(GPU as a Service)까지 확장할 수 있다. 여기에 기업 맞춤형 AI 솔루션을 결합하면 사업 범위는 더 넓어진다.
특히 통신사들은 데이터센터 운영 경험뿐 아니라 계열사들이 보유한 전력·건설·반도체·냉각 등 관련 역량을 함께 활용할 수 있다는 점도 강점으로 꼽는다.
SK텔레콤 AIDC사업회사인 SK하이퍼 정석근 대표는 "SK그룹에는 발전소를 운영하는 회사, 건설 회사, 반도체 회사, 컴퓨팅·네트워크·데이터센터를 운영하는 회사 등 AIDC를 위한 모든 멤버사가 존재한다”며 "이런 역량들이 최적화된다면 훨씬 강한 경쟁력을 가질 수 있다"고 말했다.
박윤영 KT 대표는 "AIDC는 KT가 AX 플랫폼 컴퍼니로 도약하기 위한 핵심 인프라"라며 "오랜 기간 축적한 데이터센터 운영 경험과 기술 노하우를 차별화된 경쟁력으로 키우겠다"고 언급했다.
홍범식 LG유플러스 대표도 "그룹 역량을 하나로 결집한 ‘원(One) LG’ 시너지가 핵심"이라며 데이터센터 운영 경험에 LG전자의 냉각 기술과 LG에너지솔루션의 전력 인프라를 결합해 AIDC 경쟁력을 높이겠다고 강조했다.
◎공감언론 뉴시스 siming@newsis.com