KAIST "AI 에이전트, 생성형AI보다 최대 136.5배 많은 전력 소비"

[대전=뉴시스] 김양수 기자 = 인공지능(AI) 에이전트가 기존 생성형 인공지능(AI)보다 질문 한 건을 처리하는 데 최대 136배 많은 전력을 소비한다는 연구결과가 제시됐다. AI 시대 경쟁력이 모델 성능을 넘어 데이터센터와 전력 인프라 효율성으로 확장되고 있음을 보여주는 연구 결과다.

한국과학기술원(카이스트·KAIST)은 전기및전자공학부 유민수 석좌교수팀이 AI 에이전트의 실제 계산 비용과 에너지 소비를 세계 최초로 체계적으로 분석해 차세대 AI의 높은 전력 소모를 확인했다고 5일 밝혔다.

최근 AI는 단순 질의응답을 수행하는 대형언어모델(LLM)을 넘어 스스로 계획을 세우고 인터넷 검색, 계산, 코드 실행 등 다양한 외부도구를 활용해 복잡한 문제를 해결하는 AI 에이전트로 빠르게 진화하고 있다.

하지만 AI 에이전트를 실제 서비스에 적용할 경우 얼마나 많은 계산 자원과 전력이 필요한지는 지금까지 구체적으로 분석되지 못했다.

연구팀은 AI 에이전트를 데이터센터 서버와 그래픽처리장치(GPU)가 지속적으로 처리해야 하는 새로운 형태의 작업으로 정의하고 실제 실행 과정에서 발생하는 계산량과 전력소비를 분석했다.

분석 결과, AI 에이전트는 기존 생성형 AI와 달리 여러 차례 대형언어모델을 반복 호출하면서 계산을 수행하는 것으로 나타났다.

이로 응답시간은 기존보다 최대 153.7배 증가했고 외부도구가 작업을 수행하는 동안 GPU는 전체 실행 시간의 최대 54.5%를 아무런 계산 없이 대기하는 것으로 분석됐다. AI 기능이 복잡해질수록 고가의 GPU를 효율적으로 활용하지 못하는 새로운 비효율이 발생한다는 의미다.

전력소비도 크게 늘어 현재 상용 서비스 수준인 700억개 매개변수를 갖춘 대형언어모델을 사용하는 AI 에이전트는 질문 한 건을 처리하는 데 평균 348.41Wh의 전력을 소비했다. 이는 기존 생성형 AI의 단순 질의응답 방식보다 최대 136.5배 높은 수준이다.

또 하루 137억건의 AI 에이전트 요청이 발생하는 환경을 가정해 분석한 결과, 데이터센터 전력 수요는 약 198.9GW에 이를 것으로 추산됐다. 이 수치는 현재 세계 각국이 추진하는 AI 데이터센터의 전력 규모를 크게 뛰어넘는 수준으로 미국 전체 평균 전력 소비량의 약 절반에 해당한다.

연구팀은 앞으로 AI 산업이 '더 똑똑한 AI'에서 '더 효율적인 AI'로 전환돼 성능향상은 물론 AI 반도체와 데이터센터, 전력 인프라를 함께 최적화하는 '공동 설계(Co-design)'로 확장될 것으로 전망했다.

이번 연구는 KAIST 전기및전자공학부 김지인 박사과정 학생이 제1저자로 참여했으며 컴퓨터 시스템 설계 분야 최고 권위 국제학회인 'IEEE HPCA'에 발표됐다. 연구팀은 연구에 활용한 AI 에이전트 구현 기술과 성능평가 체계를 오픈소스로 공개해 후속 연구에 활용할 수 있도록 했다.

유민수 석좌교수는 "이번 연구는 AI가 더 똑똑해지는 것을 넘어 그 지능을 구현하고 유지하기 위해 얼마나 많은 전력과 비용이 필요한지를 정량적으로 제시한 첫 사례"라며 "AI 서비스를 활용하는 데 소요되는 비용을 획기적으로 절감하고 동시에 지속가능한 AI 인프라를 구축키 위한 연구와 투자가 필수적이다"고 말했다.


◎공감언론 뉴시스 [email protected]