[서울=뉴시스]박시은 인턴 기자 = 고려대학교는 컴퓨터학과 양경식·유혁 교수 연구팀이 대규모 GPU(그래픽처리장치)의 비효율을 유발하는 현상을 규명하고, 인공지능(AI) 모델 학습 시간을 최대 8.8배 단축하는 기술 '레이저(LAZER)'를 개발했다고 25일 밝혔다.

AI 모델 하나를 학습시키는 데는 수백, 수천 개의 GPU가 몇 주 이상 투입된다. 이에 기업과 연구 기관은 한정된 GPU를 모아 클러스터를 구축하고, 각 학습 작업이 이를 나눠 사용하도록 유도한다. 이때 GPU 클러스터의 핵심 소프트웨어인 '스케줄러'가 학습 작업의 실행 순서를 결정한다.

기존에는 우선순위가 높은 작업이 새로 들어오면 실행 중인 작업을 멈추고 GPU를 넘겨주는 '선점' 방식이 널리 활용돼 왔다. 이에 연구팀은 대규모 GPU 클러스터의 6개월 치 운영 기록을 여러 스케줄링 방식으로 재현해 실제 효율성을 확인했다.

분석 결과, GPU에서 새로운 작업이 본격적인 실행을 시작하기도 전에 더 높은 우선순위의 작업에 밀려나는 일이 반복되며 시간이 낭비됐다. 연구팀은 이러한 현상을 '헛된 선점(futile preemption)'이라고 칭하며 원인과 발생 규모를 규명했다.

연구팀에 따르면 GPU 클러스터의 헛된 선점으로 허비된 시간은 전체 사용 시간의 최대 13%에 달했다. 이는 총 512대의 GPU를 약 35일 동안 사용하지 못하는 것과 맞먹는 규모다.

이를 해결하고자 고려대 연구팀이 개발한 작업 배치 기술 'LAZER'는 새 작업이 도착하는 간격과 각 작업의 남은 실행 시간, 작업을 GPU에 배치해 실행을 준비하는 데 걸리는 시간 등을 종합해, 실행 중인 작업 교체와 선점 유예 중 더 효율적인 것을 판단한다.

특히 검증 결과, 'LAZER'를 통해 학습 작업 제출 및 완료까지 걸린 시간은 기존 대비 평균 3.8배, 최대 8.8배 단축됐다.

양경식 교수는 "선점이 학습 속도를 높인다는 통념과 달리, 오히려 GPU 낭비와 학습 지연을 초래할 수 있음을 확인했다"며 "원인을 구체적으로 규명하고, 시스템 소프트웨어 개선하는 것만으로도 AI 인프라의 효율을 높일 수 있음을 보인 연구"라고 설명했다.

한편 이번 연구 성과는 지난달 미국에서 열린 컴퓨팅 시스템·반도체 설계 분야의 국제 학술대회 'DAC 2026'에 채택되며 최우수논문상 후보에 올랐다.


◎공감언론 뉴시스 xieunpark@newsis.com