한양대 연구팀, 'AI 반도체 추론 최적화' 국제대회 1위 차지

[서울=뉴시스]이예인 인턴 기자 = 한양대학교 융합전자공학부 연구팀이 제8회 국제전기전자공학회(IEEE) 국제 인공지능 회로 및 시스템 학술대회(AICAS)의 '그랜드 챌린지(Grand Challenge)'에서 AI 반도체용 시각·언어 모델(VLM) 추론 최적화 트랙 1등상을 수상했다.

 22일 한양대에 따르면 최정욱 교수가 이끄는 연구팀은 참가 71개 팀 중 본선에 오른 16개 팀 가운데 최종 1위를 차지했다.

AICAS는 지난달 16일부터 18일까지 베트남 하롱베이에서 열린 IEEE 산하 회로 및 시스템 소사이어티의 대표 국제학술대회다.

이번 그랜드 챌린지는 AI 모델을 실제 반도체 환경에서 효율적으로 실행하기 위한 기술을 겨루는 자리로 마련됐다.

연구팀이 우승한 트랙은 언어와 이미지를 함께 이해하는 VLM의 추론 효율을 평가하는 분야다. VLM을 실제 서비스에 적용하려면 정확도를 유지하면서도 응답 지연과 자원 부담을 줄이는 기술이 필수적이다.

연구팀은 주최 측이 제공한 알리바바 클라우드 서버에서 'Qwen3-VL-2B-Instruct' 모델의 이미지 처리부터 텍스트 생성까지 추론 전 과정을 최적화했다.

특히 본선에서는 알리바바의 병렬처리장치(PPU) 'Zhenwu 810E'를 활용해 하드웨어·소프트웨어 공동 최적화 역량을 입증했다.

구체적으로는 개별 연산의 실행 시간뿐 아니라 연산 반복 호출과 메모리 준비, 모델 가중치 읽기 과정에서 생기는 지연까지 분석했다.

이를 토대로 여러 연산을 하나로 묶고 반복 실행 경로를 미리 구성하는 한편, 모델 가중치에 쓰이는 비트 수를 줄이는 양자화와 선택적 연산 축소를 적용했다.

연구팀에는 이시화 학생 등 인공지능대학원·융합전자공학과·인공지능반도체공학과 지원을 받은 학생 4명이 참여했다. 특히 이시화 학생은 팀 어드바이저로서 기술 방향과 대회 전략을 이끌었다.

한양대는 이번 경험이 향후 국내 신경망처리장치(NPU) 기반 데이터센터 구축과 AI 서비스 고도화에 참고가 될 것으로 기대한다.


◎공감언론 뉴시스 yein020528