딥러닝 추론 성능 높이는 시스템 SW, 표준 제정
AI 반도체·응용프로그램 호환성 높이고 개발비·시간↓
반도체 개발용 소프트웨어·하드웨어 모두 공개
한국전자통신연구원(ETRI)은 인공지능(AI) 핵심 시스템 소프트웨어인 딥러닝 컴파일러 '네스트(NEST-C)'를 개발하고 개발자들이 쉽게 활용할 수 있도록 자체 개발한 AI 반도체 하드웨어와 함께 '깃허브(Github)'에 공개했다고 26일 밝혔다.
사람이 입력한 프로그래밍 언어를 컴퓨터가 이해하는 언어로 번역하는 도구가 컴파일러다.
AI기술이 발전함에 따라 딥러닝 응용서비스가 다양한 분야로 확장되고 있으며 이를 구현하는 AI 알고리즘도 복잡해지면서 더 뛰어나고 효율적인 연산 처리의 필요성이 커지고 있다.
ETRI는 AI 응용프로그램에 적합한 공통 '중간표현'을 정의해 네스트 컴파일러에 적용했다. 중간표현(Intermediate Representation)은 컴파일러가 실행코드를 기계어코드로 변환시키기 위해 거치는 고유 표현 형태다.
이를 활용하면 AI 응용프로그램과 AI 반도체 간 이질성을 해소해 AI 반도체 개발이 쉬워진다. 이 기술은 한국정보통신기술협회(TTA) 표준으로도 제정됐다.
자율주행, 사물인터넷(IoT), 센서 등 응용프로그램을 실행키 위해서는 최적화된 AI 반도체를 각각 설계해야 하며 최적화된 각각의 컴파일러가 정확한 실행코드를 만들어야 최대 성능을 낼 수 있다. 이로 딥러닝 모델의 추론 성능을 보장하는 핵심 시스템 소프트웨어인 딥러닝 컴파일러가 중요하다.
시스템 소프트웨어, 응용프로그램 개발 및 최적화에는 적지 않은 시간이 투입되고 대형 제조사가 제공하는 시스템 소프트웨어는 자사 칩에 최적화돼 있으며 비공개로 개발돼 그간 중소기업·스타트업은 반도체 설계에 어려움이 컸다.
특히 컴파일러는 칩의 종류와 AI 응용프로그램에 따라 일일이 다르게 개발해야 하는 번거로움이 있어 상호 호환성과 새로운 영역으로의 확장성에 한계가 있었다.
이번 개발·공개로 중소기업들은 응용프로그램 개발 및 최적화 시간을 단축하고 시스템 소프트웨어 개발에 들어가는 노력을 절감할 수 있게 됐다.
특히 기존에는 딥러닝 플랫폼 종류의 칩 만큼 컴파일러를 개발해야 했으나 이제는 범용성 높은 네스트 컴파일러 하나로 대신할 수 있게 됐다.
ETRI는 네스트 컴파일러를 오픈소스로 공개하면서 관련 산업 생태계 활성화 목적으로 자체 개발한 AI 반도체에 네스트 컴파일러를 적용한 참조모델까지 함께 공개했다. AI 반도체 개발용 소프트웨어와 하드웨어를 모두 공개한 것은 이번이 처음이다.
ETRI 김태호 차세대시스템 SW연구실장은 "표준 딥러닝 컴파일러 오픈소스 공개는 국내 AI 반도체 생태계 활성화를 위해 개발된 시스템SW이다"며 "다양한 AI 반도체 기업들에 적용키 위해서 기술협력을 진행 중"이라고 말했다.
◎공감언론 뉴시스 kys0505@newsis.com