카카오, 한국어 특화 경량 AI '카나나-2' 오픈소스 공개

[서울=뉴시스]윤정민 기자 = 카카오가 스마트폰과 개인용 컴퓨터(PC) 등 기기 안에서 구동할 수 있는 경량 인공지능(AI) 언어모델을 오픈소스로 공개했다.

카카오는 자체 개발 AI 모델 '카나나' 경량 언어모델(SLM) 4종을 허깅페이스에 오픈소스로 공개했다고 28일 밝혔다.

공개 모델은 '카나나-2' 경량 언어모델 시리즈로 ▲카나나-2-1.3B-베이스 ▲카나나-2-1.3B-인스트럭트 ▲카나나-2-3B-베이스 ▲카나나-2-3B-인스트럭트 등이다.

SLM은 거대언어모델(LLM)보다 규모를 줄인 언어모델이다. 스마트폰이나 PC처럼 메모리와 연산 자원이 제한적인 환경에서 활용하기 쉽다. 현재 카카오의 경량 모델은 '카나나 인 카카오톡', 카카오톡 대화요약·통화요약, AI 국민비서 등에 활용되고 있다.

카카오는 이번에 공개한 모델이 유사한 크기의 최신 오픈소스 모델과 비교했을 때 한국어, 영어, 지식, 수학, 코드 등 주요 벤치마크 대부분에서 우수한 성능을 기록했다고 말했다.

특히 오픈소스로 공개한 카나나-2-1.3B-인스트럭트와 함께 개발한 더 작은 크기의 카나나-2-0.9B-인스트럭트는 대화, 지식, 코드, 수학, 지시 이행, 툴 호출 등 실제 서비스 활용 역량에서도 알리바바 '큐웬', 구글 딥마인드 '젬마' 등 동급 글로벌 모델과 경쟁력 있는 성능을 보였다고 밝혔다.

카카오는 자체 개발한 한국어 특화 토크나이저를 적용해 한국어 처리 효율을 30% 이상 개선했다고 강조했다. 토크나이저는 AI 모델이 문장을 처리하기 위해 텍스트를 잘게 나누는 기준을 정하는 기술이다. 한국어에 맞춘 토크나이저를 쓰면 같은 문장을 더 적은 단위로 처리할 수 있어 연산 속도를 높이고 비용을 줄일 수 있다.

온디바이스 환경에 맞춘 설계도 적용했다. 카카오는 긴 대화를 처리할 때 메모리 사용량이 급격히 늘어나는 문제를 줄이기 위해 '슬라이딩 윈도우 어텐션' 구조를 도입했다고 전했다. 최대 3만2000토큰, 약 2만4000단어 길이의 대화에서도 메모리를 최대 72.7%까지 절감하면서 안정적인 성능을 유지할 수 있다고 설명했다.

카카오는 이번 모델을 상업적 활용까지 허용하는 '카나나 오픈 라이선스'로 배포한다.

노병석 카카오 유니파이드 파운데이션 모델 성과리더는 "에이전틱 AI 시대를 준비하며 클라우드의 대규모 AI와 온디바이스 경량 AI 모두의 중요성을 체감하고 있다"며 "이번 오픈소스 공개 모델들이 더 많은 개발자와 기업의 새로운 AI 서비스 개발로 이어져 국내 AI 생태계 활성화에 기여할 수 있기를 바란다"고 말했다.


◎공감언론 뉴시스 [email protected]