채널톡, 상담 AI에 오픈AI '루나'로 교체…자체 비교 결과 공개
성능 차이 미미한데 응답 속도 빠르고 비용은 기존 대비 '13분의 1' 수준
'무조건 최고 성능'서 '업무 맞춤 가성비'로…기업 AI 도입 기준 급변
![[서울=뉴시스] 채널톡. (사진=뉴시스 DB). photo@newsis.com](https://img1.newsis.com/2022/09/28/NISI20220928_0001095484_web.jpg?rnd=20220928113635)
[서울=뉴시스] 채널톡. (사진=뉴시스 DB). [email protected]
[서울=뉴시스]이주영 기자 = 기업들이 인공지능(AI)을 고르는 기준이 달라지고 있다. 실제 현장 업무에 필요한 성능과 답변 속도, 비용을 꼼꼼히 따져 '가성비' 모델을 골라 쓰는 실속형 도입이 대세로 떠올랐다.
고객 상담 솔루션 '채널톡'을 운영하는 채널코퍼레이션이 대표적이다. 채널톡은 최고 사양 AI 대신 상대적으로 저렴하고 빠른 모델로 교체를 결정했다. 실제 상담 현장에서 비교해 본 결과 성능 차이는 거의 없었다. 반면 가격과 속도 면에서는 압도적으로 유리했다.
29일 업계에 따르면, 채널톡은 자체 글로벌 상담 AI '알프(ALF)'의 메인 모델을 오픈AI의 최신 모델 'GPT-5.6 루나'로 전환하고 있다. 채널톡은 실제 고객 상담 데이터를 기반으로 여러 AI 모델을 정밀 비교한 결과를 기술 블로그에 공개했다.
채널톡이 모델 교체를 검토하기 시작한 계기는 지난 7월 말 GPT-5.6 루나 가격이 80% 인하되면서다. 채널톡은 가격표나 공개된 단순 순위만 보지 않았다. 지식 검색과 연속 대화, 주문 취소, 배송 조회 등 실제 상담원이 처리하는 과제를 두고 후보 모델들을 시험했다. 과거 발생했던 오답이나 오류를 다시 일으키지 않는지도 집중 검증했다.
그 결과 GPT-5.6 루나는 기존 모델보다 더 똑똑하게 상담 업무를 마쳤다. 기존에 쓰던 '클로드 소넷 4.6'의 상담 과제 통과율은 40.4%에 그쳤다. 하지만 루나는 통과율을 51.8%까지 끌어올렸다. 과거 오류를 재발하지 않는 안정성 평가에서도 합격점을 받았다. 성능은 더 높아졌지만 운영 비용은 기존 모델의 약 13분의 1 수준으로 대폭 줄었다.
눈에 띄는 점은 채널톡이 가장 뛰어난 성능을 가진 최상위 모델을 일부러 피했다는 사실이다.
GPT-5.6 시리즈 중 최고 성능을 자랑하는 '솔'은 상담 과제 통과율이 53.5%로 가장 높았다. 하지만 평균 응답 시간이 18.1초에 달했다. 손님이 기다리는 실시간 채팅 상담에 쓰기에는 너무 느렸다. 성능 차이가 크지 않다면 응답 속도가 빠른 모델이 훨씬 낫다는 판단을 내렸다.
또 다른 후보였던 '테라' 모델은 응답 속도가 4.7초로 빨랐다. 하지만 가격이 루나보다 8.4배나 비쌌다. 성능 차이에 비해 비용 부담이 지나치게 컸다.
결국 채널톡은 답변 품질과 안정성을 유지하면서도 빠른 속도와 저렴한 비용을 모두 잡은 루나를 최종 낙점했다.
채널톡은 하나의 AI 모델을 선택한 뒤에도 모든 업무에 똑같은 설정을 적용하지 않았다.
고객과 복잡한 대화를 나누며 문제를 직접 해결하는 메인 상담에는 AI 연산 수준을 높였다. 깊이 생각하고 정답을 내도록 유도한 것이다. 반면 단순 지식을 검색해 전달하는 업무에는 연산 수준을 낮췄다. 답변 속도를 한층 끌어올리고 불필요한 비용 낭비를 막기 위해서다.
같은 AI라도 업무의 난이도에 맞춰 힘을 줄 곳과 뺄 곳을 나눈 셈이다.
채널톡은 현재 영향이 적은 기능부터 루나 모델을 순차 적용하고 있다. 메인 상담 영역도 이용자 반응을 꼼꼼히 살피며 서비스 범위를 단계적으로 넓힐 방침이다.
◎공감언론 뉴시스 [email protected]
고객 상담 솔루션 '채널톡'을 운영하는 채널코퍼레이션이 대표적이다. 채널톡은 최고 사양 AI 대신 상대적으로 저렴하고 빠른 모델로 교체를 결정했다. 실제 상담 현장에서 비교해 본 결과 성능 차이는 거의 없었다. 반면 가격과 속도 면에서는 압도적으로 유리했다.
29일 업계에 따르면, 채널톡은 자체 글로벌 상담 AI '알프(ALF)'의 메인 모델을 오픈AI의 최신 모델 'GPT-5.6 루나'로 전환하고 있다. 채널톡은 실제 고객 상담 데이터를 기반으로 여러 AI 모델을 정밀 비교한 결과를 기술 블로그에 공개했다.
채널톡이 모델 교체를 검토하기 시작한 계기는 지난 7월 말 GPT-5.6 루나 가격이 80% 인하되면서다. 채널톡은 가격표나 공개된 단순 순위만 보지 않았다. 지식 검색과 연속 대화, 주문 취소, 배송 조회 등 실제 상담원이 처리하는 과제를 두고 후보 모델들을 시험했다. 과거 발생했던 오답이나 오류를 다시 일으키지 않는지도 집중 검증했다.
그 결과 GPT-5.6 루나는 기존 모델보다 더 똑똑하게 상담 업무를 마쳤다. 기존에 쓰던 '클로드 소넷 4.6'의 상담 과제 통과율은 40.4%에 그쳤다. 하지만 루나는 통과율을 51.8%까지 끌어올렸다. 과거 오류를 재발하지 않는 안정성 평가에서도 합격점을 받았다. 성능은 더 높아졌지만 운영 비용은 기존 모델의 약 13분의 1 수준으로 대폭 줄었다.
상담 답변 18초 걸리면 탈락…채널톡이 '루나' 낙점한 이유
GPT-5.6 시리즈 중 최고 성능을 자랑하는 '솔'은 상담 과제 통과율이 53.5%로 가장 높았다. 하지만 평균 응답 시간이 18.1초에 달했다. 손님이 기다리는 실시간 채팅 상담에 쓰기에는 너무 느렸다. 성능 차이가 크지 않다면 응답 속도가 빠른 모델이 훨씬 낫다는 판단을 내렸다.
또 다른 후보였던 '테라' 모델은 응답 속도가 4.7초로 빨랐다. 하지만 가격이 루나보다 8.4배나 비쌌다. 성능 차이에 비해 비용 부담이 지나치게 컸다.
결국 채널톡은 답변 품질과 안정성을 유지하면서도 빠른 속도와 저렴한 비용을 모두 잡은 루나를 최종 낙점했다.
업무 난도 따라 연산량 조절…'무조건 1등 AI' 시대 저문다
고객과 복잡한 대화를 나누며 문제를 직접 해결하는 메인 상담에는 AI 연산 수준을 높였다. 깊이 생각하고 정답을 내도록 유도한 것이다. 반면 단순 지식을 검색해 전달하는 업무에는 연산 수준을 낮췄다. 답변 속도를 한층 끌어올리고 불필요한 비용 낭비를 막기 위해서다.
같은 AI라도 업무의 난이도에 맞춰 힘을 줄 곳과 뺄 곳을 나눈 셈이다.
채널톡은 현재 영향이 적은 기능부터 루나 모델을 순차 적용하고 있다. 메인 상담 영역도 이용자 반응을 꼼꼼히 살피며 서비스 범위를 단계적으로 넓힐 방침이다.
◎공감언론 뉴시스 [email protected]
