토큰 맥싱? AI 많이 쓴다고 일 잘하나…아마존 "장기 성과로 평가"

기사등록 2026/10/28 11:04:17 최종수정 2026/10/28 11:58:24

개발자 지침 공개…기능 출시·서비스 변경 실적으로 AI 효과 점검

직원 토큰 사용 상한은 없어…AI가 도움 안 되는 업무도 인정

[서울=뉴시스]박영환 기자 = 아마존이 소프트웨어 개발자의 인공지능(AI) 활용을 평가할 때 사용량보다 실제 업무 성과를 중시하라는 지침을 제시했다.

27일(현지시간) CNBC에 따르면 아마존은 지난달 소프트웨어 개발자와 관리자들에게 배포한 메모를 이날 홈페이지에 공개했다. 개발자의 역할을 새로 규정한 이 지침에서 회사는 “장기적인 성과를 기준으로 평가하고 평가받는 것이 가장 바람직하다”고 밝혔다.

아마존이 경계한 것은 업무 성과와 관계없이 AI를 가능한 한 많이 사용하는 ‘토큰맥싱’이다. 토큰은 AI가 입력받거나 생성하는 데이터를 세는 단위로, 사용량이 늘면 비용 부담도 커질 수 있다.

CNBC에 따르면 아마존은 직원들이 사내 순위를 올리려고 AI 사용량을 늘리는 사실을 파악한 뒤 지난 5월 토큰 사용량 순위표를 없앴다. 다만 아마존 대변인은 직원들의 토큰 사용량에 상한선을 두지는 않았다고 밝혔다.

AI 도입을 확대해 온 기업들은 비용 증가와 함께 실제 생산성이 얼마나 높아졌는지 측정하는 문제에도 직면해 있다. 일부 기업은 비용 부담을 줄이려고 직원들의 토큰 사용량을 제한하거나 특정 업무에 더 저렴한 오픈소스 AI 모델을 쓰도록 하고 있다고 CNBC는 전했다.

아마존은 메모에서 토큰 사용량과 AI 도구 활용률, 코드 변경·검토 건수 등으로 팀이나 조직의 AI 활용 성과를 측정하는 데 “심각한 결함”이 있다고 지적했다. 이런 수치가 실제 성과를 제대로 보여주지 못할 수 있고, 수치를 늘리는 것 자체가 목표가 되면 비용이 늘고 소프트웨어가 불필요하게 복잡해질 수 있다는 설명이다.

마크 브루커 아마존웹서비스(AWS) 부사장 겸 수석 엔지니어는 CNBC 인터뷰에서 AI가 개발자의 생산성을 얼마나 높였는지 살펴보기 위해 ‘기능 출시 속도’ 등의 지표를 활용한다고 말했다. 구체적으로 기능을 얼마나 많이 출시했는지, 실제 서비스에 성공적으로 적용한 변경이 얼마나 되는지 등을 확인하는 방식이다.

브루커 부사장은 투입한 비용과 노력에 비해 어떤 성과를 얻는지가 중요하다고 설명했다. 그는 “고객이나 사업을 위해 해결해야 할 중요한 문제라면 도구와 시간, 토큰, 인력 등을 투입할 것”이라고 말했다.

아마존은 앤디 재시 최고경영자(CEO) 아래에서 사업 전반에 AI 도입을 확대해 왔다. 재시 CEO는 AI가 일상 업무의 범위와 속도를 바꾸고 자동화를 통해 앞으로 몇 년간 회사의 사무직 인력이 줄어들 수 있다고 전망했다.

아마존은 이번 메모에서도 AI가 앞으로 소프트웨어 개발의 중심이 될 것이라며 개발자들에게 AI를 배우고 일상 업무에 적용하라고 당부했다. 그러면서도 “현재의 AI 도구가 업무에 도움이 되지 않는다면 그것은 실패가 아니라 발견”이라며 “AI가 아직 업무에 도움이 되지 않는 지점을 설명할 수 있는 개발자는 우리가 요구하는 판단력을 보여주는 것”이라고 강조했다.


◎공감언론 뉴시스 yunghp@newsis.com