AI 에이전트, 토큰 사용량 14배 늘어 사람을 추월했다

오픈라우터(OpenRouter)에서 AI 에이전트의 토큰 사용량이 급증해 인공지능이 소비하는 토큰이 사람보다 많아지는 흐름이 나타났다는 분석이 나왔다. 에이전트형(agentic) 토큰 사용량은 2026년 2월 6일 이후 14배 늘어난 반면 사람의 사용량은 2.8배 증가하는 데 그쳤다.

더디코더(The Decoder)는 8월 23일 오픈라우터 분석가 피터 워커의 분석을 인용해 이같이 보도했다. 워커 분석가는 2월 6일이 인간이 AI 에이전트보다 더 많은 토큰을 소비한 마지막 날이었을 가능성이 있다고 봤다.

AI 에이전트는 사람이 매번 지시하지 않아도 더 오랜 시간 독립적으로 작업하는 방향으로 활용되고 있다. 작업 과정에서 추가적인 AI 프로세스를 실행하면서 에이전트가 사용하는 토큰도 함께 늘어났다는 설명이다.

다만 토큰 사용량의 증가가 비용 증가로 그대로 이어지는 것은 아니다. 에이전트가 사용하는 토큰의 약 70%는 캐시된 프롬프트에서 나오며, 캐시된 프롬프트에는 일반 토큰보다 훨씬 낮은 요금이 적용된다. 이에 따라 원시 사용량이 14배 증가했더라도 실제 비용은 같은 속도로 늘지 않는다는 것이다.

오픈라우터의 사용량은 오픈 웨이트 모델에 상대적으로 치우쳐 있다. 오픈 웨이트 모델은 오픈AI(OpenAI)나 앤트로픽(Anthropic)의 모델보다 토큰 효율이 낮은 경향이 있어, 오픈라우터에서 관찰된 증가 폭이 전체 AI 업계의 상황과 완전히 같다고 단정할 수는 없다. 다만 주요 AI 연구소에서도 유사한 흐름이 나타날 가능성이 있다고 더디코더는 전했다.

토큰 사용량 증가는 이미 추론 모델 확산과 함께 시작됐다. 추론 모델은 답변 전에 더 오래 사고하도록 설계돼, 실제로 긴 사고 과정이 필요하지 않은 요청에서도 더 많은 토큰을 생성할 수 있다. 여기에 여러 단계의 작업을 자율적으로 수행하는 AI 에이전트가 확산되면서 AI가 다시 AI를 호출하고 처리하는 구조가 토큰 수요를 키우고 있다는 분석이다.

원문 보기 (the-decoder.com)

RELATED ARTICLES