에릭 프로방셰(Eric Provencher) 오픈AI(OpenAI) 코덱스(Codex) 개발자는 에이전트형(agentic) 작업 흐름에서 병렬 하위 에이전트를 2개 넘게 운용하면 품질 개선 없이 토큰 비용만 커질 수 있다고 경고했다. IT 전문 매체 더디코더는 9월 17일 프로방셰 개발자가 X에 올린 글을 인용해 이같이 보도했다.
병렬 에이전트 늘수록 커지는 ‘조정 비용’
프로방셰 개발자는 여러 하위 에이전트를 동시에 투입하는 방식이 대체로 토큰을 과도하게 소모한다고 지적했다. 하위 에이전트들이 서로의 결과를 신뢰하지 못해 각자의 작업을 반복해서 확인하고, 결과적으로 모든 에이전트의 작업을 서로 검토하는 과정이 생긴다는 설명이다. 그는 이 같은 비용을 ‘조정 비용(coordination tax)’이라고 표현했다.
그는 병렬 작업 경로를 너무 많이 유지하면 작업이 통제에서 벗어나고, 과도한 검증에 토큰을 쓰기 쉽다고 밝혔다. 실제 사례로는 파이썬(Python) 파일 하나를 리팩터링하는 데 페이블(Fable) 에이전트 1393개를 투입해 토큰 2만달러를 쓴 프로젝트를 언급했다. 프로방셰 개발자는 이 작업을 아스트라(Astra) 에이전트 하나로도 훨씬 적은 비용에 처리할 수 있었을 것이라고 X에서 평가했다.
에이전트 무리를 활용하면 작업 완료까지 걸리는 시간은 줄어들 수 있지만, 그 대가로 발생하는 토큰 사용량이 전체 효율을 떨어뜨릴 수 있다는 것이 그의 주장이다. 하위 에이전트가 맡은 일을 수행하는 데 그치지 않고 다른 에이전트의 결과를 확인하거나 진행 상황을 반복적으로 조회하면, 실제 문제 해결에 쓰이지 않는 연산과 문맥 처리가 늘어난다. 각 하위 에이전트가 충분한 배경 정보를 전달받지 못한 상태에서 작업을 시작하는 점도 중복 작업의 원인으로 지목됐다.
오픈AI가 제시해야 할 에이전트 운용 해법
프로방셰 개발자는 개선책으로 하위 작업을 별도 스레드에 위임한 뒤 작업이 끝났을 때만 주 에이전트에 알리는 방식을 제안했다. 주 에이전트가 각 하위 작업의 상태를 계속 확인하는 대신 완료 통지만 받으면 불필요한 조회와 토큰 낭비를 줄일 수 있다는 취지다. 시스템 프롬프트가 여러 하위 에이전트에서 반복 실행되는 문제도 해결해야 할 대상으로 꼽았다.
다만 이번 발언에는 오픈AI의 새 기능 출시 일정이나 에이전트 제품 가격, 구체적인 구현 계획은 포함되지 않았다. 프로방셰 개발자는 오픈AI도 이 문제에 대해 더 나은 해결책을 내놓아야 한다고 인정했다. 이에 따라 이번 지적은 에이전트 수를 늘리는 것이 항상 성능 향상으로 이어지는 것은 아니며, 작업 간 조정과 문맥 전달을 어떻게 설계할지가 비용 관리의 핵심이라는 주장으로 정리된다.