에이치피이(HPE)는 AI 사용량이 지속적이고 예측 가능하며 전용 용량을 생산적으로 가동할 만큼 충분히 커지면 요청 건별로 비용을 내는 방식보다 용량을 확보하는 편이 경제성과 비용 예측성을 높일 수 있다고 주장했다. 이 내용은 MIT 테크놀로지 리뷰가 9월 29일 게재한 글로, 매체 편집진이 아닌 HPE가 제작했다고 명시됐다.
AI 수요가 늘면 비용 계산도 달라져
AI가 시험 단계에서 실제 업무에 쓰이는 단계로 옮겨가면서 비용 판단의 기준도 달라지고 있다고 설명했다. 토큰 가격이나 최신 모델 이용료만 비교할 것이 아니라, 기업이 여러 업무에 AI를 얼마나 자주, 어느 정도 규모로 쓸지를 따져야 한다는 것이다. 사용량에 따라 과금하는 방식은 도입 초기 유연성이 있지만, 업무량과 모델 요구가 바뀌면 월별 지출을 예측하기 어려워질 수 있다고 지적했다.
고객 서비스와 IT 지원, 연구, 업무 절차를 처리하는 AI 에이전트는 기업 시스템을 오가며 여러 단계의 작업을 수행할 수 있다. 검색·지식 시스템과 보조 도구 등 AI 업무가 늘면 모델뿐 아니라 데이터와 도구에 대한 수요도 반복적으로 발생한다. 딜로이트의 ‘2026년 기업 AI 현황’ 보고서를 인용해 2025년 근로자의 AI 접근성이 5% 증가했으며, AI 프로젝트의 40% 이상을 실제 운영에 투입한 기업 비중은 6개월 안에 두 배로 늘어날 것으로 예상된다고 전했다.
소유보다 중요한 것은 활용률
전용 용량 확보가 언제나 비용을 낮추는 것은 아니라는 점도 짚었다. 소유가 사용량 기반 과금보다 경제적이 되는 지점은 기업마다 다르며, 이용 모델과 입력·출력 토큰의 구성, 성능 요구, 시스템 설계, 에너지 비용, 운영 방식에 따라 달라진다. 예컨대 검색이 많은 지식 시스템은 한 번의 상호작용에 더 많은 문맥을 처리할 수 있고, 에이전트형 업무는 한 과제를 수행하면서 추론과 검색, 모델 호출, 도구 사용을 여러 차례 반복할 수 있다.
따라서 일반적인 비용 비교만으로 투자 여부를 정하기보다 실제 업무별 수요와 사용량을 산정해야 한다는 게 HPE의 설명이다. 향후 12~18개월 동안 예상되는 AI 수요와 용량이 얼마나 꾸준히 사용될지를 따져보고, 여러 업무가 같은 기반시설을 함께 쓸 수 있는지도 고려해야 한다. 활용률이 충분하면 고정 비용을 여러 업무에 나눠 부담해 실질 비용을 낮출 수 있고, 사용량에 따라 출렁이는 월별 지출 대신 용량을 계획적으로 관리할 수 있다고 주장했다.
용량을 확보한 뒤에는 실제 업무에 빠르게 적용하고 계속 가동하는 운영 체계가 필요하다고 강조했다. 이용자를 참여시키고 AI 사용을 관리하며, 활용률을 점검하고 새로운 업무 사례를 찾아야 투자 효과를 실현할 수 있다는 것이다. 기업이 자본 투자를 결정하기 전에는 수요가 전용 용량을 뒷받침할 만큼 안정적인지, 어느 사용량부터 소유가 경제적인지, 도입과 관리·활용 확대를 통해 용량을 계속 생산적으로 쓸 수 있는지를 살펴야 한다고 제안했다. AI 용량 소유를 일률적인 해법으로 제시하기보다 업무별로 수요와 운영 역량을 따져 결정해야 한다는 입장이다.