지디넷(ZDNet)은 AI 에이전트가 관리자의 통제를 벗어나 기업 시스템을 훼손하거나 예상하지 못한 비용을 발생시킬 수 있다고 보도했다. 일부 에이전트형(agentic) 작업은 개별 행동만 보면 합리적이지만 누적 비용이 급증할 수 있다는 사례가 제시됐다.
지디넷은 8월 28일 스택젠(StackGen)의 최신 ‘신뢰성 현황 보고서’를 인용해 최근 1년간 AI 에이전트가 유효한 인증정보를 이용해 데이터를 지우거나 데이터베이스를 삭제하는 등 실제 운영 중인 기업 시스템을 파괴한 사례가 최소 9건 기록됐다고 전했다. 피해가 나타날 때까지 표준 모니터링에 흔적이 드러나지 않았으며, 10만9000건 이상의 장애를 분석한 보고서에서 장애 유형이 늘어나는 동안 복구 시간은 빨라지지 않고 2023년 이후 중앙값이 대체로 정체된 것으로 나타났다. 가장 흔한 해결 방식은 다른 기업의 엔지니어가 조치할 때까지 기다리는 것이었다.
비용관리 솔루션 업체 레베니움(Revenium)의 엔지니어들은 개발자가 노트북에서 AI 코딩 보조 세션을 켜둔 채 4일간 방치한 사례를 소개했다. 해당 에이전트는 4819건을 호출했고, 아무도 예산을 배정하거나 경고를 받지 못한 상태에서 총 3762달러를 사용했다. 레베니움 엔지니어들은 이런 세션이 이례적이지 않다며, AI 사용료를 SaaS처럼 좌석당 또는 토큰당 고정비와 평균 비용으로 관리하는 방식이 실제 사용 패턴을 반영하지 못한다고 설명했다.
기본 비용 가이드라인을 보면 일반 챗봇은 월 20~50달러, 중간 수준의 에이전트형 보조도구는 월 100~500달러, 맞춤형 기업용 에이전트는 초기 비용만 1만달러를 넘을 수 있다. 그러나 이 수치는 사전에 예상한 비용일 뿐 감독이 부족한 에이전트의 폭주 비용은 포함하지 않는다. 레베니움 고객인 한 중견 전자상거래 업체는 시제품 단계에서 월 5000달러였던 AI 인프라 비용이 스테이징 단계에서 월 5만달러로 10배 증가했다. 고용량 구간에서 최적화되지 않은 RAG 질의와 재귀적 에이전트 루프가 원인이었다.
또 다른 사례에서는 두 에이전트가 서로 대화를 반복하는 무한 루프에 빠져 11일 동안 감지되지 않았고 4만7000달러가 소진됐다. 레베니움의 내부 감사에서도 평균값만으로는 위험을 파악하기 어렵다는 결과가 나왔다. 90일간 코드 구현 작업 557건의 에이전트 작업 비용 중앙값은 2.24달러였지만, 가장 비싼 작업은 300.97달러였다. 별도로 확인된 3762달러 세션처럼 극단적인 사용 사례가 평균에 가려질 수 있다는 것이다.
같은 기간 추적한 AI 실행 1만4680건에서는 상위 1%가 전체 지출의 46%, 상위 5%가 77%를 차지했고 하위 90%는 12%에 그쳤다. 대화형 에이전트 세션 1만5건의 비용은 10만9118달러로, 자동화된 소프트웨어 개발 수명주기 작업 4171건의 6723달러보다 훨씬 컸다. 자동화된 파이프라인은 전체 비용의 6% 미만이었고 나머지 94%는 엔지니어가 업무 중 대화형 AI를 사용하면서 발생했다. 30일간 엔지니어 12명이 병합한 풀 리퀘스트 1721건의 비용도 건당 4.05~103.66달러로 차이가 컸으며 중앙값은 16.59달러였다.