딜리버런스AI(Deliverance AI) 창업자 겸 CEO 믹 맥닐(Mick McNeil)은 기업의 에이전트형(agentic) AI에서 업무 연속성을 좌우하는 것은 모델 선택보다 모델을 통제하는 소프트웨어 계층이라고 말했다. 맥닐 CEO는 기업 내 AI 에이전트 통제 방안을 논의한 인터뷰에서 이같이 밝혔다고 실리콘앵글(SiliconANGLE)은 14일 보도했다.
에이전트 행동·외부 의존성까지 통제
딜리버런스AI의 제어 시스템은 에이전트 활동을 관찰하고 정책을 적용하며 감사 기록과 비상 중단 기능을 제공한다. 회사는 이를 통해 에이전트가 기업 업무를 처리할 때 민감한 데이터와 운영 통제권을 보호할 수 있다고 설명했다. 데이터가 국경 안에 머물도록 하는 것만으로는 충분하지 않고, 에이전트의 행동과 외부 서비스 의존성, 시스템을 계속 운영하는 데 드는 비용도 관리해야 한다는 취지다.
맥닐 CEO는 HPE와 협력해 스토리지와 네트워크, GPU, 소프트웨어를 포함한 전체 시스템을 고객 데이터센터에 구축한다고 말했다. 고객이 에이전트 시스템의 경계를 직접 소유해야 시스템 안팎으로 오가는 정보와 에이전트의 행동을 통제할 수 있다는 설명이다. 정부·국방·제약·금융 분야 고객의 요구는 서로 다르며, 외부 연결을 완전히 차단하는 에어갭 환경이 필요한 곳도, 일부 연결을 허용하는 곳도 있다고 덧붙였다.
모델 선택권과 운영 비용도 고려
고객은 인프라와 그 위에서 구동되는 소프트웨어에 대한 통제권을 갖는다는 것이 딜리버런스AI의 사업 방식이라고 맥닐 CEO는 말했다. 다만 고객 환경 안에서 운영하더라도 모델 제공업체의 접근 제한 등 경계 밖에서 발생하는 변화에 대비해야 한다. 딜리버런스AI의 라우팅 기술은 프런티어 모델과 오픈소스 모델을 지원해 업무별로 적합한 모델을 고를 수 있도록 한다. 프런티어 모델을 사용할 수 없게 되면 오픈소스 모델로 전환하고, 주 모델이 오픈소스인 경우에도 다른 모델을 대안으로 둘 수 있다는 것이다.
구독형 제품에는 운영체제와 제어 시스템이 포함되며, 고객은 이를 통해 프런티어 모델과 오픈소스 모델을 배치할 수 있다고 맥닐 CEO는 설명했다. 고객은 에이전트와 연동 기능, 감사 기록, 축적된 학습 내용도 보유하지만, 이를 다른 플랫폼으로 옮기는 일은 별도의 과제로 남아 있다고 했다. 여러 플랫폼 사이에서 에이전트를 이전할 공통 체계가 아직 마련되지 않았다는 설명이다.
딜리버런스AI는 모델 라우팅을 업무별 성능과 비용을 맞추는 수단으로도 제시했다. 에이전트가 생산성을 높이는지, 실제 재무 성과를 내는지를 구분해 도입 기회를 평가한다는 것이다. 회사는 엔비디아(Nvidia)와 공동 개발한 HPE 프라이빗 클라우드 AI(HPE Private Cloud AI)에 자사의 에이전트형 운영체제를 제공하기 위해 HPE 언리시 AI(Unleash AI) 파트너 프로그램에 참여했다. 맥닐 CEO는 고객이 90일 안에 자체 환경에 전체 에이전트형 운영체제를 배치할 수 있는 공동 솔루션을 곧 출시할 예정이라고 밝혔다. 내장 엔지니어는 플랫폼 유지와 업무 흐름 구축을 지원하고, 가치 자문 인력은 투자수익률과 도입 기간, 위험을 바탕으로 적용 과제를 정하도록 돕는다.