기업의 에이전트형(agentic) AI 프로젝트 가운데 실제 운영 단계에 진입한 비율은 평균 34%에 그쳤으며, 데이터와 조직 맥락에 대한 지식 부족이 확산의 주요 장애물로 꼽혔다. MIT 테크놀로지 리뷰는 10월 6일 데이터·AI·기술 분야 임원 300명을 조사한 보고서에서 이같이 분석했다. 이 콘텐츠는 매체의 맞춤형 콘텐츠 부문인 인사이트가 제작했으며 편집국 아니다.
운영 단계 진입 가로막는 데이터·맥락 부족
보고서에 따르면 조사 대상 기업의 에이전트형 AI 프로젝트는 평균적으로 약 3분의 1만 파일럿을 넘어 실제 운영에 들어갔다. 운영 단계 진입에 어려움을 겪는 원인으로는 기존 데이터 시스템, 보안·개인정보 우려, 지식과 맥락의 부족이 꼽혔다. 기술 기업도 예외가 아니었다. 보고서는 데이터와 지식의 취약성이 에이전트 프로젝트의 진전을 반복해서 늦추며, 여러 활용 사례가 운영에 이르지 못하는 주요 이유라고 설명했다.
보고서는 데이터의 양과 지식의 차이를 구분했다. 데이터가 조직이 모으고 분석하는 정보라면, 지식은 그 정보가 각 조직의 업무와 맥락에서 무엇을 뜻하는지 이해하는 능력이라는 설명이다. 에이전트가 상황을 추론하고 결정을 내린 뒤 행동에 옮기려면 의미 지식, 과거 경험을 활용하는 일화 기억, 업무 절차에 관한 지식이 필요하다고 짚었다. 이런 맥락이 부족하면 판단이 잘못되거나 신뢰하기 어려워질 수 있다. 보고서는 조직이 에이전트에 입력되는 데이터의 맥락을 충분히 제공하는 역량을 이 세 영역을 중심으로 살폈다.
데이터 연결과 지식 기반 구축에 투자
프로젝트를 운영 단계까지 발전시킨 선도 기업은 전체 에이전트형 AI 프로젝트의 평균 61%를 파일럿 이후 단계로 진입시켰다. 이들 기업은 다른 기업보다 지식 역량이 강했고, 특히 의미 지식 측면에서 차이가 두드러졌다. 보고서는 이 역량이 높은 운영 진입률과 밀접하게 맞물린다고 분석했다. 다만 조사 결과는 두 요소의 상관관계를 보여주는 것으로, 지식 역량이 성공률을 직접 높였다고 단정하지는 않았다.
조직 간 데이터가 시스템별로 나뉘어 충분히 공유되지 않는 문제는 에이전트의 지식 접근을 확대할 때 가장 자주 언급된 과제였다. 응답자의 55%가 데이터 분절을 주요 장애물로 꼽았다. 반면 운영 선도 기업에서는 보안과 개인정보 보호 우려가 더 큰 과제로 나타났으며, 해당 응답 비율은 72%였다. 보고서는 기업이 에이전트의 접근 범위를 넓히려 할수록 데이터 연결뿐 아니라 안전한 접근 관리도 함께 다뤄야 하는 상황을 보여준다고 설명했다.
조사에 참여한 임원들은 에이전트의 판단 품질을 높이기 위해 조직 데이터와 AI 에이전트 사이의 구조적 기반을 강화하는 데 가장 큰 효과를 기대했다. 인터뷰에 참여한 전문가들은 이를 위한 방안으로 지식 계층 구축을 제시했다. 기업들은 에이전트의 지식 접근을 넓히기 위해 데이터 수집·처리 파이프라인, AI에 맞춘 API, 검색증강생성(RAG) 등 검색 기술과 AI 평가 에이전트, 지식 그래프에 우선 투자할 계획이다. 보고서는 이런 기반을 보강해 에이전트가 조직의 데이터를 맥락에 맞게 활용하도록 하는 것이 파일럿에 머문 프로젝트를 실제 운영으로 옮기는 과제라고 짚었다.