AI 에이전트가 기업 업무 자동화를 확대하는 동시에 통제와 보안 우려를 키우고 있다는 분석이 나왔다. 로버트 호프 실리콘앵글(SiliconANGLE) 기자는 9월 18일 실리콘앵글에 게재한 주간 기업 기술 분석에서 AI 에이전트를 둘러싼 낙관론과 경계론이 동시에 커지고 있다고 짚었다.
AI 에이전트 확산과 통제 요구
이번 주 AI 업계에서는 더 많은 업무를 자동화하려는 에이전트형 제품과 함께, 통제되지 않은 AI가 인류에 위해를 줄 수 있다는 우려가 두드러졌다. 최첨단 모델 기업에서 AI가 통제를 벗어나면 인류를 위협할 수 있다고 우려한 연구자들이 잇따라 회사를 떠난 뒤 관련 논의가 이어졌고, 샘 올트먼(Sam Altman) 오픈AI(OpenAI) CEO와 일론 머스크 스페이스XAI CEO는 다리오 아모데이 앤트로픽(Anthropic) CEO가 제기한 모델 출시 속도 조절 요구에 지지를 보냈다. 앤트로픽은 AI 발전 속도를 추적할 수 있는 지표도 공개했다.
다만 로버트 호프 기자는 미국 정부와 의회에서 가까운 시일 내 AI 개발 속도 조절이나 규제 조치가 나오기는 어려워 보인다고 분석했다. 존 케네디 미국 공화당 상원의원은 AI 법안 처리 전망을 묻는 질문에 의회가 현재 아무것도 통과시키지 못한다는 취지로 답했다. 에이전트 보안과 관련해서는 엑사포스, 이브 시큐리티, 코헤시티가 AI 작동을 중단시키는 이른바 킬 스위치를 내놨고, 스택호크와 아크젯은 안전장치 서비스 출시를 알렸다.
기업용 소프트웨어와 인프라 경쟁
기업용 소프트웨어 업계는 통제 논의와 별개로 에이전트 도입을 빠르게 추진했다. 세일즈포스는 샌프란시스코에서 열린 드림포스 행사에서 에이전트를 소프트웨어의 다음 시대를 이끌 기술로 보고 전략적 투자를 강화했다. 마크 베니오프 세일즈포스 CEO는 AI 기업들의 속도전이 소셜미디어 업계의 행보와 닮았으며 소셜미디어가 어린이 등에게 피해를 줬다고 지적했지만, AI의 현재와 잠재적 피해를 줄일 구체적 방안은 제시하지 않았다.
세일즈포스는 소프트웨어 파트너들이 에이전트형 인터페이스를 주도하도록 하면서 기업 업무에 필요한 기반은 제공하는 방식을 택했다. 자체 협업 서비스 슬랙은 세일즈포스의 백엔드 기능으로 들어가는 에이전트형 관문으로 활용될 전망이다. 스플렁크도 플랫폼을 에이전트 중심으로 재구성했다. AI 인프라 서밋에서는 수백개 업체가 프로세서, 데이터베이스, 광 네트워크, 특수 메모리, 네트워크 장비 등을 선보였으며, 참석자 수가 불과 몇 년 전보다 크게 늘었다. JLL의 야오 모린 최고기술책임자는 지난해 AI가 모델 중심이었다면 올해는 인프라가 중심이라고 말했다.
이 분석은 AI 에이전트 시장이 자동화 확대와 위험 통제라는 상반된 압력 속에서 동시에 커지고 있다고 정리했다. 에이전트 보안 제품과 안전장치 서비스가 잇따라 등장했지만, 기업들은 세일즈포스와 스플렁크처럼 실제 업무 플랫폼에 에이전트를 연결하는 방향으로 움직이고 있다. 한편 미국 상원은 가상자산을 연방 차원에서 규율하려던 클래리티법을 부결했지만, 증권거래위원회는 며칠 뒤 토큰화 주식 거래에 5년간 증권법 적용 예외를 인정했다. 호프 기자는 AI와 가상자산 모두 규제 논의가 진행되는 가운데 시장의 기술·사업 추진은 계속되고 있다고 전했다.