프루프포인트(Proofpoint)와 앤트로픽(Anthropic)이 기업 내 AI 에이전트 확산에 대응해 사람과 에이전트의 행위 의도를 판별하고 정책을 실시간 통제로 전환하는 보안 방안을 제시했다. 실리콘앵글은 9월 25일 샌디에이고에서 열린 프루프포인트 프로텍트 행사에서 나온 보안업계 관계자들의 발언과 발표를 종합해 보도했다.
의도 기반 보안과 지식 그래프
기업 보안팀의 과제는 AI 도입을 막는 데서 안전한 활용을 가능하게 하는 쪽으로 옮겨가고 있다는 게 행사의 주요 논점이었다. 프루프포인트의 몰리 맥클레인 스털링 사이버보안 전략 선임이사는 에이전트가 맡은 일을 수행하는 과정에서 처음 의도와 다른 행동을 최적화할 수 있다며, 사람이나 에이전트가 무엇을 하려는지 파악하는 것이 중요하다고 설명했다. 기업 내부에서 구동되는 에이전트는 데이터와 시스템, 이메일에 접근할 수 있어 내부 사용자와 유사한 보안 관리 대상이 된다.
프루프포인트는 협업 보안과 데이터·AI 보안을 위한 에이전트형 시스템 2종을 소개했다. 두 시스템은 사람과 AI가 어떻게 소통하고 데이터에 접근하는지 연결해 보여주는 지식 그래프를 기반으로 한다. 수밋 다완 최고경영자는 모든 취약점을 패치할 수 없는 만큼 사람과 에이전트의 의도를 판단하는 보완 통제가 필요하다고 말했다. 회사는 위협 탐지 제품군 넥서스에 의도 기반 모델을 추가했으며, 모델은 플래시·확장 추론·심층 추론 단계로 제공된다. 커뮤니티 하이퍼루프는 새 탐지 정보를 고객 전체에 기계 속도로 공유한다.
에이전트 확산에 맞춘 통제와 대응
프루프포인트가 관찰한 에이전트 활동의 약 99%는 클라우드가 아닌 일반 엔드포인트에서 이뤄졌다. 라이언 칼렘버 최고전략책임자는 사람을 대상으로 만든 거버넌스 정책을 에이전트가 이해할 수 있는 실시간 통제로 바꿔야 한다고 강조했다. 회사가 보유한 수천만개의 엔드포인트 센서는 이런 활동을 파악하는 기반으로 제시됐다. 지식 그래프는 행위자와 행동, 데이터의 관계를 연결해 접근 이유와 허용 범위를 살피고, 거버넌스와 탐지·대응에 활용하는 구조다.
앤트로픽은 취약점 탐지 모델 미토스(Mythos) 프리뷰를 일반 공개하는 대신 안전장치를 마련하고 방어 담당자에게 먼저 제공하는 방식을 택했다. 앤트로픽 국가안보 파트너십 책임자 로버트 베어는 새 모델이 낮은 심각도의 취약점을 연쇄적으로 엮어 중대한 공격으로 이어갈 수 있다고 설명했다. 그는 기업이 정책과 샌드박스, 가시성을 갖추고 피해 범위를 파악한 뒤 작은 규모부터 시작해야 한다고 조언했다. 숙련된 공격자는 AI로 악성코드 개발을 앞당기고 피싱 문구를 최대 16개 언어로 복제하는 반면, 단순 공격자는 더 허술해지는 양상이 관찰됐다는 설명도 나왔다.
프루프포인트의 연간 반복 매출은 혼넷시큐리티를 포함해 25억달러에 근접했고, 성장률은 약 20%다. 레미 토마스 프루프포인트 최고재무책임자는 토마 브라보가 2021년 회사를 비상장화한 뒤 연간 반복 매출이 두 배로 늘었다고 설명했다. 보안 책임자들이 AI 예산을 확보하려고 공급업체를 통합하는 사례로는 캐나다 은행이 5년간 2500만달러 규모 계약을 통해 기존 공급업체 4곳을 대체한 일이 소개됐다. 행사에서 존 퍼리어 더큐브 리서치 수석 분석가는 기업들이 AI를 통한 업무 속도 향상을 경쟁력으로 보지만, 그에 따른 보안 위험도 과제로 안고 있다고 말했다.