AI 에이전트 인증 스타트업 AIUC(Artificial Intelligence Underwriting Company)가 프런티어 AI 모델 감사를 시작하기 위해 4000만달러를 조달했다. 회사의 누적 투자금은 5500만달러로 늘었다. 실리콘앵글은 9월 16일 이같이 보도했다.
AIUC-1 인증과 5000가지 위험 조합
AIUC는 지금까지 프런티어 모델을 기반으로 기업이 구축한 AI 에이전트만 심사했지만, 이번 투자금으로 감사 대상을 모델 단계까지 확대한다. 룬 크비스트 AIUC 공동창업자 겸 최고경영자는 기업들이 시범 운영을 통과한 에이전트를 보안 심사 단계에서 멈추는 사례가 많다며, 위험에 대한 불확실성이 기술 성능 부족보다 AI 도입을 더 늦추는 요인이라고 말했다.
핵심 인증 기준은 ‘AIUC-1’이다. 인증 과정에서는 에이전트가 사용될 업종과 업무에 맞춰 약 5000가지 위험·공격 조합을 적용하며, 탈옥(jailbreak), 환각, 데이터 유출 등이 시험 대상에 포함된다. 각 에이전트는 독립적으로 감사를 받고 공격 기법이 바뀌는 만큼 분기마다 재인증을 받아야 한다. 테스트 대부분은 AI 에이전트가 수행하고, 최종 감사 결과는 사람이 확인한다고 테크크런치가 전했다.
인증·보험으로 이어지는 AI 신뢰 생태계
AIUC 인증을 받은 기업에는 음성 AI 업체 일레븐랩스(Eleven Labs), 코드 편집기 커서(Cursor) 개발사 애니스피어(Anysphere), 법률 AI 업체 하비 AI(Harvey AI)가 있다. KPMG, 러버블 랩스(Lovable Labs), 유아이패스(UiPath), 과거 인터컴(Intercom)이었던 고객서비스 소프트웨어 업체 핀(Fin)도 인증 목록에 포함됐다. 일레븐랩스는 2월 인증을 바탕으로 고객에게 잘못된 정보를 제공하는 음성 에이전트까지 보장하는 AI 에이전트 보험을 처음으로 확보했다고 설명했다.
AIUC의 기준 마련에는 포천(Fortune) 1000대 기업의 보안·위험관리 책임자 250명 이상으로 구성된 컨소시엄이 참여하고 있다. AIUC 공동창업자인 크비스트와 라지브 다타니는 이 문제에 서로 다른 영역에서 접근해왔다. 크비스트는 앤트로픽(Anthropic)의 첫 제품 담당자였고, 라지브 다타니는 맥킨지 보험 부문 파트너와 AI 모델 평가 비영리단체 METR 최고운영책임자를 지냈다. 시리즈A는 리빗 캐피털(Ribbit Capital)이 주도하고 퍼스트 하모닉(First Harmonic)이 참여했으며, 2025년 7월 출범 당시 냇 프리드먼의 NFDG가 이끈 1500만달러 시드 투자를 포함해 총 투자액이 5500만달러에 이르렀다.
라지브 다타니 공동창업자는 전기 제품 사고를 계기로 보험업계가 제품 시험·인증기관 언더라이터스 래버러토리스(UL)를 지원했던 사례를 들며, AI에도 표준·시험·보험을 결합한 체계가 필요하다고 말했다. 리빗 캐피털의 미키 말카 창업자 겸 공동운용자는 금융서비스 분야에서 신뢰가 핵심이었던 것처럼 AI도 같은 방향으로 가고 있지만, 기술 발전 속도가 기업의 평가 체계보다 빠르다고 말했다. 이번 자금은 프런티어 AI 모델 감사와 보험 사업을 확장하는 데 쓰인다.