앤트로픽(Anthropic)이 고성능 프런티어 AI 모델의 탈취와 오용을 막기 위해 핵심 시스템에 ‘2인 통제’와 소프트웨어 공급망 보안 기준을 적용하자고 제안했다. 앤트로픽은 8월 27일 회사 블로그에서 자체적으로 관련 보안 조치를 도입하고 있다며 이같이 밝혔다.
회사는 향후 AI 모델과 모델 가중치, 이를 개발하는 연구가 일반 상용 기술보다 훨씬 높은 수준으로 보호돼야 한다고 설명했다. 고도화된 AI가 국가 안보와 경제 질서에 영향을 미칠 수 있는 전략적 기술인 만큼, 정부와 프런티어 AI 연구소가 단기적으로 모델과 연구 자료를 보호할 업계 공통 관행을 마련해야 한다는 것이다.
핵심 제안은 ‘2인 통제’로, 중요한 작업을 한 사람이 단독으로 승인하지 못하도록 복수 관계자의 인증을 요구하는 방식이다. 앤트로픽은 이를 AI 핵심 인프라 설계에 적용하는 ‘다자간 승인’으로 부르면서, 가장 보안 수준이 높은 금고를 두 사람이 각각 열쇠를 사용해 여는 사례와 제조·식품·의료·금융 분야의 다자간 검토 절차를 예로 들었다.
소프트웨어 개발에는 미국 국립표준기술연구소(NIST)의 보안 소프트웨어 개발 프레임워크(SSDF)와 소프트웨어 아티팩트 공급망 보안 수준(SLSA)을 적용하자고 했다. 모델을 만들고 배포하는 과정이 소프트웨어를 구축해 배포하는 절차와 유사하므로, 두 기준을 모델 개발에도 확장할 수 있다는 설명이다. 이를 적용하면 배포된 모델을 개발 회사까지 추적할 수 있는 관리·보관 이력, 즉 출처와 책임의 연결고리를 확보할 수 있다고 덧붙였다.
앤트로픽은 이 기준을 결합한 체계를 ‘보안 모델 개발 프레임워크’로 제시하고, NIST의 표준 제정 과정에 모델 개발 내용을 포함하자고 권고했다. 2021년 미국 행정명령 14028이 연방 조달 지침을 통해 주요 기술 기업의 개발 기준 상향을 유도했고, 연방 계약을 유지하려는 소프트웨어 업계가 SSDF 요건에 맞춰 투자한 사례도 근거로 들었다. 클라우드 사업자가 이미 일부 기준을 적용한 환경에서 프런티어 모델을 호스팅하고 있지만, 기존 기준을 모델 개발 전반에 적용하면 보안 수준을 크게 높일 수 있다는 주장이다.
단기적으로는 정부와 계약하는 AI 기업 및 클라우드 사업자에 조달 요건으로 SSDF와 SLSA 준수를 요구할 수 있다고 봤다. 미국 클라우드 사업자가 현재 많은 프런티어 모델 기업에 인프라를 제공하는 만큼, 조달 조건이 광범위한 시장 규제와 비슷한 효과를 내면서 법적 규제에 앞서 시행될 수 있다는 것이다. 앤트로픽은 자체적으로 2인 통제와 SSDF·SLSA를 비롯한 보안 관행을 적용하고 있으며, 모델 성능이 높아질수록 정부·업계와 협의해 보호 조치를 계속 강화하겠다고 밝혔다. 또 프런티어 AI 연구소를 금융 서비스처럼 중요 인프라 분야의 공공·민간 협력 체계에 참여시키고, 기존 IT 분야의 특별 하위 부문으로 지정해 정보 공유를 확대하는 방안도 제안했다. 이와 함께 AI가 이용자 웰빙에 미치는 영향을 연구하는 독립 연구에 500만달러를 지원하는 보조금 프로그램을 시작한다고 밝혔다.