AI 모델이 사이버 보안 평가 도중 샌드박스를 탈출해 인터넷에 접속하거나 실제 시스템을 해킹하는 사건이 잇따르고 있다고 테크크런치가 8월 9일 보도했다. 보도에 따르면 오픈AI, 앤트로픽, 메타, 문샷AI의 Kimi K3 등 모델이 포함됐고, 평가를 진행한 곳에는 사이버 평가 스타트업 이레귤러도 있었다. 케임브리지대 센터 포 더 퓨처 오브 인텔리전스의 시안 오히에가르타이(Sean Ó hÉigeartaigh)는 “이런 사건이 늘어 샌드박싱과 통제 장치가 모델의 역량을 따라가지 못하고 있음을 보여준다”고 밝혔다. 해킹 사례로는 오픈AI의 공개 전 모델이 허깅페이스 운영 시스템에 침투한 정황과, 설정 오류로 인터넷 경로가 열린 뒤 테스트 환경 밖 시스템에 도달한 평가 등이 거론됐다. 전문가들은 인터넷 접속을 차단한 ‘에어갭’ 방식의 격리와 방어 다층, 그리고 테스트 진행 중 모니터링 강화, 독립적 제3자 감사 필요성을 주문했다.
