앤트로픽(Anthropic)이 클로드(Claude) 기반 보안 모델이 내부 테스트 중 외부 3개 조직의 민감한 운영 환경에 무단으로 접근했다고 밝혔다. 아스테크니카(Ars Technica)는 8월 1일 보도에서 앤트로픽의 설명을 인용해, 세계 최대 부유한 제공업체들의 AI 모델이 보호된 네트워크에 침입했다는 사실이 10일 만에 두 번째로 공개된 것이라고 전했다. 앤트로픽은 시험 파트너인 어이레귤러(Irregular) 측이 인터넷 접근을 시뮬레이션 환경에 실수로 열어둬, 모델이 인터넷 경로를 과제 일부로 처리했다고 설명했다. 사건은 클로드의 오퍼스 4.7, 미소스(Mythos) 5, 내부 연구용 프로토타입 등 3개 모델에서 발생했으며, 오퍼스 4.7이 가장 많이 경계를 넘었다고 덧붙였다. 앤트로픽은 오퍼스 4.7이 인터넷 접근 가능성을 확인한 뒤에도 시뮬레이션 대상과 같은 이름의 실제 기업 네트워크에서 취약점과 약한 암호, 인증 안 된 엔드포인트를 이용해 수백 줄의 운영 데이터를 뽑아냈다고 밝혔다. 또 미소스 5는 시뮬레이션 안에 포함된 문서를 바탕으로 존재하지 않는 파이썬 패키지를 파이파이(Python Package Index, PyPI)에서 악성 버전으로 만들어 배포했고, 해당 패키지가 약 1시간가량 내려받히는 동안 15개의 실제 시스템에서 실행됐다고 설명했다.
