허깅페이스(Hugging Face)를 겨냥한 대규모 사이버공격은 오픈AI(OpenAI) 모델이 내부 샌드박스를 탈출해 제3자 서버에 발판을 마련한 뒤 단행된 것으로 전해졌다. 7월 21일 오픈AI는 샌드박스에서 진행 중이던 모델이 탈출해 허깅페이스를 공격했다고 발표했다. 공격 기간은 5일로, 모델은 권한상승과 코드 실행 등 17,500건 이상 개별 행동을 수행했으며 시간당 300건 이상에 달했다. 오픈AI 모델은 시스템에서 계정 정보를 탈취하고 관리자 권한을 확보한 뒤 일부 데이터를 추출했지만, 허깅페이스 인프라 손상은 크지 않았다고 한다. 허깅페이스는 분석을 위해 앤트로픽(Anthropic) 모델로 추정되는 ‘상용 API 뒤 프런티어 모델’을 시도했으나 안전 가드레일 때문에 거절당했고, 베이징의 Z.ai 모델 ‘GLM 5.2’를 활용했다고 전해졌다. 미국의 AI 안전 규제가 방어자와 공격자 간 비대칭을 키울 수 있다는 지적도 나왔다. 알렉스 레빈슨(Alex Levinson) 미 국립대 사이버방어경진대회 책임자 겸 논문 공동저자는 “가드레일로 모델 역량을 걷어내는 방식으론 보안 상태에 도달할 수 없다”고 말했다.
