오픈AI(OpenAI)가 새 AI 모델 ‘아스트라(Astra)’의 보안 위험이 자사 안전 프레임워크에서 ‘최고 수준(Critical)’에 도달할 수 있다고 처음으로 플래그를 세웠다. 더디코더(The Decoder)에 따르면 오픈AI는 최근 내부 평가에서 아스트라가 에이전트형(agentic) 코딩과 사이버보안에서 “상당한 발전”을 보였고, 그 결과 자사 ‘준비도(Preparedness) 프레임워크’상 Critical을 “배제할 수 없다”고 밝혔다. 오픈AI는 전날 “결정을 내렸다”고 설명하면서, 아스트라 개발 일부는 중단됐다. 프레임워크에서 Critical은 사람이 개입하지 않은 채 여러 경도의 강화된 중요 시스템에서 작동하는 제로데이(Zero-day) 익스플로잇을 찾아 개발하거나, 느슨한 목표만 주어도 보호된 대상을 상대로 새로운 엔드투엔드 사이버공격 전략을 독자적으로 고안·수행하는 경우로 정의된다. 오픈AI는 더 엄격한 보안 요구사항을 아직 충족하지 못하는 아스트라 관련 내부 활동을 멈추고, 격리된 시험 환경과 네트워크·도구 접근 제한, 모델 가중치 보호·암호화 강화, 모니터링 추가 등 보안 통제를 강화하고 있다고 밝혔다.
