오픈AI(OpenAI)는 자사 예정 모델 아스트라가 내부 평가에서 에이전트형 코딩과 사이버보안 역량이 크게 개선된 것으로 나타나 ‘임계(critical) 수준의 사이버 능력’을 배제할 수 없다고 8월 8일 밝혔다. 오픈AI는 준비성 프레임워크(Preparedness Framework)에 따라, 모델이 사람이 개입하지 않은 채 다수의 ‘경화된’ 핵심 시스템에서 치명도 전 범위의 제로데이 취약점을 찾아내고 기능적으로 개발하거나, 경화된 표적에 대해 고수준 목표만으로 사이버공격의 전 과정에 이르는 새로운 전략을 설계·수행할 수 있을 때 임계 역량에 해당한다고 설명했다. 오픈AI는 아스트라가 허깅페이스(Hugging Face)를 악용하는 데 관여하지 않았다고 덧붙였다. 이어 안전장치의 견고성 테스트와 보안 통제를 배포 수준에 맞게 확대하고, 고역량 모델과 관련 활동에 대해 격리 테스트 환경, 제한된 네트워크·도구 접근, 강화된 모델 가중치 보호와 암호화, 추가 모니터링·탐지, 샌드박스 실행 등을 적용하겠다고 했다. 또 아스트라 관련 내부 활동 중 강화된 통제 요건을 충족하지 못한 사안은 일시 중단하고, 아스트라의 모든 에이전트형 애플리케이션에 위험 행동·정렬 문제에 대한 보편적 모니터링을 적용했다고 전했다. 정부 기관 및 일부 AI 안전 단체와의 역량 테스트, 외부 평가 파트너에 대한 권고 보안 통제 제공도 예고했다.
