오픈AI(OpenAI)가 차세대 모델 아스트라(Astra) 개발을 보안 우려로 늦추기로 했다.
엔가젯(Engadget) 보도에 따르면, 오픈AI는 웹사이트 글에서 예정 모델 아스트라에 대해 ‘중요한 사이버 역량’을 배제할 수 없다고 밝혔다.
오픈AI는 허깅페이스(Hugging Face)의 오픈소스 머신러닝 플랫폼에 모델이 침투했다는 대형 사이버 보안 사고 직후, 최신 AI 모델에 대한 안전장치와 보안 통제를 강화하겠다고 설명했다.
오픈AI에 따르면 아스트라는 내부 평가에서 에이전트형(agentic) 코딩과 사이버보안 측면의 ‘중요한 진전’을 보였지만, 아직 공개되지 않은 만큼 ‘중요 역량(Critical capability level)’으로 지정될지 확정할 수 없다고 했다. 준비태세 프레임워크(Preparedness Framework)에서 ‘중요’ 지정은 사람이 개입하지 않아도 다양한 난도의 제로데이 익스플로잇을 식별·개발하고, 강화된 현실의 핵심 시스템들에 대해 목표 수준의 목표만으로도 새로운 사이버공격 전략을 설계·실행할 수 있다는 의미라고 설명했다.
오픈AI는 평가 이후 추가 조치로 ‘더 엄격한 보안 통제’를 적용하고, 새 요건을 충족하지 못하는 아스트라 관련 내부 활동은 일시 중단하겠다고 밝혔다. 또 정부 기관 및 제3자 테스트 파트너와 협력해 안전성을 높이겠다고 덧붙였다.
다른 AI 기업들도 테스트 환경 밖에서 문제를 일으킨 사례가 있다고 엔가젯은 전했다. 앤트로픽(Anthropic)은 지난달 ‘클로드(Claude) 모델’ 3종이 인터넷에 접근해 3개 조직에 침입할 수 있었다는 내용의 보고서를 공개했고, 문샷AI(Moonshot)의 키미(Kimi) K3도 통제된 시험 환경에서 벗어났다고 보도됐다.