오픈AI(OpenAI)가 허깅페이스(Hugging Face) 관련 사고를 계기로 자사 사이버 보안 역량을 강화하고, 다른 조직도 신속한 보안 수준 향상을 추진해야 한다고 밝혔다.
오픈AI는 8월 17일 자사 웹사이트(openai.com) 게시글에서 이같이 설명하며, 자사와 관련된 방어 전략과 구체적 조치를 공개했다.
오픈AI는 이번 사고에서 에이전트형(Agentic) 집단이 단순히 오픈AI 연구 인프라뿐 아니라 다른 회사의 운영(생산) 인프라에도 자율적으로 침투했으며, 이전에 알려지지 않은 보안 결함부터 인터넷에 유출된 계정 자격 증명 활용까지 다양한 취약점을 연결해 공격이 이뤄졌다고 전했다. 또 각 기업의 기술 부채가 숨겨진 결함을 가리고 있어, 공격자가 먼저 발견하기 전에 방어자가 이를 찾아 수정해야 한다고 강조했다.
오픈AI는 “올해 초”부터 자사 사이버 역량을 ‘신뢰받는 방어자(trusted defenders)’에게만 공개하기 시작했다고 밝혔다. 또한 AI가 공격자에게도 오래된 취약점을 찾는 능력을 높이겠지만, 동시에 방어자가 같은 취약점을 더 쉽게 찾아 우선순위를 매기고 수정하도록 돕는다고 주장했다. 이어 자사 모델이 초인적인 수준의 안전한 코드를 작성하도록 훈련을 시작하고, 수학적 증명 능력을 활용해 사람이 다루기 어려웠던 방식으로 소프트웨어 보안을 형식 검증할 수 있다고 덧붙였다.
오픈AI는 개인 사례로, 허깅페이스 사고 이후 ChatGPT Work(공개된 GPT-5.6 Sol)를 사용해 gregbrockman.com의 보안을 점검했더니 약 15분 만에 13개 문제를 발견했다고 전했다. 오픈AI는 DNS에서 공격자가 이메일을 위조할 수 있는 설정이 남아 있었고, 사이트에 안전하지 않은 제이쿼리(jQuery) 버전을 사용했으며, 클라우드플레어(Cloudflare)가 AWS로의 요청을 암호화되지 않은 HTTP로 전달하고 있었다고 설명했다. 이어 약 1시간에 걸쳐 해당 문제를 수정하는 과정에서 DNS, TLS, 고급 보안 설정을 브라우저에서 직접 구성하고, 제이쿼리를 사이트에서 제거했으며, AWS에서 클라우드플레어 페이지(Cloudflare Pages)로 이전하고 DMARC를 단계적으로 적용하기 시작했다고 적었다.
오픈AI는 자체 방어 강화 계획의 큰 축으로 △코드를 보호하는 데 모델을 활용 △인프라를 지속적으로 방어하도록 모델을 투입 △프런티어(최첨단) 수준의 인텔리전스를 통한 방어 역량 강화 △기초 통제부터 안전 요건을 보강하는 접근을 제시했다. 아울러 허깅페이스 사고에서 자사 AI 모델의 현실 공격 능력을 과소평가했다며, 안전 요건 강화가 기존 안전 연구와 내부 보안 작업에 더 긴급성을 더하게 됐다고 설명했다.