오픈AI(OpenAI)는 외부 보안 연구자와 협력해 자사 시스템을 점검하는 내부 보안 작업을 새로 계획하고, 중대 취약점 제보 보상을 기존의 4배를 넘는 수준으로 늘리기로 했다. 오픈AI는 11월 3일 자사 블로그에서 보안 작업 계획과 버그 바운티 프로그램 개선 방안을 공개했다.
외부 연구자와 함께 보안 취약점 점검
새 보안 작업에는 보안 연구자와 협력사 캐서드럴(Cathedral)이 참여한다. 캐서드럴 연구자들은 오픈AI 내부 팀과 함께 오픈AI 모델을 활용해 방어 체계를 시험하고 취약점을 찾을 예정이다. 회사는 이들이 서로 다른 전문성과 접근 방식을 더해 방어 체계의 약점을 찾아내고 플랫폼을 보호하는 데 도움을 줄 것으로 설명했다.
버그 바운티 프로그램도 손본다. 중대 취약점을 찾아낸 연구자에게 지급하는 보상을 기존의 4배를 넘는 수준으로 늘릴 계획이다. 오픈AI는 연구자들이 회사의 전제와 보안 방식을 시험하고, 시스템과 방어 방법을 함께 개선하기를 바란다고 밝혔다. 공지에는 새 보안 작업의 구체적인 일정이나 보상액은 제시되지 않았다.
코덱스 활용한 이전 보안 작업
이번 계획은 앞선 보안 작업을 확장하는 성격이다. 오픈AI는 이전 작업에서 제품 엔지니어의 25%를 시스템의 취약점을 찾고 고치는 일에 투입했다. 이 수치는 전체 직원이나 엔지니어 전체가 아니라 제품 엔지니어 중 해당 작업에 참여한 비율이다.
엔지니어들은 코덱스(Codex)를 이용해 발견된 문제를 조사하고, 격리된 환경에서 취약점을 재현한 뒤 검토를 위한 수정 패치를 준비했다. 회사는 이런 작업을 통해 AI 모델로 약점을 지속적으로 찾아 수정하는 방식을 발전시키고 있다고 설명했다. 전통적인 사이버 방어만으로는 충분하지 않으며, 공격자가 악용하기 전에 취약점을 찾아 고치는 반복적인 방어 과정이 필요하다는 게 오픈AI의 입장이다.
오픈AI는 자사에서 가장 성능이 높은 모델을 자체 방어 체계 강화에 활용하는 한편, 데이브레이크(Daybreak) 고객에게도 제공하고 있다고 밝혔다. 필수 서비스와 디지털 기반 시설을 지키는 현장 방어 인력을 위해 6개월간 10억달러 규모의 보조금 지원 이용 기회를 약속했다. 이는 현장 방어 인력을 위한 모델 이용 지원 계획으로, 취약점 제보 보상과는 별도의 조치다.
회사는 이전 작업의 아키텍처와 교훈, 산업계와 정부의 사이버 방어 역량을 뒷받침하기 위한 청사진도 공유하고 있다고 밝혔다. 앞으로 모델을 계속 발전시키고 이를 내부 시스템 강화에 쓰는 동시에, 신뢰할 수 있는 방어 인력의 이용 기회를 넓힌다는 계획이다. 이번 발표는 새 작업의 진행 시점이나 참여 연구자 수를 구체적으로 밝히지는 않았다.
