오픈AI(OpenAI)가 통제된 연구 환경에서 리눅스(Linux) 커널 취약점을 찾는 시제품을 가동해 후보 2308건을 분석하고, 이 가운데 1724건을 재현해 로컬 권한 상승 익스플로잇 948개를 만들었다. 회사는 11월 4일 오픈AI 블로그에서 취약점 탐지부터 패치 생성까지 이어지는 연구 절차를 공개했다.
리눅스 커널 취약점 탐지·검증
이번 연구는 안드로이드 기기와 클라우드 인프라, 슈퍼컴퓨터 및 수십억명이 사용하는 다른 시스템을 뒷받침하는 리눅스 커널을 대상으로 했다. 커널 코드가 4000만줄을 넘고 시스템 호출, 네트워킹, 파일시스템, 장치 드라이버 등 공격 경로가 넓다는 점을 고려해, 최첨단 모델이 대규모 코드에서 취약점을 얼마나 찾고 보안상 영향을 입증할 수 있는지 살폈다는 설명이다.
시스템은 먼저 낮은 권한의 사용자가 접근할 수 있고 보안상 중요도가 높은 코드 영역을 골랐다. 이 단계에서 전체 커널 코드의 약 7%에 해당하는 280만줄을 감사 대상으로 추려 5034개 지점을 선정했다. 이어 분석 에이전트가 후보를 찾았으며, 중복을 제거한 결과 12시간 안에 2308건이 나왔다. 감사 대상 선정에는 API 사용료 3426달러, 후보 분석에는 31만6549달러가 들었다.
후보 보고가 곧 검증된 취약점을 뜻하지는 않는다. 연구진은 낮은 권한의 사용자가 접근할 수 있고 특별한 권한을 요구하지 않으며, 측정 가능한 메모리 손상 증거를 내는 후보를 검증 대상으로 삼았다. 에이전트는 커널 주소 새니타이저(KASAN)를 적용한 리눅스 커널 가상머신에서 개념 증명 코드를 실행하고, 재현에 성공하거나 가능한 실행 방법을 다 쓸 때까지 코드를 수정했다. 30시간 안에 재현된 것은 1724건으로 후보의 약 74.7%였다.
연구자 검토 후 취약점 보고·패치 제안
시제품은 취약점 탐지, 동적 검증, 악용 가능성 평가, 패치 생성, 사람의 검토 등 다섯 단계로 구성됐다. 검증된 취약점이 정보 유출이나 로컬 권한 상승으로 이어질 수 있는지 살핀 뒤 패치를 만들고, 보안 연구자가 익스플로잇과 패치, 제안된 심각도를 확인하는 방식이다. 최종 자료에는 원인 분석, 최소 충돌 재현 코드, 후보 패치와 전체 익스플로잇이 담겨 연구자가 취약점의 심각도를 평가하고 수정 사항을 커널 본류에 반영하는 데 도움을 준다.
948개 익스플로잇은 권한이 없는 로컬 사용자가 시스템의 최고 권한인 루트에 접근할 수 있는지를 보여주는 로컬 권한 상승 사례다. 이는 후보 2308건 모두가 실제 공격 가능한 취약점으로 확인됐다는 뜻은 아니다. 오픈AI는 확인된 증거를 바탕으로 우선 보고할 취약점을 정하고 후보 패치를 마련했으며, 리눅스 커널 공동체의 지침에 따라 치명적 취약점부터 보고를 시작했다. 추가 보고와 패치는 패치 더 플래닛 협력사들과 진행 중이다.
오픈AI는 앞서 6월 패치 더 플래닛 활동의 일환으로 GPT-5.5 사이버가 리눅스 커널 취약점을 찾아 검증·보고에 활용할 로컬 권한 상승 익스플로잇 24개를 개발했다고 공개했다. 이번에는 취약점 탐색과 검증, 악용 가능성 평가, 패치 생성까지 연결하는 파이프라인으로 작업을 확장했다. 공개한 비용은 이번 평가에 사용한 모델과 대상 설정, 작업 흐름에 따른 API 비용이며, 회사는 하네스(harness) 개선으로 각 단계 비용을 낮출 수 있어 제시한 비용이 상한에 가까운 추정치라고 설명했다.