핵심 요약
AI 요약
기사 목차 펼치기 / 접기
10월 중순 오픈AI 연구진이 출시 전 사이버 보안 모델을 리눅스 커널 앞에 세웠다. 열흘쯤 뒤 연구진 손에는 일반 계정을 최고 관리자 권한으로 바꾸는 서로 다른 경로 948개와 그만큼의 패치 후보가 남았다.
쓴 돈은 API 요금 121만3430달러(약 16억4600만원)다. 오픈AI는 4일 이 과정을 공식 기술 보고서(「A thousand fewer paths to root」)를 통해 공개했다. 이 숫자는 어떻게 나왔고, 무엇을 뜻할까.
리눅스 커널과 ‘루트 탈취’
운영체제의 핵심부인 커널(kernel)은 안드로이드 기기와 클라우드 서버, 슈퍼컴퓨터 밑에 깔려 있고, 리눅스 커널 코드는 4000만줄이 넘는다. 이번 작업이 노린 핵심 문제는 일반 계정을 최고 권한으로 끌어올리는 로컬 권한 상승(LPE)이다. 이미 일반 사용자로 들어온 사람이 컴퓨터의 모든 것을 바꿀 수 있는 최고 관리자 권한인 루트(root)를 얻는 길이다. 일반 직원 출입증 하나로 사장실 금고까지 여는 길과 같다.
대상은 널리 쓰이는 배포판의 기본 데스크톱 설정이었고, SMEP·SMAP·KASLR 같은 커널 보호 장치를 켠 상태였다. 오픈AI는 배포판 이름을 밝히지 않았다. 오픈AI가 이 일을 처음 한 것은 아니다. 6월 트레일 오브 비츠(Trail of Bits)가 주도한 오픈소스 보안 활동 패치 더 플래닛에서도, 오픈AI의 GPT-5.5 사이버가 LPE 익스플로잇 24개를 만들었다.
이 보고서가 보여 준 것은 버그를 찾는 능력보다 찾은 버그를 확인하고 값을 매기는 공정과 그 공정의 단가가 빠르게 내려가고 있음이다.
5단계 검증 파이프라인의 구조와 비용
| 단계 | 한 일 | 결과 | 시간 | 비용(달러) |
|---|---|---|---|---|
| 탐색 | 커널 폴더를 훑어 공격 가치가 큰 곳 고르기 | 감사 대상 5034곳, 약 280만줄(커널의 약 7%) | 미공개 | 3426 |
| 분석 | 대상 코드를 읽고 취약점 후보 찾기 | 후보 2308건 | 12시간 | 31만6549 |
| 동적 검증 | 격리된 가상 머신에서 실제로 재현 | 1724건(74.7%) | 30시간 | 7만3330 |
| 악용성 평가 | 후보 선별 후 실제 공격 코드 작성 | 유출 PoC 291개, 작동 LPE 1169개 | 미공개 | 선별 4만4194, 익스플로잇 77만5929 |
| 사람 검토 | 연구자가 익스플로잇·패치·심각도 확인 후 보고 | 패치 후보 948개 | 미공개 | 미공개 |
모델은 첫 단계부터 커널 전체를 읽지 않고, 공격 가치가 큰 곳 5034곳을 골랐다. 약 280만줄로 커널의 약 7%다. 분석 단계는 12시간 만에 취약점 후보 2308건을 내놨다.
동적 검증은 후보를 실제로 재현해 보는 단계로, 격리된 가상 컴퓨터에서 메모리 오류를 잡아내는 검사 도구(KASAN)를 켜고 돌렸다. 30시간 동안 1724건, 74.7%가 재현됐다. 재현되지 않은 후보 대부분은 특수 권한이나 경쟁 조건이 필요한 경우였고, 모델이 코드를 잘못 읽은 경우는 3.1%였다.
남은 후보 가운데 LPE 후보 1238건과 정보 유출 후보 313건을 골라, 결함을 실제로 공격에 쓰는 코드인 익스플로잇(exploit)을 짰다. 작동한 LPE 익스플로잇이 1169개 나왔고, 결함이 있다는 걸 보여 주는 최소 코드인 개념 증명(PoC)은 291개였다. 체를 다섯 겹 겹쳐 모래를 거르는 공정이다.
돈이 가장 많이 든 곳은 익스플로잇 단계였다. 이 단계에만 77만5929달러, 전체 비용의 약 64%가 들어갔다. 성공한 1169건에는 평균 360달러(약 49만원)가 들었지만, 끝내 실패한 69건은 평균 3922달러(약 532만원)로 11배였다. 끝까지 열리지 않는 금고 앞에서 보낸 시간값이다. 공개된 단계별 비용을 모두 더하면 121만3428달러로, 총액과 2달러 차이다. 패치를 만드는 단계의 비용은 따로 공개되지 않았다.
변종 분석으로 산출한 ‘서로 다른 패치 948개’
작동한 LPE 익스플로잇은 1169개였다. 같은 원인에서 갈라진 결함을 묶어 보는 변종 분석을 거쳐, 서로 다른 패치가 필요한 수로 다시 센 것이 948이다. 한 뿌리에서 난 가지들을 나무 한 그루로 세는 셈이다.
948개 패치도 아직 후보다. 오픈AI는 심각한 것부터 보고서와 패치 수백 건을 보냈다고만 밝혔고, 실제로 커널에 병합된 수는 공개하지 않았다.
초기 실행에서는 채점 방식부터 손봐야 했다. ‘성공’으로 잡힌 200건 가운데 20건은 지정한 결함 대신, 아직 패치가 없는 다른 결함인 제로데이(0-day)로 루트를 땄다. 시험 문제를 풀랬더니 다른 문제의 답으로 만점을 받아 온 학생이다. 오픈AI는 이후 공격이 실제로 지난 경로를 따로 검사했다.
덤으로 찾은 것도 있다. 모델은 시험에 쓴 가상화 소프트웨어 QEMU의 결함도 찾아냈다.
석 달 만에 단가가 59% 내려갔다
해당 보고서에는 실행이 두 번 나온다. 7월 말 GPT-5.6 솔(GPT-5.6 Sol)로 돌린 첫 실행은 서로 다른 LPE 166개를 찾는 데 51만3690달러(약 6억9700만원)를 썼으니, 1개당 약 3094달러(약 420만원)다.
10월 중순 새 모델은 948개에 121만3430달러를 썼다. 1개당 1279달러(약 173만원)로, 석 달 만에 59% 내려갔다. 오픈AI는 그사이 커널이 석 달 더 보강됐는데도 5배 넘게 찾았다고 적었다. 같은 열쇠공이 석 달 만에 자물쇠 하나 여는 값을 절반 아래로 내렸다.
도구보다 모델이 컸다. GPT-5.5 사이버는 후보 63건에서, 공격 기법 103종을 정리해 넣어 줘야 성공률이 76.2%에서 88.9%로 올랐다. GPT-5.6 사이버는 그 보조 없이 더 잘했고, 기법을 다시 얹어도 1.5%p 차이에 그쳤다.
오픈AI는 표본 166개에서 외부 전문가도 처음 보는 공격 기법 10종이 나왔다고 밝혔지만, 세부는 공개하지 않았다. 모델에 도구와 작업 순서를 붙이는 실행 틀인 하네스(harness)를 다듬으면, 비용이 더 내려간다고도 적었다. 지금 공개된 단가는 상한에 가깝다.
대회 포상금 16~55배 계산과 실제 지급 규칙의 한계
오픈AI는 이 결과에 값을 매겼다. 과거 해킹 대회의 리눅스 LPE 상금인 Pwn2Own 2만달러와 TyphoonPWN 7만달러를 948개에 곱했다. 1890만~6630만달러(약 256억~899억원), 들인 비용의 16~55배라는 계산이다.
오픈AI는 보안을 강화한 커널을 깨면 상금을 주는 구글의 kernelCTF에서도 같은 일을 했다. 112시간 동안 3만2936달러(약 4470만원)를 들여, LPE 21개와 정보 유출 25개를 찾았다. 2026년 들어 kernelCTF가 인정한 제로데이 LPE는 26건이다. 오픈AI는 “모두 인정되면(if accepted)” 약 150만달러(약 20억원), 비용의 45배라고 적었다.
kernelCTF 규칙과 맞춰 보면 이야기가 달라진다. 1건당 보상 7만1337달러(약 9680만원)는 맞다. 하지만 공식 과제 규칙은 “커널 버전당 1건만 지급 대상(Only one submission is eligible per kernel version)”이라고 정한다. 오픈AI는 최신 커널과 맞지 않는 보호 장치(SLAB_VIRTUAL)를 끄고 돌렸다. 150만달러는 실제로 받을 수 없는 가정값이다.
TyphoonPWN 공식 안내도 리눅스 권한 상승 상금을 “최대 7만달러(Up to $70000 USD)”로 적었다. 대회 상금은 대회마다 몇 건에만 주는 돈이고, 948건을 한꺼번에 사 줄 시장은 없다. 경품 행사 1등 상금에 응모권 수를 곱한 셈이다. 그래도 남는 사실이 있다. 루트 탈취 경로 하나를 손에 넣는 비용이 대회 상금의 16분의 1에서 55분의 1로 내려왔고, 공격자에게도 같은 계산이 성립한다.
패치를 검토하는 오픈소스 관리자의 수용 한계
패치를 받는 쪽은 오픈소스 코드를 검토하고 받아들이는 관리자인 메인테이너(maintainer)다. 스캔이 진행되던 열흘 동안 리눅스 커널에서는 LPE 61개가 이미 패치됐고, 43개가 반영을 기다렸으며 299개는 공개 논의 중이었다. 오픈AI는 최신 코드로 다시 확인해야 중복 보고를 줄일 수 있다고 적었다.
받는 쪽 부담은 이미 커져 있다. 공개된 보안 결함에 붙는 일련번호인 CVE는 6.9부터 6.19까지 커널 릴리스당 평균 약 500건이었다. 7.0부터는 1000건을 넘었고, 7.2에서는 1500건도 넘었다. 커널 관리자 그렉 크로아하트만(Greg Kroah-Hartman)이 9월 커널 레시피(Kernel Recipes) 발표를 앞두고 공개한 슬라이드로, 포로닉스(Phoronix)의 8월 28일 보도를 통해 공개된 수치다.
리누스 토르발스도 5월 리눅스 7.1-rc4 공개 글에서 “AI 신고가 계속 쏟아지면서 보안 리스트는 사실상 거의 감당할 수 없게 됐다(The continued flood of AI reports has basically made the security list almost entirely unmanageable)”고 말했다.
초기 패치는 기능은 맞았지만 코드가 길거나 커널 규칙을 벗어났고, 변종을 놓치기도 했다. 오픈AI는 지침을 반복해 고쳐 나갔다. 택배는 한꺼번에 쏟아지는데, 문 앞에서 받는 사람은 그대로다.
오픈AI는 운영자에게 패치가 밀린 시스템이라면 “저권한 계정에 접근하는 것만으로 사실상 루트와 같다(having access to a low-privileged account… functionally equivalent to root)”고 경고했다. 믿을 수 없는 코드는 Firecracker·gVisor 같은 격리 환경에서 돌리라는 권고도 붙였다.
취약점 발굴 속도 단축이 던진 실질적 파장
결함은 원래 있었다. 바뀐 것은 찾는 속도와 값이다. CVE 숫자도 커널이 거의 모든 버그 수정에 번호를 매기는 방식이라 위험의 크기와 그대로 맞물리지 않는다. 지도에 길이 새로 그려졌을 뿐, 길은 원래 있었다.
948은 전부 오픈AI 자체 집계이고, 익스플로잇과 기법이 공개되지 않아 제3자가 재현할 수 없다. LPE는 이미 계정을 가진 사람이 쓰는 2단계 공격이라, 밖에서 바로 뚫고 들어오는 원격 결함과는 무게가 다르다.
반대 방향의 사실도 있다. 오픈AI 에이전트는 7월 19일 회사 자체 시스템에서 알려진 커널 결함(CVE-2026-53362)으로 루트 권한을 획득했다고 시큐리티위크가 보도했다. 공격 능력은 이미 실험실 밖에 있다.
커널 공식 반영 전 남겨진 과제
948개 가운데 몇 개가 커널에 들어갔는지는 아직 숫자로 나오지 않았다.
오픈AI는 글 끝에 “향후 몇 년 안에 어떤 소프트웨어에 취약점이 있다면 프런티어 모델이 그것을 찾아낼 가능성이 높고, 공개된 뒤에는 그보다 약한 모델도 익스플로잇을 만들 수 있을 것(Within the next few years, we believe that if there are vulnerabilities in a given software project, frontier models will likely be able to discover them and even less capable models may be able to develop exploits once disclosed)”이라고 적었다.
자물쇠를 따는 값이 내려가면 자물쇠를 바꾸는 속도가 곧 보안이 된다.
