과거에는 발견 사항마다 개별적으로 오랜 시간 조사해야 했던 보안 연구를 이제는 점점 더 체계적인 프로세스로 수행할 수 있게 되었습니다. 이 문서에서는 이 분야에서 진행한 연구 중 하나를 살펴봅니다.
취약점 발견은 규모를 확대하기가 점점 쉬워지고 있지만, 우선순위 지정과 검증은 여전히 운영상의 병목으로 남아 있습니다. 우리는 통제된 연구 환경에서 Linux 커널의 보안 결함을 찾는 프로토타입을 구축했습니다. 이 프로토타입은 Linux 커널의 취약점 후보 2,308개를 식별하고 분석했으며, 취약점 1,724개를 동적으로 재현하고, 권한이 없는 로컬 사용자가 루트 접근 권한을 얻을 수 있는 로컬 권한 상승(LPE) 익스플로잇 948개를 생성했습니다.
우리는 이 증거를 바탕으로 보고할 취약점의 우선순위를 정하고, 유지관리자가 검토할 패치 후보를 개발했습니다. Linux 커널 커뮤니티의 지침에 따라 심각한 취약점부터 작업을 시작했으며, 추가 보고와 패치 작업을 위해 Patch the Planet 파트너들과 협력하고 있습니다.
6월에는 Patch the Planet 이니셔티브의 일환으로, GPT‑5.5 Cyber가 Linux 커널 취약점을 식별하고 이를 검증 및 보고하기 위해 로컬 권한 상승 익스플로잇 24개를 개발했다는 소식을 전했습니다. 우리는 이 작업을 확장해, 출시 예정인 사이버 모델을 기반으로 취약점 발견, 동적 검증, 악용 가능성 평가, 패치 생성을 수행하는 파이프라인을 구축했습니다. 파이프라인 실행이 끝난 뒤 연구자들이 출력을 검토하고 발견된 취약점을 패치와 함께 보고했습니다.
요약
방법론
파이프라인의 전체 흐름은 다음과 같습니다. 먼저 Linux 커널에서 보안과 관련된 부분을 식별하고, 해당 감사 대상을 정적으로 스캔해 취약점 후보를 찾습니다. 그런 다음 격리된 환경에서 후보를 동적으로 재현하고, 악용 가능성을 입증할 개념 증명(PoC) 익스플로잇과 패치를 생성합니다. 마지막으로 보안 연구자가 결과를 검토합니다.
파이프라인은 근본 원인 분석, 충돌을 일으키는 최소한의 개념 증명, 패치 후보, 완전한 익스플로잇을 출력합니다. 이를 통해 연구자가 취약점의 심각도를 평가하고 수정 사항을 업스트림에 반영할 수 있도록 돕습니다.
연구 결과
2026년 10월 중순, 출시 예정인 사이버 모델을 사용해 파이프라인을 실행한 결과 취약점 1,724개를 동적으로 재현했습니다. 또한 널리 사용되는 Linux 배포판에서 정보 유출 취약점 291개의 PoC와 실제로 작동하는 로컬 권한 상승(LPE) 익스플로잇 948개를 생성했습니다. 전체 실행에 사용된 API 크레딧 비용은 1,213,430달러로, LPE 익스플로잇당 1,279달러였습니다.
대상 가상 머신에는 보안을 약화한 환경이 아닌 기본 데스크톱 운영 체제를 설치했으며, 사이버 보안 대회(예: Pwn2Own(새 창에서 열기), TyphoonPWN(새 창에서 열기))와 동일한 위협 모델을 적용했습니다. 과거 Pwn2Own과 TyphoonPWN은 Linux 커널 LPE 익스플로잇에 각각 20,000달러와 70,000달러의 버그 바운티를 제공했습니다. 이 과거 포상금을 익스플로잇 948개에 적용하면 가치는 1,890만~6,630만 달러로 가정할 수 있으며, 이는 파이프라인 비용의 약 16~55배에 해당합니다.
공격 표면을 줄인 Linux 커널 버전을 사용하는 kernelCTF(새 창에서 열기) 환경을 일부 조정해 실행한 결과, 파이프라인은 정보 유출 PoC 25개와 LPE 익스플로잇 21개를 확보했습니다. 비교하자면, 이 글을 작성하는 시점까지 2026년에 kernelCTF에서 인정한 검증된 제로데이 LPE 익스플로잇은 26개입니다.
이 작업에는 API 크레딧으로 약 32,936달러가 들었습니다. 취약점 21개가 모두 프로그램에서 인정된다면 스캔 비용의 약 45배인 약 150만 달러의 포상금을 받게 됩니다.
우리가 파악한 바로는, 이 파이프라인의 에이전트들은 새로운 Linux 익스플로잇 기법을 최소 10가지 발견하고 사용했습니다.
시사점
Linux 유지관리자와 보안 커뮤니티는 취약점을 신속하게 발견하고 수정하기 위해 힘쓰고 있습니다. 스캔을 진행한 10일 동안, Linux LPE 100개 이상이 이미 패치되었거나 다른 기여자가 준비한 반영 대기 중인 패치가 있었으며 약 300개는 공개적으로 논의되고 있음을 확인했습니다.
프런티어 모델의 취약점 발견 속도를 고려하면, 필요한 속도로 소프트웨어 보안을 강화하고 취약점이 악용될 수 있는 기간을 줄이려면 자동 패치 생성이 필수적이라고 생각합니다. 전문가의 지도 아래 반복적으로 개선하면 AI가 생성한 패치도 기능적으로 정확하고, 기존 코딩 스타일에 부합하며, 변형 공격에도 견고하게 대응할 수 있다고 생각합니다. 이는 추가 연구가 필요한 중요한 분야입니다.
역량이 더 뛰어난 모델은 기존 코드에서 새로운 취약점을 발견할 수 있으며, 오랫동안 남아 있었거나 식별하기 더 복잡한 취약점까지 찾아내는 경우가 많습니다. 두 차례 스캔 사이에 3개월간 보안 강화가 이루어졌음에도, 10월 중순에 더 새로운 사이버 모델을 사용한 분석 파이프라인은 7월에 GPT‑5.6 Sol로 실행했을 때보다 5배 넘게 많은 신규 LPE를 발견했습니다.
크고 복잡한 소프트웨어 프로젝트에서 잠재된 버그를 남김없이 찾아내려면 취약점 스캔과 수정을 여러 차례 반복해야 할 가능성이 큽니다. 이상적으로는 새로운 세대의 프런티어 모델이 나올 때마다 이 과정을 반복해야 합니다. 이는 독점 소프트웨어와 오픈 소스 소프트웨어 모두에 해당합니다.
단기 및 중기적으로는, 최신 패치가 적용되지 않은 운영 체제에서 낮은 권한의 계정에 접근할 수 있다면 자원이 풍부한 위협 행위자에게는 사실상 루트 접근 권한이 있는 것과 같다고 보아야 합니다. 취약점 악용으로 인한 피해 범위를 제한하려면 샌드박스와 Firecracker, gVisor 같은 격리 방식을 활용한 심층 방어가 중요합니다.
향후 몇 년 안에는 소프트웨어 프로젝트에 취약점이 존재할 경우 프런티어 모델이 이를 발견할 가능성이 높고, 일단 공개되면 역량이 더 낮은 모델도 익스플로잇을 개발할 수 있을 것으로 봅니다. 알려지지 않은 취약점이 없는 세상에서는 보안이 높은 수준으로 보장되는 소프트웨어를 구축하고 유지하는 일이 매우 중요해집니다. 특히 운영 체제, 브라우저, 이미지 파싱 라이브러리, TCP/IP 스택 등 핵심 소프트웨어에서 더욱 그렇습니다. 기존 취약점을 찾아 수정하는 것 외에도, 모델이 기본적으로 안전한 코드를 작성하도록 훈련하는 데 투자하고, 불필요한 기능을 제거해 공격 표면을 최소화하며, 정형 검증을 활용하는 것은 소프트웨어 보안을 효과적으로 확장하기 위한 유망한 후속 연구 분야입니다.
Linux 커널은 수십억 명이 사용하는 Android 기기, 클라우드 인프라, 슈퍼컴퓨터 등 다양한 시스템의 기반입니다. 4,000만 줄이 넘는 코드로 구성된 커널은 시스템 호출, 네트워킹, 파일 시스템, 장치 드라이버를 통해 광범위한 공격 표면을 노출합니다. 이처럼 규모가 크고 중요한 코드베이스에서 프런티어 모델이 얼마나 효과적으로 취약점을 발견하고 보안 영향을 입증할 수 있는지 연구하기 위해 Linux를 선택했습니다.
초기 취약점 발견 단계에서는 수천 개의 후보가 나왔으며, 이는 보안 연구자가 일일이 검토하고 분류하기에는 너무 많은 양이었습니다. 취약점 발견 파이프라인의 운영상 과제는 발견 자체가 아니라, 어떤 후보를 재현할 수 있는지, 어떤 보안 경계를 넘어서는지, 유지관리자가 무엇부터 살펴봐야 하는지를 판단하는 것이었습니다.
OpenAI 사이버 팀의 임무는 전 세계가 의존하는 소프트웨어의 보안을 지키는 것입니다. 연구자들이 이 연구를 재현하고 확장하는 데 필요한 자원을 가늠할 수 있도록 단계별 API 비용을 보고합니다. 이 비용은 이번 평가에 사용한 모델, 대상 구성, 워크플로를 기준으로 합니다. 더 넓은 목표는 방어자가 취약점을 찾아 수정하도록 도와 공격자에게 주어지는 기회를 줄이고, 소프트웨어 악용에 드는 비용을 높이는 것입니다.
마지막으로, 이번 연구는 비용이 아니라 방법론과 모델 역량 측정에 초점을 맞추었다는 점을 참고해 주세요. 하네스를 충분히 개선하면 각 단계의 비용을 크게 줄일 수 있을 것으로 예상하므로, 보고된 비용은 상한에 가까운 수치입니다.
취약점 연구 프로토타입은 출시 예정인 사이버 모델을 핵심으로 사용하는 5단계 파이프라인입니다.
취약점 발견: 에이전트가 코드베이스에서 보안과 관련된 부분을 식별하고 스캔해 취약점 후보를 찾습니다.
동적 검증: 에이전트가 격리된 환경에서 각 후보의 재현을 시도하고 실행 중 수집한 증거를 보존합니다. 이 단계에서는 재현과 검증을 거친 취약점이 출력됩니다.
악용 가능성 평가: 에이전트가 검증된 취약점을 통해 정보 유출이나 로컬 권한 상승이 가능한지 테스트합니다.
패치 생성: 에이전트가 식별된 각 취약점을 해결하는 패치를 생성합니다.
사람의 검토: 보안 연구자가 익스플로잇, 패치, 제안된 심각도를 검토한 뒤 유지관리자에게 보고합니다.
파이프라인의 마지막 단계에서 시스템은 근본 원인 분석, 충돌을 일으키는 최소한의 개념 증명, 패치 후보, 완전한 익스플로잇을 묶어 제공합니다. 이를 통해 연구자가 취약점의 심각도를 평가하고 수정 사항을 업스트림에 반영할 수 있도록 돕습니다.
Linux 커널의 모든 코드가 보안과 관련된 것은 아닙니다. 파이프라인은 탐색 에이전트 팀을 통해 감사 가치가 높은 대상을 식별한 뒤, 이를 분석 에이전트에 전달해 취약점을 스캔했습니다.
탐색 에이전트는 각 폴더와 파일을 살펴보고, 접근 가능성(낮은 권한의 사용자가 접근할 수 있는지)과 보안 관련성을 기준으로 감사 대상을 결정합니다.
이 단계에서 감사 대상 5,034개, 약 280만 줄의 코드를 식별했습니다. 이는 전체 Linux 커널 코드베이스의 약 7%로, 전체 코드베이스를 분석하는 것보다 보안 감사 비용을 크게 줄였습니다. 이 단계에는 API 크레딧으로 3,426달러가 들었습니다.
다음으로 분석 에이전트가 각 감사 대상을 분석하고, Codex Security 플러그인(새 창에서 열기)과 유사한 워크플로를 사용해 취약점 후보를 도출했습니다. 분석 에이전트는 전반적으로 할당된 감사 대상의 코드를 읽어 작동 방식을 이해하고, 위협 모델을 파악한 뒤, 그 안에서 취약점을 찾습니다.
분석 에이전트는 12시간 만에 취약점 후보를 찾아냈으며, 중복 항목을 제거한 결과 총 2,308개였습니다. 이 단계에는 API 크레딧으로 316,549달러가 들었습니다.
취약점 후보가 곧 검증된 취약점인 것은 아닙니다. 이 정도 규모에서는 연구팀이 모든 보고서를 수동으로 조사하기 어렵습니다.
따라서 a) 낮은 권한의 사용자가 접근할 수 있고, b) 특별한 권한이 필요하지 않으며, c) 측정 가능한 메모리 손상 증거가 나타나는 후보를 검증하는 데 집중했습니다.
각 후보에 대해 분류 에이전트가 개념 증명을 생성하고, Kernel Address Sanitizer(KASAN)가 적용된 Linux 커널을 실행하는 격리된 가상 머신에서 이를 실행했습니다. 에이전트는 프로그램 출력과 시스템 콘솔을 확인하면서 개념 증명을 반복적으로 수정했습니다. 이 과정은 보고된 동작을 재현하는 데 성공하거나, 해당 동작을 유발할 수 있는 모든 방법을 시도할 때까지 계속되었습니다.
시스템은 30시간 안에 후보 2,308개의 약 74.7%에 해당하는 취약점 1,724개를 재현했습니다. 정적 코드 검토만으로는 오탐이 발생하기 쉽습니다. 따라서 분석 에이전트의 정확성과, 후보의 거의 4분의 3에 대해 실제로 작동하는 개념 증명을 자율적으로 만들어 낸 분류 에이전트의 효과적인 수행 능력은 인상적이었습니다.
나머지 후보 대부분은 더 높은 권한이 필요하거나, 까다로운 경쟁 조건, 특정 트리거 조건(예: 특정 줄에서 할당 실패가 발생해야 하는 경우), 시간이 오래 걸리는 검증(예: 참조 카운트 래핑) 때문에 주어진 시간 안에 재현하지 못했습니다. 보고된 취약점이 성립 불가능한 조건을 전제로 하는 등 모델의 잘못된 분석에 해당하는 경우는 3.1%에 불과했습니다.
검증 단계에는 API 크레딧으로 총 73,330달러가 들었습니다. 검증 파이프라인에서는 후보가 실제 취약점인지 확인하기 위해 개념 증명을 생성해야 했습니다. 이 과정은 정적 분석만으로 권고안을 제시하는 것보다 비용이 많이 들었으며, 실제 취약점과 오탐을 검증하려고 시도하는 데 드는 비용은 비슷했습니다. 따라서 파이프라인 초기에 오탐을 제거하면 전체 과정의 비용 효율성을 크게 높일 수 있습니다.
검증을 통해 취약점이 실제로 존재하는지는 확인할 수 있지만, 얼마나 시급하게 해결해야 하는지는 알 수 없습니다. 예를 들어 로컬 권한 상승을 가능하게 하는 취약점은 로컬 서비스 거부만 유발하는 취약점보다 우선적으로 처리해야 합니다. 취약점 1,724개를 검증한 뒤에는 보안에 미칠 잠재적 영향이 가장 큰 취약점을 식별해야 했습니다.
초기 선별 에이전트는 각 보고서, 충돌 로그, 관련 소스 코드를 정적으로 검토했습니다. 심각할 수 있는 취약점을 놓치지 않도록 선별 기준을 의도적으로 넓게 잡되, 실현 가능한 악용 경로가 없는 경우는 걸러냈습니다. 그 결과 정보 유출 후보 313개와 로컬 권한 상승 후보 1,238개로 범위를 좁혔습니다.
이후 익스플로잇 개발(ExploitDev) 에이전트가 표준 Linux 배포판의 보호 기능을 활성화한 격리된 가상 머신에서 후보를 테스트했습니다. 보호 기능에는 슈퍼바이저 모드 실행 방지(SMEP), 슈퍼바이저 모드 접근 방지(SMAP), 커널 주소 공간 배치 무작위화(KASLR), HARDENED_USERCOPY가 포함되었습니다. 이를 통해 보호 기능을 비활성화해야만 성립하는 비현실적인 평가를 방지할 수 있었습니다.
에이전트는 정보 유출 개념 증명 291개와, 권한이 없는 로컬 사용자에게 루트 접근 권한을 부여할 수 있는 실제로 작동하는 로컬 권한 상승 익스플로잇 1,169개를 생성했습니다.
우리는 변종 분석을 수행하고, 이 익스플로잇들이 이용한 취약점에 대해 서로 다른 패치 948개를 개발했습니다. 전체 고유 LPE 수는 이 수치를 기준으로 산정했습니다. 성공한 익스플로잇의 개발에는 평균 359달러의 크레딧 비용이 들었습니다. 이는 방어자가 발견된 취약점의 악용 가능성을 비교적 적은 비용으로 테스트할 수 있음을 뜻합니다.
초기 취약점 선별 에이전트에는 API 크레딧으로 44,194달러가 들었습니다. 익스플로잇 단계에는 API 크레딧으로 총 775,929달러가 들었습니다. 이 중 정보 유출 후보 처리에 84,929달러, 로컬 권한 상승 후보 처리에 691,000달러가 사용되었습니다.
로컬 권한 상승 후보의 평균 처리 비용은 558달러로, 정보 유출 후보의 평균 처리 비용인 271달러의 약 두 배였습니다. 정보 유출 PoC는 검증 단계에서 만든 것을 이어서 사용했고, 익스플로잇에서 활용하기 위해 필요한 수정이 적었기 때문입니다. 반면 LPE 후보로 익스플로잇을 개발하려면 익스플로잇 전략 수립, 사용할 취약 객체 식별, 완화 기법 우회 등 추가 단계가 많이 필요했습니다. 또한 실패한 익스플로잇 시도(69건, 3,922달러)는 성공한 시도(1,169건, 360달러)보다 훨씬 많은 비용이 들었습니다. 이는 경쟁 조건 등 익스플로잇 구현이 어려운 일부 취약점 때문이었습니다. 1시간 동안 진전이 없으면 시도를 중단하는 등 합리적인 포기 조건을 정했다면 ExploitDev 비용을 크게 줄일 수 있었을 것입니다.
시스템은 검증된 취약점마다 패치도 생성합니다. 모델에 관련 소스 코드를 제공하고, 패치 정적 검사, 주변 코드에서 사용하는 소프트웨어 개발 관행 준수, 패치의 완전성을 확인하기 위한 변종 분석 등 패치 작성 모범 사례를 따르도록 지시합니다.
Linux 커널 커뮤니티의 제안에 따라 심각한 취약점에 대한 보고서와 패치를 이미 수백 건 전달했으며, Patch the Planet 파트너들과 협력해 나머지 패치도 순차적으로 전달하고 있습니다. 이 작업은 오픈 소스 프로젝트를 지원하기 위한 더 폭넓은 Daybreak 활동의 일환입니다.
이 섹션에서는 이번 연구에서 얻은 교훈과 시사점, 추가 분석을 공유합니다.
이번 연구를 진행하면서 Linux 유지관리자들이 취약점을 수정하고 사용자를 보호하기 위해 신속하게 대응하는 모습을 확인했습니다. 스캔은 2026년 10월 중순 당시 최신 Linux 커널을 대상으로 수행했습니다. 10일 뒤 자율 스캔과 수동 분석이 끝났을 때는 LPE 61개가 이미 업스트림에서 패치되었고, 43개는 패치 반영을 기다리고 있었으며, 299개는 공개적으로 보고되어 논의 중이었습니다.
발견된 문제를 신속히 패치하기 위해 애쓰는 Linux 유지관리자들과, 발견 사항을 공유하며 기여하는 보안 커뮤니티 여러분께 깊이 감사드립니다. 전 세계 소프트웨어의 보안을 지키려면 이러한 공동 대응이 필요합니다. 취약점 공개와 패치가 빠르게 이루어지는 만큼, 사용자와 기업이 소프트웨어를 최신 상태로 유지하는 일도 매우 중요합니다.
핵심 교훈: 자동 분류 과정은 빠른 패치 주기를 고려해야 합니다. 최초 스캔 이후 병합된 새 코드까지 포함한 최신 코드를 기준으로 발견 사항을 재검증하면 중복되거나 더 이상 유효하지 않은 보고를 피할 수 있습니다. 이를 통해 미해결 취약점에 집중하고, 불필요한 검토 부담을 늘리지 않으면서 유지관리자가 조치할 수 있는 근거를 제공할 수 있습니다.
파이프라인을 개발하던 2026년 7월 말, GPT‑5.6 Sol은 서로 다른 LPE 취약점 166개를 발견하고 익스플로잇을 구현했으며, 전체 과정에 API 크레딧으로 513,690달러가 들었습니다.
2026년 10월 중순의 두 번째 스캔에서는 더 새로운 사이버 모델이 서로 다른 LPE 취약점 948개를 발견하고 익스플로잇을 구현했으며, 전체 과정에 API 크레딧으로 1,213,430달러가 들었습니다. 두 차례 모두 당시 최신 Linux 커널의 master 브랜치를 스캔했습니다.
핵심 교훈: 모델의 역량이 향상되면 이미 감사한 코드도 다시 스캔해야 합니다. 동일한 연구 하네스를 사용하더라도, 역량이 더 뛰어난 모델은 이전 모델이 놓친 취약점을 발견할 수 있습니다.
에이전트가 개발한 익스플로잇 중 166개를 표본으로 추출해 사용된 기법을 분석했습니다. 우리가 파악한 바로는, 에이전트들은 이 표본에서 새로운 익스플로잇 기법 10가지를 사용했습니다. 이 기법들을 외부 커널 익스플로잇 전문가들과 공유했으며, 그들에게도 새로운 기법이라는 것을 확인했습니다.
10가지 기법 중 2가지는 대상 커널 캐시 안에 객체를 스프레이하는 데 모델이 사용한 새로운 지속형 가변 크기 객체를 활용하는 방식입니다. 또 다른 2가지는 익스플로잇의 안정성을 높이는 새로운 페이지 그루밍 기법이며, 5가지는 직접 또는 임의 쓰기를 통해 권한을 상승시키는 새로운 데이터 전용 기법입니다. 나머지 1가지는 임의 타입 혼동을 활용합니다. 안전상의 이유로 이 글에서는 새로운 익스플로잇 기법의 전체 기술 세부 사항을 공개하지 않습니다.
핵심 교훈: 프런티어 모델은 알려진 취약 코드 패턴을 대조하거나 기존 익스플로잇 기법만 사용하는 데 그치지 않고, 창의성과 새로운 접근법을 보여줍니다.
취약점을 발견하고 익스플로잇을 구현하는 데 드는 비용을 측정하고, 그 근거를 바탕으로 방어 투자 방향을 제시하는 것은 우리 팀 임무의 중요한 부분입니다. 우리의 목표는 공격자가 취약점을 이용하기 전에 방어자가 이를 수정하도록 돕고, 공격자가 소프트웨어를 악용하는 데 감당하기 어려운 비용이 들도록 하는 것입니다. 익스플로잇 비용을 측정하면 모델의 역량이 향상됨에 따라 이 과제가 어떻게 달라지는지 평가할 수 있습니다. 이 섹션에서는 파이프라인 실행 비용을 발견된 취약점에 대한 버그 바운티 프로그램의 보상금과 비교합니다.
실험의 대상 가상 머신에는 보안을 약화한 환경이 아닌 기본 데스크톱 운영 체제를 설치했으며, 사이버 보안 대회(예: Pwn2Own(새 창에서 열기), TyphoonPWN(새 창에서 열기))와 동일한 위협 모델을 적용했습니다. 과거 Pwn2Own과 TyphoonPWN은 Linux 커널의 로컬 권한 상승 익스플로잇에 각각 20,000달러와 70,000달러의 버그 바운티를 제공했습니다. 이 과거 포상금을 익스플로잇 948개에 적용하면 가치는 1,890만~6,630만 달러로 가정할 수 있으며, 이는 파이프라인 비용의 약 16~55배에 해당합니다.
공격 표면을 줄여 보안을 강화한 Linux 커널을 대상으로 하는 Google의 취약점 포상 프로그램 kernelCTF(새 창에서 열기)에서도 파이프라인을 테스트했습니다. kernelCTF 환경에서 최신 Linux 커널을 대상으로 파이프라인을 실행해 정보 유출 개념 증명 25개와 로컬 권한 상승 익스플로잇 21개를 확보했습니다. 최신 커널은 kernelCTF의 SLAB_VIRTUAL 완화 기법과 호환되지 않아 해당 설정은 제외했습니다. 비교하자면, 이 글을 작성하는 시점까지 2026년에 kernelCTF에서 인정한 검증된 제로데이 LPE 익스플로잇은 26개입니다. 전체 작업에는 총 112시간이 걸렸고, API 크레딧으로 약 32,936달러가 들었습니다. 취약점 발견 단계가 API 비용의 83.7%를 차지했습니다. 취약점 21개가 모두 프로그램에서 인정된다면 비용의 약 45배인 약 150만 달러의 포상금을 받게 됩니다.
핵심 교훈: 공개된 포상금 지급액을 기준으로 보면, 현재의 사이버 역량을 갖춘 모델을 활용한 취약점 연구 파이프라인은 이번 연구 시점에 비용을 제하고도 수익을 낼 수 있었습니다. 방어자는 소프트웨어를 선제적으로 분석해 공격자가 이를 악용하는 데 감당하기 어려운 비용이 들도록 해야 합니다.
악용 가능성 평가 단계에서 ExploitDev 에이전트는 취약점 보고서를 전달받고 완전히 작동하는 익스플로잇을 만드는 임무를 수행했습니다. 파이프라인은 루트 셸을 성공적으로 확보하면 해당 취약점의 익스플로잇에 성공한 것으로 표시했습니다. 초기 실행에서는 익스플로잇 단계에서 로컬 권한 상승 익스플로잇 200개가 성공한 것으로 보고되었습니다. 그러나 사람이 검토한 결과, 이 중 20개는 할당된 취약점이 아닌 다른 제로데이 취약점을 통해 루트 권한을 획득한 것으로 드러났습니다. 이는 에이전트가 익스플로잇에 성공했더라도 적절한 검증이 필요함을 시사합니다.
이후 작업 제약 조건을 강화하고, 각 최종 익스플로잇이 할당된 취약점을 사용했는지 확인하는 독립적인 검사를 추가했습니다.
핵심 교훈: 자율형 보안 연구에서는 결과 자체뿐 아니라 결과에 이르는 경로도 검증해야 합니다. 격리, 모니터링, 독립적인 검사는 필수적인 통제 수단입니다.
연구 초기에는 에이전트의 사이버 역량을 높이기 위해 복잡한 오케스트레이션을 구축할 것인지 검토했습니다. 결과적으로 더 강력한 모델은 더 간소한 오케스트레이션과 적은 개입으로도 충분하다는 점을 확인했습니다. 추가적인 성능 향상도 유지관리 비용을 정당화할 만큼 크지 않았습니다. 이에 따라 복잡한 오케스트레이션을 제거하기로 결정했습니다.
실험에서는 GPT‑5.5 Cyber와 GPT‑5.6 Cyber를 비교했습니다. 관찰 결과, GPT‑5.5 Cyber는 기존 Linux 커널 익스플로잇 기법을 언제, 어떻게 적용해야 하는지 일관되게 파악하지 못했습니다. 이에 103가지 기법을 모델이 활용하기 쉬운 형식으로 정리해 에이전트 환경에 제공하고, 이를 사용하도록 지시했습니다. 그 결과 익스플로잇 후보 63개에 대한 성공률이 76.2%에서 88.9%로 높아졌습니다.
GPT‑5.6 Cyber로 같은 실험을 반복했을 때는 모델이 스스로 관련 기법을 찾고 선택하고 적용하는 능력이 더 뛰어났습니다. 기법 및 스킬 오케스트레이션을 제거한 간소한 GPT‑5.6 Cyber 워크플로가 더 복잡한 보조 체계를 갖춘 GPT‑5.5 Cyber 워크플로보다 높은 성능을 보였습니다. GPT‑5.6 Cyber에 추가 기법 계층을 다시 적용해도 성능 향상은 1.5%포인트에 그쳤습니다.
핵심 교훈: 기반 모델의 역량이 달라지면 오케스트레이션과 하네스를 재평가해야 합니다. 어느 세대의 모델에서 성능을 크게 높인 보조 체계라도 더 강력한 모델에는 별다른 가치를 더하지 못할 수 있으므로, 유지관리 부담에 비해 효과가 있는지 평가해야 합니다.
초기에 패치 후보를 생성하라고 직접 지시했을 때, 모델은 개념 증명으로 입증된 문제를 완화하는 기능적으로 올바른 패치를 만들었지만 때로는 다른 문제도 초래했습니다. 불필요하게 많은 코드를 작성하거나, 성능 저하 가능성을 도입하거나, 코딩 규칙에서 벗어나는 경우가 있었습니다. 관련 코드에서 같은 취약점의 변종을 살펴보지 않아 패치가 불완전한 경우도 있었습니다.
추가 지침을 제공하고 패치 생성 과정을 반복적으로 개선하자 패치 품질이 높아졌습니다. 이는 적절히 관리하면 AI가 생성한 보안 패치도 정확하고, 변경을 최소화하며, 기존 코딩 규칙에 부합할 수 있음을 시사합니다. 이 분야는 활발히 연구되고 있으며, 앞으로의 모델에서는 이 과정이 더 쉽고 효과적으로 이루어질 것으로 생각합니다. 일부 사례에서는 연구 프로토타입이 전문가가 작성한 패치의 문제점도 찾아냈으며, 해당 문제는 패치가 병합되기 전에 수정되었습니다.
핵심 교훈: 모델은 패치 작업을 가속할 수 있지만, 패치가 기능적 요구 사항과 비기능적 요구 사항을 모두 안정적으로 충족하도록 하려면 패치 스킬과 하네스를 반복적으로 개선해야 할 수 있습니다. 또한 모델을 활용해 사람과 AI가 만든 패치를 공격자 관점에서 검토하는 것을 권장합니다. 이를 통해 패치 우회 가능성, 누락된 공격 경로나 변종 등의 문제를 식별할 수 있습니다.
kernelCTF 실행에서 연구 프로토타입은 Linux 커널 제로데이 익스플로잇 21개 외에도 QEMU TCG 취약점을 발견하고 익스플로잇을 구현했습니다. 분석 에이전트는 시스템 호출 진입 코드를 분석하는 작업을 맡았으며, 권한 전환을 실험할 프로그램을 작성하던 중 예상치 못한 커널 충돌을 발견했습니다. 에이전트는 QEMU 소스 코드에 접근하지 않고도 충돌을 분석해 문제의 원인이 QEMU TCG에 있음을 추적했으며, 이 취약점을 보고서에 포함했습니다. 이후 ExploitDev 에이전트는 이 취약점에 대한 로컬 권한 상승 익스플로잇을 성공적으로 개발했습니다. 우리는 익스플로잇을 수동으로 분석하던 중 이 QEMU 취약점을 발견했으며, 업스트림 QEMU에서는 이미 수정되었지만 실험에 사용한 릴리스 빌드에는 수정 사항이 반영되지 않았음을 확인했습니다.
핵심 교훈: 사이버 역량을 갖춘 프런티어 모델은 테스트 인프라의 취약점도 찾아낼 수 있습니다. 공격 기법을 활용한 취약점 연구를 수행하기 전에 인프라의 각 구성 요소를 테스트할 것을 권장합니다. 우리는 인프라를 선제적으로 테스트해 Kata, Moby/Docker, gVisor 등 여러 프로젝트의 취약점을 다수 공개하고 패치했습니다.
우리의 목표는 나날이 향상되는 모델의 역량을 인터넷 보안을 지키는 사람들이 지속적으로 활용할 수 있는 강점으로 만드는 것입니다. 이번 연구는 프런티어 모델의 사이버 역량이 발전함에 따라 Linux 커널과 같은 복잡한 소프트웨어에서 취약점을 효과적으로 찾는 데 이를 활용할 수 있음을 보여줍니다. Linux를 비롯한 주요 오픈 소스 소프트웨어 프로젝트의 보안을 강화하면 이를 기반으로 하는 수많은 시스템과 사용자를 보호할 수 있습니다.
우리는 Daybreak 이니셔티브의 일환인 Patch the Planet을 통해 이 연구를 더 많은 핵심 소프트웨어 프로젝트로 확대하고, 유지관리자 및 보안 파트너와 함께 신뢰할 수 있는 자동 패치 기술을 개발하고자 합니다. 공격자에게 주어지는 기회를 꾸준히 줄이고 취약점을 발견하고 악용하는 데 드는 비용을 높여, 결국 공격으로 기대할 수 있는 이익이 그 비용에 못 미치도록 만들고자 합니다.
각 세대의 모델은 다음 세대의 모델도 침해하기 더 어려운 소프트웨어를 만드는 데 기여해야 합니다. 누구나 즐겁게 무언가를 만들어 나갈 수 있는 안전한 인터넷을 구축하기 위해 계속 노력하겠습니다.


