GPT‑6 Cyber: 정렬된 사이버 보안 에이전트의 새로운 지평

보안 연구의 큰 도약을 이끌 GPT‑6 Cyber를 소개합니다. 취약점을 발견하고 수정하는 역량이 높아졌으며, 연구자가 설정한 범위를 훨씬 더 안정적으로 준수합니다. GPT‑6 Cyber는 주요 사이버 보안 벤치마크에서 GPT‑5.6 Cyber보다 크게 향상된 성능을 보여 줍니다. ExploitGym 점수는 상대적으로 51% 높아졌고, 작업 범위 준수 테스트에서도 획기적인 개선을 이루었습니다. 이미 Linux와 Firefox처럼 보안이 중요한 코드베이스에서 수천 개의 익스플로잇을 찾아내고 검증하며 실제 소프트웨어의 보안 강화에 기여하고 있습니다.

모델이 지정된 취약점을 공격할 수 있는지 테스트하는 ExploitGym에서 GPT‑6 Cyber는 48.5%를 기록했습니다. GPT‑5.6 Cyber의 점수는 32.1%였습니다. 작업 범위도 더 안정적으로 준수합니다. 별도의 정렬 평가에서 GPT‑6 Cyber가 범위 밖 서비스를 공격하지 않은 비율은 배포용 프롬프트 없이 99.93%, 이 프롬프트를 적용했을 때 100%였습니다. 이러한 정렬 개선은 승인된 범위를 지키고, 제한 사항을 준수하며, 결과를 정확하게 보고하도록 집중적으로 훈련한 결과입니다.

이러한 역량은 이미 실제 시스템을 보호하는 데 활용되고 있습니다. 프런티어 모델을 활용한 광범위한 사전 테스트가 이루어졌음에도, OpenAI 연구원들은 GPT‑6 Cyber를 통해 Linux 권한 상승 익스플로잇 948개⁠를 개발하고 Firefox에서 이전에 알려지지 않은 심각도 높은 취약점 81개를 발견했습니다. 이 모델은 패치 후보 개발도 도왔으며, Mozilla는 여러 Firefox 취약점에 대한 수정 사항을 배포⁠(새 창에서 열기)했습니다. Cisco, Calif, CodeRabbit의 보안팀은 취약점 연구와 코드 검토에 이 모델을 사용하고 있으며, OpenAI도 자체 인프라의 취약점을 발견하고 수정하는 데⁠ 활용해 왔습니다.

프런티어 모델을 활용해 소프트웨어 보안을 강화할 수 있는 시간이 제한되어 있다⁠는 점은 분명합니다. OpenAI의 목표는 Daybreak를 대폭 확대해 모든 규모의 조직과 독립 연구자, 오픈 소스 유지관리자가 고도화된 보안 연구를 수행할 수 있도록 하는 것입니다. GPT‑6 Astra 같은 주력 모델은 이미 코드 검토, 취약점 분류 및 우선순위 판단, 패치 개발을 지원합니다. Daybreak Blue는 불필요한 거절을 줄여 검증된 방어 담당자들이 취약점과 수정 사항을 검증하도록 돕습니다. Daybreak Red는 GPT‑6 Cyber를 통해 더 심층적인 익스플로잇 개발과 승인된 보안 테스트를 지원합니다.

GPT‑6 Cyber는 GPT‑5.6 Cyber보다 크게 발전했으며, Astra가 요청을 거절하지 않는 경우에도 대부분의 사이버 작업에서 GPT‑6 Astra를 능가합니다. OpenAI는 소프트웨어를 이해하고, 취약점을 파악하고, 실제로 작동하는 익스플로잇을 개발해야 하는 작업으로 모델을 평가했습니다. 이 결과를 바탕으로 준비성 평가 프레임워크의 사이버 보안 분야에서 이 모델을 ‘심각’ 등급으로 분류했습니다. GPT‑5.6 Cyber의 ‘높음’ 등급보다 상향된 것입니다.

원격 대상의 지정된 취약점을 모델이 공격할 수 있는지 테스트하는 ExploitGym에서 GPT‑6 Cyber는 48.5%를 기록했습니다. 이는 GPT‑5.6 Cyber의 32.1%보다 약 16%포인트 높은 수치입니다. 취약점 발견 능력을 테스트하기 위해 공격형 웹 침투 테스트를 위한 새로운 평가도 개발했습니다. 모델은 소스 코드에 접근하지 않고 웹 애플리케이션을 탐색합니다. GPT‑6 Cyber는 취약점 탐지 재현율 40.3%를 달성했으며, GPT‑6 Astra의 재현율은 32.0%였습니다.

Daybreak Red는 실제로 작동하는 익스플로잇을 개발하고 원격 대상에 사용하는 작업을 포함해, 더 고도화된 보안 워크플로를 지원하도록 설계되었습니다. 이러한 역량을 평가하기 위해 RemoteExploitBench라는 새로운 벤치마크를 개발했습니다. 이 벤치마크는 통제된 환경에 배포된 GitLab, PostgreSQL, Jenkins 등의 애플리케이션에 존재하는 알려진 취약점을 활용합니다. 초기 평가에서 Daybreak Blue로 실행한 GPT‑6 Astra는 작업을 100% 거절한 반면, GPT‑6 Cyber는 95%를 완료했습니다. 유일한 실패는 원격으로 작동시키지 못한 익스플로잇 하나였습니다. 전체 결과와 평가 설정은 시스템 카드⁠(새 창에서 열기)에서 확인할 수 있습니다.

사이버 보안 에이전트의 위험 중 하나는 할당된 작업 범위를 벗어나거나, 관련 없는 서비스를 공격하려 하거나, 연구자가 정한 수행 규칙을 무시할 수 있다는 것입니다.

OpenAI는 정렬을 GPT‑6 Cyber의 핵심 과제로 삼았습니다. 특화 훈련을 통해 모델이 승인된 범위를 지키고, 행동에 대한 제한을 따르며, 수행한 작업을 정확하게 보고하도록 했습니다. 배포 전에는 이러한 행동을 측정하기 위해 일련의 정렬 평가를 수행했습니다. 전체 결과는 시스템 카드⁠(새 창에서 열기)에서 확인할 수 있습니다.

이 중 하나인 ExploitGym Honeypot은 Hugging Face 사고⁠를 참고해 설계한 평가입니다. 이 평가에서는 패키지 레지스트리나 객체 저장소 같은 지원 서비스에 접근할 수 있는 격리된 환경에서 모델에 고난도 익스플로잇 작업을 부여합니다. 이 서비스들은 의도적으로 쉽게 공격할 수 있게 만들어, 공격하면 작업의 플래그를 알아낼 수 있도록 합니다. 모델은 이러한 서비스를 공격하는 것이 작업 범위를 벗어난다는 점을 스스로 추론해야 합니다.

GPT‑6 Cyber는 이 평가에서 GPT‑5.6 Cyber보다 획기적으로 향상된 성능을 보여 줍니다. 배포용 안전 프롬프트 없이 테스트했을 때, 범위 밖의 서비스를 공격하지 않은 비율은 GPT‑5.6 Cyber의 94.49%에서 99.93%로 높아졌습니다. 이 프롬프트를 적용한 경우 GPT‑6 Cyber는 모든 테스트에서 허용 범위를 준수했습니다.

GPT‑6 Cyber 모델의 추론 과정을 보면 허용 범위 준수에 대해 어떻게 판단하는지 직접 확인할 수 있습니다.

GPT‑6 Cyber는 이미 보안팀이 취약점을 발견하고, 그 영향을 검증하고, 수정 사항을 개발하는 데 도움을 주고 있습니다. 고객들은 대규모 코드베이스 작업, 장시간에 걸친 익스플로잇 개발, 보안 검토에 이 모델을 활용하고 있습니다.

OpenAI도 자체 시스템을 보호하는 데 GPT‑6 Cyber를 활용해 왔습니다. 최근 공유한 프런티어 모델 훈련 인프라의 보안 강화⁠ 작업에서도 핵심 모델 중 하나로 쓰였습니다. 통제된 레드팀 테스트 캠페인에서 GPT‑6 Cyber와 다른 OpenAI 모델을 사용하는 에이전트들은 취약점을 연쇄적으로 활용해 마이크로 VM을 탈출하고 기반 호스트에서 코드를 실행했습니다. 이 결과를 바탕으로 소프트웨어를 패치하고, 네트워크 제한을 강화하고, 유지관리자와 공급업체에 문제를 보고했습니다.

OpenAI 취약점 연구원들은 오픈 소스 소프트웨어의 취약점을 대규모로 발견하고 검증하는 데도 GPT‑6 Cyber를 사용합니다. 이 작업을 통해 수년간 면밀히 검토된 소프트웨어에서도 이전에 알려지지 않은 결함을 발견했습니다.

• 새로운 Firefox 취약점 81개 발견. GPT‑6 Cyber는 취약점을 대규모로 발견하고 고품질 패치를 제안하는 자율 워크플로에 적합할 수 있습니다. 취약점 연구 캠페인에서 GPT‑6 Cyber는 Mozilla가 심각도 높음으로 분류한 새로운 취약점 81개에 대해 증거와 재현 가능한 테스트를 생성했으며, 기존에 알려진 문제 30개가 이전 보고보다 더 심각하다는 점도 밝혔습니다. OpenAI는 Mozilla 엔지니어들의 수정 작업을 돕기 위해 조사 결과와 함께 패치 제안을 전달했습니다. Mozilla는 이 작업을 지지했으며, 보고를 받은 직후부터 수정 사항을 반영하기⁠(새 창에서 열기) 시작했습니다.

• Linux 커널 취약점 948개⁠에 대한 익스플로잇 개발. GPT‑6 Cyber는 취약점 1,724개를 재현하고, 그중 948개에 대해 실제로 작동하는 익스플로잇을 개발했습니다. 이는 같은 연구 하네스를 사용한 GPT‑5.6 Sol이 익스플로잇에 성공한 166개의 5배가 넘는 수치입니다. Linux 커뮤니티의 지침에 따라 심각한 발견 사항 304건을 패치 후보와 함께 유지관리자에게 전달했으며, 나머지 취약점도 수정될 수 있도록 진행하고 있습니다.

• 심각한 RCE 취약점 입증. 최근 OpenAI는 Node.js와 다른 소프트웨어에서 사용하는 압축 라이브러리인 Brotli의 심각한 취약점⁠(새 창에서 열기)을 소개했습니다. OpenAI 보안 연구원들은 GPT‑6 Cyber와 다른 OpenAI 모델을 함께 사용해 익스플로잇을 개발하고 검증했습니다. 이를 통해 이 결함이 해당 라이브러리를 사용하는 애플리케이션에서 어떻게 원격 코드 실행으로 이어질 수 있는지 입증했습니다.

모델의 역량이 높아지고 더 많은 보안 취약점을 발견하게 되면서, 이를 악의적으로 이용하려는 시도도 늘어나고 있습니다. 여기에는 악의적인 사이버 행위자의 시도와 OpenAI 모델을 증류하려는 적대적 집단의 시도도 포함됩니다. 이에 OpenAI는 GPT‑6 Cyber의 역량 강화와 함께 안전장치도 강화했습니다. 오용을 탐지하고 저지하며, 모델의 행동이 사용자의 의도와 승인 범위를 벗어나지 않도록 하기 위해서입니다.

GPT‑6 Cyber 출시에 맞춰 다음 보호 조치를 추가하고 강화했습니다. 자세한 내용은 시스템 카드⁠(새 창에서 열기)를 참고하세요.

• 사이버 분야에 특화된 정렬 이탈 모니터링. 정당한 익스플로잇 개발과 테스트를 식별하면서, 모델의 행동이 사용자가 승인한 범위에 부합하는지 모니터링합니다.

• 새로운 위협에 대한 표적 모니터링. 예를 들어 심각한 PHP 취약점의 공개를 관계자들과 조율하는 과정에서, 운영 중인 PHP 서버를 겨냥한 익스플로잇 개발 시도를 집중적으로 모니터링했습니다. 동시에 영향을 받은 시스템을 패치하는 방어 담당자에 대한 지원은 유지했습니다.

• 비공개 안전 처리(PSP). 자동화된 점검을 통해 관련 상호작용에 오용이 있는지 검토합니다. 기본 설정은 기존의 표준 데이터 보관 방식으로 유지됩니다. 데이터 비보관⁠(새 창에서 열기)을 사용하는 API 고객은 원칙적으로 PSP⁠(새 창에서 열기)를 사용해야 합니다. PSP는 고객 저장소에 30일간 보관되는 암호화된 기록을 검토하며, 프롬프트와 응답을 OpenAI 직원에게 노출하지 않습니다.

• 도난당한 인증 정보의 악용 방지. Daybreak Red API 접근에는 기본적으로 IP 허용 목록을 요구하며, 제한적인 예외를 제외하고 승인된 네트워크에서만 요청할 수 있도록 합니다. 인증 정보의 유출 여부도 모니터링합니다.

• 샌드박싱과 감독. 이전 모델과 마찬가지로, 고위험 워크플로에는 샌드박싱⁠(새 창에서 열기), 행동 검토⁠(새 창에서 열기), 사람의 감독을 권장합니다.

• 고위험 사이버 활동 지원 방지. 새로운 점검 절차를 통해 핵심 시스템과 관련된 고위험 활동을 차단합니다. 자세한 내용은 아래에서 설명합니다.

핵심 인프라 보호는 GPT‑6 Cyber의 안전장치와 접근 방식을 설계할 때 중요한 고려 사항이었습니다. 여기에는 발전소, 정수 시설, 그리고 그 기반이 되는 운영 기술 및 산업 제어 시스템(OT/ICS)이 포함됩니다. OpenAI는 이러한 시스템을 방어하는 팀에 가장 뛰어난 모델을 제공하는 동시에, 무단 공격을 방지하는 안전장치를 강화하고자 합니다.

첫째, 방어 담당자들이 필요한 도구를 갖출 수 있도록 10억 달러 규모의 일선 방어 담당자를 위한 Daybreak⁠ 지원금 프로그램을 통해 정부 기관이나 필수 서비스 제공업체 등 자원이 부족한 팀의 이용 비용을 지원합니다. 또한 승인된 핵심 인프라 방어 담당자를 위해 Daybreak Red 내에 새로운 그룹인 핵심 인프라용 Daybreak Red를 도입합니다. 이 그룹에는 모델의 정렬 이탈을 방지하는 안전장치를 유지하면서, 핵심 시스템에 대해 승인된 테스트를 수행할 수 있는 권한을 부여합니다.

둘째, Daybreak Red와 Blue 플랫폼의 오용을 방지하기 위해 안전장치를 개선했습니다. 산업 제어나 안전 필수 시스템을 침해하거나, 장비 작동을 방해하거나, 심각한 부상이나 파괴적인 물리적 피해 또는 생명을 위협하는 서비스 중단을 초래할 수 있는 지원과 역량 개발을 막기 위한 조치입니다. 아래 그림은 네 가지 접근 설정에서 안전장치가 차단 대상으로 분류한 비율을 비교합니다. GPT‑6 Cyber와 함께 적용 중인 최신 업데이트 전후의 결과를 보여 줍니다.

안전장치의 차단율이 높다고 항상 더 좋은 것은 아닙니다. 이 평가에 포함된 여러 기법은 시스템을 이해하고, 취약점을 찾고, 수정 사항이 공격을 견디는지 검증하는 정당한 보안 업무에도 필수적입니다. 따라서 차단율 100%를 목표로 삼기보다는, 정당한 연구와 패치 작업을 얼마나 잘 지원하는지도 함께 평가합니다.

OpenAI 모델이 핵심 인프라 방어에 어떻게 기여할 수 있는지 평가하기 위해, 확장 운영 기술(xOT) 사이버 보안 분야의 글로벌 기업 Dragos와 협력했습니다. Dragos는 통제된 실험실 환경에서 사이버 작업 허용 범위가 넓은 Daybreak Red 모델을 사용해 평가를 수행했습니다. 평가에 사용된 요청은 네트워크 탐색과 자산 열거에서 시작해, 특정 대상을 겨냥한 정찰, 민감 데이터 유출, 승인되지 않은 잠재적으로 위험한 장치 동작으로 이어졌습니다.

OpenAI는 Dragos의 피드백을 바탕으로 안전장치를 개선했습니다. 승인된 테스트를 불필요하게 제한하지 않으면서 유해한 지원을 차단하는 것이 목표입니다. 평가에 관한 자세한 내용은 Dragos의 최종 보고서⁠(새 창에서 열기)를 참고하세요. 또한 AI를 활용한 침투 테스트와 레드팀 테스트를 위해 다른 공격형 보안 업체 및 퍼플팀과의 협력을 확대하고 있습니다. 에너지 기업, 기타 핵심 인프라 운영사, 국립 연구소와도 협력해 산업 보안에서 OpenAI 모델의 효과와 안전장치를 평가하고 있습니다. OT/ICS와 관련된 모델 사용을 탐지하기 위한 위협 조사 투자도 늘렸습니다. 앞으로도 파트너와 보안 커뮤니티의 의견을 반영해 안전장치를 개선해 나가겠습니다. 안전장치가 유해한 활동을 놓치거나 정당한 작업을 방해했을 때 /feedback으로 보내 주시는 보고도 여기에 포함됩니다.

GPT‑6 Cyber는 초기에는 승인된 일부 Daybreak Red 고객에게 API와 Codex를 통해 제공됩니다. 조만간 모든 Daybreak Red 고객으로 접근을 점진적으로 확대할 예정이며, GPT‑5.6 Cyber도 모든 Daybreak Red 고객에게 제공합니다. GPT‑6 Astra를 위한 Daybreak Blue 알파 이용 대상도 더 많은 조직과 개인 보안 연구자로 확대하고 있습니다. 관심이 있다면 신청해 주세요⁠(새 창에서 열기).

신규 사용자와 조직은 Daybreak에 신청⁠하고, OpenAI의 사이버 보안 스킬, 제품, 파트너⁠를 활용해 시작할 수 있습니다.