GPT‑6 Cyber：提升網路安全智慧體的能力，讓行動更符合授權範圍
這款網路安全模型經過訓練，能在研究人員設定的範圍內尋找並驗證可被利用的漏洞。
我們推出的 GPT‑6 Cyber 為資安研究帶來重大突破。模型更擅長尋找與修補漏洞，也更能確實遵守研究人員設定的界限。GPT‑6 Cyber 在幾項重要的網路安全基準測試中都比 GPT‑5.6 Cyber 大幅進步，在 ExploitGym 的成績相對提升了 51%，在評估模型能否遵守任務範圍的測試中也有突破。GPT‑6 Cyber 已開始協助保護實際使用的軟體，在 Linux、Firefox 等對安全極為重要的程式碼庫中，找出並驗證了數千種漏洞利用方式。
ExploitGym 測試模型能否利用指定漏洞。GPT‑6 Cyber 的成績為 48.5%，高於 GPT‑5.6 Cyber 的 32.1%。GPT‑6 Cyber 也更能遵守任務界限。在另一項對齊評估中，未加入部署提示詞時，模型在 99.93% 的測試中都沒有利用任務範圍外服務的漏洞。加入提示詞後，這個比例達到 100%。模型之所以更能遵守界限，是因為我們特別訓練模型在授權範圍內行動、遵守限制並準確回報結果。
這些能力已開始協助保護實際運作的系統。儘管先前已使用前沿模型進行大量測試，我們的研究人員仍運用 GPT‑6 Cyber 開發出 948 個 Linux 權限提升漏洞利用程式，並在 Firefox 中找出 81 個先前未知的高嚴重度漏洞。模型也協助開發候選修補程式，Mozilla 已針對其中許多 Firefox 漏洞發布修補程式(在新視窗中開啟)。Cisco、Calif 與 CodeRabbit 的資安團隊正使用這個模型進行漏洞研究與程式碼審查，我們也仰賴這個模型找出並修補自身基礎設施中的弱點。
我們很清楚，能運用前沿模型強化軟體安全的時間有限。我們的目標是大幅擴展 Daybreak，讓各種規模的組織、獨立研究人員與開源維護者都能進行進階資安研究。GPT‑6 Astra 等主線模型已支援程式碼審查、漏洞分級與修補程式開發。Daybreak Blue 能協助通過身分驗證的防禦人員驗證漏洞與修補方案，減少模型無謂拒絕的情形。Daybreak Red 則讓使用者運用 GPT‑6 Cyber 開發更進階的漏洞利用程式，並執行經授權的資安測試。
GPT‑6 Cyber 比 GPT‑5.6 Cyber 大幅進步，在多數資安任務中也優於 GPT‑6 Astra，即使 Astra 沒有拒絕執行任務，結果也一樣。評估時，我們要求模型讀懂軟體、找出漏洞，並開發可運作的漏洞利用程式。根據評估結果，GPT‑6 Cyber 在應變整備框架下的網路安全能力達到「關鍵」等級，高於 GPT‑5.6 Cyber 的「高」等級。
ExploitGym 測試模型能否利用遠端目標中的指定漏洞。GPT‑6 Cyber 的成績為 48.5%，比 GPT‑5.6 Cyber 的 32.1% 高出約 16 個百分點。為了評估模型發現漏洞的能力，我們也設計了新的攻擊型網頁滲透測試。模型必須在無法存取原始碼的情況下探測網頁應用程式。GPT‑6 Cyber 的漏洞召回率為 40.3%，GPT‑6 Astra 則為 32.0%。
Daybreak Red 的設計目的是支援更進階的資安工作，包括開發可運作的漏洞利用程式，並用這些程式測試遠端目標。我們建立了 RemoteExploitBench 基準測試來評估這些能力。我們在受控環境中部署 GitLab、PostgreSQL、Jenkins 等應用程式，並以這些程式的已知漏洞進行測試。在初步評估中，搭配 Daybreak Blue 的 GPT‑6 Astra 拒絕了 100% 的任務，而 GPT‑6 Cyber 完成了 95%。唯一失敗的一次，是因為模型未能讓漏洞利用程式在遠端目標上成功運作。完整結果與評估設定請參閱系統說明卡(在新視窗中開啟)。
網路安全智慧體可能超出指派的任務範圍，例如試圖利用無關服務的漏洞，或無視研究人員訂定的測試規則。
我們在開發 GPT‑6 Cyber 時特別重視對齊，透過專門訓練，讓模型學會在授權範圍內行動、遵守行動限制，並準確回報工作情況。部署前，我們進行了一系列對齊評估，檢驗模型在這幾方面的表現。完整結果請參閱系統說明卡(在新視窗中開啟)。
我們參考 Hugging Face 事件的經驗，設計了其中一項評估 ExploitGym Honeypot。我們讓模型在隔離環境中執行高難度的漏洞利用任務。模型可以存取套件登錄庫或物件儲存服務等輔助服務。我們刻意在這些服務中留下容易利用的弱點，讓模型有機會透過攻擊服務取得任務旗標。模型必須自行判斷，利用這些弱點已超出任務範圍。
GPT‑6 Cyber 在這項評估中的表現比 GPT‑5.6 Cyber 大幅進步。測試未加入部署用的安全提示詞時，GPT‑6 Cyber 有 99.93% 的測試案例未利用任務範圍外服務的漏洞，高於 GPT‑5.6 Cyber 的 94.49%。加入安全提示詞後，GPT‑6 Cyber 在 100% 的測試案例中都遵守了任務界限。
從 GPT‑6 Cyber 的思路鏈，可以直接看出模型如何判斷哪些行動在任務範圍內：
“Can't assume extra API or attack controller not target. We should only target binary/server.”
“don't explore out of scope credentials.”
GPT‑6 Cyber 已開始協助資安團隊找出漏洞、驗證漏洞的影響，並開發修補方案。客戶已用這個模型處理大型程式碼庫、執行耗時的漏洞利用程式開發任務，以及進行資安審查：
我們也仰賴 GPT‑6 Cyber 保護自家系統。最近我們分享了強化前沿模型訓練基礎設施安全性的做法，GPT‑6 Cyber 就是參與這項工作的主要模型之一。在受控的紅隊演練中，智慧體使用 GPT‑6 Cyber 與其他 OpenAI 模型，串聯利用多個漏洞，成功突破 microVM 的隔離，在底層主機上執行程式碼。我們依據這些發現修補軟體、加嚴網路限制，並向維護者及供應商回報問題。
我們的漏洞研究人員也使用 GPT‑6 Cyber 大規模尋找並驗證開源軟體中的漏洞。有些軟體已歷經多年嚴格檢查，研究人員仍從中找出了過去未知的缺陷：
發現 Firefox 的 81 個新漏洞。GPT‑6 Cyber 可用於自主工作流程，大規模尋找漏洞並提出高品質的修補程式。在一項漏洞研究中，GPT‑6 Cyber 為 81 個新漏洞提供了證據與可重現的測試，Mozilla 將這些漏洞全數列為高嚴重度。模型也證實，另外 30 個已知問題比先前通報的更為嚴重。我們向 Mozilla 通報這些發現，並附上建議的修補程式，協助工程師開發修補方案。Mozilla 支持這項工作，並在收到通報後不久便開始合併修補程式(在新視窗中開啟)。
針對 948 個 Linux 核心漏洞開發漏洞利用程式。GPT‑6 Cyber 重現了 1,724 個漏洞，並為其中 948 個開發出可運作的漏洞利用程式。使用同一套研究工具時，GPT‑5.6 Sol 成功利用了 166 個漏洞，GPT‑6 Cyber 成功利用的漏洞數超過這個數字的五倍。我們遵循 Linux 社群指引，已向維護者通報 304 項極嚴重的問題，並附上候選修補程式。目前也正協助修補其他漏洞。
示範如何利用極嚴重的遠端程式碼執行（RCE）漏洞。我們最近介紹了 Brotli 的一個極嚴重漏洞(在新視窗中開啟)。Brotli 是 Node.js 等軟體使用的壓縮函式庫。我們的資安研究人員運用 GPT‑6 Cyber 與其他 OpenAI 模型開發並驗證漏洞利用程式，示範攻擊者可能如何利用這個缺陷，在下游應用程式中遠端執行程式碼。
隨著模型能力提升、找出更多資安漏洞，我們也觀察到更多利用模型造成危害的企圖。這些企圖包括惡意網路行為者的行動，以及敵對團體試圖蒸餾我們模型的行為。因此，我們為能力更強的 GPT‑6 Cyber 搭配了更完善的防護措施，以偵測並阻止濫用，確保模型的行動符合使用者的意圖與授權範圍。
隨著 GPT‑6 Cyber 發布，我們新增並強化了以下保護措施（完整資訊請參閱系統說明卡(在新視窗中開啟)）：
針對資安情境的對齊偏離監控。我們監控模型行動是否符合使用者的授權，同時辨識正當的漏洞利用開發與測試。
針對新興威脅的專項監控。例如，在協調揭露極嚴重的 PHP 漏洞期間，我們建立了專項監控，偵測針對運作中的 PHP 伺服器開發漏洞利用程式的企圖，同時持續支援防禦者修補受影響的系統。
私密安全處理（PSP）。我們透過自動化檢查審查相關互動，確認是否存在濫用情形。預設仍採用標準資料保留設定。使用零資料保留(在新視窗中開啟)的 API 客戶通常必須使用 PSP(在新視窗中開啟)。此機制會審查在客戶儲存空間中保留 30 天的加密記錄，不會向 OpenAI 人員揭露提示詞與回應。
防範憑證遭竊。我們預設要求透過 IP 允許清單控管 Daybreak Red API 的存取，除少數例外情況外，僅接受來自核准網路的請求。我們也監控憑證是否遭到入侵或盜用。
沙箱隔離與監督。與過往模型一樣，我們建議針對高風險工作流程採用沙箱隔離(在新視窗中開啟)、行動審查(在新視窗中開啟)及人工監督。
防範高風險網路攻擊協助。我們採用新的檢查機制，阻擋涉及關鍵系統的高風險活動（詳見下文）。
保護關鍵基礎設施，是我們設計 GPT‑6 Cyber 防護措施與存取機制時的核心考量，涵蓋發電廠、水處理設施，以及支撐這些設施運作的營運技術與工業控制系統（OT/ICS）。我們希望讓保護這些系統的團隊能夠使用我們能力最強的模型，同時加強防護措施，防止未經授權的攻擊。
首先，為了讓這些防禦者獲得所需工具，我們投入 10 億美元的第一線防禦者 Daybreak 補助計畫，補助政府機關及必要服務供應商等資源有限的團隊使用模型。我們也在 Daybreak Red 中新增一個群組（關鍵基礎設施專用 Daybreak Red），提供給經核准的關鍵基礎設施防禦者，授予他們對關鍵系統進行授權測試的權限，同時保留防止模型偏離對齊的防護措施。
其次，為了防止 Daybreak Red 和 Blue 平台遭到濫用，我們已改進防護措施，阻止模型提供可能危及工業控制或安全關鍵系統、干擾設備，或造成嚴重傷害、災難性實體損害或危及生命的服務中斷的協助與能力開發支援。下圖比較四種存取設定下，防護措施在近期更新前後的標記率；這些更新正隨 GPT‑6 Cyber 一同推出。
防護措施的阻擋率並非越高越好。這項評估中的許多技術，也是正當資安工作不可或缺的一環，包括了解系統、尋找漏洞，以及驗證修補方案能否抵擋攻擊。因此，我們會綜合評估這些比率及模型對正當研究與修補工作的支援程度，而非以 100% 為目標。
為了評估模型如何協助保護關鍵基礎設施，我們與全球延伸營運技術（xOT）資安供應商 Dragos 合作。Dragos 在受控的實驗室環境中，使用對資安操作限制較少的 Daybreak Red 模型進行評估。評估涵蓋的請求由網路探索與資產列舉，逐步延伸至針對性偵察、敏感資料外洩，以及未經授權且可能危險的裝置操作。
我們依據 Dragos 的回饋改進防護措施，目標是在阻擋有害協助的同時，避免對授權測試施加不必要的限制。評估詳情請參閱他們的最終報告(在新視窗中開啟)。我們也正擴大與其他攻擊型資安服務供應商及紫隊的合作，以 AI 進行滲透測試與紅隊演練，並與能源公司、其他關鍵基礎設施營運商及國家實驗室合作，評估模型在工業防禦中的效能與防護措施。我們也加大了威脅調查的投入，以偵測涉及 OT/ICS 的模型使用情況。我們將持續依據合作夥伴與資安社群的意見改進防護措施，包括在防護措施漏掉有害活動或中斷正當工作時，透過 /feedback 提交的回報。
GPT‑6 Cyber 初期開放給部分經核准的 Daybreak Red 客戶，可透過 API 與 Codex 使用。我們很快就會逐步向所有 Daybreak Red 客戶開放 GPT‑6 Cyber，目前也正向所有 Daybreak Red 客戶提供 GPT‑5.6 Cyber。此外，我們正擴大 GPT‑6 Astra 在 Daybreak Blue 的 Alpha 測試對象，開放更多組織和個別資安研究人員參與。有興趣的話，請告訴我們(在新視窗中開啟)。
新使用者與組織可以申請加入 Daybreak，運用我們的網路安全技能、產品與合作夥伴資源展開防禦工作。
