跳至主要內容

防禦方的機會之窗正在縮短

防禦者已經占有先機，但我們必須採取行動

OpenAI 的方法

防衛 工廠

打造持續防禦

僅靠傳統的網路防禦已不再足夠

如今，智慧體可以濫用日益普及的開放權重模型，長時間持續執行網路攻擊行動。為此，OpenAI 正在打造 Defense Factory。這項自動化防禦作業會持續找出、驗證並修復漏洞。

Cloudflare(在新視窗中開啟)、Ramp(在新視窗中開啟) 和 Google(在新視窗中開啟) 的團隊也在探索這種做法。在這裡，我們將分享自家 Defense Factory 背後的架構與流程，以及我們在打造它的過程中所學到的經驗。

最新的前沿模型正在找出已存在於生產環境中的漏洞

在最近一次資安衝刺專案中，我們使用最新的資安模型，在整個 OpenAI 找出、驗證並修補漏洞。我們動員了 250 多人，並以事件應變的緊迫感推動這項工作。

相對於高峰週，五個完整週內所選取並標記為「完成」或「已解決」的「緊急」與「高」發現項目報告。已記錄的完成狀態，並不能證明已部署的修復措施已經過獨立驗證。P0/P1 修復措施P0/P1 修復措施54631491535週

智慧體現在可以串連漏洞利用

智慧體會保留跨工作階段學到的資訊，以深入瞭解系統並串連弱點。過去不可行的複雜攻擊，如今可以自主執行。

示意攻擊鏈一條路徑穿越迷宮，連接連續的節點。每個已到達的節點都會啟用下一個節點，且先前的步驟仍會保持連接。這是一張概念示意圖，並非事件重建。

代理程式群組會成倍擴大攻擊規模

以群組形式平行運作的長時間執行智慧體，能以更大規模利用弱點，而且早在需要人員參與的資安回應找出並修補相同漏洞之前很久，就能做到這一點。

模型與代理在速度上趨於一致廣泛可用的模型和長時間執行的代理程式在頂端相連。兩條線向下延伸至「機器速度的利用」，該區域會隨著它們到達而由上至下填滿。標籤會全程保持可見。

防禦者已經占有先機，但我們必須採取行動

防禦方具備兩項結構性優勢。防禦方可以讓智慧體直接存取程式碼，並運用前沿模型搶得先機，領先濫用廣泛可取得的開放權重模型的攻擊者。

網路安全能力

達到前沿，然後持續跟上步伐資安能力向上遞增；時間則向右推進。前沿模型能力與廣泛普及的模型能力持續加速提升。防禦能力會維持不變，直到實施持續防禦為止。接著，防禦能力會呈 S 型曲線上升：先逐步進展，再快速提升，最後與前沿能力曲線平順銜接。防禦曲線與前沿能力曲線交會，之後匯成同一條上升軌跡。已部署的防禦措施與廣泛擴散的能力之間的藍色區域，代表防禦方的機會之窗。要跟上發展腳步，就必須持續投入。圖中的走勢僅供示意，並非實測結果或預測。

時間

  • 前沿
  • 防禦方能力
  • 廣泛普及

導入持續防禦

防禦方的機會之窗

這項先機就是防禦方的機會之窗。

防禦工廠

Defense Factory 是一套以智慧體為核心、持續發現並修復漏洞的作業模式。隨著攻擊者濫用能力日益強大的開放權重模型來加速行動，Defense Factory 可協助防禦方跟上攻擊者的腳步。智慧體會使用現有的資安與工程工具，可重複使用的技能則會定義智慧體遵循的工作流程。隔離且可重現的環境讓智慧體能調查所發現的問題，並準備經過測試的修正內容以供審查。團隊會逐步提高流程的自動化程度，減少交接，並縮短從發現問題到完成修復所需的時間。

傳統安全性

您現有的工具，理想情況下可讓代理程式透過 MCP、CLI 或 API 存取。

原始碼控制

GitHub · GitLab

安全性工具

Snyk · Semgrep · Tenable

問題與工作流程

Jira · Linear · ServiceNow

防禦 Factory

串連您現有工具的橋樑，讓代理程式能在持續性工作流程中主動找出並修復漏洞。

開發環境

隔離且可重現的環境 · Ona、Cloudflare、Modal

代理程式
  • Codex Desktop
  • Codex CLI
  • Codex Security CLI
安全技能

安全性掃描 · 分級處理發現項目 · 修正發現項目

自訂技能

通用型模型

Astra · Sol · Terra · Luna

安全性模型

Daybreak Blue · Daybreak Red

持續防禦的架構

Defense Factory 需要重現漏洞，並驗證修正是否有效。這需要可重現且隔離的開發環境，並具備正確的程式碼、相依性和服務，同時由編排與存取控制提供支援，讓代理能夠安全地大規模作業。

控制平面

擴展執行環境，並集中管理政策與機密資料。

資料平面

用於驗證發現事項的隔離式暫時性環境。

容器

開發者系統

提供智慧體運作所需的工具。

狀態與工作流程

追蹤你保護的項目、智慧體發現的事項，以及需要修正的事項。

資安與稽核

監控正在執行資安模型的代理程式，以協助確保安全執行及安全存取敏感的情境與資料。

在私有網路內，開發人員系統和狀態儲存區與控制平面及資料平面並列。控制平面包含工作負載協調、策略強制執行和認證代理。資料平面包含開發環境，其中包括開發容器、環境身分和主機監控。每個開發容器都包含智慧體任務執行框架、技能和應用程式。安全性和稽核透過主機活動、基礎架構安全性和智慧體稽核，監督整個系統。方框顯示元件和邊界。

防禦工廠如何強化傳統安全防護

水平捲動以查看 Factory 新增的內容。

工作常見瓶頸Defense Factory 為你帶來的助益
探索發現項目正等待調查。
發現項目會觸發自動調查。
分流重複項目會模糊優先順序。
已合併重複項目。可利用性已測試。
所有權發現項目正在等待負責人。
每個發現項目都有已驗證的負責人。
修復工程師反覆進行調查。
經測試的修補程式會連同佐證資料送達審查者。
驗證已合併的修正未經驗證。
已部署的修正會獨立重新測試。

一場 OpenAI 全公司的安全衝刺如何發展成防禦 Factory

隨著新的模型能力讓我們能更深入檢視我們的系統，我們加快並擴大了安全工作的步調與規模。我們宣布內部紅色警戒，並召集 Security、Applied 與 Research 團隊，針對數百個系統展開協調一致的衝刺行動。

動員人數
250+
涵蓋的服務區域
100+

「我們正以處理事件般的急迫性強化防禦。這是一項全員參與的工作，其優先順序高於所有其他事項，但關鍵業務營運除外。我們會將同樣的緊迫性延續到衝刺結束後，持續測試並強化防禦。」

– Thibault Sottiaux，OpenAI 核心產品與平台負責人

這次衝刺是我們防禦 Factory 的起點。我們正朝著建立持續防禦循環的方向邁進，以盤點並描繪我們的系統、找出並驗證弱點、指派負責人、驗證修復成果，並在每次執行中改善系統。

防禦運作循環

  1. 01

    盤點

    盤點, 連結, 更新

  2. 02

    探索

    掃描, 分析, 匯入

  3. 03

    動態驗證

    重現, 測試, 確認

  4. 04

    所有權指派

    辨識, 分派, 追蹤

  5. 05

    已驗證的修復

    修補, 部署, 驗證

學習、適應並提升自主性

SECURITY.md共用情境

SECURITY.md 代表共用的系統脈絡，而非循環中的另一個步驟。清查、漏洞發現、動態驗證、責任歸屬指派及已驗證的修復都會讀取現有脈絡，並貢獻各自學到的資訊。每次執行都會重複使用已建立的系統地圖、責任歸屬、調查證據及檢查項目，因此後續執行可專注於變更和未解決的風險，而無須重新開始。人員會審查影響重大的變更，並獨立驗證已部署的修復。脈衝表示一次脈絡貢獻，而非用來衡量進度或節省成效。

我們在打造防禦迴圈時學到的事

防禦循環需要合適的開發環境

可重現的開發環境是自主防禦運作循環的基礎。智慧體需要可大規模自動佈建的隔離環境，其中具備重現漏洞及測試修復所需的服務、相依套件和設定。這些環境必須是暫時性的，每次執行時新建立，並在之後連同其狀態一併捨棄，避免某次執行污染下一次執行。

自主能力必須從手動步驟開始逐步建立

我們一開始採用小批次與人工審核，隨著結果逐漸獲得信任，便移除重複的手動步驟。我們擴大智慧體可獨立執行的工作範圍，同時將其與可變更的內容分開界定。隨著智慧體承擔更多例行工作，人們轉而設定界限、處理例外情況，並檢查成果。

  • 在修復作業開始的同時，已盤點系統

    我們先對系統進行盤點。Codex 協助建立清冊，同時我們將現有發現彙整至共用待辦清單。早期要查詢責任歸屬，仍得靠人員找出正確團隊。我們將服務和責任歸屬資訊轉為可重複使用的輸入資料，讓智慧體能為一批批議題加上標籤並分派處理，而模稜兩可的案例則由人員處理。這使我們獲接受的責任歸屬指派率提升至 90.6%。 在同時，各團隊甚至在清查作業和擁有權模型完成之前，就已著手處理緊急問題。我們在第一天就結案了系統中 53 個緊急或高優先順序議題。

    已接受的所有權指派 路由後
    90.6%

  • 建置並優化智慧體分流機制

    Codex 根據嚴重性評分準則評估多批發現項目，並新增服務與擁有者脈絡。早期的嚴重程度標籤過於籠統，分類結果也會隨智慧體收到的指示而異。我們為評分標準和提示詞建立版本控管，加入可重複進行的評估，並記錄審查人員預期的優先順序和推理。 人類 抽查有助於調整優先順序，並找出品質不佳或重複的報告。我們也暫停了路由，直到去重複作業有所改善；去重複作業從少量、經審查的批次逐步發展為反覆執行，並將 37% 的發現項目識別為重複問題。

    被識別為重複項目的發現
    37%

  • 讓執行階段驗證可重複執行

    為讓智慧體執行程式碼、評估嚴重程度並篩除誤報而建立隔離環境，是從雜訊中辨識訊號的關鍵一步。但環境設定成了驗證工作的限制，因此我們先從可反覆執行的特定服務著手。 我們逐一解決缺少的相依性與設定差異，才能辨別某個發現項目是真的無法重現，還是測試本身無法正常執行。經過這些改善後，19.5%的發現結果可在執行階段重現，動態驗證後的誤報率為 0.81%。

    假陽性率 動態驗證後
    0.81%

  • 導入修補程式自動化並建立可重用的工作流程

    修復工作 100% 以 Codex 為基礎，智慧體會產生修補程式，而我們則改善路由與優先順序。我們為智慧體提供可重現的開發環境，以重現問題並針對執行中的服務測試提出的修補程式，同時檢查安全性修正及其對正常行為的影響。我們將經驗教訓記錄在 SECURITY.md 檔案和可重複使用的技能中，並在自動化修正檢查的同時，擴展由智慧體執行的掃描與分流。 後續追蹤檢查發現已合併的修補程式與部署到整個機群的修正之間存在落差。在小規模試行後，我們擴大了驗證範圍，並針對已確認的修復發表留言；同時，在我們釐清如何將部署延遲納入考量期間，仍維持關閉自動重新開啟功能。

    已復原修正率
    0.53%

技術部落格文章即將推出

OpenAI 對技能與安全性工作流程的做法

盤點

智慧體會將雲端紀錄、部署設定和服務擁有權資料整合成資產清冊。它們會將暴露的端點連結至程式碼和負責人，並保留證據與缺口，讓探索作業一開始就有更清楚的範圍。

水平捲動以瀏覽圖表。

雲端與資產記錄、來源與部署設定，以及服務與擁有者資料會一同進入可重現的開發環境。Codex 會使用建議的「建立及更新清冊」技能，以及現有的服務歸因參考資料，來產生資產清冊。同一份清冊是 Discovery 的第一項輸入。清冊寫入作業和重新整理排程必須由呼叫端工作流程設定。

輸入

代理工作流程

可重現的開發環境

輸出

  • 第三方平台
  • 成品
  • OpenAI 產品
  • 技能/外掛程式
  • 環境

將持續防禦列為優先事項

向您的團隊說明，從單一工作流程開始，並逐步建構 Defense Factory。我們將持續分享我們在 OpenAI 學到的經驗，以及實用的工作流程、工具與指引。

  1. 向你的團隊簡報

    使用簡報資料來說明 Defense Factory（防禦工廠）的必要性、設定方向，並就第一個工作流程達成共識。

    取得簡報投影片(在新視窗中開啟)

  2. 申請使用資安模型

    向 Daybreak 申請存取 OpenAI 先進網路安全模型的權限，以進行經授權的防禦性工作。

    申請 Daybreak 存取權(在新視窗中開啟)

  3. 執行單一工作流程

    使用 Codex Security 外掛程式中的技能來尋找漏洞、驗證發現事項，並準備修正方案。

    試用 Codex 安全性(在新視窗中開啟)

你已經是 OpenAI 的客戶了嗎？請與你的客戶團隊討論你的架構。

延伸閱讀

Hugging Face 事件

Hugging Face 事件重建背後的 Black Hat 演講。

(在新視窗中開啟)
  1. 事件分析智慧體入侵：技術時間軸Hugging Face 對該入侵事件的鑑識說明，包括攻擊路徑、調查與防禦措施的變更。(在新視窗中開啟)
  2. 事件揭露Hugging Face 模型評估安全事件OpenAI 對模型評估事件的說明、其與 Hugging Face 的回應措施，以及評估防護措施的變更。(在新視窗中開啟)
  3. 觀點防禦方的機會之窗為何防禦者採取行動的時間有限，以及組織如何運用 AI 強化資安防禦。(在新視窗中開啟)
  4. 計劃更新隨著網路防禦窗口縮小，擴展 DaybreakDaybreak 如何擴大對進階資安模型的存取權，並協助防禦者在適當防護措施下實際運用這些模型。(在新視窗中開啟)
  5. 說明文件ChatGPT LearnCodex Security 外掛程式安裝 Codex Security 外掛程式、掃描程式碼庫以及檢閱安全性發現結果的指南。(在新視窗中開啟)