跳至主要內容
OpenAI

隆重推出 Aardvark:OpenAI 的自主式安全研究員

目前已提供私有 Beta 版:媲美安全研究人員一樣思考的 AI 智慧體,能擴充來滿足現代軟體的需求。

載入中…

今天我們宣布推出 Aardvark:一款採用 GPT‑5 科技的自主式安全研究系統。

軟體安全是科技尖端研究中最關鍵、也最具挑戰性的領域之一。每一年在企業及開源程式庫裡都會發現數以萬計的新漏洞。資安人員面對的是令人膽怯的高壓任務,必須在對手發現系統漏洞前先偵測到這些問題並加以修補。在 OpenAI,我們正在努力增加資安人員的勝算。

Aardvark 代表了 AI 和安全研究領域的突破:這是一款自主運作的智慧體,能協助開發者和安全團隊大規模地偵測及修正安全漏洞。Aardvark 現已提供私有 Beta 版,以進一步驗證並優化該系統安全領域的功能。

Aardvark 運作原理

Aardvark 會繼續分析原始程式碼儲存庫來辨識安全漏洞、評估漏洞的可利用性、排列漏洞嚴重性的優先順序並建議針對性修補。

Aardvark 的運作方式是監控提交到程式碼庫的程式碼和變更內容,找出安全漏洞和可能被利用的方式,然後建議修正方式。Aardvark 並不依賴傳統的程式分析技巧,如模糊測試或軟體組成分析 (SCA),而是利用 LLM 的推理運算及工具運用來理解程式碼行為並找出漏洞。Aardvark 尋找漏洞的方式與人類安全研究員類似:讀取程式碼並加以分析、撰寫及執行測試、使用工具等等。

標題為「AARDVARK — 漏洞偵測智慧體工作流程」的圖表,顯示從 Git 儲存庫到威脅建模、漏洞偵測、驗證沙箱、Codex 修補、人工審閱,再到拉取請求。

Aardvark 依賴多階段的管道來辨識、說明及修復漏洞:

  • 分析:一開始先分析整個儲存庫來生成威脅模型,此模型能反映出它對專案的安全目標和設計的理解。
  • 提交掃描:在提交新程式碼時,根據整個儲存庫和威脅模型偵測提交層的變更來掃描安全漏洞。首次連接儲存庫時,Aardvark 會掃描其歷程紀錄,找出現有的問題。Aardvark 會逐步說明找到的漏洞,並標註程式碼供人工審閱。
  • 驗證:Aardvark 在找出可能的漏洞後,就會嘗試在隔離的沙箱環境中加以觸發,確認該漏洞是否可被利用。Aardvark 會說明採取了什麼步驟,確保回報給使用者的洞見正確無誤、品質優良,盡可能降低誤報的情況。
  • 修補:Aardvark 已與 OpenAI Codex 相整合,協助修正找到的漏洞。Codex 會產生修補程式,經由 Aardvark 掃描後附加到每個偵測到的漏洞,再交由人工審閱,然後只需透過按選即可完成高效的修補。

Aardvark 將與工程師並肩運作,並與 GitHub、Codex 和現有的工作流程整合,提供清晰可行的洞見且不會延誤開發時程。雖然 Aardvark 是為安全用途而打造,但我們在測試中也發現此系統還能偵測邏輯缺陷、未完成修正和隱私問題等漏洞。

即刻實現真實影響力

Aardvark 已服役數月,持續在 OpenAI 內部程式碼庫和外部業界合作夥伴的程式碼庫中運作;在 OpenAI 內部,Aardvark 已偵測出多項重大漏洞,對 OpenAI 的防護系統有諸多貢獻,合作夥伴則指出 Aardvark 的分析頗具深度,能找出只會在複雜條件下發生的問題。

在針對「golden」儲存庫進行基準測試時,Aardvark 辨識出 92% 的已知和合成引入漏洞,展示出高召回率與實際效果。

適用開源的 Aardvark

Aardvark 已應用於開源專案並發現了許多漏洞,我們均負責任地加以披露,其中十項還獲得「通用漏洞揭露」(CVE) ID。

身為數十年來開放研究和負責任披露的受益者,我們致力於提供回饋,貢獻工具和研究成果來為大家提升數位生態系統的安全性。我們計畫對精選的非商業開源程式碼庫提供免費掃描,好為開源軟體生態系統和供應鏈做出貢獻。

最近我們更新了外部協調揭露政策,採用對開發者友善的模式,著重於合作和影響力擴充,而不施加可能造成開發人員壓力的硬性揭露時程。我們預期類似 Aardvark 的工具將可偵測出越來越多的漏洞,因此想要透過合作永續的方式獲致長期的韌性。

為何重要

現在軟體已成為每個產業的骨幹,代表軟體漏洞對公司、基礎架構和社會來說,都是一種系統性的風險。單單 2024 年就回報了超過 40,000 個 CVE。我們的測試顯示約 1.2% 的程式碼提交都會引入漏洞,即使是很小的變更,也可能造成嚴重的後果

Aardvark 代表新型的資安人員優先模型:這款自主式的安全研究系統,能與團隊合作運作並隨著程式碼的演化而不斷提供防護。透過及早捕捉漏洞,驗證實際的可利用性並提供清楚的修正方法,Aardvark 可同時強化安全且不延誤創新進程。我們堅信,安全專業的普及使用定會帶來豐碩成果。我們先從私有 Beta 版開始,未來將在經驗累積後擴大使用對象。

私有 Beta 版現已開放

我們現在邀請精選合作夥伴加入 Aardvark 的私有 Beta 版測試。參與夥伴將可搶先取得使用權,並直接與我們的團隊合作以改進偵測準確度、驗證工作流程和回報體驗等。

我們將針對多種環境驗證使用效能。若你的組織或開源專案想要加入,請在這裡申請

作者

OpenAI

貢獻者

Akshay Bhat、Andy Nguyen、Dave Aitel、Harold Nguyen、Ian Brelinsky、Tiffany Citra、Xin Hu和Matt Knight