OpenAI-Hugging Face 事件（在新視窗中開啟）是網絡安全的轉捩點，因為它讓我們得以窺見一般威脅行為者的能力在未來數月將如何演變。過去數星期，我與許多機構交流後看到一個明確共識：它們知道必須以前所未有的速度，從根本上提升網絡安全實務。本文將分享我們如何保衛 OpenAI、其他機構今天可採取的具體行動，以及為何現在正是行動之時。
全球各地開發的 AI 模型，越來越能夠自動執行現實世界網絡攻擊的部分環節，令長期存在的安全缺口，從深藏於人手編寫軟件中的錯誤，到被遺忘的權限，都更容易被發現和利用。同樣的 AI 能力也為防禦人員提供尋找和修正這些弱點的新方法，但他們必須立即行動。如果企業果斷行動，包括打好基本功並以 AI 大幅增強團隊能力，我們就能令互聯網比以往任何時候都更安全。
在 OpenAI-Hugging Face 事件中，一個智能代理群組不但能自主滲透 OpenAI 的研究基礎設施，還攻入另一家公司的生產基礎設施；它把多種漏洞串連起來利用，從過往未知的安全缺陷，到使用已外洩至互聯網的用戶帳戶憑證。情況越來越明顯：每家公司的技術債務（在新視窗中開啟）都掩蓋着重大缺陷，防禦人員必須搶在攻擊者之前找出並修正它們。
為了讓防禦人員相對攻擊者更具優勢，我們今年較早時開始只向可信任的防禦人員提供網絡安全能力。此後，多家公司已推出具備網絡安全能力的開放權重模型，與前沿水平僅相差數個月。其中最新的模型似乎預定於八月底推出（在新視窗中開啟），並很可能會大幅加快威脅形勢的演變。
AI 驅動的攻擊者很快便能在眾多現有系統中找出長期存在的缺陷，但 AI 同樣會令防禦人員更容易尋找、釐定優先次序並修正這些缺陷。網絡安全仍是一場攻防戰，但 AI 或會從根本上改變其成本結構（在新視窗中開啟），令防禦人員取得優勢。例如，我們正開始專門訓練模型，使其編寫安全程度超越人類的程式碼。我們的模型也極擅長數學證明，可用於以形式化方式驗證軟件安全性，突破過往人類難以處理的問題。
OpenAI-Hugging Face 事件後，我請 ChatGPT 工作（使用公開提供的 GPT‑5.6 Sol）評估 gregbrockman.com（在新視窗中開啟） 的安全性。這是一個託管於 AWS，並以 Cloudflare 作為前端入口的簡單靜態網站，因此我原以為可供漏洞存在的攻擊面不大。
約 15 分鐘內，它便發現了 13 個問題。當中許多問題本身或許無法利用，但我可以想像它們與其他漏洞串連後，可能造成重大影響。我沒有設定 DNS 記錄來防止攻擊者冒充我發送電郵；網站使用了不安全版本的 jQuery；Cloudflare 透過未加密的 HTTP 將請求轉發至 AWS。
其後，我請 ChatGPT 工作修正這些問題，而它在一小時內完成了。它在我的瀏覽器開啟 Cloudflare 控制台，逐一點按多個按鈕，正確設定 DNS、TLS 及進階安全設定；從網站完全移除 jQuery；將網站由 AWS 遷移至 Cloudflare Pages；並開始分階段部署 DMARC（在新視窗中開啟）。
而這只不過是我的個人網站。這個小例子說明，現有模型如何擔當網絡安全守護者：找出人員因時間或專業知識不足而無法處理的各種零散問題（它修正的許多設定，我雖略有所知，卻無法立即說出正確設定方式），再按經適當調整的推出計劃加以修正。
Hugging Face 事件顯示，我們低估了 AI 模型在現實世界中的網絡安全能力。因此，我們正加強安全要求，這亦令現有的安全研究和內部系統防護工作變得更加迫切。
我想分享一些 OpenAI 當前加強系統防護的方法，希望能對其他機構有所幫助。為保護 OpenAI，我們正大力投資於基礎控制措施，把基本功做好，並以前沿智能增強防禦能力。這項策略有四大支柱。
首先，我們正運用模型協助保障程式碼安全。Codex（包括我們的網絡安全外掛程式）會驗證程式碼變更、識別漏洞，並協助開發人員在部署前修正問題。我們的目標並非只是找出更多需要人手驗證的安全問題；真正的目標是在漏洞隨產品發佈前將其攔截，並縮短從發現問題到安全部署修正方案的時間。隨着我們持續訓練模型產生越來越安全的程式碼，我們的目標是消除新編寫程式碼中的某些軟件漏洞類別。
其次，我們正運用模型持續保護基礎設施。目前，幾乎所有初步安全警報都會先由智能系統分流處理，之後才交由人員跟進。這有助減輕防禦人員的繁重工作、加快應對速度，並讓人員專注於最能發揮其技能的範疇，包括辨識、判斷及實務專業知識。我們正逐步把這些偵測結果連接至範圍受限的自動應對措施，同時繼續由人員負責影響最大的決策。目標是確保我們能以機器速度偵測和應對安全問題。
第三，我們正運用前沿智能，持續列舉、探測及識別潛在攻擊路徑。透過識別漏洞、設定錯誤、權限過高的身份或非預期的信任邊界，我們便能在攻擊者加以利用前，迅速找出並堵塞這些缺口。這讓我們能夠在產品、基礎設施及系統中，持續評估、監察和測試安全不變條件，也就是我們認為應當成立的安全屬性。
最後，我們正大力投資於可規模化的基礎防禦。我們持續投資於安全架構和控制措施，採用縱深防禦及最小權限等策略，並設計只有在多項獨立控制措施同時失效時，才可能引發災難性後果的系統。在 AI 主導的未來，網絡隔離、工作負載強化、監察，以及安全修補與部署等傳統安全控制措施，將比以往任何時候都更重要。
時間至關重要，防禦人員必須全速採取以下行動。以下會提到 OpenAI 的技術，但生態系統中也有不少競爭產品值得評估。重點並非使用哪項工具，而是立即讓防禦團隊用上具備實力的 AI。
- 爭取機構承諾與支持。網絡安全風險正在急速轉變，請確保網絡安全及工程團隊獲得所需的支持、協作和資源，以迅速應對這些風險。與團隊進行桌上演練，模擬這些攻擊可能如何在機構內發生，以及你們將如何應對。
- 為網絡安全團隊配備智能代理。開始使用 Codex、Codex Security 外掛程式（在新視窗中開啟），或其他具備實力的智能代理式編碼及網絡安全工具。授予智能代理經批准的存取權限，使其可存取安全團隊需要評估的程式碼庫、基礎設施設定及技術文件。毋須等待全公司完成部署，應先從最優先的系統著手。
- 為智能代理配備安全專業知識。先採用由社群支援的技能（在新視窗中開啟），當中包括靜態分析、安全導向程式碼審查、漏洞變體分析、軟件供應鏈風險及其他網絡安全工作流程。然後，按照機構的架構、安全標準、威脅模型及操作手冊建立自訂技能。
- 立即評估自身系統的安全性。應優先評估可從互聯網存取的服務、身份驗證流程、基礎設施即程式碼、部署管道，以及處理敏感資料的系統。隨着團隊建立信心，逐步擴大掃描範圍。
- 處理現有的漏洞積壓。向智能代理提供程式碼掃描器結果、依賴項警報、網絡安全工作單、漏洞懸賞報告及過往評估結果。要求它分流處理這些發現、區分可利用的問題與雜訊、識別程式碼庫其他位置的相關漏洞，並建議應優先修正哪些問題。
- 將網絡安全審查直接納入開發流程。使用智能代理在程式碼變更合併前進行審查，並在 CI 中執行安全檢查。檢查身份驗證錯誤、繞過存取控制、憑證外洩、不安全的依賴項、不安全的預設設定、擴大生產系統存取權限的變更，以及其他漏洞。
- 讓智能代理協助修正發現的問題。對於已驗證的問題，要求它產生並驗證針對性修補程式、編寫迴歸測試，並確認漏洞無法再重現。影響重大的變更仍須由人員審查，但應消除從發現實際問題到向工程師提交安全修正方案之間不必要的延誤。
- 逐步自動化偵測結果分流。不要一開始便嘗試建立自主運作的網絡安全營運中心。首先，以唯讀方式掃描一個程式碼庫的安全性，或讓智能代理以唯讀方式存取現有記錄，審查過往已解決的警報。讓它總結證據並建議處理方式，而每項決定仍由人員作出。隨着信心增加，可先轉為對pull request 進行僅提供建議的掃描，再處理即時警報分流，最後自動關閉定義範圍明確的誤報。
- 在需要之前準備好 AI 輔助鑑證調查能力。申請網路可信存取（在新視窗中開啟），讓團隊獲准使用 GPT‑Daybreak‑Blue 執行獲授權的防禦工作，包括事故應對、偵測工程及惡意軟件分析。練習運用這項能力分析記錄、遙測資料及安全警報。
- 進行實驗、舉辦黑客週並迅速反覆改進。為了應對我們即將進入的新世界，我們需要建立各種新工具、改變工作方式，並提升所有人的能力。鼓勵員工進行實驗、安排黑客週以建立新能力，並專注於快速反覆改進，將問題的部分自動化處理的流程。迅速而循序漸進的進展會令防禦成效不斷累積；隨着團隊建立信心，你也可逐步擴大自主運作範圍。
沒有任何公司能獨力完成這項工作。我們呼籲 AI 實驗室、安全供應商、企業及維護人員分享經驗證的發現、修正方案和實用操作手冊，讓一家機構的發現能夠強化整個生態系統。
防禦人員的機遇之窗正在敞開。未來數月，每家機構都必須開始大幅自動化網絡安全計劃，方能維持系統安全。隨着 AI 持續進步，網絡安全社群亦必須立即行動，制定能讓防禦人員能力比攻擊者更快提升的工具、實務和操作手冊。這需要付出前所未有的龐大努力，但只要我們團結一致，就能締造一個比過往想像更安全的世界。
