OpenAI-Hugging Face 事件(在新視窗中開啟)是網路安全的重大轉折點，讓我們得以一窺一般威脅行為者的能力將在未來數月如何演變。過去幾週，我與許多組織交流後發現一項明確的共識：他們知道，必須以前所未有的速度，從根本上提升網路安全實務。本文將分享我們如何保護 OpenAI、其他組織今天就能採取的具體步驟，以及為何現在正是行動的時刻。
全球開發的 AI 模型愈來愈能自動執行真實網路攻擊的部分環節，長久存在的安全缺口因此更容易被發現和利用，從深藏於人類編寫軟體中的錯誤，到遭遺忘的權限皆然。同樣的 AI 能力也為防禦方提供尋找和修補這些弱點的新方法，但他們必須立即行動。只要企業果斷行動，包括強化基本功並以 AI 大幅提升團隊能力，我們就能讓網際網路比以往任何時候都更安全。
在 OpenAI-Hugging Face 事件中，一個智慧體集群不僅自主入侵了 OpenAI 的研究基礎架構，也滲透另一家公司的正式環境基礎架構；它串連利用多種漏洞，從先前未知的安全缺陷，到使用已外洩至網路的使用者帳戶憑證。情況愈來愈明朗：每家公司的技術債(在新視窗中開啟)都掩蓋了重大缺陷，防禦方必須搶在攻擊者之前找出並修正這些問題。
為了讓防禦方比攻擊者更具優勢，今年稍早，我們開始僅向受信任的防禦方開放網路安全能力。此後，多家公司陸續發布具備網路安全能力的開放權重模型，與前沿水準僅相差數月。其中最新的模型似乎預定於八月底發布(在新視窗中開啟)，並很可能大幅加速威脅情勢的演變。
雖然 AI 驅動的攻擊者很快就能找出許多既有系統長久存在的缺陷，AI 也會讓防禦方更容易找出相同缺陷、排定優先順序並加以修正。安全攻防依然是一場貓捉老鼠的遊戲，但 AI 可能改變攻防雙方的成本與效益(在新視窗中開啟)，讓防禦方獲得根本優勢。例如，我們已開始專門訓練模型撰寫安全程度超越人類水準的程式碼。這些模型也極擅長數學證明，因此可用來對軟體安全性進行形式驗證，完成長久以來人類難以處理的工作。
OpenAI-Hugging Face 事件發生後，我請 ChatGPT 工作（使用公開提供的 GPT‑5.6 Sol）評估 gregbrockman.com(在新視窗中開啟) 的安全性。這是一個簡單的靜態網站，託管於 AWS，並以 Cloudflare 作為前端入口，因此我認為攻擊面應該不大。
大約 15 分鐘後，它便發現 13 個問題。許多問題本身可能無法被利用，但我可以想像，若與其他漏洞串連起來，便可能造成重大影響。我的 DNS 紀錄並未設定為防止攻擊者偽造來自我的電子郵件；網站使用不安全版本的 jQuery；Cloudflare 則透過未加密的 HTTP 將請求轉送至 AWS。
接著，我請 ChatGPT 工作修正這些問題，而模型在一小時內便完成修正。ChatGPT 在我的瀏覽器中開啟 Cloudflare 控制台，接著點選多個按鈕，正確設定 DNS、TLS 和進階安全性選項；從網站中徹底移除 jQuery；將網站從 AWS 遷移至 Cloudflare Pages；並開始分階段導入 DMARC(在新視窗中開啟)。
這還只是我的個人網站。這個小例子顯示，現有模型可以充當網路安全守護者，找出人類沒有時間或專業能力處理的各種零星問題（模型修正的許多設定，我只略有所知，無法立即判斷正確的設定方式），再根據妥善規劃的部署方案加以修正。
Hugging Face 事件顯示，我們低估了 AI 模型在現實世界中的網路攻擊能力。因此，我們正強化相關安全要求，這也讓既有的安全研究與內部資安工作變得更加迫切。
此刻，我想分享一些 OpenAI 的防護做法，希望能對其他組織有所幫助。為了保護 OpenAI，我們正大力投資基礎控制措施，確保基本功落實到位，同時運用前沿 AI 能力強化防禦。這項策略包含四大支柱。
首先，我們運用模型協助保護程式碼。Codex（包括安全性外掛程式）會驗證程式碼變更、找出漏洞，並協助開發人員在部署前修正問題。我們不希望只是產生更多需要人工驗證的資安問題；目標是在真正的漏洞進入正式環境前找出來，並縮短從發現問題到安全部署修補程式的時間。我們也持續訓練模型撰寫更安全的程式碼，希望能消除新編寫程式碼中的某些軟體漏洞類型。
其次，我們讓模型持續投入基礎架構防禦。如今，幾乎所有初步安全性警示都會由 AI 先行分流，再交由人員處理。這能減輕防禦人員的繁瑣工作、縮短應變時間，讓人員專注發揮辨識、判斷與實務專業。我們正逐步將偵測結果連結至範圍明確的自動化應變措施，同時仍由人員負責影響最大的決策。目標是以機器運算的速度偵測並回應安全性問題。
第三，我們運用前沿 AI 能力，持續盤點、探查並找出潛在攻擊路徑。透過找出漏洞、錯誤設定、權限過高的身分或無意形成的信任邊界，我們能迅速發現並填補這些缺口，避免攻擊者加以利用。如此便能持續評估、監控及測試產品、基礎架構與系統的安全性不變條件，也就是我們認為應始終成立的安全屬性。
最後，我們正大力強化大規模運作所需的安全基本功。我們持續投資安全架構與控制措施，採行縱深防禦、最小權限等策略，並將系統設計成只有在多項獨立控制措施同時失效時，才可能發生災難性事件。在 AI 時代，網路隔離、工作負載強化、監控，以及安全的修補與部署流程等傳統安全控制措施，將比以往更重要。
時間緊迫，防禦方必須全速推進以下步驟。下文會提到 OpenAI 的技術，但生態系中也有許多競爭產品值得評估。當務之急不是選定某項工具，而是現在就讓防禦人員能夠實際使用能力強大的 AI。
- 爭取組織承諾與支持。安全風險正迅速變化，請確保安全與工程組織獲得所需的支持、合作與資源，才能迅速應對安全風險。與團隊進行桌上演練，模擬這類攻擊可能如何在組織中出現，以及你們將如何應變。
- 為安全團隊配備智慧體。開始使用 Codex、Codex Security 外掛程式(在新視窗中開啟)，或其他能力強大的智慧體式程式碼編寫與安全工具。授予經核准的存取權限，使其能存取安全團隊需要評估的程式碼庫、基礎架構設定與技術文件。不必等到全公司部署完成，先從最高優先級的系統著手。
- 讓該智慧體具備安全專業知識。先從社群支援的技能(在新視窗中開啟)著手，其中包括靜態分析、安全導向的程式碼審查、漏洞變體分析、軟體供應鏈風險及其他安全工作流程。接著，依據組織的架構、安全標準、威脅模型與應變手冊建立自有技能。
- 立即對自有系統進行安全評估。優先評估面向網際網路的服務、驗證流程、基礎架構即程式碼、部署管線，以及處理敏感資訊的系統。隨著團隊建立信心，再逐步擴大掃描範圍。
- 逐一處理現有待處理漏洞。將程式碼掃描器的掃描結果、相依性警示、安全性工單、漏洞懸賞報告和過往評估結果提供給智慧體。請智慧體對這些資料進行分流，區分可利用的問題與雜訊、找出程式碼庫其他位置的相關漏洞，並建議優先修正項目。
- 將安全審查直接納入開發流程。使用智慧體在程式碼變更合併前進行審查，並在 CI 中執行安全檢查。檢查驗證錯誤、存取控制繞過、憑證外洩、不安全的相依項目、不安全的預設值、擴大正式環境系統存取權的變更，以及其他漏洞。
- 讓智慧體協助修正發現的問題。針對確認成立的問題，請智慧體產生並驗證範圍明確的修補程式、撰寫迴歸測試，並確認漏洞無法再重現。影響重大的變更仍應由人員審查，但應消除從找出真正問題到將安全的修補方案交給工程師之間的不必要延誤。
- 逐步自動化偵測分流。一開始不要試圖建立自主運作的資安營運中心。先對一個程式碼庫執行唯讀安全掃描，或讓智慧體以唯讀權限存取現有記錄，審查先前已結案的警示。由智慧體彙整證據並建議處置方式，每項決策仍由人員做出。隨著團隊逐漸建立信心，可依序採用提供建議的 pull request 掃描、即時警示分流，最後再自動關閉定義範圍明確的誤報。
- 在需要之前，先備妥 AI 輔助鑑識調查能力。申請網路安全可信存取(在新視窗中開啟)，並取得團隊使用 GPT‑Daybreak‑Blue 執行經授權防禦工作的資格，包括事件應變、偵測工程與惡意軟體分析。練習運用這項能力分析記錄、遙測資料與安全性警示。
- 勇於實驗、舉辦駭客週並快速迭代。我們即將邁入新世界，必須打造各式新工具、改變工作方式，並提升每個人的能力。鼓勵員工進行實驗、安排駭客週以打造新能力，並專注於快速迭代，逐步自動化問題中的小型環節。快速而循序的進展會讓防禦成效持續累積；隨著團隊建立信心，也能逐步提高自主程度。
任何公司都無法獨力完成這項工作。我們呼籲 AI 實驗室、安全廠商、企業與維護者分享經過驗證的資安問題、修正方案與實用應變手冊，讓任何組織找出的問題都能協助強化整個生態系。
防禦方的機會之窗已經開啟。未來數月，所有組織都必須開始大幅自動化安全計畫，才能維持安全。隨著 AI 持續進步，安全社群也必須立即挺身而出，制定能讓防禦方能力比攻擊方提升得更快的工具、實務與應變手冊。這將需要前所未有的龐大投入，但只要我們團結合作，就能打造一個比過去想像中更安全的世界。
