Block 如何運用 OpenAI 技術打造 AI 驅動的安全防護
Block 正利用 OpenAI Daybreak 等 AI 系統縮短修補漏洞所需的時間，讓安全團隊騰出精力，專注於策略性工作。
偵測調校
<1
利用七個月的遙測資料回溯測試擬議偵測調整所需的小時數
修補方案
18
從提交漏洞概述到自動提出修補方案所需的分鐘數
誤報分流
約 600
每季為分析員節省的工作時數
調查
約 1,100
每季完成的調查工作，相當於分析員的工作時數
Block 是 Square、Cash App 和 Afterpay 背後的公司，其安全團隊運用 OpenAI Defense Factory，讓 AI 以人類團隊無法企及的規模，處理漏洞發掘、偵測和應對工作。藉助 OpenAI Daybreak 等 AI 系統，Block 現在只需數小時，就能完成過往需要數星期的工作。
「AI 正在縮短人類從構想到行動所需的時間。有一段時間，大家認為攻擊者更快、更靈活，因此佔有優勢。但有了 Daybreak 等系統，加上 OpenAI 工具的進步，防守方也能以同樣的技術還擊，跟上 AI 迅速普及的步伐。」
從程式碼生成到安全營運，Block 的安全團隊一直致力以負責任的方式，將 AI 引入各項工作流程。資訊安全總監 James Nettesheim 表示：「核心其實是多了一位新隊友，能隨着你的需求擴大工作規模。」「這與較傳統的自動化不同，不需要逐步設定每個步驟。你可以向它提出一個相當特殊、尚未清晰界定的問題，再一起逐步解決。」
以往，檢視軟件錯誤或解析日誌等工作，往往需要數天甚至數星期才能完成。如今，團隊只需以往一小部分的時間，就能完成這些工作，而且每項結果仍由人員驗證。
例如在偵測調校方面，每次調查都會儲存原始查詢證據，因此團隊現在可在一小時內，利用七個月的正式環境遙測資料，回溯測試擬議的偵測調整。過往，這項工作需要以人手重新查詢數百宗舊個案，由於太耗時，實際上很少進行。
團隊也更講究如何為不同工作選用合適的模型。他表示：「我們以前總是使用最新的模型，但現在已經不必這樣做。」「學習為不同任務選擇不同模型，是一個持續摸索的過程。」Block 的安全任務執行框架建基於 Daybreak，協助將任務分派給合適的模型，並設有介入機制，讓人員接手任務，或讓代理互相驗證工作成果。團隊持續根據內部基準測試及實際表現評估這些系統，並在有需要時調整做法；如果交由人員審核才是負責任的選擇，就會將工作轉交人手處理。
自動化分流系統讓團隊能更快完成工作，處理的工作量也更多。Block 安全團隊的分流吞吐量提升了 50%，情報蒐集及調查量增加了 50%，並具備了全新的自主威脅獵捕能力。Nettesheim 表示：「這套系統每季完成的調查工作，相當於分析員約 1,100 小時的工作量，因為現在每一則警報所涉及的所有層面，都會得到全面而深入的調查。我們的系統處理每一則警報時，都像當天只有這一則警報一樣全力以赴。」
傳統掃描工具只能各自標示單一漏洞，但藉助 Daybreak，Block 的安全團隊可以做得更深入。模型協助推測可能的攻擊模式，並將一連串攻擊串連成完整的端到端入侵路徑，揭示可能已存在多年的漏洞。
在其中一宗個案中，一部手提電腦發出的警報，單獨看來只是輕微的政策違規問題。但在同儕覆核期間，模型追查了一個僅在證據中偶然出現的指標，將其與 Block 的身分日誌交叉比對，結果揭露了範圍大得多的一系列問題。「一則例行的終端裝置警報，最終促成了整場攻擊活動的瓦解。沒有任何單一工具能作出這種關聯比對。只有將兩個產品的日誌交叉分析，才會發現這個訊號。」James 說。
近期的一次紅隊演練，是 Daybreak 發揮作用的另一個例子。模型只獲得了有關某個內部系統的少量提示，便在約兩小時內串連出一條完整的攻擊路徑：SQL 注入、權限提升、建立立足點、列舉憑證，再轉向其他系統。這通常需要紅隊演練人員花數天才能完成。在近期的紅隊演練中，從提交漏洞概述到自動提出修補方案，只需 18 分鐘。
發現漏洞的價值，取決於能否將其修補。Nettesheim 介紹了團隊處理每項發現的流程：先找出問題位於哪一段程式碼，確認負責人，然後着手修補。「先提出修補方案，確認漏洞能否被利用，再驗證問題是否已修復；過程中由人員參與指導，並部署程式碼變更。」
代理雖然具備技術能力，卻不了解機構的背景，也不知道以往決策背後的考量。這些背景資訊和策略需要由人員提供，而他的團隊正是在這個環節介入，提供人手審核。Nettesheim 表示，隨着 AI 的判斷力在實踐中得到驗證，「我們會逐步將它應用於風險更高、更加敏感的系統。」
利用七個月的遙測資料回溯測試擬議的偵測調整，需時不到一小時。
在近期的紅隊演練中，從提交漏洞概述到自動提出修補方案，只需 18 分鐘。
每季為分析員節省約 600 小時的誤報分流工作。
每季完成的調查工作，相當於分析員約 1,100 小時的工作量。
分流吞吐量提升 50%。
情報蒐集及調查量增加 50%。
單是在偵測與應對工作上的應用，每季已為分析員節省約 600 小時原本用於誤報分流的時間。騰出這些時間後，團隊現在能投入更多精力進行深入調查，並以負責任的方式建立更多自動化流程。
隨着攻擊節奏加快、AI 模型不斷進步，Nettesheim 看到了從源頭減少引入漏洞的機會。這將讓安全團隊減少花在修補漏洞上的時間，將更多精力投放於預防性和策略性工作。
他表示：「OpenAI 讓每個人都能掌握這些先進能力，令優勢轉向防守方。」「以往，這些能力通常只掌握在極具知名度的科技公司和政府手中。但現在，所有機構，包括關鍵基建、學校和小型企業，都可以開始利用這項技術保護自己的網絡。」
