我們只有有限時間加強網絡防禦。
未來數月,隨着全球各地的模型能力日益提升,AI 輔助的網絡攻擊將變得更普遍、更複雜。社區所依賴的企業和公共服務,包括醫院、濾水廠及支撐互聯網運作的基礎設施,均面臨風險。
現今的 AI 進展已為防禦人員提供新方法,修正多年累積的弱點。只要果斷行動,我們便能把握防禦方的有利時機,大幅提升數碼世界的安全水平。
我們提出以下原則,以便攜手應對:
- 認清沿用現有安全做法並不足夠。長期存在的程式錯誤、過多權限、錯誤設定、不安全且未經修補的軟件、薄弱的身份驗證,以及舊有系統的技術債,令系統暴露於風險之中。安全團隊,尤其是關鍵基礎設施的團隊,長期資源不足,亟需大幅增加工具和資源。
- 讓更多防禦人員能運用具備網絡安全能力的 AI。AI 讓更多防禦人員能運用專業技能,並能更快、以更低成本及更有效地完成核心安全工作。分享工具、實務知識和經驗證的修正措施,可讓一家機構的成果協助保護更多機構。
- 動員各方攜手應對。全球的網絡攻防能力正在提升,這可帶來整體正面效益:未來不應由任何一家企業掌控。這也表示全球必須共同應對,建立新的合作關係,以提高安全標準,並尋找應對新興網絡威脅的新方法。
我們每個人現在都可以降低風險。所有機構、網絡安全公司、技術合作夥伴、政府和前沿 AI 公司都擔當重要角色:透過工具、資金和實務支援,加快落實防禦人員的優先工作,尤其要支援預算有限的關鍵基礎設施機構。
我們認為下一步需要採取以下行動:
每個機構
立即將網絡防禦列為領導層的優先事項。提高安全標準,並以應對重大事故的迫切性和協調程度來達到這些標準;除關鍵業務運作外,這項工作應優先於一切。修正風險最高的弱點,在不影響必要服務的情況下驗證成效,並提高對所採購、開發和部署內容的安全要求,包括 AI 生成的程式碼。升級或更換系統,內建最小權限、嚴格的存取控制和縱深防禦。使用能力足夠且成本較低的模型擴大防護範圍,並運用前沿能力處理最棘手的問題。如果修補系統會影響必要服務,便應採用補償性控制措施並驗證其成效。
網絡安全公司和技術合作夥伴
協助帶領應對工作,防禦持續的 AI 輔助攻擊,包括不斷以各種前沿網絡攻防能力測試防禦措施、運用 AI 強化現有工具,以及與技術合作夥伴攜手即時填補缺口。讓關鍵基礎設施營運者能夠取得和部署 AI 驅動的防禦方案,提供實務協助以部署工具和驗證修正措施,並與關鍵基礎設施供應鏈的製造商及系統整合商合作修補漏洞和發佈臨時指引。分享威脅情報和經過測試的操作手冊,並按受保護的機構數目、遏制攻擊的速度,以及修正措施是否有效來衡量進展。
政府
協調地方、國家及國際層面的網絡防禦。加強現有的政府和業界渠道,以分享可付諸行動的威脅情報、優先處理最嚴重的風險,並在全球協調事故應對和復原工作。為網絡防禦提供資金,首先支援缺乏人手或預算採取行動的必要服務。加快擴展網絡可信存取計劃,尤其是關鍵基礎設施供應鏈的相關計劃,並讓其他防禦人員更廣泛地取得防禦能力。透過可信的安全服務供應商和合作夥伴,讓醫院、供水機構和地方政府取得能力強大的防禦型 AI、獲授權測試及實務支援。讓攻擊者付出代價。
前沿 AI 公司
以負責任的方式提供模型存取權限、充足資金、培訓和實務支援,尤其要支援資源不足的關鍵基礎設施防禦人員。建立可觀測性和安全工具,確保智能代理身份可追溯並可問責,並分享持續監察的最佳做法。投資於獲授權測試、非公開披露和經驗證的修正措施,並與政府、安全合作夥伴及開源維護人員分享工具、操作手冊和可信的威脅評估,以加強準備、應對和復原能力。分
我們可以讓共同依賴的數碼基礎設施更安全。
我們呼籲業界和政府領袖全力投入技術、資源和專業知識,推動這項工作。讓防禦人員掌握具備網絡安全能力的 AI,首先支援保護必要服務的團隊。修正最危險的弱點、驗證修正措施,並分享有效做法,讓其他機構能以此為基礎繼續改進。只要攜手合作,我們便能把現今的 AI 進展轉化為惠及所有人的持久安全提升。讓我們善用這些進展。
與來自各行業及政府的組織一起,呼籲就網絡防禦採取緊急的集體行動。
提交申請須經批准。已獲批准的機構只會以名稱列出,不會顯示標誌。