我們與戰爭部達成的協議

昨日，我們與五角大樓達成協議，將在機密環境中部署先進 AI 系統。我們亦要求該等安排可供所有 AI 公司採用。

我們認為，我們的協議比以往任何機密 AI 部署協議（包括 Anthropic 的相關協議）設有更多防護措施。原因如下。

我們與戰爭部合作時遵循三項主要紅線，這些原則亦大致為多間前沿實驗室所共同遵循：

• 不得使用 OpenAI 技術進行大規模國內監控。
• 不得使用 OpenAI 技術指揮自主武器系統。
• 不得使用 OpenAI 技術作出高風險的自動化決策（例如「社會信用」系統）。

其他 AI 實驗室在國家安全部署中已減少或移除其安全防護措施，並主要依賴使用政策作為保障。我們認為，我們的做法更能防止不可接受的用途。

在本協議中，我們透過更全面的多層防護策略，來保障上述紅線。我們保留對安全架構的全面自主權，只以雲端方式部署，並由通過安全審核的 OpenAI 人員參與監督，同時設有強而有力的合約保障。這些安排亦是在美國現行法律保障之上進行。

我們堅信民主制度。鑑於此項技術的重要性，我們認為，唯一可行的前路是 AI 發展與民主進程深度合作。我們亦相信，我們的技術將為世界帶來新的風險，而我們希望負責保衛美國的人員能擁有最佳工具。

協議內容包括：

1. 部署架構。這次部署只限雲端環境，由我們運行包含上述原則及其他安全措施的安全架構。我們不會向戰爭部提供「移除防護措施」或未經安全訓練的模型，亦不會將模型部署於邊緣裝置（因為這些裝置可能有被用於自主致命武器的風險）。

我們的部署架構將讓我們能獨立驗證上述紅線未被跨越，包括運行及更新分類器。

2. 合約條款。相關條款如下：

戰爭部可在符合適用法律、作戰需要以及既有安全與監督程序的前提下，將 AI 系統用於所有合法用途。AI 系統不得在任何法律、規例或部門政策要求人類控制的情況下，獨立指揮自主武器；亦不得在相同授權下承擔其他須由人類決策者批准的高風險決定。根據國防部指令 3000.09（2023 年 1 月 25 日頒佈），任何用於自主或半自主系統的 AI，於部署前必須經過嚴格的驗證、確認及測試，以確保其在現實環境中按預期運作。

在情報活動方面，任何涉及私人資料的處理，均須符合《美國憲法第四修正案》、《1947 年國家安全法》、《1978 年外國情報監察法》、行政命令 12333，以及相關國防部指令所要求的明確外國情報目的。AI 系統不得在上述法律框架之外，用於無限制監控美國人士的私人資料。此外，除《波斯科米塔圖斯法》（Posse Comitatus Act）及其他適用法律所允許的情況外，此系統亦不得用於國內執法活動。

3. AI 專家參與。我們將派駐通過安全審核的 OpenAI 工程師支援政府工作，並由通過安全審核的安全與對齊研究人員持續參與監督。

為何作出此安排？

首先，我們認為美國軍方確實需要強大的 AI 模型支援其任務，尤其是在面對威脅持續增加之際，潛在對手日益將 AI 技術整合至其系統中。我們最初並未立即簽訂機密部署合約，是因為當時我們認為相關安全保障與系統尚未準備就緒。我們一直致力確保機密部署能在不跨越紅線的保障機制下進行。

我們從不願為提升國家安全工作表現而移除關鍵技術保障措施，過去如此，如今亦不變。我們認為這並非支援美國軍方的正確方式。

其次，我們亦希望緩和戰爭部與美國 AI 實驗室之間的緊張關係。要有良好的未來，有賴政府與 AI 實驗室之間進行真正且深度的合作。作為協議的一部分，我們要求向所有 AI 實驗室開放相同條款，並特別要求政府嘗試與 Anthropic 解決相關問題；目前的狀況並非政府與 AI 實驗室展開下一階段合作的理想起點。

為何你們能達成協議，而 Anthropic 未能？你們是否簽署了他們拒絕接受的條款？

根據我們所掌握的情況，我們認為本合約較早前的協議（包括 Anthropic 的原始合約）提供更強保障及更負責任的安全措施。我們認為，我們的紅線在本協議下更具可執行性，因為部署只限於雲端（而非邊緣裝置）、保留我們認為最適合的安全架構運作方式，並由通過安全審核的 OpenAI 人員持續參與監督。

我們不清楚 Anthropic 為何未能達成此協議，並希望他們及其他實驗室能考慮參與。

你們是否認為 Anthropic 應被指定為「供應鏈風險」？

我們不認同此決定，同時已向政府清楚表達立場。

這項協議是否允許戰爭部使用 OpenAI 模型驅動自主武器？

不會。基於我們的安全架構、只限雲端部署、合約條款，以及現行法律、規例與政策，我們有信心此情況不會發生。此外，我們亦將安排 OpenAI 人員持續參與監督，以提供額外保障。

這項協議是否允許戰爭部使用 OpenAI 模型對美國人士進行大規模監控？

不會。基於我們的安全架構、合約條款，以及對戰爭部國內監控活動設有嚴格限制的現行法律，我們有信心此情況不會發生。此外，我們亦將安排 OpenAI 人員持續參與監督，以提供額外保障。

是否須在沒有安全架構的情況下部署模型？

否。我們保留對所部署安全架構的全面控制，並不會在沒有安全防護措施的情況下部署模型。此外，我們的安全與對齊研究人員將持續參與監督，並協助持續改善系統。我們了解到部分 AI 實驗室已減少模型防護措施，主要依賴使用政策作為保障，但我們認為分層防護方式更能防止不可接受的用途。

如果政府違反合約條款，會如何處理？

與任何合約一樣，如對方違反條款，我們可終止合約。我們不預期此情況發生。

如果政府修改法律或戰爭部政策，那會怎樣？

我們的合約明確引用現行監控與自主武器相關法律及政策（即「以現時有效版本為準」），即使未來法律或政策有所變動，我們系統的使用仍須符合合約所反映的現行標準。

如何回應 Anthropic 在其網誌⁠（在新視窗中開啟）中就與戰爭部討論所提出的論點？

在他們的文章中，Anthropic 提出兩項紅線（我們亦有相同兩項，並額外加入第三項：高風險自動化決策），同時說明他們認為根據當時所見的戰爭部合約，未必能保障這些紅線。以下為我們認為這些紅線在本合約下能獲保障的原因：

• 大規模國內監控。在我們的交流中，戰爭部明確表示大規模國內監控屬非法行為，並無計劃用於此用途。我們亦確保在合約中明確列明，該等用途不屬於合法使用範圍。
• 完全自主武器。這項合約所涵蓋的雲端部署範圍不允許驅動完全自主武器，因為該等用途需要於邊緣裝置部署。

除上述保障外，我們的合約亦提供額外分層安全措施，包括我們的安全架構以及 OpenAI 技術專家持續參與監督。