我們與戰爭部的協議

昨天，我們與五角大廈達成協議，將在機密環境中部署先進的 AI 系統，並要求將相同條件開放給所有 AI 公司。

我們認為，這份協議在機密 AI 部署方面設下的防護措施，比以往任何協議都更為周全，包括 Anthropic 的協議。下文說明原因。

我們與戰爭部的合作遵循三項主要紅線，而其他多間前沿實驗室亦大致遵循這些原則：

• 不得將 OpenAI 技術用於大規模國內監控。
• 不得使用 OpenAI 技術指揮自主武器系統。
• 不得將 OpenAI 技術用於高風險的自動化決策（例如「社會信用」等系統）。

其他 AI 實驗室在國家安全部署中，已減少或移除其模型的安全防護機制，並主要改以使用政策作為核心保障措施我們認為，我們的做法更能防止不可接受的用途。

在本協議中，我們透過更全面的多層防護策略，來保障上述紅線。我們對所部署的安全架構保有完全裁量權，僅採取雲端部署，並由已取得安全許可的 OpenAI 人員參與監督，同時設有強而有力的合約保障。此外，上述各項措施亦建立在美國現行法律的有力保障之上。

我們堅信民主制度。鑑於這項技術的重要性，我們認為，唯一可行的前進方向，是讓 AI 發展與民主程序之間展開深入且實質的合作。我們也相信，我們的技術將為世界帶來新的風險，因此我們希望負責保衛美國的人員能擁有最佳工具。

本協議包含：

1. 部署架構。此部署僅限雲端環境，我們將運行一套包含上述原則及其他防護機制的安全架構。我們不會向戰爭部提供「移除防護措施」或未經安全訓練的模型，亦不會將模型部署於邊緣裝置（因為此類裝置可能會被用於自主致命武器）。

這樣的部署架構使我們得以獨立驗證上述紅線未被逾越，包括運行並持續更新分類器。

2. 我們的合約。以下為相關條文：

戰爭部得在符合適用法律、作業需求，以及既有安全與監督機制的前提下，將 AI 系統用於所有合法用目的。AI 系統不得在法律、規程或部門政策要求人類控制的情況下，獨立指揮自主武器，亦不得在相同授權架構下承擔其他須經人類決策者核准之高風險決策。根據國防部指令 3000.09（2023 年 1 月 25 日頒布），凡用於自主或半自主系統的 AI，均須於部署前完成嚴格的驗證、確認與測試，確保 AI 在現實環境中如預期運作。

在情報活動方面，任何涉及私人資訊的處理，均須遵守《美國憲法第四修正案》、《1947 年國家安全法》、《1978 年外國情報監察法》、第 12333 號行政命令，以及要求具備明確外國情報目的之適用國防部指令。AI 系統不得在上述法律框架下，用於對美國人士之私人資訊進行不受限制的監控。本系統亦不得用於國內執法活動，除非《民兵團法》(Posse Comitatus Act) 及其他適用法律另有允許。

3. AI 專家參與。我們將派駐已取得安全許可的 OpenAI 工程師實地支援政府工作，並由同樣取得安全許可的安全與對齊研究人員全程參與監督。

為何要這麼做？

首先，我們認為美國軍方確實需要強大的 AI 模型來支援其任務，尤其是潛在對手日益將 AI 技術整合至其系統、相關威脅不斷升高之際。我們最初並未立即簽署機密部署合約，是因為當時我們認為相關防護措施與系統尚未準備就緒。然而我們一直致力確保機密部署能在防護機制下進行，避免逾越紅線。

我們從不願為提升國家安全相關工作表現而移除關鍵技術防護措施，過去如此，至今亦然。這並非支援美國軍方的正確方式。 

其次，我們也希望能緩和戰爭部與美國 AI 實驗室之間的緊張情勢。若要迎向更好的未來，政府與 AI 實驗室之間必須展開真正且深度合作。在本協議中，我們要求將相同條款開放給所有 AI 實驗室，並特別要求政府嘗試與 Anthropic 解決相關分歧；目前的狀況，並非政府與 AI 實驗室展開下一階段合作的理想起點。

為什麼你們能達成協議，而 Anthropic 卻未能達成？你們是否簽署了他們拒絕接受的條款？

根據我們所掌握的情況，我們認為，我們的合約相較於先前的協議（包括 Anthropic 的原始合約），提供了更完善的保障與更負責任的防護機制。我們認為，我們的紅線在本協議下更具可執行性，因為部署僅限於雲端（而非邊緣裝置），得以讓我們的安全架構依我們認為最適當的方式運作，並確保已取得安全許可的 OpenAI 人員持續參與監督。

我們不知道為什麼 Anthropic 未能達成這項協議，也希望他們及更多實驗室能考慮採用相同安排。

你們認為 Anthropic 應被認定為「供應鏈風險」嗎？

我們不認同此決定，同時已向政府明確表達立場。

這項協議是否會讓戰爭部得以使用 OpenAI 模型來驅動自主武器？

不會。根據我們的安全架構、僅限雲端的部署方式、合約條款，以及現行法律、規程與政策，我們有信心此情況不會發生。我們也會派駐 OpenAI 人員持續參與監督，提供額外保障。

這項協議是否會讓戰爭部得以使用 OpenAI 模型，對美國人士進行大規模監控？

不會。根據我們的安全架構、合約條款，以及現行法律對戰爭部進行國內監控所設下的嚴格限制，我們有信心此情況不會發生。我們也會派駐 OpenAI 人員持續參與監督，提供額外保障。

是否須在沒有安全架構的情況下部署模型？

不會。我們對所部署的安全架構保有完全控制權，且不會在缺乏安全防護機制的情況下進行部署。此外，我們的安全與對齊研究人員也會持續參與監督，並協助逐步改進系統。我們了解其他 AI 實驗室已減少模型防護措施，主要依賴使用政策作為保障，但我們認為，分層式做法更能防止不可接受的用途。

如果政府違反合約條款，你們會如何處理？

與任何合約相同，若對方違反條款，我們得終止合約。我們不預期此情況發生。

如果政府逕行修改法律或現行的戰爭部政策，會發生什麼事？

我們的合約明確引用現行監控與自主武器相關法律與政策，亦即以「目前有效的內容為準」，即使這些法律或政策在未來有所變動，我們系統的使用仍須符合協議所載的現行標準。

你們如何回應 Anthropic 在部落格文章⁠(在新視窗中開啟)中，針對他們與戰爭部討論所提出的論點？

在該篇文章中，Anthropic 提出其兩項紅線（我們亦有相同兩項，並額外加入第三項：高風險自動化決策），同時說明他們認為根據當時所見的戰爭部合約，未必能保障這些紅線的原因。以下說明為何我們認為，相同紅線在我們的合約中能獲得保障：

• 大規模國內監控。從雙方交流可以明確看出，戰爭部認為大規模國內監控屬於非法行為，且並未打算將我們的技術用於此目的。我們亦確保在合約中載明，該等用途不屬於合法使用範圍。
• 完全自主武器。這項合約所涵蓋的雲端部署範圍不允許驅動完全自主武器，因為此類用途必須在邊緣裝置部署方可實現。

除上述保障外，我們的合約亦設有額外分層式防護機制，包括我們的安全架構，以及由 OpenAI 技術專家持續參與監督。