国防総省との合意
2026年3月2日更新
協議を通じて同省は、当社のツールが国内監視に使用されないようにするという当社の方針を共有していることを明確にしました。当社の原則をより明確にするため、双方で協力し、契約に追加の文言を盛り込みました。
この文言では、商業的に取得された個人情報や個人を特定できる情報の取得・利用を含め、当社のツールを米国人に対する国内監視に使用しないことを明確にしています。また同省は、国家安全保障局（NSA）などの国防総省の情報機関によって当社のサービスが使用されないことを確認しました。これらの機関にサービスを提供する場合には、新たな契約が必要になります。
追加された文言は次のとおりです。
- 米国憲法修正第4条、1947年国家安全保障法、1978年 FISA 法などの適用法に従い、AI システムを米国人および米国国民に対する国内監視の目的で意図的に使用してはなりません。
- 疑義を避けるため付言すると、同省は、この制限が、商業的に取得された個人情報または個人を特定できる情報の取得・利用を含め、米国人または米国国民に対する意図的な追跡、監視、モニタリングを禁止するものであると理解しています。
国防総省は、フロンティア AI 研究機関、クラウドプロバイダー、および同省の政策・運用部門のリーダーで構成される作業部会を招集する予定です。OpenAI もこれに参加し、AI の新たな能力、プライバシー、国家安全保障に関する課題について継続的に議論する重要な場になると期待しています。
これらの更新は、先週発表した枠組みを基盤とするものです。今後、ほかの研究機関が同省と協力していくための道筋となることを期待しています。
OpenAI は昨日、国防総省と、機密環境に高度な AI システムを展開するための合意に達しました。また、同様の契約条件を他の AI 企業にも適用できるようにするよう要請しました。
当社の合意には、Anthropic との合意を含め、これまでの機密 AI 展開に関する合意と比べても、より多くの安全対策が盛り込まれていると考えています。その理由は次のとおりです。
当社には、国防総省との取り組みを進めるにあたり、3つの主要なレッドライン（越えてはならない一線）があります。これらは、他の複数の主要な AI 開発企業とも広く共有されている考え方です。
- 国内での大規模監視を目的として OpenAI の技術を使用しないこと。
- 自律型兵器システムの指揮に OpenAI の技術を使用しないこと。
- 重大な影響を伴う自動化された意思決定（例：「ソーシャルクレジット」のような仕組み）に OpenAI の技術を使用しないこと。
他の一部の AI 開発企業では、国家安全保障分野での導入にあたり、安全上の技術的な枠組みを縮小または撤廃し、その代わりに主に利用ポリシーに依拠している例もあります。当社のアプローチの方が、許容されない利用をより確実に防げると考えています。
この合意のもとでは、重要なレッドラインを守るため、より包括的で多層的な仕組みを設けています。当社は安全に関する技術基盤について最終的な裁量を保持し、クラウド経由で展開します。また、適切な認可を受けた OpenAI の担当者が関与し、契約上の保護措置も講じます。これらは、米国法に基づく既存の保護措置に加えて講じられるものです。
民主主義の原則を尊重しています。この技術の重要性を踏まえると、AI の取り組みと民主的なプロセスとの深い連携こそが、唯一望ましい前進の道だと考えています。また、当社の技術が世界に新たなリスクをもたらし得ることも認識しています。そのうえで、米国を守る立場にある人々が最善のツールを利用できることが重要だと考えています。
当社の合意には、以下の内容が含まれます。
1. 展開の仕組み。本合意はクラウドのみでの展開を前提としており、当社が運用する安全に関する技術基盤には、これらの基本原則を含む複数の安全対策が組み込まれています。当社は、国防総省に対して「安全対策を無効化した」モデルや、安全性に関する学習を経ていないモデルを提供しません。また、自律型致死兵器に使用される可能性があることから、当社のモデルをエッジデバイスに展開することもありません。
この展開の仕組みにより、レッドライン違反を検知する分類器の運用や更新を含め、これらのレッドラインが守られているかを当社が独立して確認できるようにしています。
2. 当社の契約。関連する契約条項は以下のとおりです。
国防総省は、適用される法令、運用上の要件、および確立された安全および監督の手続に従い、合法的な目的の範囲内で AI システムを使用することができます。AI システムは、法令、規則、または省の方針により人間による統制が求められる場合に、自律型兵器を自律的に指揮する目的で使用してはなりません。また、同じ権限の下で人間の意思決定者の承認を要するその他の重大な意思決定を行う目的でも使用してはなりません。DoD 指令 3000.09（2023年1月25日付）に基づき、自律および半自律システムにおける AI の利用は、配備前に現実的な環境において意図どおりに機能することを確認するため、厳格な検証、妥当性確認、および試験を受けなければなりません。
情報活動において個人情報を取り扱う場合は、米国憲法修正第4条、1947年国家安全保障法、1978年外国情報監視法、大統領令12333、および明確な外国情報目的を求める適用可能な DoD 指令に従うものとします。AI システムは、これらの法的枠組みに基づき、米国人の個人情報を無制限に監視する目的で使用してはなりません。また、本システムは、ポッセ・コミタトゥス法およびその他の適用法により認められる場合を除き、国内の法執行活動に使用してはなりません。
3. AI 専門家の関与。政府の取り組みを支援するため、セキュリティクリアランスを取得した OpenAI のエンジニアを現地に配置し、安全性およびアライメントの研究者も、同様にクリアランスを取得したうえで関与する体制を取ります。
なぜこの合意を結んだのでしょうか。
第一に、米軍が任務を遂行するうえで、強力な AI モデルは不可欠だと考えています。特に、潜在的な敵対勢力が AI 技術を自らのシステムに取り入れつつあり、脅威が高まっている状況を踏まえると、その重要性は一層高まっています。当初、当社は機密環境での展開に関する契約をすぐに結ぶことはしませんでした。当社の安全対策やシステムが十分に整っているとは考えていなかったためです。その後、レッドラインが越えられない形で機密環境での展開を行えるよう、安全対策の整備を進めてきました。
また、国家安全保障関連の業務において性能を高めることを目的に、重要な技術的安全対策を取り除くことには、これまでも、そして現在も応じる考えはありません。私たちは、それが米軍を支援するうえで適切な方法ではないと考えています。
第二に、国防総省と米国の AI 開発企業の間の緊張を和らげることも目的としていました。今後の望ましい展開のためには、政府と AI 開発企業の間で実質的かつ深い協力が不可欠だと考えています。今回の合意の一環として、同様の条件をすべての AI 開発企業にも提供すること、そして特に政府が Anthropic との問題の解決に向けて取り組むことを求めました。現状は、政府と AI 開発企業の間で次の協力段階を始めるにあたって、望ましい出発点とは言えません。
Anthropic は合意に至らなかったのに、なぜ OpenAI は合意できたのでしょうか。Anthropic が応じなかった条件を、OpenAI は受け入れたのでしょうか。
当社が把握している情報に基づく限り、当社の契約は、Anthropic の当初の契約を含むこれまでの合意よりも、より強い保証と、より責任ある安全対策を備えていると考えています。本契約では、展開がクラウド環境に限定されており（エッジでは展開されません）、当社の安全性の仕組みを当社が最適と考える形で運用し続けることができます。さらに、セキュリティクリアランスを取得した OpenAI の担当者が関与する体制となっているため、これらのレッドラインをより確実に守れると考えています。
Anthropic がこの合意に至らなかった理由について当社には分かりませんが、同社を含め、より多くの AI 開発企業がこの枠組みを検討することを期待しています。
Anthropic は「サプライチェーン上のリスク」に指定すべきだと考えますか。
いいえ。この点についての当社の立場は、政府に対してすでに明確に伝えています。
この合意により、国防総省が自律型兵器に OpenAI のモデルを使用することは可能になりますか。
いいえ。当社の安全性の仕組み、クラウド限定の展開、契約条項、そして既存の法律・規制・政策を踏まえると、そのような事態は起こり得ないものと考えています。さらに、追加の保証として、OpenAI の担当者が関与する体制を設けています。
この合意により、国防総省が OpenAI のモデルを用いて米国人に対する大規模な監視を行うことが可能になりますか。
いいえ。当社の安全性の仕組み、契約条項、そして国防総省が行う国内監視を厳しく制限する法律を踏まえると、そのような事態は起こり得ないものと考えています。さらに、追加の保証として、OpenAI の担当者が関与する体制を設けています。
安全性の仕組みを設けずにモデルを展開する必要がありますか。
いいえ。当社は展開する安全性の仕組みを完全に管理しており、安全対策を伴わない形でモデルを展開することはありません。また、安全性およびアライメントの研究者も関与し、時間の経過とともにシステムの改善に取り組みます。一部の AI 開発企業では、モデルの安全対策を縮小し、主に利用ポリシーに依拠している例もあります。しかし当社は、複数の仕組みを組み合わせた多層的なアプローチの方が、許容できない利用をより確実に防げると考えています。
政府が契約条項に違反した場合はどうなりますか。
一般の契約と同様に、相手方が契約条項に違反した場合には、当社は契約を解除することができます。そのような事態が起きるとは想定していません。
政府が法律や既存の国防総省の政策を変更した場合はどうなりますか。
当社の契約では、監視および自律型兵器に関する法令や政策を、現在の内容に基づいて明示的に参照しています。そのため、将来これらの法令や政策が変更された場合でも、当社のシステムの利用は、本合意に反映されている現在の基準に従う必要があります。
Anthropic がブログ記事（新しいウィンドウで開く）で国防総省との協議について述べた主張をどのように受け止めていますか。
Anthropic は、その投稿の中で、自社のレッドラインとして2つの項目を挙げています（当社も同じ2つに加え、3つ目として「重大な影響を伴う意思決定の自動化」をレッドラインとしています）。また、当時国防総省から提示された契約では、これらのレッドラインが守られるとは考えられないとする理由も説明しています。以下では、これらのレッドラインが当社の契約では守られると考える理由を説明します。
- 国内における大規模監視。当社との協議の中で、国防総省は国内における大規模監視を違法とみなしており、この目的で利用する予定はないことが明らかでした。当社は、大規模な国内監視が合法的な利用には含まれないことを、契約条項の中で明確にしています。
- 完全自律型兵器。当社の契約で想定しているクラウドでの展開では、完全自律型兵器に当社のモデルを使用することはできません。そのような用途にはエッジ環境での展開が必要となるためです。
こうした保護対策に加えて、当社の契約では、安全性の仕組みや OpenAI の技術専門家の関与などを含む、多層的な安全対策を設けています。
