米国、州と連邦の取り組みによる AI 安全の推進

Chris Lehane 氏、グローバルアフェアーズ最高責任者

全米の州都からワシントン、国際会議の場に至るまで、フロンティア AI ガバナンスに向けた本格的なアプローチが形になりつつあります。それらは一体となって、AI に対する民主的なビジョンを前進させています。

カリフォルニア州、ニューヨーク州、そして直近ではイリノイ州が、最も強力な AI システムを統治するための共通の基準線へ国を近づけるフロンティア安全法制を進めています。

これらの取り組みは、OpenAI が 逆連邦主義 と呼ぶ考え方、すなわち共通の枠組みを通じて各州が共有された方向性の確立を支援するという流れの高まりを反映しています。州主導の取り組みが連邦レベルで進む取り組みと収れんする中、国家標準が形を取り始め、米国主導のグローバル AI 枠組みの基盤が築かれつつあります。AI の恩恵を一部の人だけでなく多くの人にもたらす最善の方法は、フロンティア安全を出発点とする重要な意思決定を、フロンティア研究所だけでなく民主的な政府が担うことだと私たちは考えています。

最終的には、その原則に根ざした国家的な枠組みが、米国にとって最も望ましい形です。しかしそれが存在しない状況では、各州が互いに呼応する法律を可決することで、そこへ近づくことができます。一歩ずつ、事実上の国家標準をつくることができます。

そして安全を優先するなら、そのような国家標準こそが最善の政策アプローチです。それにより、(a) 米国はイノベーションで主導権を保ち、AI を悪用しようとする悪意ある行為者にサイバーセキュリティなどの分野で対抗するために善良な側が必要なツールを確保できるよう、グローバルな民主的 AI スタックを構築する力を損なう規制の寄せ集めに足を取られずに済みます。また、(b) 米国はその国家標準を基に、民主的価値に立脚した AI の安全な展開に向けたグローバルなアプローチを生み出すうえで、最も強い立場に立てます。AI の安全な展開を最もよく支える国家標準と国際標準の確立を真に優先する安全枠組みをつくるには、州、連邦政府、そして国際的な議論を結びつける、粘り強い作業、真剣な目的意識、戦略が必要です。見せかけや徳を示すためだけのアプローチでは、この課題は解決できません。州レベルの混乱は、持続的な安全アプローチの利益にはならず、さらなる混乱を招くだけです。

そのアプローチを成功させるには、カリフォルニア州、ニューヨーク州、イリノイ州がそうしてきたように、各州が中核要素について足並みをそろえ続けるべきです。大きく言えば、それらの要素は次のとおりです。

• フロンティアモデルのリスク評価と、その評価および結果の公開を含む、文書化された安全枠組み
• 重大な安全インシデントの報告
• 独立した客観的監査を通じたガバナンスと説明責任

これら 3 州は合わせて、フロンティア AI の展開に民主的な監督を組み込みました。カリフォルニア州は中核となる開示枠組みを確立しました。ニューヨーク州は、このアプローチが複数の管轄区域で採用可能であることを示しました。イリノイ州は、主要な開示について独立した検証を義務付けることで、それを補完しました。

私たちは、法案には可決に必要な票を確保するため、追加条項が盛り込まれることが多いと認識しています。しかし私たちは、これらこそが逆連邦主義を通じて事実上の国家標準をつくるために必要な不可欠な要素だと考えています。その規律がなければ、政策の範囲がなし崩しに広がり、州法が寄せ集めになります。そうなれば、規制当局にとって執行が難しく、消費者にとって分かりにくく、特にスタートアップや小規模企業の開発者リソースが、安全に投じられるべきところからそらされるリスクがあります。特にここ数週間が示したように、AI モデルの能力がますます高まる中で、政府、重要インフラ、同盟国、信頼できるパートナーの手にツールを届けられる一貫したシステムが必要です。

政策立案者は、使命の範囲が広がりすぎることにも注意すべきです。各州に、重大な国家安全保障リスクの管理（または事実上、国全体を代表して国家安全保障上の判断を下すこと）や、高度に技術的な審査を担わせるべきではありません。そうした審査は、必要なリソース、専門知識、機密システムへのアクセス、そして私たちのチームと緊密に連携する能力を備えた連邦の専門家が扱うほうが適しています。

連邦レベルでは、トランプ政権が技術および国家安全保障の専門家と協力し、最も高性能な AI モデルを対象とした米国政府によるサイバー分野のテスト枠組みの策定を続けています。この枠組みでは、テスト基準、スケジュール、プロセスが定められます。OpenAI は、この取り組みの形成を支援する政権、同業他社、業界団体、その他のステークホルダーと建設的な協議を行っています。

サイバー評価をめぐる現在の取り組みは、一貫性がなぜ重要かを示しています。現在、連邦の枠組みが完成する前にモデルのテストが行われているのは、理解できることです。各研究所がそのプロセスに取り組む中で、1 つの教訓が明確になりました。州と連邦の双方で、一貫性と再現性のあるアプローチが必要だということです。最も高性能なモデルを政府、重要インフラの防衛担当者、同盟国、その他の信頼できるパートナーの手に届けるには、それが不可欠です。私たちは、8 月上旬までにこの枠組みを整えるという政権の目標を評価しています。

連邦のテスト枠組みにより、高度な AI ツールを政府、重要インフラの防衛担当者、同盟国、その他の信頼できるパートナーへ届けやすくなります。それにより、民主的な制度が強化され、米国主導の民主的 AI スタックの構築が進みます。今こそ、米国のイノベーションにおける優位性を民主的 AI の支援に活用すべき時です。

定義の曖昧な連邦プロセスでも、州法の寄せ集めでも、一貫したフロンティア安全体制は実現しません。最も優れたテスターが最も高性能なモデルを評価し、信頼できる防衛担当者が悪意ある行為者に先んじるのに十分な速さでそれらのツールにアクセスできるようにするアプローチが必要です。

議会も動き出しています。上下両院、そして超党派の議員たち—直近では Jay Obernolte 下院議員と Lori Trahan 下院議員—は、各州と行政府の動向に注目し、連邦の枠組みに向けた提案を示しています。可決への現実的な道筋を持つ討議草案が、完璧であることはありません。しかし私たちは、この取り組みを前向きな一歩と捉えており、その多くの条項は思慮深く、支持に値すると考えています。

同様に、上院と下院の指導部が国家的ガバナンスとフロンティア安全の提案に真剣に取り組んでいることを心強く思っており、その多くの方々と建設的な対話を重ねてきました。すでに方向性を同じくする法律を制定した州の規模と影響力を踏まえると、それらのアプローチを連邦法に取り込むことで、単一の全国的なフロンティア安全体制を確立しやすくなるはずです。

OpenAI のフロンティア安全ブループリントは、私たちがその枠組みに不可欠だと考える要素を示しています。

第一に、連邦政府が最先端システムのテストと評価を主導すべきです。フロンティア AI は、どの州も完全には再現できない技術的専門知識、リソース、アクセスを必要とする国家安全保障と公共安全上の課題を提起します。

その取り組みは、バイデン大統領の下で創設され、トランプ大統領の下で強化された Center for AI Standards and Innovation（CAISI）をさらに強化するものであるべきです。CAISI は、高度なモデルを評価するために必要な持続的な連邦能力を提供し、フロンティア安全を、事後の説明責任に主に依存する形から、害が起こる前に防ぐ方向へ移行させることができます。いかなる連邦法制も、CAISI が政府の他部門とどのように連携すべきか、またテストの中心でどのような役割を果たすべきかを慎重に検討する必要があります。

第二に、最も高性能なシステムを開発する企業は、独立監査、インシデント報告、強固なセキュリティ基準、内部告発者保護など、明確な要件を満たすべきです。

第三に、連邦と州の取り組みは互いを補強すべきです。州法がすべて同一になるわけではありません。私たちは、AI の経済的恩恵を最大化しながら安全を強化できるよう、全米の政策立案者と協力していくことを楽しみにしています。

各州はまた、フロンティア安全にとどまらず、青少年保護、電力・環境政策、AI 教育とリテラシーなどの分野で、民主主義の実験室としての役割を引き続き果たすべきです。

連邦の枠組みは依然として不可欠です。フロンティア AI は、国家安全保障、経済競争力、公共安全に関する課題を提起しており、最終的には民主的 AI を支える国家標準、国家的能力、国家機関を必要とします。

AI 標準に関する米国主導の国際枠組みにとっても、国内法制は重要です。この考えは数週間前、G7 に加え、ブラジル、エジプト、インド、ケニア、韓国が参加した場で議論されました。そこでは、主要なフロンティア研究所の CEO たちが、そのような枠組みの必要性について話し合いました。その会合後、OpenAI CEO の Sam Altman は Financial Times で提案しました⁠（新しいウィンドウで開く）。「受け入れられた標準を確立し、能力とリスクについて専門的で公平な分析を提供し、参加してルールに従う国や企業がその技術を利用できるようにする、米国主導の国際フォーラム」です。今週、Google DeepMind CEO の Demis Hassabis 氏も新しい論文で思慮深いアイデアを提示しました。必然的に超党派で進められる連邦法制は、その国際的取り組みに強固な基盤を提供します。

その勢いは今、あらゆるレベルで明確になっています。各州は共通のアプローチを確立しつつあります。議会と行政府は国家的な枠組みに向けて取り組んでいます。そして世界のリーダーたちは国際標準について議論を始めています。それぞれが互いを土台に発展していけば、米国は AI に対する民主的なビジョンに根ざしたグローバルな枠組みの構築を主導できます。そして、AI に対するこの民主的な連携アプローチこそが、安全を真に優先するアプローチです。