AI の能力は新たな段階に入り、AI 政策にも新たな展開が求められています。どの企業も、業界も、政府も、この課題に単独で対処することはできません。今は、完璧な政策を追い求めるよりも、実効性のある行動を優先すべき時です。
私たちは、次の取り組みを進めています。
全米共通の AI 安全要件の義務化を推進します。連邦議会と連携し、AI の能力に応じた、法的拘束力のある全米共通の AI 安全規制の整備を目指します。
各州の取り組みの勢いを維持します。連邦議会が行動を起こすまで、AI の安全性を支える仕組み全体を強化する州の法整備を引き続き支持します。本日、カリフォルニア州の4つの法案への支持を表明します。独立した安全性評価を支える基盤全体に関する SB 813、AI 監査機関の基準に関する AB 1405、若者の保護に関する SB 1119、AI を利用した生物学的脅威への対策に関する AB 1864 です。
業界主導の標準づくりを進めます。 私たちは他のフロンティア研究所と連携し、フロンティア AI の標準づくりを進めます。政府の支援の有無にかかわらず、今から自主的な取り組みを立ち上げます。
世界共通の標準づくりを進めます。モデルの能力向上のペースを落とすことになったとしても、能力の測定、リスク管理、人間による制御の維持、開発のペースをいつ、どのように落とすか、あるいは停止するかの判断について、各国で整合性の取れたアプローチを提唱します。
当社のチーフサイエンティストである Jakub Pachocki は最近、再帰的自己改善の可能性を含む機械知能の急速な発展には「最大限の慎重さ」が必要だと記しました。OpenAI は今後も、アラインメントと監視の技術的解決策を追求し、防御システムを構築するとともに、必要に応じて開発を減速します。しかし、個々の研究所内での技術的な取り組みだけでは不十分です。開発を減速または停止すべき場合の基準を含め、共通標準も必要です。
極めて重大な局面です。高度な AI は、新薬の開発を加速し、重要インフラを強化し、経済的機会を広げ、何世代にもわたる人類の努力でも解けなかった科学的課題の解決に役立つ可能性があります。しかし、モデルの有用性を高める能力にはリスクも伴います。こうした能力とそれに伴うリスクは、一部のフロンティア研究所だけにとどまるものではありません。オープンモデルを含め、世界各地で開発されるモデルは、現在のフロンティア水準にますます近づき、広く利用可能になります。
Astra の能力、AI による研究の加速を示す初期の証拠、そして Jakub の論考は、いずれも同じことを示しています。AI は急速に進歩しており、政策もその進歩に対応していく必要があります。
Greg Brockman は、「防御側の好機」について説明しています（新しいウィンドウで開く）。これは、強力な攻撃能力が普及する前に、フロンティア AI を活用して重要システムの防御を強化できる限られた期間です。政策立案者も同様の局面に直面しています。AI の進歩に統治を担う機関の対応が追いつかなくなる前に、長期にわたって機能する安全対策を整備できる時間は、残り少なくなっています。
AI の能力が高まるほど、安全性をどこまで確信できるかを、進歩のペースを決める基準としてこれまで以上に重視しなければなりません。安全性は進歩を妨げるものではありません。むしろ、さらなる進歩を可能にし、その恩恵をより多くの人々に届けるための土台です。
私たちは、モデル開発の全段階で、監視、アラインメント、セキュリティに関する対策を強化してきました。具体的には、フロンティア研究で実行する処理の隔離を強化し、ツールを利用したトレーニングや評価で監視するモデルの挙動の範囲を広げ、懸念事項を上位の判断に委ねるタイミングを明確にしています。Astra ではさらに、思考の連鎖を含め、モデルがたどる一連の過程を最初から最後まですべて監視する仕組みを導入しました。また、社内での利用を広げる前に、アラインメント評価を通過することを必須条件としました。
こうした安全対策は、AI の能力向上に先んじて強化し続ける必要があります。取り組みの継続が許容できない安全上のリスクをもたらす場合は、これまで行ってきたとおり、また当社の Preparedness Framework（新しいウィンドウで開く） で求められているとおり、十分な安全対策を講じられないシステムの開発やデプロイのペースを落とすか、停止します。
AI システムが自ら開発を進め、世代を重ねるごとにより高性能な AI を生み出す、完全自律的な「再帰的自己改善」は、現時点では実現していません。安全に実現できるようになるまでは、これを追求すべきではありません。
一方、AI はすでに、次世代モデルの開発とアラインメントに用いられる研究の一部を加速させています。私たちの最新の研究では、熟練した研究者でも数日を要するようなタスクの一部を、AI エージェントが遂行できることが示されています。これは再帰的自己改善ではありませんが、進展の方向性を示す証拠です。
こうした研究の加速は、安全性の向上にも生かせますし、生かさなければなりません。私たちの目標は、人間の監督下で研究を自動で進め、ディープラーニングとアラインメントの両方を発展させる AI 研究者を、安全に開発することです。各世代の AI を活用し、次世代の AI を単に高性能にするだけでなく、より安全で、人間の意図に沿い、制御しやすいものにしていきます。
各国政府は、この進展を測る共通の手法を整備し、人間による実効性のある制御を維持するとともに、開発のペースをいつ、どのように落とすか、あるいは停止するかを判断するための共通の安全基準を定めるべきです。一定の安全基準を満たすために能力向上のペースを落とす必要があるなら、安全基準を満たすことを優先すべきです。技術が強力になるほど、それを取り巻く安全対策も強固にしなければなりません。
AI によって加速される AI 開発を見据えるなら、自主的な取り組みだけでは不十分です。米国には、AI の能力に応じて要件を定め、技術の進歩に合わせて更新できる、法的拘束力のある全米共通の規制が必要です。
私たちのフロンティア AI の民主的ガバナンスに向けたブループリントは、長期にわたり機能する連邦レベルの枠組みの実現に向けた道筋を示しています。その内容には、テストと独立評価に関する共通要件、サイバーセキュリティ対策の強化、明確なインシデント報告ルール、国全体の備えの強化、再帰的自己改善に向けた進展を把握するための共通指標が含まれます。
連邦議会では現在、フロンティア AI の安全性を確保するための複数の本格的な政策案が具体化しつつあります。私たちは今後も議論に建設的に参加し、安全性の水準を実質的に引き上げる法整備を支持していく考えです。これほど重大な局面では、完璧を求めて前進を妨げてはなりません。連邦議会は会期終了前に行動すべきです。
全米共通の枠組みは、強固なものであると同時に、適用対象を慎重に絞る必要があります。フロンティア AI の安全要件を適用すべきなのは、豊富な資金や人材を備え、最も高性能なシステムを開発する少数の研究所です。スタートアップや小規模な開発者、フロンティア水準の開発には携わっていない研究者を対象にすべきではありません。課す義務の程度は、AI の能力とリスクに見合うものにすべきです。
また、フロンティア AI の安全性を確保するための政策を、実質的にオープンウェイトモデルを規制する政策にしてはなりません。オープンモデルは解決策の一部になり得ます。特にサイバーセキュリティ分野や、主権、セキュリティ、データレジデンシーの要件からローカル展開が適する場合に有効です。その多くが競っているのは、フロンティア水準の能力ではなく、コスト、制御性、レイテンシーです。私たちがオープンウェイトと米国の AI リーダーシップに関する書簡（新しいウィンドウで開く）への署名で確認したとおり、米国にはオープンモデルとクローズドモデルの両方が必要です。連邦レベルの枠組みは、競争を弱めたり、既存企業の地位を固定化したり、イノベーションを海外へ流出させたりすることなく、フロンティア AI の能力とそのリスクに対処すべきです。
実効性のある公的な枠組みは、権力の集中を強めるのではなく、和らげるものでなければなりません。現在、フロンティア研究所は、フロンティア AI のリスクを管理するルールの大部分を自ら定めています。民主的な説明責任に裏付けられた基準、独立した検証、実効性のある透明性が確保されれば、各研究所が個別にルールを定める現在の民間主導の仕組みを置き換えることができます。
これは米国のリーダーシップに不可欠です。米国は、能力だけで AI 時代を勝ち抜くことはできません。人々や組織、政府から、導入しようと思えるだけの信頼を得られなければ、技術面で先行していても大きな意味はありません。強固な安全対策を講じることは、イノベーションを犠牲にすることではありません。こうした対策は、AI の幅広い普及と、米国が長期にわたって主導的な立場を維持するために必要な基盤の一部です。
AI に関する全米共通の基準の整備が急務です。フロンティア AI に携わる人なら誰もが、その緊急性を認識しています。連邦議会が行動を起こすまで、各州は引き続き、規制の空白を埋め、安全性の水準を引き上げる取り組みを進めるべきです。
OpenAI は、カリフォルニア州の SB 53、ニューヨーク州の RAISE 法、イリノイ州の SB 315 に加え、マサチューセッツ州で審議中のフロンティア安全法案に盛り込まれた独立監査を支持してきました。私たちは、これらの共通の安全対策を軸に、各州が足並みをそろえることを呼びかけています。各州が足並みをそろえることで、事実上の全米共通の基準を形成し、最終的には連邦議会がその基準を法制化できるようになります。このアプローチを私たちは逆連邦主義と呼んでいます。ただし、各州の制度を整合させることは、要件を固定して今後変更しないという意味ではありません。
本日、州議会を通過し、ニューサム州知事に送られるカリフォルニア州の追加4法案への正式な支持を表明します。これらの法案は、それぞれ AI の安全性を支える仕組みの異なる部分に対応し、互いに補い合うものです。
SB 813（新しいウィンドウで開く） は、AI リスクを評価する能力と必要な資格を備えた独立機関を指定するための手続きを定めるものです。私たちが （新しいウィンドウで開く）フロンティア安全性のブループリント（新しいウィンドウで開く）で示したとおり、独立した技術評価は連邦レベルで義務づけられることが望ましいと考えています。そうすれば政策立案者は、評価機関の資格、セキュリティ、機密性の高い情報へのアクセスについて、一貫した基準を設けることができます。しかし、連邦政府の対応がない中でも、カリフォルニア州は、セキュリティと十分な評価能力を備え、安全性の向上につながる全米規模の独立評価制度の運用ルールづくりに貢献できます。
AB 1405（新しいウィンドウで開く） は、AI 監査機関に対し、登録、独立性、透明性、説明責任に関する要件を定めるものです。
SB 1119（新しいウィンドウで開く） は、コンパニオンチャットボットを利用する子どもや10代の若者を保護するため、年齢確認、リスク評価、独立監査、ペアレンタルコントロール、有害コンテンツへの対策を義務付けるものです。OpenAI は最近、この法案への支持を表明しました。この法案は、OpenAI が製品、世界的な政策原則、親と子どもの AI 利用の安全確保を目的とする （新しいウィンドウで開く）Parents & Kids Safe AI Act （新しいウィンドウで開く）への支持を通じて推進してきた若者の安全対策を土台としています。また、センシティブな領域でのより安全なデフォルト設定、サイレント時間、学習時間、休憩を促すリマインダーなど、ChatGPT for Teens に組み込まれている保護策も踏まえています。
AB 1864（新しいウィンドウで開く） は、遺伝子合成事業者と卓上型合成装置のメーカーに、連邦のスクリーニング基準を順守するよう義務付けるものです。これにより、AI を利用した生物学的脅威を防ぐうえで重要な、物理的な安全対策を強化します。
これらの法案の中には、以前は支持していなかったものもあります。しかし、最近の AI の能力の飛躍的な向上を踏まえて再検討し、現在は支持しています。
これらの法案は、連邦による規制に代わるものではありません。これらは、今すぐ人々を守り、実効性のある安全対策の具体像を示すとともに、連邦政府の対応に向けた機運を高める、本格的な取り組みです。
法律だけでは、高度な AI の安全を確保することはできません。最も高性能なシステムを開発する研究所の内部でも、具体的な取り組みが必要です。最優先で着手すべきなのは、監視体制の整備です。
監視は、ミスアラインメントへの対応で特に重要です。ミスアラインメントとは、モデルが人間の意図に反したり、定められた範囲を逸脱したりする方法で目標を追求することです。モデルに意識や悪意があるかどうかにかかわらず起こり得ます。モデルの自律性が高まり、より強力なツールを使って、より長い期間にわたり動作するようになるにつれ、開発者には、こうした人間の意図や定められた範囲から逸脱する行動を監視し、有効な安全対策を講じていることを示すよう義務付けるべきです。
監視の仕組みには、情報開示に関する明確な要件を組み込む必要があります。カリフォルニア州で私たちが提唱したように、開発や評価の過程で、自社のモデルが他の組織のセキュリティ対策を無断で回避し、保護されたシステムや機密情報への実質的なアクセス、改変、破壊のいずれかを行った場合、企業には、影響を受けた当事者に速やかに書面で通知することを義務付けるべきです。また、その他の重大な AI インシデントについても、連邦レベルで報告を義務付けることを支持しています。現在、報告対象とすべきインシデントと、具体的な報告要件の検討に取り組んでいます。
先週お伝えしたとおり、OpenAI は、重大な影響を伴うミスアラインメントのインシデントを報告し、社内利用も含めてフロンティアモデルの活動を体系的に監視するための枠組みを整備しています。これは企業主導の取り組みとして始まりますが、より広範な連邦政策や報告要件の検討に役立つことを願っています。
私たちは、業界主導の標準の策定に向けて、他の研究所と連携したいと考えています。業界主導の標準は、連邦政府が義務付ける安全対策や民主的な監督を補完するものであり、それらに取って代わるものではありません。しかし、AI の能力は新たな段階に入っています。政府によらず自主的に整備できる仕組みを当面の措置として検討することも含め、あらゆる選択肢を検討すべきです。
こうした標準は、最終的には国境を越えて適用される必要があります。モデルや研究成果、技術的な専門知識は国境を越えて広がります。最も高性能なシステムに問題が生じれば、その影響は開発国をはるかに越えて及ぶ可能性があります。米国が国際的に主導的な役割を果たすには、国内で信頼できる基準を確立する必要があります。また、各国で整合性の取れた基準を整備する必要があるという確信を、私たちはますます強めています。
AI 政策を前進させる機会は、今ならまだ残されています。私たちは、この機会を生かすつもりです。
そのためには、危機感と謙虚さを持ち、状況の変化に柔軟に対応する姿勢で行動する必要があります。自分たちが考える制度設計と完全には一致しなくても、安全性の水準を実質的に引き上げる本格的な提案を支持する必要があります。そして、技術の進歩に合わせて枠組みを強化していく必要があります。
最初の一歩が完璧であることはありません。しかし今、より大きなリスクは、その一歩を踏み出すまで待ちすぎることです。
