数世代に一度、新しい技術があらゆるものを変えます。
1920 年代、米国の地方の町に電気が届いた場面を想像してみてください。送電線が来る前、日々の暮らしは物理的な制約に形づくられていました。水を運び、手で洗濯し、氷で食品を保存し、日が沈むと一日の多くが終わっていました。電気は一夜にしてすべての家庭を変えたわけではなく、その恩恵も人々に均等に届いたわけではありません。しかしアクセスが広がるにつれ、日常生活は変わりました。夜の明かりは一日を延ばしました。電動ポンプ、家電、冷蔵は、日々の最も大変な作業の一部を軽減しました。ラジオは、何百マイルも離れた場所からニュース、音楽、つながりを家庭や地域の場にもたらしました。
電気が最初に約束したものは実用的でしたが、より深い影響は、より多くの人が使えるようになったことで開かれた新たな可能性から生まれました。時がたつにつれ、多くの新しい可能性が現れ、機械やコンピューターは医療、工学、その他多くの分野の進歩を大きく加速させました。20 世紀末までに、平均寿命は 20 年以上延び、インフレ調整後の所得中央値はおよそ 3 倍になりました。これらの成果は、医療、衛生、生活水準の進歩によるところが小さくありません。その多くは、広範な電化と関連技術の進歩によって可能になり、また加速されました。
同じことが、AI で再び起きています。AI はまもなく、並外れたことができるようになります。しかし重要なのは、技術そのものではありません。重要なのは、人々がそれで何をできるかです。AI は、医療費請求の理解、新しいスキルの習得、小さな事業の開始、高齢の親の介護、法的・金融上の判断の理解、アイデアの実現、科学的発見を助けることができます。
夜に明かりがある驚きはおそらくすぐに薄れましたが、人々がそれを使って何をするかは薄れませんでした。そして技術は長期にわたって繁栄をもたらす信頼できる方法であり続けてきたため、AI は、誰もが必要なだけ、必要な場所で、必要な方法で使えるべきだと私たちは考えています。
その未来は自動的には訪れません。変革的な技術は、力を集中させることも、広げることもできます。少数の人の生活を楽にすることも、多くの人の機会を広げることもできます。私たちのアプローチは、AI は人々のために機能すべきだという信念に根ざしています。人々が自らの目標を追求するのを助け、能力を高め、この技術の恩恵をできるだけ広く分配することです。
私たちの最初のコミットメントは、人類に奉仕する AI を構築することです。つまり、力が少数の企業、政府、個人に集中するのではなく、広く人々をエンパワーしたいということです。より安全な未来とは、力が広く分配され、世界のより多くの人々がレジリエンスのエコシステム構築に参加できる未来だと、私たちは信じています。*
AI は人間の能力と繁栄を広げられると信じているため、私たちは AI に楽観的です。しかし、リスクについても冷静に見ています。強力なシステムは、安全であり、人間の意図に沿い、人間の管理下にあり続けなければなりません。OpenAI のミッションは、AGI が全人類に利益をもたらすようにすることです。つまり、何が重要かについての人間の判断を置き換えるシステムではなく、人々が自ら選ぶことをより多く行えるようにするシステムを構築するということです。
あらゆるものを完全に自動化することは、私たちが望む未来ではありません。それは充実感を損ない、危険でもあります。AI は人々が目標を追求するのを助けるべきであり、目標から切り離されるべきではありません。AI システムの能力が高まるほど、人間の役割はより重要になります。方向を定め、トレードオフを判断し、判断力を働かせ、価値観、センス、思いやり、責任を仕事にもたらすことです。
人々にとって長期的に重要な役割の一つは、何が本当に価値あることなのかを決めることです。
AI が AI 研究を行うことは、今後数年以内に進歩の速度を左右する決定的要因になると私たちは考えています。これが重要なのは、アラインメント自体が難しい研究課題だからです。迅速かつ深く前進するために、私たちの研究者には、アイデアを検証し、誤りを見つけ、代替案を探り、私たちとともに試行錯誤を重ねられる AI システムが必要になります。
しかし技術の進歩が速まるほど、人間の判断や公共的な調整の重要性は、減るどころかますます高まります。未来は、最も高性能なシステムを構築する企業だけでなく、人々、制度、社会によって形づくられるべきです。
フロンティア AI の開発が続くにつれ、国内および世界的な調整はより重要になると私たちは見込んでいます。私たちは以前から、壊滅的リスクを減らすため、主要な AI の取り組みの調整を支援する国際組織が最終的に必要になると考えてきました。協力と共有された安全基準は、今後の道筋の重要な一部です。商業的・国家的競争をめぐるインセンティブから逃れることは特に難しいからです。そのような組織の目標の一つは、必要に応じてフロンティア AI の開発ペースを緩めることも含め、世界が協調して行動できるようにすることです。そうすることで、社会のレジリエンス、安全性、アラインメントを技術の進歩に遅れず発展させることができます。
自動化された AI 研究者の構築。研究プロセスそのものを加速し、ますます自動化できる一方で、人が方向づけでき、説明責任を担い、人々とのつながりを保つ AI システムです。私たちは社内で、2028 年 3 月までに、研究の相当部分が自社の研究者と連携する AI システムによって行われる可能性があると考えています。アラインメントを十分に前進させるには、私たちとともに反復できる AI が必要になると考えています。これは、AGI 後の世界への移行を進めるうえで、未来への道筋を私たちが集団として決めていく助けになります。
経済の加速。科学の進歩、生産性、経済成長を加速させると同時に、その利益が広く共有されるよう努めます。誰もが、AI が生み出す繁栄を有意義に分かち合う機会を持つべきです。
地球上のすべての人に個人用 AGI を提供すること。人類にとって最も変革的な技術の一つから、各自が望む形で恩恵を得られるようにします。
これを実現するため、私たちは OpenAI の第 3 フェーズに入ります。
OpenAI の第 1 フェーズは、AGI に向けた研究に取り組む段階でした。第 2 フェーズは、私たちの研究が現実世界に関わるようになり、私たちがプロダクト企業になった時に始まりました。システムを展開し、人々の利用から学び、安全で私たちのミッションに沿った AGI へ向けて進歩を続ける段階です。
今、私たちは第 3 フェーズに入ります。経済は AI を中心に再編され始めています。いま中心となる問いは、高度な AI を、すべての人と組織が恩恵を受けられるよう、広く利用でき、手頃な価格で、安全かつ有用で、使いやすいものにするにはどうすればよいかということです。フロンティア能力は仕事の一部にすぎません。より大きな課題は、その能力を、人々が実際に使って成長できるツールへと変えることです。
何よりも、力が広く分配されることが、より良い未来につながると私たちは信じています。人類の歴史は、力の集中が脆弱性を生む一方、広く共有された力は社会をより強靭で、適応力があり、自由なものにすることを示しています。
だからこそ、アクセスが重要です。同じ理由で、安全性、プライバシー、手頃さ、オープンなエコシステム、公共の監督も重要です。
良い AI の未来とは、少数の機関が能力の大半と利益の大半を支配する未来ではありえません。多くの人々、企業、コミュニティ、国々が構築し、恩恵を受け、力を持てる未来であるべきです。この変革はすべての人のものであるべきだと、私たちは信じています。
これを正しく実現できれば、AI は多くの人々にとって、生産性、創造性、科学の進歩、経済的機会を高める基盤となり、私たちは AGI が全人類に利益をもたらすようにするというミッションを達成できます。
*AI レジリエンスとは、AI による混乱を予測し、耐え、適応し、迅速に回復するために社会が整えうる組織、システム、個人の総体を指します。たとえば自動車は社会を変えましたが、広く有益なものになったのは、社会がその周囲にシステムを築いたからです。シートベルト、交通法規、運転免許、衝突試験、道路インフラなどです。目的は人々の運転を止めることではなく、強力な技術を広範な利用に十分耐えられるものにすることでした。
