AIは、社会の多くの側面を大きく改善する可能性を秘めています。
この技術は、過去の技術革新と同様に、人々により大きな能力と主体性を与えるでしょう。AIによって人々ができることは、蒸気機関や電気によって可能になったことをはるかに上回るはずです。
私たちは、今は想像するのが難しいほど広く繁栄が行き渡る世界、そして一人ひとりの可能性、主体性、充実感が大きく高まる世界を思い描いています。これまでSFの中でしか夢見てこなかったことの多くが現実になり、今日の大半の人々よりも、ほとんどの人がより意味のある人生を送れるようになるかもしれません。
しかし、この結果が保証されているわけではありません。未来の力は、超知能を利用し支配するごく少数の企業に握られることもあれば、人々に分散された形で握られることもあります。私たちは後者のほうがはるかに望ましいと考えており、真に汎用的なAIをできるだけ多くの人の手に届けることを目指しています。現在と同じく、未来も完全に悪いものでも完全に良いものでもありませんが、今私たちが下す決断によって、良い側面を最大化することはできます。
私たちの使命は、AGIが全人類に恩恵をもたらすことを確実にすることです。以下が、私たちの仕事を導く原則です。
1. 民主化 この技術が権力を一部の人の手に集中させる可能性に、私たちは抗います。
これは、すべての人にAIへのアクセスを提供することに加え、AIに関する重要な意思決定がAIラボだけでなく、民主的なプロセスと平等主義の原則に基づいて行われる必要があるという意味です。
2. エンパワーメント 私たちは、AIがすべての人に力を与え、目標の達成、より深い学び、より大きな幸福と充実、そして夢の追求を可能にし、その結果として社会全体も恩恵を受けると信じています。
これを実現するには、目の前に広がる巨大な可能性を人々が探求できるようにし、そのための製品を構築する必要があります。ユーザーは私たちのサービスによって、ますます価値の高いタスクを確実に達成できるべきです。
世界は多様であり、人々のニーズもさまざまです。私たちは、ユーザーに必要な自律性を提供し、合理的に可能な限り多くを許容したいと考えています。
私たちは、ユーザーに私たちのサービスの使い方について非常に広い裁量を与えたいと考えており、AIが全体として非常に大きな利益をもたらすと強く信じていますが、同時に害を最小限に抑える形でこれを構築し展開する責任があります。これにはもちろん壊滅的な被害の防止が含まれますが、局所的な害を最小限に抑え、社会をむしばむおそれのある影響を避けることも含まれます。そのため、不確実性に直面したときは慎重寄りに判断し、証拠が増えるにつれて制約を緩和していくことになります。
3. 普遍的な繁栄 私たちは、誰もがすばらしい人生を送れる未来を望んでいます。
使いやすく大量の計算資源を備えたAIシステムをすべての人の手に届けることで、人々は新たな価値創出の方法を見つけ、特に新しい科学的発見を通じて、すべての人の生活の質を大幅に向上させると私たちは考えています。
繁栄が十分に実現され、広く共有されるためには、1）目の前にある価値創出に誰もが参加できるよう、新たな経済モデルを各国政府が検討する必要があるかもしれないこと、そして2）AIインフラのコストを大幅に下げるために、膨大な量のAIインフラを構築し、新技術を開発する必要があると私たちは考えています。
一見すると奇妙に見える私たちの行動の多く――収益がまだ比較的小さい段階で大量の計算資源を確保すること、コストを下げて技術を使いやすくするために垂直統合を進めること、世界各地でデータセンターの建設を推進すること、そしてそのほか多くのこと――は、普遍的な繁栄という未来に対する私たちの根本的な信念に基づいています。
4. レジリエンス AIは新たなリスクをもたらします。私たちは他社、エコシステム、政府、そして社会と協力してそれらを解決していきます。この取り組みを支えるために、私たちはFoundationのリソースを大いに活用します。
どのAIラボも、単独で良い未来を確実にすることはできません。わかりやすい例として、新たな病原体の作成を容易にしてしまうほど高い能力を持つモデルが現れる可能性があり、それに対抗するには、特定の病原体に依存しない対策を用いた社会全体での防御アプローチが必要です。別の例として、モデルのサイバーセキュリティ能力が高まるにつれて、オープンソースソフトウェアや重要インフラの防御にこうしたモデルを迅速に活用すると同時に、より安全なソフトウェアを誰もが作れるよう支援するようモデルを訓練する必要があります。
これは、私たちが長年採ってきた段階的展開という戦略を拡張したものです。私たちは、社会がAI能力の各段階に向き合い、それを理解し、統合し、最善の前進の道をともに見いだしていく必要があると考えています。これは真空の中ではできません。社会と技術は相互に進化するものであり、そのためには時間が必要です。
これを私たちの唯一の安全戦略だと言っているわけではありません。安全なシステムを作り、技術的アラインメントに関する優れた取り組みを続ける必要もあります。
また、私たちの取り組みをさらに進める前に、深刻なアラインメント、安全性、社会的課題を十分に解決できていることを確実にするため、政府、国際機関、その他のAGI開発組織と協力する必要がある時期もあると考えています。
5. 適応力 私たちは、非常に予測困難な未来の課題に対応する唯一の方法は、より多くを学ぶにつれて自らの立場を更新できるよう備えておくことだと、引き続き考えています。また、OpenAIが数年前よりも世界に対してはるかに大きな影響力を持つ存在になっていることも認識しており、私たちの運営原則がいつ、どのように、なぜ変わるのかについて透明性を保ちます。具体例を挙げると、普遍的な繁栄が引き続き非常に重要であり続けることにはかなりの確信がありますが、将来のある時期には、より大きなレジリエンスのために、ある程度のエンパワーメントを犠牲にしなければならない場面もあり得ると考えています。
AIの開発は多くの驚きをもたらしてきましたし、これからもさらに多くの驚きがあるでしょう。技術が進歩するにつれて、その創発的な振る舞いはますます予測しにくくなります。私たちは、能力を慎重に前進させ、システムを段階的に展開し、世界との相互作用から学ぶことによって、その不確実性を受け入れます。
GPT‑2の重みを公開することに私たちが不安を感じていたのは、それほど昔のことではありません。当時は、社会への影響がどうなるかわからなかったからです。今から振り返れば、それは明らかに杞憂でしたが、その経験によって私たちは段階的展開という戦略を見いだしました。これは、私たちが見つけた中でも最も重要なことの一つです。
__
技術が向上し続ける中で、私たちは非常に大きな影響を持つ局面に入りつつあります。私たちのあらゆる決定を批判するのはまったく正当です。私たちが担っていることの重みを考えれば、膨大な精査を受けるに値します。私たちはすべてを正しくできるわけではありませんが、素早く学び、軌道修正していきます。
私たちは、未来を過去よりも良いものにするために自分たちの役割を果たすことに尽力しています。このように重要な仕事に取り組めることを幸運に感じています。
