OpenAI憲章

この文書は、OpenAIの社内外の多くの人々からのフィードバックを含め、私たちが過去2年間に洗練させてきた戦略を反映したものです。AGIが実現するまでのスケジュールはまだ不確定ですが、私たちの憲章は、AGIの発展を通じて人類の最善の利益のために行動する指針となるものです。

OpenAIの使命は、汎用人工知能（AGI）、つまり経済的に最も価値のある仕事において人間を凌駕する高度に自律的なシステムが、全人類に利益をもたらすようにすることです。私たちは、安全で有益なAGIを直接構築するよう努力しますが、もし私たちの仕事によって、他の人々がこのような結果を達成するのを助けるのであれば、私たちの使命は達成されたと考えられるでしょう。そのために、私たちは以下の原則を約束します。

私たちは、AGIがすべての人の利益のために確実に使用されるために、AGIの展開に対して私たちが得た影響力を行使し、人類に害を与えたり、権力が不当に集中したりするようなAIやAGIの使用を可能にすることを避けることを約束します。

私たちの第一の忠実義務は人類に対するものです。私たちは、その使命を果たすために多大な資源を投入する必要があると予想していますが、広範な利益を損なう可能性のある従業員や利害関係者の利害の対立を最小限に抑えるために、常に真摯に行動します。

私たちは、AGIを安全なものにするために必要な研究を行い、そのような研究をAIコミュニティ全体に広く普及させることに全力を尽くしています。

私たちは、AGI開発の後期段階が、十分な安全対策を講じる時間がないままに競争的なレースになることを懸念しています。したがって、価値観が一致し、安全性を重視するプロジェクトが私たちよりも先にAGIの構築に近づいた場合、私たちはそのプロジェクトとの競争をやめ、支援を開始することを約束します。具体的な内容については、その都度取り決めることになりますが、代表的な引き金となる条件としては、「今後2年間の成功確率が互角以上であること」が挙げられます。

AGIが社会に与える影響に効果的に対処するためには、OpenAIはAI能力の最先端にいなければなりません。ポリシーと安全擁護だけでは不十分です。

私たちは、AIがAGIよりも先に社会に広く影響を及ぼすと信じており、私たちの使命と専門性に直接合致する分野でリードするよう努力するつもりです。

私たちは、他の研究機関や政策機関と積極的に協力し、AGIが抱えるグローバルな課題に共に取り組むグローバルコミュニティの形成を目指しています。

私たちは、社会がAGIへの道を歩むための公共財を提供することを約束します。今日、これには私たちのAI研究のほとんどを公開することが含まれていますが、安全性とセキュリティへの懸念から、将来的には従来の公開は減少し、安全性、ポリシー、標準の研究を共有することの重要性が高まると予想しています。