OpenAI が開発した新しい AI モデルにアクセスするための API をリリースいたします。1 つのユースケース向けに設計される大多数の AI システムとは異なり、本 API は汎用の「テキスト入力、テキスト出力」のインターフェースを提供しており、ユーザーは、あらゆる英語タスクをバーチャルでお試しいただけます。製品への API 統合、まったく新しいアプリケーションの開発のため、また本テクノロジーの長所と限界を探る当社にご協力いただくためにも、アクセスをリクエストしていただけるようになりました。
テキストによるプロンプトが指定されると、API はテキスト補完を返し、指定されたパターンとの一致を試みます。実行してほしいことの例をいくつか提示するだけで「プログラム」できます。成功するかどうかは、基本的にタスクの複雑さに左右されます。また、API を使用すると、提供したサンプルのデータセット (規模に関わらず) や、ユーザーやラベル付け担当者から提供された人間によるフィードバックで学習させることで、特定のタスクに対するパフォーマンスを向上させることもできます。
当社は、誰でも使用できるシンプルさにこだわりつつ、機械学習チームの生産性向上につながるほど柔軟になるように本 API を設計しました。実際、当社の多くのチームは現在、分散システムの問題ではなく機械学習の研究に集中できるように本 API を使用しています。現在、API は GPT‑3（新しいウィンドウで開く） ファミリーに重きをおいてモデルを実行し、速度とスループットのさまざまな改善を行なっています。機械学習は急速に進化しており、当社は常に技術をアップグレードし、ユーザーが最新技術についていけるようにしています。
この分野における進歩の速さは、良きにつけ悪しきにつけ、AI の驚くべき新しいアプリケーションが頻繁に登場してくることを意味します。当社では、ハラスメントやスパム、急進主義、アストロターフィング (偽の草の根運動) など、明らかに有害なユースケースについては、API アクセスを停止します。とはいえ、このテクノロジーがもたらすかもしれないすべての結果を予測することはできないことも認識しています。そのため、本日は一般公開ではなく、プライベートベータ版としてリリースし、API が返すコンテンツをユーザーがより適切に制御できるようにするツールを構築するとともに、言語テクノロジーの安全性に関連する側面 (有害なバイアスの分析、軽減、介入など) の研究を進めていきます。当社は、ユーザー、そしてもっと広範なコミュニティがより人間に優しい AI システムを構築できるように、学んだ事柄を共有していきます。
API は、当社の使命を追求するためのコストを賄う収入源となるだけでなく、汎用 AI テクノロジーにもっと焦点を合わせてテクノロジーを進化させ、使いやすくし、現実世界への影響を考慮するよう促すものとなっています。本 API により、有益な AI 搭載製品を生み出すための障壁（新しいウィンドウで開く）が大幅に下がり、現在では想像もできないようなツールやサービスが生まれてくることを期待しています。
API の詳細についてご関心がありますか？Algolia（新しいウィンドウで開く）、Quizlet（新しいウィンドウで開く）、Reddit（新しいウィンドウで開く） などの企業や、ミドルベリー国際大学院（新しいウィンドウで開く）などの研究機関の研究者らとともに、プライベートベータ版（新しいウィンドウで開く）をご利用ください。
究極的に当社が最も気にかけていることは、汎用人工知能がすべての人に益をもたらすようにすることです。そして商用製品の開発は、この点で成功するために十分な資金を確保する方法の 1 つだと考えています。
また、強力な AI システムの世界的な導入を安全に行うことは、簡単ではないとも考えています。API をリリースするにあたり、AI システムを現実世界で使用する際にどのような課題が生じるかを把握するため、当社はパートナーと緊密に協力しています。これにより、将来の AI システムの導入がどのように行われるか、すべての人にとって安全で有益な導入にするために何をする必要があるかを理解するための当社の取り組みを方向づけることができています。
これには主に 3 つの理由があります。まず、この技術を商用化することにより、現在進行中の AI 研究、安全性、およびポリシーへの取り組みの費用を賄うことができます。
2 番目に、API の基盤となるモデルの多くは非常に大規模で、開発と展開に多くの専門知識が必要となり、実行に多大なコストがかかります。このことが、大企業以外が基盤となるテクノロジーの恩恵を受けることを難しくしています。本 API によって、強力な AI システムを中小企業や組織が利用しやすくすることが、当社の望みです。
3 番目に、API モデルを利用することで、テクノロジーの誤用に対し、より簡単に対応できます。当社のモデルの下流でのユースケースを予測することは難しいため、有害なアプリケーションであることが判明したときにアクセスを調整できないオープンソースモデルをリリースするよりも、API を通じてリリースし、時間をかけてアクセスを広げていく方が本質的により安全だと思われます。
GPT‑2 の主な懸念事項の 1 つは、モデルの悪意のある使用 (偽情報など) であり、一旦モデルがオープンソース化された後に、これを防止するのは困難です。API であれば、承認されたユーザーとユースケースへのアクセスを制限することで、不正使用をより効果的に防止できます。当社には、提案されたアプリケーションを公開する前に、必須のプロダクションレビューのプロセスが存在します。プロダクションレビューでは、次のような質問をしながら、いくつかの軸に基づいてアプリケーションを評価します。 これは現在サポートされているユースケースですか？アプリケーションにはどの程度の自由がありますか？アプリケーションはどの程度のリスクがありますか？潜在的な誤用にどのように対処するつもりですか？アプリケーションのエンドユーザーは誰ですか？
ハラスメント、意図的な欺瞞、急進主義、アストロターフィング、スパムなど (ただしこれらに限定されない)、人々に身体的、感情的、または心理的な危害を引き起こす (または引き起こすことを意図している) ことが判明したユースケース、およびエンドユーザーによる誤用を制限するためのガードレールが不十分なアプリケーションについて、当社は API アクセスを停止します。実践的な API 運用の経験が積み上がるにつれて、サポートできるアプリケーションの範囲を広げ、誤用が懸念されるものに対してより細かいカテゴリを作成していくために、サポート対象の使用カテゴリを継続的に改良していく予定です。
API の使用を承認する際に考慮する重要な要素の 1 つは、システム基盤となる生成機能に関して、アプリケーションがどの程度オープンエンドで動作し、またどの程度制約のかかった動作をするかという点です。API のオープンエンドアプリケーション (任意のプロンプトを使用して大量のカスタマイズ可能なテキストをスムーズに生成できるもの) は、誤用される可能性が特に高くなります。生成に関わるユースケースをより安全にする制約には、人間をループ内にとどめるシステム設計、エンドユーザーのアクセス制限、出力の後処理、コンテンツのフィルタリング、入出力テキストの長さの制限、アクティブなモニタリング、トピックの制限が含まれます。
当社はまた、学術アクセスプログラム（新しいウィンドウで開く）を通じて第三者である研究者と協力するなど、API によって提供されるモデルの潜在的な誤用に関する調査を継続的に実施しています。現時点ではごく限られた数の研究者との協力にとどまりますが、ミドルベリー国際大学院（新しいウィンドウで開く）、ワシントン大学、アレン人工知能研究所（新しいウィンドウで開く）などの学術パートナーからすでにいくつかの結果を得ています。このプログラムにはすでに数万人が応募しており、現在は公平性と表現の研究に重点を置いた応募を優先しています。
有害なバイアスなどの悪影響の軽減は、業界全体にわたる困難な問題であり、極めて重要です。GPT‑3 の論文（新しいウィンドウで開く）とモデルカード（新しいウィンドウで開く）で考察したように、API モデルにはバイアスが見られ、それは生成テキストに反映されます。この問題に対処するために当社が取っている対応策は次のとおりです。
- 開発者が潜在的な安全性の問題を理解し、対処するのに役立つ利用ガイドラインを作成しました。
- ユーザーと緊密に協力して、ユーザーのユースケースを理解し、有害なバイアスを明らかにして介入するだけでなく、それを軽減するためのツールを開発しています。
- 有害なバイアスの兆候や、公平性と表現に関する、より広範な問題について独自の調査を行っています。これらの調査は、改善された既存モデルのドキュメントや将来のモデルのさまざまな改善を通じて、当社の研究に役立ちます。
- 当社は、バイアスがシステムと展開されたコンテキストの交わる地点で発現する問題であることを認識しています。当社のテクノロジーで構築されたアプリケーションは社会技術システムであるため、当社は開発者と協力して、有害行動を監視するための適切なプロセスと人間が関与するシステムを導入するように努めています。
当社の目標は、API の使用状況ごとに潜在的な有害行為についての理解を深め、それらの有害行為を最小限に抑えるためのツールとプロセスを継続的に改善することです。
2020 年 9 月 18 日更新
