共有と公開に関するポリシー

AI 生成コンテンツの考えられるリスクを軽減するために、当社では以下の許可された共有に関するポリシーを定めています。

独自のプロンプトやコンプリ―ションをソーシャルメディアへ投稿することは、原則として許可されています。同様に、使用の様子をライブ配信したり、人々の前で当社製品のデモンストレーションを行うことも許可されています。投稿にあたっては以下を遵守してください。

• 共有前か配信中に各生成を手動でレビューする。
• そのコンテンツが自身または自社の作であるとする。
• 常識的に考えて、ユーザーが見逃したり誤解したりすることがない方法でコンテンツが AI によって生成されたものであることを示す。
• 当社のコンテンツポリシー⁠に違反する、または他者の感情を害する可能性があるコンテンツを共有しない。
• オーディエンスからのプロンプトの要求に応じる場合は分別を働かせ、当社のコンテンツポリシー⁠の違反につながる可能性があるプロンプトは入力しない。

OpenAI チームが特定のコンプリーションを認識していることを確認したい場合は、当社までメールでお問い合わせいただくか、Playground 内の報告ツールを使用してください。

• 生のモデルと対話していること、つまり当社が偏見のある回答や否定的な回答を除外していないということを忘れないでください。（またこちら⁠（新しいウィンドウで開く）で当社が提供する無料のモデレーションエンドポイントの導入の詳細をご覧ください）。

OpenAI API を使用して一部が作成された（書籍、短編の要約などの）ファーストパーティ作成コンテンツを公開したいと考えている作成者は、以下を条件としてそのようなコンテンツの公開を許可されます。

• 公開されるコンテンツが自身または自社の作であるとする。
• コンテンツの作成における AI の役割について、どの読者も見逃すことがなく、一般的な読者が十分わかりやすいと感じる方法で明確に開示する。
• コンテンツのトピックが OpenAI のコンテンツポリシー⁠⁠または利用規約⁠に違反していない（たとえば、アダルトコンテンツ、スパム、憎しみに満ちたコンテンツ、暴力を煽るコンテンツ、または社会的損害をもたらす可能性があるその他の使用に関連していない）。
• 他者の感情を害する可能性がある出力の共有を控える。

たとえば、前書きか導入部（またはそれに類する場所）に下書きや編集などの相対的な役割を詳述する必要があります。AI 生成コンテンツをすべて人間が生成したもの、またはすべて AI が生成したものと表してはならず、公開されるコンテンツに対して最終的な責任を負うのは人間でなければなりません。

以下に、正確であるということを条件に創造的なプロセスについて説明するときに使用できる文言を示します。

当社は、特に当社モデルの潜在的な弱点と安全性やバイアスの問題を把握して改善するために、世界中で広く当社の研究と製品を評価できるようになることが重要であると考えています。そのため、当社では OpenAI API に関する研究出版物を歓迎しています。

• 場合によっては、社内外でお客様の研究成果を紹介することもあります。
• API のセキュリティや悪用に関わる出版物などにおいては、ユーザーを保護するために適切な措置を講じることもあります。
• 研究の過程で API に安全性やセキュリティの問題があることに気付いた場合は、当社の Coordinated Vulnerability Disclosure Program⁠⁠ を通じて早急にお知らせください。

当社が探求していきたいと考えている OpenAI API の研究課題は数多くあります。補助金の利用をお考えの場合は、Researcher Access Program 申請書⁠を通じて、ご自身が行っている研究のユースケースの詳細をお知らせください。

研究課題は自由に決めていただけますが、当社では特に以下が重要であると考えています。

• アライメント：モデルに何らかの目的があるとするならば、その目的をどのように理解すればよいでしょうか。プロンプトの設計や微調整などを通じて、その目標と人間の好みの整合性を高めるにはどうすればよいのでしょうか。
• 公平性と表現：言語モデルにおける公平性と表現のパフォーマンス基準を確立するにはどうすればよいのでしょうか。実際の特定のコンテキストにおいて、公平性と表現の目標を効果的に支援するために、言語モデルをどのように改善すればよいのでしょうか。
• 学際的研究：AI 開発で哲学、認知科学、社会言語学などの他の分野のインサイトを活用するにはどうすればよいでしょうか。
• 解釈可能性と透明性：これらのモデルは機構的にどのように機能するのでしょうか。これらのモデルがどのような概念を使用しているのかを特定する、モデルから潜在的な知識を引き出す、学習手順について推論する、予期しない将来の動作を予測する、といったことができるでしょうか。
• 悪用の可能性：API のようなシステムはどのように悪用される可能性があるのでしょうか。当社や他の AI 開発者がこのようなテクノロジーの責任ある開発について考えられるよう、どのような「レッドチーム」アプローチを開発できるでしょうか。
• モデル探求：API で提供されるようなモデルには、まだ当社が探求していないさまざまな機能があります。当社は、モデルの限界、言語特性、常識推論、その他多くの問題に対する潜在的使用など、多くの分野での調査に期待しています。
• 堅牢性：生成モデルの機能面は不均一であり、非常に強力な機能領域と非常に弱い機能領域が存在する可能性があります。大規模生成モデルは、同じアイデアをさまざまな方法で表現したり、タイプミスがあったりなかったりなど、プロンプトの「自然な」摂動に対してどの程度堅牢なのでしょうか。大規模生成モデルが堅牢である（または堅牢でない）可能性が高いドメインとタスクの種類を予測できるでしょうか。また、これは学習データとどのように関連しているのでしょうか。最悪の動作を予測して軽減するために使用できる手法はあるでしょうか。（プロンプトのバリエーション全体などの）フューショット学習のコンテキストで堅牢性を測定するにはどうすればよいのでしょうか。敵対的入力であっても非常に高い信頼性で安全性特性を満たすようにモデルに学習させられるでしょうか。

ご依頼が非常に多いため申請の審査に時間がかかること、およびすべての研究が優先的に補助金の対象になるわけではないということにご注意ください。なお、当社からご連絡を差し上げるのは、申請が通って補助金の対象になった場合に限られます。