分享與發佈政策

為了緩解人工智慧生成內容所致的可能風險，我們制定以下政策來規範允許分享的内容。

在一般情況下，您可以將自己的提示詞或生成内容張貼到社交媒體，也可以直播使用過程或向群眾示範我們的產品。請遵循以下原則：

• 分享或直播之前，請先人工審核所生成的每項內容。
• 標註此內容出處為您個人或公司名稱。
• 以任何使用者都不會錯過或誤解的方式，指出內容是由人工智慧所產生。
• 不得分享違反我們內容政策⁠⁠或可能冒犯他人的內容。
• 在接受觀眾要求提供提示詞時，請審慎判斷；請勿輸入可能導致違反我們內容政策⁠⁠的提示詞。

您可以傳送電子郵件給我們，或使用 Playground 中的報告工具​，讓 OpenAI 團隊得知某項特定生成内容​。

• 請注意：您是在與原始模型互動，因此我們不會過濾掉帶有偏見或負面情緒的回應。（此外，您也可以閱讀此處關於實作我們的免費審核端點⁠(在新視窗中開啟)的更多資訊。）

凡符合以下條件的創作者都能發佈其中一部分是使用 OpenAI API 產生的第一方文字內容（如書籍、短篇故事集）：

• 標註此發佈內容的出處為您個人或公司名稱。
• 以任何讀者都不會錯過，並且普通讀者也很容易理解的方式，明確地揭露人工智慧在內容創作中扮演的角色。
• 內容主題不得違反 OpenAI 的內容政策⁠或使用條款⁠，例如，不涉及成人內容、垃圾郵件、仇恨內容、煽動暴力的內容或其他可能造成社會危害的用途。
• 我們懇請您避免分享可能冒犯他人的輸出內容。

例如，請務必在前言或引言（或類似位置）中詳細說明相關角色，如草擬、編輯等。不應將 API 產生的內容描述為完全由人類產生或完全由人工智慧產生，並且人類必須對發佈內容承擔最終責任。

以下是一些您可以用來描述創作流程的常用語言（請確保描述準確）：

我們認為，讓更廣泛的群體參與評估我們的研究和產品十分重要，尤其有助於理解和改進模型的潛在弱點以及安全性或偏見等問題。因此，我們歡迎出版發行與 OpenAI API 相關的研究。

• 在某些情況下，我們可能希望在內部和/或外部醒目標示您的作品。
• 在其他時候，例如涉及 API 安全性或濫用問題的出版物，我們可能希望採取適當措施來保護使用者。
• 如果您在研究過程中發現 API 存在任何安全或保障問題，請立即透過我們的協調漏洞揭露計畫⁠提交相關發現。

我們很高興能利用 OpenAI API 探索多個研究方向。如果您對資助存取的機會感興趣，請在研究人員存取計畫申請⁠中提出您的研究使用案例詳細資料。

我們認為以下幾個方向特別重要，不過歡迎您自行制定自己的方向：

• 對齊性：我們如何理解模型最適合追求什麼目標（若有）？我們如何透過提示詞的設計或微調來提高模型目標與人類喜好之間的對齊程度？
• 公平性和代表性：應該如何建立語言模型公平性和代表性的績效標準？如何改進語言模型，以便在特定的部署環境中有效地支援公平性和代表性目標？
• 跨學科研究：人工智慧發展如何借鏡哲學、認知科學和社會語言學等其他學科的深入見解？
• 可解釋性和透明度：模型的運作機制為何？我們能否辨識它們正在使用什麼概念，或從模型中提取哪些潛在知識，推斷其訓練過程，或預測未來意想不到的行為？
• 濫用可能性：API 等系統可能會被如何濫用？我們可以開發哪些類型的「紅隊測試」方法來協助我們和其他人工智慧開發者思考如何負責任地部署此類技術？
• 模型探索：API 等模型尚有許多未開發的能力。我們非常期待探索模型限制、語言特性、常識推理等領域，以及許多其他問題的應用潛力。
• 穩健性：生成式模型的能力分佈並不均衡，可能同時存在超出預期的強項和弱項。大型生成式模型對於提示詞中的「自然」擾動（例如，以不同方式表達相同想法，或是否存在拼字錯誤）的穩健性如何？我們能否預測大型生成式模型在哪些領域和任務上會表現得比較穩健（或不夠穩健），以及這與訓練資料有何關聯？是否有可供預測及緩解最壞情況行為的技巧？如何在少量樣本學習（例如跨不同提示詞變體）的背景下衡量穩健性？我們能否訓練模型，使它們即使在敵對性的輸入下也能滿足安全要求並達到極高的可靠性？

請注意，由於申請量龐大，我們需要時間來審核這些申請，並且並非所有研究都能優先獲得資助。只有當您的申請被選中獲得資助時，我們才會與您聯繫。