共享和发布政策

为降低 AI 生成内容可能造成的风险，我们制定了以下共享规范。

允许将您自己的提示词或补全内容发布至社交媒体，亦允许直播使用过程或向群体演示我们的产品。请遵循以下规定：

• 共享前或直播过程中须人工审核每次生成的内容。
• 明确指出内容创作者是您本人或您的公司。
• 以最直白方式在清晰醒目位置标明‘内容由 AI 生成’。
• 不得共享违反我们的内容政策⁠或可能冒犯他人的内容。
• 若接受观众提出的提示词请求，应审慎判断；避免输入可能违反我们的内容政策⁠的提示词。

若希望确保 OpenAI 团队知悉特定的生成内容，您可向我们发送邮件或使用 Playground 内的报告工具。

• 请注意，您正在与原始模型交互，这意味着我们不会过滤存在偏见或负面倾向的回复。（此外，您可在此处详细了解如何部署免费内容审核端点⁠（在新窗口中打开）。）

若创作者希望出版其借助 OpenAI API 完成部分创作的第一方书面内容（如书籍、短篇小说集），则必须满足以下条件方可进行出版：

• 明确指出出版内容由您本人或您的公司创作。
• 以醒目易懂的方式明确指出 AI 在内容生成中的作用。
• 内容主题不得违反 OpenAI 的内容政策⁠或使用条款⁠，例如，不涉及成人内容、垃圾信息、仇恨内容、煽动暴力的内容或其他可能造成社会危害的用途。
• 请避免共享可能冒犯他人的输出内容。

例如，必须在前言或引言（或类似位置）详细说明起草、编辑等环节的具体分工。不得将 API 生成的内容表述为完全由人类创作或完全由 AI 生成，且人类须对出版内容承担最终责任。

您可以使用以下标准表述来说明创作过程（请确保描述准确）：

我们认为，让社会各界能够评估我们的研究与产品具有重要意义，这对于理解和改进模型中可能存在的缺陷、安全问题或偏差问题尤为关键。因此，我们欢迎有关 OpenAI API 的研究刊物。

• 在某些情况下，我们可能会在内部和/或外部重点推介您的研究成果。
• 对于涉及 API 安全漏洞或滥用行为的研究刊物，我们可能会采取适当措施保护我们的用户。
• 若您在研究过程中发现 API 存在任何安全问题，请立即通过我们的协调漏洞披露计划⁠指出。

我们期待通过 OpenAI API 探索多个研究方向。若您希望申请访问补贴，请参阅研究人员访问计划申请指南⁠，向我们详细说明您的研究用例。

我们特别关注以下重点方向（但您可自定研究方向）：

• 对齐：如何理解模型所追求的目标（如有）？如何通过提示词设计或微调等方法使该目标更符合人类偏好？
• 公平性与代表性：如何为语言模型的公平性与代表性确立性能标准？如何改进语言模型以有效支持具体应用场景中的公平性与代表性目标？
• 跨学科研究：AI 发展如何借鉴哲学、认知科学、社会语言学等学科的见解？
• 可解释性与透明度：这些模型的工作原理是什么？能否识别模型所使用的概念？能否从模型中提取潜在知识？能否推断训练过程？能否预测未来意外行为？
• 滥用可能性：API 等系统可能被如何滥用？我们可以开发哪些“红队测试”方法，以便我们及其他 AI 开发人员负责任地部署此类技术？
• 模型探索：API 所服务的模型具有多种多样的能力，其中许多我们仍未发掘。我们期待在模型局限性、语言特性、常识推理及其他领域的潜在应用等方面展开研究。
• 鲁棒性：生成式模型的能力存在不均衡性，可能存在能力异常强大和异常薄弱的领域。当提示词出现“自然”扰动（如不同表述方式或含拼写错误）时，大型生成式模型的鲁棒性如何？能否预测针对哪些领域和任务大型生成式模型保持（或不保持）鲁棒性的可能性更高？这与训练数据之间有着怎样的关系？是否存在可预测和减轻最坏情况行为的技术？如何在小样本学习场景下（例如针对提示词差异）衡量鲁棒性？能否训练模型使其即使面对对抗性输入也能高度可靠地满足安全要求？

请注意，因申请量巨大，我们需要时间审核所有申请，且并非所有研究都能获得补贴。仅当您的申请通过审核时，我们才会与您联系。