OpenAI API

我们将发布一个 API，用于访问 OpenAI 开发的新 AI 模型。与大多数为单一用例设计的人工智能系统不同，当前的 API 提供了一个通用的“文本输入、文本输出”界面，允许用户将其应用于几乎任何英语语言任务中。您现在可以请求访问权限，以便将 API 集成到您的产品中，开发全新的应用，或者帮助我们探索这项技术的优势和局限性。

对于提供的任何文本提示，API 都将返回一个文本补全结果，尝试匹配您给出的文本模式。您只需提供少量任务示例即可对其进行"编程"，其成功率通常取决于任务的复杂程度。API 还允许您使用提供的示例数据集（小型或大型）进行训练，或从用户或标注者提供的人工反馈中学习，来提高特定任务的性能。

我们设计的 API 既简单易用，又足够灵活，可以提高机器学习团队的工作效率。事实上，我们的许多团队现在都在使用 API，以便能够专注于机器学习研究而不是分布式系统问题。如今，API 使用 GPT‑3⁠（在新窗口中打开） 系列的权重运行模型，速度和吞吐量都有了很大的提升。机器学习的发展非常迅猛，我们也在不断升级技术，让我们的用户跟上时代。

该领域的发展速度意味着人工智能经常会出现令人惊讶的新应用，既有积极的，也有消极的。对于明显有害的用例，例如骚扰、垃圾邮件、极端化或虚假宣传，我们将终止 API 访问权限。但我们也知道，我们无法预测这项技术可能带来的所有后果，所以我们今天发布的是内测版，而不是正式发布版。我们正在构建工具，帮助用户更好地控制我们的 API 返回的内容，并研究语言技术的安全相关方面（例如分析、减轻和干预有害的偏见）。我们将分享我们的学习成果，以便我们的用户和更广泛的社区可以构建更加人性化的人工智能系统。

除了作为收入来源来帮助我们支付追求⁠我们的使命⁠的成本外，API 还促使我们更加关注通用人工智能技术——推动技术进步，提升可用性，并思考它在现实世界中的影响。我们希望 API 能够大大降低生产有益人工智能产品的门槛⁠（在新窗口中打开），从而催生当今难以想象的工具和服务。

有兴趣探索 API 吗？诚邀您与 Algolia⁠（在新窗口中打开）、Quizlet⁠（在新窗口中打开） 和 Reddit⁠（在新窗口中打开） 等企业，以及明德学院⁠（在新窗口中打开）等研究机构共同参与我们的内部测试⁠（在新窗口中打开）。

归根结底，我们最关心⁠的是确保通用人工智能惠及所有人。我们认为开发商业产品是确保我们获得足够资金以取得成功的途径之一。

我们也认为，在全球范围内安全地部署强大的人工智能系统并非易事。在发布 API 的过程中，我们与合作伙伴密切合作，探讨人工智能系统在现实世界的应用会遭遇哪些挑战。这将有助于指导我们理解未来人工智能系统的部署方式，以及我们需要采取哪些措施来确保它们安全可靠并造福所有人。

我们这样做主要有三个原因。首先，将技术商业化有助于我们为正在进行的人工智能研究、安全和政策工作支付费用。

其次，API 所依赖的许多模型规模庞大，开发和部署需要大量专业知识，运行成本也非常高昂。这使得除了大型企业之外的任何人都难以从底层技术中获益。我们希望 API 能够让小型企业和组织更容易使用强大的 AI 系统。

第三，API 模型使我们能够更轻松地应对技术滥用。由于我们模型的下游用例难以预测，因此通过 API 发布模型并逐步扩大访问权限，比发布开源模型（即使发现模型存在有害应用，访问权限也无法调整）更具安全性。

对于 GPT‑2，我们主要担心的一点是模型被恶意使用（例如，用于虚假信息），一旦模型开源，就很难阻止这种滥用。对于 API，我们可以通过限制已获批准的客户和用例的访问权限来更好地防止滥用。在拟议的应用上线之前，我们有一个强制性的生产审查流程。在生产审查中，我们会从几个方面评估应用，提出以下问题： 这是当前支持的用例吗？，该应用的开放程度如何？，该应用的风险有多大？，您计划如何应对潜在的滥用？，以及该应用的最终用户是谁？。

对于被发现会对人们造成（或意图造成）身体、情感或心理伤害的用例，包括但不限于骚扰、故意欺骗、极端化、虚假宣传或垃圾邮件，以及缺乏足够防护措施来限制最终用户滥用的应用，我们将终止其 API 访问权限。随着我们在实践中积累更多 API 操作经验，我们将不断完善我们能够支持的使用类别，以扩大我们能够支持的应用范围，并为那些我们担心滥用的应用创建更精细的类别。

在批准 API 的使用时，我们考虑的一个关键因素是应用在系统底层生成能力方面展现的开放性与受限性程度。API 的开放性应用（即能够通过任意提示轻松生成大量可自定义文本的应用）尤其容易被滥用。可以提高生成用例安全性的约束条件包括：在系统设计中确保人类的参与、终端用户访问限制、输出后处理、内容过滤、输入/输出长度限制、主动监控以及话题性限制。

我们还在继续研究 API 所提供模型的潜在滥用问题，包括通过我们的学术访问项目⁠（在新窗口中打开）与第三方研究人员合作。目前，我们起步的研究人员数量非常有限，但已经从明德学院⁠（在新窗口中打开）、华盛顿大学和艾伦人工智能研究所⁠（在新窗口中打开）的学术合作伙伴那里获得了一些成果。该项目已收到数万份申请，我们正在优先考虑专注于公平性和代表性研究的申请。

减轻诸如有害偏见之类的负面影响是全行业共同面临的一个极其重要的难题。正如我们在 GPT‑3 论文⁠（在新窗口中打开）和模型卡⁠（在新窗口中打开）中所讨论的，我们的 API 模型确实存在偏见，这些偏见会反映在生成的文本中。以下是我们为解决这些问题而采取的措施：

• 我们制定了使用指南，帮助开发人员了解并解决潜在的安全问题。
• 我们正在与用户密切合作，了解他们的用例，并开发工具来发现并干预有害偏见，以减轻其影响。
• 我们正在对有害偏见的表现形式以及更广泛的公平性和代表性问题开展自主研究，这将有助于我们通过改进现有模型的文档以及对未来模型的各种改进来指导我们的工作。
• 我们认识到，偏见是在系统和部署环境的交叉点上表现出来的问题；使用我们的技术构建的应用是社会技术系统，因此我们与开发人员合作，确保他们采用适当的流程和人机交互系统来监控不良行为。

我们的目标是继续加深对 API 在各种使用环境中的潜在危害的了解，并持续改进我们的工具和流程，以最大程度地减少这些危害。

2020 年 9 月 18 日更新