内容溯源有助于人们了解内容的来源、创建或编辑方式，以及其中是否包含与我们模型相关的信号。我们已公开提供工具，用于识别由我们的模型生成的图像和音频。今天，我们将介绍为响应欧盟《人工智能法案》而采取的文本水印方案，以及这一方案如何融入我们更广泛的工作。
欧盟《人工智能法案》要求生成式 AI 提供商以机器可读的方式标识所生成的文本。文本水印及其检测技术仍处于早期阶段，存在显著局限。对于这些技术的益处和负责任的使用方式，各方的认识也仍在发展。我们采取分阶段推进的方式，既遵循欧盟《人工智能法案》的要求，也考虑技术本身的局限，并着重说明文本水印能告诉人们什么、不能告诉人们什么：
即日起，全球 API 客户均可选择为部分模型启用文本水印。API 中的文本水印功能将继续默认关闭。
未来几周，我们将为欧盟地区符合条件的 ChatGPT 和 Codex 文本输出添加不可见水印。
我们现已开放文本水印检测器的访问申请。初期，访问权限仅向经批准的研究人员和专业机构开放，以便他们帮助我们评估和改进这项技术。
上述安排仅适用于文本溯源。我们的音频和图像验证工具，包括 openai.com/verify 网页工具和内容溯源 API（在新窗口中打开），将继续向有意了解图像或音频文件是否由我们的系统生成的机构公开提供。
我们的文本水印技术 textGrain 在模型选择词语时加入不可见的统计信号。我们的检测器通过寻找这一信号，判断一段文本是否包含 OpenAI 水印。有关 textGrain 工作原理的更多信息，请参阅我们的技术报告（在新窗口中打开）。我们将在未来几周更新报告，补充更多细节。我们还计划将这项技术开源，供其他人在此基础上继续开发。
在我们的评估中，textGrain 的表现达到或超过了我们测试的其他方法，包括用于文本的 SynthID。即便如此，理想条件下的出色表现，并不意味着在日常使用中也能可靠地检测水印。
检测器可能出现两类错误：将没有水印的文本判定为有水印，即假阳性；或未能检出已有的水印，即假阴性。以下评估结果展示了其中的一些挑战：
文本越短或措辞限制越多，水印就越难检测。在目标假阳性率为 1% 时，对于心理学等内容，我们的检测器在长度为 200 个 Token 的文本中，水印检出率约为 80%；在长度为 400 个 Token 的文本中，检出率则约为 95%。对于数学等选词余地较小的内容，检测率则明显更低。
编辑会削弱水印信号。在一项针对 400 个 Token 长度文本的评估中，将 10% 的词语替换为同义词后，检测率从约 92% 降至 66%。替换 25% 的词语后，检测率降至 17%。
考虑到这些局限，我们决定初期仅向经批准的研究人员和专业机构开放检测器访问权限，以便他们帮助我们评估其可靠性和负责任的使用方式。
本图展示了在目标假阳性率为 1% 时，对 ELI5 数据集（在新窗口中打开）中数学和心理学问题的带水印回答进行检测的结果。检测率随文本长度增加而提高，但对于数学等选词余地较小的内容，整体检测率明显更低。
编辑会显著削弱水印信号。本图展示了替换一段文本中 10% 或 25% 的词语对检测的影响。结果基于对 ELI5（在新窗口中打开） 问题的带水印英文回答。
在用于评估我们最新前沿模型 Astra 的各项基准测试中，我们未发现添加水印与不添加水印之间存在明显的性能差异。
基准测试 | 无水印文本（Astra，Max） | 带水印文本（Astra，Max） |
|---|---|---|
Artificial Analysis 智能指数 | 49.57 分 | 49.76 分 |
AutomationBench | 34.09% | 34.86% |
DeepSWE v1.1 | 72.80% | 71.68% |
Terminal-Bench 4.0 | 53.90% | 56.06% |
Terminal-Bench Science 0.1 | 56.90% | 60.00% |
BrowseComp | 87.92% | 87.35% |
HealthBench Professional | 64.27% | 64.60% |
GPQA Diamond | 94.44% | 93.94% |
对于我们的系统在一段文本中发挥了什么作用，文本水印只能提供有限的信号。理解检测结果能支持哪些结论、不能支持哪些结论，非常重要。
水印无法衡量人的贡献。水印可以表明 OpenAI 系统生成或处理过一段文本的部分内容，但无法说明其中有多少来自人的判断、编辑或创意。
水印无法确定所有权或责任归属。水印无法确定文本归谁所有、其使用是否合法、是否需要披露相关信息，或应由谁对其负责。
水印无法识别用户身份。水印不会将文本与任何个人、组织、账号、提示词或对话关联起来。
水印无法验证内容的准确性。水印无法告诉你一段文本是否属实、是否具有误导性、是否有害，或是否放在了恰当的语境中呈现。
未检测到水印，并不能证明文本由人类创作。使用 OpenAI 工具生成的文本，可能因篇幅过短、经过编辑或翻译而无法被可靠检测。文本也可能来自不支持水印的模型、生成于水印功能推出之前，或由其他公司的工具生成。
在欧盟推出文本水印。未来几周，我们将仅在欧盟地区向符合条件的 ChatGPT 和 Codex 用户推出文本水印，覆盖所有套餐。推出之初，我们不会在全球范围内默认启用文本水印。这一分区域推进的方式，让我们能够从实际使用和反馈中积累经验。
允许 API 客户自主选择启用水印。即日起，全球 API 客户均可选择为部分模型的文本输出启用水印。这样，客户可以自行决定如何使用水印，以满足自身的透明度义务，并兼顾向用户提供的体验。我们也在与云服务合作伙伴协作，计划在未来几周内，为通过其服务获取的 OpenAI 模型输出提供水印功能。
向研究人员和专业机构开放检测器访问权限。经批准的研究人员和专业机构即日起可提交申请。根据《实践准则》（在新窗口中打开），初期将逐案授予访问权限，以支持对文本溯源技术的评估和改进。该工具会报告是否检测到 OpenAI 水印，但不会识别用户身份，也不会披露用户的提示词或对话。鉴于水印漏检和假阳性的风险，我们不会在推出之初向公众开放该工具。
随着技术、标准和相关证据的发展，我们预计会重新审视这一方案的各个部分。
任何单一溯源技术都不足以独立满足需求，因此我们采用分层方案，将开放标准、持久性水印和验证工具结合起来。
我们为受支持的图像输出添加内容凭证，已符合 C2PA 标准（在新窗口中打开），在受支持的图像和音频中嵌入不可见的 SynthID（在新窗口中打开） 水印，并通过 openai.com/verify 和内容溯源 API（在新窗口中打开） 提供图像和音频验证功能。这些技术相互补充：内容凭证可以记录文件的来源和历史，而不可见水印则能在元数据被移除后保留信号。
正如我们在选举保障工作中所介绍的，溯源技术可以帮助人们和平台评估可能具有误导性的 AI 生成内容，包括深度伪造内容。我们将这些信号与政策、滥用检测、举报、调查和违规处置相结合，并与研究人员、标准制定机构、平台及公民社会合作，让溯源技术在更广泛的生态系统中发挥作用。
将溯源技术扩展到文本领域，需要考虑到文本很容易被改写、翻译或编辑。正如我们在六月所讨论的，我们的方案必须考虑现有技术在实际应用中的局限。我们将继续改进检测技术，研究水印在编辑和翻译后保持有效的能力，并探索更有实际意义的方法，区分 AI 辅助创作与 AI 直接创作。我们将随着证据、标准和监管要求的变化调整方案，并在认为检测结果能够得到负责任的解读时，扩大检测器的开放范围。
如需了解更多信息，请参阅我们的帮助中心文章（在新窗口中打开）。
