助力构建先进 AI 共享标准

能力日益增强的模型可以强化网络防御、加速科学发现，并扩大专业知识的获取渠道。但如果人们误解其能力、保障措施不足，或政府缺乏所需信息来作出响应，它们也可能带来安全与安保风险。为安全且有信心地实现这些收益，社会需要具备技术与治理能力的机构，以评估、保护并治理能力日益增强的系统。

这也是 OpenAI 帮助创立由 Linux 基金会托管的 Appia 基金会⁠（在新窗口中打开） 的原因之一。Appia 将制定开放、模块化的规范，旨在把国际标准和成熟框架转化为贯穿 AI 价值链的实用评估标准。当模型、基础设施和应用由不同组织开发时，其工作可帮助建立一个关键但缺失的信任层，让第三方检查是否符合标准，并生成更清晰、更可复用的证据。通过开展这项工作，Appia 将帮助建立一种共同的技术语言，使国家和国际机构能够信任彼此的工作。

我们认为，这项努力是更广泛工作中的重要下一步，旨在强化先进 AI 系统所需的机构、标准和评估实践。

我们近期发布的前沿 AI 民主治理蓝图为这项工作提供了路线图。该蓝图呼吁建立一个持久的美国框架，强化 AI 标准与创新中心（CAISI），并在整个政府范围内制定更广泛的韧性战略。它也承认，前沿风险具有国际范围。各国应共同努力，制定相互兼容的安全框架、分享风险发现的可信渠道，以及协调一致的事件响应。

国家能力与国际合作应相互强化。CAISI 等强有力机构可以发展技术专长、评估前沿系统，并支持独立评估生态。由有能力的国家机构组成的网络随后可以建立共享方法、认可可信证据，并为各国政府提供共同行动所需的共同技术理解。

标准是这项工作的核心，并且必须建立在可信的评估实践和严谨技术之上。在我们的可信第三方评估共享指南中，我们阐明了前沿评估越来越需要披露的内容：被测试的系统、其工具访问权限和评估框架、用于引出能力的方法、可用资源，以及为验证结果而执行的检查。我们还通过与 美国 CAISI 和英国 AISI 的测试合作 将这些原则付诸实践；他们在前沿能力评估和生物误用防护方面的工作，推动了我们系统的具体改进。这项工作发挥着重要作用，为可被标准化的实践奠定基础，以便以可比较的方式检查表现。

这些实践是 OpenAI 更广泛安全基础设施的补充。我们的准备框架 (Preparedness Framework) 是基础，用于界定并落实我们管理先进 AI 系统最严重风险的方法，包括我们的内部实践。我们的 前沿治理框架 将该方法的相关部分应用于一份公共治理文件，聚焦具体监管义务，包括风险评估、模型报告、安全控制、事件响应，以及纳入外部专家意见。这些成果共同帮助把广泛承诺转化为可验证、可改进的运营实践。

Appia 的工作面向下一个挑战：让这些实践能够在组织、司法辖区和供应链之间互操作。

OpenAI 已经在更广泛的标准和预标准化工作生态中作出贡献。我们参与了 国际标准化组织与国际电工委员会第一联合技术委员会人工智能第 42 分委员会⁠（在新窗口中打开） 以及由 美国国家标准与技术研究院牵头的人工智能联盟⁠（在新窗口中打开）；帮助创立了 前沿模型论坛 和 Linux 基金会的 智能体式人工智能基金会⁠（在新窗口中打开）；参与 安全人工智能联盟⁠（在新窗口中打开）；在 内容来源与真实性联盟⁠（在新窗口中打开） 的指导委员会任职；并参与 互联网工程任务组⁠（在新窗口中打开） 和 快速身份在线联盟⁠（在新窗口中打开） 的流程，以推进可互操作的技术标准。

在这些论坛中，包括现在通过 Appia，我们的目标是把前沿开发中的经验转化为开放且有技术依据的实践，供政府、企业和独立评估方在不同司法辖区使用。