作者:Chris Lehane,首席全球事务官
从美国各州首府,到华盛顿,再到国际会议,严肃的前沿 AI 治理方案正在成形。这些努力共同推动着一种面向 AI 的民主愿景。
加利福尼亚州、纽约州以及最近的伊利诺伊州都推进了前沿安全立法,帮助美国朝着治理最强大 AI 系统的共同基线迈进。
这些努力体现出 OpenAI 所称的反向联邦主义正在形成势头:各州通过共同框架帮助确立共享方向。随着州主导的工作与联邦层面正在推进的努力相互汇合,全国性标准开始成形,为由美国主导的全球 AI 框架奠定基础。我们认为,确保 AI 惠及多数人而非少数人的最佳方式,是由民主政府而不只是前沿实验室来作出关键决策——首先就是前沿安全决策。
归根结底,最符合美国利益的是建立一个以这一原则为基础的全国性框架。但在尚无此类框架的情况下,各州可以通过通过相互呼应的法律,推动我们朝这个方向前进。一步一步地,它们可以形成一个事实上的全国性标准。
如果安全是优先事项,这样的全国性标准就是最佳政策路径:一方面确保美国继续引领创新,不被拼凑式监管削弱,因为后者会拖慢构建全球民主 AI 技术栈的能力,而该技术栈旨在让防护方获得所需工具,抵御试图在网络安全等领域滥用 AI 的恶意行为者;另一方面,也使美国处于最有利位置,将这一全国性标准推广为一个基于民主价值观、安全部署 AI 的全球方案。如果我们希望建立一个真正优先推动全国和国际标准落地的安全框架——这最有利于 AI 的安全部署——就需要艰苦努力、严肃目标,以及一项能够连接各州、联邦政府和国际对话的战略。流于表演或标榜美德的做法无法完成这项任务——州层面的混乱不利于形成持久的安全路径,只会带来更多混乱。
要让这一方法取得成功,各州应继续围绕核心要素保持一致,就像加利福尼亚州、纽约州和伊利诺伊州已经做到的那样。概括来说,这些要素包括:
- 形成有记录的安全框架,对前沿模型开展风险评估,并公开披露这些评估及其结果。
- 报告严重安全事件。
- 通过独立、客观的审计实现治理与问责。
综合来看,这三个州已将民主监督纳入前沿 AI 部署。加利福尼亚州确立了核心披露框架。纽约州证明了这一方法可以跨司法辖区采用。伊利诺伊州则通过要求对关键披露进行独立验证,对其作出了补充。
我们认识到,立法往往会包含额外条款,以争取通过所需票数。但我们相信,这些正是通过反向联邦主义建立事实上的全国性标准所需的核心要素。如果没有这种自律,我们就会面临政策范围蔓延和拼凑式州法律的风险:监管者难以执行,消费者难以理解,开发者资源也会被分散——尤其是初创企业和小公司的资源,本应更好地投入到安全上。特别是,正如过去几周所显示的,随着 AI 模型能力越来越强,我们需要一个连贯的体系,使我们能够把工具交到政府、关键基础设施、盟友和可信合作伙伴手中。
政策制定者还应防止使命范围蔓延。不应要求各州管理重大的国家安全风险(或实际上代表整个国家作出国家安全决策),也不应要求各州开展高度技术性的审查;这些工作更适合由联邦专家处理,他们具备资源、专业知识、机密系统访问权限,以及与我们的团队密切合作的能力。
在联邦层面,特朗普政府正继续与技术和国家安全专家合作,为美国政府针对最强大 AI 模型的网络安全测试制定框架。该框架将确立测试标准、时间表和流程。OpenAI 正与政府、同业公司、商业团体及其他利益相关方开展建设性讨论,共同推动这项工作成形。
围绕网络安全评估开展的持续工作说明了一致性为何重要。当前,在联邦框架完成之前对模型进行测试是可以理解的。随着各实验室推进这一流程,一点已变得明确:我们需要在州和联邦两个层面采用一致且可重复的方法。如果我们希望政府、关键基础设施防护方、盟友和其他可信合作伙伴能够使用最强大的模型,这一点至关重要。我们赞赏政府希望在 8 月初前建立这一框架的目标。
联邦测试框架将有助于把先进 AI 工具交到政府、关键基础设施防护方、盟友和其他可信合作伙伴手中。这样做将强化民主制度,并帮助构建由美国主导的民主 AI 技术栈。现在正是利用美国创新领先优势来支持民主 AI 的时机。
无论是尚不明确的联邦流程,还是拼凑式的州法律,都无法形成连贯的前沿安全制度。我们需要一种方法,确保最优秀的测试方评估最强大的模型,并让可信的防护方足够快地获得这些工具,以便领先于恶意行为者。
国会也在采取行动。参众两院、两党议员——最近包括众议员 Jay Obernolte 和 Lori Trahan——已注意到各州和行政部门的相关进展,并提出了联邦框架方案。任何有现实通过路径的讨论草案都不可能完美。但我们认为,这项工作是富有成效的向前一步,并相信其中许多条款考虑周全,值得支持。
同样令我们感到鼓舞的是,参议院和众议院领导人正认真投入国家治理和前沿安全提案,我们也已与其中许多人进行了建设性对话。鉴于一些已经颁布方向一致法律的州规模大、影响力强,将这些做法纳入联邦立法,应能更容易建立统一的全国性前沿安全制度。
OpenAI 的前沿安全蓝图阐明了我们认为该框架应包含的核心要素。
首先,联邦政府应主导对最先进系统的测试和评估。前沿 AI 提出了国家安全和公共安全问题,需要任何一个州都无法完全复制的技术专长、资源和访问权限。
这项工作应强化拜登总统任内创建、特朗普总统任内加强的 AI 标准与创新中心(CAISI)。CAISI 能够提供评估先进模型所需的持久联邦能力,并推动前沿安全从主要依赖事后问责,转向在危害发生前加以预防。任何联邦立法都应仔细考虑 CAISI 应如何与政府其他部门协作,以及它应在测试中心发挥什么作用。
其次,开发最强大系统的公司应满足明确要求,包括独立审计、事件报告、强有力的安全标准和举报人保护。
第三,联邦和州层面的努力应相互强化。各州法律不会完全相同,我们期待与全国各地的政策制定者合作,确保这些法律在加强安全的同时,最大化 AI 的经济效益。
各州还应继续在前沿安全之外的领域充当民主试验场,包括青少年保护、电力与环境政策,以及 AI 教育和素养。
联邦框架仍然至关重要。前沿 AI 提出了国家安全、经济竞争力和公共安全问题,最终需要全国性标准、国家能力和国家机构来支持民主 AI。
全国性立法对于建立由美国主导的 AI 标准国际框架也至关重要。几周前,在 G7 与巴西、埃及、印度、肯尼亚和韩国共同参加的会议上,与会的领先前沿实验室首席执行官讨论了建立此类框架的必要性。会后,OpenAI 首席执行官 Sam Altman 在《金融时报》提出(在新窗口中打开)“一个由美国主导的国际论坛,用于确立公认标准,提供关于能力和风险的专业、公正分析,并向参与且遵守规则的国家和公司开放这项技术”。本周,Google DeepMind 首席执行官 Demis Hassabis 也在一篇新论文中提出了富有见地的想法。必须由两党共同推动的联邦立法,将为这一国际努力提供坚实基础。
如今,各个层面的势头都已清晰可见。各州正在建立共同方法。国会和行政部门正在朝全国性框架迈进。全球领导者也开始讨论国际标准。如果各方相互借力,美国就能引领建立一个以 AI 民主愿景为基础的全球框架。而这种面向 AI 的民主协同方法,才是真正把安全置于优先位置的方法。


