我们宣布任命 Paul Christiano 加入 OpenAI Foundation 董事会。他还将担任 OpenAI Group PBC 董事会的无表决权观察员。
Paul 还将加入 Foundation 董事会下设的安全与安保委员会(SSC),与委员会主席 Zico Kolter 共事。SSC 负责监督 OpenAI 各部门(包括 OpenAI Group PBC)的安全与安保实践。
Paul 曾在两届政府任职,供职于美国国家标准与技术研究院(NIST)下设的人工智能标准与创新中心(在新窗口中打开)(CAISI)。NIST 是美国商务部下属机构,Paul 在该中心担任高级技术顾问1。在 CAISI 及其前身——美国人工智能安全研究所任职期间,Paul 致力于评估前沿 AI 模型,包括评估可能影响国家安全的能力,并研究如何降低相关安全与安保风险。
Paul 还是非营利研究机构对齐研究中心(在新窗口中打开)(ARC)的创始人。该机构致力于让先进 AI 系统与人类利益保持一致。2017 至 2021 年,Paul 在 OpenAI 领导对齐研究,并参与了基于人类反馈的强化学习(RLHF)方面的奠基性工作。担任这一新职务后,Paul 将以独特且有坚实技术依据的视角参与 OpenAI 的治理决策。我们的使命是确保通用人工智能造福全人类。
“Paul 以严谨的研究直面能力日益增强的系统所带来的最棘手问题,为 AI 对齐领域的奠基作出了重要贡献。他拥有在政府部门从事前沿 AI 安全与标准工作的经验,并具备出色的技术判断力。随着 OpenAI 继续开发和部署前沿 AI,这些经验与能力将加强董事会的监督以及安全与安保委员会的工作。”
“过去一年,AI 能力突飞猛进,而对齐仍是一个棘手的技术问题,这使安全与安保委员会肩负的责任比以往任何时候都更加重要,也更具挑战性。我很高兴能加入团队,贡献自己的力量。”
AI 正迈入能力发展的新时代,因此,在推动这些系统进步的同时建立强有力的安全、安保、对齐与治理机制,变得愈发重要。在研究 AI 对齐的职业生涯中,Paul 始终认真看待先进 AI 可能带来灾难性风险的可能性,并认为开发者必须在系统达到更危险的能力水平之前做好准备。对于行业现有保障措施是否充分,他始终坚持独立发声。我们相信,敢于质疑主流假设,并帮助加强关键决策所依据的证据、保障措施与问责机制的人士,能够让 Foundation 的治理更加稳健。
Paul 的任命延续了 OpenAI 于 2025 年 10 月完成资本重组时确立的治理架构,其中包括与加利福尼亚州总检察长(在新窗口中打开)和特拉华州总检察长(在新窗口中打开)历时一年开展的审查相关的各项承诺。他们的参与推动了治理框架的完善。
关于 OpenAI Foundation
OpenAI Foundation 是一家致力于确保 AI 造福全人类的慈善组织。作为独立的非营利组织,Foundation 自行开展慈善事业,同时保持对 OpenAI Group PBC 的控制权,并持有其重要股权。Foundation 支持以负责任的 AI 推动科学发现、增强公民社会力量和提升韧性的各类项目。Foundation 通过资助、合作及其他公益项目,推动创造持久公共利益的工作,并让更多人有机会受益于 AI 的变革潜力。
Foundation 控制 OpenAI Group PBC,安全与安保委员会则是 Foundation 董事会下设的委员会。访问 www.openaifoundation.org(在新窗口中打开) 了解更多信息。


