Paul Christiano se joint au conseil de l’OpenAI Foundation
Paul Christiano se joindra également au comité de sûreté et de sécurité de la Fondation.
Nous annonçons la nomination de Paul Christiano au conseil d’administration de l’OpenAI Foundation. Il siégera comme observateur sans droit de vote au conseil d’administration d’OpenAI Group PBC.
Paul se joindra également au comité de sûreté et de sécurité de la Fondation, aux côtés de son président, Zico Kolter. Le comité de sûreté et de sécurité assure la gouvernance des pratiques de sûreté et de sécurité dans l’ensemble d’OpenAI, y compris OpenAI Group PBC.
Paul apporte une expérience gouvernementale acquise sous deux administrations grâce à son travail au Center for AI Standards and Innovation(s'ouvre dans une nouvelle fenêtre) (CAISI), au sein du National Institute of Standards and Technology (NIST), un organisme du département américain du Commerce, où il occupe le poste de conseiller technologique principal1. Pendant son passage au CAISI et à l’organisme qui l’a précédé, l’Institut américain de sûreté de l’IA, Paul a travaillé sur l’évaluation de modèles d’IA de pointe, notamment de capacités ayant des répercussions sur la sécurité nationale, ainsi que sur des approches visant à atténuer les risques connexes en matière de sûreté et de sécurité.
Paul est également le fondateur de l’Alignment Research Center(s'ouvre dans une nouvelle fenêtre) (ARC), un organisme de recherche sans but lucratif qui cherche à aligner les systèmes d’IA avancés sur les intérêts humains. De 2017 à 2021, Paul a dirigé la recherche sur l’alignement chez OpenAI et a contribué à des travaux fondamentaux sur l’apprentissage par renforcement à partir de retours humains (RLFH). Dans ce nouveau rôle, Paul apporte un point de vue distinct, fondé sur une solide expertise technique, aux décisions de gouvernance d’OpenAI. Notre mission est de veiller à ce que l’intelligence artificielle générale profite à toute l’humanité.
“Paul a contribué à définir le domaine de l’alignement de l’IA grâce à des travaux rigoureux axés sur les questions les plus difficiles que soulèvent des systèmes toujours plus performants. Son expérience au gouvernement dans le domaine de la sûreté et des normes de l’IA de pointe, ainsi que son jugement technique, renforceront la surveillance exercée par le conseil et les travaux du comité de sûreté et de sécurité tandis qu’OpenAI poursuit le développement et le déploiement de l’IA de pointe.”
“Les capacités de l’IA ont progressé très rapidement au cours de la dernière année, et l’alignement demeure un problème technique difficile, ce qui rend la responsabilité du comité de sûreté et de sécurité plus importante et plus exigeante que jamais. Je suis ravi de me joindre à l’équipe pour lui prêter main-forte.”
L’IA entre dans une nouvelle ère de capacités, et il est donc de plus en plus important que les progrès de ces systèmes s’accompagnent de mesures robustes en matière de sûreté, de sécurité, d’alignement et de gouvernance. Tout au long de sa carrière consacrée à la recherche sur l’alignement de l’IA, Paul a défendu un point de vue qui prend au sérieux la possibilité que l’IA avancée pose des risques catastrophiques et que les développeurs doivent se préparer avant que les systèmes n’atteignent des niveaux de capacité plus dangereux. Il s’est exprimé en toute indépendance sur la question de savoir si les mesures de protection de l’industrie sont adéquates. Nous croyons que la gouvernance de la Fondation est plus solide lorsqu’elle compte des personnes prêtes à remettre en question les idées dominantes et à renforcer les données probantes, les mesures de protection et la responsabilisation qui sous-tendent les décisions cruciales.
La nomination de Paul s’appuie sur la structure de gouvernance établie lors de la recapitalisation d’OpenAI en octobre 2025, y compris les engagements pris à la suite des examens menés pendant un an par le procureur général de la Californie(s'ouvre dans une nouvelle fenêtre) et la procureure générale du Delaware(s'ouvre dans une nouvelle fenêtre). Leur participation a contribué à renforcer le cadre de gouvernance.
À propos de l’OpenAI Foundation
L’OpenAI Foundation est un organisme de bienfaisance qui veille à ce que l’IA profite à toute l’humanité. En tant qu’organisme sans but lucratif distinct, la Fondation mène ses propres activités caritatives tout en conservant le contrôle d’OpenAI Group PBC et une participation importante dans celle-ci. La Fondation soutient des initiatives qui favorisent les découvertes scientifiques, renforcent la société civile et accroissent la résilience grâce à une IA responsable. Par des subventions, des partenariats et d’autres initiatives philanthropiques, la Fondation contribue à accélérer des travaux qui génèrent des retombées publiques durables et élargissent l’accès au potentiel transformateur de l’IA.
La Fondation contrôle OpenAI Group PBC, et le comité de sûreté et de sécurité relève de son conseil d’administration. Pour en savoir plus, consultez www.openaifoundation.org(s'ouvre dans une nouvelle fenêtre).
