Paul Christiano rejoint le conseil de l’OpenAI Foundation
Paul Christiano rejoindra également le Comité de sûreté et de sécurité de la Fondation.
Nous annonçons la nomination de Paul Christiano au conseil d’administration de l’OpenAI Foundation. Il siégera comme observateur sans droit de vote au conseil d’administration d’OpenAI Group PBC.
Paul rejoindra également le Comité de sûreté et de sécurité (SSC) du conseil d’administration de la Fondation, aux côtés de son président, Zico Kolter. Le Comité de sûreté et de sécurité supervise les pratiques de sûreté et de sécurité dans l’ensemble d’OpenAI, y compris au sein d’OpenAI Group PBC.
Paul apporte l’expérience acquise au sein du gouvernement sous deux administrations grâce à son travail au Centre des normes et de l’innovation en IA(ouverture dans une nouvelle fenêtre) (CAISI), qui relève du National Institute of Standards and Technology (NIST), une agence du gouvernement des États-Unis. Au ministère du Commerce, il occupe le poste de conseiller technique principal1. Pendant son passage au CAISI et dans l’organisme qui l’a précédé, l’Institut américain pour la sécurité de l’IA, Paul a travaillé sur l’évaluation de modèles d’IA de pointe, notamment de capacités ayant des implications pour la sécurité nationale, ainsi que sur des méthodes visant à atténuer les risques connexes en matière de sûreté et de sécurité.
Paul est également le fondateur de l’Alignment Research Center(ouverture dans une nouvelle fenêtre) (ARC), un organisme de recherche à but non lucratif qui vise à aligner les systèmes d’IA avancés sur les intérêts humains. De 2017 à 2021, Paul a dirigé les recherches sur l’alignement chez OpenAI et contribué à des travaux fondateurs sur l’apprentissage par renforcement à partir de retours humains (RLFH). Dans cette nouvelle fonction, Paul apporte aux décisions de gouvernance d’OpenAI un point de vue distinct et solidement ancré dans la technique. Notre mission est de veiller à ce que l’intelligence artificielle générale profite à toute l’humanité.
“Paul a contribué à définir le domaine de l’alignement de l’IA grâce à des travaux rigoureux, axés sur les questions les plus difficiles que posent des systèmes toujours plus performants. Son expérience des normes et de la sûreté des IA de pointe au sein du gouvernement, alliée à son discernement technique, renforcera la supervision du conseil d’administration et les travaux du Comité de sûreté et de sécurité, tandis qu’OpenAI poursuit le développement et le déploiement d’IA de pointe.”
“Les capacités de l’IA ont progressé très rapidement au cours de l’année écoulée, tandis que l’alignement reste un problème technique difficile, ce qui rend la mission du Comité de sûreté et de sécurité plus importante et plus complexe que jamais. Je suis ravi de rejoindre l’équipe pour apporter mon aide.”
L’IA entre dans une nouvelle ère de capacités, et il est donc de plus en plus important que les progrès de ces systèmes s’accompagnent de solides mesures de sûreté, de sécurité, d’alignement et de gouvernance. Tout au long de sa carrière consacrée à l’alignement de l’IA, Paul a défendu un point de vue qui prend au sérieux la possibilité que l’IA avancée présente des risques catastrophiques et la nécessité pour les développeurs de se préparer avant que les systèmes n’atteignent des niveaux de capacité plus dangereux. Il s’est exprimé en toute indépendance sur le caractère adéquat ou non des garde-fous du secteur. Nous estimons que la gouvernance de la Fondation est renforcée par des personnes prêtes à remettre en question les idées dominantes et à consolider les données probantes, les garde-fous et la responsabilité qui sous-tendent les décisions cruciales.
La nomination de Paul s’inscrit dans le prolongement de la structure de gouvernance établie lors de la recapitalisation d’OpenAI en octobre 2025, notamment des engagements pris à la suite des examens menés pendant un an par le procureur général de Californie(ouverture dans une nouvelle fenêtre) et la procureure générale du Delaware(ouverture dans une nouvelle fenêtre). Leur implication a contribué à renforcer le cadre de gouvernance.
À propos de l’OpenAI Foundation
L’OpenAI Foundation est un organisme caritatif qui veille à ce que l’IA profite à toute l’humanité. En tant qu’organisme distinct à but non lucratif, la Fondation mène ses propres activités caritatives tout en conservant le contrôle d’OpenAI Group PBC et une participation significative dans son capital. La Fondation soutient des initiatives qui font progresser la découverte scientifique, renforcent la société civile et développent la résilience grâce à une IA responsable. Grâce à des subventions, des partenariats et d’autres initiatives philanthropiques, la Fondation contribue à accélérer les travaux qui créent un bénéfice public durable et élargissent l’accès au potentiel transformateur de l’IA.
La Fondation contrôle OpenAI Group PBC, et le Comité de sûreté et de sécurité est un comité de son conseil d’administration. Pour en savoir plus, consultez www.openaifoundation.org(ouverture dans une nouvelle fenêtre).
