Paul Christiano s'incorpora al Patronat de l'OpenAI Foundation
Paul Christiano també s'incorporarà al Comitè de Protecció i Seguretat de la Fundació.
Anunciem el nomenament de Paul Christiano com a membre del Patronat de l'OpenAI Foundation. També serà observador sense dret de vot al Consell d'Administració d'OpenAI Group PBC.
Paul també s'incorporarà al Comitè de Protecció i Seguretat (SSC) del Patronat de la Fundació, on treballarà al costat del seu president, Zico Kolter. L'SSC supervisa les pràctiques de protecció i seguretat de tot OpenAI, inclòs OpenAI Group PBC.
Paul aporta experiència a l'Administració durant dos mandats presidencials gràcies a la seva feina al Centre de Normes i Innovació en IA(s'obre en una finestra nova) (CAISI), que forma part de l'Institut Nacional de Normes i Tecnologia (NIST), una agència del Departament de Comerç dels EUA, on exerceix d'assessor tecnològic sènior1. Durant la seva etapa al CAISI i al seu organisme predecessor, l' Institut de Seguretat de la IA dels EUA, Paul ha treballat en l'avaluació de models d'IA d'avantguarda, incloses capacitats amb implicacions per a la seguretat nacional, i en estratègies per mitigar els riscos de protecció i seguretat associats.
Paul també és el fundador de l'Alignment Research Center(s'obre en una finestra nova) (ARC), una organització de recerca sense ànim de lucre centrada a alinear els sistemes avançats d'IA amb els interessos humans. Entre el 2017 i el 2021, Paul va dirigir la recerca sobre alineament a OpenAI i va contribuir a treballs fonamentals sobre l'aprenentatge per reforç a partir de la retroacció humana (RLHF). En aquesta nova funció, Paul aporta una perspectiva singular i amb una sòlida base tècnica a les decisions de governança d'OpenAI. La nostra missió és garantir que la intel·ligència artificial general beneficiï tota la humanitat.
“Paul ha contribuït a definir el camp de l'alineament de la IA amb un treball rigorós i centrat en les qüestions més difícils que plantegen uns sistemes cada cop més capaços. La seva experiència en seguretat de la IA d'avantguarda i en normes dins l'Administració, juntament amb el seu criteri tècnic, reforçarà la supervisió del Patronat i la tasca del Comitè de Protecció i Seguretat mentre OpenAI continua desenvolupant i desplegant IA d'avantguarda.”
“Les capacitats de la IA han avançat molt ràpidament durant l'últim any i l'alineament continua sent un problema tècnic difícil, fet que fa que la responsabilitat del Comitè de Protecció i Seguretat sigui més important i exigent que mai. Em fa molta il·lusió incorporar-me a l'equip per ajudar-hi.”
La IA entra en una nova era de capacitats, per la qual cosa és cada cop més important que els avenços en aquests sistemes vagin acompanyats de mesures sòlides de seguretat, protecció, alineament i governança. Al llarg de la seva trajectòria investigant l'alineament de la IA, Paul ha defensat una perspectiva que es pren seriosament la possibilitat que la IA avançada comporti riscos catastròfics i que els desenvolupadors s'hagin de preparar abans que els sistemes assoleixin nivells de capacitat més perillosos. Ha estat una veu independent a l'hora de valorar si les salvaguardes del sector són adequades. Creiem que la governança de la Fundació és més sòlida quan inclou persones disposades a qüestionar els supòsits predominants i a reforçar les proves, les salvaguardes i la rendició de comptes en què es basen les decisions crítiques.
El nomenament de Paul se sustenta en l'estructura de governança establerta amb la recapitalització d'OpenAI l'octubre del 2025, inclosos els compromisos adquirits arran de les revisions que van dur a terme durant un any el fiscal general de Califòrnia(s'obre en una finestra nova) i la fiscal general de Delaware(s'obre en una finestra nova). La seva participació va contribuir a reforçar el marc de governança.
Sobre l'OpenAI Foundation
L'OpenAI Foundation és una organització benèfica dedicada a garantir que la IA beneficiï tota la humanitat. Com a entitat independent sense ànim de lucre, la Fundació duu a terme les seves pròpies activitats benèfiques, alhora que manté el control d'OpenAI Group PBC i hi conserva una participació accionarial significativa. La Fundació dona suport a iniciatives que impulsen els descobriments científics, reforcen la societat civil i fomenten la resiliència mitjançant una IA responsable. Mitjançant subvencions, col·laboracions i altres iniciatives filantròpiques, la Fundació ajuda a accelerar projectes que generen un benefici públic durador i amplien l'accés al potencial transformador de la IA.
La Fundació controla OpenAI Group PBC, i el Comitè de Protecció i Seguretat forma part del Patronat de la Fundació. Més informació a www.openaifoundation.org(s'obre en una finestra nova).
