Paul Christiano se incorpora al Consejo de OpenAI Foundation
Paul Christiano también se incorporará al Comité de Seguridad y Protección de la Fundación.
Anunciamos el nombramiento de Paul Christiano como miembro del Consejo de OpenAI Foundation. También será observador sin derecho a voto en el Consejo de OpenAI Group PBC.
Paul también se incorporará al Comité de Seguridad y Protección (SSC) del Consejo de la Fundación, junto con su presidente, Zico Kolter. El SSC supervisa las prácticas de seguridad y protección en todo OpenAI, incluido OpenAI Group PBC.
Paul aporta experiencia en dos Administraciones gracias a su trabajo en el Centro de Estándares e Innovación de IA(se abre en una ventana nueva) (CAISI), perteneciente al Instituto Nacional de Estándares y Tecnología (NIST), una agencia del Departamento de Comercio de EE. UU. Allí ejerce como asesor técnico sénior1. Durante su etapa en CAISI y en su organización predecesora, el Instituto de Seguridad de la IA de EE. UU., Paul ha trabajado en la evaluación de modelos de IA de vanguardia, incluidas capacidades con implicaciones para la seguridad nacional, y en métodos para mitigar los riesgos asociados de seguridad y protección.
Paul también fundó el Centro de Investigación sobre Alineamiento(se abre en una ventana nueva) (ARC), una organización de investigación sin ánimo de lucro centrada en alinear los sistemas avanzados de IA con los intereses humanos. Entre 2017 y 2021, Paul dirigió la investigación sobre alineamiento en OpenAI y realizó aportaciones fundamentales al aprendizaje por refuerzo a partir de la retroalimentación humana (RLHF). En esta nueva función, Paul aporta una perspectiva propia y con una sólida base técnica a las decisiones de gobernanza de OpenAI. Nuestra misión es garantizar que la inteligencia artificial general beneficie a toda la humanidad.
“Paul ha contribuido a definir el campo del alineamiento de la IA mediante un trabajo riguroso y centrado en las cuestiones más difíciles que plantean unos sistemas cada vez más capaces. Su experiencia en seguridad y estándares de IA de vanguardia dentro de la Administración, junto con su criterio técnico, reforzará la supervisión del Consejo y la labor del Comité de Seguridad y Protección mientras OpenAI continúa desarrollando e implementando IA de vanguardia.”
“Las capacidades de la IA han avanzado con gran rapidez durante el último año y el alineamiento sigue siendo un problema técnico complejo, lo que hace que la responsabilidad del Comité de Seguridad y Protección sea más importante y difícil que nunca. Me entusiasma incorporarme al equipo para ayudar.”
La IA está entrando en una nueva era de capacidades, por lo que resulta cada vez más importante que los avances en estos sistemas vayan acompañados de medidas sólidas de seguridad, protección, alineamiento y gobernanza. A lo largo de su carrera investigando el alineamiento de la IA, Paul ha defendido una perspectiva que se toma en serio la posibilidad de que la IA avanzada plantee riesgos catastróficos y que los desarrolladores deban prepararse antes de que los sistemas alcancen niveles de capacidad más peligrosos. Ha mantenido una postura independiente sobre si las salvaguardas del sector son adecuadas. Creemos que la gobernanza de la Fundación es más sólida cuando cuenta con personas dispuestas a cuestionar las ideas predominantes y a reforzar las pruebas, las salvaguardas y la rendición de cuentas en las que se sustentan las decisiones críticas.
El nombramiento de Paul se apoya en la estructura de gobernanza establecida mediante la recapitalización de OpenAI en octubre de 2025, incluidos los compromisos asumidos en relación con las revisiones que llevaron a cabo durante un año el fiscal general de California(se abre en una ventana nueva) y la fiscal general de Delaware(se abre en una ventana nueva). Su participación ayudó a reforzar el marco de gobernanza.
Acerca de OpenAI Foundation
OpenAI Foundation es una organización benéfica dedicada a garantizar que la IA beneficie a toda la humanidad. Como organización independiente sin ánimo de lucro, la Fundación desarrolla sus propias actividades benéficas, a la vez que mantiene el control de OpenAI Group PBC y posee una participación accionarial significativa en ella. La Fundación apoya iniciativas que impulsan los descubrimientos científicos, fortalecen la sociedad civil y fomentan la resiliencia mediante una IA responsable. Mediante subvenciones, colaboraciones y otras iniciativas filantrópicas, la Fundación ayuda a acelerar proyectos que generan un beneficio público duradero y amplían el acceso al potencial transformador de la IA.
La Fundación controla OpenAI Group PBC, y el Comité de Seguridad y Protección es un comité del Consejo de la Fundación. Obtén más información en www.openaifoundation.org(se abre en una ventana nueva).
