Paul Christiano se incorpora al Consejo de OpenAI Foundation
Paul Christiano también se incorporará al Comité de Seguridad y Protección de OpenAI Foundation.
Anunciamos el nombramiento de Paul Christiano como miembro del Consejo de OpenAI Foundation. También será observador sin derecho a voto en el Consejo de OpenAI Group PBC.
Paul también se incorporará al Comité de Seguridad y Protección de OpenAI Foundation, donde trabajará junto con su presidente, Zico Kolter. El Comité de Seguridad y Protección supervisa las prácticas de seguridad y protección en toda OpenAI, incluida OpenAI Group PBC.
Paul aporta experiencia gubernamental adquirida durante dos administraciones gracias a su trabajo en el Centro de Estándares e Innovación de IA(se abre en una nueva ventana) (CAISI), que forma parte del Instituto Nacional de Estándares y Tecnología (NIST), una agencia del Departamento de Comercio de EE. UU., donde se desempeña como asesor técnico sénior1. Durante su paso por CAISI y su entidad predecesora, el Instituto de Seguridad de la IA de EE. UU., Paul ha trabajado en la evaluación de modelos de IA de vanguardia, incluidas capacidades con implicaciones para la seguridad nacional, y en métodos para mitigar los riesgos asociados de seguridad y protección.
Paul también fundó el Centro de Investigación sobre Alineación(se abre en una nueva ventana) (ARC), una organización de investigación sin fines de lucro centrada en alinear los sistemas avanzados de IA con los intereses humanos. De 2017 a 2021, Paul dirigió la investigación sobre alineación en OpenAI y contribuyó a trabajos fundamentales sobre el aprendizaje por refuerzo a partir de la retroalimentación humana (RLHF). En esta nueva función, Paul aporta una perspectiva particular y con sólidos fundamentos técnicos a las decisiones de gobernanza de OpenAI. Nuestra misión es garantizar que la inteligencia artificial general beneficie a toda la humanidad.
“Paul ha contribuido a definir el campo de la alineación de la IA mediante un trabajo riguroso y centrado en las preguntas más difíciles que plantean sistemas cada vez más capaces. Su experiencia en seguridad y estándares de IA de vanguardia dentro del gobierno, junto con su criterio técnico, fortalecerá la supervisión del Consejo y la labor del Comité de Seguridad y Protección mientras OpenAI continúa desarrollando e implementando IA de vanguardia.”
“Las capacidades de la IA han avanzado con gran rapidez durante el último año, y la alineación sigue siendo un problema técnico difícil, por lo que la responsabilidad del Comité de Seguridad y Protección es más importante y desafiante que nunca. Me entusiasma unirme al equipo para ayudar.”
La IA está entrando en una nueva era de capacidades, por lo que es cada vez más importante que los avances de estos sistemas vayan acompañados de una sólida seguridad, protección, alineación y gobernanza. A lo largo de su carrera investigando la alineación de la IA, Paul ha aportado una perspectiva que toma en serio la posibilidad de que la IA avanzada plantee riesgos catastróficos y de que los desarrolladores deban prepararse antes de que los sistemas alcancen niveles de capacidad más peligrosos. Ha sido una voz independiente al evaluar si las salvaguardas del sector son adecuadas. Creemos que la gobernanza de OpenAI Foundation se fortalece al contar con personas dispuestas a cuestionar las ideas predominantes y a reforzar la evidencia, las salvaguardas y la rendición de cuentas que sustentan las decisiones críticas.
El nombramiento de Paul se basa en la estructura de gobernanza establecida mediante la recapitalización de OpenAI en octubre de 2025, incluidos los compromisos asumidos en relación con las revisiones realizadas durante un año por el fiscal general de California(se abre en una nueva ventana) y la fiscal general de Delaware(se abre en una nueva ventana). Su participación ayudó a fortalecer el marco de gobernanza.
Acerca de OpenAI Foundation
OpenAI Foundation es una organización benéfica dedicada a garantizar que la IA beneficie a toda la humanidad. Como organización independiente sin fines de lucro, OpenAI Foundation lleva a cabo sus propias actividades benéficas, a la vez que mantiene el control de OpenAI Group PBC y una participación accionaria significativa en ella. OpenAI Foundation apoya iniciativas que impulsan los descubrimientos científicos, fortalecen la sociedad civil y desarrollan resiliencia mediante una IA responsable. Mediante subvenciones, alianzas y otras iniciativas filantrópicas, OpenAI Foundation ayuda a acelerar trabajos que generan un beneficio público duradero y amplían el acceso al potencial transformador de la IA.
OpenAI Foundation controla OpenAI Group PBC, y el Comité de Seguridad y Protección forma parte del Consejo de OpenAI Foundation. Obtén más información en www.openaifoundation.org(se abre en una nueva ventana).
