Zico Kolter se une a la junta directiva de OpenAI

Zico Kolter ha sido nombrado miembro de la junta directiva de OpenAI. El trabajo de Kolter, profesor y director del Departamento de Aprendizaje Automático de la Universidad Carnegie Mellon, se centra principalmente en la seguridad de la IA, la alineación y la solidez de los clasificadores de aprendizaje automático. Su investigación y experiencia cubren áreas como las nuevas arquitecturas de redes profundas, las metodologías innovadoras para comprender la influencia de los datos en los modelos y los métodos automatizados para evaluar la solidez de los modelos de IA, lo que le convierte en un director técnico imprescindible para nuestra gobernanza.

Kolter también se unirá al Comité de Seguridad⁠ de la junta directiva, con Bret Taylor, Adam D'Angelo, Paul Nakasone, Nicole Seligman y Sam Altman (director ejecutivo), así como expertos técnicos de OpenAI. Este comité se encarga de ofrecer recomendaciones para tomar decisiones críticas en materia de seguridad en todos los proyectos de OpenAI. 

Bret Taylor, presidente de la junta directiva, señaló lo siguiente al dar la bienvenida a Kolter: «Zico aporta unos profundos conocimientos técnicos y una perspectiva en seguridad y solidez de la IA que nos ayudarán a asegurar que la inteligencia artificial general beneficie a toda la humanidad». 

Zico Kolter es profesor de Informática y director del Departamento de Aprendizaje Automático de la Universidad Carnegie Mellon, donde lleva 12 años siendo una figura clave. Tras completar su doctorado en informática en la Universidad de Stanford en 2010, obtuvo una beca posdoctoral en el MIT del 2010 al 2012. A lo largo de su trayectoria profesional, ha contribuido significativamente al campo del aprendizaje automático y es autor de numerosos artículos galardonados en prestigiosas conferencias como NeurIPS, ICML y AISTATS.

Como parte de su investigación, desarrolló los primeros métodos para crear modelos de aprendizaje profundo con una robustez asegurada, además de ser pionero en técnicas para incorporar restricciones estrictas en modelos de IA utilizando la optimización clásica en capas de redes neuronales. En 2023, su equipo creó métodos innovadores para evaluar automáticamente la seguridad de los grandes modelos lingüísticos (LLM) que demostraron el potencial de sortear las medidas de seguridad de modelos existentes mediante técnicas de optimización automatizada. En paralelo a su trayectoria académica, Kolter ha mantenido una estrecha colaboración con el sector a lo largo de su carrera profesional: fue responsable de datos en C3.ai y actualmente colabora como experto principal en Bosch y es asesor técnico principal en Gray Swan, una startup especializada en seguridad de la IA.