Zico Kolter se incorpora a la junta directiva de OpenAI

Anunciamos la designación de Zico Kolter a la junta directiva de OpenAI. Como profesor y director del Machine Learning Department de Carnegie Mellon University, el trabajo de Zico se enfoca principalmente en la seguridad de la IA, el cumplimiento y la solidez de los clasificadores de aprendizaje automático. Su investigación y experiencia abarcan nuevas estructuras de redes profundas, metodologías innovadoras para entender la influencia de los datos en los modelos y métodos automatizados para evaluar la solidez de los modelos de IA, lo que le convierte en un director técnico inestimable para nuestra gobernanza.

Zico también se sumará a la junta del comité de seguridad y protección⁠ junto con los directores Bret Taylor, Adam D’Angelo, Paul Nakasone, Nicole Seligman, Sam Altman (director ejecutivo) y otros expertos técnicos de OpenAI. Este comité es responsable de emitir recomendaciones sobre decisiones críticas en materia de seguridad en todos los proyectos de OpenAI. 

Al dar la bienvenida a Zico, Bret Taylor, presidente de la junta, señaló: “Zico aporta una perspectiva y unos conocimientos técnicos profundos en la seguridad y la solidez de la IA, que nos ayudará a garantizar que la inteligencia artificial general beneficie a toda la humanidad”. 

Zico Kolter es profesor de Ciencias de la Computación y responsable del Machine Learning Department en Carnegie Mellon University, donde ha sido una persona clave durante 12 años. Zico obtuvo su doctorado en Ciencias de la Computación en la Universidad de Stanford en 2010, seguido de una beca posdoctoral del MIT del 2010 al 2012. A lo largo de su carrera, ha realizado importantes contribuciones al campo del aprendizaje automático, es autor de numerosos trabajos premiados en prestigiosas conferencias como NeurIPS, ICML y AISTATS.

La investigación de Zico incluye el desarrollo de los primeros métodos para crear modelos de aprendizaje profundo con solidez garantizada. Fue pionero en técnicas para incluir restricciones estrictas en los modelos de IA usando optimización clásica dentro de los niveles de redes neuronales. Recientemente, en 2023, su equipo desarrolló métodos innovadores para evaluar automáticamente la seguridad de grandes modelos de lenguaje (LLM), lo que demuestra la capacidad de eludir las medidas de seguridad de los modelos existentes mediante técnicas de optimización automatizadas. Además de sus actividades académicas, Zico ha trabajado de cerca en el sector durante toda su carrera: fue jefe científico de datos en C3.ai y actualmente colabora como experto principal en Bosch y asesor técnico principal en Gray Swan, una startup especializada en seguridad de la IA.