Anunciem el nomenament de Zico Kolter al consell d’administració d’OpenAI. Com a professor i director del Departament d’Aprenentatge Automàtic de la Carnegie Mellon University, la feina de Zico se centra principalment en la seguretat de la IA, l’alineació i la robustesa dels classificadors d’aprenentatge automàtic. La seva recerca i expertesa abasten noves arquitectures de xarxes d’aprenentatge profund, metodologies innovadores per entendre la influència de les dades en els models i mètodes automatitzats per avaluar la robustesa dels models d’IA, cosa que el converteix en un director tècnic inestimable per a la nostra governança.
Zico també s’unirà al Comitè de Seguretat i Protecció del consell juntament amb els consellers Bret Taylor, Adam D’Angelo, Paul Nakasone, Nicole Seligman i Sam Altman (CEO), així com experts tècnics d’OpenAI. El comitè és responsable de formular recomanacions sobre decisions crítiques de seguretat i protecció per a tots els projectes d’OpenAI.
En donar la benvinguda a Zico al consell, Bret Taylor, president del consell, va afirmar: «Zico aporta una profunda comprensió tècnica i una perspectiva sobre la seguretat i la robustesa de la IA que ens ajudaran a garantir que la intel·ligència artificial general beneficiï tota la humanitat.»
Zico Kolter és professor d’informàtica i cap del Departament d’Aprenentatge Automàtic de la Carnegie Mellon University, on ha estat una figura clau durant 12 anys. Zico va obtenir el doctorat en informàtica a la Stanford University el 2010, seguit d’una beca postdoctoral al MIT del 2010 al 2012. Al llarg de la seva carrera, ha fet contribucions significatives al camp de l’aprenentatge automàtic i és autor de nombrosos articles premiats en conferències prestigioses com NeurIPS, ICML i AISTATS.
La recerca de Zico inclou el desenvolupament dels primers mètodes per crear models d’aprenentatge profund amb robustesa garantida. Va ser pioner en tècniques per incorporar restriccions estrictes als models d’IA fent servir optimització clàssica dins de les capes de les xarxes neuronals. Més recentment, el 2023, el seu equip va desenvolupar mètodes innovadors per avaluar automàticament la seguretat dels models de llenguatge extensos (LLM), demostrant el potencial d’eludir les salvaguardes existents dels models mitjançant tècniques d’optimització automatitzada. Paral·lelament a la seva trajectòria acadèmica, Zico ha treballat estretament amb la indústria al llarg de la seva carrera, anteriorment com a chief data scientist a C3.ai, i actualment com a chief expert a Bosch i chief technical advisor a Gray Swan, una startup especialitzada en seguretat i protecció de la IA.