Objavljujemo imenovanje Zica Koltera u upravni odbor OpenAI-ja. Kao profesor i direktor Odeljenja za mašinsko učenje na Univerzitetu Carnegie Mellon, Zicov rad je pretežno usmeren na bezbednost AI-ja, usklađivanje i robusnost klasifikatora mašinskog učenja. Njegovo istraživanje i stručnost obuhvataju nove arhitekture dubokih mreža, inovativne metodologije za razumevanje uticaja podataka na modele i automatizovane metode za procenu robusnosti AI modela, što ga čini neprocenjivim tehničkim direktorom za naše upravljanje.
Zico će se takođe pridružiti Komitetu za bezbednost i sigurnost odbora, zajedno sa direktorima Bretom Taylorom, Adamom D’Angelom, Paulom Nakasoneom, Nicole Seligman i Samom Altmanom (CEO), kao i tehničkim stručnjacima kompanije OpenAI. Komitet je odgovoran za davanje preporuka o ključnim odlukama u vezi sa bezbednošću i sigurnošću za sve projekte OpenAI-ja.
Pozdravljajući Zica u odboru, Bret Taylor, predsednik odbora, rekao je: „Zico donosi duboko tehničko razumevanje i perspektivu u oblasti bezbednosti i robusnosti AI-ja, što će nam pomoći da obezbedimo da opšta veštačka inteligencija koristi celom čovečanstvu.“
Zico Kolter je profesor računarstva i rukovodilac Odeljenja za mašinsko učenje na Univerzitetu Carnegie Mellon, gde je već 12 godina ključna ličnost. Zico je doktorirao računarstvo na Univerzitetu Stanford 2010. godine, nakon čega je od 2010. do 2012. bio na postdoktorskom usavršavanju na MIT-u. Tokom svoje karijere dao je značajan doprinos oblasti mašinskog učenja, kao autor brojnih nagrađivanih radova na prestižnim konferencijama kao što su NeurIPS, ICML i AISTATS.
Zicova istraživanja uključuju razvoj prvih metoda za kreiranje modela дубоког учења sa garantovanom robusnošću. Bio je pionir tehnika za ugrađivanje strogih ograničenja u AI modele korišćenjem klasične optimizacije unutar slojeva neuronskih mreža. Skorije, 2023. godine, njegov tim je razvio inovativne metode za automatsku procenu bezbednosti velikih jezičkih modela (LLM), pokazujući mogućnost zaobilaženja postojećih zaštitnih mehanizama modela pomoću automatizovanih tehnika optimizacije. Pored akademskog rada, Zico je tokom cele karijere blisko sarađivao s industrijom, ranije kao glavni stručnjak za podatke u kompaniji C3.ai, a trenutno kao glavni ekspert u Boschu i glavni tehnički savetnik u Gray Swan, startapu specijalizovanom za bezbednost i sigurnost AI-ja.