Paul Christiano se pridružuje upravnemu odboru OpenAI Foundation
Paul Christiano se bo pridružil tudi odboru za varnost in zaščito pri OpenAI Foundation.
Sporočamo, da je bil Paul Christiano imenovan v upravni odbor OpenAI Foundation. V upravnem odboru OpenAI Group PBC bo opazovalec brez glasovalne pravice.
Paul se bo pridružil tudi odboru za varnost in zaščito (SSC) pri upravnem odboru OpenAI Foundation ter sodeloval z njegovim predsednikom Zicom Kolterjem. Odbor za varnost in zaščito nadzoruje prakse na področju varnosti in zaščite v celotni organizaciji OpenAI, vključno z OpenAI Group PBC.
Paul prinaša izkušnje iz javne uprave v času dveh administracij, ki jih je pridobil pri Centru za standarde in inovacije na področju umetne inteligence(odpre se v novem oknu) (CAISI) v okviru Nacionalnega inštituta za standarde in tehnologijo (NIST), agencije ameriškega ministrstva za trgovino, kjer je višji tehnični svetovalec1. Med delom pri CAISI in njegovem predhodniku, ameriškem Inštitutu za varnost umetne inteligence, je Paul ocenjeval modele prelomne umetne inteligence, vključno z zmogljivostmi, pomembnimi za nacionalno varnost, ter pristope k zmanjševanju povezanih tveganj za varnost in zaščito.
Paul je tudi ustanovitelj neprofitne raziskovalne organizacije Alignment Research Center(odpre se v novem oknu) (ARC), ki se posveča usklajevanju naprednih sistemov umetne inteligence z interesi ljudi. Paul je med letoma 2017 in 2021 vodil raziskave usklajevanja pri OpenAI ter prispeval temeljno delo na področju učenja z okrepitvijo s povratnimi informacijami od ljudi (človeške povratne informacije). Paul bo v tej novi vlogi k odločitvam o upravljanju OpenAI prispeval svojevrsten in tehnično utemeljen pogled. Naše poslanstvo je zagotoviti, da splošna umetna inteligenca koristi vsemu človeštvu.
“Paul je s svojim doslednim delom, osredotočenim na najtežja vprašanja, ki jih odpirajo vse zmogljivejši sistemi, pomagal oblikovati področje usklajevanja umetne inteligence. Njegove izkušnje z varnostjo in standardi za prelomno umetno inteligenco v javni upravi bodo skupaj z njegovo tehnično presojo okrepile nadzor upravnega odbora in delo odbora za varnost in zaščito, medtem ko OpenAI nadaljuje razvoj in uvajanje prelomne umetne inteligence.”
“Zmogljivosti umetne inteligence so v zadnjem letu zelo hitro napredovale, usklajevanje pa ostaja zahteven tehnični problem, zato je odgovornost odbora za varnost in zaščito pomembnejša in zahtevnejša kot kdaj koli prej. Veselim se, da se bom pridružil ekipi in ji pomagal.”
Umetna inteligenca vstopa v novo obdobje zmogljivosti, zato je vse pomembneje, da napredek teh sistemov spremljajo trdni ukrepi na področju varnosti, zaščite, usklajevanja in upravljanja. Paul v svoji raziskovalni karieri na področju usklajevanja umetne inteligence resno upošteva možnost, da bi napredna umetna inteligenca lahko pomenila katastrofalna tveganja in da se morajo razvijalci pripraviti, še preden sistemi dosežejo nevarnejše ravni zmogljivosti. Pri presojanju ustreznosti zaščitnih ukrepov v panogi je ohranil neodvisen glas. Menimo, da je upravljanje OpenAI Foundation močnejše, če vključuje ljudi, ki so pripravljeni izpodbijati prevladujoče predpostavke ter pomagati izboljšati dokaze, zaščitne ukrepe in odgovornost, na katerih temeljijo ključne odločitve.
Paulovo imenovanje nadgrajuje strukturo upravljanja, vzpostavljeno z dokapitalizacijo OpenAI oktobra 2025, vključno z zavezami, sprejetimi v povezavi z enoletnima pregledoma, ki sta ju izvedla generalni državni tožilec Kalifornije(odpre se v novem oknu) in generalni državni tožilec Delawara(odpre se v novem oknu). Njuno sodelovanje je pomagalo okrepiti okvir upravljanja.
O OpenAI Foundation
OpenAI Foundation je dobrodelna organizacija, ki si prizadeva zagotoviti, da umetna inteligenca koristi vsemu človeštvu. OpenAI Foundation kot ločena neprofitna organizacija izvaja lastne dobrodelne dejavnosti, obenem pa ohranja nadzor nad OpenAI Group PBC in ima v njem pomemben lastniški delež. OpenAI Foundation podpira pobude, ki spodbujajo znanstvena odkritja, krepijo civilno družbo in z odgovorno umetno inteligenco povečujejo odpornost. OpenAI Foundation z nepovratnimi sredstvi, partnerstvi in drugimi dobrodelnimi pobudami pomaga pospeševati delo, ki ustvarja trajne koristi za javnost in širi dostop do preobrazbenega potenciala umetne inteligence.
OpenAI Foundation nadzoruje OpenAI Group PBC, odbor za varnost in zaščito pa je odbor njenega upravnega odbora. Več informacij je na voljo na www.openaifoundation.org(odpre se v novem oknu).
