Paul Christiano prisijungia prie OpenAI Foundation valdybos
Paul Christiano taip pat prisijungs prie Fondo Saugos ir saugumo komiteto.
Pranešame apie Paul Christiano paskyrimą į OpenAI Foundation valdybą. OpenAI Group PBC valdyboje jis bus balso teisės neturintis stebėtojas.
Paulas taip pat prisijungs prie Fondo valdybos Saugos ir saugumo komiteto (SSC) ir dirbs kartu su jo pirmininku Zico Kolteriu. SSC prižiūri visos OpenAI, įskaitant OpenAI Group PBC, saugos ir saugumo praktiką.
Dirbdamas Nacionalinio standartų ir technologijų instituto (NIST) DI standartų ir inovacijų centre(atsidaro naujame lange) (CAISI), Paulas sukaupė darbo dviejų administracijų vyriausybėse patirties. NIST yra JAV prekybos departamento agentūra, kurioje jis dirba vyresniuoju patarėju technologijų klausimais1. Dirbdamas CAISI ir jo pirmtake – JAV DI saugos institute – Paulas vertino priešakinius DI modelius, įskaitant nacionaliniam saugumui reikšmingus jų gebėjimus, ir nagrinėjo būdus susijusiai saugos bei saugumo rizikai mažinti.
Paulas taip pat yra ne pelno tyrimų organizacijos Suderinimo tyrimų centro(atsidaro naujame lange) (ARC), siekiančios suderinti pažangias DI sistemas su žmonių interesais, įkūrėjas. 2017–2021 m. Paulas vadovavo OpenAI suderinimo tyrimams ir prisidėjo prie pamatinių skatinamojo mokymosi iš žmogaus grįžtamojo ryšio (RLHF) darbų. Eidamas šias naujas pareigas, Paulas OpenAI valdysenos sprendimus papildys išskirtine ir tvirtais techniniais pagrindais paremta perspektyva. Mūsų misija – užtikrinti, kad bendrasis dirbtinis intelektas būtų naudingas visai žmonijai.
“Savo kruopščiu darbu, sutelktu į sudėtingiausius vis pajėgesnių sistemų keliamus klausimus, Paulas padėjo formuoti DI suderinimo sritį. Jo patirtis dirbant su priešakinio DI sauga ir standartais vyriausybėje bei jo techninė kompetencija sustiprins valdybos priežiūrą ir Saugos ir saugumo komiteto darbą OpenAI toliau kuriant ir diegiant priešakinį DI.”
“Per pastaruosius metus DI gebėjimai labai sparčiai išaugo, o suderinimas tebėra sudėtinga techninė problema, todėl Saugos ir saugumo komiteto atsakomybė dabar svarbesnė ir sudėtingesnė nei bet kada anksčiau. Džiaugiuosi galėdamas prisijungti prie komandos ir padėti.”
DI įžengia į naują gebėjimų erą, todėl vis svarbiau, kad šių sistemų pažangą lydėtų tvirta sauga, saugumas, suderinimas ir valdysena. Per visą DI suderinimo tyrėjo karjerą Paulas rimtai vertino galimybę, kad pažangus DI gali kelti katastrofišką riziką, ir įsitikinimą, jog kūrėjai turi pasirengti dar prieš sistemoms pasiekiant pavojingesnį gebėjimų lygį. Jis nepriklausomai vertino, ar sektoriaus apsaugos priemonės yra pakankamos. Manome, kad Fondo valdysena yra stipresnė, kai joje dalyvauja žmonės, pasirengę kvestionuoti vyraujančias prielaidas ir padėti stiprinti svarbių sprendimų įrodymų pagrindą, apsaugos priemones bei atskaitomybę.
Paulo paskyrimas grindžiamas valdysenos struktūra, sukurta 2025 m. spalį rekapitalizavus OpenAI, ir apima įsipareigojimus, prisiimtus atsižvelgiant į metus trukusias Kalifornijos generalinio prokuroro(atsidaro naujame lange) ir Delavero generalinio prokuroro(atsidaro naujame lange) peržiūras. Jų dalyvavimas padėjo sustiprinti valdysenos sistemą.
Apie OpenAI Foundation
OpenAI Foundation yra labdaros organizacija, siekianti užtikrinti, kad DI būtų naudingas visai žmonijai. Kaip atskira ne pelno organizacija, Fondas savarankiškai vykdo labdaringą veiklą, kontroliuoja OpenAI Group PBC ir turi reikšmingą jos nuosavybės dalį. Fondas remia iniciatyvas, kurios skatina mokslo atradimus, stiprina pilietinę visuomenę ir atsakingai pasitelkiant DI didina atsparumą. Teikdamas dotacijas, kurdamas partnerystes ir vykdydamas kitas filantropines iniciatyvas, Fondas padeda spartinti ilgalaikę naudą visuomenei kuriančius darbus ir suteikia daugiau žmonių prieigą prie DI teikiamų transformacinių galimybių.
Fondas kontroliuoja OpenAI Group PBC, o Saugos ir saugumo komitetas yra Fondo valdybos komitetas. Daugiau sužinokite svetainėje www.openaifoundation.org(atsidaro naujame lange).
