Paul Christiano pievienojas OpenAI Foundation valdei
Paul Christiano pievienosies arī OpenAI Foundation Drošības un aizsardzības komitejai.
Paziņojam par Paul Christiano iecelšanu OpenAI Foundation valdē. Viņš būs novērotājs bez balsstiesībām OpenAI Group PBC valdē.
Paul pievienosies arī OpenAI Foundation valdes Drošības un aizsardzības komitejai (SSC), strādājot kopā ar tās priekšsēdētāju Zico Kolter. Drošības un aizsardzības komiteja pārrauga drošības un aizsardzības praksi visā OpenAI, tostarp OpenAI Group PBC.
Paul ir guvis pieredzi valsts pārvaldē divu administrāciju laikā, strādājot Nacionālā standartu un tehnoloģiju institūta (NIST) MI standartu un inovāciju centrā(atveras jaunā logā) (CAISI) — ASV Tirdzniecības ministrijas aģentūrā, kur viņš ir vecākais tehnoloģiju padomnieks1. Strādājot CAISI un tā priekštecī — ASV MI drošības institūtā —, Paul ir vērtējis robežšķirtnes MI modeļus, tostarp spējas, kas var ietekmēt valsts drošību, un pētījis pieejas saistīto drošības un aizsardzības risku mazināšanai.
Paul ir arī bezpeļņas pētniecības organizācijas Salāgošanas pētniecības centrs(atveras jaunā logā) (ARC) dibinātājs. Tā pievēršas progresīvu MI sistēmu salāgošanai ar cilvēku interesēm. No 2017. līdz 2021. gadam Paul vadīja salāgošanas pētniecību uzņēmumā OpenAI un veica nozīmīgu pamatdarbu stimulētās mācīšanās no cilvēka atsauksmēm (RLHF) jomā. Šajā jaunajā amatā Paul sniegs OpenAI pārvaldības lēmumiem atšķirīgu, tehniski pamatotu skatījumu. Mūsu misija ir nodrošināt, lai mākslīgais vispārējais intelekts sniegtu labumu visai cilvēcei.
“Ar rūpīgu darbu, kas pievēršas vissarežģītākajiem jautājumiem, kurus rada arvien spējīgākas sistēmas, Paul ir palīdzējis veidot MI salāgošanas jomu. Viņa pieredze darbā ar robežšķirtnes MI drošību un standartiem valsts pārvaldē kopā ar viņa tehnisko spriestspēju stiprinās valdes pārraudzību un Drošības un aizsardzības komitejas darbu, OpenAI turpinot izstrādāt un ieviest robežšķirtnes MI.”
“Pēdējā gada laikā MI spējas ir attīstījušās ļoti strauji, bet salāgošana joprojām ir sarežģīta tehniska problēma, tāpēc Drošības un aizsardzības komitejas atbildība ir svarīgāka un tās uzdevums — grūtāks nekā jebkad agrāk. Ar prieku pievienojos komandai, lai palīdzētu.”
MI spējas ieiet jaunā laikmetā, tāpēc kļūst arvien svarīgāk šo sistēmu attīstību papildināt ar stingru drošību, aizsardzību, salāgošanu un pārvaldību. Visā savā MI salāgošanas pētnieka karjerā Paul ir nopietni ņēmis vērā iespēju, ka progresīvs MI varētu radīt katastrofālus riskus un ka izstrādātājiem jāsagatavojas, pirms sistēmas sasniedz bīstamāku spēju līmeni. Viņš ir paudis neatkarīgu viedokli par to, vai nozares aizsardzības pasākumi ir pietiekami. Mēs uzskatām, ka fonda pārvaldība kļūst stiprāka, ja tajā piedalās cilvēki, kuri ir gatavi apšaubīt valdošos pieņēmumus un palīdzēt stiprināt pierādījumus, aizsardzības pasākumus un atbildību, uz ko balstās izšķiroši lēmumi.
Paul iecelšana papildina pārvaldības struktūru, kas tika izveidota OpenAI rekapitalizācijas procesā 2025. gada oktobrī, tostarp saistības, kas uzņemtas saistībā ar gada garumā veiktajām Kalifornijas ģenerālprokurora(atveras jaunā logā) un Delavēras ģenerālprokurora(atveras jaunā logā) pārbaudēm. Viņu iesaiste palīdzēja stiprināt pārvaldības sistēmu.
Par OpenAI Foundation
OpenAI Foundation ir labdarības organizācija, kuras mērķis ir nodrošināt, lai MI sniegtu labumu visai cilvēcei. Būdams atsevišķa bezpeļņas organizācija, fonds īsteno savas labdarības programmas, vienlaikus saglabājot kontroli pār OpenAI Group PBC un ievērojamu kapitāldaļu tajā. Fonds atbalsta iniciatīvas, kas sekmē zinātniskus atklājumus, stiprina pilsonisko sabiedrību un ar atbildīgu MI palīdz veidot noturību. Ar dotācijām, partnerībām un citām filantropiskām iniciatīvām fonds palīdz paātrināt darbu, kas rada ilgstošu sabiedrisko labumu un paplašina piekļuvi MI pārveidojošajam potenciālam.
Fonds kontrolē OpenAI Group PBC, un Drošības un aizsardzības komiteja ir fonda valdes komiteja. Uzziniet vairāk vietnē www.openaifoundation.org(atveras jaunā logā).
