Paul Christiano pridružuje se Upravnom odboru OpenAI Foundation
Paul Christiano pridružit će se i Odboru za sigurnost i zaštitu Zaklade.
Objavljujemo imenovanje Paula Christiana u Upravni odbor OpenAI Foundation. Bit će promatrač bez prava glasa u Upravnom odboru OpenAI Group PBC.
Paul će se također pridružiti Odboru za sigurnost i zaštitu (SSC) Upravnog odbora Zaklade te surađivati s njegovim predsjednikom Zicom Kolterom. Odbor za sigurnost i zaštitu nadzire sigurnosne i zaštitne prakse u cijelom OpenAI-ju, uključujući OpenAI Group PBC.
Paul donosi iskustvo rada u državnoj upravi tijekom mandata dviju administracija, stečeno radom u Centru za standarde i inovacije u umjetnoj inteligenciji(otvara se u novom prozoru) (CAISI) pri Nacionalnom institutu za standarde i tehnologiju (NIST), agenciji američkog Ministarstva trgovine, gdje radi kao viši tehnički savjetnik1. Tijekom rada u CAISI-ju i njegovu prethodniku, američkom Institutu za sigurnost umjetne inteligencije, Paul je radio na evaluaciji graničnih modela umjetne inteligencije, uključujući sposobnosti koje utječu na nacionalnu sigurnost, te na pristupima ublažavanju povezanih sigurnosnih i zaštitnih rizika.
Paul je također osnivač Centra za istraživanje usklađivanja(otvara se u novom prozoru) (ARC), neprofitne istraživačke organizacije usmjerene na usklađivanje naprednih sustava umjetne inteligencije s ljudskim interesima. Od 2017. do 2021. Paul je vodio istraživanja usklađivanja u OpenAI-ju i pridonio temeljnom radu na učenju s potkrepljivanjem uz ljudsku povratnu informaciju (učenju s potkrepljivanjem na temelju ljudskih povratnih informacija). U toj novoj ulozi Paul odlukama o upravljanju OpenAI-jem pridonosi prepoznatljivim i čvrsto tehnički utemeljenim stajalištem. Naša je misija osigurati da opća umjetna inteligencija koristi cijelom čovječanstvu.
“Paul je pomogao oblikovati područje usklađivanja umjetne inteligencije svojim temeljitim radom usmjerenim na najteža pitanja koja postavljaju sve sposobniji sustavi. Njegovo iskustvo u radu na sigurnosti i standardima granične umjetne inteligencije u državnoj upravi, zajedno s njegovom tehničkom prosudbom, ojačat će nadzor Upravnog odbora i rad Odbora za sigurnost i zaštitu dok OpenAI nastavlja razvijati i uvoditi graničnu umjetnu inteligenciju.”
“Sposobnosti umjetne inteligencije vrlo su brzo napredovale tijekom protekle godine, a njezino usklađivanje i dalje je težak tehnički problem, zbog čega je odgovornost Odbora za sigurnost i zaštitu važnija i zahtjevnija nego ikad. Veselim se što ću se pridružiti timu i pomoći.”
Umjetna inteligencija ulazi u novo razdoblje sposobnosti, stoga je sve važnije da napredak tih sustava prate snažne mjere sigurnosti, zaštite, usklađivanja i upravljanja. Paul je tijekom karijere posvećene istraživanju usklađivanja umjetne inteligencije razvio stajalište koje ozbiljno uzima mogućnost da napredna umjetna inteligencija prouzroči katastrofalne rizike te da se razvojni timovi moraju pripremiti prije nego što sustavi dosegnu opasnije razine sposobnosti. Neovisno je procjenjivao jesu li zaštitne mjere u industriji primjerene. Vjerujemo da je upravljanje Zakladom snažnije kada uključuje ljude spremne preispitivati prevladavajuće pretpostavke i pomoći ojačati dokaze, zaštitne mjere i odgovornost na kojima se temelje ključne odluke.
Paulovo imenovanje nadovezuje se na upravljačku strukturu uspostavljenu dokapitalizacijom OpenAI-ja u listopadu 2025., uključujući obveze preuzete u vezi s revizijama koje su tijekom godine proveli glavni državni odvjetnik Kalifornije(otvara se u novom prozoru) i glavni državni odvjetnik Delawarea(otvara se u novom prozoru). Njihov je angažman pomogao ojačati upravljački okvir.
O organizaciji OpenAI Foundation
OpenAI Foundation dobrotvorna je organizacija posvećena osiguravanju da umjetna inteligencija koristi cijelom čovječanstvu. Kao zasebna neprofitna organizacija, Zaklada provodi vlastite dobrotvorne aktivnosti, a pritom zadržava kontrolu nad društvom OpenAI Group PBC i znatan vlasnički udio u njemu. Zaklada podupire inicijative koje unapređuju znanstvena otkrića, jačaju civilno društvo i odgovornom umjetnom inteligencijom izgrađuju otpornost. Bespovratnim sredstvima, partnerstvima i drugim filantropskim inicijativama Zaklada ubrzava rad koji stvara trajnu javnu korist i proširuje pristup transformativnom potencijalu umjetne inteligencije.
Zaklada kontrolira OpenAI Group PBC, a Odbor za sigurnost i zaštitu djeluje kao odbor njezina Upravnog odbora. Saznajte više na www.openaifoundation.org(otvara se u novom prozoru).
