Paul Christiano pridružuje se Upravnom odboru OpenAI Foundation
Paul Christiano pridružit će se i Odboru za sigurnost i zaštitu Fondacije.
Objavljujemo imenovanje Paula Christiana u Upravni odbor OpenAI Foundation. Bit će posmatrač bez prava glasa u Upravnom odboru OpenAI Group PBC.
Paul će se pridružiti i Odboru za sigurnost i zaštitu (SSC) Upravnog odbora Fondacije te sarađivati s njegovim predsjednikom Zicom Kolterom. SSC nadzire prakse sigurnosti i zaštite u cijelom OpenAI-ju, uključujući OpenAI Group PBC.
Paul donosi iskustvo rada u državnoj upravi tokom mandata dvije administracije, stečeno radom u Centru za standarde i inovacije u umjetnoj inteligenciji(otvara se u novom prozoru) (CAISI) pri Nacionalnom institutu za standarde i tehnologiju (NIST), agenciji američkog Ministarstva trgovine, gdje radi kao viši savjetnik za tehnologiju1. Tokom rada u CAISI-ju i njegovom prethodniku, američkom Institutu za sigurnost umjetne inteligencije, Paul je radio na procjeni graničnih modela umjetne inteligencije, uključujući sposobnosti koje mogu utjecati na nacionalnu sigurnost, kao i na pristupima ublažavanju povezanih rizika po sigurnost i zaštitu.
Paul je također osnivač Centra za istraživanje usklađivanja(otvara se u novom prozoru) (ARC), neprofitne istraživačke organizacije usmjerene na usklađivanje naprednih sistema umjetne inteligencije s interesima ljudi. Od 2017. do 2021. Paul je vodio istraživanje usklađivanja u OpenAI-ju i doprinio temeljnom radu na učenju s potkrepljivanjem uz ljudske povratne informacije (RLHF). U ovoj novoj ulozi Paul u odluke o upravljanju OpenAI-jem unosi prepoznatljivu i tehnički utemeljenu perspektivu. Naša je misija osigurati da opća umjetna inteligencija koristi cijelom čovječanstvu.
“Paul je pomogao u oblikovanju područja usklađivanja umjetne inteligencije svojim temeljitim radom usmjerenim na najteža pitanja koja postavljaju sve sposobniji sistemi. Njegovo iskustvo u radu na sigurnosti i standardima za graničnu umjetnu inteligenciju u državnoj upravi, zajedno s njegovom tehničkom prosudbom, ojačat će nadzor Upravnog odbora i rad Odbora za sigurnost i zaštitu dok OpenAI nastavlja razvijati i uvoditi graničnu umjetnu inteligenciju.”
“Mogućnosti umjetne inteligencije veoma su brzo napredovale tokom protekle godine, a usklađivanje je i dalje težak tehnički problem, zbog čega je odgovornost Odbora za sigurnost i zaštitu važnija i zahtjevnija nego ikad. Drago mi je što ću se pridružiti timu i pomoći.”
Umjetna inteligencija ulazi u novu eru sposobnosti, zbog čega je sve važnije da napredak ovih sistema prate snažne mjere sigurnosti, zaštite, usklađivanja i upravljanja. Tokom cijele karijere posvećene istraživanju usklađivanja umjetne inteligencije, Paul ozbiljno razmatra mogućnost da bi napredna umjetna inteligencija mogla predstavljati katastrofalne rizike te da se razvojni timovi moraju pripremiti prije nego što sistemi dostignu opasnije nivoe sposobnosti. Nezavisno je procjenjivao jesu li zaštitne mjere u industriji odgovarajuće. Vjerujemo da je upravljanje Fondacijom snažnije uz ljude koji su spremni preispitivati uvriježene pretpostavke i pomoći u jačanju dokaza, zaštitnih mjera i odgovornosti na kojima se zasnivaju ključne odluke.
Paulovo imenovanje nadovezuje se na upravljačku strukturu uspostavljenu dokapitalizacijom OpenAI-ja u oktobru 2025. godine, uključujući obaveze preuzete u vezi s revizijama koje su tokom godine proveli glavni tužilac Kalifornije(otvara se u novom prozoru) i glavni tužilac Delawarea(otvara se u novom prozoru). Njihov angažman pomogao je u jačanju okvira upravljanja.
O OpenAI Foundation
OpenAI Foundation je dobrotvorna organizacija posvećena tome da umjetna inteligencija koristi cijelom čovječanstvu. Kao zasebna neprofitna organizacija, Fondacija provodi vlastite dobrotvorne aktivnosti, a istovremeno zadržava kontrolu nad OpenAI Group PBC i u njemu ima značajan vlasnički udio. Fondacija podržava inicijative koje unapređuju naučna otkrića, jačaju civilno društvo i odgovornom primjenom umjetne inteligencije izgrađuju otpornost. Grantovima, partnerstvima i drugim filantropskim inicijativama Fondacija pomaže ubrzati rad koji donosi trajnu javnu korist i proširuje pristup transformativnom potencijalu umjetne inteligencije.
Fondacija kontrolira OpenAI Group PBC, a Odbor za sigurnost i zaštitu djeluje kao odbor Upravnog odbora Fondacije. Saznajte više na www.openaifoundation.org(otvara se u novom prozoru).
