Paul Christiano liitub OpenAI Foundationi nõukoguga
Paul Christiano liitub ka OpenAI Foundationi Ohutuse ja turvalisuse komiteega.
Anname teada Paul Christiano nimetamisest OpenAI Foundationi nõukogu liikmeks. Ühtlasi saab temast hääleõiguseta vaatleja OpenAI Group PBC nõukogus.
Paul liitub ka OpenAI Foundationi nõukogu Ohutuse ja turvalisuse komiteega (SSC), kus ta hakkab töötama koos komitee esimehe Zico Kolteriga. SSC teeb järelevalvet kogu OpenAI, sealhulgas OpenAI Group PBC ohutus- ja turvalisustavade üle.
Paulil on tänu tööle kahe valitsuse ametiajal USA Kaubandusministeeriumi allasutuse, Riikliku Standardite ja Tehnoloogia Instituudi (NIST) tehisintellekti standardite ja innovatsiooni keskuses(avaneb uues aknas) (CAISI) ulatuslik avaliku sektori kogemus. Ta töötab seal vanemtehnoloogianõunikuna1. CAISI-s ja selle eelkäijas, USA tehisintellekti ohutuse instituudis töötades on Paul hinnanud tipptasemel tehisintellekti mudeleid, sealhulgas riiklikku julgeolekut mõjutavaid võimeid, ning uurinud võimalusi kaasnevate ohutus- ja turvariskide vähendamiseks.
Paul on ka mittetulundusliku teadusorganisatsiooni Alignment Research Center(avaneb uues aknas) (ARC) asutaja. Organisatsioon keskendub täiustatud tehisintellektisüsteemide vastavusse viimisele inimeste huvidega. Aastatel 2017–2021 juhtis Paul OpenAI-s tehisintellekti vastavusse viimise uuringuid ja andis olulise panuse inimeste tagasisidest kinnistava õppimise (RLHF) alustöösse. Uues rollis lisab Paul OpenAI juhtimisotsustele omanäolise ja tugeva tehnilise alusega vaatenurga. Meie missioon on tagada, et üldine tehisintellekt tooks kasu kogu inimkonnale.
“Paul on aidanud kujundada tehisintellekti vastavusse viimise valdkonda põhjaliku tööga, mis keskendub üha võimekamate süsteemide tõstatatud kõige keerulisematele küsimustele. Tema valitsustöö kogemus tipptasemel tehisintellekti ohutuse ja standardite vallas ning tehniline asjatundlikkus tugevdavad nõukogu järelevalvet ja Ohutuse ja turvalisuse komitee tööd ajal, mil OpenAI jätkab tipptasemel tehisintellekti arendamist ja kasutuselevõttu.”
“Tehisintellekti võimekus on viimase aastaga väga kiiresti arenenud, kuid selle vastavusse viimine inimeste eesmärkidega on endiselt keeruline tehniline probleem. Seetõttu on Ohutuse ja turvalisuse komitee vastutus tähtsam ja nõudlikum kui kunagi varem. Mul on hea meel meeskonnaga liituda ja abiks olla.”
Tehisintellekt on jõudmas võimekuse uude ajajärku. Seetõttu on üha tähtsam, et nende süsteemide arenguga kaasneksid tugev ohutus, turvalisus, vastavus inimeste eesmärkidele ja hea juhtimine. Kogu oma tehisintellekti vastavusse viimise uurimise karjääri jooksul on Paul lähtunud võimalusest, et täiustatud tehisintellekt võib põhjustada katastroofilisi riske ning arendajad peavad nendeks valmistuma enne, kui süsteemid jõuavad ohtlikuma võimekustasemeni. Ta on sõltumatu hääl arutelus selle üle, kas valdkonna kaitsemeetmed on piisavad. Usume, et OpenAI Foundationi juhtimine on tugevam, kui selles osalevad inimesed, kes on valmis üldlevinud eeldusi kahtluse alla seadma ning aitama parandada oluliste otsuste aluseks olevaid tõendeid, kaitsemeetmeid ja vastutust.
Pauli ametisse nimetamine tugineb OpenAI 2025. aasta oktoobri rekapitaliseerimise käigus loodud juhtimisstruktuurile, sealhulgas kohustustele, mis võeti seoses California peaprokuröri(avaneb uues aknas) ja Delaware’i peaprokuröri(avaneb uues aknas) aasta väldanud läbivaatamistega. Nende osalus aitas juhtimisraamistikku tugevdada.
OpenAI Foundationist
OpenAI Foundation on heategevusorganisatsioon, mille eesmärk on tagada, et tehisintellekt tooks kasu kogu inimkonnale. Eraldiseisva mittetulundusorganisatsioonina tegeleb OpenAI Foundation iseseisvalt heategevusega, säilitades samal ajal kontrolli OpenAI Group PBC üle ja omades selles märkimisväärset osalust. OpenAI Foundation toetab algatusi, mis edendavad teadusavastusi, tugevdavad kodanikuühiskonda ja suurendavad vastutustundliku tehisintellekti abil vastupanuvõimet. Toetuste, partnerluste ja muude heategevusalgatuste kaudu aitab OpenAI Foundation kiirendada tööd, mis loob ühiskonnale püsivat kasu ja avardab juurdepääsu tehisintellekti murrangulisele potentsiaalile.
OpenAI Foundation kontrollib OpenAI Group PBC-d ning Ohutuse ja turvalisuse komitee kuulub OpenAI Foundationi nõukogu juurde. Lisateavet leiate aadressilt www.openaifoundation.org(avaneb uues aknas).
