Paul Christiano i bashkohet Bordit të OpenAI Foundation
Paul Christiano do t’i bashkohet po ashtu Komitetit të Sigurisë dhe të Mbrojtjes të fondacionit.
Ne po njoftojmë për emërimin e Paul Christiano në Bordin e OpenAI Foundation. Ai do të jetë vëzhgues pa të drejtë vote në Bordin e OpenAI Group PBC.
Paul do t’i bashkohet po ashtu Komitetit të Sigurisë dhe të Mbrojtjes (SSC) të Bordit të Fondacionit, ku do të punojë përkrah kryetarit të tij, Zico Kolter. Komiteti i Sigurisë dhe i Mbrojtjes mbikëqyr praktikat e sigurisë dhe të mbrojtjes për të gjithë OpenAI, duke përfshirë OpenAI Group PBC.
Paul sjell eksperiencën e tij në administratën qeveritare nga dy administrata, falë punës së tij në Qendrën për Standardet dhe Novacionin në IA(hapet në një dritare të re) (CAISI), pjesë e Institutit Kombëtar të Standardeve dhe Teknologjisë (NIST), një agjenci e Departamentit të Tregtisë të Shteteve të Bashkuara, ku ai është Këshilltar i Lartë Teknik1. Gjatë punës së tij në CAISI dhe në institutin paraardhës, Institutin e Shteteve të Bashkuara për Sigurinë e IA-së, Paul ka punuar për vlerësimin e modeleve të IA-së avangardë, duke përfshirë aftësitë me ndikim në sigurinë kombëtare, si dhe qasjet për minimizimin e rreziqeve përkatëse të sigurisë dhe të mbrojtjes.
Paul është po ashtu themeluesi i Qendrës Kërkimore për Përafrimin(hapet në një dritare të re) (ARC), një organizatë kërkimore jofitimprurëse që synon përafrimin e sistemeve të përparuara të IA-së me interesat njerëzore. Nga viti 2017 deri në vitin 2021, Paul ka drejtuar kërkimet për përafrimin në OpenAI dhe ka dhënë kontribute themelore për trajnimin përforcues nga përshtypjet e njerëzve (RLHF). Në këtë rol të ri, Paul sjell një këndvështrim të veçantë dhe të fortë teknik në vendimet e menaxhimit të politikave në OpenAI. Misioni ynë është të sigurojmë që inteligjenca e përgjithshme artificiale të sjellë përfitime për të gjithë njerëzimin.
“Paul ka ndihmuar në përkufizimin e sferës së përafrimit të IA-së përmes një pune rigoroze dhe të fokusuar te pyetjet më të vështira që paraqesin sistemet me aftësi gjithmonë e më të mëdha. Eksperienca e tij në fushën e sigurisë dhe standardeve qeveritare për IA-në avangardë, bashkë me gjykimin e tij teknik, do të forcojë mbikëqyrjen e Bordit dhe punën e Komitetit të Sigurisë dhe të Mbrojtjes ndërsa OpenAI vazhdon të zhvillojë dhe të vërë në përdorim IA-në avangardë.”
“Aftësitë e IA-së kanë përparuar shumë shpejt gjatë vitit të fundit, ndërsa përafrimi mbetet një problem i vështirë teknik, gjë që e bën më të rëndësishme dhe më sfiduese se kurdoherë më parë përgjegjësinë e Komitetit të Sigurisë dhe të Mbrojtjes. Jam i entuziazmuar që po i bashkohem ekipit për të ndihmuar.”
IA-ja po hyn në një epokë të re aftësish, duke e bërë gjithmonë e më të rëndësishme që përparimet në këto sisteme të shoqërohen me masa të forta sigurie, mbrojtjeje, përafrimi dhe menaxhimi të politikave. Gjatë gjithë karrierës së tij në kërkimet për përafrimin e IA-së, Paul ka sjellë një këndvështrim që e merr seriozisht mundësinë që IA-ja e avancuar mund të paraqesë rreziqe katastrofike dhe që zhvilluesit duhet të përgatiten përpara se sistemet të arrijnë nivele më të rrezikshme aftësish. Ai ka qenë një zë i pavarur në vlerësimin nëse masat mbrojtëse të industrisë janë të mjaftueshme. Ne besojmë se menaxhimi i politikave të fondacionit është më i fortë kur përfshin njerëz të gatshëm të sfidojnë bindjet mbizotëruese dhe të ndihmojnë në forcimin e provave, masave mbrojtëse dhe llogaridhënies që mbështesin vendimet kritike.
Emërimi i Paul mbështetet në strukturën e qeverisjes të krijuar përmes rikapitalizimit të OpenAI në tetor 2025, duke përfshirë angazhimet e marra në lidhje me rishikimet njëvjeçare të kryera nga Prokurori i Përgjithshëm i Kalifornisë(hapet në një dritare të re) dhe Prokurori i Përgjithshëm i Delauerit(hapet në një dritare të re). Angazhimi i tyre ka ndihmuar për forcimin e kuadrit të qeverisjes.
Rreth OpenAI Foundation
OpenAI Foundation është një organizatë bamirëse që synon të sigurojë që IA-ja të sjellë përfitime për të gjithë njerëzimin. Si një organizatë jofitimprurëse e veçantë, fondacioni zhvillon aktivitetet e veta bamirëse, ndërkohë që ruan kontrollin mbi OpenAI Group PBC dhe zotëron një pjesëmarrje të konsiderueshme në kapitalin e tij. Fondacioni mbështet iniciativa që çojnë përpara zbulimet shkencore, forcojnë shoqërinë civile dhe ndërtojnë qëndrueshmëri përmes përdorimit të përgjegjshëm të IA-së. Përmes granteve, partneriteteve dhe nismave të tjera filantropike, fondacioni ndihmon në përshpejtimin e punës që krijon përfitime publike afatgjata dhe zgjeron qasjen në potencialin transformues të IA-së.
Fondacioni kontrollon OpenAI Group PBC, ndërsa Komiteti i Sigurisë dhe i Mbrojtjes është komitet i Bordit të Fondacionit. Mësoni më shumë në www.openaifoundation.org(hapet në një dritare të re).
