Paul Christiano i bashkohet Bordit të OpenAI Foundation
Paul Christiano do t’i bashkohet edhe Komitetit të Sigurisë dhe të Mbrojtjes të Fondacionit.
Njoftojmë emërimin e Paul Christiano në Bordin e OpenAI Foundation. Ai do të jetë vëzhgues pa të drejtë vote në Bordin e OpenAI Group PBC.
Paul do t’i bashkohet gjithashtu Komitetit të Sigurisë dhe të Mbrojtjes (SSC) të Bordit të Fondacionit, ku do të punojë përkrah kryetarit të tij, Zico Kolter. SSC-ja mbikëqyr praktikat e sigurisë dhe të mbrojtjes në të gjithë OpenAI, duke përfshirë OpenAI Group PBC.
Paul sjell përvojë qeveritare nga dy administrata, falë punës së tij në Qendrën për Standardet dhe Inovacionin në IA(hapet në një dritare të re) (CAISI), pjesë e Institutit Kombëtar të Standardeve dhe Teknologjisë (NIST), një agjenci e Departamentit të Tregtisë të SHBA-së, ku ai është Këshilltar i Lartë Teknik1. Gjatë punës së tij në CAISI dhe në institutin paraardhës, Institutin e SHBA-së për Sigurinë e IA-së, Paul është marrë me vlerësimin e modeleve të IA-së avangardë, përfshirë aftësitë me ndikim në sigurinë kombëtare, si dhe me qasjet për zbutjen e rreziqeve përkatëse të sigurisë dhe të mbrojtjes.
Paul është gjithashtu themeluesi i Qendrës Kërkimore për Përafrimin(hapet në një dritare të re) (ARC), një organizatë kërkimore jofitimprurëse që synon përafrimin e sistemeve të përparuara të IA-së me interesat njerëzore. Nga viti 2017 deri në vitin 2021, Paul drejtoi kërkimet për përafrimin në OpenAI dhe dha kontribute themelore në trajnimin përforcues nga përshtypjet e njerëzve (RLHF). Në këtë rol të ri, Paul sjell në vendimet e qeverisjes së OpenAI një këndvështrim të veçantë dhe të mbështetur në ekspertizë teknike. Misioni ynë është të sigurojmë që inteligjenca e përgjithshme artificiale të jetë në dobi të gjithë njerëzimit.
“Paul ka ndihmuar në formësimin e fushës së përafrimit të IA-së përmes një pune rigoroze, të përqendruar te çështjet më të vështira që ngrenë sistemet me aftësi gjithnjë e më të mëdha. Përvoja e tij në fushën e sigurisë dhe standardeve qeveritare për IA-në avangardë, së bashku me gjykimin e tij teknik, do të forcojë mbikëqyrjen e Bordit dhe punën e Komitetit të Sigurisë dhe të Mbrojtjes, ndërsa OpenAI vazhdon të zhvillojë dhe të vërë në përdorim IA avangardë.”
“Aftësitë e IA-së kanë përparuar shumë shpejt gjatë vitit të fundit, ndërsa përafrimi mbetet një problem i vështirë teknik, çka e bën përgjegjësinë e Komitetit të Sigurisë dhe të Mbrojtjes më të rëndësishme dhe më sfiduese se kurrë. Jam i entuziazmuar që po i bashkohem ekipit për të ndihmuar.”
IA-ja po hyn në një epokë të re aftësish, ndaj është gjithnjë e më e rëndësishme që përparimet në këto sisteme të shoqërohen me masa të forta sigurie, mbrojtjeje, përafrimi dhe qeverisjeje. Gjatë gjithë karrierës së tij në kërkimet për përafrimin e IA-së, Paul ka sjellë një këndvështrim që e merr seriozisht mundësinë që IA-ja e përparuar të paraqesë rreziqe katastrofike dhe që zhvilluesit duhet të përgatiten përpara se sistemet të arrijnë nivele më të rrezikshme aftësish. Ai ka qenë një zë i pavarur në vlerësimin nëse masat mbrojtëse të industrisë janë të mjaftueshme. Ne besojmë se qeverisja e Fondacionit është më e fortë kur përfshin njerëz të gatshëm të sfidojnë bindjet mbizotëruese dhe të ndihmojnë në forcimin e provave, masave mbrojtëse dhe llogaridhënies që qëndrojnë në themel të vendimeve kritike.
Emërimi i Paul mbështetet në strukturën e qeverisjes të krijuar përmes rikapitalizimit të OpenAI në tetor 2025, përfshirë angazhimet e marra në lidhje me shqyrtimet njëvjeçare të kryera nga Prokurori i Përgjithshëm i Kalifornisë(hapet në një dritare të re) dhe Prokurori i Përgjithshëm i Delaware-it(hapet në një dritare të re). Angazhimi i tyre ndihmoi në forcimin e kuadrit të qeverisjes.
Rreth OpenAI Foundation
OpenAI Foundation është një organizatë bamirëse që synon të sigurojë që IA-ja të jetë në dobi të gjithë njerëzimit. Si organizatë jofitimprurëse më vete, Fondacioni zhvillon veprimtaritë e veta bamirëse, ndërkohë që ruan kontrollin mbi OpenAI Group PBC dhe zotëron një pjesëmarrje të konsiderueshme në kapitalin e tij. Fondacioni mbështet nisma që çojnë përpara zbulimet shkencore, forcojnë shoqërinë civile dhe ndërtojnë qëndrueshmëri përmes përdorimit të përgjegjshëm të IA-së. Përmes granteve, partneriteteve dhe nismave të tjera filantropike, Fondacioni ndihmon në përshpejtimin e punës që krijon përfitime publike afatgjata dhe zgjeron qasjen në potencialin transformues të IA-së.
Fondacioni kontrollon OpenAI Group PBC, ndërsa Komiteti i Sigurisë dhe i Mbrojtjes është komitet i Bordit të Fondacionit. Mësoni më shumë në www.openaifoundation.org(hapet në një dritare të re).
