Paul Christiano jingħaqad mal-Bord tal-OpenAI Foundation
Paul Christiano se jingħaqad ukoll mal-Kumitat tas-Sikurezza u s-Sigurtà tal-Fondazzjoni.
Qegħdin inħabbru l-ħatra ta’ Paul Christiano fil-Bord tal-OpenAI Foundation. Huwa se jkun osservatur mingħajr dritt tal-vot fil-Bord ta’ OpenAI Group PBC.
Paul se jingħaqad ukoll mal-Kumitat tas-Sikurezza u s-Sigurtà (SSC) tal-Bord tal-Fondazzjoni, fejn se jaħdem flimkien mal-president tiegħu, Zico Kolter. L-SSC jissorvelja l-prattiki tas-sikurezza u s-sigurtà madwar OpenAI kollha, inkluż OpenAI Group PBC.
Paul iġib miegħu esperjenza fil-gvern tul żewġ amministrazzjonijiet permezz tal-ħidma tiegħu fiċ-Ċentru għall-Istandards u l-Innovazzjoni fl-IA(jinfetaħ f’tieqa ġdida) (CAISI), fi ħdan l-Istitut Nazzjonali tal-Istandards u t-Teknoloġija (NIST), aġenzija tad-Dipartiment tal-Kummerċ tal-Istati Uniti, fejn huwa Konsulent Tekniku Anzjan1. Matul iż-żmien tiegħu f’CAISI u fil-predeċessur tiegħu, l- Istitut tas-Sikurezza tal-IA tal-Istati Uniti, Paul ħadem fuq l-evalwazzjoni ta’ mudelli avvanzati tal-IA, inklużi kapaċitajiet b’implikazzjonijiet għas-sigurtà nazzjonali, u fuq metodi biex jitnaqqsu r-riskji relatati mas-sikurezza u s-sigurtà.
Paul huwa wkoll il-fundatur taċ-Ċentru tar-Riċerka dwar l-Allinjament(jinfetaħ f’tieqa ġdida) (ARC), organizzazzjoni tar-riċerka mingħajr skop ta’ qligħ iffukata fuq l-allinjament ta’ sistemi avvanzati tal-IA mal-interessi tal-bniedem. Mill-2017 sal-2021, Paul mexxa r-riċerka dwar l-allinjament f’OpenAI u kkontribwixxa għal ħidma fundamentali fuq l-Apprendiment ta' Tisħiħ minn Feedback minn Bniedem (RLHF). F’dan ir-rwol ġdid, Paul iġib perspettiva distinta u msejsa fuq għarfien tekniku għad-deċiżjonijiet ta’ governanza ta’ OpenAI. Il-missjoni tagħna hi li niżguraw li l-intelliġenza artifiċjali ġenerali tkun ta’ benefiċċju għall-umanità kollha.
“Paul għen biex jiddefinixxi l-qasam tal-allinjament tal-IA permezz ta’ ħidma rigoruża u ffukata fuq l-aktar mistoqsijiet diffiċli li jqajmu sistemi dejjem aktar kapaċi. L-esperjenza tiegħu fis-sikurezza u fl-istandards tal-IA avvanzata fi ħdan il-gvern, flimkien mal-ġudizzju tekniku tiegħu, se ssaħħaħ is-superviżjoni tal-Bord u l-ħidma tal-Kumitat tas-Sikurezza u s-Sigurtà hekk kif OpenAI tkompli tiżviluppa u tuża IA avvanzata.”
“Il-kapaċitajiet tal-IA avvanzaw b’pass mgħaġġel ħafna matul l-aħħar sena, filwaqt li l-allinjament għadu problema teknika diffiċli, u għalhekk ir-responsabbiltà tal-Kumitat tas-Sikurezza u s-Sigurtà hija aktar importanti u impenjattiva minn qatt qabel. Ninsab ħerqan li ningħaqad mat-tim biex ngħin.”
L-IA dieħla f’era ġdida ta’ kapaċitajiet, u għalhekk qed isir dejjem aktar importanti li l-avvanzi f’dawn is-sistemi jkunu akkumpanjati minn sikurezza, sigurtà, allinjament u governanza b’saħħithom. Tul il-karriera tiegħu fir-riċerka dwar l-allinjament tal-IA, Paul żamm perspettiva li tqis bis-serjetà l-possibbiltà li IA avvanzata tista’ toħloq riskji katastrofiċi u li l-iżviluppaturi jridu jitħejjew qabel ma s-sistemi jilħqu livelli ta’ kapaċità aktar perikolużi. Huwa kien vuċi indipendenti fid-dibattitu dwar jekk is-salvagwardji tal-industrija humiex adegwati. Aħna nemmnu li l-governanza tal-Fondazzjoni tissaħħaħ b’nies lesti jisfidaw is-suppożizzjonijiet prevalenti u jgħinu biex isaħħu l-evidenza, is-salvagwardji u r-responsabbiltà li fuqhom jissejsu deċiżjonijiet kruċjali.
Il-ħatra ta’ Paul tibni fuq l-istruttura ta’ governanza stabbilita permezz tar-rikapitalizzazzjoni ta’ OpenAI f’Ottubru 2025, inklużi l-impenji meħuda b’rabta mar-rieżamijiet imwettqa tul sena mill-Avukat Ġenerali ta’ California(jinfetaħ f’tieqa ġdida) u mill-Avukat Ġenerali ta’ Delaware(jinfetaħ f’tieqa ġdida). L-involviment tagħhom għen biex jissaħħaħ il-qafas ta’ governanza.
Dwar l-OpenAI Foundation
L-OpenAI Foundation hija organizzazzjoni tal-karità ddedikata biex tiżgura li l-IA tkun ta’ benefiċċju għall-umanità kollha. Bħala organizzazzjoni separata mingħajr skop ta’ qligħ, il-Fondazzjoni tmexxi l-attivitajiet tal-karità tagħha stess filwaqt li żżomm il-kontroll ta’ OpenAI Group PBC u sehem azzjonarju sinifikanti fiha. Il-Fondazzjoni tappoġġa inizjattivi li javvanzaw l-iskoperti xjentifiċi, isaħħu s-soċjetà ċivili u jibnu r-reżiljenza permezz tal-użu responsabbli tal-IA. Permezz ta’ għotjiet, sħubijiet u inizjattivi filantropiċi oħra, il-Fondazzjoni tgħin biex taċċellera ħidma li toħloq benefiċċju pubbliku dejjiemi u twessa’ l-aċċess għall-potenzjal trasformattiv tal-IA.
Il-Fondazzjoni tikkontrolla lil OpenAI Group PBC, u l-Kumitat tas-Sikurezza u s-Sigurtà huwa kumitat tal-Bord tal-Fondazzjoni. Sir af aktar fuq www.openaifoundation.org(jinfetaħ f’tieqa ġdida).
