Id-diskors ta’ Sam Altman fil-Kunsill tas-Sigurtà tan-NU

Illum, il-Kap Eżekuttiv ta’ OpenAI, Sam Altman, indirizza lill-Kunsill tas-Sigurtà tan-Nazzjonijiet Uniti dwar l-intelliġenza artifiċjali. Huwa tkellem dwar il-potenzjal tal-IA li twessa’ l-opportunitajiet, l-importanza li sistemi qawwija jinżammu taħt il-kontroll tal-bniedem, u l-ħtieġa ta’ kooperazzjoni internazzjonali dwar is-sikurezza tal-IA.

Grazzi, Sur President u Eċċellenzi. Huwa ta’ unur għalija li ninsab hawn u li nista’ nitkellem magħkom ilkoll f’dan iż-żmien importanti.

Ilna snin nitkellmu dwar l-intelliġenza artifiċjali, iżda fl-aħħar ġimgħat u xhur is-sitwazzjoni bdiet tinħass differenti. Il-progress rapidu tal-mudelli ġiegħel iż-żmien jidher aktar ristrett u l-benefiċċji aktar tanġibbli, iżda wkoll għamel l-importanza u r-riskji aktar immedjati.

Għandna għażla quddiemna. L-IA tista’ tkun bħal Rinaxximent ġdid ta’ kreattività u skoperti, jew aktar bħal Rivoluzzjoni Industrijali ġdida ta’ taqlib u diżordni.

Ir-Rinaxximent kien żmien meta għodod, ideat u istituzzjonijiet ġodda wessgħu l-perċezzjoni tan-nies ta’ dak li setgħu jagħmlu. L-IA tista’ taqdi dak ir-rwol fi żmienna. Nemmen li n-nies huma ferm aktar kapaċi milli jaħsbu, iżda nżammu lura minn teknoloġija limitata li suppost kellha tagħtihom is-setgħa iżda minflok taljenahom u spiss serqitilhom l-attenzjoni.

L-aħjar verżjoni tal-IA mhijiex maħsuba biex tagħmel lin-nies roti żgħar f’magna ġganteska, jew biex tottimizza kull aspett tal-ħajja sakemm jisparixxu l-elementi umani. Hija maħsuba biex tagħti lin-nies aktar kontroll f’dinja dejjem aktar kumplessa: aktar kapaċità li jitgħallmu, joħolqu, jiskopru, jibnu u jipparteċipaw. Hemm ħafna affarijiet li l-IA ma tistax—u m’għandhiex—tawtomatizza.

L-IA għandha tinbena għan-nies, mhux sempliċement biex il-magni jaħdmu aktar malajr mingħajr skop ieħor. Uħud mill-affarijiet li qalu dawk li qed jaħdmu biex jibnu l-IA huma tant distopiċi li jinstemgħu bħall-ġrajja ta’ films ħżiena tal-fantaxjenza.

Xi ħaġa daqshekk qawwija hija wkoll intimidanti. Dan huwa mument kumpless, għax fl-istess ħin inħossu kemm potenzjal enormi kif ukoll ansjetà li tinftiehem ħafna.

Dawn il-mudelli jistgħu jgħinu lin-nies jiskopru għarfien ġdid: mediċini ġodda, kura tas-saħħa aħjar u edukazzjoni aktar b’saħħitha, kif ukoll jibnu ekonomiji aktar produttivi. Jistgħu jkunu għodod ġodda biex in-nies isegwu ħolm u ambizzjonijiet li llum jidhru li ma jistgħux jintlaħqu. Għall-persuna medja, il-kumplessità tal-ħajja żdiedet b’mod drammatiku. L-IA tista’ tkun kemm għodda ta’ difiża kontra din il-kumplessità kif ukoll għodda għal skoperti u innovazzjoni bla preċedent.

Min-naħa l-oħra, hekk kif is-sistemi tal-IA jsiru aktar kapaċi u awtonomi, jistgħu javvanzaw aktar malajr mill-istituzzjonijiet tagħna, jikkonċentraw il-poter f’idejn ftit wisq nies, jew jieħdu deċiżjonijiet li n-nies ma jibqgħux jifhmu jew jikkontrollaw.

Dan it-tħassib isir partikolarment importanti hekk kif noqorbu lejn sistemi li jistgħu jtejbu lilhom infushom u l-verżjonijiet futuri tagħhom, proċess li spiss jissejjaħ awtotitjib rikorsiv. Hekk kif il-proċess tal-bini tal-IA jsir aktar awtomatizzat, ir-ritmu tal-progress tagħha jista’ jaċċellera malajr. Dan il-mument jitlob kawtela estrema.

Fil-biċċa l-kbira naqbel mal-Professur Bengio. Għalkemm se ngħid tnejn minflok tlieta—nemmen li hemm żewġ modi li bihom il-progress tal-IA jista’ jmur ħażin ħafna u li rridu nevitaw.

L-ewwel, nistgħu nitilfu l-kontroll tal-futur u nħalluh f’idejn l-IA. Ir-riskju huwa li tavvanza tant malajr li n-nies ma jibqgħux kapaċi jsegwu dak li qed jiġri jew jintervjenu meta jkun meħtieġ. Ovvjament, dan ikun terribbli.

L-industrija m’għandhiex taċċetta riskju teknoloġiku eċċessiv sempliċement għax il-benefiċċji huma kbar ħafna u jidhru importanti wisq biex jitnaqqas ir-ritmu. Ix-xewqa li negħlbu kumpaniji oħra f’tellieqa kompetittiva mhijiex raġuni biex nieħdu deċiżjonijiet mgħaġġla. Lanqas nemmnu li ninsabu maqfulin f’tellieqa li ma tippermettilniex innaqqsu r-ritmu. Fil-passat, naqqasna r-ritmu minn rajna. Se nerġgħu nagħmlu dan fil-futur. Ma rridux nibnu sistemi—u naħsbu li huwa importanti li kulħadd jevita li jibni sistemi—li għalihom ma nistgħux nagħtu l-garanziji meħtieġa dwar l-allinjament, il-monitoraġġ u s-sikurezza.

Jeħtieġ nifhmu x’qed jagħmlu dawn is-sistemi u jkollna evidenza soda li se jagħmlu dak li jridu n-nies, anke hekk kif isiru intelliġenti ħafna u ħafna. Fil-fatt, speċjalment hekk kif isiru intelliġenti ħafna u ħafna. Ma jimpurtax jekk in-nies iqisux li r-riskju ta’ katastrofi huwa ta’ 10%, 1%, 12% jew 0.1%. L-ebda wieħed minn dawn il-livelli mhu aċċettabbli, lanqas mill-bogħod. U m’għandniex inħarrġu mudelli jekk ma nkunux nistgħu nippreżentaw argument estremament b’saħħtu li se jirnexxilna nżommuhom taħt il-kontroll tal-bniedem.

Mela dan huwa mod wieħed kif l-affarijiet jistgħu jmorru ħażin. Min-naħa l-oħra, dawn is-sistemi jistgħu jikkonċentraw wisq poter f’idejn ftit wisq nies. L-ebda persuna, kumpanija jew pajjiż m’għandu jkun jista’ juża l-aktar mudelli qawwija tal-IA biex jimponi l-fehma tiegħu tad-dinja fuq kulħadd. Kumpanija jew pajjiż li jemmen li hu biss jista’ jiġi fdat b’din it-teknoloġija jista’ juża dak it-twemmin biex jiġġustifika kważi kull ħaġa oħra. Irridu niċħdu dik il-loġika, anke meta tkun konvenjenti għal xi attur partikolari.

Nemmen li hemm triq prammatika bejn dawn iż-żewġ estremi. F’OpenAI, nindirizzaw dawn il-mistoqsijiet b’għan ċar: l-IA għandha tagħti lin-nies aktar kontroll fuq ħajjithom. Aktar libertà biex jgħixu kif jixtiequ. Aktar kapaċità biex isolvu problemi, kbar jew żgħar, u jtejbu l-komunitajiet tagħhom. Ma rridux naqgħu fin-nassa tal-ottimiżmu għami. Lanqas ma rridu naqgħu fin-nassa tal-pessimiżmu katastrofiku. Jekk ninġibdu lejn xi wieħed minn dawn l-estremi, mhux se jirnexxilna nindirizzaw l-isfidi li għandna quddiemna, speċjalment fi żmien meta d-dinja u n-nies tagħha qed jiffaċċjaw sfidi enormi li din it-teknoloġija tista’ tgħin issolvi. Għalhekk nippruvaw nimxu fit-triq tan-nofs bejn dawn iż-żewġ estremi.

Għalina, dan ifisser tliet prinċipji.

L-ewwel, hekk kif l-IA ssir aktar kapaċi, in-nies għandhom jibqgħu fiċ-ċentru tat-teħid tad-deċiżjonijiet dwarha. L-allinjament mhuwiex kwistjoni astratta ta’ riċerka. Huwa l-ħidma biex niżguraw li dawn is-sistemi jibqgħu b’mod affidabbli taħt il-kontroll tal-bniedem, jirriflettu l-valuri umani, u jgħinu lin-nies jiggwidaw l-istadji li jmiss tal-iżvilupp. M’aħniex nippruvaw, u lanqas għandna, nawtomatizzaw il-ġudizzju jew il-valuri tal-bniedem.

It-tieni, il-benefiċċji tal-progress xjentifiku u tat-tkabbir ekonomiku jridu jinħolqu min-nies u jkunu għan-nies. L-IA għandha tgħin lir-riċerkaturi jagħmlu skoperti, lit-tobba jikkuraw lill-pazjenti, lill-għalliema jgħallmu lill-istudenti, lill-imprendituri jwaqqfu kumpaniji, lill-komunitajiet isolvu problemi li kienu jidhru impossibbli, u ħafna aktar. L-istorja kontinwa tal-progress uman mhijiex li l-għodod jieħdu post l-awtonomija tal-bniedem. Hija li l-għodod it-tajba jagħmlu lin-nies aktar kapaċi, u nemmen li dan se jwassalna ferm lil hinn minn dak li naħsbu li hu possibbli.

It-tielet, din it-teknoloġija trid tagħti s-setgħa lil kull individwu. Futur mill-aqwa jinħoloq meta n-nies jilħqu l-potenzjal tagħhom u joħolqu valur għalihom infushom, għall-komunitajiet tagħhom, għal pajjiżhom u għad-dinja kollha. Nistgħu nkunu fost dawk li qed jibnu din it-teknoloġija, iżda m’aħniex l-eroj ta’ din l-istorja. Ir-rwol tagħna huwa li nagħtu l-mezzi lin-nies madwar id-dinja u nafdaw fil-qawwa straordinarja tal-ħiliet u l-fakultajiet tal-umanità.

Issa għandna mudelli li kapaċi jiskopru għarfien li qatt ma kellna qabel. Ikkunsidraw il-progress li rajna fil-matematika. Tliet sjuf ilu, il-mudelli tagħna kienu raġonevolment tajbin fil-matematika tal-iskola primarja. Żewġ sjuf ilu, kienu pjuttost tajbin fil-kompetizzjonijiet tal-matematika tal-iskola sekondarja. Is-sajf li għadda, ilħaqna livell ta’ midalja tad-deheb fl-aktar kompetizzjoni internazzjonali prestiġjuża tal-matematika. U ftit ġimgħat ilu biss, dan is-sajf, wieħed mill-mudelli tagħna solva waħda mill-Problemi tal-Premju tal-Millenju: l-ekwazzjonijiet ta’ Navier–Stokes.

Dawn l-ekwazzjonijiet jintużaw fid-disinn tal-inġenji tal-ajru, fit-tbassir tat-temp u fl-istudju tal-fluss tad-demm. M’aħniex insolvu problemi tal-matematika sempliċement għalihom infushom, iżda biex nagħtu lin-nies il-mezzi jiskopru għarfien ġdid u jużawh biex itejbu l-kura tas-saħħa, jgħollu l-livelli tal-għajxien, u jwessgħu l-potenzjal ta’ kulħadd madwar id-dinja. Għad fadal ħafna x’niskopru.

Iżda huwa importanti ħafna li l-kumpaniji ma jiħdux post il-proċess demokratiku.

Jekk l-IA għandha tkun demokratika, l-aktar deċiżjonijiet importanti ma jistgħux jittieħdu mil-laboratorji f’San Francisco biss. Dawn iridu jiġu ffurmati permezz ta’ proċessi demokratiċi u minn gvernijiet responsabbli lejn in-nies li jaqdu.

Fil-livell internazzjonali, dan se jirrikjedi kooperazzjoni. Matul l-istorja tagħna, kien hemm żminijiet meta pajjiżi li jikkompetu u mhux dejjem jaqblu bejniethom xorta ngħaqdu minħabba interessi komuni u għall-ġid kollettiv quddiem teknoloġija ġdida u qawwija. Aħna nemmnu li dan għandu jkun wieħed minn dawk iż-żminijiet.

Neħtieġu mekkaniżmu għal standards nazzjonali u internazzjonali komplementari għall-IA avvanzata: standards biex jitkejlu l-kapaċitajiet, jiġu vvalutati r-riskji, jiġi ddeterminat jekk is-salvagwardji humiex biżżejjed, u tinżamm sorveljanza umana sinifikanti hekk kif is-sistemi jsiru aktar awtonomi.

Neħtieġu standards komuni biex il-pajjiżi jkunu jistgħu jqabblu l-evidenza, jivverifikaw il-konformità, u jkollhom lingwaġġ u fehim komuni ta’ dak li qed jiġri.

Neħtieġu rappurtar preċiż u rapidu tal-inċidenti, kif ukoll protokolli għall-klassifikazzjoni u r-rappurtar, sabiex id-dinja titgħallem mill-fallimenti qabel ma jsiru katastrofi.

U neħtieġu mezzi siguri bejn il-gvernijiet, l-operaturi tal-infrastruttura kritika u l-esperti tekniċi biex jaqsmu informazzjoni dwar vulnerabbiltajiet emerġenti u theddid ġdid.

Naturalment, dawn l-istandards m’għandhomx isaħħu l-pożizzjoni tal-operaturi eżistenti jew jiffavorixxu mudell kummerċjali partikolari. Għandhom jappoġġaw lill-iżviluppaturi ta’ mudelli miftuħa u magħluqa, lil operaturi ġodda u laboratorji stabbiliti, kif ukoll l-awtorità nazzjonali u l-kooperazzjoni internazzjonali. Kull gvern għandu jiddeċiedi kif jinkorpora l-istandards fis-sistema legali tiegħu. Iżda lkoll inkunu f’qagħda aħjar jekk naqblu dwar kif għandhom ikunu evidenza tajba, salvagwardji tajbin u sorveljanza tajba fix-xena globali.

M’għandniex it-tweġibiet kollha u lesti nilqgħu kwalunkwe idea aħjar. Lesti naħdmu magħkom ilkoll u nagħmlu l-almu tagħna biex insibu t-triq ’il quddiem.

Ninsabu f’salib it-toroq. Triq minnhom twassal għal dinja fejn il-poter ikun ikkonċentrat, id-deċiżjonijiet ma jkunux trasparenti, u n-nies iħossu li l-aktar teknoloġija importanti ta’ ħajjithom hija xi ħaġa li qed tiġi imposta fuqhom. It-triq l-oħra twassal għal dinja fejn l-IA taħdem għan-nies għax in-nies, permezz tal-istituzzjonijiet demokratiċi, jgħinu jiddeċiedu kif għandha tiżviluppa u jiggwidawha; fejn il-progress xjentifiku jtejjeb il-ħajja reali; fejn aktar nies jistgħu jieħdu sehem fil-futur; u fejn din it-teknoloġija tkompli tagħti lill-individwi u lill-komunitajiet aktar setgħa biex jgħixu kif jagħżlu huma. Dan huwa futur ta’ potenzjal imwettaq, entużjażmu u stagħġib.

U huwa l-futur li nemmnu li ta’ min nibnu. Grazzi ħafna.