Nippreżentaw Il-Futur tal-IA

“Se jkun biżżejjed… li nafdaw dawn l-ostakli tal-parċmina kontra l-ispirtu dejjem jinfirex tal-poter?”
—James Madison, Federalist Nru 48

Bi pjaċir inniedu Il-Futur tal-IA, il-blog tat-tim il-ġdid tal-Futur Strateġiku ta’ OpenAI. Aħna tim żgħir b’għan komuni: li nwieġbu mistoqsija ewlenija waħda—kif għandha tiġi ristrutturata s-soċjetà ħielsa biex tħares id-drittijiet u l-awtonomija tal-individwi filwaqt li tilqa’ l-ħolqien ta’ IA trasformattiva?

Fil-komunità usa’ tas-sikurezza u l-politika tal-IA, mistoqsijiet bħal dawn xi drabi jissejħu riskji ta’ konċentrazzjoni tal-poter. It-tim tagħna huwa msejjes fuq l-idea li, fit-tul, din il-kategorija ta’ riskju hija l-akbar, l-aktar serja u l-aktar diffiċli biex tiġi indirizzata fuq livell kunċettwali. Għaliex?

L-istat modern huwa r-riżultat ta’ proċess twil u irregolari ta’ negozjar bejn diversi ċentri tal-poter, bħas-sidien tal-kapital u tal-prodotti, dawk li jeżerċitaw il-poter politiku, u l-poplu. Fl-aktar livell fundamentali, il-poter politiku u militari kien jiddependi fuq ix-xogħol. Li jkollok il-poter politiku jfisser li jkollok il-monopolju fuq l-użu leġittimu tal-forza. Tul l-istorja kollha tal-bniedem, dak il-monopolju kien jikkonsisti f’suldati u f’dawk li llum insejħulhom “pulizija”, flimkien ma’ burokrazija ċivili u militari vasta—megħjuna, ċertament, minn ħafna għodod teknoloġiċi, iżda fundamentalment immexxija minn bnedmin li l-appoġġ tagħhom kien meħtieġ biex tibqa’ taħdem. U l-apparat kollu—is-suldati, l-għodod u l-burokrazija marbuta magħhom—kien iffinanzjat mit-taxxi miġbura mill-pagi jew mill-produzzjoni ta’ bnedmin li kellhom ikunu lesti jħallsu. Fil-qalba tiegħu, il-poter kien jiddependi fuq il-kooperazzjoni u l-kunsens fuq skala kbira ta’ ħafna bnedmin. David Hume esprima fil-qosor din is-suppożizzjoni, li spiss tibqa’ impliċita, meta osserva li l-mexxejja politiċi “ma għandhom xejn xi jsostnihom ħlief l-opinjoni [tal-poplu]”.

Iżda forsi dan m’għadux minnu. L-avvanzi fis-sistemi awtonomi tad-dinja reali dalwaqt jistgħu jippermettu lill-istati jużaw il-forza—kemm f’pajjiżhom kif ukoll internazzjonalment—mingħajr ma jiddependu fuq il-kooperazzjoni tas-suldati jew tal-pulizija. U l-avvanzi fl-intelliġenza tal-magni jistgħu jfissru li l-istat jikseb id-dħul li jeħtieġ mhux mill-frott tax-xogħol tal-individwi, iżda mill-produzzjoni taċ-ċentri tad-data. It-tħaddim tal-burokrazija nnifisha wkoll jista’ jiġi awtomatizzat fil-biċċa l-kbira tiegħu. Għaldaqstant, biex jinżamm il-poter jista’ ma jibqax meħtieġ ftehim mifrux mas-soċjetà kollha, u l-poplu, fis-sens wiesa’, jista’ jkollu biss post żgħir fuq il-mejda tan-negozjati, jew forsi ebda post affattu.

Li nevitaw dan ir-riżultat huwa essenzjali biex inħarsu l-libertà tal-bniedem. Ebda skoperta xjentifika, progress teknoloġiku jew tkabbir ekonomiku ma jistħoqqlu s-sagrifiċċju fit-tul tal-awtonomija individwali li dan ir-riżultat iġib miegħu. Ħafna mill-ansjetajiet li bir-raġun qed jagħtu spinta lill-politika emerġenti tal-IA huma marbuta ma’ din il-mistoqsija. In-negozji, il-gruppi ta’ interess u l-individwi lkoll għandhom l-istess tħassib: “Se nitlef posti fuq il-mejda?” Sa ċertu punt, il-politika Amerikana tas-seklu 21 issawret minn tħassib simili dwar l-awtonomija individwali u kollettiva fid-direzzjoni tal-pajjiż, u dwar “għal min” “hija” l-ekonomija. L-IA tagħmel dan it-tħassib eżistenti aktar urġenti, u bir-raġun.

Din hija problema strutturali li tmur lil hinn mill-politika partiġġjana tal-lum, u saħansitra lil hinn mill-forom u r-ritwali li bihom titħaddem id-demokrazija repubblikana llum, huma kemm huma għeżież għalina. Il-bnedmin jistgħu jkunu mexjin lejn it-telf tal-poter tagħhom anki jekk tinżamm ir-rutina li nivvutaw għar-rappreżentanti tagħna. In-nies jistgħu jiċċaħħdu mill-awtonomija tagħhom anki jekk biċċa parċmina tgħid li huma ħielsa.

Fil-bidu tal-Istati Uniti bħala nazzjon ħieles, James Madison diġà kien jaf li l-“ostakli tal-parċmina” ma kinux se jkunu biżżejjed biex iwaqqfu t-tirannija. Bħal ħafna mill-Fundaturi, it-tħassib ewlieni tiegħu kien li tiġi evitata konċentrazzjoni eċċessiva tal-poter.

Iżda dan ma kienx ifisser li l-Fundaturi kienu favur deċentralizzazzjoni radikali tal-poter. Minflok, huma mmudellaw il-bilanċ tal-poter permezz ta’ metafori meħuda mill-aqwa xjenza ta’ żmienhom—il-mekkanika Newtonjana. Id-dokumenti fundaturi tal-Amerka, li jirriflettu l-lingwa u l-loġika tal-gravità, huma mimlija referenzi għal “orbiti”, “sferi” u l-ġibdiet “attraenti” ta’ ħaġa lejn oħra. Sistema solari mhijiex ġabra ta’ blat deċentralizzata kemm jista’ jkun; hija magħmula minn qmar li jduru madwar pjaneti, li min-naħa tagħhom iduru madwar xemx ċentrali. Huma kienu jemmnu li n-nies u l-organizzazzjonijiet kellhom tendenzi li jfittxu l-poter, bħalma l-korpi ċelesti kellhom tendenzi prevedibbli ta’ moviment u attrazzjoni; u li biex tiġi evitata konċentrazzjoni eċċessiva tal-poter kien meħtieġ li tinftiehem il-mekkanika ta’ dawk it-tendenzi, sabiex jitqiegħdu f’azzjoni kontra xulxin.

Għalhekk, l-għan tal-Fundaturi ma kienx li jevitaw kull konċentrazzjoni tal-poter, iżda li jevitaw konċentrazzjoni żejda, billi l-poter iżomm poter ieħor taħt kontroll, u ambizzjoni trażżan ambizzjoni oħra. Illum nistgħu nużaw kliem bħal “inċentivi” u frażijiet bħal “teorija tal-logħob” biex niddeskrivu l-istess dinamika fundamentali.

Bl-istess mod, it-tweġiba għall-isfida strutturali li l-intelliġenza avvanzata tal-magni toħloq għas-soċjetà ħielsa x’aktarx mhijiex l-aktar deċentralizzazzjoni radikali tal-poter li wieħed jista’ jimmaġina. Minflok, jeħtieġ li nfittxu li nistabbilixxu u nħarsu l-bilanċ it-tajjeb tal-poter, sabiex ebda attur wieħed jew grupp żgħir ta’ atturi ma jkun jista’ jiddomina lill-bqija.

Biex nilħqu dan il-bilanċ, irridu naħsbu b’mod ċar u realistiku dwar din it-teknoloġija. Dinja fejn kwalunkwe individwu, ikun kemm ikun malizzjuż, jista’ faċilment jikkawża ħsara kbira lil eluf jew miljuni ta’ persuni mhijiex dinja li laħqet il-bilanċ it-tajjeb tal-poter. Iżda lanqas ma nkunu lħaqna l-bilanċ it-tajjeb tal-poter jekk l-individwi ma jkollhomx aċċess wiesa’ u kontroll fuq kważi kull aspett tal-għodod li jużaw biex jesprimu l-libertà tagħhom. Ebda kumpanija jew oligopolju ma għandu jiddetermina jew jikkontrolla l-ekonomija jew l-arkitettura bażika tas-soċjetà umana.

Irridu nibqgħu miftuħa wkoll għar-riskji li ma joriġinawx minn bnedmin malizzjużi. L-inċident reċenti ta’ Hugging Face wera li l-aġenti tal-IA jistgħu jaġixxu lil hinn mill-kompiti assenjati lilhom u jibnu fuq l-iskoperti ta’ xulxin b’modi li l-operaturi la bassru u lanqas awtorizzaw. Lil hinn mill-inċident ta’ Hugging Face, il-bnedmin għandhom raġun jitħassbu dwar xi tkun tfisser IA superintelliġenti “maqtugħa” mill-kontroll tal-bniedem għar-reżiljenza tal-istituzzjonijiet politiċi u ekonomiċi tagħna, u tabilħaqq għal ħajjitna. Li nippretendu li d-deċentralizzazzjoni ssolvi kull problema—anki jekk temmen li ssolvi ħafna minnhom—ifisser li ninjoraw riskji li issa għandhom ikunu ċari u preżenti.

Il-prinċipji ġenerali li ġejjin—lista mhux eżawrjenti—se jgħinu biex jiggwidaw il-ħidma tagħna hekk kif nindirizzaw il-kwistjoni li ressaqna hawn fuq:

• Il-bnedmin għandhom iżommu l-awtonomija u l-opportunitajiet individwali fl-użu tal-IA u tat-teknoloġiji assoċjati, anki jekk xi drabi dan ikun ta’ detriment kemm għas-sigurtà kif ukoll għat-tkabbir ekonomiku;
• L-awtonomija individwali tiddependi fuq ir-responsabbiltà tal-individwu għall-użu ħażin jew l-abbuż tat-teknoloġija;
• Hemm kategorija żgħira iżda serja ta’ riskji li teħtieġ ċertu livell ta’ azzjoni kollettiva, u din l-azzjoni għandha tkun limitata kemm jista’ jkun fl-ambitu u fil-portata tagħha;
• Kull meta jkun possibbli, il-liġi għandha tfittex li toħloq kundizzjonijiet indaqs u tagħti s-setgħa lill-individwi u lill-organizzazzjonijiet żgħar, minflok ma tiċċentralizza l-poter;
• L-istituzzjonijiet politiċi, soċjali u ekonomiċi tal-bniedem għandhom jibqgħu minn ta’ quddiem fit-tmexxija tal-affarijiet dinjija, anki jekk ikollhom jevolvu b’modi li llum jistgħu jidhrulna estranji;
• Fit-tul, il-governanza tal-IA se tiddependi fuq mekkaniżmi istituzzjonali ġodda biex tinkiseb leġibbiltà limitata—meta s-sistemi tal-IA jieħdu azzjonijiet ta’ importanza kbira li jaffettwaw il-benesseri fiżiku jew il-proprjetà ta’ persuni fil-qrib, irid ikun possibbli li dawk l-azzjonijiet jintrabtu ma’ bniedem responsabbli jew ma’ organizzazzjoni kkontrollata mill-bnedmin. Madankollu, kwalunkwe mekkaniżmu bħal dan irid jitfassal bil-privatezza fil-qalba tiegħu; l-espressjoni ħielsa teħtieġ l-anonimità, u l-bnedmin għandhom ikunu ħielsa jużaw l-IA b’mod anonimu f’ħafna kuntesti.

Se nippruvaw nispjegaw—bl-aktar mod konkret possibbli—kif nemmnu li għandna nibbilanċjaw dawn il-prinċipji li, nammettu, u bħal kull ġabra tajba ta’ prinċipji, jinsabu sa ċertu punt f’tensjoni bejniethom. Dan se jinvolvi riċerka fil-punt fejn jiltaqgħu t-tfassil tal-politika pubblika, l-ekonomija, il-liġi, l-istorja u t-tagħlim awtomatiku nnifsu. Se jeħtieġ ukoll ħafna tbassir. Pereżempju, nemmnu li l-IA se tbiddel l-istruttura tal-kumpaniji, bħalma t-teknoloġiji tar-Rivoluzzjoni Industrijali—u b’mod partikolari l-ferroviji—wasslu għall-ħolqien tal-korporazzjoni moderna mmexxija mill-maniġment. Huwa diffiċli naħsbu dwar l-ekonomija politika u l-bilanċ tal-poter tal-futur mingħajr ma niżviluppaw ideat aktar profondi dwar kif tista’ tinbidel l-istruttura tal-kumpaniji nfushom—kif ukoll tal-aġenziji governattivi u tas-soċjetà ċivili b’mod usa’.

It-tim tal-Futuri Strateġiċi se jaqsam ħidmietu kemm hawnhekk kif ukoll f’formati oħra, fosthom dokumenti, vidjows u podcasts. L-isforzi tagħna se jibqgħu xogħol li għadu għaddej, b’enfasi fuq it-titjib kontinwu, id-dibattitu u r-rieda li nilqgħu l-kummenti. Weqfin “fl-għoljiet baxxi tas-singularità”, għandna ħafna aktar mistoqsijiet milli tweġibiet. Nafu li l-“ostakli tal-parċmina” waħedhom mhux se jipprovdu s-soluzzjonijiet li nfittxu, iżda lanqas inwarrbu dak li nkiteb bħala “sempliċi kliem”. Inħabirku favur l-ideali tal-espressjoni ħielsa u tal-libertà individwali minquxa fil-parċmina sempliċi tal-Kostituzzjoni tal-Istati Uniti u fil-kostituzzjonijiet ta’ tant soċjetajiet ħielsa oħra madwar id-dinja.

Fl-aħħar mill-aħħar, nafu li ebda kumpanija, industrija jew saħansitra soċjetà umana waħda ma tista’ twieġeb waħedha għall-mistoqsijiet serji li qed niffaċċjaw. Dan huwa kompitu li l-umanità se jkollha twettaq kollettivament. L-akbar tama tagħna hija li nitfgħu dawl fuq l-aktar suġġetti diffiċli marbuta ma’ kif l-IA se tfassal mill-ġdid id-dinja tagħna. Il-ħidma tagħna għadha kemm bdiet, u fadlilna ħafna xi nitilgħu.

Nota: biddilna isem dan il-blog għal Żmien l-Intelliġenza biex niddistingwuh mill-proġett mingħajr skop ta’ qligħ AI Futures Project.