Nibnu standards għall-fażi li jmiss tal-IA
Il-missjoni tagħna hi li niżguraw li l-intelliġenza artifiċjali ġenerali tkun ta’ benefiċċju għall-umanità kollha. Kif spjega reċentement Sam Altman flimkien ma’ Jakub Pachocki, aħna nagħtu prijorità lix-xogħol tagħna lejn din il-missjoni permezz ta’ tliet għanijiet ewlenin:
Immexxu l-fażi li jmiss tal-progress fl-IA billi nibnu riċerkatur awtomatizzat tal-IA, naħdmu miegħu b’mod iterattiv fuq il-problema tal-allinjament u nsibu modi biex in-nies jibqgħu parti miċ-ċiklu ta’ awtotitjib.
Inwasslu l-benefiċċji tal-progress xjentifiku u tat-tkabbir ekonomiku li jagħmlu possibbli magni intelliġenti ħafna.
Nagħtu s-setgħa lil kull persuna permezz ta’ AGI personali.
L-IA qed taċċellera r-riċerka u l-inġinerija tagħna stess, u r-riċerka megħjuna mill-IA wasslet għal avvanzi fil-matematika, fosthom fil-Problema tal-Millenju ta’ Navier–Stokes. Dan il-progress għandu potenzjal kbir għaż-żewġ għanijiet l-oħra tagħna u jista’ jwassal għal skoperti importanti fil-mediċina, kura tas-saħħa aċċessibbli b’mod wiesa’ u tisħiħ ekonomiku għal negozji żgħar u imprendituri individwali madwar id-dinja.
L-IA qed tavvanza f’ħafna kumpaniji u pajjiżi, u l-progress fil-qasam kollu jibdel l-opportunitajiet u l-isfidi li kulħadd jiffaċċja. Flimkien mal-benefiċċji l-oħra tagħha, IA kapaċi u allinjata se tkun parti importanti minn kif immexxu din it-tranżizzjoni—billi ssaħħaħ id-difiżi, tavvanza r-riċerka dwar l-allinjament u tgħin lin-nies jifhmu u jiggwidaw l-istadji li jmiss tal-iżvilupp tal-IA.
Biex immexxu din it-tranżizzjoni b’mod sikur, ir-riċerka dwar l-allinjament trid iżżomm il-pass ma’ dawn il-kapaċitajiet, ħalli s-sistemi li nibnu aħna u oħrajn jibqgħu allinjati mal-valuri umani u taħt il-kontroll tal-bniedem. Dan isir dejjem aktar importanti hekk kif is-sistemi tal-IA jsiru aktar kapaċi u awtonomi, inkluż meta jerfgħu aktar mix-xogħol tar-riċerka u l-iżvilupp tal-IA nnifisha. Biex il-progress kontinwu tal-IA jkun sikur u ta’ benefiċċju, se jkunu meħtieġa kemm avvanzi fir-riċerka dwar l-allinjament kif ukoll standards komuni li jiggwidaw l-iżvilupp fil-laboratorji u l-pajjiżi.
Ir-riċerka awtomatizzata tal-IA tista’ tinvolvi livelli differenti ta’ superviżjoni umana. Hekk kif is-sistemi tal-IA jerfgħu aktar mix-xogħol tal-iżvilupp ta’ ġenerazzjonijiet suċċessivi tal-IA, jistgħu dejjem aktar imexxu proċess ta’ awtotitjib rikorsiv (RSI), anki jekk in-nies jibqgħu involuti. Hekk kif dan il-proċess isir aktar awtomatizzat, ir-ritmu tal-progress tal-IA jista’ jaċċellera malajr.
Aħna nemmnu li r-riċerka awtomatizzata tal-IA se tipproduċi mudelli li jtejbu direttament ħajjet in-nies. Tista’ tnaqqas il-kost tal-intelliġenza avvanzata biex in-nies madwar id-dinja jkunu jistgħu jibbenefikaw. Ir-riċerka awtomatizzata tista’ tgħinna wkoll intejbu sostanzjalment l-allinjament u nibnu difiżi kontra IA dejjem aktar kapaċi—riċerkatur awtomatizzat tal-IA jista’ jkun ukoll riċerkatur awtomatizzat tas-sikurezza tal-IA. Sistemi aktar kapaċi u allinjati jistgħu jgħinu biex jipproteġu l-infrastruttura kritika, jiddefendu kontra aġenti perikolużi tal-IA u jiżviluppaw miżuri protettivi ġodda.
Illum mhu qed iseħħ ebda RSI kompletament awtonomu, u m’għandniex infittxuh sakemm ma jkunx jista’ jsir b’mod sikur. Id-deċiżjoni dwar jekk u kif għandna nipproċedu trid tiddependi mill-kapaċità tagħna li nżommu l-kontroll tal-bniedem u minn għażliet demokratiċi infurmati(jinfetaħ f’tieqa ġdida) dwar il-benefiċċji u r-riskji. Jekk isir mingħajr l-attenzjoni u l-prudenza xierqa, l-RSI jista’ jwassal biex il-bnedmin jitilfu l-kontroll prattiku fuq l-iżvilupp tal-IA u ma jkunux jistgħu jissorveljaw proċessi ta’ riċerka li ma jibqgħux jifhmu. Minn hemm ’il quddiem, l-IA tista’ ssir aktar perikoluża, inqas allinjata u, b’mod ġenerali, ta’ periklu għan-nies. L-Inċident ta’ Hugging Face li żvelajna, għalkemm ma kienx riżultat dirett tal-RSI, jagħti ħjiel tat-tipi ta’ riskji li jistgħu jsiru ferm aktar serji mingħajr salvagwardji u allinjament robusti.
L-istandards internazzjonali għall-prattiki tas-sikurezza u s-sigurtà fl-iżvilupp tal-IA fuq quddiem nett jistgħu jkunu importanti daqs ir-riċerka dwar l-allinjament biex jiġi rregolat ir-ritmu tal-avvanz. L-istandards jistgħu joħolqu definizzjonijiet komuni ta’ evidenza ta’ kwalità għolja u livelli bażiċi miftiehma għar-rigorożità tas-salvagwardji tekniċi. Fil-qosor, jgħinuna nwieġbu l-mistoqsija: “Kif tidher mitigazzjoni tajba tar-riskju katastrofiku tal-IA?”
Istituzzjonijiet demokratiċi eżistenti bħaċ-Ċentru għall-Istandards u l-Innovazzjoni tal-IA (CAISI), il-liġijiet statali u qafas federali għall-IA kollha jistgħu jgħinu f’dan, kif jistgħu wkoll forom ġodda ta’ sħubijiet bejn is-settur pubbliku u dak privat(jinfetaħ f’tieqa ġdida). Iżda l-iżvilupp u l-implimentazzjoni tal-IA qed iseħħu f’diversi pajjiżi, l-adozzjoni qed issir globalment, u x’aktarx kulħadd se jħoss l-impatti tagħha b’xi mod u f’xi żmien.
Għalhekk huma meħtieġa sforzi internazzjonali biex jiġu żviluppati standards li jindirizzaw xi sfidi ewlenin:
Frammentazzjoni—L-evalwazzjonijiet, ir-rekwiżiti ta’ rappurtar u d-definizzjonijiet tal-inċidenti ta’ pajjiżi differenti jistgħu jkunu f’kunflitt, u b’hekk ikun aktar diffiċli li titqabbel l-evidenza, jinftiehmu l-kapaċitajiet emerġenti u jiġu indirizzati r-riskji transkonfinali.
Azzjoni kollettiva—Meta kull pajjiż jaġixxi waħdu, jistgħu jinħolqu eżiti li ebda pajjiż ma jixtieq. L-RSI jista’ jaċċellera r-riċerka tal-IA nnifisha, potenzjalment lil hinn mill-kapaċità kollettiva tagħna li nifhmu l-progress, nivvalutaw ir-riskji u nżommu superviżjoni umana sinifikanti.
Kapaċità irregolari—L-attività ta’ żvilupp fuq quddiem nett u l-għarfien espert relatat mhumiex imqassma b’mod ugwali madwar id-dinja. Dan jaggrava ż-żewġ problemi msemmija hawn fuq.
Dawn l-isfidi japplikaw kemm għall-mudelli miftuħa kif ukoll għal dawk magħluqa.
Biex inkunu ċari, kull laboratorju tal-IA li jwettaq riċerka awtomatizzata tal-IA jew jiżviluppa kapaċitajiet avvanzati oħra jrid jerfa’ r-responsabbiltà li jagħmel dan b’mod sikur, skont il-prinċipji bażiċi tar-responsabbiltà proprja u l-liġijiet eżistenti. Ir-raġuni tagħna għall-istandards hija msejsa fuq l-evitar tal-konċentrazzjoni tal-poter u l-kisba ta’ eżiti prattiċi aħjar. L-istandards jagħtu lil aktar partijiet interessati barra mil-laboratorji vuċi dwar kif għandha tiżviluppa din it-teknoloġija, kif ukoll sett viżibbli ta’ prinċipji affidabbli irrispettivament mill-prattiki speċifiċi ta’ xi laboratorju partikolari. U x’aktarx niksbu riżultati aħjar jekk il-partijiet jikkollaboraw biex jindirizzaw l-isfidi msemmija hawn fuq.
Għalhekk nemmnu li l-Istati Uniti għandhom imexxu sforz ta’ ħidma konġunta ma’ pajjiżi madwar id-dinja biex jiġu żviluppati standards tekniċi globali għall-IA fuq quddiem nett, inkluż għall-RSI.
Għalkemm nistennew li dan il-kunċett jevolvi sostanzjalment maż-żmien, żewġ aspetti se jkunu essenzjali.
Mod kif dan jista’ jitwettaq ikun billi jintuża n-network emerġenti ta’ istituti tas-sikurezza tal-IA—bħal dawk diġà stabbiliti fl-Awstralja, il-Kanada, il-Ġermanja, Franza, il-Kenja, il-Ġappun, il-Korea, Singapore, l-Indja u r-Renju Unit—biex jiffaċilita l-istabbiliment ta’ standards permezz tas-CAISI u l-korpi nazzjonali tal-industrija, b’enfasi speċifika fuq (1) mudelli u żviluppaturi tal-IA fuq quddiem nett, kif imkejla b’parametri referenzjarji tal-kapaċitajiet; u (2) il-ġestjoni tal-benefiċċji u r-riskji tar-riċerka awtomatizzata tal-IA, inkluż l-RSI. L-Istati Uniti jistgħu jibnu fuq il-ħolqien min-naħa tas-CAISI tan-Network Internazzjonali għall-Kejl, l-Evalwazzjoni u x-Xjenza Avvanzati tal-IA(jinfetaħ f’tieqa ġdida) fl-2024, li ġabar flimkien istituzzjonijiet pubbliċi biex jikkooperaw fil-kejl, l-evalwazzjoni u x-xjenza tal-IA.
L-istandards żviluppati permezz ta’ dan l-isforz jipprovdu bażi teknika komuni għall-kejl u l-evalwazzjoni tal-kapaċitajiet, il-valutazzjoni tar-riskji u l-adegwatezza tas-salvagwardji. Dawn l-istandards tekniċi ma jkunux liċenzji, analiżijiet obbligatorji qabel ir-rilaxx jew rekwiżiti ta’ approvazzjoni għall-mudelli tal-IA. Il-gvernijiet nazzjonali jiddeċiedu jekk jinkorporawx dawn l-istandards fis-sistemi legali tagħhom u kif jagħmlu dan.
Din il-ħidma għandha tappoġġja wkoll ekosistema kompetittiva tal-IA billi tikkonsulta lill-iżviluppaturi ta’ mudelli miftuħa u magħluqa, esperti tekniċi indipendenti u d-dinja akkademika. L-istandards komuni għandhom jiġu żviluppati b’mod trasparenti u mfassla biex ma jagħtux vantaġġ lil kumpaniji, pajjiżi jew mudelli kummerċjali partikolari, inkluż billi ma jagħmluhiex aktar diffiċli għal parteċipanti ġodda jew żviluppaturi ta’ mudelli b’parametri miftuħa biex jikkompetu.
Kif issuġġerejna(jinfetaħ f’tieqa ġdida), dan l-approċċ jista’ jislet tagħlimiet minn oqsma bħall-avjazzjoni u l-istabbiltà finanzjarja, fejn il-pajjiżi żviluppaw standards tekniċi komuni u mezzi fdati ta’ kooperazzjoni mingħajr ma ċedew l-awtorità nazzjonali tagħhom. Għandu jaħdem ukoll mill-qrib ma’ korpi tal-istandards stabbiliti u oħrajn aktar ġodda bħall-ISO(jinfetaħ f’tieqa ġdida), il-Forum tal-Mudelli fuq Quddiem Nett(jinfetaħ f’tieqa ġdida), il-Fondazzjoni tal-IA Aġentika(jinfetaħ f’tieqa ġdida) u l-Alleanza għal IA Miftuħa u Sikura(jinfetaħ f’tieqa ġdida), kif ukoll ma’ organizzazzjonijiet iffukati fuq l-implimentazzjoni, bħall-Fondazzjoni Appia, li qed tiżviluppa speċifikazzjonijiet prattiċi li jgħaqqdu l-istandards internazzjonali ma’ valutazzjonijiet tal-IA fid-dinja reali.
L-istandards internazzjonali tal-IA se jkunu partikolarment kruċjali għall-ġestjoni tal-awtonomija dejjem tikber fir-riċerka tal-IA u tal-awtotitjib rikorsiv. B’mod speċifiku, dawn jistgħu jinkludu standards għal:
L-evalwazzjoni tal-progress tal-IA rilevanti għall-RSI u tal-ammont ta’ riċerka awtonoma li tkun qed issir fi ħdan kumpanija tal-IA. Ir-rapport reċenti tagħna dwar l-aċċellerazzjoni tar-riċerka huwa kontribut inizjali għal dan l-isforz.
Is-superviżjoni umana tar-riċerka awtomatizzata tal-IA, inkluż liema tipi ta’ proċessi awtomatizzati tar-riċerka tal-IA għandhom iwasslu għal analiżi umana immedjata.
Il-klassifikazzjoni, it-traċċar, ir-rappurtar u r-rispons għall-inċidenti marbuta mal-allinjament u mar-riċerka awtomatizzata tal-IA, bħal livelli komuni tas-severità tal-inċidenti u limiti għar-rappurtar. Il-qafas tagħna għar-rappurtar ta’ allinjament ħażin huwa kontribut bikri.
Minbarra dawn l-istandards, nemmnu li se jkun importanti għall-operaturi tal-infrastruttura kritika u għall-gvernijiet madwar id-dinja li jistabbilixxu mezzi sikuri ta’ komunikazzjoni biex jaqsmu tħassib dwar is-sigurtà nazzjonali, vulnerabbiltajiet u theddid emerġenti, u l-aħjar prattiki fil-qasam tas-sikurezza tal-IA fuq quddiem nett, li qed jevolvi malajr. Id-djalogu bejn l-Istati Uniti u ċ-Ċina f’dawn l-oqsma jkun pass pożittiv, u t-taħditiet li ġejjin qed isiru fi żmien opportun.
Ir-regolazzjoni tar-ritmu tal-iżvilupp tal-IA mhijiex kwistjoni li tinżamm veloċità stabbilita minn qabel. Mil-lat tekniku, tfisser li niżguraw li r-riċerka dwar l-allinjament u l-implimentazzjoni tagħha jibqgħu pass ’il quddiem mill-kapaċitajiet. Mil-lat soċjali, tfisser li jintużaw standards, istituzzjonijiet u kollaborazzjoni biex jissaħħu n-networks tal-industrija, ir-relazzjonijiet soċjali u l-forzi tas-suq ħalli jinkisbu eżiti ta’ benefiċċju għal kulħadd. L-appell reċenti għal azzjoni kollettiva dwar id-difiża ċibernetika huwa eżempju ta’ dan tal-aħħar.
L-Istati Uniti jinsabu f’pożizzjoni tajba biex imexxu għax l-industrija tal-IA tagħhom tinsab fuq quddiem nett teknoloġikament, u għad għandhom pożizzjoni privileġġata fin-network globali f’oqsma kruċjali bħall-finanzi, il-kummerċ, id-difiża, it-teknoloġija u s-sistemi tal-informazzjoni. Jekk imexxu issa, l-Istati Uniti jiddeterminaw jekk humiex se jsawru l-qafas globali tal-IA jew jarawx sistema frammentata, irregolari u mifnija bil-kunflitti tieħu l-għeruq madwarhom. Dan se jiddetermina wkoll jekk l-IA avvanzata ssaħħaħx in-networks li diġà għandhom l-Istati Uniti u l-alleati tagħhom; jekk jonqsu milli jmexxu, dawn jistgħu jiddgħajfu.
Il-kompetizzjoni ġeopolitika mhux se tkun biss dwar min jinsab fuq quddiem teknoloġikament, iżda wkoll dwar l-adozzjoni u t-tixrid tal-IA. Aktar ma jgħaddi ż-żmien, dan tal-aħħar jista’ jiġi ddeterminat minn min imexxi kooperazzjoni realistika u regoli prattiċi li n-negozji u s-soċjetajiet kullimkien ikunu jridu jekk se jafdaw il-futur tagħhom f’din it-teknoloġija.
Governanza nazzjonali b’saħħitha, marbuta permezz ta’ kooperazzjoni internazzjonali prattika, toffri triq lejn salvagwardji aktar sodi, innovazzjoni kontinwa u aċċess wiesa’ għall-benefiċċji tal-IA.
