Moħħ Aljen

F’nofs l-2023, fi ħdan il-proġett ta’ riċerka “RLSlow”, rajna l-ewwel riżultati li tawna l-fiduċja li se nkunu nistgħu nkabbru t-taħriġ tal-mudelli tar-raġunament, u b’hekk nisfruttaw il-kapaċità tal-mudelli mħarrġa minn qabel li jiffurmaw il-ktajjen tal-ħsieb tagħhom stess. Jien u Szymon qattajna dak il-lejl fl-uffiċċju, naħsbu mhux dwar ir-riżultati inkredibbli fil-punti ta’ riferiment, il-prodotti jew ir-riżultati xjentifiċi li kienet se twassal din it-teknoloġija, iżda nippruvaw nifhmu l-fatt serju li f’ħajjitna tassew se naraw magni ferm aktar intelliġenti minna, u li diġà qed naraw il-forma ta’ dawn is-sistemi; filwaqt li staqsejna kif stajna nwissu lin-nies dwar is-sinifikat ta’ dan.

Tliet snin wara, il-mudelli tal-lingwa għar-raġunament huma parti tal-ekonomija li qed tikber malajr u qed jibdew iwessgħu l-konfini tax-xjenza. Jistgħu jħaddmu kompjuters u interfaċċi grafiċi, jikkollaboraw man-nies u bejniethom, u jwettqu proġetti ta’ riċerka. Qed jittrasformaw ukoll ix-xenarju tas-sigurtà tal-kompjuters, u b’hekk joħolqu perikli ġodda u ċari.

F’dan il-perjodu saret ħafna riċerka ġdida, u l-fehim tagħna ta’ dawn is-sistemi reġa’ nbidel xi ftit minn kif kien fl-2023. Abbażi tar-riżultati interni, nistenna bis-sħiħ li din il-veloċità tal-progress tista’ tinżamm sal-awtotitjib rikorsiv. Jekk l-iżvilupp tal-AI jkompli fit-triq attwali tiegħu, is-sistemi li se naraw fil-ftit snin li ġejjin x’aktarx se jirrappreżentaw qabżiet ulterjuri fil-kapaċitajiet tal-istess kobor jew akbar, u se jmexxu dejjem aktar l-iżvilupp tagħhom stess.

Dan huwa żmien li jitlob kawtela estrema. Ninsab imħasseb li ħadd mhu mħejji għall-konsegwenzi taż-żieda rapida u kontinwa fl-intelliġenza tal-magni. OpenAI se tkompli tfittex soluzzjonijiet tekniċi għall-allinjament u l-monitoraġġ, tibni sistemi difensivi u, kif meħtieġ, twaqqaf unilateralment aktar espansjoni; madankollu, nemmen li huma meħtieġa interventi usa’.

Fuq livell ġenerali, il-progress fl-intelliġenza tal-magni huwa mmexxi miż-żieda fil-qawwa komputazzjonali. Aħna f’OpenAI fhimna dan fil-fond madwar l-2017, wara li rajna benefiċċji konsistenti mill-espansjoni f’diversi proġetti ta’ riċerka¹. Għaldaqstant, fittixna aċċess għal ħafna aktar riżorsi komputazzjonali milli konna ppjanajna fil-bidu, u ffukajna dejjem aktar ir-riċerka tagħna fuq għadd żgħir ta’ direzzjonijiet li jistgħu jitkabbru ħafna. Emminna li dan kien l-uniku mod kif nibqgħu fuq quddiem nett fir-riċerka tal-AI u ninfluwenzaw l-impatti tal-AGI.

Matul it-triq ġew żviluppati algoritmi ġodda, flimkien ma’ kisbiet ġodda ta’ inġenjożità minn timijiet u riċerkaturi individwali. Fil-biċċa l-kbira nqishom bħala skoperti tul it-triq tal-espansjoni; ix-xjenza tal-apprendiment profond għadha fil-bidu tagħha, u l-progress algoritmiku sinifikanti għandu t-tendenza li jkun marbut mal-aċċess għar-riżorsi komputazzjonali. Jekk tħares lejn perjodu ta’ diversi snin, l-AI qed tkompli ssir aktar intelliġenti hekk kif titkabbar biex taħdem fuq kompjuters akbar.

U, skont it-tbassir ta’ Ray Kurzweil minn tmiem is-seklu għoxrin⁠(jinfetaħ f’tieqa ġdida), issa ninsabu fil-mument tal-istorja tal-komputazzjoni meta l-intelliġenza tal-magni qed tibda taqbeż dik tal-bnedmin b’modi trasformattivi.

L-AI aktar titkabbar milli tiġi ddisinjata—fil-biċċa l-kbira hija l-prodott tar-ripetizzjoni ta’ pass sempliċi ta’ ottimizzazzjoni ħafna drabi, bl-użu ta’ ammont ta’ komputazzjoni diffiċli timmaġinah. Dan iwassal għal sistema kumplessa immens li taħdem b’kunċetti astratti u tista’ tissimula aspetti tal-imġiba tal-bniedem. Nistgħu niksbu diversi għarfien dwar mekkaniżmi żgħar li jitfaċċaw f’din is-sistema, fi proċess simili għan-newroxjenza—u, bħan-newroxjenza, l-imġiba ġenerali tagħha ma tistax tiġi deskritta b’mod li nifhmuh għalkollox.

L-istudju tal-AI bbażata fuq l-apprendiment profond huwa fil-biċċa l-kbira xjenza sperimentali. Aħna nagħmlu sforz kbir⁠ biex nibnu algoritmi bbażati fuq prinċipji u nagħmlu tbassir li jista’ jiġi ttestjat, iżda fundamentalment, il-proċessi tagħna ta’ taħriġ fuq skala kbira huma esperimenti, u xi drabi r-riżultati tagħhom jissorprenduna. Barra minn hekk, hekk kif is-sistemi jsiru aktar kapaċi, ir-riżultati jsiru aktar diffiċli biex jiġu interpretati.

Dan isir aktar kumpless minħabba li l-algoritmi attwali ġeneralment itejbu l-kapaċitajiet faċli biex jitkejlu aktar malajr minn dawk li diffiċli jiġu kkwantifikati oġġettivament. Inqattgħu ħafna ħin nippruvaw nifhmu kif il-kapaċitajiet jiġġeneralizzaw, u lil xiex nagħtu prijorità biex navvanzaw il-ħiliet li se jkunu l-aktar rilevanti fil-ftit snin li ġejjin. Pereżempju, nemmnu li b’aktar attenzjoni nistgħu ntejbu l-mudelli speċifikament fir-riċerka matematika, iżda ma nagħtux prijorità lil din id-direzzjoni minħabba l-urġenza li nħossu dwar l-RSI u r-riċerka awtomatizzata dwar l-allinjament, kif se niddiskuti aktar tard.

L-intelliġenza prodotta bl-espansjoni tal-apprendiment profond mhijiex direttament komparabbli mal-intelliġenza umana. Biex issir rilevanti ħafna fid-dinja reali—utli ħafna jew perikoluża ħafna—l-AI m’għandhiex għalfejn tlaħħaq mal-kapaċitajiet umani kollha jew taqbiżhom; biżżejjed li taqbeż għadd suffiċjenti minnhom. U hekk kif tkompli taqbeż lill-bnedmin f’aktar u aktar aspetti, qed isir dejjem aktar diffiċli li nifhmu eżattament kemm hija kapaċi.

Minħabba li l-intelliġenza tal-magni ġejja minn proċess fundamentalment differenti minn dak tal-intelliġenza umana, ma nistgħux nassumu li awtomatikament timxi mal-prinċipji umani jew tiġġeneralizza minnhom bħall-bnedmin. Il-problema ewlenija fir-riċerka tal-AI hija dik tal-allinjament—li nwasslu lill-AI biex “tipprova tagħmel it-tajjeb” skont il-kriterji tal-bniedem.

Biex norganizza d-direzzjonijiet prattiċi tar-riċerka, insibha utli li niddistingwi bejn allinjament tal-għanijiet u allinjament tal-valuri.

B’mod ġenerali, l-allinjament tal-għanijiet jistaqsi: “L-AI tipprova tilħaq l-għan li jingħatalha?”. Dan jista’ jinkludi affarijiet bħall-konformità ma’ ġerarkija ta’ struzzjonijiet⁠, jew il-kapaċità li tikkomunika u tikkollabora man-nies biex tipprova tifhem l-għanijiet tagħhom. Dan is-sett ta’ direzzjonijiet kien estremament rilevanti fil-prattika.

L-allinjament tal-valuri huwa karatteristika aktar intrinsika tal-mudell. Hija l-kapaċità li jħaddan sett ta’ prinċipji ta’ livell għoli u jiġġeneralizza minnhom; li jaġixxi “b’mod raġonevoli” anki meta jingħata għanijiet mhux ċari jew kunfliġġenti, jew jitqiegħed f’sitwazzjonijiet mhux familjari jew ostili. AI allinjata għandha taġixxi b’onestà, integrità u mħabba lejn l-umanità.

Naturalment, il-konfini bejn l-allinjament tal-valuri u dak tal-għanijiet jistgħu jkunu mċajpra, u biex wieħed tassew jagħti kas l-għanijiet irid jipprova jiddeduċi l-intenzjoni⁠(jinfetaħ f’tieqa ġdida) u l-valuri warajhom. Madankollu, ġeneralment meta nitkellem dwar l-importanza fit-tul tar-riċerka dwar l-allinjament, inkun qed nirreferi għall-allinjament tal-valuri.

L-isfida fundamentali tal-allinjament tal-AI hija l-ġeneralizzazzjoni. Hekk kif il-magni jsiru aktar intelliġenti, jibdew jaħdmu fuq kunċetti ta’ livell ogħla u jitqiegħdu f’ambjenti dejjem aktar differenti minn dawk li ltaqgħu magħhom waqt it-taħriġ. Jistgħu jonqsu milli jiġġeneralizzaw il-valuri mgħallma u msaħħa fil-proċess tat-taħriġ tagħhom għal dawk is-sitwazzjonijiet ġodda; u jista’ jkun diffiċli għalina li nkunu ċerti kif se jaġixxu. Dan isir aktar diffiċli minħabba li l-ekosistema ġenerali li fiha jintużaw l-AI qed tinbidel malajr ħafna; pereżempju, AI mħarrġa llum trid tkun reżiljenti meta tinteraġixxi ma’ diversi AI oħra. B’mod kruċjali, neħtieġu li l-AI futuri jibqgħu jħaddnu l-valuri umani, irrispettivament minn jekk jemmnux li humiex taħt superviżjoni umana.

Bħalissa hemm żewġ kategoriji ewlenin ta’ metodi użati fil-prattika għat-taħriġ tal-allinjament.

L-ewwel waħda tinkoraġġixxi mġiba allinjata bħala parti minn apprendiment ta’ tisħiħ orjentat lejn l-għanijiet. L-azzjonijiet tal-mudell jiġu evalwati (normalment minn AI) biex jiġi ddeterminat jekk humiex konsistenti ma’ mudell partikolari ta’ preferenzi, “speċifikazzjoni” jew “kostituzzjoni”, u jiġu ppremjati kif xieraq. Dan l-approċċ jista’ jkun effettiv ħafna fil-każ medju, u huwa parti ewlenija mill-mod kif jinħolqu l-assistenti moderni tal-AI. Sfortunatament, jista’ jkun ukoll fraġli u jiddependi ħafna mill-kopertura tas-superviżjoni fit-taħriġ u mill-kapaċità tal-mudell li jiġġeneralizza mis-sitwazzjonijiet li ltaqa’ magħhom waqt it-taħriġ. Pereżempju, fl-inċident ta’ OpenAI-Hugging Face, l-aġenti żammew mal-limitu li ma jużawx l-inġinerija soċjali fuq il-bnedmin. Madankollu, jidher ċar li naqsu milli jastjenu minn azzjonijiet oħra li kienu barra mill-ambitu u kontra l-ispirtu tal-valuri mgħallma lilhom f’kuntesti oħra.

It-tieni approċċ jipprova jisfrutta l-kapaċità tal-mudell li jiġġeneralizza mid-data tat-taħriġ minn qabel. Dan jista’ jinvolvi l-ħolqien ta’ settijiet ta’ data għat-taħriġ li jinduċu l-allinjament, jew l-iffukar tal-mudell fuq parti “allinjata” mid-distribuzzjoni tat-taħriġ minn qabel, bħal fil-mudell tal-għażla tal-persona⁠(jinfetaħ f’tieqa ġdida), pereżempju. Id-dgħufija ta’ dan l-approċċ tinsab fin-nuqqas ta’ reżiljenza għal aktar pressjoni tal-ottimizzazzjoni. Jekk tieħu mudell li ġeneralment jaħseb ħsibijiet 'allinjati', u tissuġġettah għal biżżejjed taħriġ li fih jitgħallem jilħaq għanijiet diffiċli ħafna, jista’ jitgħallem jirraġuna b’mod motivat: jgħawweġ il-ħsibijiet li jidhru 'allinjati' kif meħtieġ biex jilħaq l-għan. X’aktarx rajna eżempju ta’ mġiba bħal din f’inċidenti reċenti taċ-ċibersigurtà li kienu jinvolvu mudell mhux ta’ OpenAI.

Ninvestu ħafna fil-firxa ta’ approċċi koperti minn dawn id-direzzjonijiet. Qed naraw ukoll progress sinifikanti—GPT‑6 Astra huwa l-ewwel mudell li jibbenefika minn xi avvanzi importanti li ilna naħdmu fuqhom, u huwa allinjat ferm aħjar minn GPT‑5.6 Sol. Xorta waħda, huwa importanti li nirrikonoxxu u nifhmu li hekk kif il-mudelli jsiru aktar kapaċi, ikun meħtieġ ħafna aktar progress; u li l-progress f’allinjament ġeneralizzabbli jista’ ma jaqbiżx biżżejjed il-progress fl-intelliġenza ġenerali tal-mudell.

M’għandniex teorija sodisfaċenti tal-ġeneralizzazzjoni, u jidher improbabbli li niżviluppaw waħda dalwaqt, għall-inqas mingħajr l-għajnuna ta’ AI aktar b’saħħitha. Għalhekk, bħalissa, il-kapaċità tagħna li nivvalidaw empirikament it-tekniki tal-allinjament tagħna fil-prattika aktarx hija saħansitra aktar importanti mit-tekniki nfushom.

L-għażla ewlenija ta’ OpenAI hawnhekk kienet il-monitoraġġ tal-katina tal-ħsieb⁠(jinfetaħ f’tieqa ġdida). Din hija bbażata fuq idea attraenti li tista’ titkabbar: parti kbira mill-kapaċità tal-mudell ġejja minn proċess verbalizzat ta’ raġunament (katina tal-ħsieb). Jekk inkabbru l-ottimizzazzjoni tar-riżultati ta’ dak il-proċess, iżda ma nissorveljawx il-proċess innifsu, dik il-katina tal-ħsieb ma jkollha ebda inċentiv dirett waqt it-taħriġ biex taħbi ideat jew għanijiet mhux allinjati. Dan ma jfissirx li l-mudell se jitgħallem jesprimi tendenzi mhux allinjati li ma jiddependux fuq il-katina tal-ħsieb; madankollu, jista’ jippermettilna nimmonitorjaw eżattament iż-żieda fil-kapaċità li ġejja mir-raġunament.

Aħna fhimna s-sinifikat potenzjali tal-monitoraġġ tal-katina tal-ħsieb fl-istess żmien li żviluppajna l-mudelli tar-raġunament. Meta nedejna o1‑preview, intenzjonalment iddisinjajna l-prodott biex jaħbi l-katina tal-ħsieb⁠, sabiex fit-tul nipproteġuha mill-pressjoni tas-superviżjoni². Fl-iżvilupp li sar minn dak iż-żmien ’l hawn, stinkajna biex inżommu r-regola li ma nissorveljawx il-proċess tar-raġunament. Il-monitoraġġ tal-CoT sar għodda estremament importanti għalina biex nistudjaw kif il-mudelli tagħna jiġġeneralizzaw mid-distribuzzjoni tat-taħriġ tagħhom, għax ippermettilna nosservaw u nanalizzaw mhux biss l-azzjonijiet tagħhom iżda wkoll il-proċess intern tagħhom.

Din l-għodda għadha kruċjali waqt li nistudjaw il-klassi ta’ mudelli Astra. Madankollu, sfortunatament, l-evalwazzjonijiet tagħna jindikaw li l-kapaċità tagħna li niddependu fuq il-monitoraġġ tal-CoT qed tonqos progressivament. Dan jirriżulta minn taħlita ta’ fatturi.

• Il-mudelli moderni tar-raġunament jintużaw f’ambjenti aktar kumplessi minn o1‑preview; il-proċess tar-raġunament tagħhom qed jitħallat dejjem aktar mal-komunikazzjoni man-nies u ma’ AI oħra, kif ukoll mal-użu tal-għodod. Ħafna minn dawk l-interazzjonijiet iridu jiġu ssorveljati, u b’hekk iċajpru l-konfini li rridu nħarsu.
• L-AI qed titjieb fir-raġunament dwar il-proċess tar-raġunament tagħha stess u fil-manipulazzjoni tiegħu.
• Bit-titjib fil-prestazzjoni tat-taħriġ minn qabel, qed naraw ukoll lill-mudelli jsiru ħafna aktar intelliġenti anki mingħajr ma jużaw ebda raġunament verbalizzat.

Dawn l-isfidi mhux bilfors huma insormontabbli. Nittama li nkunu nistgħu niżviluppaw interventi biex intejbu kemm tista’ tiġi mmonitorjata l-katina tal-ħsieb tal-mudelli tagħna, pereżempju billi nifhmu aħjar l-interazzjoni bejn id-diversi għanijiet tal-ottimizzazzjoni u l-forom ta’ komputazzjoni waqt it-test li juża l-mudell. Nemmen ukoll li jista’ jkun hemm valur kbir fit-taħlit tal-ideat mill-monitoraġġ tal-CoT u tal-attivazzjonijiet—billi nkabbru t-taħriġ ta’ sistemi ta’ monitoraġġ b’aċċess dirett għall-partijiet interni tan-network, pereżempju l-qrar⁠(jinfetaħ f’tieqa ġdida). Qed insegwu dawn l-ideat b’mod attiv. Xorta waħda, nistenna li l-progress ġenerali tal-AI se jkun dejjem aktar limitat mill-fiduċja fil-monitoraġġ.

L-aktar argument b’saħħtu li nara biex inkomplu nħarrġu malajr mudelli ferm aktar intelliġenti huwa l-ħtieġa li nibnu sistemi difensivi kontra l-perikli maħluqa minn AI oħra.

Riskju ċar li ġie diskuss matul din is-sena huwa dak għaċ-ċibersigurtà: il-mudelli qed isiru sovraumani fil-kapaċità tagħhom li jidħlu f’sistemi tal-kompjuter u joħorġu minnhom. Dan iwessa’ bil-kbir il-firxa tar-riskji marbuta mal-AI: l-aġenti se jkunu jistgħu jaċċessaw kull infrastruttura ħlief l-aktar waħda sigura, u jaffettwaw direttament parti kbira mid-dinja, anki mingħajr ġisem fiżiku. Bħalissa ninsabu f’tieqa dejqa⁠ li fiha nistgħu nużaw l-aqwa mudelli disponibbli biex insaħħu b’mod sinifikanti s-sigurtà⁠ tas-sistemi kritiċi.

Sfortunatament, minn issa ’l quddiem ir-riskji marbuta mal-AI se jiżdiedu. Aġent kapaċi ħafna, imħarreġ u mgħallem espliċitament biex iwettaq atti malizzjużi, joħloq tip ġdid ta’ periklu; x’aktarx jaqbeż il-limiti tal-intenzjoni tal-operatur tiegħu u jiġġeneralizza lejn imġiba potenzjalment ferm aktar malizzjuża. Il-konfini bejn l-użu ħażin u azzjonijiet awtonomi mhux allinjati se jiċċajpru hekk kif l-AI tikseb aktar awtonomija. Forsi drajna nqisu l-AI bħala għodda, iżda xi aġenti se jfittxu li jilħqu l-għanijiet tagħhom stess. Se jsibu modi kif jikkollaboraw man-nies, billi jinnegozjaw magħhom, iqarrqu bihom jew jirrikattawhom.

Barra minn hekk, hemm ir-riskji li jiġu minn teknoloġiji ġodda li l-AI tista’ tagħmilhom possibbli, bħal patoġeni maħluqa apposta.

Għad-difiża se jkollna bżonn AI b’saħħitha u allinjata: biex niżguraw l-infrastruttura, nipproteġu f’ħin reali kontra aġenti diżonesti, u nivvintaw miżuri protettivi għalkollox ġodda. Dan se jkun punt ewlieni tal-isforzi ta’ OpenAI fl-implimentazzjoni.

Fl-istess ħin, minkejja l-inċertezza li ġġib magħha l-istennija ta’ progress wiesa’ fl-AI u l-ħtieġa li nibnu sistemi difensivi, ma nistgħux inħallu dan isir skuża għall-imprudenza. L-idea li niġru ’l quddiem akkost ta’ kollox tidher assurda ladarba nifhmu tassew kemm huma serji l-konsegwenzi.

Il-fatt li l-intelliġenza tal-magni taqdi rwol dejjem akbar fil-proċess tal-iżvilupp tagħha stess huwa konklużjoni naturali ta’ progress teknoloġiku sostnut. Jekk il-progress tal-AI jkompli, l-awtotitjib rikorsiv tal-magni (RSI) se jkun fil-qalba nett tal-iskoperti xjentifiċi futuri.

Ir-riċerka awtomatizzata fl-AI hija forma aktar radikali ta’ espansjoni tal-intelliġenza permezz tal-komputazzjoni; u, naturalment, bħala parti minnha, l-AI se ttejjeb is-sottostrat komputazzjonali nnifsu⁠. U, bħall-espansjoni, nidderieġu r-riċerka ta’ OpenAI lejn l-RSI għax nemmnu li dan huwa l-uniku mod kif nibqgħu fuq quddiem nett fir-riċerka tal-AI fil-futur.

Irrid nenfasizza li dak li għedt hawn fuq ma jfissirx li naħseb li l-aċċellerazzjoni kbira tar-riċerka fl-apprendiment profond, speċjalment fi żmien qasir, hija l-azzjoni kollettiva t-tajba li għandna nieħdu bħala komunità tar-riċerka. Madankollu, nemmen li t-triq attwali twassal għal dan, u lkoll irridu nagħżlu b’mod konxju kif se nipproċedu. L-għażliet ewlenin li għandna huma li nidderieġu l-proċess biex insaħħu l-allinjament u l-monitoraġġ flimkien mal-AI u nsibu modi kif inżommu lin-nies involuti; jew nikkoordinaw biex innaqqsu r-ritmu tal-iżvilupp futur kif meħtieġ ħalli nibnu fiduċja f’dawn il-miżuri.

Bħalissa, l-aħjar triq ’il quddiem li nara hija taħlita tat-tnejn.

Il-progress konkret li għamilna fl-allinjament u l-monitoraġġ ġeneralment kien marbut mill-qrib mal-progress ġenerali tal-AI. Eżempji eċċellenti huma l-apprendiment ta’ tisħiħ mir-rispons tal-bniedem⁠(jinfetaħ f’tieqa ġdida), li kien essenzjali għat-taħriġ tal-ewwel assistenti tal-AI, u l-monitoraġġ tal-katina tal-ħsieb⁠(jinfetaħ f’tieqa ġdida) imsemmi qabel, li sar possibbli bis-saħħa tal-avvanzi fil-mudelli tar-raġunament. Irridu niffukaw il-proċess tar-riċerka, li qed isir dejjem aktar awtomatizzat, fuq l-iżvilupp ta’ għarfien, algoritmi u teoriji ġodda bħal dawn, u nibnu b’mod iterattiv każijiet ta’ sikurezza għal AI aktar kapaċi.

L-espansjoni tas-sistemi tal-AI trid tkun limitata mill-fiduċja tagħna fis-sikurezza. Jeħtieġ li niżviluppaw impenji bħall-Qafas tat-Tħejjija⁠ jew il-Politika ta’ Espansjoni Responsabbli⁠(jinfetaħ f’tieqa ġdida) f’limiti ta’ sikurezza obbligatorji u mifruxa għall-iżvilupp kontinwu. Dawn jistgħu jiġu infurzati minn network ta’ awdituri indipendenti, minn aġenziji tal-gvern jew minn korpi internazzjonali.

L-isfida ewlenija fl-awtomatizzazzjoni tar-riċerka tal-AI mhijiex li “naslu hemm”—hija li naslu hemm b’mod li jżomm lin-nies parti mill-proċess kontinwu ta’ titjib u jħalli l-futur f’idejn l-umanità.

Kif spjegajna dan l-aħħar flimkien ma’ Sam⁠, OpenAI tagħti prijorità lil ħidma li sservi tliet għanijiet ewlenin:

1. Li niggwidaw il-perjodu li jmiss tal-progress tal-AI billi nibnu riċerkatur awtomatizzat tal-AI, naħdmu miegħu b’mod iterattiv fuq il-problema tal-allinjament u nsibu modi biex in-nies jibqgħu parti miċ-ċiklu tal-awtotitjib.
2. Li nwasslu l-benefiċċji tal-progress xjentifiku u t-tkabbir ekonomiku li jagħmlu possibbli magni intelliġenti ħafna.
3. Li nagħtu s-setgħa lil kull persuna permezz ta’ AGI personali.

F’dan l-esej iffukajt biss fuq l-ewwel punt, għax nemmen li huwa bil-bosta l-aktar urġenti. Madankollu, għandi tama kbira u napprezza ħafna l-benefiċċji li se jġib miegħu aktar progress teknoloġiku. AI futura u allinjata tista’ tavvanza x-xjenza, tiżviluppa terapiji ġodda u ġġib abbundanza materjali mifruxa. AI amikevoli u onesta tista’ tgħin lin-nies jaffaċċjaw id-diffikultajiet ta’ ħajjithom u ttejjeb b’mod sinifikanti l-kuntentizza u s-sens ta’ sodisfazzjon tagħhom. OpenAI tagħmel sforz enormi biex twettaq dawn il-benefiċċji. Eżempju attwali li jagħmilni kburi—u li l-għeżież tiegħi sabuh utli—huwa l-investiment qawwi fil-kapaċità ta’ ChatGPT li jipprovdi informazzjoni dwar is-saħħa.

Tkun kemm tkun kbira l-wegħda fit-tul tal-AI, il-biċċa l-kbira tal-attenzjoni tagħna għandha tkun fuq il-ftit snin li ġejjin. Qed niffaċċjaw tranżizzjoni lejn dinja b’magni intelliġenti immens, u rridu niżguraw li din it-tranżizzjoni tirnexxi għall-umanità. Jeħtieġ li nsibu modi kif inħarsu l-awtonomija tal-bniedem u nistabbilixxu valur intrinsiku għall-fatt li nkunu bnedmin, f’dinja fejn il-biċċa l-kbira tal-kompiti jistgħu jitwettqu mill-AI. Li nipprevjenu konċentrazzjoni estrema ta’ poter f’dinja fejn proġetti li kienu jeħtieġu eluf ta’ esperti issa jkunu jistgħu jitwettqu minn ftit nies li jħaddmu kompjuter kbir. U li niżguraw li l-bnedmin jibqgħu jikkontrollaw il-futur u ma jitħallewx lura minn progress bla kontroll, immexxi minn intellett aljen li jaqbeż tagħna.

Bħalissa nemmen li ebda laboratorju ma solva l-allinjament u l-monitoraġġ biżżejjed biex għal ħafna aktar żmien ikompli jespandi b’mod responsabbli bl-ogħla veloċità. Nistenna u nittama li t-tnaqqis volontarju fir-ritmu jsir komuni sakemm jiġu stabbiliti limiti komuni ta’ sikurezza. U nemmen li l-koordinazzjoni internazzjonali dwar l-iżvilupp futur tal-AI trid issir prijorità ewlenija għall-gvernijiet madwar id-dinja.