Nimxu ’l quddiem fir-riċerka indipendenti dwar l-allinjament tal-IA

Hekk kif is-sistemi tal-IA jsiru aktar kapaċi u aktar awtonomi, ir-riċerka dwar l-allinjament trid kemm tlaħħaq mar-ritmu kif ukoll tespandi d-diversità. F’OpenAI, ninvestu ħafna fir-riċerka fruntiera dwar l-allinjament u s-sikurezza għax hija kruċjali għall-missjoni tagħna. Nemmnu wkoll li niżguraw li l-AGI tkun sigura u ta’ benefiċċju għal kulħadd ma jistax jintlaħaq minn organizzazzjoni waħda biss, u rridu nappoġġaw riċerka indipendenti u approċċi kunċettwali li jistgħu jitmexxew barra mil-laboratorji fruntiera.

Illum, qed inħabbru għotja ta’ $7.5 miljun lil The Alignment Project⁠(jinfetaħ f’tieqa ġdida), fond globali għar-riċerka indipendenti dwar l-allinjament maħluq mill-UK AI Security Institute (UK AISI). Renaissance Philanthropy qed tappoġġa l-amministrazzjoni tal-għotja. Dan il-kontribut jgħin biex The Alignment Project isir wieħed mill-akbar sforzi ta’ finanzjament iddedikati għar-riċerka indipendenti dwar l-allinjament sal-lum u jsaħħaħ l-ekosistema usa’ u indipendenti.

Laboratorji fruntiera bħal OpenAI jinsabu f’pożizzjoni unika biex iwettqu riċerka dwar l-allinjament li tiddependi fuq aċċess għal mudelli fruntiera u compute sinifikanti—xogħol li ħafna drabi jkun diffiċli għal riċerkaturi indipendenti biex jesplorawh. Niddedikaw ħafna mill-isforz intern tagħna fuq l-allinjament għall-iżvilupp ta’ metodi skalabbli sabiex il-progress fl-allinjament ilaħħaq mal-progress fil-kapaċitajiet. Nemmnu li l-implimentazzjoni iterattiva—li żżid il-kapaċitajiet gradwalment filwaqt li ssaħħaħ is-salvagwardji—tgħin biex il-problemi joħorġu fil-beraħ kmieni u tagħtina evidenza konkreta dwar x’jaħdem fil-prattika, u li żvilupp responsabbli jeħtieġ xogħol sinifikanti fuq l-allinjament u s-sikurezza li jkun integrat mill-qrib mal-bini u l-implimentazzjoni tal-mudell.

Fl-istess ħin, il-qasam jibbenefika minn investiment sostnut f’riċerka indipendenti u esploratorja—li tista’ tespandi l-ispazju tal-ideat u tikxef direzzjonijiet ġodda. Ir-riċerka indipendenti tibqa’ essenzjali; f’ħafna tipi ta’ investigazzjoni utli, il-laboratorji ma jżommux vantaġġ komparattiv. Ekosistema b’saħħitha tal-allinjament tiddependi fuq timijiet indipendenti li jittestjaw suppożizzjonijiet diversi, jiżviluppaw oqfsa alternattivi, u jesploraw ideat kunċettwali, teoretiċi, u ambizzjużi li jistgħu ma jaqblux b’mod pulit mal-pjan direzzjonali ta’ xi organizzazzjoni waħda.

U minħabba li l-progress lejn l-AGI jista’ fl-aħħar mill-aħħar jiddependi fuq skoperti fundamentali li jbiddlu x-xejra tal-problema tal-allinjament u liema approċċi huma l-aktar utli, huwa importanti li nappoġġaw riċerka li tkun rilevanti anke jekk il-metodi dominanti tal-lum jirriżulta li ma jiskalawx kif nistennew. F’dawk ix-xenarji, isir speċjalment importanti li jkun hemm ekosistema esterna b’saħħitha li tagħmel xogħol fundamentali, kunċettwali, u mhux ikkorrelat. Il-problema tal-allinjament u s-sikurezza tal-IA hija ta’ importanza bla preċedent, u għandna bżonn lil kulħadd involut għax għadna ma nafux liema approċċi se juru ruħhom l-aktar durabbli hekk kif il-kapaċitajiet ikomplu javvanzaw.

L-għotja tagħna—madwar £5.6 miljun bir-rati tal-kambju attwali—se tikkofinanzja lil The Alignment Project⁠(jinfetaħ f’tieqa ġdida) flimkien ma’ sostenituri oħra pubbliċi, filantropiċi, u tal-industrija. Il-fond totali jaqbeż is-£27 miljun u huwa mfassal biex jappoġġa portafoll wiesa’ ta’ proġetti ta’ riċerka dwar l-allinjament madwar id-dinja, li jkopru suġġetti varji daqs it-teorija tal-kumplessità komputazzjonali, it-teorija ekonomika u t-teorija tal-logħob, ix-xjenza konjittiva, u t-teorija tal-informazzjoni u l-kriptografija. Proġetti individwali tipikament jiġu ffinanzjati b’bejn £50,000 u £1 miljun, u jistgħu jirċievu wkoll aċċess opzjonali għal riżorsi ta’ compute u appoġġ ta’ esperti.

Il-finanzjament tagħna ma joħloqx programm jew proċess ta’ għażla ġdid, u lanqas ma jinfluwenza l-proċess eżistenti; iżid in-numru ta’ proġetti⁠(jinfetaħ f’tieqa ġdida) ta’ kwalità għolja li diġà għaddew minn verifika u li jistgħu jiġu ffinanzjati f’din ir-rawnd.

UK AISI jinsab f’pożizzjoni tajba biex jidderieġi finanzjament għall-allinjament f’din l-iskala u firxa. Iġib miegħu koalizzjoni stabbilita bejn setturi differenti li testendi fuq il-gvern, l-akkademja, il-filantropija, u l-industrija, flimkien ma’ pipeline ta’ għotjiet diġà miexi u ġabra kbira ta’ proposti li għaddew minn reviżjoni minn esperti. Bħala organizzazzjoni ta’ riċerka tal-gvern tar-Renju Unit fi ħdan id-Department for Science, Innovation and Technology (DSIT), għandu wkoll mandat iffukat fuq riskji serji tal-IA u għandu esperjenza fit-tmexxija ta’ programmi ta’ finanzjament għar-riċerka.

Minħabba li l-futur tal-IA mhux se jiżvolġi eżatt kif ibassar xi ħadd—u jista’ javvanza malajr ħafna—nemmnu li d-demokratizzazzjoni, ir-“reżiljenza tal-IA,” u l-implimentazzjoni iterattiva huma essenzjali. Filwaqt li nkomplu navvanzaw ir-riċerka fruntiera tagħna dwar l-allinjament u s-sikurezza f’OpenAI, il-progress se jibbenefika minn ekosistema robusta, diversa, u indipendenti li ssegwi approċċi komplementari hekk kif il-kapaċitajiet javvanzaw. Din l-għotja hija pass wieħed lejn dak l-għan. Ninsabu ħerqana li nkomplu nikkollaboraw mal-komunità usa’ tar-riċerka hekk kif il-qasam javvanza.