L-aċċellerazzjoni tar-riċerka: Ħarsa minn ġewwa OpenAI

Biex l-AGI tkun ta’ benefiċċju għall-umanità kollha, nemmnu li trid titmexxa demokratikament. Dan jeħtieġ dibattitu pubbliku infurmat dwar il-kapaċitajiet, ir-riskji u s-salvagwardji ta’ sistemi tal-IA kapaċi ħafna. In-nies kullimkien jeħtieġ jifhmu d-direzzjoni probabbli tal-IA l-aktar avvanzata, biex ikollhom vuċi effettiva fl-iżvilupp tagħha.

It-trasparenza dwar riskji, inċidenti u salvagwardji speċifiċi hija meħtieġa, iżda mhix biżżejjed. Il-pubbliku jeħtieġ jifhem ukoll kif qed jiżviluppaw l-aktar sistemi kapaċi u kif javvanzaw ir-riċerka fil-laboratorji ewlenin.

Nimmiraw li nibnu b’mod sikur riċerkatur awtomatizzat tal-IA li, taħt superviżjoni umana, javvanza l-apprendiment profond u l-allinjament permezz ta’ titjib iterattiv. Skont il-kejl tagħna, ilħaqna l-għan, imħabbar⁠(jinfetaħ f’tieqa ġdida) fil-ħarifa li għaddiet, li jkollna riċerkatur apprendist awtomatizzat sa Settembru ta’ din is-sena. B’“riċerkatur apprendist” nifhmu sistema li twettaq kompiti ta’ riċerka definiti sew taħt direzzjoni umana, anke dawk li riċerkatur tas-sengħa jeħtieġ jiem biex iwettaq. Qed nagħmlu progress qawwi lejn riċerkatur awtomatizzat tal-IA sa Marzu tal-2028.

Din is-sena, ix-xogħol ta’ kuljum tar-riċerkaturi ta’ OpenAI nbidel sostanzjalment. Jużaw aġenti tal-ikkowdjar matul il-jum, spiss f’sessjonijiet simultanji. L-użu totali qed jikber malajr, aktar milli f’timijiet oħra ta’ OpenAI. Ir-riċerkaturi qed jikkontribwixxu kodiċi aktar malajr u jwettqu aktar esperimenti. Qed jinbidel ukoll kif jużaw l-aġenti: dawn qed iwettqu kompiti aktar kumplessi u jirnexxu aktar spiss. Ir-riċerka fl-IA hija kumplessa u għandha ħafna ostakli potenzjali, għalhekk ir-ritmu ġenerali tal-progress aktarx mhux se jlaħħaq ma’ dawn il-metriċi. Iżda dawn is-sejbiet jaqblu mal-impressjoni ta’ ħafna minna internament: l-għodod aġentiċi qed jaċċelleraw ir-riċerka b’mod sinifikanti. Il-bnedmin għadhom jistabbilixxu l-prijoritajiet, jagħżlu liema ideat u riżultati jsegwu, u jiddeċiedu jekk ikabbrux, iwaqqfux jew jużawx is-sistemi.

Nemmnu li, jekk issir b’responsabbiltà, ir-riċerka awtomatizzata fl-IA tipproduċi mudelli li jtejbu direttament il-benesseri uman u javvanzaw il-missjoni ta’ OpenAI. Tista’ tnaqqas l-ispiża tal-intelliġenza avvanzata biex jibbenefikaw in-nies madwar id-dinja. Qed insegwu dan ix-xogħol anke għax ir-riċerka awtomatizzata tista’ tgħinna nsolvu l-allinjament u nibnu difiżi kontra IA dejjem aktar kapaċi. Riċerkatur awtomatizzat tal-IA jista’ jkun ukoll riċerkatur awtomatizzat tas-sikurezza jew tal-allinjament. Sistemi aktar kapaċi u allinjati jistgħu jipproteġu infrastruttura kritika, jiddefendu kontra aġenti perikolużi tal-IA u jiżviluppaw miżuri protettivi ġodda.

Dawn jiġġustifikaw l-iżvilupp ta’ riċerka awtomatizzata utli, iżda mhux bilfors li għandna nfittxu RSI rapida. Jekk u kif nipproċedu jrid jiddependi fuq il-ħarsien tal-kontroll uman u fuq għażliet demokratiċi infurmati dwar il-benefiċċji u r-riskji.

Għadna ma nafux kif naslu b’mod sikur għal RSI sħiħa u allinjata. Qed naħdmu biex inżidu l-miżuri ta’ allinjament u sikurezza flimkien mal-kapaċitajiet. Iżda ma nistgħux nassumu li l-allinjament u s-sikurezza se jlaħħqu; sistemi aktar kapaċi jistgħu jkunu aktar diffiċli biex jiġu mmonitorjati. Ċentrali għal dan l-isforz hemm xogħol bir-reqqa fuq l-allinjament u s-sikurezza, li jibda bil-kejl u t-taffija tal-problemi fis-sistemi tal-ikkowdjar b'karatteristiċi aġenti tal-lum. Jekk il-progress joħloq riskju inaċċettabbli għas-sikurezza, nirreaġixxu kif xieraq, anke billi nnaqqsu jew inwaqqfu l-iżvilupp jew l-użu ta’ sistemi li ma nistgħux nipproteġu biżżejjed.

Wara l-inċident reċenti ta’ Hugging Face, wettaqna dan l-impenn⁠: waqqafna t-taħriġ bl-apprendiment ta' tisħiħ (RL) tal-aħħar mudelli maħsuba għall-użu, saħħaħna u ttestjajna b’attakki simulati l-ambjenti tar-riċerka u wessajna l-monitoraġġ. Mhux ir-riċerka kollha waqfet: xi xogħol reġa’ beda taħt kontrolli aktar b’saħħithom, waqt li ieħor baqa’ wieqaf. Għollejna l-istandards tas-sikurezza u l-allinjament u integrajna s-sikurezza aktar fiċ-ċiklu tal-mudell, b’evidenza aktar b’saħħitha ta’ mġiba allinjata tul it-taħriġ kollu.

Illum nagħtu stampa dettaljata ta’ kif is-sistemi aġentiċi għenu l-progress tagħna lejn RSI fl-aħħar xhur. Is-sistemi aġentiċi huma ġodda u jinbidlu malajr; il-kejl tagħna għadu preliminari. B’dawn ir-riżultati bikrin u l-metodi tagħhom, irridu ninfurmaw il-pubbliku, inħeġġu d-divulgazzjoni pubblika u ngħinu lis-settur jasal għal standards komuni tal-kejl.

Kif ktibna fil-pjan ta’ politika għall-IA l-aktar avvanzata⁠, nemmnu li aħna u kumpaniji oħra għandna nkunu obbligati nirrapportaw pubblikament il-progress lejn RSI. Anke mingħajr dan l-obbligu, beħsiebna nibqgħu trasparenti dwar il-progress tagħna lejn RSI. Nadattaw it-trasparenza hekk kif jitjiebu l-kejl u l-fehim tagħna, filwaqt li nħarsu s-sigurtà u l-informazzjoni proprjetarja.

Fil-bidu tas-sena, ir-riċerkatur medjan ta’ OpenAI skont l-użu tal-aġenti kien juża l-aġenti tal-ikkowdjar ftit biss. Sa nofs Awwissu, kien jużahom kuljum, b’inferenza ta’ aktar minn $600 kuljum bil-prezzijiet tal-API. L-utent fid-90 perċentil fl-organizzazzjoni tar-riċerka issa juża aktar minn $7,000 f’tokens kuljum.

Qabel Ġunju 2026, il-ħin totali tat-tħaddim tal-aġenti fir-riċerka kien għadu inqas mill-ħin totali tax-xogħol uman. Dan issa nbidel. Abbażi ta’ jum tax-xogħol ta’ 8 sigħat, minn nofs Awwissu l-organizzazzjoni tar-riċerka tuża 3.1 jiem ta’ xogħol tal-aġenti għal kull jum ta’ xogħol uman.

Nistgħu wkoll naraw kemm riċerkaturi jużaw flussi tax-xogħol b’konkorrenza għolja, eż. iħaddmu 4 aġenti jew aktar simultanjament. Kif jidher hawn taħt, dan in-numru qed jiżdied. Dawn iċ-ċifri jinkludu l-ogħla għadd ta’ kuljum kemm ta’ aġenti mnieda mill-utent kif ukoll ta’ subaġenti maħluqa minnhom.

Ħafna mir-riċerka fl-IA teħtieġ xogħol intensiv biex titjib ġdid fl-intelliġenza jew il-prestazzjoni jiġi integrat f’mudell ewlieni. Il-progress jeħtieġ li jirnexxu l-passi kollha flimkien: tfassil ta’ titjib, kitba ta’ evalwazzjonijiet u infrastruttura għall-ittestjar fuq skala kbira, identifikazzjoni ta’ bugs u mġiba mhux sikura jew mhux allinjata fit-taħriġ, u integrazzjoni tal-aħjar ideat f’eżekuzzjoni ewlenija tat-taħriġ. Falliment fi kwalunkwe pass jista’ jillimita ċ-ċiklu kollu.

Il-kitba tal-kodiċi u l-esperimenti huma żewġ attivitajiet ewlenin tar-riċerkaturi, u naraw evidenza li qed jitħaffu.

Din id-data hija relattivament faċli biex titkejjel, iżda diffiċli biex tiġi interpretata. Bl-avvanz tal-awtomatizzazzjoni, il-kompiti li jistgħu jiġu awtomatizzati l-inqas se jieħdu aktar mill-isforz tar-riċerkaturi u jsiru ostakli ewlenin għall-progress. Ir-riżorsi komputazzjonali wkoll jillimitaw il-progress, u jistgħu jsiru aktar importanti hekk kif jonqsu ostakli oħra.

Fl-2026 żdiedu l-esperimenti għal kull sperimentatur attiv. Awwissu laħaq rekord minn meta beda l-kejl f’Jannar 2025. Dan jikkorrelata maż-żieda fl-użu ta’ Codex, għalkemm ir-riżorsi komputazzjonali wkoll żdiedu sew mill-2025.

Impressjonijiet kwalitattivi u data interna juru li qed jinbidlu l-kompiti delegati lill-aġenti tal-ikkowdjar: dawk ta’ livell ogħla u li jieħdu aktar żmien qed isiru aktar komuni.

Biex nifhmu aħjar din ix-xejra, analizzajna l-użu reċenti fir-riċerka bi tassonomija ppubblikata reċentement⁠(jinfetaħ f’tieqa ġdida) minn Epoch AI għat-tipi ta’ xogħol fir-riċerka u l-iżvilupp tal-IA. Ispirata mis-sistema O*NET għall-klassifikazzjoni tax-xogħol, din it-tassonomija hija mfassla għar-riċerka u l-iżvilupp tal-IA l-aktar avvanzata, b’sitt fażijiet ewlenin:

1. Iddeċiedi: fuq xiex taħdem, x’tkompli, fejn talloka

2. Iddisinja: ideat ta’ riċerka u speċifikazzjonijiet tal-inġinerija

3. Ibni: kodiċi u settijiet ta’ data

4. Eżegwixxi: taħriġ/evalwazzjoni, hardware, servizz

5. Analizza: esperimenti, mudelli, użu, xogħol estern

6. Ikkomunika: sejbiet, feedback, stat, deċiżjonijiet

Hawn taħt nikklassifikaw it-tokens tal-aġenti tal-ikkowdjar b’din it-tassonomija.

Il-kategoriji kollha tar-riċerka żdiedu bejn Jannar u Awwissu 2026. F’Jannar, il-kodiċi għar-riċerka u l-infrastruttura kien jiddomina. Din il-kategorija kibret, iżda żdiedu sew oħrajn, speċjalment l-għajnuna teknika u l-monitoraġġ tal-eżekuzzjonijiet. L-ippjanar ta’ livell għoli għadu frazzjoni minima tat-tokens tal-output tal-aġenti.

Aneddotalment, il-kollegi jgħidu li l-aġenti tal-ikkowdjar isolvu tajjeb ħafna problemi fl-infrastruttura interna tar-riċerka, u b’hekk itaffu ostaklu sinifikanti. Diversi timijiet li kienu joffru sessjonijiet ta’ għajnuna għall-esperimenti raw l-attendenza tonqos fl-2026. Wieħed waqqafhom għal kollox biex jiffoka fuq titjib ieħor fis-sistemi.

Hawn nuru l-għadd ta’ posts ewlenin kuljum f’wieħed mill-kanali interni ewlenin fejn ir-riċerkaturi jitolbu appoġġ tekniku mingħand timijiet oħra. Sa fejn nafu, it-tnaqqis fl-attività ma ġiex ikkumpensat minn mistoqsijiet trasferiti lejn kanal ieħor ta’ appoġġ tekniku mmexxi mill-bnedmin. It-tnaqqis fit-traffiku jaqbel ma’ din il-bidla usa’.

Nistgħu nistudjaw ukoll jekk l-aġenti jirnexxux fil-kompiti mitluba mir-riċerkaturi. Klassifikatur aġentiku juri li, minn Jannar sa Lulju, ir-rati ta’ suċċess ġeneralment żdiedu f’diversi livelli ta’ diffikultà (stmati bil-ħin li jieħu bniedem), għall-kompiti b’eżitu verifikabbli. Madankollu, l-aġenti għadhom jeħtieġu gwida umana sostanzjali biex jirnexxu, speċjalment għal kompiti aktar kumplessi. Fl-aħħar 6 xhur, aktar minn nofs il-kompiti ta’ 4–8 sigħat li rnexxew kellhom intervent wieħed jew aktar.

Il-progress lejn sistemi aktar kapaċi għal AGI sikura u ta’ benefiċċju se jiddependi wkoll mis-salvagwardji meħtieġa għal dan ix-xogħol. Il-valutazzjoni tagħna tas-salvagwardji meħtieġa tista’ tinbidel hekk kif nitgħallmu aktar dwar ir-riskji.

Kif spjegajna,⁠ dan l-aħħar aġġornajna l-istandards tagħna għall-monitoraġġ, l-allinjament u s-sigurtà. Hawn nuru kif ir-restrizzjonijiet reċenti affettwaw aspett wieħed tal-attività tar-riċerka.

Fl-20 ta’ Lulju, wara li skoprejna li aġenti kienu kkompromettew l-infrastruttura tar-riċerka tagħna, waqqafna temporanjament is-servizz tal-containers użat għat-taħriġ, u mbagħad erġajna attivajnieh b’restrizzjonijiet addizzjonali sostanzjali.

Dan wassal għal tnaqqis qawwi fir-riżorsi komputazzjonali għat-taħriġ tal-RL waqt li t-timijiet irrikkonfiguraw il-flussi tax-xogħol tagħhom biex jaħdmu fl-ambjent tar-riċerka msaħħaħ. Il-graff ta’ hawn fuq tinkludi l-waqfa ta’ ġimagħtejn fl-apprendiment ta' tisħiħ fuq l-aħħar mudelli tagħna maħsuba għall-użu. Fl-esperimenti tal-RL tal-klassi Astra bejn l-20 ta’ Lulju u s-6 ta’ Awwissu, il-maġġoranza tal-eżekuzzjonijiet (skont l-allokazzjoni tal-GPU) kienet maħsuba biex tittestja l-implimentazzjoni ta’ titjib fis-sikurezza u s-sigurtà.

Fis-7 ta’ Awwissu, evidenza preliminari li Astra jista’ jkollha kapaċitajiet ċibernetiċi kritiċi⁠ skont il-Qafas tat-Tħejjija⁠(jinfetaħ f’tieqa ġdida) tagħna wasslet għal restrizzjonijiet addizzjonali ta’ sigurtà speċifiċi għall-mudell, li kienu jeħtieġu li l-mudell Astra jitħaddem f’ambjenti tar-riċerka b’sigurtà ogħla. Fil-ġimgħa ta’ wara, l-allokazzjoni tal-GPU għall-klassi Astra naqset b’59.2 fil-mija oħra, iżda dik għal klassijiet oħra ta’ mudelli żdiedet b’17.2 fil-mija. Dik iż-żieda kkumpensat għal madwar 85 fil-mija tat-tnaqqis tal-klassi Astra, u ħalliet l-allokazzjoni totali għall-volumi ta’ xogħol tal-RL analizzati fil-biċċa l-kbira mhux mibdula. Din ix-xejra hija konsistenti maċ-ċaqliq ta’ xi taħriġ u sperimentazzjoni lejn mudelli mhux Astra waqt li x-xogħol b’Astra kien ristrett. Taqbel ukoll ma’ rapporti aneddotali ta’ riċerkaturi li sabu użi oħra għal riżorsi komputazzjonali li ma setgħux jibqgħu jintużaw għal xogħol kopert mir-restrizzjonijiet il-ġodda.

Din id-data toffri indikazzjoni utli għad-diskussjonijiet li għaddejjin dwar it-taħriġ u s-sikurezza: meta jiddaħħlu kontrolli ġodda, ir-riżorsi komputazzjonali jibqgħu siewja u flessibbli, u naturalment jiġu diretti lejn użi alternattivi fl-attività tar-riċerka. Fuq medda itwal ta’ żmien, id-diskussjonijiet dwar ir-ritmu tal-progress tal-IA għandhom jinkludu wkoll kif jistgħu jintużaw bl-aħjar mod ir-riżorsi komputazzjonali soġġetti għal kontrolli ġodda jew proposti.

Li nagħmlu u nifhmu progress lejn RSI allinjata huwa importanti għall-missjoni tagħna. Se nkomplu nirfinaw il-metodi tagħna, nirrapportaw kif qed jevolvi l-fehim tagħna, u naħdmu għal dibattitu pubbliku infurmat u governanza demokratika effettiva tas-sistemi l-aktar avvanzati.

Ir-riċerka fl-IA megħjuna mill-aġenti għadha ġdida, u għadna nitgħallmu kif inkejluha. Xi indikaturi, bħall-ammont ta’ kodiċi ġġenerat mit-timijiet tar-riċerka tagħna, huma relattivament faċli biex jinġabru, iżda diffiċli biex jiġu interpretati għax ir-rabta tagħhom mal-progress tar-riċerka hija inċerta. Metriċi li jiffokaw aktar direttament fuq il-progress tar-riċerka—bħal kemm-il darba l-aġenti jirnexxu fil-kompiti mogħtija mir-riċerkaturi—jistgħu jkunu aktar utli, iżda huma kumplessi biex jiġu żviluppati u vvalidati. Barra minn hekk, l-għodod u s-sistemi li jużaw ir-riċerkaturi qed jevolvu malajr, u dan iżid id-diffikultà. It-tisħiħ tal-fehim tagħna tal-aċċellerazzjoni tar-riċerka huwa qasam ewlieni ta’ ħidma madwar OpenAI.

F’dawn l-analiżijiet kollha, sakemm ma jingħadx mod ieħor:

• “Riċerkatur” huwa terminu wiesa’ għal kwalunkwe membru tal-organizzazzjoni tar-riċerka tagħna, inklużi xi wħud li jibnu infrastruttura tar-riċerka, imexxu proġetti ta’ riċerka jew jappoġġaw l-attività b’modi oħra.

• Il-metriċi tal-użu tal-aġenti tal-ikkowdjar ikopru l-biċċa l-kbira tal-użu, iżda mhux kollu, minħabba l-evoluzzjoni rapida tal-għodod u s-sistemi li jużaw ir-riċerkaturi.