It-triq lejn Astra: kapaċitajiet kritiċi u salvagwardji fil-fruntiera

Mill-valutazzjoni preċedenti tagħna li Astra seta’ jilħaq livell kritiku ta’ kapaċità fiċ-ċibersigurtà, ġbarna aktar evidenza u għamilna evalwazzjonijiet addizzjonali biex nivvalutaw il-kapaċitajiet tal-mudell. Issa nemmnu li Astra jilħaq il-limitu ta’ kapaċità Kritika taċ-ċibersigurtà skont il-Qafas tat-Tħejjija tagħna. Dan ifisser li, bl-għodod u l-aċċess xierqa, jista’ jsib difetti tas-sigurtà li qabel ma kinux magħrufa u jiżviluppa modi kif jisfruttahom f’ħafna sistemi protetti sew, mingħajr persuna tiggwida kull pass. Huwa l-ewwel mudell li qed nikklassifikaw f’dan il-livell u jeħtieġ salvagwardji aktar b’saħħithom waqt l-iżvilupp u qabel ir-rilaxx.

Matul dawn l-aħħar ġimgħat, dewminna partijiet mill-iżvilupp u r-rilaxx ta’ Astra waqt li saħħaħna u ttestjajna l-protezzjonijiet kontra l-użu ħażin ċibernetiku u azzjonijiet mhux awtorizzati tal-mudell. Abbażi ta’ dan ix-xogħol, nemmnu li s-salvagwardji ta’ Astra jnaqqsu biżżejjed ir-riskju ta’ ħsara serja biex ikun jista’ jiġi rilaxxat skont il-Qafas tat-Tħejjija tagħna.

Għalkemm Astra ma kienx involut fl-inċident ta’ Hugging Face, integrajna dak li tgħallimna⁠(jinfetaħ f’tieqa ġdida) minn dak l-inċident fl-approċċ tagħna għas-sikurezza. Abbażi ta’ testijiet retrospettivi, nemmnu li s-salvagwardji tal-produzzjoni tagħna f’dak iż-żmien kienu jipprevjenu l-inċident ta’ Hugging Face. Minn dak iż-żmien implimentajna salvagwardji saħansitra aktar b’saħħithom għal Astra, fosthom taħriġ biex il-mudell jirrifjuta b’mod aktar affidabbli talbiet ċibernetiċi dannużi u jirrispetta r-restrizzjonijiet tas-sikurezza, protezzjonijiet addizzjonali kontra l-użu ħażin, u monitoraġġ li jista’ jwaqqaf attività potenzjalment mhux awtorizzata.

Qed nippjanaw li nagħmlu Astra disponibbli dalwaqt, iżda l-aċċess għall-aktar kapaċitajiet avvanzati tiegħu taċ-ċibersigurtà se jkun aktar limitat. Għall-bidu, xogħol avvanzat taċ-ċibersigurtà se jkun disponibbli għal grupp ta’ testers, u wara jingħata aċċess permezz ta’ Daybreak Blue biex jitwessa’ l-użu difensiv.

Mat-tnedija, fil-kard tas-sistema tal-mudell se naqsmu aktar dettalji dwar it-testijiet u l-evalwazzjonijiet tagħna tas-sikurezza, is-sigurtà u l-allinjament. Qabel ir-rilaxx, irridu nagħtu aġġornament dwar parti mix-xogħol li qed nagħmlu biex inħejju għar-rilaxx sikur ta’ mudell b’dan il-livell ta’ kapaċitajiet taċ-ċibersigurtà—u nkunu trasparenti dwar ir-riskji li għadhom jeżistu.

Skont il-Qafas tat-Tħejjija tagħna, mudell jilħaq il-limitu Kritiku jekk tiġi ssodisfata waħda minn dawn il-kundizzjonijiet:

• Il-mudell jista’ jidentifika u jiżviluppa sfruttamenti zero-day funzjonali tal-livelli kollha ta’ severità f’ħafna sistemi kritiċi reali msaħħa, mingħajr intervent uman.
• Il-mudell jista’ jfassal u jwettaq strateġiji ġodda u kompluti għal attakki ċibernetiċi kontra miri msaħħa, meta jingħata biss għan ġenerali mixtieq.

L-evalwazzjoni tat-tħejjija tagħna għal Astra għaqqdet punti ta’ riferiment pubbliċi u privati awtomatizzati ma’ valutazzjonijiet immexxija minn esperti. Astra jirrappreżenta żieda sinifikanti fil-kapaċitajiet taċ-ċibersigurtà meta mqabbel ma’ GPT‑5.6 Sol: huwa ferm aktar effiċjenti fl-użu tat-token u aktar kapaċi jidentifika vulnerabbiltajiet u jiżviluppa sfruttamenti.

Bħala eżempju, ħaddimna Astra fuq ExploitBench, fejn il-mudell kiseb punteġġ perfett ta’ 100% fil-punt ta’ riferiment li jevalwa l-kapaċità tiegħu li jiżviluppa sfruttamenti minn vulnerabbiltajiet magħrufa.

Minħabba tħassib dwar il-kontaminazzjoni, imbagħad ħloqna punt ta’ riferiment intern imsejjaħ “ExploitBench - Port Intern (Ġunju–Awwissu 2026)”, li fih 20 vulnerabbiltà V8 ta’ severità għolja żvelati aktar reċentement. F’dan is-sett tad-data, Astra jikseb rati ferm ogħla ta’ eżekuzzjoni arbitrarja ta’ kodiċi minn GPT‑5.6 Sol, filwaqt li juża ferm inqas token tal-output. Matul l-evalwazzjoni, il-mudell saħansitra skopra u uża żewġ vulnerabbiltajiet zero-day bħala parti minn katina ta’ sfruttamenti. Qed niżvelaw dawn iż-żewġ vulnerabbiltajiet lill-mantenituri.

F’valutazzjonijiet immexxija minn esperti kontra browser u sistema operattiva msaħħa, Astra skopra vulnerabbiltajiet li qabel ma kinux magħrufa u bidilhom f’katini ta’ sfruttamenti li jaħdmu. Bena katina sħiħa għall-kompromess tal-browser li ħarbet mis-sandbox u eżegwiet kmandi fuq il-host meta l-browser fetaħ fajl HTML. Il-mudell sab ukoll diversi vulnerabbiltajiet f’sistema operattiva msaħħa u għaqqadhom f’katina lokali ta’ eskalazzjoni tal-privileġġi minn utent mingħajr privileġġi għal root. Kollox ma’ kollox, l-investigazzjoni tagħna wasslitna biex nikkonkludu li Astra jilħaq il-limitu kritiku.

Għal mudelli bil-livell ta’ kapaċitajiet taċ-ċibersigurtà ta’ Astra, irridu nkopru żewġ mogħdijiet biex innaqqsu r-riskju ta’ ħsara ċibernetika serja, kemm waqt l-iżvilupp kif ukoll qabel l-iskjerament:

• Atturi malizzjużi li jużaw il-mudell. Is-salvagwardji tagħna jridu jipprevjenu b’mod robust lill-atturi malizzjużi milli jużaw Astra biex jiżviluppaw sfruttamenti għal difetti li qabel ma kinux magħrufa f’sistemi kritiċi msaħħa jew biex iwettqu attakki kompluti kontra miri msaħħa.
• Il-mudell jieħu azzjonijiet mhux awtorizzati u mhux allinjati. Anke mingħajr utent malizzjuż, mudell b’kapaċitajiet avvanzati taċ-ċibersigurtà jista’ huwa stess jikkawża ħsara ċibernetika jekk ma jkunx allinjat. Minbarra standard għoli ħafna ta’ allinjament għal mudelli b’dawn il-kapaċitajiet, bħala t-tieni saff ta’ difiża s-salvagwardji tagħna jridu jkunu kapaċi jidentifikaw u jrażżnu malajr azzjonijiet mhux allinjati li jistgħu jikkawżaw ħsara sinifikanti fid-dinja reali.

Ta’ min jinnota li t-tieni mogħdija tapplika kemm għall-iżvilupp intern kif ukoll għall-iskjerament estern. Kif iddeskrivejna qabel, wara l-inċident ta’ OpenAI-Hugging Face waqqafna għal ġimagħtejn ċertu taħriġ fil-fruntiera, inkluż xi taħriġ għal Astra, biex insaħħu l-infrastruttura tat-taħriġ tagħna. Dan kien jinkludi iżolament u kontrolli tan-network, monitoraġġ estiż, u taħriġ u limiti tal-allinjament imsaħħa. Imbagħad komplejna xogħol fuq skala iżgħar taħt kontrolli aktar stretti.

Żammejna sospiżi għal aktar żmien ċerti sessjonijiet akbar ta’ apprendiment ta’ tisħiħ (RL) għal verżjonijiet futuri ta’ Astra, waqt li stabbilejna standards ogħla għas-sikurezza u s-sigurtà tal-ambjent tat-taħriġ tagħhom. Fit-28 ta’ Awwissu erġajna bdejna s-sessjoni kbira ta’ RL fil-fruntiera li kienet ġiet sospiża, wara li daħħalna r-rekwiżiti l-ġodda tas-sikurezza u s-sigurtà. Qed inkomplu nżommu sospiżi temporanjament xi sessjonijiet sperimentali iżgħar ta’ taħriġ.

It-tħejjija ta’ Astra għar-rilaxx kienet teħtieġ ukoll protezzjonijiet aktar b’saħħithom kontra l-abbuż ċibernetiku u azzjonijiet mhux awtorizzati. Hawn taħt niddeskrivu dawn is-salvagwardji u kif ittestjajniehom.

Minn meta fi Frar skjerajna l-ewwel mudell li qisnieh ta’ kapaċità Għolja fiċ-ċibersigurtà, saħħaħna s-salvagwardji ċibernetiċi tagħna ma’ kull rilaxx sussegwenti. L-approċċ ġenerali tagħna għas-sikurezza jgħaqqad f’saffi r-rifjuti tal-mudell wara t-taħriġ, klassifikaturi tas-sikurezza fil-livell tas-sistema, kif ukoll identifikazzjoni offline u tfixkil tat-theddid.

Għal GPT‑5.6⁠(jinfetaħ f’tieqa ġdida), tejjibna b’mod sinifikanti r-reżiljenza tas-saffi tagħna fil-livell tas-sistema, fosthom billi żidna klassifikaturi tal-attivazzjoni biex jidentifikaw abbuż ċibernetiku u wessajna l-kopertura tal-jailbreaks universali misjuba permezz ta’ red teaming awtomatizzat intensiv. Filwaqt li komplejna nibnu fuq dan it-titjib, għal Astra investejna aktar fis-saff tal-mudell tal-ġabra ta’ salvagwardji tagħna u tejjibna l-kapaċità tagħhom li jqisu l-kuntest bejn konverżazzjonijiet differenti.

• Bis-saħħa ta’ tekniki ġodda ta’ taħriġ għar-reżiljenza tal-mudell, Astra jirrifjuta b’mod aktar robust talbiet għal assistenza ċibernetika mhux permessa. Fis-sett tagħna ta’ evalwazzjonijiet ta’ jailbreaks ċibernetiċi, Astra jirrifjuta 91.5% tat-talbiet, meta mqabbel ma’ 59% għal GPT‑5.6 Sol.
• Għal kontijiet ivvalutati bħala ta’ riskju ogħla, napplikaw limitu aktar konservattiv għall-imġiba tal-mudell, li jirrifjuta firxa usa’ ta’ assistenza ċibernetika potenzjalment riskjuża. Għal utenti ta’ riskju għoli, wessajna l-kuntest tas-sistemi ta’ monitoraġġ tagħna biex ikunu jistgħu jaqbdu dawn it-tipi ta’ abbuż ċibernetiku.

Komplejna wkoll il-programm tagħna ta’ ttestjar rigoruż, red teaming intern u estern, u rimedju. Minbarra testijiet ta’ rigressjoni biex niżguraw li l-jailbreaks kollha misjuba fil-perjodi ta’ ttestjar preċedenti jibqgħu koperti, qed nagħmlu sensiela ġdida ta’ red teaming bl-aħħar attakkanti interni tar-red teaming tagħna. Qed naħdmu ma’ sħab fl-industrija biex niddefinixxu sistema komuni ta’ klassifikazzjoni tal-jailbreaks u se nużaw il-programm tagħna ta’ rispons rapidu 24/7 biex ninvestigaw u nindirizzaw sejbiet ġodda. Se naqsmu aktar dettalji dwar l-ittestjar tas-salvagwardji ċibernetiċi tagħna fil-kard tas-sistema ta’ Astra.

L-għajnuna lid-difensuri biex isibu u jsewwu l-vulnerabbiltajiet tibqa’ pilastru ewlieni tal-approċċ tagħna għas-sikurezza. Mat-tnedija, nistennew li s-salvagwardji ta’ Astra joħolqu aktar ostakli milli nixtiequ fit-tul, sabiex nipproteġu kontra użu ħażin potenzjali. Għall-bidu, l-aċċess għal Astra għal flussi tax-xogħol avvanzati taċ-ċibersigurtà se jkun disponibbli għal grupp żgħir ta’ testers alpha, u mbagħad l-aċċess permezz ta’ Daybreak Blue se jitwessa’ biex jappoġġja l-użu difensiv.

Żidna wkoll protezzjonijiet addizzjonali f’diversi saffi biex nipprevjenu lill-mudell milli jieħu azzjonijiet potenzjalment mhux allinjati:

• Allinjament tal-mudell: Fl-evalwazzjonijiet tagħna, Astra kien ferm aktar probabbli minn GPT‑5.6 Sol li jirrispetta restrizzjonijiet espliċiti tas-sikurezza u s-sigurtà u jibqa’ fl-ambitu awtorizzat tiegħu, u b’hekk huwa l-aktar mudell allinjat tagħna sal-lum. Iffukajna b’mod speċjali fuq kemm il-mudell jirrispetta r-restrizzjonijiet tas-sigurtà u s-sikurezza u fuq it-tendenza tiegħu li jibqa’ fl-ambitu awtorizzat.
• Monitoraġġ u kontroll: B’mod parallel mal-proċeduri interni tagħna, qed niskjeraw Astra b’monitoraġġ addizzjonali tal-katina tal-ħsieb biex nidentifikaw u nrażżnu malajr azzjonijiet potenzjalment mhux allinjati.

Astra huwa pass sinifikanti ’l quddiem fl-allinjament tal-mudelli u l-qofol ta’ diversi flussi ta’ xogħol fit-tul dwar l-allinjament, minn interventi qabel it-taħriġ għal klassifikazzjoni aktar bir-reqqa u konsistenti waqt l-apprendiment ta’ tisħiħ. Fl-ittestjar sibna li, meta mqabbel ma’ GPT 5.6 Sol, Astra huwa b’mod konsistenti aktar probabbli li jirrispetta restrizzjonijiet u twissijiet espliċiti tas-sikurezza, bħar-rieżami awtomatiku.

Żviluppajna wkoll test ibbażat fuq l-inċident ta’ Hugging Face, li fih aġenti li kienu qed iwettqu l-evalwazzjoni ċibernetika ExploitGym ikkompromettew is-sistemi ta’ parti terza. Użajna l-aktar kompiti diffiċli minn dik l-evalwazzjoni biex noħolqu testijiet b’“honeypot” dwar jekk mudell jipprovax jikkomprometti l-infrastruttura tas-sigurtà ta’ madwaru minflok isolvi l-kompitu assenjat. Mingħajr is-salvagwardji tal-produzzjoni, GPT‑5.6 Sol ipprova jaċċessa dawk il-miri f’56% tat-testijiet li jissimulaw l-ambjent tal-punt ta’ riferiment fejn il-mudell jingħata struzzjonijiet biex jiżviluppa sfruttamenti. Astra ma għamel l-ebda tentattiv bħal dan f’dawn it-testijiet. Dawn iċ-ċifri jiddeskrivu l-imġiba fil-kundizzjonijiet tat-test mingħajr salvagwardji ċibernetiċi, mhux fl-użu normali fil-produzzjoni.

It-taħriġ tal-mudelli biex ikunu allinjati huwa saff wieħed tas-sikurezza. Se naqsmu aktar dettalji dwar l-ittestjar tal-allinjament tagħna u r-riżultati fil-kard tas-sistema ta’ Astra.

Qed niskjeraw ukoll monitoraġġ tan-nuqqas ta’ allinjament fil-produzzjoni għal mudelli tal-klassi ta’ Astra, biex nidentifikaw u nrażżnu malajr nuqqas ta’ allinjament potenzjali. Dawn is-salvagwardji jixbhu l-monitoraġġ tagħna għall-iskjeramenti interni u jinvolvu sistema ta’ klassifikaturi li jiċċekkjaw ir-raġunament u l-azzjonijiet tal-mudell għal imġiba mhux awtorizzata u jwaqqfu awtomatikament attività potenzjalment mhux awtorizzata. Hekk kif jiżdiedu l-kapaċitajiet, dawn is-salvagwardji ma jistgħux jieħdu post allinjament tajjeb tal-mudelli tagħna. L-għan tagħna huwa li l-mudelli futuri jkunu allinjati tajjeb biżżejjed biex dawn is-salvagwardji qatt ma jiġu attivati.

OpenAI hija impenjata li tiżgura li l-benefiċċji tal-IA jkunu aċċessibbli b’mod wiesa’. Minħabba ż-żieda sinifikanti fil-kapaċitajiet taċ-ċibersigurtà ta’ Astra, qed noqogħdu partikolarment attenti biex dan l-iskjerament ikun sikur u sigur. Kontrolli addizzjonali tas-sikurezza kultant jistgħu jnaqqsu r-ritmu, iwaqqfu temporanjament jew itemmu xogħol leġittimu, inkluż xogħol difensiv taċ-ċibersigurtà.

Kultant is-sistema tista’ timmarka attività leġittima bħala użu ħażin ċibernetiku potenzjali jew imġiba mhux awtorizzata, u b’hekk tnaqqas ir-ritmu tagħha, twaqqafha temporanjament jew ittemmha bi żball. Dan jista’ jinkludi xogħol li ma jidhirx relatat direttament maċ-ċibersigurtà jew kompiti li fihom aġent ikun qed jaħdem għal perjodu estiż.

Jekk il-monitoraġġ tan-nuqqas ta’ allinjament iwaqqaf kompitu temporanjament, l-utenti ta’ ChatGPT jew Codex jistgħu jintalbu jirrieżaminaw l-azzjoni qabel ikomplu. Meta jintużaw interfaċċi oħra bħall-API, il-kompitu jieqaf. Qed nippjanaw li nkomplu nikkalibraw dawn is-salvagwardji biex innaqqsu l-interruzzjonijiet bla bżonn u nwessgħu l-aċċess għall-kapaċitajiet fil-fruntiera permezz ta’ programmi bħal Daybreak.

Deħlin fi stadju tal-iżvilupp tal-IA fejn il-mudelli jistgħu jagħmlu xogħol b’konsegwenzi akbar, u fejn fallimenti fl-allinjament u l-kontroll jista’ jkollhom effetti aktar serji. Biex niksbu l-benefiċċji ta’ dawn is-sistemi, irridu nkunu kapaċi nallinjaw u nikkontrollaw il-mudelli hekk kif jikbru l-kapaċitajiet tagħhom.

Dik ir-responsabbiltà tkopri t-taħriġ, l-evalwazzjoni u l-iskjerament. Teħtieġ evidenza aktar b’saħħitha ta’ mġiba allinjata, salvagwardji li jlaħħqu mal-kapaċitajiet, u rieda li nnaqqsu r-ritmu meta dawk il-protezzjonijiet ma jkunux biżżejjed.

Se nkomplu nittestjaw dawn is-sistemi, naqsmu dak li nitgħallmu u nkunu ċari dwar dak li għadu inċert. Il-mudelli li jiġu wara Astra se jesiġu aktar minna. Se nieħdu l-ħin u nagħmlu x-xogħol meħtieġ biex nerfgħu din ir-responsabbiltà.