Rispons għall-fruntiera l-ġdida taċ-ċiberkapaċitajiet kritiċi

Iċ-ċibersigurtà qed tinbidel malajr hekk kif il-mudelli jsiru aktar kapaċi b’modi li jistgħu kemm isaħħu ċ-ċiberdifiżi kif ukoll jippermettu attakki b’veloċità u fuq skala bla preċedent.

L-aħħar evalwazzjonijiet interni tagħna ta’ Astra, wieħed mill-mudelli tagħna li se joħorġu dalwaqt, matul dawn l-aħħar jiem jindikaw avvanzi sinifikanti fl-ikkowdjar b'karatteristiċi aġenti u fiċ-ċibersigurtà. Dawn ir-riżultati, flimkien mal-valutazzjonijiet tal-esperti, wassluna biex ilbieraħ filgħaxija nikkonkludu li ma nistgħux neskludu kapaċitajiet ċibernetiċi kritiċi skont il-Qafas tat-Tħejjija⁠(jinfetaħ f’tieqa ġdida) tagħna.

Qed naqsmu dan għax nemmnu li huwa importanti li nkunu trasparenti mal-pubbliku u mal-komunitajiet tas-sikurezza u s-sigurtà dwar din il-bidla potenzjali fil-kapaċitajiet.

Ippubblikajna l-Qafas tat-Tħejjija tagħna għall-ewwel darba f’Diċembru 2023, ħafna qabel ma l-mudelli resqu lejn kapaċitajiet ta’ dan il-livell fil-bijoloġija, il-kimika, iċ-ċibersigurtà u l-awtotitjib tal-IA. Ħloqnieh biex jiggwidana fl-identifikazzjoni tal-progress fil-kapaċitajiet u mbagħad fl-ippjanar ta’ dak li tagħmel il-kumpanija tagħna hekk kif joħorġu dawk il-kapaċitajiet. Mudelli preċedenti, fosthom GPT‑5.6‑Sol, ġew evalwati għall-kapaċitajiet ċibernetiċi tal-ogħla livell u ġew ikklassifikati fil-livell limitu Għoli (minflok Kritiku).

Skont il-Qafas tat-Tħejjija tagħna, mudell jilħaq il-livell limitu Kritiku taċ-ċibersigurtà jekk, mingħajr intervent uman, ikun jista’ jidentifika u jiżviluppa sfruttamenti zero-day funzjonali ta’ kull livell ta’ severità f’ħafna sistemi kritiċi reali msaħħa kontra l-attakki, jew jekk ikun jista’ jfassal u jwettaq mill-bidu sal-aħħar strateġiji ġodda għal attakki ċibernetiċi kontra miri msaħħa, meta jingħata biss għan ġenerali mixtieq. 

Filwaqt li nkomplu nkejlu u nevalwaw dan il-mudell, l-evalwazzjonijiet preliminari tagħna jindikaw prestazzjoni b’saħħitha biżżejjed biex, bħalissa, ma nkunux nistgħu neskludu livell Kritiku ta’ kapaċità. Astra huwa mudell li se joħroġ dalwaqt u ma kienx involut fl-isfruttament ta’ Hugging Face. 

Għaldaqstant, żidna l-ittestjar tar-robustezza tas-salvagwardji u tal-kontrolli tas-sigurtà tagħna biex ikunu xierqa għall-użu ta’ dawn il-kapaċitajiet. Internament, ħadna wkoll il-passi li ġejjin biex l-iżvilupp ulterjuri ta’ dan il-mudell isir b’mod sikur u sigur: 

• Qed nimplimentaw kontrolli tas-sigurtà aktar stretti għal mudelli b’kapaċitajiet ogħla u għall-attivitajiet assoċjati magħhom, fosthom ambjenti tal-ittestjar iżolati, aċċess ristrett għan-networks u l-għodod, protezzjoni u kriptaġġ imtejba tal-piżijiet tal-mudell, kapaċitajiet addizzjonali ta’ monitoraġġ u detezzjoni, u eżekuzzjoni f’sandbox.
• Qed nwaqqfu temporanjament l-attivitajiet interni li jinvolvu lil Astra u li għadhom ma jissodisfawx dawn ir-rekwiżiti msaħħa tal-kontroll tas-sigurtà.
• Implimentajna monitoraġġ universali ta’ azzjonijiet riskjużi u ta’ nuqqas ta’ allinjament fl-applikazzjonijiet kollha ta’ Astra b’karatteristiċi aġenti, inkluż fit-taħriġ u fl-evalwazzjoni. Is-sistemi ta’ monitoraġġ jevalwaw il-Katina tal-Ħsieb tal-mudell u jiskattaw rispons tas-sigurtà biex tiġi eżaminata u interrotta attività ta’ riskju għoli.
• Se naħdmu mal-aġenziji governattivi rilevanti u ma’ organizzazzjonijiet magħżula tas-sikurezza tal-IA biex nittestjaw il-kapaċitajiet ta’ dan il-mudell.
• Se nipprovdu kontrolli tas-sigurtà rakkomandati lis-sħab esterni tal-ittestjar biex ikunu jistgħu jwettqu b’mod sikur evalwazzjonijiet u xogħlijiet b’riskju ogħla. 

Il-qafas diġà ggwidana matul bidliet oħra fil-kapaċitajiet. F’Ġunju 2025, hekk kif il-mudelli tagħna resqu lejn il-livell limitu ta’ kapaċità Għoli fil-bijoloġija skont il-Qafas tat-Tħejjija, aħna spjegajna l-passi li konna qed nieħdu biex insaħħu s-salvagwardji, inwessgħu l-ittestjar, naħdmu ma’ esperti esterni u nimplimentaw kontrolli tas-sigurtà addizzjonali. Hawnhekk qed napplikaw l-istess prinċipju.

Nemmnu li mudelli b’kapaċitajiet ċibernetiċi avvanzati għandhom jgħinu lid-difensuri jidentifikaw u jindirizzaw il-vulnerabbiltajiet qabel ma jagħmlu dan l-attakkanti. Aħna impenjati li naħdmu flimkien mal-gvernijiet, l-istituti tas-sikurezza u s-soċjetà ċivili biex niżguraw li l-kapaċitajiet tal-ogħla livell ta’ mudelli bħal Astra, u ta’ dawk li jiġu warajh, jintużaw b’mod responsabbli u mifrux għall-benefiċċju tal-umanità kollha.