Nissaħħu r-reżiljenza ċibernetika hekk kif javvanzaw il-kapaċitajiet tal-IA

Il-kapaċitajiet ċibernetiċi fil-mudelli tal-IA qed javvanzaw b’pass mgħaġġel, u qed iġibu benefiċċji sinifikanti għaċ-ċiberdifiża kif ukoll riskji ġodda ta’ użu doppju li jridu jiġu ġestiti b’attenzjoni. Pereżempju, il-kapaċitajiet ivvalutati permezz tal-isfidi capture-the-flag (CTF) tjiebu minn 27% fuq GPT‑5⁠(jinfetaħ f’tieqa ġdida) f’Awwissu 2025 għal 76% fuq GPT‑5.1‑Codex‑Max⁠(jinfetaħ f’tieqa ġdida) f’Novembru 2025.

Nistennew li l-mudelli tal-IA li ġejjin ikomplu fuq din it-trajettorja; bħala tħejjija, qed nippjanaw u nivvalutaw bħallikieku kull mudell ġdid jista’ jilħaq livelli ‘Għolja’ ta’ kapaċità taċ-ċibersigurtà, kif imkejla mill-Qafas tat-Tħejjija⁠(jinfetaħ f’tieqa ġdida) tagħna. B’dan infissru mudelli li jistgħu jew jiżviluppaw zero-day remote exploits li jaħdmu kontra sistemi difiżi sew, jew jgħinu b’mod sinifikanti f’operazzjonijiet kumplessi u moħbija ta’ intrużjoni f’intrapriżi jew industriji mmirati lejn effetti fid-dinja reali. Din il-kitba tispjega kif naħsbu dwar is-salvagwardji għal mudelli li jilħqu dawn il-livelli ta’ kapaċità, u niżguraw li jgħinu b’mod sinifikanti lid-difensuri filwaqt li nillimitaw l-użu ħażin.

Hekk kif dawn il-kapaċitajiet javvanzaw, OpenAI qed tinvesti biex issaħħaħ il-mudelli tagħna għal kompiti difensivi taċ-ċibersigurtà u toħloq għodod li jippermettu lid-difensuri jwettqu aktar faċilment flussi ta’ ħidma bħall-awditjar tal-kodiċi u t-tiswija tal-vulnerabbiltajiet. L-għan tagħna hu li l-mudelli u l-prodotti tagħna jġibu vantaġġi sinifikanti għad-difensuri, li ħafna drabi jkunu anqas fin-numru u b’riżorsi limitati.

Bħal oqsma oħra ta’ użu doppju, il-flussi ta’ ħidma ċibernetiċi difensivi u offensivi ħafna drabi jiddependu fuq l-istess għarfien u tekniki bażiċi. Qed ninvestu f’salvagwardji biex ngħinu niżguraw li dawn il-kapaċitajiet qawwija jibbenefikaw primarjament lill-użi difensivi u jillimitaw it-titjib għal skopijiet malizzjużi. Iċ-ċibersigurtà tmiss kważi kull qasam, li jfisser li ma nistgħux nistrieħu fuq kategorija waħda biss ta’ salvagwardji—bħal li nillimitaw l-għarfien jew nużaw biss aċċess ivverifikat—iżda minflok neħtieġu approċċ ta’ defense-in-depth li jibbilanċja r-riskju u jagħti s-setgħa lill-utenti. Fil-prattika, dan ifisser li nsawru kif il-kapaċitajiet jiġu aċċessati, iggwidati u applikati biex mudelli avvanzati jsaħħu s-sigurtà minflok ibaxxu l-ostakli għall-użu ħażin.

Aħna naraw dan ix-xogħol mhux bħala sforz ta’ darba, iżda bħala investiment sostnut u fit-tul biex nagħtu vantaġġ lid-difensuri u nkomplu nsaħħu l-pożizzjoni ta’ sigurtà tal-infrastruttura kritika madwar l-ekosistema usa’.

Il-mudelli tagħna huma mfassla u mħarrġa biex joperaw b’mod sigur, appoġġjati minn sistemi proattivi li jidentifikaw u jirrispondu għall-abbuż ċibernetiku. Aħna kontinwament nirfinaw dawn il-protezzjonijiet hekk kif jinbidlu l-kapaċitajiet tagħna u x-xenarju tat-theddid. Filwaqt li l-ebda sistema ma tista’ tiggarantixxi prevenzjoni sħiħa tal-użu ħażin fiċ-ċibersigurtà mingħajr ma taffettwa b’mod serju l-użi difensivi, l-istrateġija tagħna hi li ntaffu r-riskju permezz ta’ stack ta’ sigurtà b’saffi.

Fil-bażi ta’ dan, nadottaw approċċ ta’ defense-in-depth, billi nistrieħu fuq taħlita ta’ kontrolli tal-aċċess, tisħiħ tal-infrastruttura, kontrolli tal-egress u monitoraġġ. Dawn il-miżuri nikkumplimentawhom b’sistemi ta’ detezzjoni u rispons, u bi programmi ddedikati ta’ intelligence dwar it-theddid u riskju intern, biex it-theddid emerġenti jiġi identifikat u mblukkat malajr. Dawn is-salvagwardji huma mfassla biex jevolvu max-xenarju tat-theddid. Nassumu li se jkun hemm bidla, u nibnu b’mod li nkunu nistgħu naddattaw malajr u kif xieraq.

Nibnu fuq din il-bażi:

• Inħarrġu l-mudell biex jirrifjuta jew iwieġeb b’mod sigur għal talbiet ta’ ħsara filwaqt li jibqa’ utli għal każijiet ta’ użu edukattivi u difensivi: Qed inħarrġu l-mudelli fruntiera tagħna biex jirrifjutaw jew iwieġbu b’mod sigur għal talbiet li jippermettu abbuż ċibernetiku ċar, filwaqt li jibqgħu utli bl-aqwa mod possibbli għal każijiet ta’ użu leġittimi, difensivi u edukattivi.
• Sistemi ta’ detezzjoni: Nirfinaw u nżommu monitoraġġ mifrux mas-sistema kollha madwar il-prodotti li jużaw mudelli fruntiera biex nidentifikaw attività ċibernetika potenzjalment malizzjuża. Meta attività tidher mhux sigura, nistgħu nibblukkaw l-output, nibagħtu prompts lejn mudelli aktar siguri jew anqas kapaċi, jew neskalaw għall-infurzar. L-infurzar tagħna jgħaqqad reviżjoni awtomatizzata u umana, infurmata minn fatturi bħar-rekwiżiti legali, is-severità u l-imġiba ripetuta. Naħdmu wkoll mill-qrib mal-iżviluppaturi u mal-klijenti intrapriża biex nallinjaw fuq standards ta’ sigurtà u nippermettu użu responsabbli b’rotot ċari ta’ eskalazzjoni.
• Red teaming minn tarf sa tarf: Qed naħdmu ma’ organizzazzjonijiet esperti tar-red teaming biex nivvalutaw u ntejbu t-taffijiet tas-sigurtà tagħna. Ix-xogħol tagħhom hu li jippruvaw jaqbżu d-difiżi kollha tagħna billi jaħdmu minn tarf sa tarf, eżatt kif jista’ jagħmel avversarju determinat u b’riżorsi tajbin. Dan jgħinna nidentifikaw lakuni kmieni u nsaħħu s-sistema kollha.

OpenAI investiet minn kmieni fl-applikazzjoni tal-IA għal każijiet ta’ użu difensivi taċ-ċibersigurtà u t-tim tagħna jikkoordina mill-qrib ma’ esperti globali biex jimmatura kemm il-mudelli tagħna kif ukoll l-applikazzjoni tagħhom. Aħna napprezzaw il-komunità globali tal-prattikanti taċ-ċibersigurtà li jaħdmu biex jagħmlu d-dinja diġitali tagħna aktar sigura u aħna impenjati li nwasslu għodod qawwija li jappoġġjaw is-sigurtà difensiva. Hekk kif noħorġu salvagwardji ġodda, se nkomplu naħdmu mal-komunità taċ-ċibersigurtà biex nifhmu fejn l-IA tista’ ssaħħaħ b’mod sinifikanti r-reżiljenza, u fejn is-salvagwardji maħsuba sew huma l-aktar importanti.

Flimkien ma’ dawn il-kollaborazzjonijiet, qed nistabbilixxu sett ta’ sforzi mfassla biex jgħinu lid-difensuri jimxu aktar malajr, jorjentaw is-salvagwardji tagħna fuq bżonnijiet tad-dinja reali, u jaċċelleraw ir-rimedjazzjoni responsabbli fuq skala kbira.

Dalwaqt se nintroduċu programm ta’ aċċess fdat fejn nesploraw li nipprovdu lil utenti u klijenti eliġibbli li jaħdmu fuq iċ-ċiberdifiża b’aċċess fuq livelli għal kapaċitajiet imtejba fl-aħħar mudelli tagħna għal każijiet ta’ użu difensivi. Għadna qed nesploraw il-konfini t-tajba ta’ liema kapaċitajiet nistgħu nipprovdu b’aċċess wiesa’ u liema jeħtieġu restrizzjonijiet fuq livelli, u dan jista’ jinfluwenza d-disinn futur ta’ dan il-programm. Nimmiraw li dan il-programm ta’ aċċess fdat ikun element bażiku lejn ekosistema reżiljenti.

Aardvark, ir-riċerkatur tas-sigurtà aġentiku tagħna li jgħin lill-iżviluppaturi u lit-timijiet tas-sigurtà jsibu u jirranġaw vulnerabbiltajiet fuq skala kbira, issa jinsab f’beta privata. Jiskannja codebases għal vulnerabbiltajiet u jipproponi patches li l-manutenturi jistgħu jadottaw malajr. Diġà identifika CVEs ġodda f’software open-source billi juża raġunament fuq codebases sħaħ. Qed nippjanaw li noffru kopertura bla ħlas lil xi repositories open source mhux kummerċjali biex nikkontribwixxu għas-sigurtà tal-ekosistema tas-software open source u l-katina tal-provvista. Applika biex tipparteċipa hawn.

Se nkunu qed nistabbilixxu l-Kunsill dwar ir-Riskju tal-Fruntiera, grupp konsultattiv li se jġib difensuri ċibernetiċi u prattikanti tas-sigurtà b’esperjenza f’kollaborazzjoni mill-qrib mat-timijiet tagħna. Dan il-kunsill se jibda b’enfasi fuq iċ-ċibersigurtà, u fil-futur jespandi għal oqsma oħra ta’ kapaċitajiet fruntiera. Il-membri se jagħtu pariri dwar il-limitu bejn kapaċità utli u responsabbli u l-użu ħażin potenzjali, u dan it-tagħlim se jinforma direttament il-valutazzjonijiet u s-salvagwardji tagħna. Dalwaqt naqsmu aktar dwar il-kunsill. 

Fl-aħħar nett, nantiċipaw li l-użu ħażin ċibernetiku jista’ jkun vijabbli minn kwalunkwe mudell fruntiera fl-industrija. Biex nindirizzaw dan, naħdmu ma’ laboratorji oħra tal-fruntiera permezz tal-Frontier Model Forum, organizzazzjoni mingħajr skop ta’ qligħ appoġġjata minn laboratorji ewlenin tal-IA u sħab tal-industrija, biex niżviluppaw fehim komuni tal-mudelli tat-theddid u l-aħjar prattiki. F’dan il-kuntest, l-immudellar tat-theddid jgħin fit-taffija tar-riskju billi jidentifika kif il-kapaċitajiet tal-IA jistgħu jiġu armati, fejn jeżistu konġestjonijiet kritiċi għal atturi differenti tat-theddid, u kif il-mudelli fruntiera jistgħu jagħtu titjib sinifikanti. Din il-kollaborazzjoni għandha l-għan li tibni fehim konsistenti, mifrux mal-ekosistema kollha, tal-atturi tat-theddid u l-mogħdijiet tal-attakk, biex il-laboratorji, il-manutenturi u d-difensuri jkunu jistgħu jtejbu aħjar it-taffijiet tagħhom u jiżguraw li għarfien kritiku dwar is-sigurtà jinfirex malajr madwar l-ekosistema. Qed nikkooperaw ukoll ma’ timijiet esterni biex niżviluppaw valutazzjonijiet taċ-ċibersigurtà⁠(jinfetaħ f’tieqa ġdida). Nittamaw li ekosistema ta’ valutazzjonijiet indipendenti tkompli tgħin biex jinbena fehim komuni tal-kapaċitajiet tal-mudelli.

Flimkien, dawn l-isforzi jirriflettu l-impenn fit-tul tagħna biex insaħħu n-naħa difensiva tal-ekosistema. Hekk kif il-mudelli jsiru aktar kapaċi, l-għan tagħna hu li ngħinu niżguraw li dawk il-kapaċitajiet jittraduċu f’leva reali għad-difensuri—imsejsa fuq bżonnijiet tad-dinja reali, iffurmata minn input ta’ esperti, u implimentata b’attenzjoni. Flimkien ma’ dan ix-xogħol, qed nippjanaw li nesploraw inizjattivi oħra u għotjiet taċ-ċibersigurtà biex ngħinu noħorġu ideat rivoluzzjonarji li jistgħu ma joħorġux minn proċessi tradizzjonali, u biex niġbru b’mod miftuħ difiżi kuraġġużi u kreattivi mill-akkademja, l-industrija u l-komunità open-source. Meħuda flimkien, dan hu xogħol kontinwu, u nistennew li nkomplu nevolvu dawn il-programmi hekk kif nitgħallmu x’javvanza bl-aktar mod effettiv is-sigurtà fid-dinja reali.