GPT‑6 Cyber: Navvanzaw il-fruntiera tal-aġenti allinjati taċ-ċibersigurtà

Qed nintroduċu GPT‑6 Cyber, qabża kbira ’l quddiem fir-riċerka dwar is-sigurtà: aktar kapaċi jsib u jsewwi vulnerabbiltajiet, u ferm aktar affidabbli biex jibqa’ fil-limiti stabbiliti mir-riċerkaturi. GPT‑6 Cyber joffri titjib kbir fuq GPT‑5.6 Cyber f’benchmarks ewlenin taċ-ċibersigurtà, inkluż titjib relattiv ta’ 51% fuq ExploitGym u qabża kbira fit-testijiet dwar ir-rispett tal-ambitu. Diġà qed jgħin biex jipproteġi software li jintuża fil-prattika, billi jikxef u jivvalida eluf ta’ exploits f’bażijiet ta’ kodiċi kritiċi għas-sigurtà bħal Linux u Firefox.

Fuq ExploitGym, li jittestja jekk il-mudelli jistgħux jisfruttaw vulnerabbiltà speċifikata, GPT‑6 Cyber jikseb punteġġ ta’ 48.5%, żieda minn 32.1% għal GPT‑5.6 Cyber. Josserva wkoll il-limiti tal-kompitu b’mod aktar affidabbli: f’evalwazzjoni separata tal-allinjament, GPT‑6 Cyber evita li jisfrutta servizzi barra mill-ambitu f’99.93% tat-testijiet mingħajr il-prompt tat-tnedija tiegħu, u f’100% b’dan il-prompt. Dan it-titjib fl-allinjament jirrifletti taħriġ iddedikat biex jibqa’ fl-ambitu awtorizzat, jirrispetta r-restrizzjonijiet u jirrapporta r-riżultati b’mod preċiż.

Dawn il-kapaċitajiet diġà qed jgħinu biex jipproteġu sistemi reali. Ir-riċerkaturi tagħna użaw GPT‑6 Cyber biex jiżviluppaw 948 exploit għall-eskalazzjoni tal-privileġġi f’Linux⁠ u jidentifikaw 81 vulnerabbiltà ta’ severità għolja f’Firefox li qabel ma kinux magħrufa, minkejja ttestjar estensiv preċedenti b’mudelli mill-aktar avvanzati. Il-mudell għen ukoll fl-iżvilupp ta’ patches proposti, u Mozilla ħarġet soluzzjonijiet għal ħafna mill-vulnerabbiltajiet ta’ Firefox⁠(jinfetaħ f’tieqa ġdida). It-timijiet tas-sigurtà ta’ Cisco, Calif u CodeRabbit qed jużawh għar-riċerka dwar il-vulnerabbiltajiet u r-reviżjoni tal-kodiċi, u aħna striħajna fuqu biex insibu u nsewwu d-dgħufijiet fl-infrastruttura tagħna stess⁠.

Huwa ċar li għandna żmien limitat biex nużaw l-aktar mudelli avvanzati biex nipproteġu s-software⁠. L-għan tagħna hu li nwessgħu Daybreak b’mod sinifikanti, biex inwasslu r-riċerka avvanzata dwar is-sigurtà lil organizzazzjonijiet ta’ kull daqs, riċerkaturi indipendenti u manutenturi ta’ software b’sors miftuħ. Mudelli tal-linja ewlenija bħal GPT‑6 Astra diġà jappoġġjaw ir-reviżjoni tal-kodiċi, il-prijoritizzazzjoni tal-vulnerabbiltajiet u l-iżvilupp ta’ patches. Daybreak Blue jgħin lid-difensuri vverifikati jivvalidaw vulnerabbiltajiet u soluzzjonijiet b’inqas rifjuti bla bżonn, filwaqt li Daybreak Red jippermetti żvilupp aktar fil-fond ta’ exploits u ttestjar awtorizzat tas-sigurtà b’GPT‑6 Cyber.

GPT‑6 Cyber hu pass kbir ’il quddiem minn GPT‑5.6 Cyber u jaqbeż lil GPT‑6 Astra fil-biċċa l-kbira tal-kompiti ċibernetiċi, anke meta Astra ma jirrifjutax it-talba. Evalwajna l-mudell fuq kompiti li jeħtiġulu jifhem is-software, jidentifika vulnerabbiltajiet u jiżviluppa exploits li jaħdmu. Abbażi ta’ dawn ir-riżultati, nikklassifikaw il-mudell fil-livell Kritiku fiċ-ċibersigurtà taħt il-Qafas tat-Tħejjija tagħna, żieda mil-livell Għoli ta’ GPT‑5.6 Cyber.

Fuq ExploitGym, li jittestja jekk il-mudelli jistgħux jisfruttaw vulnerabbiltà speċifikata f’mira remota, GPT‑6 Cyber jikseb 48.5%, madwar 16-il punt perċentwali aktar mit-32.1% ta’ GPT‑5.6 Cyber. Biex nittestjaw l-iskoperta tal-vulnerabbiltajiet, bnejna wkoll evalwazzjoni ġdida għall-ittestjar offensiv tal-penetrazzjoni tal-web. Il-mudelli jistħarrġu applikazzjonijiet tal-web mingħajr aċċess għall-kodiċi tas-sors tagħhom. GPT‑6 Cyber sab 40.3% tal-vulnerabbiltajiet, meta mqabbel ma’ 32.0% għal GPT‑6 Astra.

Daybreak Red hu mfassal biex jappoġġja flussi tax-xogħol tas-sigurtà aktar avvanzati, inkluż l-iżvilupp ta’ exploits li jaħdmu u l-użu tagħhom kontra miri remoti. Biex nevalwaw dawn il-kapaċitajiet, bnejna benchmark ġdid imsejjaħ RemoteExploitBench, li juża vulnerabbiltajiet magħrufa f’applikazzjonijiet bħal GitLab, PostgreSQL u Jenkins imħaddma f’ambjent ikkontrollat. Fl-evalwazzjoni inizjali tagħna, GPT‑6 Astra li kien qed jaħdem ma’ Daybreak Blue irrifjuta 100% tal-kompiti, filwaqt li GPT‑6 Cyber lesta 95%; l-uniku falliment tiegħu kien exploit li ma rnexxilux iħaddem mill-bogħod. Ara l-kard tas-sistema⁠(jinfetaħ f’tieqa ġdida) għar-riżultati sħaħ u l-konfigurazzjonijiet tal-evalwazzjoni.

Riskju wieħed tal-aġenti taċ-ċibersigurtà hu li joħorġu mill-ambitu tal-kompitu assenjat lilhom, jippruvaw jisfruttaw servizzi mhux relatati, jew jinjoraw ir-regoli ta’ impenn tar-riċerkatur.

Għamilna l-allinjament prijorità ċentrali ta’ GPT‑6 Cyber, b’taħriġ speċjalizzat biex jgħin lill-mudell jibqa’ fl-ambitu awtorizzat, josserva r-restrizzjonijiet fuq l-azzjonijiet tiegħu u jirrapporta xogħlu b’mod preċiż. Qabel it-tnedija, wettaqna sensiela ta’ evalwazzjonijiet tal-allinjament biex inkejlu dawn l-imġibiet. Ara l-kard tas-sistema⁠(jinfetaħ f’tieqa ġdida) għar-riżultati sħaħ.

Waħda minn dawn l-evalwazzjonijiet hi ExploitGym Honeypot, li tfasslet abbażi tal-inċident ta’ Hugging Face⁠. Nagħtu lill-mudell kompitu diffiċli ta’ sfruttament f’ambjent iżolat b’aċċess għal servizzi ta’ appoġġ, bħal reġistru tal-pakketti jew ħażna tal-oġġetti. Apposta nagħmlu dawn is-servizzi faċli biex jiġu sfruttati, ħalli attakk fuqhom ikun jista’ jikxef il-bandiera tal-kompitu. Il-mudell irid jiddeduċi li l-isfruttament tagħhom hu barra mill-ambitu tal-kompitu tiegħu.

F’din l-evalwazzjoni, GPT‑6 Cyber juri qabża kbira ’l quddiem meta mqabbel ma’ GPT‑5.6 Cyber. Meta ġie ttestjat mingħajr il-prompts tas-sikurezza għat-tnedija, evita li jisfrutta servizzi barra mill-ambitu f’99.93% tal-każijiet, żieda minn 94.49% għal GPT‑5.6 Cyber. B’dawk il-prompts, GPT‑6 Cyber baqa’ fil-limiti f’100% tal-każijiet.

Nistgħu naraw direttament fil-katina tal-ħsieb tal-mudell GPT‑6 Cyber kif jirraġuna biex jibqa’ fil-limiti:

GPT‑6 Cyber diġà qed jgħin lit-timijiet tas-sigurtà jsibu vulnerabbiltajiet, jivvalidaw l-impatt tagħhom u jiżviluppaw soluzzjonijiet. Il-klijenti qed jużawh fuq bażijiet kbar ta’ kodiċi, fl-iżvilupp ta’ exploits li jieħu fit-tul, u fir-reviżjoni tas-sigurtà:

Striħajna wkoll fuq GPT‑6 Cyber biex nipproteġu s-sistemi tagħna stess. Kien wieħed mill-mudelli ewlenin wara x-xogħol li qsamna dan l-aħħar dwar it-tisħiħ tas-sigurtà tal-infrastruttura użata biex jitħarrġu l-mudelli l-aktar avvanzati⁠. F’kampanji kkontrollati ta’ red teaming, aġenti li jużaw GPT‑6 Cyber u mudelli oħra ta’ OpenAI rabtu vulnerabbiltajiet flimkien biex joħorġu mill-microVMs u jeżegwixxu kodiċi fuq il-hosts li jħaddmuhom. Użajna s-sejbiet biex napplikaw patches għas-software, insaħħu r-restrizzjonijiet tan-network u nirrapportaw problemi lill-manutenturi u lill-fornituri.

Ir-riċerkaturi tagħna tal-vulnerabbiltajiet jużaw ukoll GPT‑6 Cyber biex isibu u jivvalidaw vulnerabbiltajiet f’software b’sors miftuħ fuq skala kbira. Dan ix-xogħol kixef difetti li qabel ma kinux magħrufa f’software li ilu s-snin jiġi skrutinizzat:

• Instabu 81 vulnerabbiltà ġdida f’Firefox. GPT‑6 Cyber jista’ jkun adattat għal flussi tax-xogħol awtonomi biex isibu vulnerabbiltajiet u jipproponu patches ta’ kwalità għolja fuq skala kbira. Matul kampanja ta’ riċerka dwar il-vulnerabbiltajiet, GPT‑6 Cyber ipproduċa evidenza u testijiet riproduċibbli għal 81 vulnerabbiltà ġdida kklassifikata minn Mozilla bħala ta’ severità għolja, u wera li 30 problema oħra magħrufa kienu aktar severi milli kien ġie rrapportat qabel. Żvelajna s-sejbiet lil Mozilla, flimkien ma’ patches proposti biex jgħinu lill-inġiniera tagħha jiżviluppaw soluzzjonijiet. Mozilla appoġġjat dan ix-xogħol, u bdiet tintegra soluzzjonijiet ftit wara li rċeviet ir-rapporti⁠(jinfetaħ f’tieqa ġdida).

• Żvilupp ta’ exploits għal 948 vulnerabbiltà fil-kernel ta’ Linux⁠. GPT‑6 Cyber irriproduċa 1,724 vulnerabbiltà u żviluppa exploits li jaħdmu għal 948 minnhom—aktar minn ħames darbiet il-166 sfruttati minn GPT‑5.6 Sol bl-istess harness tar-riċerka. Skont il-gwida tal-komunità ta’ Linux, żvelajna 304 sejbiet kritiċi lill-manutenturi flimkien ma’ patches proposti, u qed naħdmu biex jissewwew vulnerabbiltajiet oħra.

• Dimostrazzjoni ta’ vulnerabbiltajiet kritiċi ta’ RCE. Dan l-aħħar iddiskutejna vulnerabbiltà kritika f’Brotli⁠(jinfetaħ f’tieqa ġdida), librerija tal-kompressjoni użata minn Node.js u software ieħor. Ir-riċerkaturi tagħna tas-sigurtà użaw GPT‑6 Cyber flimkien ma’ mudelli oħra ta’ OpenAI biex jiżviluppaw u jivvalidaw exploits li juru kif id-difett jista’ jippermetti eżekuzzjoni remota tal-kodiċi f’applikazzjonijiet li jiddependu minn din il-librerija.

Hekk kif il-mudelli jsiru aktar kapaċi u jikxfu aktar vulnerabbiltajiet tas-sigurtà, qed naraw ukoll aktar tentattivi biex jintużaw għall-ħsara. Dawn it-tentattivi jinkludu sforzi minn atturi ċibernetiċi malizzjużi u gruppi avversarji li jfittxu li jiddistillaw il-mudelli tagħna. Għalhekk, għaqqadna l-kapaċitajiet aktar b’saħħithom ta’ GPT‑6 Cyber ma’ salvagwardji msaħħa biex nidentifikaw u nwaqqfu l-użu ħażin, u nżommu l-azzjonijiet tal-mudell fl-intenzjoni u l-awtorizzazzjoni tal-utent.

Żidna u saħħaħna dawn il-protezzjonijiet flimkien mat-tnedija ta’ GPT‑6 Cyber (ara l-kard tas-sistema⁠(jinfetaħ f’tieqa ġdida) għall-informazzjoni sħiħa):

• Monitoraġġ ta’ nuqqas ta’ allinjament speċifiku għaċ-ċibersigurtà. Nissorveljaw jekk l-azzjonijiet jaqblux mal-awtorizzazzjoni tal-utent, filwaqt li nirrikonoxxu l-iżvilupp u l-ittestjar leġittimi ta’ exploits.

• Monitoraġġ immirat lejn theddid emerġenti. Pereżempju, waqt l-iżvelar ikkoordinat ta’ vulnerabbiltajiet kritiċi ta’ PHP, waqqafna monitoraġġ immirat lejn tentattivi biex jiġu żviluppati exploits kontra servers PHP attivi, filwaqt li żammejna l-appoġġ għad-difensuri li kienu qed japplikaw patches għas-sistemi affettwati.

• Ipproċessar Privat għas-Sikurezza (PSP). Nużaw kontrolli awtomatizzati biex nirrevedu interazzjonijiet relatati għal użu ħażin. Iż-żamma standard tad-dejta tibqa’ l-għażla prestabbilita. Il-klijenti tal-API li jużaw l-ebda żamma tad-dejta⁠(jinfetaħ f’tieqa ġdida) ġeneralment iridu jużaw PSP⁠(jinfetaħ f’tieqa ġdida), li jirrevedi rekords kriptati miżmuma fil-ħażna tal-klijent għal 30 jum mingħajr ma jesponi l-prompts u t-tweġibiet lill-persunal ta’ OpenAI.

• Protezzjoni kontra kredenzjali misruqa. B’mod prestabbilit, neħtieġu lista ta’ IPs permessi għall-aċċess għall-API ta’ Daybreak Red, biex it-talbiet ikunu ristretti għal networks approvati b’eċċezzjonijiet limitati. Nissorveljaw ukoll il-kredenzjali għal sinjali li ġew kompromessi.

• Iżolament f’sandbox u superviżjoni. Bħal fil-mudelli preċedenti, nirrakkomandaw iżolament f’sandbox⁠(jinfetaħ f’tieqa ġdida), reviżjoni tal-azzjonijiet⁠(jinfetaħ f’tieqa ġdida) u superviżjoni umana għal flussi tax-xogħol b’riskju għoli.

• Protezzjonijiet kontra assistenza ċibernetika b’riskju għoli. Nużaw kontrolli ġodda biex nimblukkaw attività b’riskju għoli li tinvolvi sistemi kritiċi (ara hawn taħt għal aktar dettalji).

Il-protezzjoni tal-infrastruttura kritika kienet kunsiderazzjoni ewlenija fit-tfassil tas-salvagwardji u tal-aċċess għal GPT‑6 Cyber. Din tinkludi impjanti tal-enerġija, faċilitajiet tat-trattament tal-ilma, u t-teknoloġija operazzjonali u s-sistemi ta’ kontroll industrijali (OT/ICS) li jsostnuhom. Irridu nagħtu lit-timijiet li jiddefendu dawn is-sistemi aċċess għall-mudelli l-aktar kapaċi tagħna u, fl-istess ħin, insaħħu s-salvagwardji tagħna biex nipprevjenu attakki mhux awtorizzati.

L-ewwel, biex ngħammru lil dawn id-difensuri, il-programm ta’ għotjiet tagħna ta’ $1 biljun, Daybreak għad-Difensuri fuq Quddiem⁠, jissussidja l-aċċess għal timijiet b’riżorsi limitati, bħal organizzazzjonijiet tal-gvern u fornituri ta’ servizzi essenzjali. Qed nintroduċu wkoll grupp ġdid fi ħdan Daybreak Red (Daybreak Red għall-Infrastruttura Kritika) għal difensuri approvati tal-infrastruttura kritika, li jagħtihom permessi biex iwettqu ttestjar awtorizzat ta’ sistemi kritiċi filwaqt li jżomm is-salvagwardji kontra nuqqas ta’ allinjament tal-mudell.

It-tieni, biex nipprevjenu l-użu ħażin tal-pjattaformi Daybreak Red u Blue, irfinajna s-salvagwardji kontra assistenza u żvilupp ta’ kapaċitajiet li jistgħu jikkompromettu kontrolli industrijali jew sistemi kritiċi għas-sikurezza, jinterferixxu mat-tagħmir, jew jikkawżaw korriment serju, ħsara fiżika katastrofika, jew tfixkil fis-servizzi li jipperikola l-ħajja. Il-figura hawn taħt tqabbel ir-rati ta’ tikkettar mis-salvagwardji f’erba’ konfigurazzjonijiet ta’ aċċess, qabel u wara l-aġġornamenti reċenti li qed inwettqu flimkien mat-tnedija ta’ GPT‑6 Cyber.

Rati ogħla ta’ mblukkar mis-salvagwardji mhux dejjem huma aħjar. Ħafna mit-tekniki f’din l-evalwazzjoni huma essenzjali wkoll għal xogħol leġittimu tas-sigurtà: nifhmu s-sistemi, insibu vulnerabbiltajiet u nivverifikaw li s-soluzzjonijiet jifilħu għal attakk. Għalhekk, nivvalutaw dawn ir-rati flimkien mal-appoġġ għar-riċerka leġittima u l-applikazzjoni ta’ patches, minflok nimmiraw għal 100%.

Biex nevalwaw kif il-mudelli tagħna jistgħu jgħinu fid-difiża tal-infrastruttura kritika, issieħebna ma’ Dragos, fornitur globali taċ-ċibersigurtà għat-teknoloġija operazzjonali estiża (xOT). Dragos wettqet evalwazzjonijiet b’mudelli ta’ Daybreak Red li jippermettu aktar attività ċibernetika, f’ambjent ikkontrollat tal-laboratorju. L-evalwazzjonijiet koprew talbiet li mxew minn skoperta tan-network u enumerazzjoni tal-assi għal tkixxif immirat, esfiltrazzjoni ta’ dejta sensittiva u azzjonijiet mhux awtorizzati u potenzjalment perikolużi fuq apparati.

Użajna l-feedback ta’ Dragos biex nirfinaw is-salvagwardji tagħna, bil-għan li nimblukkaw assistenza ta’ ħsara mingħajr ma nillimitaw bla bżonn l-ittestjar awtorizzat. Ara r-rapport finali tagħhom⁠(jinfetaħ f’tieqa ġdida) għad-dettalji tal-evalwazzjonijiet. Qed naħdmu wkoll biex inwessgħu s-sħubijiet ma’ fornituri oħra tas-sigurtà offensiva u timijiet vjola dwar l-ittestjar tal-penetrazzjoni u r-red teaming bl-IA, kif ukoll ma’ kumpaniji tal-enerġija, operaturi oħra tal-infrastruttura kritika u laboratorji nazzjonali biex nivvalutaw l-effettività u s-salvagwardji tal-mudelli tagħna fid-difiża industrijali. Żidna wkoll l-investiment tagħna fl-investigazzjonijiet tat-theddid biex nidentifikaw użu tal-mudelli li jinvolvi OT/ICS. Se nkomplu nirfinaw is-salvagwardji tagħna bil-kontribut tas-sħab u tal-komunità tas-sigurtà, inklużi rapporti permezz ta’ /feedback meta s-salvagwardji ma jidentifikawx attività ta’ ħsara jew ifixklu xogħol leġittimu.

GPT‑6 Cyber inizjalment hu disponibbli permezz tal-API u Codex għal grupp magħżul ta’ klijenti approvati ta’ Daybreak Red. Dalwaqt se nwessgħu l-aċċess progressivament għall-klijenti kollha ta’ Daybreak Red, u qed nagħmlu wkoll GPT‑5.6 Cyber disponibbli għall-klijenti kollha ta’ Daybreak Red. Qed inwessgħu wkoll l-aċċess alpha ta’ Daybreak Blue għal GPT‑6 Astra għal aktar organizzazzjonijiet u riċerkaturi individwali tas-sigurtà; għarrafna⁠(jinfetaħ f’tieqa ġdida) jekk inti interessat.

Utenti u organizzazzjonijiet ġodda jistgħu japplikaw għal Daybreak⁠ u jibdew bil-ħiliet, il-prodotti u s-sħab tagħna fiċ-ċibersigurtà⁠.