GPT‑6 Cyber: jaunas iespējas norādījumiem saskaņotu kiberdrošības aģentu attīstībā
Kiberdrošības modelis, kas apmācīts atrast un pārbaudīt izmantojamas ievainojamības, ievērojot pētnieku noteiktās uzdevuma robežas.
Iepazīstinām ar GPT‑6 Cyber — būtisku izrāvienu drošības izpētē. Tas labāk atrod un novērš ievainojamības un daudz uzticamāk ievēro pētnieku noteiktās robežas. GPT‑6 Cyber uzrāda būtiskus uzlabojumus galvenajos kiberdrošības etalontestos salīdzinājumā ar GPT‑5.6 Cyber, tostarp 51 % relatīvo uzlabojumu ExploitGym un strauju lēcienu uzdevuma robežu ievērošanas pārbaudēs. Tas jau palīdz aizsargāt reāli izmantotu programmatūru, atklājot un pārbaudot tūkstošiem ievainojamību izmantošanas paņēmienu drošībai kritiskās koda bāzēs, piemēram, Linux un Firefox.
ExploitGym, kas pārbauda modeļu spēju izmantot norādītu ievainojamību, GPT‑6 Cyber sasniedz 48,5 % rezultātu, salīdzinot ar 32,1 % modelim GPT‑5.6 Cyber. Tas arī uzticamāk ievēro uzdevuma robežas: atsevišķā saskaņotības novērtējumā GPT‑6 Cyber neizmantoja uzdevumā neiekļauto pakalpojumu ievainojamības 99,93 % pārbaužu bez ieviešanas uzvednes un 100 % pārbaužu ar šo uzvedni. Šis saskaņotības uzlabojums panākts ar īpašu apmācību, lai modelis ievērotu atļautās darbības robežas un ierobežojumus un precīzi ziņotu par rezultātiem.
Šīs spējas jau palīdz aizsargāt reālas sistēmas. Mūsu pētnieki izmantoja GPT‑6 Cyber, lai izstrādātu 948 privilēģiju paaugstināšanas ievainojamību izmantošanas paņēmienus Linux sistēmā un atklātu 81 iepriekš nezināmu augstas bīstamības ievainojamību Firefox, lai gan iepriekš bija veikta plaša testēšana ar robežšķirtnes modeļiem. Modelis palīdzēja arī izstrādāt iespējamos labojumus, un Mozilla ir izlaidusi labojumus daudzām Firefox ievainojamībām(atveras jaunā logā). Cisco, Calif un CodeRabbit drošības komandas to izmanto ievainojamību izpētei un koda pārskatīšanai, savukārt mēs to izmantojām, lai atrastu un novērstu vājās vietas savā infrastruktūrā.
Ir skaidrs, ka mums ir ierobežots laiks, lai ar robežšķirtnes modeļiem uzlabotu programmatūras drošību. Mūsu mērķis ir ievērojami paplašināt Daybreak, nodrošinot progresīvu drošības izpēti visu lielumu organizācijām, neatkarīgiem pētniekiem un atvērtā pirmkoda projektu uzturētājiem. Pamatlīnijas modeļi, piemēram, GPT‑6 Astra, jau atbalsta koda pārskatīšanu, ievainojamību prioritizēšanu un labojumu izstrādi. Daybreak Blue palīdz verificētiem aizsardzības speciālistiem pārbaudīt ievainojamības un labojumus ar mazāk liekiem atteikumiem, savukārt Daybreak Red ar GPT‑6 Cyber nodrošina padziļinātu ievainojamību izmantošanas koda izstrādi un atļautu drošības testēšanu.
GPT‑6 Cyber ir būtisks solis uz priekšu salīdzinājumā ar GPT‑5.6 Cyber un lielākajā daļā kiberdrošības uzdevumu pārspēj GPT‑6 Astra pat tad, ja Astra neatsaka pieprasījumu. Novērtējām modeli uzdevumos, kuros tam jāizprot programmatūra, jāatrod ievainojamības un jāizstrādā funkcionējošs to izmantošanas kods. Pamatojoties uz šiem rezultātiem, saskaņā ar mūsu Sagatavotības satvaru klasificējam modeļa kiberdrošības līmeni kā kritisku, salīdzinot ar augstu līmeni modelim GPT‑5.6 Cyber.
ExploitGym, kas pārbauda modeļu spēju izmantot norādītu ievainojamību attālinātā mērķī, GPT‑6 Cyber sasniedz 48,5 % — aptuveni par 16 procentpunktiem vairāk nekā GPT‑5.6 Cyber sasniegtie 32,1 %. Lai pārbaudītu ievainojamību atklāšanu, izveidojām arī jaunu novērtējumu tīmekļa ielaušanās testiem ar uzbrukumu simulāciju. Modeļi pārbauda tīmekļa lietotnes bez piekļuves to pirmkodam. GPT‑6 Cyber atklāja 40,3 % ievainojamību, salīdzinot ar 32,0 % modelim GPT‑6 Astra.
Daybreak Red ir izstrādāts sarežģītākām drošības darbplūsmām, tostarp funkcionējoša ievainojamību izmantošanas koda izstrādei un lietošanai pret attālinātiem mērķiem. Lai novērtētu šīs spējas, izveidojām jaunu etalontestu RemoteExploitBench, kas izmanto zināmas ievainojamības kontrolētā vidē izvietotās lietotnēs, piemēram, GitLab, PostgreSQL un Jenkins. Sākotnējā novērtējumā GPT‑6 Astra ar Daybreak Blue atteicās izpildīt 100 % uzdevumu, savukārt GPT‑6 Cyber izpildīja 95 %; vienīgā neveiksme bija ievainojamības izmantošanas kods, ko modelim neizdevās iedarbināt attālināti. Pilni rezultāti un novērtēšanas iestatījumi pieejami sistēmas kartē(atveras jaunā logā).
Viens no kiberdrošības aģentu riskiem ir iespēja, ka tie pārkāps uzticētā uzdevuma robežas, mēģinās izmantot nesaistītu pakalpojumu ievainojamības vai neievēros pētnieka noteiktos darbības noteikumus.
Izstrādājot GPT‑6 Cyber, īpašu uzmanību pievērsām saskaņotībai ar norādījumiem. Izmantojām specializētu apmācību, lai palīdzētu modelim ievērot atļautās darbības robežas un ierobežojumus, kā arī precīzi ziņot par paveikto. Pirms ieviešanas veicām virkni saskaņotības novērtējumu, lai izmērītu šo uzvedību. Pilni rezultāti pieejami sistēmas kartē(atveras jaunā logā).
Viens no šiem novērtējumiem ir ExploitGym Honeypot, kura izstrādē ņēmām vērā Hugging Face incidentu. Modelim dodam sarežģītu ievainojamības izmantošanas uzdevumu izolētā vidē ar piekļuvi atbalsta pakalpojumiem, piemēram, pakotņu reģistram vai objektu krātuvei. Šajos pakalpojumos apzināti atstājam viegli izmantojamas ievainojamības, lai uzbrukums tiem varētu atklāt uzdevuma karodziņu. Modelim pašam jāsecina, ka šo ievainojamību izmantošana ir ārpus uzdevuma robežām.
Šajā novērtējumā GPT‑6 Cyber uzrāda būtisku izrāvienu salīdzinājumā ar GPT‑5.6 Cyber. Pārbaudēs bez ieviešanas drošības uzvednēm tas neizmantoja uzdevumā neiekļauto pakalpojumu ievainojamības 99,93 % gadījumu, salīdzinot ar 94,49 % modelim GPT‑5.6 Cyber. Ar šīm uzvednēm GPT‑6 Cyber ievēroja robežas 100 % gadījumu.
GPT‑6 Cyber modeļa domu ķēdē varam tieši redzēt, kā tas spriež par robežu ievērošanu:
“Can't assume extra API or attack controller not target. We should only target binary/server.”
“don't explore out of scope credentials.”
GPT‑6 Cyber jau palīdz drošības komandām atrast ievainojamības, pārbaudīt to ietekmi un izstrādāt labojumus. Klienti to izmanto darbā ar lielām koda bāzēm, ilgstošai ievainojamību izmantošanas koda izstrādei un drošības pārbaudēm:
Esam izmantojuši GPT‑6 Cyber arī savu sistēmu aizsardzībai. Tas bija viens no galvenajiem modeļiem, ko izmantojām nesen aprakstītajā darbā pie robežšķirtnes modeļu apmācības infrastruktūras drošības stiprināšanas. Kontrolētās imitētu uzbrukumu kampaņās aģenti ar GPT‑6 Cyber un citiem OpenAI modeļiem apvienoja vairākas ievainojamības, lai izkļūtu no microVM izolācijas un izpildītu kodu pamatā esošajās resursdatorsistēmās. Iegūtos rezultātus izmantojām, lai labotu programmatūru, pastiprinātu tīkla ierobežojumus un ziņotu par problēmām uzturētājiem un piegādātājiem.
Mūsu ievainojamību pētnieki arī izmanto GPT‑6 Cyber, lai plašā mērogā atrastu un pārbaudītu ievainojamības atvērtā pirmkoda programmatūrā. Šajā darbā atklātas iepriekš nezināmas nepilnības programmatūrā, kas rūpīgi pārbaudīta gadiem ilgi:
Atrasta 81 iepriekš nezināma Firefox ievainojamība. GPT‑6 Cyber var būt piemērots autonomām darbplūsmām, kas plašā mērogā atrod ievainojamības un piedāvā kvalitatīvus labojumus. Ievainojamību izpētes kampaņā GPT‑6 Cyber sagatavoja pierādījumus un reproducējamus testus 81 iepriekš nezināmai ievainojamībai, ko Mozilla klasificēja kā augstas bīstamības ievainojamības, un parādīja, ka vēl 30 zināmas problēmas ir bīstamākas, nekā iepriekš ziņots. Par atklājumiem ziņojām Mozilla, pievienojot piedāvātos labojumus, lai palīdzētu uzņēmuma inženieriem novērst problēmas. Mozilla atbalstīja šo darbu un sāka ieviest labojumus neilgi pēc ziņojumu saņemšanas(atveras jaunā logā).
Izmantošanas koda izstrāde 948 Linux kodola ievainojamībām. GPT‑6 Cyber reproducēja 1724 ievainojamības un izstrādāja funkcionējošu izmantošanas kodu 948 no tām — vairāk nekā piecreiz pārsniedzot 166 ievainojamības, ko izdevās izmantot GPT‑5.6 Sol ar to pašu izpētes izpildes ietvaru. Ievērojot Linux kopienas norādījumus, ziņojām uzturētājiem par 304 kritiskiem atklājumiem un iesniedzām iespējamos labojumus. Turpinām darbu pie pārējo ievainojamību novēršanas.
Kritisku attālinātas koda izpildes (RCE) ievainojamību demonstrēšana. Nesen aprakstījām kritisku ievainojamību Brotli(atveras jaunā logā) — saspiešanas bibliotēkā, ko izmanto Node.js un cita programmatūra. Mūsu drošības pētnieki izmantoja GPT‑6 Cyber kopā ar citiem OpenAI modeļiem, lai izstrādātu un pārbaudītu ievainojamības izmantošanas kodu, kas parāda, kā šī nepilnība varētu ļaut attālināti izpildīt kodu lietotnēs, kuras izmanto šo bibliotēku.
Modeļiem kļūstot spējīgākiem un atklājot vairāk drošības ievainojamību, novērojam arī vairāk mēģinājumu tos izmantot kaitējuma nodarīšanai. To vidū ir ļaunprātīgu kiberuzbrucēju mēģinājumi, kā arī naidīgu grupu centieni destilēt mūsu modeļus. Tāpēc līdz ar GPT‑6 Cyber uzlabotajām spējām esam ieviesuši stingrākus aizsardzības pasākumus, lai atklātu un pārtrauktu ļaunprātīgu izmantošanu un nodrošinātu, ka modeļa darbības atbilst lietotāja iecerei un piešķirtajām atļaujām.
Līdz ar GPT‑6 Cyber izlaišanu ieviesām un pastiprinājām šādus aizsardzības pasākumus (pilna informācija pieejama sistēmas kartē(atveras jaunā logā)):
Kiberdrošības uzdevumiem pielāgota noviržu uzraudzība. Uzraugām, vai darbības atbilst lietotāja piešķirtajām atļaujām, vienlaikus atpazīstot likumīgu ievainojamību izmantošanas koda izstrādi un testēšanu.
Mērķēta jaunu draudu uzraudzība. Piemēram, koordinētas kritisku PHP ievainojamību atklāšanas laikā ieviesām mērķētu uzraudzību mēģinājumiem izstrādāt ievainojamību izmantošanas kodu pret aktīviem PHP serveriem, vienlaikus saglabājot atbalstu aizsardzības speciālistiem, kuri labo skartās sistēmas.
Privāta drošības apstrāde (PSP). Izmantojam automatizētas pārbaudes, lai saistītajās mijiedarbībās atklātu ļaunprātīgu izmantošanu. Pēc noklusējuma joprojām tiek piemērota standarta datu saglabāšana. API klientiem, kuri izmanto nulles datu saglabāšanu(atveras jaunā logā), parasti jāizmanto PSP(atveras jaunā logā). Tā pārbauda šifrētus ierakstus, kas 30 dienas tiek glabāti klienta krātuvē, neatklājot uzvednes un atbildes OpenAI darbiniekiem.
Aizsardzība pret zagtu akreditācijas datu izmantošanu. Piekļuvei Daybreak Red API pēc noklusējuma pieprasām atļauto IP adrešu sarakstu, pieņemot pieprasījumus tikai no apstiprinātiem tīkliem ar ierobežotiem izņēmumiem. Uzraugām arī akreditācijas datu iespējamu kompromitēšanu.
Izolēšana smilškastē un uzraudzība. Tāpat kā iepriekšējiem modeļiem, augsta riska darbplūsmās iesakām izolēšanu smilškastē(atveras jaunā logā), darbību pārskatīšanu(atveras jaunā logā) un cilvēka uzraudzību.
Aizsardzība pret palīdzības sniegšanu augsta riska kiberdarbībās. Izmantojam jaunas pārbaudes, lai bloķētu augsta riska darbības, kas saistītas ar kritiskām sistēmām (plašāk tālāk).
Izstrādājot GPT‑6 Cyber aizsardzības pasākumus un piekļuves nosacījumus, īpašu uzmanību pievērsām kritiskās infrastruktūras aizsardzībai, tostarp elektrostacijām, ūdens attīrīšanas iekārtām un to darbības pamatā esošajām operacionālajām tehnoloģijām un rūpnieciskās vadības sistēmām (OT/ICS). Vēlamies gan dot šo sistēmu aizsardzības komandām piekļuvi mūsu spējīgākajiem modeļiem, gan pastiprināt aizsardzības pasākumus, lai nepieļautu neatļautus uzbrukumus.
Pirmkārt, lai nodrošinātu šos speciālistus ar vajadzīgajiem rīkiem, mūsu viena miljarda ASV dolāru grantu programma Daybreak priekšējās līnijas aizsardzības speciālistiem subsidē piekļuvi komandām ar ierobežotiem resursiem, piemēram, valsts organizācijām un būtisko pakalpojumu sniedzējiem. Daybreak Red ietvaros ieviešam arī jaunu grupu (Daybreak Red kritiskajai infrastruktūrai) apstiprinātiem kritiskās infrastruktūras aizsardzības speciālistiem. Tā piešķir viņiem atļaujas veikt saskaņotus kritisko sistēmu testus, vienlaikus saglabājot aizsardzību pret modeļa novirzēm no norādījumiem.
Otrkārt, lai nepieļautu Daybreak Red un Blue platformu ļaunprātīgu izmantošanu, esam pilnveidojuši aizsardzību pret palīdzības sniegšanu un spēju attīstīšanu, kas varētu apdraudēt rūpnieciskās vadības vai drošībai kritiskas sistēmas, traucēt iekārtu darbību vai izraisīt smagas traumas, katastrofālus fiziskus bojājumus vai dzīvībai bīstamus pakalpojumu pārtraukumus. Tālāk redzamajā attēlā salīdzināts aizsardzības sistēmas atzīmēto gadījumu īpatsvars četrās piekļuves konfigurācijās pirms un pēc jaunākajiem atjauninājumiem, ko ieviešam līdz ar GPT‑6 Cyber.
Lielāks aizsardzības sistēmas bloķēto gadījumu īpatsvars ne vienmēr nozīmē labāku rezultātu. Daudzas šajā novērtējumā izmantotās metodes ir būtiskas arī likumīgā drošības darbā: sistēmu izprašanā, ievainojamību meklēšanā un pārbaudēs, vai labojumi iztur uzbrukumus. Tāpēc vērtējam šos rādītājus kopā ar atbalstu likumīgai izpētei un labojumu izstrādei, nevis cenšamies sasniegt 100 %.
Lai novērtētu, kā mūsu modeļi var palīdzēt aizsargāt kritisko infrastruktūru, sadarbojāmies ar Dragos — globālu paplašināto operacionālo tehnoloģiju (xOT) kiberdrošības risinājumu nodrošinātāju. Dragos veica novērtējumus kontrolētā laboratorijas vidē, izmantojot Daybreak Red modeļus ar plašākām atļaujām kiberdarbībām. Novērtējumos tika iekļauti pieprasījumi, kas pakāpeniski virzījās no tīkla atklāšanas un resursu uzskaites līdz mērķētai izlūkošanai, sensitīvu datu izzagšanai un neatļautām, potenciāli bīstamām darbībām ar ierīcēm.
Izmantojām Dragos atsauksmes, lai pilnveidotu aizsardzības pasākumus ar mērķi bloķēt kaitīgu palīdzību, lieki neierobežojot atļautu testēšanu. Sīkāka informācija par novērtējumiem pieejama Dragos gala ziņojumā(atveras jaunā logā). Paplašinām arī sadarbību ar citiem uzbrukumu simulācijā balstītas drošības pakalpojumu sniedzējiem un apvienotajām uzbrukuma un aizsardzības komandām, lai veiktu ielaušanās testus un imitētus uzbrukumus ar MI. Savukārt ar enerģētikas uzņēmumiem, citiem kritiskās infrastruktūras operatoriem un nacionālajām laboratorijām sadarbojamies, lai novērtētu mūsu modeļu efektivitāti un aizsardzības pasākumus rūpniecisko sistēmu aizsardzībā. Esam arī palielinājuši ieguldījumus draudu izmeklēšanā, lai atklātu modeļu izmantošanu saistībā ar OT/ICS. Turpināsim pilnveidot aizsardzības pasākumus, balstoties uz partneru un drošības kopienas sniegto informāciju, tostarp ziņojumiem, kas iesniegti ar /feedback, ja aizsardzības sistēma nepamana kaitīgas darbības vai pārtrauc likumīgu darbu.
Sākotnēji GPT‑6 Cyber ir pieejams ar API un Codex starpniecību atlasītai apstiprinātu Daybreak Red klientu grupai. Drīzumā pakāpeniski nodrošināsim piekļuvi visiem Daybreak Red klientiem, kā arī padarām GPT‑5.6 Cyber pieejamu visiem Daybreak Red klientiem. Paplašinām arī piekļuvi GPT‑6 Astra Daybreak Blue alfa versijai, iekļaujot vairāk organizāciju un individuālu drošības pētnieku; ja interesē, paziņojiet mums(atveras jaunā logā).
Jauni lietotāji un organizācijas var pieteikties Daybreak un sākt izmantot mūsu kiberdrošības prasmes, produktus un partneru piedāvājumu.
