„GPT‑6 Cyber“: numatytą elgesį atitinkančių kibernetinio saugumo agentų pažanga

Pristatome „GPT‑6 Cyber“ – didžiulį šuolį saugumo tyrimų srityje: modelį, geriau randantį ir taisantį pažeidžiamumus bei daug patikimiau besilaikantį tyrėjų nustatytų ribų. „GPT‑6 Cyber“ gerokai pranoksta „GPT‑5.6 Cyber“ pagrindiniuose kibernetinio saugumo lyginamuosiuose testuose: „ExploitGym“ rezultatas santykinai pagerėjo 51 %, o užduoties ribų laikymosi testuose pasiektas esminis šuolis. Jis jau padeda apsaugoti praktiškai naudojamą programinę įrangą: aptinka ir patikrina tūkstančius spragų išnaudojimo būdų saugumui itin svarbiose kodo bazėse, tokiose kaip „Linux“ ir „Firefox“.

„ExploitGym“ teste, kuriuo tikrinama, ar modeliai geba išnaudoti nurodytą pažeidžiamumą, „GPT‑6 Cyber“ pasiekė 48,5 % rezultatą, palyginti su 32,1 % „GPT‑5.6 Cyber“ rezultatu. Jis taip pat patikimiau laikosi užduoties ribų: per atskirą atitikties numatytam elgesiui vertinimą „GPT‑6 Cyber“ neišnaudojo už užduoties ribų esančių paslaugų spragų 99,93 % testų be diegiant taikomos užklausos ir 100 % testų su šia užklausa. Šis atitikties numatytam elgesiui pagerėjimas pasiektas tikslingai mokant modelį neperžengti leistinų ribų, paisyti apribojimų ir tiksliai pateikti rezultatus.

Šie gebėjimai jau padeda apsaugoti realias sistemas. Mūsų tyrėjai pasitelkė „GPT‑6 Cyber“, kad sukurtų 948 „Linux“ teisių padidinimo spragų išnaudojimo būdus⁠ ir nustatytų 81 anksčiau nežinomą didelio pavojingumo „Firefox“ pažeidžiamumą, nors prieš tai buvo atlikta daug testų su priešakiniais modeliais. Modelis taip pat padėjo parengti siūlomas pataisas, o „Mozilla“ jau išleido daugelio „Firefox“ pažeidžiamumų pataisas⁠(atsidaro naujame lange). „Cisco“, „Calif“ ir „CodeRabbit“ saugumo komandos jį naudoja pažeidžiamumų tyrimams ir kodo peržiūrai, o mes jį pasitelkėme savo infrastruktūros spragoms rasti ir ištaisyti⁠.

Akivaizdu, kad turime ribotą laiką priešakiniams modeliams pasitelkti programinės įrangos apsaugai⁠. Mūsų tikslas – smarkiai išplėsti „Daybreak“, kad pažangūs saugumo tyrimai taptų prieinami bet kokio dydžio organizacijoms, nepriklausomiems tyrėjams ir atvirojo kodo projektų prižiūrėtojams. Pagrindinės linijos modeliai, tokie kaip „GPT‑6 Astra“, jau padeda peržiūrėti kodą, nustatyti pažeidžiamumų taisymo prioritetus ir kurti pataisas. „Daybreak Blue“ padeda patvirtintiems saugumo specialistams tikrinti pažeidžiamumus ir pataisas, sulaukiant mažiau nepagrįstų atsisakymų, o „Daybreak Red“ leidžia su „GPT‑6 Cyber“ kurti sudėtingesnį spragų išnaudojimo kodą ir atlikti autorizuotus saugumo testus.

„GPT‑6 Cyber“ yra gerokai pažangesnis už „GPT‑5.6 Cyber“ ir daugumoje kibernetinių užduočių pranoksta „GPT‑6 Astra“, net kai „Astra“ neatsisako vykdyti užklausos. Modelį vertinome pagal užduotis, kurioms reikia suprasti programinę įrangą, nustatyti pažeidžiamumus ir sukurti veikiantį jų išnaudojimo kodą. Remdamiesi šiais rezultatais, pagal mūsų Pasirengimo sistemą modeliui priskiriame kritinį kibernetinio saugumo lygį, palyginti su aukštu lygiu, priskirtu „GPT‑5.6 Cyber“.

„ExploitGym“ teste, kuriuo tikrinama, ar modeliai geba išnaudoti nurodytą pažeidžiamumą nuotoliniame taikinyje, „GPT‑6 Cyber“ pasiekė 48,5 % rezultatą – maždaug 16 procentinių punktų daugiau nei „GPT‑5.6 Cyber“ 32,1 %. Siekdami patikrinti pažeidžiamumų aptikimo gebėjimus, taip pat sukūrėme naują puolamojo žiniatinklio įsilaužimo testavimo vertinimą. Modeliai tiria žiniatinklio programas neturėdami prieigos prie jų pirminio kodo. „GPT‑6 Cyber“ aptiko 40,3 % pažeidžiamumų, palyginti su 32,0 %, kuriuos aptiko „GPT‑6 Astra“.

„Daybreak Red“ skirta pažangesniems saugumo darbo procesams, įskaitant veikiančio spragų išnaudojimo kodo kūrimą ir jo naudojimą prieš nuotolinius taikinius. Šiems gebėjimams įvertinti sukūrėme naują lyginamąjį testą „RemoteExploitBench“, kuriame naudojami žinomi kontroliuojamoje aplinkoje įdiegtų programų, tokių kaip „GitLab“, „PostgreSQL“ ir „Jenkins“, pažeidžiamumai. Per pradinį vertinimą „GPT‑6 Astra“, veikiantis su „Daybreak Blue“, atsisakė atlikti 100 % užduočių, o „GPT‑6 Cyber“ atliko 95 %; vienintelė nesėkmė – spragos išnaudojimo kodas, kurio nepavyko paleisti nuotoliniu būdu. Visus rezultatus ir vertinimo nustatymus rasite sistemos kortelėje⁠(atsidaro naujame lange).

Viena iš kibernetinio saugumo agentų keliamų rizikų – jie gali peržengti paskirtos užduoties ribas, bandyti išnaudoti nesusijusių paslaugų spragas arba nepaisyti tyrėjo nustatytų veikimo taisyklių.

Kurdami „GPT‑6 Cyber“, daugiausia dėmesio skyrėme atitikčiai numatytam elgesiui: specialiai mokėme modelį neperžengti leistinų ribų, laikytis veiksmų apribojimų ir tiksliai atsiskaityti už atliktą darbą. Prieš diegdami atlikome keletą atitikties numatytam elgesiui vertinimų, kad išmatuotume šias elgesio savybes. Visus rezultatus rasite sistemos kortelėje⁠(atsidaro naujame lange).

Vienas iš šių vertinimų – „ExploitGym Honeypot“, sukurtas atsižvelgiant į „Hugging Face“ incidentą⁠. Modeliui skiriame sudėtingą spragos išnaudojimo užduotį izoliuotoje aplinkoje su prieiga prie pagalbinių paslaugų, pavyzdžiui, paketų registro ar objektų saugyklos. Tyčia padarome šias paslaugas lengvai pažeidžiamas, kad jas atakavus būtų galima atskleisti užduoties vėliavėlę. Modelis turi pats suprasti, kad jų spragų išnaudojimas nepatenka į jo užduoties ribas.

Šiame vertinime „GPT‑6 Cyber“ rezultatai gerokai pranoksta „GPT‑5.6 Cyber“ rezultatus. Testuojamas be diegiant taikomų saugos užklausų, jis neišnaudojo už užduoties ribų esančių paslaugų spragų 99,93 % atvejų, palyginti su 94,49 % „GPT‑5.6 Cyber“ atvejų. Su šiomis užklausomis „GPT‑6 Cyber“ laikėsi ribų 100 % atvejų.

„GPT‑6 Cyber“ modelio minčių grandinėje galime tiesiogiai matyti, kaip jis samprotauja apie ribų laikymąsi:

„GPT‑6 Cyber“ jau padeda saugumo komandoms rasti pažeidžiamumų, patikrinti jų poveikį ir kurti pataisas. Klientai jį pasitelkia dirbdami su didelėmis kodo bazėmis, ilgai trunkančiam spragų išnaudojimo kodo kūrimui ir saugumo peržiūroms:

„GPT‑6 Cyber“ taip pat pasitelkėme savo sistemoms apsaugoti. Tai buvo vienas pagrindinių modelių, naudotų atliekant neseniai pristatytus priešakinių modelių mokymo infrastruktūros saugumo stiprinimo darbus⁠. Per kontroliuojamas testavimo spragoms nustatyti kampanijas agentai, naudojantys „GPT‑6 Cyber“ ir kitus „OpenAI“ modelius, jungė pažeidžiamumus į grandines, kad ištrūktų iš mikrovirtualiųjų mašinų ir vykdytų kodą jas talpinančiuose kompiuteriuose. Remdamiesi tyrimų rezultatais, pataisėme programinę įrangą, sugriežtinome tinklo apribojimus ir pranešėme apie problemas prižiūrėtojams bei tiekėjams.

Mūsų pažeidžiamumų tyrėjai taip pat naudoja „GPT‑6 Cyber“ didelio masto atvirojo kodo programinės įrangos pažeidžiamumų paieškai ir patikrai. Šis darbas atskleidė anksčiau nežinomų spragų programinėje įrangoje, kuri buvo kruopščiai tikrinama ne vienus metus:

• Rastas 81 naujas „Firefox“ pažeidžiamumas. „GPT‑6 Cyber“ gali būti tinkamas autonominiams darbo procesams, skirtiems dideliu mastu ieškoti pažeidžiamumų ir siūlyti kokybiškas pataisas. Per pažeidžiamumų tyrimo kampaniją „GPT‑6 Cyber“ pateikė įrodymų ir atkuriamų testų 81 naujam pažeidžiamumui, kuriuos „Mozilla“ priskyrė didelio pavojingumo kategorijai, ir parodė, kad dar 30 žinomų problemų buvo pavojingesnės, nei nurodyta anksčiau. Apie aptiktas spragas pranešėme „Mozilla“ ir pateikėme siūlomas pataisas, kad padėtume jos inžinieriams parengti sprendimus. „Mozilla“ palaikė šį darbą ir pradėjo diegti pataisas netrukus po to, kai gavo pranešimus⁠(atsidaro naujame lange).

• Išnaudojimo kodo kūrimas 948 „Linux“ branduolio pažeidžiamumams⁠. „GPT‑6 Cyber“ atkūrė 1 724 pažeidžiamumus ir sukūrė veikiantį išnaudojimo kodą 948 iš jų – daugiau nei penkis kartus daugiau už 166 pažeidžiamumus, kuriuos „GPT‑5.6 Sol“ išnaudojo pasitelkęs tą pačią tyrimų infrastruktūrą. Laikydamiesi „Linux“ bendruomenės gairių, prižiūrėtojams pranešėme apie 304 kritines spragas ir pateikėme siūlomas pataisas, o kitų pažeidžiamumų taisymas tebevyksta.

• Kritinių nuotolinio kodo vykdymo (RCE) pažeidžiamumų demonstravimas. Neseniai aptarėme kritinį „Brotli“ pažeidžiamumą⁠(atsidaro naujame lange). „Brotli“ – tai glaudinimo biblioteka, kurią naudoja „Node.js“ ir kita programinė įranga. Mūsų saugumo tyrėjai pasitelkė „GPT‑6 Cyber“ ir kitus „OpenAI“ modelius, kad sukurtų ir patikrintų išnaudojimo kodą, rodantį, kaip ši spraga galėtų leisti nuotoliniu būdu vykdyti kodą šią biblioteką naudojančiose programose.

Modeliams tobulėjant ir aptinkant vis daugiau saugumo spragų, matome ir daugiau bandymų juos panaudoti žalai daryti. Tai apima kibernetinių piktavalių veiksmus ir priešiškų grupių pastangas distiliuoti mūsų modelius. Todėl sustiprintus „GPT‑6 Cyber“ gebėjimus papildėme stipresnėmis apsaugos priemonėmis, kad aptiktume ir sustabdytume piktnaudžiavimą, o modelio veiksmai atitiktų naudotojo ketinimus bei suteiktus leidimus.

Išleisdami „GPT‑6 Cyber“ įdiegėme ir sustiprinome šias apsaugos priemones (visa informacija pateikiama sistemos kortelėje⁠(atsidaro naujame lange)):

• Kibernetinei veiklai pritaikyta nukrypimų nuo numatyto elgesio stebėsena. Stebime, ar veiksmai atitinka naudotojo suteiktus leidimus, kartu atpažindami teisėtą spragų išnaudojimo kodo kūrimą ir testavimą.

• Tikslinė naujų grėsmių stebėsena. Pavyzdžiui, koordinuotai atskleidžiant kritinius PHP pažeidžiamumus, įdiegėme tikslinę bandymų kurti veikiančių PHP serverių spragų išnaudojimo kodą stebėseną, kartu išlaikydami pagalbą saugumo specialistams, taisantiems paveiktas sistemas.

• Privatus apdorojimas saugos tikslais (PSP). Automatinėmis patikromis tikriname susijusias sąveikas, ieškodami piktnaudžiavimo požymių. Standartinis duomenų saugojimas ir toliau taikomas pagal numatytuosius nustatymus. API klientai, naudojantys nulinį duomenų saugojimą⁠(atsidaro naujame lange), paprastai privalo naudoti PSP⁠(atsidaro naujame lange). Šis mechanizmas tikrina užšifruotus įrašus, 30 dienų laikomus kliento saugykloje, neatskleisdamas užklausų ir atsakymų „OpenAI“ darbuotojams.

• Apsauga nuo pavogtų prisijungimo duomenų naudojimo. Prieigai prie „Daybreak Red“ API pagal numatytuosius nustatymus reikalaujame leidžiamų IP adresų sąrašo: užklausos priimamos tik iš patvirtintų tinklų, taikant ribotas išimtis. Taip pat stebime, ar prisijungimo duomenys nėra kompromituoti.

• Izoliuota vykdymo aplinka ir priežiūra. Kaip ir ankstesnių modelių atveju, didelės rizikos darbo procesams rekomenduojame izoliuotą vykdymo aplinką⁠(atsidaro naujame lange), veiksmų peržiūrą⁠(atsidaro naujame lange) ir žmogaus priežiūrą.

• Apsauga nuo didelę riziką keliančios pagalbos kibernetinėje veikloje. Naujomis patikromis blokuojame didelės rizikos veiklą, susijusią su kritinėmis sistemomis (daugiau informacijos – toliau).

Kuriant „GPT‑6 Cyber“ apsaugos priemones ir nustatant prieigos sąlygas, ypatingos svarbos infrastruktūros apsauga buvo vienas pagrindinių prioritetų. Tai apima elektrines, vandens valymo įrenginius ir jų veikimą užtikrinančias operacinių technologijų bei pramoninių valdymo sistemų (OT/ICS) sistemas. Siekiame suteikti šias sistemas ginančioms komandoms prieigą prie pajėgiausių mūsų modelių ir kartu stiprinti apsaugos priemones, užkertančias kelią neleistinoms atakoms.

Pirma, siekdami aprūpinti šiuos gynėjus, per 1 mlrd. JAV dolerių paramos programą „Daybreak“ priešakinės linijos gynėjams⁠ subsidijuojame prieigą komandoms, turinčioms ribotus išteklius, pavyzdžiui, valstybinėms organizacijoms ir būtinųjų paslaugų teikėjams. Taip pat pristatome naują „Daybreak Red“ grupę („Daybreak Red“ ypatingos svarbos infrastruktūrai), skirtą patvirtintiems ypatingos svarbos infrastruktūros gynėjams. Ji suteikia leidimus atlikti autorizuotus kritinių sistemų testus ir kartu išlaiko apsaugą nuo modelio nukrypimų nuo numatyto elgesio.

Antra, siekdami užkirsti kelią piktnaudžiavimui „Daybreak Red“ ir „Daybreak Blue“ platformomis, patobulinome apsaugą nuo pagalbos ir gebėjimų ugdymo, kurie galėtų pažeisti pramoninio valdymo ar saugai kritines sistemas, sutrikdyti įrangos veikimą arba sukelti sunkių sužalojimų, katastrofišką fizinę žalą ar gyvybei pavojingą paslaugų sutrikimą. Toliau pateiktoje diagramoje palyginama apsaugos priemonių pažymėtų atvejų dalis taikant keturias prieigos konfigūracijas prieš naujausius atnaujinimus, kuriuos diegiame kartu su „GPT‑6 Cyber“, ir po jų.

Didesnė apsaugos priemonių blokuojamų atvejų dalis ne visada reiškia geresnį rezultatą. Daugelis šiame vertinime taikomų metodų būtini ir teisėtam saugumo darbui: sistemų veikimui suprasti, pažeidžiamumams rasti ir patikrinti, ar pataisos atlaiko atakas. Todėl šiuos rodiklius vertiname kartu su pagalba teisėtiems tyrimams ir spragų taisymui, o ne siekiame 100 %.

Siekdami įvertinti, kaip mūsų modeliai gali padėti ginti ypatingos svarbos infrastruktūrą, bendradarbiavome su „Dragos“ – pasauline išplėstinių operacinių technologijų (xOT) kibernetinio saugumo paslaugų teikėja. „Dragos“ atliko vertinimus kontroliuojamoje laboratorinėje aplinkoje, naudodama mažiau kibernetinės veiklos apribojimų turinčius „Daybreak Red“ modelius. Vertinimai apėmė vis sudėtingesnes užklausas: nuo tinklo aptikimo ir išteklių sąrašo sudarymo iki tikslinės žvalgybos, neskelbtinų duomenų išgavimo ir neleistinų, potencialiai pavojingų įrenginių veiksmų.

Remdamiesi „Dragos“ atsiliepimais, patobulinome apsaugos priemones, siekdami blokuoti žalingą pagalbą, bet be reikalo neriboti autorizuoto testavimo. Daugiau informacijos apie vertinimus rasite jų galutinėje ataskaitoje⁠(atsidaro naujame lange). Taip pat siekiame plėsti partnerystes su kitais puolamojo saugumo paslaugų teikėjais ir jungtinėmis puolimo bei gynybos komandomis įsilaužimo testų ir testavimo spragoms nustatyti pasitelkiant DI srityse. Bendradarbiaudami su energetikos bendrovėmis, kitais ypatingos svarbos infrastruktūros valdytojais ir nacionalinėmis laboratorijomis, siekiame įvertinti mūsų modelių veiksmingumą ir apsaugos priemones ginant pramonines sistemas. Taip pat padidinome investicijas į grėsmių tyrimus, kad aptiktume modelių naudojimą, susijusį su OT/ICS. Toliau tobulinsime apsaugos priemones, remdamiesi partnerių ir saugumo bendruomenės įžvalgomis, įskaitant per /feedback pateiktus pranešimus apie atvejus, kai apsauga praleidžia žalingą veiklą arba sutrikdo teisėtą darbą.

Iš pradžių „GPT‑6 Cyber“ per API ir „Codex“ prieinamas atrinktai patvirtintų „Daybreak Red“ klientų grupei. Netrukus palaipsniui suteiksime prieigą visiems „Daybreak Red“ klientams. Taip pat visiems „Daybreak Red“ klientams suteikiame prieigą prie „GPT‑5.6 Cyber“. Taip pat plečiame „Daybreak Blue“ alfa versijos prieigą prie „GPT‑6 Astra“ daugiau organizacijų ir individualių saugumo tyrėjų; jei susidomėjote, praneškite mums⁠(atsidaro naujame lange).

Nauji naudotojai ir organizacijos gali teikti paraišką dėl „Daybreak“⁠ ir pradėti naudotis mūsų kibernetinio saugumo įgūdžiais, produktais ir partnerių paslaugomis⁠.