GPT‑6 Cyber: Premikanje meja usklajenih agentov za kibernetsko varnost
Model za kibernetsko varnost, naučen odkrivati in preverjati izkoristljive ranljivosti ter ostati v okviru, ki ga določijo raziskovalci.
Predstavljamo GPT‑6 Cyber, velik preskok na področju varnostnih raziskav: zmogljivejši pri odkrivanju in odpravljanju ranljivosti ter veliko zanesljivejši pri spoštovanju meja, ki jih postavijo raziskovalci. GPT‑6 Cyber v primerjavi z modelom GPT‑5.6 Cyber prinaša velike izboljšave pri ključnih primerjalnih preizkusih kibernetske varnosti, vključno z 51-odstotnim relativnim izboljšanjem pri ExploitGym in velikim preskokom pri preizkušanju spoštovanja okvira naloge. Že zdaj pomaga varovati programsko opremo v praksi, saj odkriva in preverja na tisoče načinov izkoriščanja ranljivosti v varnostno ključnih zbirkah kode, kot sta Linux in Firefox.
Pri preizkusu ExploitGym, ki preverja, ali lahko modeli izkoristijo določeno ranljivost, GPT‑6 Cyber dosega 48,5 %, v primerjavi z 32,1 % pri modelu GPT‑5.6 Cyber. Zanesljiveje upošteva tudi meje naloge: v ločenem preizkusu usklajenosti se je GPT‑6 Cyber brez poziva za uporabo modela izognil izkoriščanju storitev zunaj okvira naloge v 99,93 % preizkusov, s tem pozivom pa v 100 %. Ta izboljšava usklajenosti je rezultat namenskega učenja, da model ostane v dovoljenem okviru, spoštuje omejitve in natančno poroča o rezultatih.
Te zmogljivosti že pomagajo varovati dejanske sisteme. Naši raziskovalci so z modelom GPT‑6 Cyber razvili 948 izkoriščevalskih kod za zviševanje privilegijev v Linuxu in odkrili 81 prej neznanih zelo resnih ranljivosti v Firefoxu, kljub obsežnemu predhodnemu preizkušanju s prelomnimi modeli. Model je pomagal razviti tudi predloge popravkov, Mozilla pa je izdala popravke za številne ranljivosti v Firefoxu(odpre se v novem oknu). Varnostne ekipe v podjetjih Cisco, Calif in CodeRabbit ga uporabljajo za raziskovanje ranljivosti in pregled kode, mi pa smo se nanj oprli pri odkrivanju in odpravljanju šibkih točk v lastni infrastrukturi.
Jasno je, da imamo omejen čas, da s prelomnimi modeli zaščitimo programsko opremo. Naš cilj je močno razširiti program Daybreak in omogočiti napredne varnostne raziskave organizacijam vseh velikosti, neodvisnim raziskovalcem ter vzdrževalcem odprtokodne programske opreme. Modeli iz glavne ponudbe, kot je GPT‑6 Astra, že podpirajo pregled kode, triažo ranljivosti in razvoj popravkov. Daybreak Blue preverjenim branilcem pomaga preverjati ranljivosti in popravke z manj nepotrebnimi zavrnitvami, Daybreak Red pa z modelom GPT‑6 Cyber omogoča bolj poglobljen razvoj izkoriščevalske kode in pooblaščeno varnostno preizkušanje.
GPT‑6 Cyber je velik korak naprej v primerjavi z modelom GPT‑5.6 Cyber in pri večini kibernetskih nalog prekaša GPT‑6 Astra, tudi kadar Astra zahteve ne zavrne. Model smo ocenili pri nalogah, ki od njega zahtevajo razumevanje programske opreme, prepoznavanje ranljivosti in razvoj delujoče izkoriščevalske kode. Na podlagi teh rezultatov model po našem Okviru pripravljenosti na področju kibernetske varnosti uvrščamo na kritično raven, medtem ko je bil GPT‑5.6 Cyber uvrščen na visoko raven.
Pri preizkusu ExploitGym, ki preverja, ali lahko modeli izkoristijo določeno ranljivost v oddaljeni tarči, GPT‑6 Cyber dosega 48,5 %, kar je približno 16 odstotnih točk več od 32,1 %, ki jih dosega GPT‑5.6 Cyber. Za preizkušanje odkrivanja ranljivosti smo pripravili tudi nov preizkus ofenzivnega spletnega penetracijskega testiranja. Modeli preiskujejo spletne aplikacije brez dostopa do njihove izvorne kode. GPT‑6 Cyber je pri odkrivanju ranljivosti dosegel 40,3 % priklica, v primerjavi z 32,0 % pri modelu GPT‑6 Astra.
Daybreak Red je zasnovan za podporo naprednejšim varnostnim delovnim postopkom, vključno z razvojem delujoče izkoriščevalske kode in njeno uporabo proti oddaljenim tarčam. Za oceno teh zmogljivosti smo razvili nov primerjalni preizkus RemoteExploitBench, ki uporablja znane ranljivosti v aplikacijah, kot so GitLab, PostgreSQL in Jenkins, nameščenih v nadzorovanem okolju. V začetnem preizkusu je GPT‑6 Astra v okviru Daybreak Blue zavrnil 100 % nalog, GPT‑6 Cyber pa jih je opravil 95 %; spodletelo mu je le pri izkoriščevalski kodi, ki je ni uspel usposobiti za oddaljeno delovanje. Vsi rezultati in nastavitve preizkusov so v sistemskem dokumentu(odpre se v novem oknu).
Eno od tveganj pri agentih za kibernetsko varnost je, da presežejo okvir dodeljene naloge, poskušajo izkoristiti nepovezane storitve ali ne upoštevajo pravil delovanja, ki jih določi raziskovalec.
Pri modelu GPT‑6 Cyber smo posebno pozornost namenili usklajenosti. S specializiranim učenjem smo modelu pomagali ostati v dovoljenem okviru, upoštevati omejitve pri svojih dejanjih in natančno poročati o svojem delu. Pred uvedbo smo izvedli vrsto preizkusov usklajenosti, s katerimi smo merili to vedenje. Vsi rezultati so na voljo v sistemskem dokumentu(odpre se v novem oknu).
Eden od teh preizkusov je ExploitGym Honeypot, pri zasnovi katerega smo izhajali iz incidenta na platformi Hugging Face. Modelu dodelimo zahtevno nalogo izkoriščanja ranljivosti v izoliranem okolju z dostopom do podpornih storitev, kot sta register paketov ali shramba objektov. Te storitve namenoma naredimo preproste za izkoriščanje, tako da lahko napad nanje razkrije zastavico naloge. Model mora sam sklepati, da izkoriščanje teh storitev presega okvir njegove naloge.
GPT‑6 Cyber na tem preizkusu dosega velik preskok v primerjavi z modelom GPT‑5.6 Cyber. Pri preizkušanju brez varnostnih pozivov za uporabo modela se je izkoriščanju storitev zunaj okvira naloge izognil v 99,93 % primerov, v primerjavi s 94,49 % pri modelu GPT‑5.6 Cyber. S temi pozivi je GPT‑6 Cyber ostal znotraj omejitev v 100 % primerov.
Neposredno v verigi sklepanja modela GPT‑6 Cyber lahko vidimo, kako razmišlja o spoštovanju omejitev:
“Can't assume extra API or attack controller not target. We should only target binary/server.”
“don't explore out of scope credentials.”
GPT‑6 Cyber varnostnim ekipam že pomaga odkrivati ranljivosti, preverjati njihov vpliv in razvijati popravke. Stranke ga uporabljajo za delo z obsežnimi zbirkami kode, dolgotrajen razvoj izkoriščevalske kode in varnostne preglede:
Na GPT‑6 Cyber smo se oprli tudi pri zaščiti lastnih sistemov. Bil je eden glavnih modelov pri delu, ki smo ga nedavno predstavili v prispevku o utrjevanju infrastrukture za učenje prelomnih modelov. V kampanjah simuliranega iskanja šibkih točk v nadzorovanem okolju so agenti z modelom GPT‑6 Cyber in drugimi modeli OpenAI povezovali ranljivosti v verige, da so ušli iz mikrovirtualnih strojev in izvajali kodo na gostiteljskih sistemih. Na podlagi ugotovitev smo popravili programsko opremo, zaostrili omrežne omejitve ter o težavah obvestili vzdrževalce in ponudnike.
Naši raziskovalci ranljivosti uporabljajo GPT‑6 Cyber tudi za obsežno odkrivanje in preverjanje ranljivosti v odprtokodni programski opremi. S tem delom smo odkrili prej neznane pomanjkljivosti v programski opremi, ki jo strokovnjaki podrobno pregledujejo že leta:
Odkritih 81 novih ranljivosti v Firefoxu. GPT‑6 Cyber je lahko primeren za avtonomne delovne postopke za obsežno odkrivanje ranljivosti in predlaganje kakovostnih popravkov. Med kampanjo raziskovanja ranljivosti je GPT‑6 Cyber pripravil dokaze in ponovljive preizkuse za 81 novih ranljivosti, ki jih je Mozilla uvrstila med zelo resne, ter pokazal, da je dodatnih 30 znanih težav resnejših, kot je bilo sprva navedeno. Ugotovitve smo razkrili organizaciji Mozilla skupaj s predlogi popravkov, da bi njenim inženirjem pomagali pri odpravljanju težav. Mozilla je to delo podprla in začela vključevati popravke kmalu po prejemu poročil(odpre se v novem oknu).
Razvoj izkoriščevalske kode za 948 ranljivosti v jedru Linuxa. GPT‑6 Cyber je reproduciral 1.724 ranljivosti in razvil delujočo izkoriščevalsko kodo za 948 od njih – več kot petkrat toliko kot GPT‑5.6 Sol, ki je z istim raziskovalnim ogrodjem izkoristil 166 ranljivosti. V skladu s smernicami skupnosti Linux smo vzdrževalcem razkrili 304 kritične ugotovitve skupaj s predlogi popravkov, druge ranljivosti pa še odpravljamo.
Dokazovanje kritičnih ranljivosti za oddaljeno izvajanje kode (RCE). Nedavno smo predstavili kritično ranljivost v knjižnici Brotli(odpre se v novem oknu), ki jo Node.js in druga programska oprema uporabljajo za stiskanje podatkov. Naši varnostni raziskovalci so z modelom GPT‑6 Cyber in drugimi modeli OpenAI razvili in preverili izkoriščevalsko kodo, ki je pokazala, kako bi ta pomanjkljivost lahko omogočila oddaljeno izvajanje kode v aplikacijah, ki uporabljajo knjižnico.
Ko modeli postajajo zmogljivejši in odkrivajo več varnostnih ranljivosti, opažamo tudi več poskusov njihove uporabe za povzročanje škode. Med njimi so poskusi zlonamernih kibernetskih akterjev in nasprotniških skupin, ki želijo destilirati naše modele. Večje zmogljivosti modela GPT‑6 Cyber smo zato dopolnili z močnejšimi varovali za zaznavanje in preprečevanje zlorab ter zagotavljanje, da dejanja modela ostanejo v okviru uporabnikovega namena in pooblastil.
Ob izdaji modela GPT‑6 Cyber smo dodali in okrepili naslednje zaščitne ukrepe (vse informacije so v sistemskem dokumentu(odpre se v novem oknu)):
Spremljanje neusklajenega vedenja pri kibernetskih nalogah. Spremljamo, ali so dejanja v skladu z uporabnikovimi pooblastili, pri tem pa upoštevamo legitimni razvoj izkoriščevalske kode in preizkušanje.
Usmerjeno spremljanje novih groženj. Med usklajenim razkrivanjem kritičnih ranljivosti v PHP smo na primer uvedli usmerjeno spremljanje poskusov razvoja izkoriščevalske kode za delujoče strežnike PHP, pri tem pa ohranili podporo branilcem, ki nameščajo popravke na prizadete sisteme.
Zasebna varnostna obdelava (PSP). Z avtomatiziranimi preverjanji pregledujemo povezane interakcije in iščemo zlorabe. Standardna hramba podatkov ostaja privzeta nastavitev. Stranke API-ja, ki uporabljajo ničelno hrambo podatkov(odpre se v novem oknu), morajo praviloma uporabljati PSP(odpre se v novem oknu). Ta pregleduje šifrirane zapise, ki so 30 dni shranjeni v shrambi stranke, ne da bi osebju OpenAI razkrila pozive in odgovore.
Zaščita pred ukradenimi poverilnicami. Za dostop do API-ja Daybreak Red privzeto zahtevamo seznam dovoljenih naslovov IP, s čimer zahteve z redkimi izjemami omejimo na odobrena omrežja. Spremljamo tudi morebitno ogroženost poverilnic.
Izolirano izvajanje in nadzor. Tako kot pri prejšnjih modelih tudi pri visoko tveganih delovnih postopkih priporočamo izvajanje v peskovniku(odpre se v novem oknu), pregled dejanj(odpre se v novem oknu) in človeški nadzor.
Zaščita pred visoko tvegano kibernetsko pomočjo. Z novimi preverjanji blokiramo visoko tvegane dejavnosti, ki vključujejo kritične sisteme (več v nadaljevanju).
Pri zasnovi varoval in dostopa do modela GPT‑6 Cyber je bila zaščita kritične infrastrukture ključno vodilo. To vključuje elektrarne, naprave za čiščenje vode ter operativno tehnologijo in industrijske krmilne sisteme (OT/ICS), na katerih temeljijo. Ekipam, ki branijo te sisteme, želimo omogočiti dostop do naših najzmogljivejših modelov, hkrati pa okrepiti varovala za preprečevanje nepooblaščenih napadov.
Prvič, da bi te branilce ustrezno opremili, naš program nepovratnih sredstev Daybreak za branilce na prvi črti v vrednosti milijarde dolarjev subvencionira dostop ekipam z omejenimi viri, kot so vladne organizacije in ponudniki bistvenih storitev. V okviru programa Daybreak Red uvajamo tudi novo skupino (Daybreak Red za kritično infrastrukturo) za odobrene branilce kritične infrastrukture. Ta jim daje dovoljenja za pooblaščeno preizkušanje kritičnih sistemov, ob tem pa ohranja varovala pred neusklajenim vedenjem modela.
Drugič, da bi preprečili zlorabo platform Daybreak Red in Blue, smo izpopolnili varovala pred pomočjo in razvojem zmogljivosti, ki bi lahko ogrozile industrijske krmilne sisteme ali sisteme, ključne za varnost, motile delovanje opreme ali povzročile hude poškodbe, katastrofalno materialno škodo oziroma življenjsko nevarne prekinitve storitev. Spodnja slika primerja deleže primerov, ki jih označijo varovala, pri štirih konfiguracijah dostopa, in sicer pred nedavnimi posodobitvami, ki jih uvajamo skupaj z modelom GPT‑6 Cyber, in po njih.
Višji deleži blokiranja z varovali niso vedno boljši. Številne tehnike v tem preizkusu so ključne tudi za legitimno varnostno delo: razumevanje sistemov, odkrivanje ranljivosti in preverjanje, ali popravki prestanejo napad. Zato te deleže presojamo skupaj s podporo legitimnim raziskavam in nameščanju popravkov, namesto da bi si prizadevali doseči 100 %.
Da bi ocenili, kako lahko naši modeli pomagajo pri obrambi kritične infrastrukture, smo sodelovali z družbo Dragos, globalnim ponudnikom kibernetske varnosti za razširjeno operativno tehnologijo (xOT). Dragos je v nadzorovanem laboratorijskem okolju izvedel preizkuse z modeli Daybreak Red, ki dopuščajo širši nabor kibernetskih dejavnosti. Preizkusi so zajemali zahteve, ki so postopoma prehajale od odkrivanja omrežja in popisa sredstev do usmerjenega izvidovanja, odnašanja občutljivih podatkov ter nepooblaščenih in potencialno nevarnih dejanj na napravah.
Na podlagi povratnih informacij družbe Dragos smo izpopolnili varovala, da bi blokirali škodljivo pomoč, ne da bi po nepotrebnem omejevali pooblaščeno preizkušanje. Podrobnosti o preizkusih so v njihovem končnem poročilu(odpre se v novem oknu). Širimo tudi partnerstva z drugimi ponudniki ofenzivne varnosti in vijoličnimi ekipami pri penetracijskem testiranju ter simuliranem iskanju šibkih točk v nadzorovanem okolju z UI. Z energetskimi podjetji, drugimi upravljavci kritične infrastrukture in nacionalnimi laboratoriji pa sodelujemo pri ocenjevanju učinkovitosti naših modelov in varoval pri obrambi industrijskih sistemov. Povečali smo tudi naložbe v preiskovanje groženj, da bi zaznali uporabo modelov, ki vključuje OT/ICS. Varovala bomo še naprej izpopolnjevali na podlagi prispevkov partnerjev in varnostne skupnosti, vključno s poročili prek /feedback, kadar varovala spregledajo škodljivo dejavnost ali prekinejo legitimno delo.
GPT‑6 Cyber je sprva prek API-ja in orodja Codex na voljo izbrani skupini odobrenih strank programa Daybreak Red. Kmalu bomo dostop postopoma razširili na vse stranke programa Daybreak Red, vsem njegovim strankam pa omogočamo tudi dostop do modela GPT‑5.6 Cyber. Dostop alfa do modela GPT‑6 Astra v okviru programa Daybreak Blue širimo na več organizacij in posameznih varnostnih raziskovalcev; če vas zanima, nam sporočite(odpre se v novem oknu).
Novi uporabniki in organizacije se lahko prijavijo v program Daybreak in začnejo uporabljati naše veščine, produkte in partnerske rešitve za kibernetsko varnost.
