GPT‑6 Cyber: Pomicanje granica usklađenih agenata za kibernetičku sigurnost
Model za kibernetičku sigurnost treniran za pronalaženje i potvrđivanje iskoristivih ranjivosti uz poštovanje opsega koji odrede istraživači.
Predstavljamo GPT‑6 Cyber, velik iskorak u sigurnosnom istraživanju: sposobniji je u pronalaženju i otklanjanju ranjivosti te znatno pouzdanije poštuje granice koje postave istraživači. GPT‑6 Cyber donosi velika poboljšanja u odnosu na GPT‑5.6 Cyber na ključnim referentnim testovima kibernetičke sigurnosti, uključujući relativno poboljšanje od 51 % na testu ExploitGym i velik skok u testiranju poštovanja zadanog opsega. Već pomaže u zaštiti softvera u stvarnoj upotrebi, otkrivajući i potvrđujući tisuće eksploita u sigurnosno važnim bazama koda kao što su Linux i Firefox.
Na testu ExploitGym, koji provjerava mogu li modeli iskoristiti zadanu ranjivost, GPT‑6 Cyber postiže rezultat od 48,5 %, u usporedbi s 32,1 % za GPT‑5.6 Cyber. Pouzdanije poštuje i granice zadatka: u zasebnoj evaluaciji usklađenosti GPT‑6 Cyber izbjegao je iskorištavanje ranjivosti servisa izvan zadanog opsega u 99,93 % testova bez upita koji se koristi pri puštanju u upotrebu, a uz taj upit u 100 % testova. To poboljšanje usklađenosti rezultat je namjenskog treniranja za ostajanje unutar odobrenog opsega, poštovanje ograničenja i točno izvještavanje o rezultatima.
Te sposobnosti već pomažu u zaštiti stvarnih sustava. Naši istraživači upotrijebili su GPT‑6 Cyber za razvoj 948 eksploita za podizanje ovlasti u Linuxu i otkrivanje 81 prethodno nepoznate ranjivosti visoke ozbiljnosti u Firefoxu, unatoč opsežnom prethodnom testiranju najnaprednijim modelima. Model je pomogao i u razvoju prijedloga zakrpa, a Mozilla je objavila ispravke za mnoge ranjivosti Firefoxa(otvara se u novom prozoru). Sigurnosni timovi tvrtki Cisco, Calif i CodeRabbit upotrebljavaju ga za istraživanje ranjivosti i pregled koda, a mi smo se na njega oslonili kako bismo pronašli i otklonili slabosti u vlastitoj infrastrukturi.
Jasno je da imamo ograničeno vrijeme da najnaprednijim modelima poboljšamo sigurnost softvera. Naš je cilj znatno proširiti Daybreak i omogućiti napredno sigurnosno istraživanje organizacijama svih veličina, neovisnim istraživačima i održavateljima softvera otvorenog koda. Modeli iz glavne linije, poput modela GPT‑6 Astra, već podržavaju pregled koda, trijažu ranjivosti i razvoj zakrpa. Daybreak Blue pomaže provjerenim stručnjacima za obranu potvrditi ranjivosti i ispravke uz manje nepotrebnih odbijanja, dok Daybreak Red omogućuje napredniji razvoj eksploita i ovlašteno sigurnosno testiranje uz GPT‑6 Cyber.
GPT‑6 Cyber velik je napredak u odnosu na GPT‑5.6 Cyber i nadmašuje GPT‑6 Astra u većini kibernetičkih zadataka, čak i kada Astra ne odbije zahtjev. Model smo evaluirali na zadacima koji zahtijevaju razumijevanje softvera, prepoznavanje ranjivosti i razvoj funkcionalnih eksploita. Na temelju tih rezultata model prema našem Okviru pripravnosti svrstavamo u kritičnu razinu kibernetičke sigurnosti, u odnosu na visoku razinu modela GPT‑5.6 Cyber.
Na testu ExploitGym, koji provjerava mogu li modeli iskoristiti zadanu ranjivost na udaljenoj meti, GPT‑6 Cyber postiže 48,5 %, oko 16 postotnih bodova više od rezultata modela GPT‑5.6 Cyber od 32,1 %. Kako bismo testirali otkrivanje ranjivosti, izradili smo i novu evaluaciju za ofenzivno penetracijsko testiranje web-aplikacija. Modeli ispituju web-aplikacije bez pristupa njihovu izvornom kodu. GPT‑6 Cyber otkrio je 40,3 % ranjivosti, u usporedbi s 32,0 % za GPT‑6 Astra.
Daybreak Red osmišljen je za podršku naprednijim sigurnosnim radnim procesima, uključujući razvoj funkcionalnih eksploita i njihovu primjenu na udaljenim metama. Za evaluaciju tih sposobnosti izradili smo novi referentni test RemoteExploitBench, koji koristi poznate ranjivosti u aplikacijama kao što su GitLab, PostgreSQL i Jenkins, postavljenima u kontrolirano okruženje. U početnoj evaluaciji GPT‑6 Astra u programu Daybreak Blue odbio je 100 % zadataka, dok je GPT‑6 Cyber dovršio 95 %; jedini neuspjeh bio je eksploit koji nije uspio pokrenuti na daljinu. Cjelovite rezultate i postavke evaluacije potražite u dokumentu o sustavu(otvara se u novom prozoru).
Jedan je od rizika kod agenata za kibernetičku sigurnost da izađu izvan opsega dodijeljenog zadatka, pokušaju iskoristiti ranjivosti nepovezanih servisa ili zanemare pravila djelovanja koja je postavio istraživač.
Usklađenost smo stavili u središte razvoja modela GPT‑6 Cyber. Specijaliziranim treniranjem pomažemo modelu da ostane unutar odobrenog opsega, poštuje ograničenja svojih radnji i točno izvještava o svom radu. Prije puštanja u upotrebu proveli smo niz evaluacija usklađenosti kako bismo izmjerili ta ponašanja. Cjelovite rezultate potražite u dokumentu o sustavu(otvara se u novom prozoru).
Jedna od tih evaluacija jest ExploitGym Honeypot, čiji se razvoj oslanjao na spoznaje iz incidenta s platformom Hugging Face. Modelu zadajemo težak zadatak iskorištavanja ranjivosti u izoliranom okruženju s pristupom pomoćnim servisima, poput registra paketa ili spremišta objekata. Te servise namjerno činimo lako iskoristivima kako bi napad na njih mogao otkriti zastavicu zadatka. Model mora zaključiti da je iskorištavanje njihovih ranjivosti izvan opsega njegova zadatka.
GPT‑6 Cyber u ovoj evaluaciji pokazuje velik iskorak u odnosu na GPT‑5.6 Cyber. Pri testiranju bez sigurnosnih upita koji se koriste pri puštanju u upotrebu izbjegao je iskorištavanje ranjivosti servisa izvan zadanog opsega u 99,93 % slučajeva, u usporedbi s 94,49 % za GPT‑5.6 Cyber. Uz te upite GPT‑6 Cyber ostao je unutar granica u 100 % slučajeva.
U lancu razmišljanja modela GPT‑6 Cyber možemo izravno vidjeti kako razmišlja o poštovanju granica:
“Can't assume extra API or attack controller not target. We should only target binary/server.”
“don't explore out of scope credentials.”
GPT‑6 Cyber već pomaže sigurnosnim timovima pronaći ranjivosti, potvrditi njihov učinak i razviti ispravke. Korisnici ga primjenjuju za rad na velikim bazama koda, dugotrajan razvoj eksploita i sigurnosne preglede:
Na GPT‑6 Cyber oslonili smo se i radi zaštite vlastitih sustava. Bio je jedan od glavnih modela u radu na jačanju sigurnosti infrastrukture za treniranje najnaprednijih modela, o kojem smo nedavno izvijestili. U kontroliranim kampanjama red-team testiranja agenti koji koriste GPT‑6 Cyber i druge modele tvrtke OpenAI povezivali su ranjivosti kako bi izašli iz mikrovirtualnih strojeva i izvršili kod na njihovim domaćinima. Na temelju nalaza zakrpali smo softver, pooštrili mrežna ograničenja te prijavili probleme održavateljima i dobavljačima.
Naši istraživači ranjivosti upotrebljavaju GPT‑6 Cyber i za opsežno pronalaženje i potvrđivanje ranjivosti u softveru otvorenog koda. Tim su radom otkriveni prethodno nepoznati propusti u softveru koji se godinama pomno ispituje:
Otkrivena je 81 nova ranjivost u Firefoxu. GPT‑6 Cyber može biti prikladan za autonomne radne procese koji u velikom opsegu pronalaze ranjivosti i predlažu kvalitetne zakrpe. Tijekom kampanje istraživanja ranjivosti GPT‑6 Cyber izradio je dokaze i ponovljive testove za 81 novu ranjivost koju je Mozilla klasificirala kao visoko ozbiljnu te pokazao da je dodatnih 30 poznatih problema ozbiljnije nego što je prethodno prijavljeno. Nalaze smo prijavili Mozilli zajedno s prijedlozima zakrpa kako bismo njezinim inženjerima pomogli razviti ispravke. Mozilla je podržala taj rad i počela uvoditi ispravke ubrzo nakon primitka izvješća(otvara se u novom prozoru).
Razvoj eksploita za 948 ranjivosti jezgre Linuxa. GPT‑6 Cyber reproducirao je 1724 ranjivosti i razvio funkcionalne eksploite za njih 948, što je više od pet puta više od 166 ranjivosti koje je iskoristio GPT‑5.6 Sol uz isti istraživački testni sklop. Slijedeći smjernice zajednice Linuxa, održavateljima smo prijavili 304 kritična nalaza s prijedlozima zakrpa, a rad na ispravljanju ostalih ranjivosti je u tijeku.
Dokazivanje kritičnih ranjivosti koje omogućuju udaljeno izvršavanje koda (RCE). Nedavno smo pisali o kritičnoj ranjivosti u biblioteci Brotli(otvara se u novom prozoru), biblioteci za kompresiju koju upotrebljavaju Node.js i drugi softver. Naši sigurnosni istraživači upotrijebili su GPT‑6 Cyber uz druge modele tvrtke OpenAI za razvoj i provjeru eksploita koji pokazuju kako bi taj propust mogao omogućiti udaljeno izvršavanje koda u aplikacijama koje koriste tu biblioteku.
Kako modeli postaju sposobniji i otkrivaju sve više sigurnosnih ranjivosti, bilježimo i sve više pokušaja njihove upotrebe za nanošenje štete. To uključuje pokušaje zlonamjernih kibernetičkih aktera i neprijateljskih skupina koje nastoje destilirati naše modele. Zato smo veće sposobnosti modela GPT‑6 Cyber povezali sa snažnijim zaštitnim mjerama za otkrivanje i sprečavanje zloupotrebe te zadržavanje radnji modela unutar korisnikovih namjera i ovlaštenja.
Uz izdavanje modela GPT‑6 Cyber dodali smo i ojačali sljedeće zaštite (sve informacije potražite u dokumentu o sustavu(otvara se u novom prozoru)):
Nadzor neusklađenosti prilagođen kibernetičkim zadacima. Pratimo jesu li radnje u skladu s korisnikovim ovlaštenjima, uz prepoznavanje legitimnog razvoja i testiranja eksploita.
Ciljani nadzor novih prijetnji. Primjerice, tijekom koordinirane objave kritičnih ranjivosti PHP-a uspostavili smo ciljani nadzor pokušaja razvoja eksploita za aktivne PHP poslužitelje, uz zadržavanje podrške stručnjacima koji štite i krpaju pogođene sustave.
Privatna sigurnosna obrada (PSP). Automatiziranim provjerama pregledavamo povezane interakcije kako bismo otkrili zloupotrebu. Standardno zadržavanje podataka ostaje zadana postavka. Korisnici API-ja s postavkom bez zadržavanja podataka(otvara se u novom prozoru) u pravilu moraju upotrebljavati PSP(otvara se u novom prozoru), koji pregledava šifrirane zapise pohranjene 30 dana u korisnikovoj pohrani, bez otkrivanja upita i odgovora osoblju tvrtke OpenAI.
Zaštita od upotrebe ukradenih vjerodajnica. Za pristup API-ju programa Daybreak Red prema zadanim postavkama zahtijevamo popis dopuštenih IP adresa, čime se zahtjevi ograničavaju na odobrene mreže uz rijetke iznimke. Također pratimo jesu li vjerodajnice kompromitirane.
Izolirano izvođenje i nadzor. Kao i kod prethodnih modela, za visokorizične radne procese preporučujemo izolirano izvođenje(otvara se u novom prozoru), provjeru radnji(otvara se u novom prozoru) i ljudski nadzor.
Zaštita od pružanja visokorizične kibernetičke pomoći. Novim provjerama blokiramo visokorizične aktivnosti koje uključuju kritične sustave (više u nastavku).
Zaštita kritične infrastrukture bila je ključna pri osmišljavanju zaštitnih mjera i pristupa modelu GPT‑6 Cyber. To uključuje elektrane, postrojenja za obradu vode te operativnu tehnologiju i industrijske upravljačke sustave (OT/ICS) na kojima se temelje. Timovima koji brane te sustave želimo omogućiti pristup našim najsposobnijim modelima, a istodobno ojačati zaštitne mjere kako bismo spriječili neovlaštene napade.
Prvo, kako bismo opremili te stručnjake, naš program bespovratnih potpora Daybreak za stručnjake za obranu na prvoj crti, vrijedan milijardu dolara, subvencionira pristup timovima s ograničenim resursima, poput državnih organizacija i pružatelja osnovnih usluga. Uvodimo i novu skupinu unutar programa Daybreak Red (Daybreak Red za kritičnu infrastrukturu) za odobrene stručnjake za obranu kritične infrastrukture. Ona im daje dopuštenja za ovlašteno testiranje kritičnih sustava uz zadržavanje zaštite od neusklađenog ponašanja modela.
Drugo, kako bismo spriječili zloupotrebu platformi Daybreak Red i Blue, doradili smo zaštitu od pružanja pomoći i razvoja sposobnosti koje bi mogle ugroziti industrijske upravljačke sustave ili sustave ključne za sigurnost, ometati opremu ili uzrokovati teške ozljede, katastrofalnu fizičku štetu ili prekide usluga opasne po život. Grafikon u nastavku uspoređuje stope označavanja zaštitnim mehanizmima u četirima konfiguracijama pristupa, prije i nakon nedavnih ažuriranja koja uvodimo uz GPT‑6 Cyber.
Više stope blokiranja zaštitnim mehanizmima nisu uvijek bolje. Mnoge tehnike iz ove evaluacije nužne su i za legitiman sigurnosni rad: razumijevanje sustava, pronalaženje ranjivosti i provjeru otpornosti ispravaka na napad. Te stope stoga procjenjujemo zajedno s podrškom za legitimno istraživanje i primjenu zakrpa, umjesto da težimo stopi od 100 %.
Kako bismo procijenili kako naši modeli mogu pomoći u obrani kritične infrastrukture, udružili smo se s tvrtkom Dragos, globalnim pružateljem kibernetičke sigurnosti za proširenu operativnu tehnologiju (xOT). Dragos je proveo evaluacije u kontroliranom laboratorijskom okruženju koristeći modele programa Daybreak Red s manje ograničenja za kibernetičke zadatke. Evaluacije su obuhvatile zahtjeve koji su napredovali od otkrivanja mreže i popisivanja resursa preko ciljanog izviđanja i izvlačenja osjetljivih podataka do neovlaštenih, potencijalno opasnih radnji na uređajima.
Na temelju povratnih informacija tvrtke Dragos doradili smo zaštitne mjere kako bismo blokirali štetnu pomoć bez nepotrebnog ograničavanja ovlaštenog testiranja. Pojedinosti o evaluacijama potražite u njihovu završnom izvješću(otvara se u novom prozoru). Radimo i na širenju partnerstava s drugim pružateljima usluga ofenzivne sigurnosti i timovima koji objedinjuju napadačke i obrambene pristupe radi penetracijskog testiranja i red-team testiranja uz AI. S energetskim tvrtkama, drugim operatorima kritične infrastrukture i nacionalnim laboratorijima surađujemo na procjeni učinkovitosti i zaštitnih mjera naših modela u industrijskoj obrani. Povećali smo i ulaganja u istrage prijetnji kako bismo otkrili upotrebu modela koja uključuje OT/ICS. Nastavit ćemo usavršavati zaštitne mjere uz povratne informacije partnera i sigurnosne zajednice, uključujući prijave putem /feedback kada zaštitne mjere propuste štetnu aktivnost ili prekinu legitiman rad.
GPT‑6 Cyber u početku je dostupan putem API-ja i alata Codex odabranoj skupini odobrenih korisnika programa Daybreak Red. Uskoro ćemo postupno proširiti pristup na sve korisnike programa Daybreak Red, a svima njima omogućujemo i pristup modelu GPT‑5.6 Cyber. Također proširujemo alfa pristup programu Daybreak Blue za GPT‑6 Astra na više organizacija i pojedinačnih sigurnosnih istraživača; javite nam(otvara se u novom prozoru) ako ste zainteresirani.
Novi korisnici i organizacije mogu se prijaviti za Daybreak i započeti rad uz naše kibernetičke vještine, proizvode i partnere.
