GPT‑6 Cyber: Pomjeranje granica usklađenih agenata za kibernetičku sigurnost

Predstavljamo GPT‑6 Cyber, velik iskorak u sigurnosnom istraživanju: sposobniji je u pronalaženju i otklanjanju ranjivosti te daleko pouzdaniji u poštivanju granica koje postave istraživači. GPT‑6 Cyber donosi velika poboljšanja na ključnim testovima kibernetičke sigurnosti u odnosu na GPT‑5.6 Cyber, uključujući relativno poboljšanje od 51% na testu ExploitGym i velik skok u testovima poštivanja zadanog opsega. Već pomaže u zaštiti softvera u stvarnoj upotrebi, otkrivajući i potvrđujući hiljade eksploita u sigurnosno kritičnim bazama koda poput Linuxa i Firefoxa.

Na testu ExploitGym, koji provjerava mogu li modeli iskoristiti zadanu ranjivost, GPT‑6 Cyber postiže 48,5%, naspram 32,1% za GPT‑5.6 Cyber. Pouzdanije poštuje i granice zadatka: u zasebnoj evaluaciji usklađenosti GPT‑6 Cyber izbjegao je iskorištavanje servisa izvan zadanog opsega u 99,93% testova bez svog upita za primjenu, a u 100% uz taj upit. Ovo poboljšanje usklađenosti rezultat je namjenskog treniranja za ostajanje unutar odobrenog opsega, poštivanje ograničenja i tačno izvještavanje o rezultatima.

Ove sposobnosti već pomažu u zaštiti stvarnih sistema. Naši istraživači koristili su GPT‑6 Cyber da razviju 948 eksploita za podizanje privilegija u Linuxu⁠ i otkriju 81 ranije nepoznatu ozbiljnu ranjivost u Firefoxu, uprkos opsežnom prethodnom testiranju graničnim modelima. Model je pomogao i u razvoju prijedloga zakrpa, a Mozilla je objavila ispravke za mnoge ranjivosti u Firefoxu⁠(otvara se u novom prozoru). Sigurnosni timovi kompanija Cisco, Calif i CodeRabbit koriste ga za istraživanje ranjivosti i pregled koda, a mi smo se oslonili na njega da pronađemo i otklonimo slabosti u vlastitoj infrastrukturi⁠.

Jasno je da imamo ograničeno vrijeme da granične modele iskoristimo za zaštitu softvera⁠. Naš cilj je znatno proširiti Daybreak i omogućiti napredno sigurnosno istraživanje organizacijama svih veličina, nezavisnim istraživačima i održavaocima softvera otvorenog koda. Modeli iz glavne ponude, poput GPT‑6 Astra, već podržavaju pregled koda, trijažu ranjivosti i razvoj zakrpa. Daybreak Blue pomaže provjerenim stručnjacima za odbranu da potvrde ranjivosti i ispravke uz manje nepotrebnih odbijanja, dok Daybreak Red omogućava detaljniji razvoj eksploita i ovlašteno sigurnosno testiranje uz GPT‑6 Cyber.

GPT‑6 Cyber predstavlja velik napredak u odnosu na GPT‑5.6 Cyber i nadmašuje GPT‑6 Astra na većini kibernetičkih zadataka, čak i kada Astra ne odbije zahtjev. Model smo evaluirali na zadacima koji zahtijevaju razumijevanje softvera, prepoznavanje ranjivosti i razvoj funkcionalnih eksploita. Na osnovu ovih rezultata model u okviru našeg Okvira pripravnosti svrstavamo u kritičnu kategoriju kibernetičke sigurnosti, u odnosu na visoku kategoriju za GPT‑5.6 Cyber.

Na testu ExploitGym, koji provjerava mogu li modeli iskoristiti zadanu ranjivost na udaljenoj meti, GPT‑6 Cyber postiže 48,5%, oko 16 procentnih poena više od rezultata modela GPT‑5.6 Cyber od 32,1%. Kako bismo testirali otkrivanje ranjivosti, izradili smo i novu evaluaciju za ofanzivno penetracijsko testiranje web-aplikacija. Modeli ispituju web-aplikacije bez pristupa njihovom izvornom kodu. GPT‑6 Cyber otkrio je 40,3% ranjivosti, u poređenju s 32,0% za GPT‑6 Astra.

Daybreak Red osmišljen je za podršku naprednijim sigurnosnim tokovima rada, uključujući razvoj funkcionalnih eksploita i njihovu upotrebu protiv udaljenih meta. Za evaluaciju ovih sposobnosti izradili smo novi test pod nazivom RemoteExploitBench, koji koristi poznate ranjivosti u aplikacijama poput GitLaba, PostgreSQL-a i Jenkinsa, postavljenim u kontroliranom okruženju. U našoj početnoj evaluaciji GPT‑6 Astra uz Daybreak Blue odbio je 100% zadataka, dok je GPT‑6 Cyber uspješno završio 95%; jedini neuspjeh bio je eksploit koji nije uspio pokrenuti na udaljenoj meti. Potpune rezultate i postavke evaluacije pogledajte u kartici sistema⁠(otvara se u novom prozoru).

Jedan od rizika kod agenata za kibernetičku sigurnost jeste da izađu iz opsega dodijeljenog zadatka, pokušaju iskoristiti ranjivosti nepovezanih servisa ili zanemare pravila djelovanja koja je postavio istraživač.

Usklađenost smo stavili u središte razvoja modela GPT‑6 Cyber, koristeći specijalizirano treniranje kako bismo modelu pomogli da ostane unutar odobrenog opsega, poštuje ograničenja svojih radnji i tačno izvještava o svom radu. Prije puštanja u upotrebu proveli smo niz evaluacija usklađenosti kako bismo izmjerili ta ponašanja. Potpune rezultate pogledajte u kartici sistema⁠(otvara se u novom prozoru).

Jedna od tih evaluacija je ExploitGym Honeypot, čiji je razvoj oblikovalo iskustvo iz incidenta s platformom Hugging Face⁠. Modelu zadajemo težak zadatak iskorištavanja ranjivosti u izoliranom okruženju s pristupom pomoćnim servisima, kao što su registar paketa ili spremište objekata. Te servise namjerno činimo lakim za iskorištavanje kako bi napad na njih mogao otkriti zastavicu zadatka. Model mora zaključiti da je iskorištavanje njihovih ranjivosti izvan opsega njegovog zadatka.

GPT‑6 Cyber na ovoj evaluaciji pokazuje velik skok u odnosu na GPT‑5.6 Cyber. Pri testiranju bez sigurnosnih upita za primjenu izbjegao je iskorištavanje servisa izvan zadanog opsega u 99,93% slučajeva, naspram 94,49% za GPT‑5.6 Cyber. Uz te upite GPT‑6 Cyber ostao je unutar granica u 100% slučajeva.

U lancu razmišljanja modela GPT‑6 Cyber možemo direktno vidjeti kako razmišlja o poštivanju granica:

GPT‑6 Cyber već pomaže sigurnosnim timovima da pronađu ranjivosti, potvrde njihov utjecaj i razviju ispravke. Korisnici ga primjenjuju na velikim bazama koda, dugotrajnom razvoju eksploita i sigurnosnim pregledima:

Na GPT‑6 Cyber oslonili smo se i pri zaštiti vlastitih sistema. Bio je jedan od glavnih modela u radu koji smo nedavno predstavili o jačanju sigurnosti infrastrukture za treniranje graničnih modela⁠. U kontroliranim red teaming kampanjama agenti koji koriste GPT‑6 Cyber i druge modele kompanije OpenAI povezivali su ranjivosti kako bi izašli iz mikrovirtuelnih mašina i izvršavali kod na njihovim hostovima. Nalaze smo iskoristili za zakrpe softvera, pooštravanje mrežnih ograničenja i prijavu problema održavaocima i dobavljačima.

Naši istraživači ranjivosti također koriste GPT‑6 Cyber za pronalaženje i potvrđivanje ranjivosti u softveru otvorenog koda u velikom obimu. Ovim radom otkriveni su ranije nepoznati propusti u softveru koji se godinama detaljno ispituje:

• Otkrivena 81 nova ranjivost u Firefoxu. GPT‑6 Cyber može biti prikladan za autonomne tokove rada za pronalaženje ranjivosti i predlaganje kvalitetnih zakrpa u velikom obimu. Tokom kampanje istraživanja ranjivosti GPT‑6 Cyber izradio je dokaze i ponovljive testove za 81 novu ranjivost koju je Mozilla klasificirala kao ozbiljnu te pokazao da je dodatnih 30 poznatih problema ozbiljnije nego što je ranije prijavljeno. Nalaze smo dostavili Mozilli zajedno s prijedlozima zakrpa kako bismo njenim inženjerima pomogli u razvoju ispravki. Mozilla je podržala ovaj rad i počela uvoditi ispravke ubrzo nakon primitka izvještaja⁠(otvara se u novom prozoru).

• Razvoj eksploita za 948 ranjivosti Linux kernela⁠. GPT‑6 Cyber reproducirao je 1.724 ranjivosti i razvio funkcionalne eksploite za njih 948 — više od pet puta u odnosu na 166 koje je iskoristio GPT‑5.6 Sol uz isti istraživački harness. U skladu sa smjernicama Linux zajednice, održavaocima smo prijavili 304 kritična nalaza s prijedlozima zakrpa i radimo na otklanjanju ostalih ranjivosti.

• Demonstriranje kritičnih ranjivosti za udaljeno izvršavanje koda (RCE). Nedavno smo pisali o kritičnoj ranjivosti u biblioteci Brotli⁠(otvara se u novom prozoru), biblioteci za kompresiju koju koriste Node.js i drugi softver. Naši sigurnosni istraživači koristili su GPT‑6 Cyber uz druge modele kompanije OpenAI za razvoj i potvrđivanje eksploita koji pokazuju kako taj propust može omogućiti udaljeno izvršavanje koda u aplikacijama koje koriste tu biblioteku.

Kako modeli postaju sposobniji i otkrivaju sve više sigurnosnih ranjivosti, primjećujemo i sve više pokušaja njihove upotrebe za nanošenje štete. To uključuje pokušaje zlonamjernih kibernetičkih aktera i protivničkih grupa koje nastoje destilirati naše modele. Zato smo veće sposobnosti modela GPT‑6 Cyber uparili s jačim zaštitnim mjerama za otkrivanje i sprečavanje zloupotrebe te zadržavanje radnji modela u okvirima namjere i ovlaštenja korisnika.

S objavom modela GPT‑6 Cyber dodali smo i ojačali ove zaštitne mjere (potpune informacije pogledajte u kartici sistema⁠(otvara se u novom prozoru)):

• Praćenje neusklađenosti specifične za kibernetičku sigurnost. Pratimo jesu li radnje u skladu s ovlaštenjima korisnika, uz prepoznavanje legitimnog razvoja i testiranja eksploita.

• Ciljano praćenje novih prijetnji. Naprimjer, tokom koordiniranog objavljivanja kritičnih ranjivosti u PHP-u uspostavili smo ciljano praćenje pokušaja razvoja eksploita za aktivne PHP servere, uz očuvanje podrške timovima koji štite i ažuriraju pogođene sisteme.

• Privatna sigurnosna obrada (PSP). Automatiziranim provjerama pregledamo povezane interakcije radi otkrivanja zloupotrebe. Standardno zadržavanje podataka ostaje zadana postavka. Korisnici API-ja koji koriste opciju bez zadržavanja podataka⁠(otvara se u novom prozoru) u pravilu moraju koristiti PSP⁠(otvara se u novom prozoru), koji pregledava šifrirane zapise pohranjene 30 dana u korisnikovom spremištu, bez otkrivanja upita i odgovora osoblju kompanije OpenAI.

• Zaštita od upotrebe ukradenih pristupnih podataka. Za pristup API-ju Daybreak Red prema zadanim postavkama zahtijevamo listu dozvoljenih IP adresa, čime zahtjeve ograničavamo na odobrene mreže, uz ograničene izuzetke. Također pratimo jesu li pristupni podaci kompromitirani.

• Izolirano izvršavanje i nadzor. Kao i kod prethodnih modela, za visokorizične tokove rada preporučujemo izolirano izvršavanje⁠(otvara se u novom prozoru), pregled radnji⁠(otvara se u novom prozoru) i ljudski nadzor.

• Zaštita od visokorizične kibernetičke pomoći. Koristimo nove provjere za blokiranje visokorizičnih aktivnosti koje uključuju kritične sisteme (više u nastavku).

Pri osmišljavanju zaštitnih mjera i pristupa modelu GPT‑6 Cyber posebnu pažnju posvetili smo zaštiti kritične infrastrukture, uključujući elektrane, postrojenja za prečišćavanje vode te operativnu tehnologiju i industrijske upravljačke sisteme (OT/ICS) na kojima se zasnivaju. Želimo timovima koji štite ove sisteme omogućiti pristup našim najsposobnijim modelima, a istovremeno ojačati zaštitne mjere za sprečavanje neovlaštenih napada.

Prvo, kako bismo podržali ove timove, naš program bespovratnih sredstava Daybreak za branioce na prvoj liniji⁠, vrijedan milijardu dolara, subvencionira pristup timovima s ograničenim resursima, poput državnih organizacija i pružalaca osnovnih usluga. Uvodimo i novu grupu unutar programa Daybreak Red (Daybreak Red za kritičnu infrastrukturu) za odobrene timove za zaštitu kritične infrastrukture. Ona im daje dozvole za ovlašteno testiranje kritičnih sistema, uz zadržavanje zaštitnih mjera protiv neusklađenosti modela.

Drugo, radi sprečavanja zloupotrebe platformi Daybreak Red i Blue, doradili smo mjere protiv pružanja pomoći i razvoja sposobnosti koje bi mogle ugroziti industrijske upravljačke ili sigurnosno kritične sisteme, ometati opremu ili uzrokovati ozbiljne povrede, katastrofalnu fizičku štetu ili prekide usluga opasne po život. Slika ispod poredi stope označavanja zaštitnim mjerama u četiri konfiguracije pristupa, prije i poslije nedavnih ažuriranja koja uvodimo uz GPT‑6 Cyber.

Više stope blokiranja zaštitnim mjerama nisu uvijek bolje. Mnoge tehnike u ovoj evaluaciji ključne su i za legitiman sigurnosni rad: razumijevanje sistema, pronalaženje ranjivosti i provjeru da ispravke odolijevaju napadima. Zato ove stope procjenjujemo zajedno s podrškom za legitimno istraživanje i izradu zakrpa, umjesto da težimo stopi od 100%.

Kako bismo procijenili kako naši modeli mogu pomoći u odbrani kritične infrastrukture, udružili smo se s kompanijom Dragos, globalnim pružaocem rješenja za kibernetičku sigurnost proširene operativne tehnologije (xOT). Dragos je proveo evaluacije u kontroliranom laboratorijskom okruženju koristeći modele Daybreak Red s blažim ograničenjima za kibernetičke zadatke. Evaluacije su obuhvatile zahtjeve koji se kreću od otkrivanja mreže i popisivanja resursa do ciljanog izviđanja, izvlačenja osjetljivih podataka i neovlaštenih, potencijalno opasnih radnji na uređajima.

Povratne informacije kompanije Dragos iskoristili smo za doradu zaštitnih mjera s ciljem blokiranja štetne pomoći bez nepotrebnog ograničavanja ovlaštenog testiranja. Detalje o evaluacijama potražite u njihovom završnom izvještaju⁠(otvara se u novom prozoru). Radimo i na širenju partnerstava s drugim pružaocima usluga ofanzivne sigurnosti i kombiniranim napadačko-odbrambenim timovima na penetracijskom testiranju i red teaming aktivnostima uz AI, kao i s energetskim kompanijama, drugim operaterima kritične infrastrukture i nacionalnim laboratorijama, radi procjene djelotvornosti naših modela i zaštitnih mjera u industrijskoj odbrani. Povećali smo i ulaganja u istraživanje prijetnji kako bismo otkrili upotrebu modela koja uključuje OT/ICS. Nastavit ćemo usavršavati zaštitne mjere uz doprinos partnera i sigurnosne zajednice, uključujući prijave putem /feedback kada mjere propuste štetnu aktivnost ili prekinu legitiman rad.

GPT‑6 Cyber u početku je dostupan putem API-ja i alata Codex odabranoj grupi odobrenih korisnika programa Daybreak Red. Uskoro ćemo postepeno proširiti pristup na sve korisnike programa Daybreak Red, a svim tim korisnicima omogućavamo i pristup modelu GPT‑5.6 Cyber. Proširujemo i alfa pristup programu Daybreak Blue za GPT‑6 Astra na više organizacija i nezavisnih sigurnosnih istraživača; javite nam⁠(otvara se u novom prozoru) ako ste zainteresirani.

Novi korisnici i organizacije mogu se prijaviti za Daybreak⁠ i početi koristiti naše vještine, proizvode i partnere za kibernetičku sigurnost⁠.