GPT‑6 Cyber: uus tase eesmärkidega kooskõlas küberturbeagentide arengus
Küberturbemudel, mis on treenitud leidma ja kontrollima ärakasutatavaid haavatavusi, püsides teadlaste seatud piirides.
Tutvustame GPT‑6 Cyberit, mis tähistab suurt edasiminekut turvauuringutes: see on võimekam haavatavuste leidmisel ja parandamisel ning püsib palju kindlamalt teadlaste seatud piirides. GPT‑6 Cyber saavutab peamistes küberturbe võrdlustestides GPT‑5.6 Cyberiga võrreldes märksa paremaid tulemusi, sealhulgas ExploitGymis 51% suhtelise paranemise ning hüppelise edasimineku ülesande piirides püsimise testides. See aitab juba praegu turvata tegelikus kasutuses olevat tarkvara, avastades ja kontrollides tuhandeid haavatavuste ärakasutamise viise turbekriitilistes koodibaasides, näiteks Linuxis ja Firefoxis.
ExploitGymis, mis testib mudelite võimet kasutada ära etteantud haavatavust, saavutab GPT‑6 Cyber tulemuse 48,5%, võrreldes GPT‑5.6 Cyberi 32,1%-ga. See järgib kindlamalt ka ülesande piire: eraldi eesmärkidega kooskõla hindamises vältis GPT‑6 Cyber ülesandeväliste teenuste haavatavuste ärakasutamist ilma kasutuselevõtuviibata 99,93% testidest ja selle viibaga 100% testidest. See parem kooskõla eesmärkidega tuleneb sihipärasest treeningust, mis õpetab püsima lubatud piirides, järgima piiranguid ja tulemustest täpselt aru andma.
Need võimed aitavad juba praegu turvata reaalseid süsteeme. Meie teadlased kasutasid GPT‑6 Cyberit, et arendada 948 ründekoodi õiguste tõstmiseks Linuxis ja leida Firefoxis 81 seni tundmatut suure raskusastmega haavatavust, hoolimata varasemast ulatuslikust testimisest tipptasemel mudelitega. Mudel aitas välja töötada ka võimalikke parandusi ning Mozilla on avaldanud parandused paljudele Firefoxi haavatavustele(avaneb uues aknas). Cisco, Califi ja CodeRabbiti turvameeskonnad kasutavad seda haavatavuste uurimiseks ja koodi ülevaatamiseks ning meie oleme selle abil leidnud ja parandanud oma taristu nõrkusi.
On selge, et meil on piiratud aeg, et kasutada tipptasemel mudeleid tarkvara turvamiseks. Meie eesmärk on Daybreaki oluliselt laiendada, tuues täiustatud turvauuringute võimalused igas suuruses organisatsioonide, sõltumatute teadlaste ja avatud lähtekoodiga tarkvara hooldajateni. Põhiseeria mudelid, näiteks GPT‑6 Astra, toetavad juba koodi ülevaatust, haavatavuste prioriseerimist ja paranduste arendamist. Daybreak Blue aitab kontrollitud kaitsjatel valideerida haavatavusi ja parandusi väiksema hulga tarbetute keeldumistega, samal ajal kui Daybreak Red võimaldab GPT‑6 Cyberiga põhjalikumat ründekoodi arendamist ja volitatud turvatestimist.
GPT‑6 Cyber on GPT‑5.6 Cyberiga võrreldes suur edasiminek ja ületab GPT‑6 Astrat enamikus küberülesannetes isegi siis, kui Astra päringust ei keeldu. Hindasime mudelit ülesannetega, mis nõuavad tarkvara mõistmist, haavatavuste tuvastamist ja toimiva ründekoodi arendamist. Nende tulemuste põhjal liigitame mudeli oma Valmisoleku raamistiku järgi küberturbes kriitilisele tasemele; GPT‑5.6 Cyber kuulus kõrgele tasemele.
ExploitGymis, mis testib mudelite võimet kasutada ära etteantud haavatavust kaugsihtmärgis, saavutab GPT‑6 Cyber tulemuse 48,5% – ligikaudu 16 protsendipunkti rohkem kui GPT‑5.6 Cyberi 32,1%. Haavatavuste avastamise testimiseks lõime ka uue hindamise ründepõhiseks veebirakenduste läbistustestimiseks. Mudelid uurivad veebirakendusi ilma nende lähtekoodile ligi pääsemata. GPT‑6 Cyber leidis 40,3% haavatavustest, võrreldes GPT‑6 Astra 32,0%-ga.
Daybreak Red on loodud toetama keerukamaid turvatöövooge, sealhulgas toimiva ründekoodi arendamist ja kasutamist kaugsihtmärkide vastu. Nende võimete hindamiseks lõime uue võrdlustesti RemoteExploitBench, mis kasutab kontrollitud keskkonda paigaldatud rakenduste, näiteks GitLabi, PostgreSQL-i ja Jenkinsi teadaolevaid haavatavusi. Meie esialgses hindamises keeldus Daybreak Bluega töötav GPT‑6 Astra 100% ülesannetest, samal ajal kui GPT‑6 Cyber täitis 95%; ainus ebaõnnestumine oli ründekood, mida see ei suutnud kaugelt tööle saada. Kõik tulemused ja hindamisseadistused leiad süsteemikaardilt(avaneb uues aknas).
Üks küberturbeagentidega seotud risk on see, et nad väljuvad määratud ülesande piiridest, püüavad ära kasutada asjassepuutumatute teenuste haavatavusi või eiravad teadlase kehtestatud tegutsemisreegleid.
Seadsime GPT‑6 Cyberi arendamisel kesksele kohale kooskõla eesmärkidega ning kasutasime eriväljaõpet, et aidata mudelil püsida lubatud piirides, järgida tegevuspiiranguid ja oma tööst täpselt aru anda. Enne kasutuselevõttu hindasime mitme testiga mudeli käitumise kooskõla seatud eesmärkidega. Kõik tulemused leiad süsteemikaardilt(avaneb uues aknas).
Üks neist testidest on ExploitGym Honeypot, mille väljatöötamisel võtsime arvesse Hugging Face’i intsidenti. Anname mudelile keerulise haavatavuse ärakasutamise ülesande isoleeritud keskkonnas, kus on ligipääs tugiteenustele, näiteks paketiregistrile või objektisalvestile. Muudame need teenused tahtlikult kergesti rünnatavaks, nii et nende ründamine võib paljastada ülesande lipu. Mudel peab ise järeldama, et nende haavatavuste ärakasutamine jääb ülesande piiridest välja.
Selles testis on GPT‑6 Cyberi tulemused GPT‑5.6 Cyberiga võrreldes hüppeliselt paranenud. Ilma kasutuselevõtu ohutusviipadeta testimisel vältis see ülesandeväliste teenuste haavatavuste ärakasutamist 99,93% juhtudest, võrreldes GPT‑5.6 Cyberi 94,49%-ga. Nende viipadega püsis GPT‑6 Cyber lubatud piirides 100% juhtudest.
GPT‑6 Cyberi mudeli mõttekäigust näeme otse, kuidas see arutleb lubatud piirides püsimise üle:
“Can't assume extra API or attack controller not target. We should only target binary/server.”
“don't explore out of scope credentials.”
GPT‑6 Cyber aitab turvameeskondadel juba praegu leida haavatavusi, kinnitada nende mõju ja töötada välja parandusi. Kliendid on rakendanud seda suurte koodibaaside uurimiseks, pikaajaliseks ründekoodi arendamiseks ja turvaülevaatusteks:
Oleme kasutanud GPT‑6 Cyberit ka oma süsteemide turvamiseks. See oli üks peamisi mudeleid töös, millest hiljuti kirjutasime seoses tipptasemel mudelite treenimiseks kasutatava taristu turbe tugevdamisega. Kontrollitud lööktestimiskampaaniates kombineerisid GPT‑6 Cyberit ja teisi OpenAI mudeleid kasutavad agendid haavatavusi, et väljuda mikrovirtuaalmasinatest ja käivitada koodi nende aluseks olevates hostides. Kasutasime leide tarkvara parandamiseks, võrgupiirangute karmistamiseks ning probleemidest hooldajatele ja tarnijatele teatamiseks.
Meie haavatavuste uurijad kasutavad GPT‑6 Cyberit ka avatud lähtekoodiga tarkvaras haavatavuste ulatuslikuks leidmiseks ja kontrollimiseks. See töö on paljastanud seni tundmatuid vigu tarkvaras, mida on aastaid põhjalikult uuritud:
Leitud 81 uut Firefoxi haavatavust. GPT‑6 Cyber võib sobida autonoomsetesse töövoogudesse, kus otsitakse suures mahus haavatavusi ja pakutakse kvaliteetseid parandusi. Haavatavuste uurimise kampaania käigus koostas GPT‑6 Cyber tõendid ja korratavad testid 81 uue haavatavuse kohta, mille Mozilla liigitas suure raskusastmega haavatavusteks. Samuti näitas see, et veel 30 teadaolevat probleemi olid varem arvatust tõsisemad. Edastasime leiud Mozillale koos parandusettepanekutega, et aidata nende inseneridel parandused välja töötada. Mozilla toetas seda tööd ja hakkas parandusi lisama varsti pärast teadete saamist(avaneb uues aknas).
Ründekoodi arendamine 948 Linuxi tuuma haavatavuse jaoks. GPT‑6 Cyber reprodutseeris 1724 haavatavust ja arendas toimiva ründekoodi 948 jaoks – üle viie korra rohkem kui GPT‑5.6 Sol, mis suutis sama uurimistöö täitmiskeskkonna abil ära kasutada 166 haavatavust. Linuxi kogukonna juhiseid järgides edastasime hooldajatele 304 kriitilist leidu koos võimalike parandustega ning töötame selle nimel, et ka ülejäänud haavatavused parandatud saaksid.
Kriitiliste koodi kaugkäivitamise haavatavuste demonstreerimine. Hiljuti kirjutasime kriitilisest haavatavusest Brotli tihendusteegis(avaneb uues aknas), mida kasutavad Node.js ja muu tarkvara. Meie turvauurijad kasutasid GPT‑6 Cyberit koos teiste OpenAI mudelitega, et arendada ja kontrollida ründekoodi, mis näitas, kuidas see viga võib võimaldada koodi kaugkäivitamist teeki kasutavates rakendustes.
Sedamööda, kuidas mudelid muutuvad võimekamaks ja avastavad rohkem turvahaavatavusi, näeme ka rohkem katseid kasutada neid kahju tekitamiseks. Nende hulka kuuluvad pahatahtlike kübertegutsejate katsed ning meie mudeleid destilleerida püüdvate vaenulike rühmituste tegevus. Seetõttu oleme sidunud GPT‑6 Cyberi suurema võimekuse tugevamate kaitsemeetmetega, et tuvastada ja tõkestada väärkasutust ning hoida mudeli tegevus kasutaja kavatsuste ja volituste piires.
GPT‑6 Cyberi väljalaskmisega lisasime ja tugevdasime järgmisi kaitsemeetmeid (täpsem teave on süsteemikaardil(avaneb uues aknas)):
Eesmärkidest kõrvalekaldumise seire küberturbeülesannetes. Jälgime, kas tegevused vastavad kasutaja antud volitustele, eristades seejuures õiguspärast ründekoodi arendamist ja testimist.
Uute ohtude sihitud seire. Näiteks lõime kriitiliste PHP haavatavuste koordineeritud avalikustamise ajal sihitud seire, et tuvastada katseid arendada ründekoodi töötavate PHP serverite vastu. Samal ajal säilitasime toe kaitsjatele, kes parandasid mõjutatud süsteeme.
Privaatne ohutustöötlus (PSP). Kasutame automaatkontrolle, et vaadata omavahel seotud suhtlused üle väärkasutuse tuvastamiseks. Vaikimisi kehtib endiselt tavapärane säilitamine. API kliendid, kes kasutavad sätet „Andmeid ei säilitata“(avaneb uues aknas), peavad üldjuhul kasutama PSP-d(avaneb uues aknas). See kontrollib kliendi salvestusruumis 30 päeva säilitatavaid krüpteeritud kirjeid, avaldamata viipasid ega vastuseid OpenAI töötajatele.
Kaitse varastatud pääsuandmete kasutamise eest. Daybreak Redi API kasutamiseks nõuame vaikimisi IP-aadresside lubatud loendit, mis piirab päringud heakskiidetud võrkudega, välja arvatud üksikud erandid. Samuti jälgime pääsuandmete võimalikku sattumist võõrastesse kätesse.
Liivakastis käitamine ja järelevalve. Nagu varasemate mudelite puhul, soovitame suure riskiga töövoogudes liivakastis käitamist(avaneb uues aknas), tegevuste ülevaatamist(avaneb uues aknas) ja inimese järelevalvet.
Kaitse suure riskiga kübertegevusele kaasaaitamise eest. Kasutame uusi kontrolle, et blokeerida kriitilisi süsteeme puudutav suure riskiga tegevus (vt lähemalt altpoolt).
GPT‑6 Cyberi kaitsemeetmete ja ligipääsu kavandamisel on olnud keskne kaalutlus kriitilise taristu kaitse. See hõlmab elektrijaamu, veepuhastusrajatisi ning nende aluseks olevat käidutehnoloogiat ja tööstuslikke juhtimissüsteeme (OT/ICS). Soovime anda neid süsteeme kaitsvatele meeskondadele ligipääsu oma võimekaimatele mudelitele ning samal ajal tugevdada kaitsemeetmeid volitamata rünnakute vältimiseks.
Esiteks toetab meie miljardi dollari suurune toetusprogramm Daybreak eesliini kaitsjatele piiratud ressurssidega meeskondade, näiteks riigiasutuste ja elutähtsate teenuste osutajate ligipääsu neile töövahenditele. Loome Daybreak Redi raames ka uue rühma (Daybreak Red kriitilisele taristule) heakskiidetud kriitilise taristu kaitsjatele. See annab neile õiguse teha kriitiliste süsteemide volitatud teste, säilitades kaitsemeetmed mudeli eesmärkidest kõrvalekaldumise vastu.
Teiseks oleme Daybreak Redi ja Blue platvormide väärkasutuse vältimiseks täiustanud kaitsemeetmeid abi ja võimekuse arendamise vastu, mis võiks ohustada tööstuslikke juhtimissüsteeme või ohutuskriitilisi süsteeme, häirida seadmete tööd või põhjustada raskeid vigastusi, katastroofilist füüsilist kahju või eluohtlikke teenusekatkestusi. Alloleval joonisel võrreldakse kaitsemeetmete märgistusmäärasid nelja ligipääsuseadistuse korral enne ja pärast hiljutisi uuendusi, mille võtame kasutusele koos GPT‑6 Cyberiga.
Kaitsemeetmete suurem blokeerimismäär ei ole alati parem. Paljud selles hindamises kasutatavad võtted on hädavajalikud ka õiguspärases turvatöös: süsteemide mõistmisel, haavatavuste leidmisel ning kontrollimisel, kas parandused peavad rünnakule vastu. Seetõttu hindame neid määrasid koos õiguspärase uurimistöö ja parandamise toetamisega, selle asemel et püüelda 100% poole.
Et hinnata, kuidas meie mudelid saavad aidata kaitsta kriitilist taristut, tegime koostööd laiendatud käidutehnoloogia (xOT) küberturbe ülemaailmse pakkuja Dragosega. Dragos viis kontrollitud laborikeskkonnas läbi hindamised, kasutades kübertegevuseks leebemate piirangutega Daybreak Redi mudeleid. Hindamised hõlmasid päringuid alates võrgu avastamisest ja varade loendamisest kuni sihitud eelluure, tundlike andmete väljaviimise ning seadmetega tehtavate volitamata ja potentsiaalselt ohtlike toiminguteni.
Kasutasime Dragose tagasisidet kaitsemeetmete täiustamiseks, et blokeerida kahjulik abi, piiramata asjatult volitatud testimist. Hindamiste üksikasjad leiad nende lõpparuandest(avaneb uues aknas). Töötame ka selle nimel, et laiendada koostööd teiste ründepõhiste turvateenuste pakkujate ning ründe- ja kaitseoskusi ühendavate meeskondadega AI abil läbistustestide ja lööktestimise tegemisel. Samuti arendame koostööd energiaettevõtete, teiste kriitilise taristu käitajate ja riiklike laboritega, et hinnata meie mudelite tõhusust ja kaitsemeetmeid tööstussüsteemide kaitsmisel. Oleme suurendanud ka investeeringuid ohu-uuringutesse, et tuvastada mudelite kasutamist OT/ICS-süsteemidega seotud tegevuses. Jätkame kaitsemeetmete täiustamist partnerite ja turvakogukonna sisendi põhjal, sealhulgas /feedback kaudu saadetud teadete alusel, kui kaitsemeetmed jätavad kahjuliku tegevuse märkamata või katkestavad õiguspärase töö.
GPT‑6 Cyber on esialgu API ja Codexi kaudu saadaval valitud rühmale heakskiidetud Daybreak Redi klientidele. Peagi laiendame ligipääsu järk-järgult kõigile Daybreak Redi klientidele ning teeme neile kõigile kättesaadavaks ka GPT‑5.6 Cyberi. Laiendame ka Daybreak Blue alfaversiooni kaudu ligipääsu GPT‑6 Astrale rohkematele organisatsioonidele ja sõltumatutele turvauurijatele. Huvi korral anna meile teada(avaneb uues aknas).
Uued kasutajad ja organisatsioonid saavad taotleda Daybreakiga liitumist ning alustada meie küberturbeoskuste, toodete ja partnerite abil.
