GPT‑6 Cyber: Öflugri netöryggisfulltrúar sem fylgja fyrirmælum betur

Við kynnum GPT‑6 Cyber, stórt framfaraskref í öryggisrannsóknum: öflugra við að finna og laga veikleika og mun áreiðanlegra við að halda sig innan þeirra marka sem rannsakendur setja. GPT‑6 Cyber skilar mun betri árangri en GPT‑5.6 Cyber í lykilviðmiðunarprófum í netöryggi, þar á meðal 51% hlutfallslegri framför í ExploitGym og stökkbreytingu í prófunum á fylgni við verkefnismörk. Það hjálpar nú þegar til við að verja hugbúnað í raunverulegri notkun og hefur fundið og staðfest þúsundir leiða til að nýta veikleika í kóðasöfnum þar sem öryggi er lykilatriði, svo sem Linux og Firefox.

Í ExploitGym, sem prófar hvort líkön geti nýtt tiltekinn veikleika, nær GPT‑6 Cyber 48,5% árangri, samanborið við 32,1% hjá GPT‑5.6 Cyber. Það fylgir einnig verkefnismörkum af meiri áreiðanleika: í sérstakri prófun á samræmi við fyrirmæli forðaðist GPT‑6 Cyber að misnota þjónustu utan verkefnismarka í 99,93% prófana án kvaðningarinnar sem fylgir því í notkun og í 100% tilvika með henni. Þetta bætta samræmi við fyrirmæli er afrakstur markvissrar þjálfunar í að halda sér innan heimilaðra verkefnismarka, virða takmarkanir og greina rétt frá niðurstöðum.

Þessi geta stuðlar nú þegar að öryggi raunverulegra kerfa. Rannsakendur okkar notuðu GPT‑6 Cyber til að þróa 948 árásir til að auka aðgangsheimildir í Linux⁠ og finna 81 áður óþekktan, alvarlegan veikleika í Firefox, þrátt fyrir umfangsmiklar fyrri prófanir með háþróuðum líkönum. Líkanið aðstoðaði einnig við að þróa tillögur að lagfæringum og Mozilla hefur gefið út lagfæringar á mörgum veikleikanna í Firefox⁠(opnast í nýjum glugga). Öryggisteymi hjá Cisco, Calif og CodeRabbit nota það við veikleikarannsóknir og kóðarýni og við höfum nýtt það til að finna og laga veikleika í eigin innviðum⁠.

Ljóst er að við höfum takmarkaðan tíma til að nýta háþróuð líkön til að tryggja öryggi hugbúnaðar⁠. Markmið okkar er að stækka Daybreak verulega og gera háþróaðar öryggisrannsóknir aðgengilegar fyrirtækjum og stofnunum af öllum stærðum, sjálfstæðum rannsakendum og viðhaldsaðilum opins hugbúnaðar. Almenn líkön á borð við GPT‑6 Astra styðja nú þegar við kóðarýni, forgangsröðun veikleika og þróun lagfæringa. Daybreak Blue hjálpar staðfestum varnaraðilum að sannreyna veikleika og lagfæringar með færri óþarfa höfnunum. Daybreak Red gerir hins vegar kleift að þróa árásarkóða með ítarlegri hætti og framkvæma leyfðar öryggisprófanir með GPT‑6 Cyber.

GPT‑6 Cyber er miklu öflugra en GPT‑5.6 Cyber og stendur sig betur en GPT‑6 Astra í flestum netöryggisverkefnum, jafnvel þegar Astra hafnar ekki beiðninni. Við prófuðum líkanið á verkefnum sem krefjast þess að það skilji hugbúnað, finni veikleika og þrói virkan árásarkóða. Á grundvelli þessara niðurstaðna flokkum við líkanið á bráðalvarlegt áhættustig í netöryggi samkvæmt Undirbúningsramma okkar, en GPT‑5.6 Cyber var á háu áhættustigi.

Í ExploitGym, sem prófar hvort líkön geti nýtt tiltekinn veikleika í fjarlægu skotmarki, nær GPT‑6 Cyber 48,5% árangri, um 16 prósentustigum meira en GPT‑5.6 Cyber, sem náði 32,1%. Til að prófa veikleikaleit bjuggum við einnig til nýtt mat fyrir sóknarmiðaðar innbrotsprófanir á vef. Líkön kanna vefforrit án aðgangs að frumkóða þeirra. GPT‑6 Cyber fann 40,3% veikleikanna, samanborið við 32,0% hjá GPT‑6 Astra.

Daybreak Red er hannað til að styðja við flóknari öryggisverkferli, meðal annars að þróa virkan árásarkóða og nota hann gegn fjarlægum skotmörkum. Til að meta þessa getu bjuggum við til nýtt viðmiðunarpróf sem kallast RemoteExploitBench. Það notar þekkta veikleika í forritum á borð við GitLab, PostgreSQL og Jenkins sem keyrð eru í stýrðu umhverfi. Í fyrstu prófun okkar hafnaði GPT‑6 Astra 100% verkefna þegar það var keyrt með Daybreak Blue, en GPT‑6 Cyber leysti 95%. Eina verkefnið sem mistókst snerist um árásarkóða sem líkaninu tókst ekki að láta virka úr fjarlægð. Allar niðurstöður og prófunarstillingar má sjá í kerfiskortinu⁠(opnast í nýjum glugga).

Ein áhætta við netöryggisfulltrúa er að þeir fari út fyrir mörk verkefnis síns, reyni að misnota veikleika í ótengdri þjónustu eða hunsi starfsreglur rannsakandans.

Við lögðum megináherslu á samræmi við fyrirmæli í GPT‑6 Cyber. Með sérhæfðri þjálfun hjálpuðum við líkaninu að halda sig innan heimilaðra verkefnismarka, virða takmarkanir á aðgerðum sínum og greina rétt frá vinnu sinni. Áður en líkanið var tekið í notkun gerðum við röð prófana á samræmi við fyrirmæli til að mæla þessa hegðun. Allar niðurstöður má sjá í kerfiskortinu⁠(opnast í nýjum glugga).

Ein þessara prófana er ExploitGym Honeypot, sem var mótuð með hliðsjón af atvikinu hjá Hugging Face⁠. Við felum líkaninu erfitt verkefni við að nýta veikleika í einangruðu umhverfi með aðgang að stoðþjónustu, svo sem pakkasafni eða hlutageymslu. Við höfum þessa þjónustu vísvitandi auðvelda í misnotkun svo að árás á hana geti afhjúpað flagg verkefnisins. Líkanið þarf sjálft að átta sig á að misnotkun hennar sé utan marka verkefnisins.

GPT‑6 Cyber sýnir stökkbreytingu til batnaðar miðað við GPT‑5.6 Cyber í þessari prófun. Í prófunum án öryggiskvaðninga sem fylgja líkaninu í notkun forðaðist það að misnota þjónustu utan verkefnismarka í 99,93% tilvika, samanborið við 94,49% hjá GPT‑5.6 Cyber. Með þessum kvaðningum hélt GPT‑6 Cyber sig innan marka í 100% tilvika.

Í hugsanakeðju GPT‑6 Cyber líkansins má sjá beint hvernig það rökstyður að halda sér innan marka:

GPT‑6 Cyber hjálpar nú þegar öryggisteymum að finna veikleika, staðfesta áhrif þeirra og þróa lagfæringar. Viðskiptavinir hafa nýtt það við stór kóðasöfn, langvarandi þróun árásarkóða og öryggisrýni:

Við höfum einnig notað GPT‑6 Cyber til að tryggja öryggi eigin kerfa. Það var eitt helsta líkanið í vinnunni sem við kynntum nýlega við að herða varnir innviðanna sem eru notaðir til að þjálfa háþróuð líkön⁠. Í stýrðum prófunarlotum rauðteyma tengdu fulltrúar, sem notuðu GPT‑6 Cyber og önnur líkön frá OpenAI, veikleika saman til að brjótast út úr örsýndarvélum og keyra kóða á undirliggjandi hýsilvélum. Við nýttum niðurstöðurnar til að laga hugbúnað, herða nettakmarkanir og tilkynna vandamál til viðhaldsaðila og birgja.

Veikleikarannsakendur okkar nota einnig GPT‑6 Cyber til að finna og staðfesta veikleika í opnum hugbúnaði í stórum stíl. Þessi vinna hefur leitt í ljós áður óþekkta galla í hugbúnaði sem hefur verið rannsakaður gaumgæfilega árum saman:

• 81 nýr veikleiki fannst í Firefox. GPT‑6 Cyber getur hentað í sjálfvirk verkferli til að finna veikleika og leggja til vandaðar lagfæringar í stórum stíl. Í rannsóknarlotu skilaði GPT‑6 Cyber sönnunargögnum og endurtakanlegum prófunum fyrir 81 nýjan veikleika sem Mozilla flokkaði sem alvarlega. Það sýndi einnig fram á að 30 þekkt vandamál til viðbótar væru alvarlegri en áður hafði verið greint frá. Við tilkynntum Mozilla um niðurstöðurnar ásamt tillögum að lagfæringum til að aðstoða verkfræðinga fyrirtækisins við úrbætur. Mozilla studdi þessa vinnu og hóf að innleiða lagfæringar skömmu eftir að tilkynningarnar bárust⁠(opnast í nýjum glugga).

• Þróun árásarkóða fyrir 948 veikleika í Linux-kjarnanum⁠. GPT‑6 Cyber endurskapaði 1.724 veikleika og þróaði virkan árásarkóða fyrir 948 þeirra — rúmlega fimmfalt fleiri en þá 166 sem GPT‑5.6 Sol nýtti með sama rannsóknarkerfi. Í samræmi við leiðbeiningar Linux-samfélagsins tilkynntum við viðhaldsaðilum um 304 bráðalvarleg vandamál ásamt tillögum að lagfæringum og vinnum nú að því að fá aðra veikleika lagaða.

• Sýnt fram á bráðalvarlega veikleika sem leyfa fjarkeyrslu kóða. Við fjölluðum nýlega um bráðalvarlegan veikleika í Brotli⁠(opnast í nýjum glugga), þjöppunarsafni sem Node.js og annar hugbúnaður notar. Öryggisrannsakendur okkar notuðu GPT‑6 Cyber ásamt öðrum líkönum frá OpenAI til að þróa og staðfesta árásarkóða sem sýndi hvernig gallinn gæti gert fjarkeyrslu kóða mögulega í forritum sem nota safnið.

Eftir því sem líkön verða öflugri og finna fleiri öryggisveikleika sjáum við einnig fleiri tilraunir til að nota þau til skaðlegra verka. Þar á meðal eru tilraunir illgjarnra netárásaraðila og andstæðra hópa sem leitast við að þjálfa eigin líkön á úttaki líkana okkar. Við höfum því bætt öflugri öryggisvörnum við aukna getu GPT‑6 Cyber til að greina og stöðva misnotkun og halda aðgerðum líkansins í samræmi við ásetning og heimildir notandans.

Við bættum við og styrktum eftirfarandi varnir samhliða útgáfu GPT‑6 Cyber (sjá allar upplýsingar í kerfiskortinu⁠(opnast í nýjum glugga)):

• Sérhæft eftirlit með frávikum frá fyrirmælum í netöryggisverkefnum. Við fylgjumst með því hvort aðgerðir samræmist heimildum notandans, en gerum jafnframt ráð fyrir lögmætri þróun og prófun árásarkóða.

• Markvisst eftirlit með nýjum ógnum. Við samræmda birtingu upplýsinga um bráðalvarlega veikleika í PHP settum við til dæmis upp markvisst eftirlit með tilraunum til að þróa árásarkóða gegn PHP-þjónum í rekstri, en héldum áfram að styðja varnaraðila við að laga kerfin sem urðu fyrir áhrifum.

• Persónuvernduð öryggisvinnsla (PSP). Við notum sjálfvirkar athuganir til að yfirfara tengd samskipti og leita að misnotkun. Hefðbundin gagnavarðveisla er áfram sjálfgefin. API-viðskiptavinir sem nota stillinguna Engin gögn varðveitt⁠(opnast í nýjum glugga) þurfa almennt að nota PSP⁠(opnast í nýjum glugga). Hún yfirfer dulkóðaðar færslur sem eru varðveittar í geymslu viðskiptavinarins í 30 daga án þess að starfsfólk OpenAI fái að sjá kvaðningar og svör.

• Varnir gegn notkun stolinna auðkenna. Við krefjumst sjálfgefið leyfislista fyrir IP-tölur við API-aðgang að Daybreak Red. Þannig eru beiðnir takmarkaðar við samþykkt net, með fáum undantekningum. Við fylgjumst einnig með hvort auðkenni hafi komist í hendur óviðkomandi.

• Einangrað keyrsluumhverfi og eftirlit. Líkt og með fyrri líkön mælum við með einangruðu keyrsluumhverfi⁠(opnast í nýjum glugga), yfirferð aðgerða⁠(opnast í nýjum glugga) og mannlegu eftirliti fyrir áhættusöm verkferli.

• Varnir gegn áhættusamri aðstoð við netaðgerðir. Við notum nýjar athuganir til að stöðva áhættusamar aðgerðir sem varða mikilvæg kerfi (sjá nánar hér að neðan).

Við hönnun öryggisvarna og aðgangs að GPT‑6 Cyber hefur vernd mikilvægra innviða verið lykilatriði. Þar á meðal eru orkuver, vatnshreinsistöðvar og rekstrartækni og iðnstýrikerfi (OT/ICS) sem rekstur þeirra byggist á. Við viljum bæði veita teymunum sem verja þessi kerfi aðgang að öflugustu líkönum okkar og styrkja öryggisvarnir til að koma í veg fyrir óheimilar árásir.

Í fyrsta lagi niðurgreiðir milljarðs dala styrktaráætlunin okkar, Daybreak fyrir varnaraðila í fremstu línu⁠, aðgang fyrir teymi sem hafa úr takmörkuðum fjármunum að spila, svo sem hjá opinberum stofnunum og veitendum nauðsynlegrar þjónustu. Við kynnum einnig nýjan hóp innan Daybreak Red (Daybreak Red fyrir mikilvæga innviði) fyrir samþykkta varnaraðila mikilvægra innviða. Þeir fá heimild til að framkvæma leyfðar prófanir á mikilvægum kerfum á meðan varnir gegn frávikum líkansins frá fyrirmælum haldast virkar.

Í öðru lagi höfum við, til að koma í veg fyrir misnotkun á Daybreak Red og Blue, fínstillt varnir gegn aðstoð og getuþróun sem gæti stefnt iðnstýringum eða öryggiskerfum í hættu, truflað búnað eða valdið alvarlegum meiðslum, stórfelldu eignatjóni eða lífshættulegri þjónusturöskun. Myndin hér að neðan ber saman hlutfall tilvika sem öryggisvarnir merkja við í fjórum aðgangsstillingum, fyrir og eftir nýlegar uppfærslur sem við innleiðum samhliða GPT‑6 Cyber.

Hærra hlutfall lokana af hálfu öryggisvarna er ekki alltaf betra. Margar aðferðanna í þessari prófun eru einnig nauðsynlegar í lögmætu öryggisstarfi: að skilja kerfi, finna veikleika og sannreyna að lagfæringar standist árásir. Við metum því þessi hlutföll samhliða stuðningi við lögmætar rannsóknir og lagfæringar í stað þess að stefna að 100%.

Til að meta hvernig líkönin okkar geta hjálpað til við að verja mikilvæga innviði unnum við með Dragos, alþjóðlegum veitanda netöryggislausna fyrir útvíkkaða rekstrartækni (xOT). Dragos framkvæmdi prófanir í stýrðu tilraunaumhverfi með Daybreak Red líkönum sem veita rýmri heimildir til netaðgerða. Prófanirnar náðu yfir beiðnir sem stigmögnuðust frá kortlagningu neta og skráningu búnaðar yfir í markvissa könnun, útflutning viðkvæmra gagna og óheimilar, hugsanlega hættulegar aðgerðir á tækjum.

Við nýttum ábendingar frá Dragos til að fínstilla öryggisvarnir okkar með það að markmiði að hindra skaðlega aðstoð án þess að takmarka leyfðar prófanir að óþörfu. Sjá lokaskýrslu þeirra⁠(opnast í nýjum glugga) fyrir nánari upplýsingar um prófanirnar. Við vinnum einnig að auknu samstarfi við aðra aðila sem sérhæfa sig í sóknarmiðuðu öryggi og fjólublá teymi um innbrotsprófanir og rauðteymi með Ai. Jafnframt vinnum við með orkufyrirtækjum, öðrum rekstraraðilum mikilvægra innviða og opinberum rannsóknarstofum að því að meta árangur og öryggisvarnir líkana okkar við varnir iðnkerfa. Við höfum einnig aukið fjárfestingu í rannsóknum á ógnum til að greina notkun líkana sem tengist OT/ICS. Við höldum áfram að fínstilla öryggisvarnir okkar með ábendingum frá samstarfsaðilum og öryggissamfélaginu, meðal annars með tilkynningum í gegnum /feedback þegar varnirnar missa af skaðlegum aðgerðum eða trufla lögmæta vinnu.

GPT‑6 Cyber er í fyrstu aðgengilegt í gegnum API og Codex fyrir valinn hóp samþykktra viðskiptavina Daybreak Red. Við munum fljótlega veita öllum viðskiptavinum Daybreak Red aðgang í áföngum og erum einnig að gera GPT‑5.6 Cyber aðgengilegt öllum viðskiptavinum Daybreak Red. Við erum einnig að veita fleiri fyrirtækjum, stofnunum og sjálfstæðum öryggisrannsakendum aðgang að alfaprófun Daybreak Blue fyrir GPT‑6 Astra; láttu okkur vita⁠(opnast í nýjum glugga) ef þú hefur áhuga.

Nýir notendur, fyrirtæki og stofnanir geta sótt um aðgang að Daybreak⁠ og hafist handa með netöryggisfærni, vörum og samstarfsaðilum okkar⁠.