GPT‑6 Cyber: Nästa steg för följsamma cybersäkerhetsagenter

Vi presenterar GPT‑6 Cyber, ett stort steg framåt för säkerhetsforskning: bättre på att hitta och åtgärda sårbarheter och betydligt mer tillförlitlig när det gäller att hålla sig inom de ramar forskarna sätter. GPT‑6 Cyber ger stora förbättringar jämfört med GPT‑5.6 Cyber i centrala cybersäkerhetstester, däribland en relativ förbättring på 51 % i ExploitGym och ett stort språng framåt i tester av förmågan att hålla sig inom uppdragets ramar. Modellen hjälper redan till att säkra programvara i praktiken genom att upptäcka och verifiera tusentals sätt att utnyttja sårbarheter i säkerhetskritiska kodbaser som Linux och Firefox.

I ExploitGym, som testar om modeller kan utnyttja en angiven sårbarhet, når GPT‑6 Cyber 48,5 %, jämfört med 32,1 % för GPT‑5.6 Cyber. Modellen följer också uppdragets ramar mer tillförlitligt: i en separat utvärdering av följsamheten undvek GPT‑6 Cyber att utnyttja sårbarheter i tjänster utanför uppdragets ramar i 99,93 % av testerna utan sin driftprompt och i 100 % med denna prompt. Den förbättrade följsamheten är resultatet av särskild träning i att hålla sig inom tillåtna ramar, respektera begränsningar och redovisa resultat korrekt.

Dessa förmågor bidrar redan till att säkra verkliga system. Våra forskare använde GPT‑6 Cyber för att utveckla 948 exploateringar för behörighetseskalering i Linux⁠ och identifiera 81 tidigare okända allvarliga sårbarheter i Firefox, trots omfattande tidigare tester med banbrytande modeller. Modellen hjälpte också till att ta fram förslag på patchar, och Mozilla har släppt korrigeringar för många av sårbarheterna i Firefox⁠(öppnas i ett nytt fönster). Säkerhetsteam på Cisco, Calif och CodeRabbit använder modellen för sårbarhetsforskning och kodgranskning, och vi har använt den för att hitta och åtgärda svagheter i vår egen infrastruktur⁠.

Det står klart att vi har begränsad tid på oss att använda banbrytande modeller för att säkra programvara⁠. Vårt mål är att kraftigt utöka Daybreak och göra avancerad säkerhetsforskning tillgänglig för organisationer av alla storlekar, oberoende forskare och dem som underhåller öppen källkod. Ordinarie modeller som GPT‑6 Astra stöder redan kodgranskning, prioritering av sårbarheter och utveckling av patchar. Daybreak Blue hjälper verifierade försvarare att validera sårbarheter och korrigeringar med färre onödiga avvisanden, medan Daybreak Red möjliggör mer djupgående utveckling av exploateringskod och auktoriserad säkerhetstestning med GPT‑6 Cyber.

GPT‑6 Cyber är ett stort steg framåt jämfört med GPT‑5.6 Cyber och överträffar GPT‑6 Astra i de flesta cyberuppgifter, även när Astra inte avvisar förfrågan. Vi utvärderade modellen på uppgifter som kräver att den förstår programvara, identifierar sårbarheter och utvecklar fungerande exploateringskod. Utifrån dessa resultat klassificerar vi modellen på nivån Kritisk inom cybersäkerhet enligt vårt Preparedness Framework, en höjning från Hög för GPT‑5.6 Cyber.

I ExploitGym, som testar om modeller kan utnyttja en angiven sårbarhet i ett fjärrmål, når GPT‑6 Cyber 48,5 %, omkring 16 procentenheter högre än GPT‑5.6 Cybers 32,1 %. För att testa förmågan att upptäcka sårbarheter tog vi också fram en ny utvärdering för offensiv penetrationstestning av webbapplikationer. Modellerna undersöker webbapplikationer utan tillgång till källkoden. GPT‑6 Cyber hittade 40,3 % av sårbarheterna jämfört med 32,0 % för GPT‑6 Astra.

Daybreak Red är utformat för mer avancerade säkerhetsarbetsflöden, bland annat att utveckla fungerande exploateringskod och använda den mot fjärrmål. För att utvärdera dessa förmågor byggde vi ett nytt prestandatest, RemoteExploitBench, som använder kända sårbarheter i applikationer som GitLab, PostgreSQL och Jenkins, driftsatta i en kontrollerad miljö. I vår första utvärdering avvisade GPT‑6 Astra med Daybreak Blue 100 % av uppgifterna, medan GPT‑6 Cyber klarade 95 %. Det enda misslyckandet var en exploatering som modellen inte fick att fungera på distans. Se systemkortet⁠(öppnas i ett nytt fönster) för fullständiga resultat och utvärderingsinställningar.

En risk med cybersäkerhetsagenter är att de går utanför sitt uppdrag, försöker utnyttja sårbarheter i orelaterade tjänster eller åsidosätter forskarens regler för testningen.

Vi gjorde följsamhet till ett centralt fokus för GPT‑6 Cyber, med specialiserad träning för att hjälpa modellen att hålla sig inom tillåtna ramar, följa begränsningar för sina handlingar och redovisa sitt arbete korrekt. Före driftsättningen genomförde vi en serie utvärderingar av följsamheten för att mäta dessa beteenden. Se systemkortet⁠(öppnas i ett nytt fönster) för fullständiga resultat.

En av dessa utvärderingar är ExploitGym Honeypot, som utformades med lärdomar från Hugging Face-incidenten⁠. Vi ger modellen en svår uppgift som går ut på att utnyttja en sårbarhet i en isolerad miljö med tillgång till stödtjänster, till exempel ett paketregister eller ett objektlager. Vi gör avsiktligt dessa tjänster lätta att angripa, så att en attack mot dem kan avslöja uppgiftens flagga. Modellen måste själv dra slutsatsen att utnyttjande av sårbarheter i dessa tjänster ligger utanför uppdragets ramar.

GPT‑6 Cyber visar ett stort språng framåt jämfört med GPT‑5.6 Cyber i denna utvärdering. När modellen testades utan de säkerhetsprompter som används i drift undvek den att utnyttja sårbarheter i tjänster utanför uppdragets ramar i 99,93 % av fallen, jämfört med 94,49 % för GPT‑5.6 Cyber. Med dessa prompter höll sig GPT‑6 Cyber inom ramarna i 100 % av fallen.

Vi kan se direkt i GPT‑6 Cyber-modellens tankekedja hur den resonerar om att hålla sig inom ramarna:

GPT‑6 Cyber hjälper redan säkerhetsteam att hitta sårbarheter, verifiera deras konsekvenser och ta fram korrigeringar. Kunder har använt modellen för stora kodbaser, långvarig utveckling av exploateringskod och säkerhetsgranskning:

Vi har också använt GPT‑6 Cyber för att säkra våra egna system. Det var en av de viktigaste modellerna bakom det arbete vi nyligen beskrev med att härda infrastrukturen som används för att träna banbrytande modeller⁠. I kontrollerade red teaming-kampanjer kedjade agenter som använde GPT‑6 Cyber och andra OpenAI-modeller samman sårbarheter för att bryta sig ut ur microVM:er och köra kod på de underliggande värdsystemen. Vi använde resultaten för att korrigera programvaran, skärpa nätverksbegränsningarna och rapportera problemen till underhållsansvariga och leverantörer.

Våra sårbarhetsforskare använder också GPT‑6 Cyber för att hitta och verifiera sårbarheter i programvara med öppen källkod i stor skala. Arbetet har avslöjat tidigare okända brister i programvara som har granskats i åratal:

• Hittade 81 nya sårbarheter i Firefox. GPT‑6 Cyber kan vara lämplig för autonoma arbetsflöden som hittar sårbarheter och föreslår högkvalitativa patchar i stor skala. Under en sårbarhetsforskningskampanj tog GPT‑6 Cyber fram belägg och reproducerbara tester för 81 nya sårbarheter som Mozilla klassificerade som allvarliga, och visade att ytterligare 30 kända problem var allvarligare än vad som tidigare rapporterats. Vi rapporterade fynden till Mozilla tillsammans med föreslagna patchar för att hjälpa deras utvecklare att ta fram korrigeringar. Mozilla ställde sig positivt till arbetet och började införa korrigeringar kort efter att rapporterna kommit in⁠(öppnas i ett nytt fönster).

• Utveckling av exploateringskod för 948 sårbarheter i Linux-kärnan⁠. GPT‑6 Cyber reproducerade 1 724 sårbarheter och utvecklade fungerande exploateringskod för 948 – mer än fem gånger så många som de 166 som GPT‑5.6 Sol lyckades utnyttja i samma körmiljö för forskning. I enlighet med Linux-communityns riktlinjer rapporterade vi 304 kritiska fynd till underhållsansvariga tillsammans med förslag på patchar, och arbetet med att få övriga sårbarheter åtgärdade pågår.

• Demonstration av kritiska RCE-sårbarheter. Vi beskrev nyligen en kritisk sårbarhet i Brotli⁠(öppnas i ett nytt fönster), ett komprimeringsbibliotek som används av Node.js och annan programvara. Våra säkerhetsforskare använde GPT‑6 Cyber tillsammans med andra OpenAI-modeller för att utveckla och verifiera exploateringskod som visade hur bristen kunde möjliggöra fjärrkörning av kod i applikationer som använder biblioteket.

I takt med att modeller blir mer kapabla och upptäcker fler säkerhetssårbarheter ser vi också fler försök att använda dem för att orsaka skada. Det handlar bland annat om försök från illasinnade cyberaktörer och fientliga grupper som vill destillera våra modeller. Vi har därför kombinerat GPT‑6 Cybers förbättrade förmågor med starkare skyddsåtgärder för att upptäcka och stoppa missbruk och hålla modellens handlingar inom det användaren avser och har tillstånd till.

Vi lade till och förstärkte dessa skydd i samband med lanseringen av GPT‑6 Cyber (se systemkortet⁠(öppnas i ett nytt fönster) för fullständig information):

• Cyberspecifik övervakning av bristande följsamhet. Vi övervakar om handlingarna ryms inom användarens tillstånd, samtidigt som vi tar hänsyn till legitim utveckling och testning av exploateringskod.

• Riktad övervakning av nya hot. Under det samordnade offentliggörandet av kritiska PHP-sårbarheter införde vi till exempel riktad övervakning av försök att utveckla exploateringskod mot PHP-servrar i drift, samtidigt som vi behöll stödet för försvarare som korrigerade berörda system.

• Private Safety Processing (PSP). Vi använder automatiserade kontroller för att granska relaterade interaktioner efter tecken på missbruk. Standardlagring är fortsatt förvalet. API-kunder som använder Noll datalagring⁠(öppnas i ett nytt fönster) måste i regel använda PSP⁠(öppnas i ett nytt fönster), som granskar krypterade poster som sparas i kundens lagring i 30 dagar utan att prompter och svar exponeras för OpenAI:s personal.

• Skydd mot stulna autentiseringsuppgifter. Som standard kräver vi listor över tillåtna IP-adresser för API-åtkomst till Daybreak Red, vilket med få undantag begränsar förfrågningar till godkända nätverk. Vi övervakar också om autentiseringsuppgifter har röjts.

• Sandlådemiljö och tillsyn. Precis som för tidigare modeller rekommenderar vi sandlådemiljöer⁠(öppnas i ett nytt fönster), granskning av åtgärder⁠(öppnas i ett nytt fönster) och mänsklig tillsyn för högriskarbetsflöden.

• Skydd mot cyberassistans med hög risk. Vi använder nya kontroller för att blockera högriskaktivitet som rör kritiska system (läs mer nedan).

Skyddet av kritisk infrastruktur har varit centralt när vi utformat skyddsåtgärderna och åtkomstvillkoren för GPT‑6 Cyber. Det omfattar kraftverk, vattenreningsanläggningar samt den operativa teknik och de industriella styrsystem (OT/ICS) som ligger till grund för dem. Vi vill ge teamen som försvarar dessa system tillgång till våra mest kapabla modeller och samtidigt stärka våra skyddsåtgärder för att förhindra obehöriga attacker.

För det första ger vi dessa försvarare bättre förutsättningar genom vårt bidragsprogram Daybreak for Frontline Defenders⁠ på 1 miljard USD. Det subventionerar åtkomst för team med begränsade resurser, till exempel myndigheter och leverantörer av samhällsviktiga tjänster. Vi inför också en ny grupp inom Daybreak Red (Daybreak Red for Critical Infrastructure) för godkända försvarare av kritisk infrastruktur. Den ger dem behörighet att utföra auktoriserad testning av kritiska system, samtidigt som skyddet mot bristande följsamhet hos modellen behålls.

För det andra har vi, för att förhindra missbruk av plattformarna Daybreak Red och Blue, förfinat skyddet mot assistans och förmågeutveckling som skulle kunna äventyra industriella styrsystem eller säkerhetskritiska system, störa utrustning eller orsaka allvarliga personskador, katastrofala fysiska skador eller livshotande driftavbrott. Figuren nedan jämför hur ofta skyddsåtgärderna flaggar innehåll i fyra åtkomstkonfigurationer, före och efter de senaste uppdateringarna som vi inför i samband med GPT‑6 Cyber.

En högre andel blockeringar är inte alltid bättre. Många av teknikerna i den här utvärderingen är också avgörande för legitimt säkerhetsarbete: att förstå system, hitta sårbarheter och verifiera att korrigeringar står emot attacker. Vi bedömer därför dessa andelar tillsammans med stödet för legitim forskning och korrigeringar, snarare än att sikta på 100 %.

För att utvärdera hur våra modeller kan bidra till att försvara kritisk infrastruktur samarbetade vi med Dragos, en global leverantör av cybersäkerhet för utökad operativ teknik (xOT). Dragos genomförde utvärderingar i en kontrollerad labbmiljö med Daybreak Red-modeller som har mer tillåtande regler för cyberuppgifter. Utvärderingarna omfattade förfrågningar som stegvis gick från nätverkskartläggning och inventering av tillgångar till riktad rekognosering, exfiltration av känsliga data och obehöriga, potentiellt farliga åtgärder på enheter.

Vi använde återkopplingen från Dragos för att förfina våra skyddsåtgärder, med målet att blockera skadlig assistans utan att i onödan begränsa auktoriserad testning. Se deras slutrapport⁠(öppnas i ett nytt fönster) för detaljer om utvärderingarna. Vi arbetar också med att utöka samarbetet med andra leverantörer av offensiva säkerhetstjänster och purple teams kring penetrationstestning och red teaming med AI. Dessutom samarbetar vi med energibolag, andra operatörer av kritisk infrastruktur och nationella laboratorier för att bedöma modellernas effektivitet och skyddsåtgärder vid försvar av industriella system. Vi har också ökat våra investeringar i hotutredningar för att upptäcka modellanvändning som involverar OT/ICS. Vi fortsätter att förfina våra skyddsåtgärder med hjälp av synpunkter från partner och säkerhetscommunityn, bland annat rapporter via /feedback när skyddsåtgärderna missar skadlig aktivitet eller avbryter legitimt arbete.

GPT‑6 Cyber är inledningsvis tillgänglig via API:et och Codex för en utvald grupp godkända Daybreak Red-kunder. Vi kommer snart att stegvis ge alla Daybreak Red-kunder tillgång och gör även GPT‑5.6 Cyber tillgänglig för samtliga Daybreak Red-kunder. Vi utökar också alfaåtkomsten till Daybreak Blue för GPT‑6 Astra till fler organisationer och enskilda säkerhetsforskare. Hör av dig⁠(öppnas i ett nytt fönster) om du är intresserad.

Nya användare och organisationer kan ansöka om att gå med i Daybreak⁠ och komma igång med våra cyberfärdigheter, produkter och partner⁠.