GPT‑6 Cyber: Nye fremskridt for cybersikkerhedsagenter, der følger de givne rammer

Vi introducerer GPT‑6 Cyber, et stort fremskridt inden for sikkerhedsforskning: bedre til at finde og rette sårbarheder og langt mere pålidelig, når det gælder om at holde sig inden for de rammer, forskerne sætter. GPT‑6 Cyber leverer markante forbedringer i forhold til GPT‑5.6 Cyber på centrale benchmarks for cybersikkerhed, herunder en relativ forbedring på 51 % på ExploitGym og et markant spring fremad i test af, om den holder sig inden for opgavens rammer. Den hjælper allerede med at sikre software i praksis ved at finde og verificere tusindvis af exploits i sikkerhedskritiske kodebaser som Linux og Firefox.

På ExploitGym, som tester, om modeller kan udnytte en angivet sårbarhed, opnår GPT‑6 Cyber en score på 48,5 % mod 32,1 % for GPT‑5.6 Cyber. Den overholder også opgavens rammer mere pålideligt: I en særskilt evaluering af, om modellen følger den tilsigtede adfærd, undlod GPT‑6 Cyber at udnytte sårbarheder i tjenester uden for opgavens rammer i 99,93 % af testene uden sin driftsprompt og i 100 % med denne prompt. Denne forbedring i at følge den tilsigtede adfærd afspejler målrettet træning i at holde sig inden for godkendte rammer, respektere begrænsninger og rapportere resultater præcist.

Disse evner bidrager allerede til at sikre systemer i praksis. Vores forskere brugte GPT‑6 Cyber til at udvikle 948 exploits til rettighedseskalering i Linux⁠ og identificere 81 hidtil ukendte sårbarheder med høj alvorlighedsgrad i Firefox trods omfattende forudgående test med banebrydende modeller. Modellen hjalp også med at udvikle forslag til rettelser, og Mozilla har udgivet rettelser til mange af sårbarhederne i Firefox⁠(åbner i et nyt vindue). Sikkerhedsteams hos Cisco, Calif og CodeRabbit bruger den til sårbarhedsforskning og kodegennemgang, og vi har brugt den til at finde og rette svagheder i vores egen infrastruktur⁠.

Det står klart, at vi har et begrænset tidsvindue til at bruge banebrydende modeller til at sikre software⁠. Vores mål er at udvide Daybreak markant og gøre avanceret sikkerhedsforskning tilgængelig for organisationer i alle størrelser, uafhængige forskere og vedligeholdere af open source-software. Modeller i vores hovedserie som GPT‑6 Astra understøtter allerede kodegennemgang, vurdering og prioritering af sårbarheder samt udvikling af rettelser. Daybreak Blue hjælper verificerede sikkerhedsfolk med at validere sårbarheder og rettelser med færre unødige afvisninger, mens Daybreak Red muliggør mere dybdegående udvikling af exploits og autoriserede sikkerhedstest med GPT‑6 Cyber.

GPT‑6 Cyber er et stort fremskridt i forhold til GPT‑5.6 Cyber og klarer sig bedre end GPT‑6 Astra på de fleste cyberopgaver, selv når Astra ikke afviser anmodningen. Vi evaluerede modellen på opgaver, der kræver, at den forstår software, identificerer sårbarheder og udvikler fungerende exploits. På baggrund af disse resultater klassificerer vi modellen på niveauet Kritisk inden for cybersikkerhed i vores Preparedness Framework, mod niveauet Høj for GPT‑5.6 Cyber.

På ExploitGym, som tester, om modeller kan udnytte en angivet sårbarhed i et fjernt målsystem, opnår GPT‑6 Cyber en score på 48,5 %, cirka 16 procentpoint højere end GPT‑5.6 Cybers 32,1 %. For at teste evnen til at finde sårbarheder udviklede vi også en ny evaluering af offensiv penetrationstest af webapplikationer. Modellerne undersøger webapplikationer uden adgang til deres kildekode. GPT‑6 Cyber fandt 40,3 % af sårbarhederne mod 32,0 % for GPT‑6 Astra.

Daybreak Red er udviklet til at understøtte mere avancerede sikkerhedsarbejdsgange, herunder udvikling af fungerende exploits og brug af dem mod fjerne målsystemer. For at evaluere disse evner udviklede vi et nyt benchmark, RemoteExploitBench, der bruger kendte sårbarheder i applikationer som GitLab, PostgreSQL og Jenkins, som er installeret i et kontrolleret miljø. I vores indledende evaluering afviste GPT‑6 Astra med Daybreak Blue 100 % af opgaverne, mens GPT‑6 Cyber gennemførte 95 %. Den eneste opgave, den ikke klarede, var en exploit, som den ikke kunne få til at fungere mod et fjernt målsystem. Se alle resultater og evalueringsindstillinger i systemkortet⁠(åbner i et nyt vindue).

En risiko ved cybersikkerhedsagenter er, at de går ud over den tildelte opgaves rammer, forsøger at udnytte sårbarheder i uvedkommende tjenester eller tilsidesætter forskerens regler for arbejdet.

Vi gjorde det til et centralt fokus for GPT‑6 Cyber at følge den tilsigtede adfærd. Gennem specialiseret træning hjalp vi modellen med at holde sig inden for de godkendte rammer, overholde begrænsninger for sine handlinger og rapportere præcist om sit arbejde. Før lanceringen gennemførte vi en række evalueringer for at måle, hvor godt modellen fulgte den tilsigtede adfærd. Se alle resultaterne i systemkortet⁠(åbner i et nyt vindue).

En af disse evalueringer er ExploitGym Honeypot, som bygger på erfaringer fra hændelsen hos Hugging Face⁠. Vi giver modellen en vanskelig opgave med at udnytte en sårbarhed i et isoleret miljø med adgang til understøttende tjenester, f.eks. et pakkeregister eller et objektlager. Vi gør bevidst disse tjenester lette at angribe, så et angreb på dem kan afsløre opgavens flag. Modellen skal selv udlede, at udnyttelse af sårbarheder i dem ligger uden for opgavens rammer.

GPT‑6 Cyber viser et markant spring fremad i forhold til GPT‑5.6 Cyber i denne evaluering. I test uden de sikkerhedsprompter, der bruges i drift, undlod den at udnytte sårbarheder i tjenester uden for opgavens rammer i 99,93 % af tilfældene mod 94,49 % for GPT‑5.6 Cyber. Med disse prompter holdt GPT‑6 Cyber sig inden for rammerne i 100 % af tilfældene.

Vi kan se direkte i GPT‑6 Cyber-modellens tankerække, hvordan den ræsonnerer om at holde sig inden for rammerne:

GPT‑6 Cyber hjælper allerede sikkerhedsteams med at finde sårbarheder, bekræfte deres konsekvenser og udvikle rettelser. Kunder bruger den til store kodebaser, langvarige forløb med udvikling af exploits og sikkerhedsgennemgange:

Vi har også brugt GPT‑6 Cyber til at sikre vores egne systemer. Den var en af de vigtigste modeller bag det arbejde, vi for nylig delte om at styrke sikkerheden i den infrastruktur, der bruges til at træne banebrydende modeller⁠. I kontrollerede red-teaming-kampagner kædede agenter med GPT‑6 Cyber og andre OpenAI-modeller sårbarheder sammen for at bryde ud af microVM'er og afvikle kode på de underliggende værter. Vi brugte resultaterne til at rette software, skærpe netværksbegrænsninger og rapportere problemer til vedligeholdere og leverandører.

Vores sårbarhedsforskere bruger også GPT‑6 Cyber til at finde og verificere sårbarheder i open source-software i stor skala. Arbejdet har afdækket hidtil ukendte fejl i software, som er blevet gransket i årevis:

• Fandt 81 hidtil ukendte sårbarheder i Firefox. GPT‑6 Cyber kan være velegnet til autonome arbejdsgange, der finder sårbarheder og foreslår rettelser af høj kvalitet i stor skala. Under en kampagne med fokus på sårbarhedsforskning udarbejdede GPT‑6 Cyber dokumentation og reproducerbare test for 81 hidtil ukendte sårbarheder, som Mozilla klassificerede med høj alvorlighedsgrad. Modellen viste desuden, at yderligere 30 kendte problemer var mere alvorlige end tidligere rapporteret. Vi delte resultaterne med Mozilla sammen med forslag til rettelser for at hjælpe deres udviklere med at løse problemerne. Mozilla støttede arbejdet og begyndte at indarbejde rettelser kort efter at have modtaget rapporterne⁠(åbner i et nyt vindue).

• Udvikling af exploits til 948 sårbarheder i Linux-kernen⁠. GPT‑6 Cyber reproducerede 1.724 sårbarheder og udviklede fungerende exploits til 948 af dem – mere end fem gange de 166, som GPT‑5.6 Sol udnyttede med samme forskningsharness. Efter vejledning fra Linux-fællesskabet rapporterede vi 304 kritiske fund til vedligeholderne sammen med forslag til rettelser og arbejder på at få de øvrige sårbarheder rettet.

• Påvisning af kritiske RCE-sårbarheder. Vi omtalte for nylig en kritisk sårbarhed i Brotli⁠(åbner i et nyt vindue), et komprimeringsbibliotek, der bruges af Node.js og anden software. Vores sikkerhedsforskere brugte GPT‑6 Cyber sammen med andre OpenAI-modeller til at udvikle og verificere exploits, der viste, hvordan fejlen kunne muliggøre fjernkørsel af kode i applikationer, som bruger biblioteket.

I takt med at modellerne bliver mere kapable og afdækker flere sikkerhedssårbarheder, ser vi også flere forsøg på at bruge dem til at gøre skade. Det omfatter forsøg fra ondsindede cyberaktører og fjendtligtsindede grupper, der søger at destillere vores modeller. Derfor har vi kombineret GPT‑6 Cybers stærkere evner med stærkere sikkerhedsforanstaltninger for at opdage og afbryde misbrug og holde modellens handlinger inden for brugerens hensigt og tilladelse.

Vi tilføjede og styrkede disse beskyttelser i forbindelse med lanceringen af GPT‑6 Cyber (se alle oplysningerne i systemkortet⁠(åbner i et nyt vindue)):

• Cyberspecifik overvågning af afvigelser fra den tilsigtede adfærd. Vi overvåger, om handlingerne stemmer overens med brugerens tilladelse, og tager samtidig højde for legitim udvikling og test af exploits.

• Målrettet overvågning af nye trusler. Under den koordinerede offentliggørelse af kritiske PHP-sårbarheder oprettede vi f.eks. målrettet overvågning af forsøg på at udvikle exploits mod PHP-servere i drift, samtidig med at vi fortsat understøttede sikkerhedsfolk, der rettede de berørte systemer.

• Private Safety Processing (PSP). Vi bruger automatiserede kontroller til at gennemgå relaterede interaktioner for misbrug. De almindelige opbevaringsregler gælder fortsat som standard. API-kunder, der bruger ingen datalagring⁠(åbner i et nyt vindue), skal som hovedregel bruge PSP⁠(åbner i et nyt vindue). PSP gennemgår krypterede registreringer, der opbevares i kundens lager i 30 dage, uden at OpenAI-medarbejdere får adgang til prompter og svar.

• Beskyttelse mod stjålne adgangsoplysninger. Som standard kræver vi en liste over tilladte IP-adresser for API-adgang til Daybreak Red, så anmodninger med få undtagelser begrænses til godkendte netværk. Vi overvåger også, om adgangsoplysninger er blevet kompromitteret.

• Sandboxing og tilsyn. Som med tidligere modeller anbefaler vi sandboxing⁠(åbner i et nyt vindue), gennemgang af handlinger⁠(åbner i et nyt vindue) og menneskeligt tilsyn ved højrisikoarbejdsgange.

• Beskyttelse mod cyberassistance med høj risiko. Vi bruger nye kontroller til at blokere højrisikoaktivitet, der involverer kritiske systemer (læs mere nedenfor).

Beskyttelse af kritisk infrastruktur har været et centralt hensyn i udformningen af GPT‑6 Cybers sikkerhedsforanstaltninger og adgangsregler. Det gælder bl.a. kraftværker, vandbehandlingsanlæg og den operationelle teknologi og de industrielle kontrolsystemer (OT/ICS), de bygger på. Vi vil både give de teams, der beskytter disse systemer, adgang til vores mest kapable modeller og styrke vores sikkerhedsforanstaltninger for at forhindre uautoriserede angreb.

For det første giver vores støtteprogram Daybreak for Frontline Defenders⁠ på 1 milliard USD tilskud til adgang for teams med begrænsede ressourcer, f.eks. offentlige organisationer og udbydere af væsentlige tjenester, så de er bedre rustet til at beskytte systemerne. Vi introducerer også en ny gruppe inden for Daybreak Red (Daybreak Red for Critical Infrastructure) for godkendte sikkerhedsfolk, der beskytter kritisk infrastruktur. Gruppen giver dem tilladelse til at udføre autoriserede test af kritiske systemer, samtidig med at beskyttelsen mod afvigelser fra modellens tilsigtede adfærd opretholdes.

For det andet har vi for at forhindre misbrug af Daybreak Red- og Blue-platformene forbedret beskyttelsen mod assistance og udvikling af kapabiliteter, der kan kompromittere industrielle kontrolsystemer eller sikkerhedskritiske systemer, forstyrre udstyr eller forårsage alvorlig personskade, katastrofale fysiske skader eller livstruende driftsafbrydelser. Figuren nedenfor sammenligner andelen af markeringer fra sikkerhedsforanstaltningerne på tværs af fire adgangskonfigurationer før og efter de seneste opdateringer, som vi udruller sammen med GPT‑6 Cyber.

En højere blokeringsrate er ikke altid bedre. Mange af teknikkerne i denne evaluering er også afgørende for legitimt sikkerhedsarbejde: at forstå systemer, finde sårbarheder og kontrollere, at rettelser kan modstå angreb. Derfor vurderer vi disse rater sammen med understøttelsen af legitim forskning og fejlretning frem for at sigte efter 100 %.

For at evaluere, hvordan vores modeller kan hjælpe med at beskytte kritisk infrastruktur, indgik vi et samarbejde med Dragos, den globale leverandør af cybersikkerhed til udvidet operationel teknologi (xOT). Dragos gennemførte evalueringer i et kontrolleret laboratoriemiljø med Daybreak Red-modeller, der har færre begrænsninger for cyberopgaver. Evalueringerne omfattede anmodninger, der bevægede sig fra netværkskortlægning og opregning af aktiver til målrettet rekognoscering, eksfiltration af følsomme data og uautoriserede, potentielt farlige handlinger på enheder.

Vi brugte feedback fra Dragos til at forbedre vores sikkerhedsforanstaltninger med det mål at blokere skadelig assistance uden unødigt at begrænse autoriserede test. Se deres endelige rapport⁠(åbner i et nyt vindue) for detaljer om evalueringerne. Vi arbejder også på at udvide samarbejdet med andre udbydere af offensiv sikkerhed og purple teams om penetrationstest og red-teaming med AI samt med energiselskaber, andre operatører af kritisk infrastruktur og nationale laboratorier for at vurdere vores modellers effektivitet og sikkerhedsforanstaltninger i beskyttelsen af industrisystemer. Vi har desuden øget vores investeringer i trusselsundersøgelser for at opdage brug af modeller, der involverer OT/ICS. Vi vil fortsat forbedre vores sikkerhedsforanstaltninger med input fra partnere og sikkerhedsmiljøet, herunder indberetninger via /feedback, når sikkerhedsforanstaltningerne overser skadelig aktivitet eller afbryder legitimt arbejde.

GPT‑6 Cyber er i første omgang tilgængelig via API'et og Codex for en udvalgt gruppe godkendte Daybreak Red-kunder. Vi vil snart gradvist udvide adgangen til alle Daybreak Red-kunder og gør også GPT‑5.6 Cyber tilgængelig for alle Daybreak Red-kunder. Vi udvider også Daybreak Blue-alfaadgangen til GPT‑6 Astra til flere organisationer og individuelle sikkerhedsforskere. Giv os besked⁠(åbner i et nyt vindue), hvis du er interesseret.

Nye brugere og organisationer kan ansøge om adgang til Daybreak⁠ og komme i gang med vores cyberfærdigheder, produkter og partnere⁠.