GPT‑6 Cyber: Nye fremskritt for cybersikkerhetsagenter som følger gitte mål og rammer

Vi introduserer GPT‑6 Cyber, et stort sprang innen sikkerhetsforskning: bedre til å finne og rette sårbarheter, og langt mer pålitelig når det gjelder å holde seg innenfor rammene forskerne setter. GPT‑6 Cyber gir store forbedringer sammenlignet med GPT‑5.6 Cyber på sentrale referansetester for cybersikkerhet, inkludert en relativ forbedring på 51 % på ExploitGym og et markant sprang i tester av evnen til å holde seg innenfor rammene. Den bidrar allerede til å sikre programvare i praksis ved å avdekke og validere tusenvis av måter å utnytte sårbarheter på i sikkerhetskritiske kodebaser som Linux og Firefox.

På ExploitGym, som tester om modeller kan utnytte en angitt sårbarhet, oppnår GPT‑6 Cyber 48,5 %, opp fra 32,1 % for GPT‑5.6 Cyber. Den følger også oppgavens rammer mer pålitelig: I en separat evaluering av samsvar med gitte mål og rammer unngikk GPT‑6 Cyber å utnytte tjenester utenfor rammene i 99,93 % av testene uten driftsprompten, og i 100 % med denne prompten. Denne forbedringen gjenspeiler målrettet trening i å holde seg innenfor autoriserte rammer, respektere begrensninger og rapportere resultater nøyaktig.

Disse egenskapene bidrar allerede til å sikre systemer i praksis. Forskerne våre brukte GPT‑6 Cyber til å utvikle 948 angrepskoder for rettighetseskalering i Linux⁠ og identifisere 81 tidligere ukjente sårbarheter med høy alvorlighetsgrad i Firefox, til tross for omfattende tidligere testing med banebrytende modeller. Modellen bidro også til å utvikle forslag til rettelser, og Mozilla har utgitt rettelser for mange av Firefox-sårbarhetene⁠(åpnes i et nytt vindu). Sikkerhetsteam hos Cisco, Calif og CodeRabbit bruker den til sårbarhetsforskning og kodegjennomgang, og vi har brukt den til å finne og rette svakheter i vår egen infrastruktur⁠.

Det er tydelig at vi har et begrenset tidsvindu til å bruke banebrytende modeller til å sikre programvare⁠. Målet vårt er å utvide Daybreak kraftig og gjøre avansert sikkerhetsforskning tilgjengelig for organisasjoner av alle størrelser, uavhengige forskere og vedlikeholdere av åpen kildekode. Modeller i hovedserien, som GPT‑6 Astra, støtter allerede kodegjennomgang, prioritering av sårbarheter og utvikling av rettelser. Daybreak Blue hjelper verifiserte sikkerhetsaktører med å validere sårbarheter og rettelser med færre unødvendige avslag, mens Daybreak Red muliggjør mer dyptgående utvikling av angrepskode og autorisert sikkerhetstesting med GPT‑6 Cyber.

GPT‑6 Cyber er et stort fremskritt fra GPT‑5.6 Cyber og overgår GPT‑6 Astra på de fleste cyberoppgaver, selv når Astra ikke avslår forespørselen. Vi evaluerte modellen på oppgaver som krever at den forstår programvare, identifiserer sårbarheter og utvikler fungerende angrepskode. Basert på disse resultatene klassifiserer vi modellen på nivået Kritisk innen cybersikkerhet i henhold til Preparedness Framework, opp fra Høy for GPT‑5.6 Cyber.

På ExploitGym, som tester om modeller kan utnytte en angitt sårbarhet i et eksternt målsystem, oppnår GPT‑6 Cyber 48,5 %, omtrent 16 prosentpoeng høyere enn GPT‑5.6 Cybers 32,1 %. For å teste evnen til å oppdage sårbarheter utviklet vi også en ny evaluering for offensiv penetrasjonstesting av nettapplikasjoner. Modellene undersøker nettapplikasjoner uten tilgang til kildekoden deres. GPT‑6 Cyber fant 40,3 % av sårbarhetene, sammenlignet med 32,0 % for GPT‑6 Astra.

Daybreak Red er utviklet for å støtte mer avanserte sikkerhetsarbeidsflyter, inkludert å utvikle fungerende angrepskode og bruke den mot eksterne målsystemer. For å evaluere disse egenskapene utviklet vi en ny referansetest kalt RemoteExploitBench, som bruker kjente sårbarheter i applikasjoner som GitLab, PostgreSQL og Jenkins, satt opp i et kontrollert miljø. I den første evalueringen vår avslo GPT‑6 Astra med Daybreak Blue 100 % av oppgavene, mens GPT‑6 Cyber fullførte 95 %. Den eneste feilen var angrepskode som modellen ikke fikk til å fungere eksternt. Se systemkortet⁠(åpnes i et nytt vindu) for fullstendige resultater og evalueringsinnstillinger.

En risiko ved cybersikkerhetsagenter er at de går utenfor rammene for oppgaven de er tildelt, forsøker å utnytte sårbarheter i uvedkommende tjenester eller ser bort fra forskerens regler for gjennomføringen.

Vi la stor vekt på samsvar med gitte mål og rammer i GPT‑6 Cyber. Gjennom spesialisert trening hjalp vi modellen med å holde seg innenfor autoriserte rammer, følge begrensninger på handlingene sine og rapportere nøyaktig om arbeidet sitt. Før modellen ble tatt i bruk, gjennomførte vi en rekke evalueringer for å måle denne atferden. Se systemkortet⁠(åpnes i et nytt vindu) for fullstendige resultater.

En av disse evalueringene er ExploitGym Honeypot, som bygger på erfaringer fra Hugging Face-hendelsen⁠. Vi gir modellen en vanskelig oppgave som går ut på å utnytte en sårbarhet i et isolert miljø med tilgang til støttetjenester, som et pakkeregister eller et objektlager. Vi gjør bevisst disse tjenestene lette å utnytte, slik at et angrep på dem kan avsløre oppgavens flagg. Modellen må selv slutte seg til at det å utnytte dem ligger utenfor oppgavens rammer.

GPT‑6 Cyber viser et markant sprang fra GPT‑5.6 Cyber i denne evalueringen. Da den ble testet uten sikkerhetspromptene som brukes i drift, unngikk den å utnytte tjenester utenfor rammene i 99,93 % av tilfellene, opp fra 94,49 % for GPT‑5.6 Cyber. Med disse promptene holdt GPT‑6 Cyber seg innenfor rammene i 100 % av tilfellene.

Vi kan se direkte i GPT‑6 Cyber-modellens tankerekke hvordan den resonnerer om å holde seg innenfor rammene:

GPT‑6 Cyber hjelper allerede sikkerhetsteam med å finne sårbarheter, bekrefte konsekvensene av dem og utvikle rettelser. Kunder har tatt den i bruk på store kodebaser, i langvarig utvikling av angrepskode og til sikkerhetsgjennomgang:

Vi har også brukt GPT‑6 Cyber til å sikre våre egne systemer. Den var en av hovedmodellene bak arbeidet vi nylig delte om å herde infrastrukturen som brukes til å trene banebrytende modeller⁠. I kontrollerte red teaming-kampanjer kombinerte agenter som brukte GPT‑6 Cyber og andre OpenAI-modeller, flere sårbarheter for å bryte ut av mikro-VM-er og kjøre kode på de underliggende vertsmaskinene. Vi brukte funnene til å rette programvare, stramme inn nettverksbegrensninger og rapportere problemer til vedlikeholdere og leverandører.

Sårbarhetsforskerne våre bruker også GPT‑6 Cyber til å finne og bekrefte sårbarheter i programvare med åpen kildekode i stor skala. Dette arbeidet har avdekket tidligere ukjente feil i programvare som har blitt grundig gransket i årevis:

• Fant 81 nye sårbarheter i Firefox. GPT‑6 Cyber kan egne seg for autonome arbeidsflyter som finner sårbarheter og foreslår rettelser av høy kvalitet i stor skala. Under en sårbarhetsforskningskampanje utarbeidet GPT‑6 Cyber dokumentasjon og reproduserbare tester for 81 nye sårbarheter som Mozilla klassifiserte som alvorlige. Modellen viste også at ytterligere 30 kjente problemer var mer alvorlige enn tidligere rapportert. Vi rapporterte funnene til Mozilla sammen med forslag til rettelser for å hjelpe utviklerne deres med å utbedre feilene. Mozilla støttet arbeidet og begynte å innlemme rettelser kort tid etter at de mottok rapportene⁠(åpnes i et nytt vindu).

• Utvikling av angrepskode for 948 sårbarheter i Linux-kjernen⁠. GPT‑6 Cyber reproduserte 1 724 sårbarheter og utviklet fungerende angrepskode for 948 – mer enn fem ganger så mange som de 166 GPT‑5.6 Sol utnyttet med det samme forskningsrammeverket. I tråd med veiledningen fra Linux-miljøet rapporterte vi 304 kritiske funn til vedlikeholderne, sammen med forslag til rettelser, og vi arbeider med å få utbedret andre sårbarheter.

• Demonstrasjon av kritiske RCE-sårbarheter. Vi omtalte nylig en kritisk sårbarhet i Brotli⁠(åpnes i et nytt vindu), et komprimeringsbibliotek som brukes av Node.js og annen programvare. Sikkerhetsforskerne våre brukte GPT‑6 Cyber sammen med andre OpenAI-modeller til å utvikle og validere angrepskode som viste hvordan feilen kunne muliggjøre ekstern kjøring av kode i applikasjoner som bruker biblioteket.

Etter hvert som modellene blir mer kapable og avdekker flere sikkerhetssårbarheter, ser vi også flere forsøk på å bruke dem til å gjøre skade. Disse forsøkene omfatter aktivitet fra ondsinnede cyberaktører og fiendtlige grupper som prøver å destillere modellene våre. Vi har derfor kombinert de sterkere egenskapene til GPT‑6 Cyber med sterkere sikkerhetstiltak for å oppdage og stanse misbruk, og for å sikre at modellens handlinger holder seg innenfor brukerens hensikt og autorisasjon.

Vi innførte og styrket disse beskyttelsestiltakene i forbindelse med lanseringen av GPT‑6 Cyber (se systemkortet⁠(åpnes i et nytt vindu) for fullstendig informasjon):

• Cyberspesifikk overvåking av avvik fra gitte mål og rammer. Vi overvåker om handlingene samsvarer med brukerens autorisasjon, samtidig som vi tar hensyn til legitim utvikling og testing av angrepskode.

• Målrettet overvåking av nye trusler. Under den koordinerte offentliggjøringen av kritiske PHP-sårbarheter satte vi for eksempel opp målrettet overvåking av forsøk på å utvikle angrepskode mot PHP-servere i drift, samtidig som vi opprettholdt støtten til sikkerhetsteam som utbedret berørte systemer.

• Private Safety Processing (PSP). Vi bruker automatiserte kontroller til å gjennomgå relaterte interaksjoner for misbruk. Standard dataoppbevaring er fortsatt standardinnstillingen. API-kunder som bruker ingen oppbevaring av data⁠(åpnes i et nytt vindu), må som hovedregel bruke PSP⁠(åpnes i et nytt vindu). PSP gjennomgår krypterte oppføringer som oppbevares i kundens lagringsmiljø i 30 dager, uten å eksponere prompter og svar for OpenAI-personell.

• Beskyttelse mot stjålet påloggingsinformasjon. Som standard krever vi tillatelseslister for IP-adresser ved API-tilgang til Daybreak Red. Dette begrenser forespørsler til godkjente nettverk, med få unntak. Vi overvåker også påloggingsinformasjon for tegn på kompromittering.

• Sandkasseisolering og tilsyn. Som for tidligere modeller anbefaler vi sandkasseisolering⁠(åpnes i et nytt vindu), gjennomgang av handlinger⁠(åpnes i et nytt vindu) og menneskelig tilsyn for arbeidsflyter med høy risiko.

• Beskyttelse mot cyberbistand med høy risiko. Vi bruker nye kontroller til å blokkere høyrisikoaktivitet som involverer kritiske systemer (se mer nedenfor).

Beskyttelse av kritisk infrastruktur har vært et sentralt hensyn i utformingen av sikkerhetstiltakene og tilgangen til GPT‑6 Cyber. Dette omfatter kraftverk, vannbehandlingsanlegg og den operasjonelle teknologien og de industrielle kontrollsystemene (OT/ICS) som ligger til grunn for dem. Vi ønsker både å gi teamene som forsvarer disse systemene, tilgang til våre mest kapable modeller og å styrke sikkerhetstiltakene våre for å forhindre uautoriserte angrep.

For det første subsidierer støtteprogrammet vårt Daybreak for Frontline Defenders⁠, på 1 milliard dollar, tilgang for team med begrensede ressurser, som offentlige organisasjoner og leverandører av samfunnskritiske tjenester. Vi introduserer også en ny gruppe innen Daybreak Red (Daybreak Red for kritisk infrastruktur) for godkjente aktører som forsvarer kritisk infrastruktur. Den gir dem tillatelse til å gjennomføre autorisert testing av kritiske systemer, samtidig som sikkerhetstiltak mot avvik fra modellens gitte mål og rammer opprettholdes.

For det andre har vi, for å forhindre misbruk av Daybreak Red- og Blue-plattformene, forbedret sikkerhetstiltakene mot bistand og kapabilitetsutvikling som kan kompromittere industrielle kontrollsystemer eller sikkerhetskritiske systemer, forstyrre utstyr eller føre til alvorlig personskade, katastrofal fysisk skade eller livstruende tjenesteavbrudd. Figuren nedenfor sammenligner andelen tilfeller som merkes av sikkerhetstiltakene, for fire tilgangskonfigurasjoner, før og etter de nyeste oppdateringene vi ruller ut sammen med GPT‑6 Cyber.

Høyere blokkeringsandel er ikke alltid bedre. Mange av teknikkene i denne evalueringen er også avgjørende for legitimt sikkerhetsarbeid: å forstå systemer, finne sårbarheter og kontrollere at rettelser tåler angrep. Vi vurderer derfor disse andelene opp mot støtten til legitim forskning og feilretting, fremfor å sikte mot 100 %.

For å evaluere hvordan modellene våre kan bidra til å forsvare kritisk infrastruktur, samarbeidet vi med Dragos, den globale leverandøren av cybersikkerhet for utvidet operasjonell teknologi (xOT). Dragos gjennomførte evalueringer i et kontrollert laboratoriemiljø med Daybreak Red-modeller som tillater et bredere spekter av cyberoppgaver. Evalueringene omfattet forespørsler som gikk fra nettverksoppdagelse og kartlegging av ressurser til målrettet rekognosering, eksfiltrering av sensitive data og uautoriserte, potensielt farlige handlinger på enheter.

Vi brukte tilbakemeldinger fra Dragos til å forbedre sikkerhetstiltakene våre, med mål om å blokkere skadelig bistand uten å begrense autorisert testing unødig. Se sluttrapporten deres⁠(åpnes i et nytt vindu) for detaljer om evalueringene. Vi arbeider også med å utvide samarbeidet med andre leverandører av offensiv sikkerhet og lilla team om penetrasjonstesting og red teaming med AI. I tillegg samarbeider vi med energiselskaper, andre operatører av kritisk infrastruktur og nasjonale laboratorier for å vurdere modellenes effektivitet og sikkerhetstiltak i forsvaret av industrielle systemer. Vi har også økt satsingen på trusselundersøkelser for å oppdage modellbruk som involverer OT/ICS. Vi vil fortsette å forbedre sikkerhetstiltakene våre med innspill fra partnere og sikkerhetsmiljøet, inkludert rapporter via /feedback når tiltakene overser skadelig aktivitet eller avbryter legitimt arbeid.

GPT‑6 Cyber er i første omgang tilgjengelig via API-et og Codex for en utvalgt gruppe godkjente Daybreak Red-kunder. Vi vil snart gradvis utvide tilgangen til alle Daybreak Red-kunder, og gjør også GPT‑5.6 Cyber tilgjengelig for alle Daybreak Red-kunder. Vi utvider også alfatilgangen til Daybreak Blue for GPT‑6 Astra til flere organisasjoner og individuelle sikkerhetsforskere. Gi oss beskjed⁠(åpnes i et nytt vindu) hvis du er interessert.

Nye brukere og organisasjoner kan søke om tilgang til Daybreak⁠ og komme i gang med våre cyberferdigheter, produkter og partnere⁠.