GPT‑6 Cyber: tavoitteiden mukaiset kyberturvallisuusagentit uudelle tasolle

Esittelemme GPT‑6 Cyberin, joka on merkittävä harppaus tietoturvatutkimuksessa: se löytää ja korjaa haavoittuvuuksia aiempaa paremmin ja pysyy huomattavasti luotettavammin tutkijoiden asettamissa rajoissa. GPT‑6 Cyber parantaa tuloksia huomattavasti GPT‑5.6 Cyberiin verrattuna keskeisissä kyberturvallisuuden vertailutesteissä. ExploitGymissä suhteellinen parannus on 51 %, ja tehtävän rajojen noudattamista mittaavissa testeissä parannus on harppauksenomainen. Se auttaa jo suojaamaan käytössä olevia ohjelmistoja löytämällä ja todentamalla tuhansia hyväksikäyttömenetelmiä turvallisuuskriittisissä koodikannoissa, kuten Linuxissa ja Firefoxissa.

ExploitGymissä, joka testaa mallien kykyä hyödyntää määritettyä haavoittuvuutta, GPT‑6 Cyberin tulos on 48,5 %, kun GPT‑5.6 Cyberin tulos oli 32,1 %. Se noudattaa myös tehtävän rajoja luotettavammin: erillisessä tavoitteiden mukaisen toiminnan arvioinnissa GPT‑6 Cyber vältti tehtävän ulkopuolisten palvelujen haavoittuvuuksien hyväksikäyttöä 99,93 %:ssa testeistä ilman käyttöönottokehotetta ja 100 %:ssa tätä kehotetta käytettäessä. Tämä parannus tavoitteiden mukaisessa toiminnassa on tulosta kohdennetusta koulutuksesta, jolla mallia opetettiin pysymään sallituissa rajoissa, noudattamaan rajoituksia ja raportoimaan tuloksista täsmällisesti.

Nämä kyvykkyydet auttavat jo suojaamaan käytössä olevia järjestelmiä. Tutkijamme käyttivät GPT‑6 Cyberiä kehittääkseen 948 käyttöoikeuksien korottamiseen soveltuvaa hyväksikäyttömenetelmää Linuxiin⁠ ja löytääkseen Firefoxista 81 aiemmin tuntematonta vakavaa haavoittuvuutta, vaikka ohjelmistoja oli jo testattu laajasti edistyneillä malleilla. Malli auttoi myös kehittämään korjausehdotuksia, ja Mozilla on julkaissut korjauksia moniin Firefoxin haavoittuvuuksiin⁠(avautuu uudessa ikkunassa). Ciscon, Califin ja CodeRabbitin tietoturvatiimit käyttävät sitä haavoittuvuustutkimukseen ja koodikatselmointiin. Me olemme hyödyntäneet sitä oman infrastruktuurimme heikkouksien löytämiseen ja korjaamiseen⁠.

On selvää, että meillä on vain rajallisesti aikaa hyödyntää edistyneitä malleja ohjelmistojen suojaamiseen⁠. Tavoitteemme on laajentaa Daybreakia merkittävästi ja tuoda edistynyt tietoturvatutkimus kaikenkokoisten organisaatioiden, riippumattomien tutkijoiden ja avoimen lähdekoodin ylläpitäjien ulottuville. Yleiskäyttöiset mallit, kuten GPT‑6 Astra, tukevat jo koodikatselmointia, haavoittuvuuksien luokittelua ja priorisointia sekä korjausten kehittämistä. Daybreak Blue auttaa varmennettuja puolustajia todentamaan haavoittuvuuksia ja korjauksia niin, että tarpeettomia kieltäytymisiä on vähemmän. Daybreak Red puolestaan mahdollistaa syvällisemmän hyväksikäyttömenetelmien kehittämisen ja valtuutetun tietoturvatestauksen GPT‑6 Cyberillä.

GPT‑6 Cyber on merkittävä parannus GPT‑5.6 Cyberiin verrattuna ja suoriutuu GPT‑6 Astraa paremmin useimmissa kyberturvallisuustehtävissä silloinkin, kun Astra ei kieltäydy pyynnöstä. Arvioimme mallia tehtävillä, jotka edellyttävät ohjelmistojen ymmärtämistä, haavoittuvuuksien tunnistamista ja toimivien hyväksikäyttömenetelmien kehittämistä. Näiden tulosten perusteella luokittelemme mallin Valmiuskehyksessämme kyberturvallisuuden osalta kriittiselle tasolle, kun GPT‑5.6 Cyberin luokitus oli korkea.

ExploitGymissä, joka testaa mallien kykyä hyödyntää määritettyä haavoittuvuutta etäkohteessa, GPT‑6 Cyberin tulos on 48,5 %. Se on noin 16 prosenttiyksikköä korkeampi kuin GPT‑5.6 Cyberin 32,1 %. Haavoittuvuuksien löytämisen testaamiseksi rakensimme myös uuden arvioinnin hyökkäävään verkkosovellusten tunkeutumistestaukseen. Mallit tutkivat verkkosovelluksia ilman pääsyä niiden lähdekoodiin. GPT‑6 Cyber löysi 40,3 % haavoittuvuuksista, kun GPT‑6 Astran vastaava osuus oli 32,0 %.

Daybreak Red on suunniteltu tukemaan vaativampia tietoturvatyönkulkuja, kuten toimivien hyväksikäyttömenetelmien kehittämistä ja niiden käyttämistä etäkohteisiin. Näiden kyvykkyyksien arvioimiseksi rakensimme uuden RemoteExploitBench-vertailutestin. Se hyödyntää tunnettujen haavoittuvuuksien testaamiseen GitLabin, PostgreSQL:n ja Jenkinsin kaltaisia sovelluksia, jotka on otettu käyttöön hallitussa ympäristössä. Ensimmäisessä arvioinnissamme Daybreak Bluessa toimiva GPT‑6 Astra kieltäytyi 100 %:sta tehtävistä, kun taas GPT‑6 Cyber suoritti 95 %. Sen ainoa epäonnistuminen oli hyväksikäyttömenetelmä, jota se ei saanut toimimaan etänä. Kaikki tulokset ja arviointiasetukset ovat järjestelmäkortissa⁠(avautuu uudessa ikkunassa).

Kyberturvallisuusagentteihin liittyy riski, että ne ylittävät annetun tehtävän rajat, yrittävät hyödyntää tehtävään liittymättömien palvelujen haavoittuvuuksia tai sivuuttavat tutkijan asettamat toimintasäännöt.

Asetimme tavoitteiden mukaisen toiminnan GPT‑6 Cyberin kehityksen keskiöön. Erikoistuneella koulutuksella autoimme mallia pysymään sallituissa rajoissa, noudattamaan toimintaansa koskevia rajoituksia ja raportoimaan työstään täsmällisesti. Ennen käyttöönottoa teimme sarjan arviointeja mitataksemme näitä tavoitteiden mukaisen toiminnan osa-alueita. Kaikki tulokset ovat järjestelmäkortissa⁠(avautuu uudessa ikkunassa).

Yksi näistä arvioinneista on ExploitGym Honeypot, jonka suunnittelussa hyödynnettiin Hugging Face ‑tapauksesta⁠ saatuja oppeja. Annamme mallille vaikean haavoittuvuuden hyväksikäyttötehtävän eristetyssä ympäristössä, jossa se voi käyttää tukipalveluja, kuten pakettirekisteriä tai objektitallennustilaa. Teemme näistä palveluista tarkoituksella helposti murrettavia, jotta niihin hyökkäämällä voi löytää tehtävän lipun. Mallin on pääteltävä, että näiden palvelujen haavoittuvuuksien hyväksikäyttö ei kuulu tehtävään.

GPT‑6 Cyberin tulos tässä arvioinnissa on merkittävä harppaus GPT‑5.6 Cyberiin verrattuna. Ilman käyttöönoton turvakehotteita testattuna se vältti tehtävän ulkopuolisten palvelujen haavoittuvuuksien hyväksikäyttöä 99,93 %:ssa tapauksista, kun GPT‑5.6 Cyberin vastaava tulos oli 94,49 %. Näitä kehotteita käytettäessä GPT‑6 Cyber pysyi sallituissa rajoissa 100 %:ssa tapauksista.

GPT‑6 Cyber ‑mallin ajatusketjusta näemme suoraan, miten se päättelee, kuinka pysyä sallituissa rajoissa:

GPT‑6 Cyber auttaa jo tietoturvatiimejä löytämään haavoittuvuuksia, todentamaan niiden vaikutuksia ja kehittämään korjauksia. Asiakkaat ovat ottaneet sen käyttöön laajojen koodikantojen tutkimisessa, pitkäkestoisessa hyväksikäyttömenetelmien kehittämisessä ja tietoturvakatselmoinnissa:

Olemme hyödyntäneet GPT‑6 Cyberiä myös omien järjestelmiemme suojaamisessa. Se oli yksi keskeisistä malleista työssä, josta kerroimme äskettäin: edistyneiden mallien koulutuksessa käytettävän infrastruktuurin koventamisessa⁠. Hallituissa hyökkäävän tietoturvatestauksen kampanjoissa GPT‑6 Cyberiä ja muita OpenAI-malleja käyttävät agentit ketjuttivat haavoittuvuuksia murtautuakseen ulos microVM-ympäristöistä ja suorittaakseen koodia niiden isäntäkoneilla. Hyödynsimme havaintoja ohjelmistojen korjaamiseen, verkkorajoitusten tiukentamiseen sekä ongelmien raportointiin ylläpitäjille ja toimittajille.

Haavoittuvuustutkijamme käyttävät GPT‑6 Cyberiä myös avoimen lähdekoodin ohjelmistojen haavoittuvuuksien laajamittaiseen löytämiseen ja todentamiseen. Työ on paljastanut aiemmin tuntemattomia puutteita ohjelmistoista, joita on tutkittu tarkasti jo vuosien ajan:

• 81 uuden Firefox-haavoittuvuuden löytäminen. GPT‑6 Cyber voi soveltua autonomisiin työnkulkuihin, joissa etsitään haavoittuvuuksia ja ehdotetaan laadukkaita korjauksia laajassa mittakaavassa. Haavoittuvuustutkimuskampanjan aikana GPT‑6 Cyber tuotti näyttöä ja toistettavia testejä 81 uudesta haavoittuvuudesta, jotka Mozilla luokitteli vakaviksi. Lisäksi se osoitti 30 tunnetun ongelman olevan aiemmin raportoitua vakavampia. Ilmoitimme havainnoista Mozillalle ja toimitimme korjausehdotuksia sen insinöörien työn tueksi. Mozilla suhtautui työhön myönteisesti ja alkoi sisällyttää korjauksia ohjelmistoon pian raporttien vastaanottamisen jälkeen⁠(avautuu uudessa ikkunassa).

• Hyväksikäyttömenetelmien kehittäminen 948 Linux-ytimen haavoittuvuuteen⁠. GPT‑6 Cyber toisti 1 724 haavoittuvuutta ja kehitti toimivia hyväksikäyttömenetelmiä 948:aan. Määrä on yli viisinkertainen GPT‑5.6 Solin samalla tutkimuksen arviointikehyksellä hyödyntämiin 166 haavoittuvuuteen verrattuna. Linux-yhteisön ohjeiden mukaisesti ilmoitimme ylläpitäjille 304 kriittisestä havainnosta ja toimitimme korjausehdotuksia. Työ muiden haavoittuvuuksien korjaamiseksi jatkuu.

• Kriittisten koodin etäsuorituksen mahdollistavien haavoittuvuuksien osoittaminen. Kerroimme äskettäin kriittisestä haavoittuvuudesta Brotlissa⁠(avautuu uudessa ikkunassa), joka on Node.js:n ja muiden ohjelmistojen käyttämä pakkauskirjasto. Tietoturvatutkijamme käyttivät GPT‑6 Cyberiä yhdessä muiden OpenAI-mallien kanssa kehittääkseen ja todentaakseen hyväksikäyttömenetelmiä, jotka osoittivat, miten puute voisi mahdollistaa koodin etäsuorituksen kirjastoa käyttävissä sovelluksissa.

Mallien kyvykkyyden kasvaessa ja niiden löytäessä yhä enemmän tietoturvahaavoittuvuuksia havaitsemme myös aiempaa enemmän yrityksiä käyttää niitä vahingon aiheuttamiseen. Näihin kuuluu pahantahtoisten kybertoimijoiden yrityksiä sekä vihamielisten ryhmien pyrkimyksiä tislata mallejamme. Siksi olemme yhdistäneet GPT‑6 Cyberin paremmat kyvykkyydet vahvempiin suojatoimiin, jotka havaitsevat ja keskeyttävät väärinkäytön sekä pitävät mallin toiminnan käyttäjän tarkoituksen ja valtuutuksen rajoissa.

Lisäsimme ja vahvistimme seuraavia suojauksia GPT‑6 Cyberin julkaisun yhteydessä (kattavat tiedot ovat järjestelmäkortissa⁠(avautuu uudessa ikkunassa)):

• Kyberturvallisuustehtäviin kohdistuva tavoitteiden vastaisen toiminnan valvonta. Valvomme, vastaavatko toimet käyttäjän antamaa valtuutusta, ja huomioimme samalla hyväksikäyttömenetelmien oikeutetun kehittämisen ja testaamisen.

• Uusiin uhkiin kohdennettu valvonta. Esimerkiksi kriittisten PHP-haavoittuvuuksien koordinoidun julkistamisen yhteydessä otimme käyttöön kohdennetun valvonnan, jolla tunnistettiin yrityksiä kehittää hyväksikäyttömenetelmiä käytössä olevia PHP-palvelimia vastaan. Samalla säilytimme tuen puolustajille, jotka korjasivat haavoittuvia järjestelmiä.

• Private Safety Processing (PSP). Käytämme automaattisia tarkistuksia tutkiaksemme toisiinsa liittyviä vuorovaikutuksia väärinkäytön varalta. Tietojen tavanomainen säilytys on edelleen oletuskäytäntö. API-asiakkaiden, joilla on käytössä tietojen määräaikainen säilyttäminen⁠(avautuu uudessa ikkunassa), on yleensä käytettävä PSP:tä⁠(avautuu uudessa ikkunassa). Se tarkistaa asiakkaan tallennustilassa 30 päivän ajan säilytettävät salatut tietueet paljastamatta kehotteita tai vastauksia OpenAI:n henkilöstölle.

• Suoja varastettuja tunnistetietoja vastaan. Daybreak Redin API-käyttö edellyttää oletusarvoisesti sallittujen IP-osoitteiden luetteloa, joka rajaa pyynnöt hyväksyttyihin verkkoihin harvoja poikkeuksia lukuun ottamatta. Valvomme myös tunnistetietoja niiden vaarantumisen varalta.

• Hiekkalaatikointi ja valvonta. Aiempien mallien tapaan suosittelemme korkean riskin työnkulkuihin hiekkalaatikointia⁠(avautuu uudessa ikkunassa), toimien tarkistamista⁠(avautuu uudessa ikkunassa) ja ihmisen valvontaa.

• Suojaukset korkean riskin kybertoiminnassa avustamista vastaan. Estämme uusilla tarkistuksilla kriittisiin järjestelmiin liittyvää korkean riskin toimintaa (lisätietoja alla).

Kriittisen infrastruktuurin suojaaminen on ollut keskeinen lähtökohta GPT‑6 Cyberin suojatoimien ja käyttöoikeuksien suunnittelussa. Tähän kuuluvat voimalaitokset, vedenkäsittelylaitokset sekä niiden perustana oleva operatiivinen teknologia ja teollisuuden ohjausjärjestelmät (OT/ICS). Haluamme antaa näitä järjestelmiä puolustaville tiimeille käyttöön kyvykkäimmät mallimme ja samalla vahvistaa suojatoimia luvattomien hyökkäysten estämiseksi.

Ensinnäkin tuemme näitä puolustajia miljardin dollarin Daybreak for Frontline Defenders⁠ ‑avustusohjelmalla. Se tukee mallien käyttöä niukoin resurssein toimivissa tiimeissä, kuten julkishallinnon organisaatioissa ja välttämättömien palvelujen tarjoajilla. Avaamme Daybreak Rediin myös uuden ryhmän (Daybreak Red kriittiselle infrastruktuurille) hyväksytyille kriittisen infrastruktuurin puolustajille. Se antaa heille oikeuden tehdä kriittisten järjestelmien valtuutettua testausta ja säilyttää samalla suojaukset mallin tavoitteiden vastaista toimintaa vastaan.

Toiseksi olemme tarkentaneet Daybreak Red- ja Blue-alustojen suojatoimia väärinkäytön estämiseksi. Ne torjuvat avustamista ja kyvykkyyksien kehittämistä, jotka voisivat vaarantaa teollisuuden ohjausjärjestelmiä tai turvallisuuskriittisiä järjestelmiä, häiritä laitteita tai aiheuttaa vakavia vammoja, katastrofaalisia fyysisiä vahinkoja tai hengenvaarallisia palvelukatkoksia. Alla oleva kuva vertailee suojatoimien merkintäosuuksia neljässä käyttöoikeuskokoonpanossa ennen GPT‑6 Cyberin yhteydessä käyttöön otettavia päivityksiä ja niiden jälkeen.

Suurempi estettyjen tapausten osuus ei aina tarkoita parempaa suojaa. Monet tämän arvioinnin menetelmistä ovat olennaisia myös oikeutetussa tietoturvatyössä: järjestelmien ymmärtämisessä, haavoittuvuuksien löytämisessä ja sen varmistamisessa, että korjaukset kestävät hyökkäyksiä. Siksi tarkastelemme näitä osuuksia yhdessä oikeutetun tutkimuksen ja korjaustyön tukemisen kanssa sen sijaan, että tavoittelisimme 100 %:n estotasoa.

Arvioidaksemme, miten mallimme voivat auttaa kriittisen infrastruktuurin puolustamisessa, aloitimme yhteistyön Dragosin kanssa. Se on maailmanlaajuinen laajennetun operatiivisen teknologian (xOT) kyberturvallisuuden tarjoaja. Dragos teki arviointeja hallitussa laboratorioympäristössä Daybreak Red ‑malleilla, jotka sallivat kyberturvallisuustehtäviä tavallista laajemmin. Arviointien pyynnöt etenivät verkon kartoituksesta ja resurssien luetteloinnista kohdennettuun tiedusteluun, arkaluonteisten tietojen ulosvientiin ja luvattomiin, mahdollisesti vaarallisiin laitetason toimiin.

Hyödynsimme Dragosin palautetta suojatoimiemme tarkentamisessa. Tavoitteena oli estää haitallinen avustaminen rajoittamatta valtuutettua testausta tarpeettomasti. Lisätietoja arvioinneista on Dragosin loppuraportissa⁠(avautuu uudessa ikkunassa). Pyrimme myös laajentamaan yhteistyötä muiden hyökkäävän tietoturvan palveluntarjoajien ja hyökkäys- ja puolustusosaamista yhdistävien purple team ‑tiimien kanssa tekoälyavusteisessa tunkeutumistestauksessa ja hyökkäävässä tietoturvatestauksessa. Lisäksi teemme yhteistyötä energiayhtiöiden, muiden kriittisen infrastruktuurin toimijoiden ja kansallisten laboratorioiden kanssa arvioidaksemme malliemme tehokkuutta ja suojatoimia teollisuuden puolustamisessa. Olemme myös lisänneet panostuksiamme uhkatutkintaan havaitaksemme mallien OT/ICS-järjestelmiin liittyvää käyttöä. Jatkamme suojatoimiemme kehittämistä kumppanien ja tietoturvayhteisön palautteen pohjalta. Tähän kuuluvat myös /feedback-toiminnolla tehdyt ilmoitukset tilanteista, joissa suojatoimet eivät havaitse haitallista toimintaa tai keskeyttävät oikeutetun työn.

GPT‑6 Cyber on aluksi saatavilla API:n ja Codexin kautta valitulle joukolle hyväksyttyjä Daybreak Red ‑asiakkaita. Laajennamme käyttömahdollisuuden pian vaiheittain kaikille Daybreak Red ‑asiakkaille ja tuomme myös GPT‑5.6 Cyberin kaikkien Daybreak Red ‑asiakkaiden saataville. Laajennamme myös GPT‑6 Astran Daybreak Blue ‑alfaversion käyttömahdollisuutta useammille organisaatioille ja yksittäisille tietoturvatutkijoille. Ilmoita meille⁠(avautuu uudessa ikkunassa), jos olet kiinnostunut.

Uudet käyttäjät ja organisaatiot voivat hakea Daybreakiin⁠ ja aloittaa kyberturvallisuustaitojemme, tuotteidemme ja kumppaniemme⁠ avulla.