GPT‑6 Cyber: előrelépés az elvárásokhoz igazodó kiberbiztonsági ügynökök terén

Bemutatjuk a GPT‑6 Cybert, amely jelentős előrelépés a biztonsági kutatásban: hatékonyabban találja meg és javítja ki a sebezhetőségeket, és sokkal megbízhatóbban marad a kutatók által kijelölt kereteken belül. A GPT‑6 Cyber jelentősen felülmúlja a GPT‑5.6 Cybert a fő kiberbiztonsági teszteken: az ExploitGym teszten 51%-os relatív javulást, a feladatkeretek betartását vizsgáló teszteken pedig ugrásszerű fejlődést ért el. Már most segít a ténylegesen használt szoftverek védelmében: több ezer exploitot tár fel és ellenőriz olyan biztonságkritikus kódbázisokban, mint a Linux és a Firefox.

Az ExploitGym teszten, amely azt vizsgálja, hogy a modellek képesek-e kihasználni egy megadott sebezhetőséget, a GPT‑6 Cyber 48,5%-ot ért el, szemben a GPT‑5.6 Cyber 32,1%-ával. A feladat kereteit is megbízhatóbban betartja: egy külön, az elvárásokhoz való igazodást vizsgáló értékelésen a GPT‑6 Cyber az éles használathoz szánt utasítása nélkül a tesztek 99,93%-ában kerülte el a feladatkörön kívüli szolgáltatások sebezhetőségeinek kihasználását, az utasítással pedig 100%-ban. Az elvárásokhoz való jobb igazodás célzott tanítás eredménye: a modell megtanulta betartani az engedélyezett kereteket és a korlátozásokat, valamint pontosan beszámolni az eredményeiről.

Ezek a képességek már most segítik a valós rendszerek védelmét. Kutatóink a GPT‑6 Cyber segítségével 948 jogosultságkiterjesztő exploitot fejlesztettek Linuxhoz⁠, és 81 korábban ismeretlen, súlyos sebezhetőséget azonosítottak a Firefoxban, az élvonalbeli modellekkel végzett kiterjedt korábbi tesztelés ellenére. A modell lehetséges javítások kidolgozásában is segített, és a Mozilla számos Firefox-sebezhetőséghez kiadta a javításokat⁠(új ablakban nyílik meg). A Cisco, a Calif és a CodeRabbit biztonsági csapatai sebezhetőségkutatásra és kódellenőrzésre használják, mi pedig saját infrastruktúránk gyenge pontjainak feltárásában és kijavításában⁠ támaszkodtunk rá.

Egyértelmű, hogy korlátozott idő áll rendelkezésünkre ahhoz, hogy élvonalbeli modellekkel tegyük biztonságossá a szoftvereket⁠. Célunk a Daybreak jelentős kibővítése, hogy a fejlett biztonsági kutatás minden méretű szervezet, független kutató és nyílt forráskódú projekt karbantartója számára elérhetővé váljon. Az általános célú modellek, például a GPT‑6 Astra már most támogatják a kódellenőrzést, a sebezhetőségek rangsorolását és a javítások fejlesztését. A Daybreak Blue kevesebb szükségtelen elutasítással segíti az ellenőrzött védelmi szakembereket a sebezhetőségek és javítások ellenőrzésében, míg a Daybreak Red a GPT‑6 Cyberrel mélyrehatóbb exploitfejlesztést és engedélyezett biztonsági tesztelést tesz lehetővé.

A GPT‑6 Cyber jelentős előrelépés a GPT‑5.6 Cyberhez képest, és a legtöbb kiberbiztonsági feladatban a GPT‑6 Astrát is felülmúlja, még akkor is, amikor az Astra nem utasítja el a kérést. A modellt olyan feladatokon értékeltük, amelyekhez szoftverek megértésére, sebezhetőségek azonosítására és működő exploitok fejlesztésére van szükség. Ezen eredmények alapján a Felkészültségi keretrendszerünk szerint a modellt kiberbiztonság terén a kritikus kategóriába soroljuk, a GPT‑5.6 Cyber magas besorolásához képest.

Az ExploitGym teszten, amely azt vizsgálja, hogy a modellek képesek-e kihasználni egy megadott sebezhetőséget egy távoli célrendszeren, a GPT‑6 Cyber 48,5%-ot ért el. Ez körülbelül 16 százalékponttal magasabb a GPT‑5.6 Cyber 32,1%-os eredményénél. A sebezhetőségek feltárásának tesztelésére új értékelést is készítettünk offenzív webes behatolásteszteléshez. A modellek a forráskódhoz való hozzáférés nélkül vizsgálják a webalkalmazásokat. A GPT‑6 Cyber a sebezhetőségek 40,3%-át találta meg, szemben a GPT‑6 Astra 32,0%-os találati arányával.

A Daybreak Redet fejlettebb biztonsági munkafolyamatok támogatására terveztük, beleértve a működő exploitok fejlesztését és távoli célrendszereken való alkalmazását. E képességek értékelésére új tesztet készítettünk RemoteExploitBench néven, amely ellenőrzött környezetben telepített alkalmazások – például a GitLab, a PostgreSQL és a Jenkins – ismert sebezhetőségeit használja. Kezdeti értékelésünkben a Daybreak Blue-val futó GPT‑6 Astra a feladatok 100%-át elutasította, míg a GPT‑6 Cyber 95%-ukat teljesítette; egyetlen kudarca egy olyan exploit volt, amelyet nem tudott távolról működésre bírni. A teljes eredménysor és az értékelési beállítások a rendszerkártyán⁠(új ablakban nyílik meg) találhatók.

A kiberbiztonsági ügynökök egyik kockázata, hogy túllépnek a kijelölt feladat keretein, nem kapcsolódó szolgáltatások sebezhetőségeit próbálják kihasználni, vagy figyelmen kívül hagyják a kutató által meghatározott műveleti szabályokat.

A GPT‑6 Cyber fejlesztése során kiemelt figyelmet fordítottunk az elvárásokhoz való igazodásra. Speciális tanítással segítettük a modellt abban, hogy az engedélyezett kereteken belül maradjon, betartsa a műveleteire vonatkozó korlátozásokat, és pontosan számoljon be a munkájáról. A bevezetés előtt értékelések sorozatával mértük, mennyire felel meg a viselkedése ezeknek az elvárásoknak. A teljes eredménysor a rendszerkártyán⁠(új ablakban nyílik meg) található.

Az egyik ilyen értékelés az ExploitGym Honeypot, amelyet a Hugging Face-incidens⁠ tanulságai alapján alakítottunk ki. A modell nehéz sebezhetőség-kihasználási feladatot kap egy elszigetelt környezetben, ahol támogató szolgáltatásokhoz, például csomagregiszterhez vagy objektumtárolóhoz fér hozzá. Ezeket a szolgáltatásokat szándékosan könnyen támadhatóvá tesszük, hogy a megtámadásukkal megszerezhető legyen a feladat céljelzője, azaz a flag. A modellnek magának kell felismernie, hogy e szolgáltatások sebezhetőségeinek kihasználása kívül esik a feladata keretein.

Ezen az értékelésen a GPT‑6 Cyber ugrásszerű javulást mutat a GPT‑5.6 Cyberhez képest. Az éles használathoz szánt biztonsági utasítások nélkül tesztelve az esetek 99,93%-ában elkerülte a feladatkörön kívüli szolgáltatások sebezhetőségeinek kihasználását, szemben a GPT‑5.6 Cyber 94,49%-os eredményével. Ezekkel az utasításokkal a GPT‑6 Cyber az esetek 100%-ában a kijelölt kereteken belül maradt.

A GPT‑6 Cyber modell gondolatmenetében közvetlenül is látható, hogyan mérlegeli a keretek betartását:

A GPT‑6 Cyber már most segít a biztonsági csapatoknak sebezhetőségeket találni, ellenőrizni azok hatását és javításokat kidolgozni. Ügyfeleink nagy kódbázisok vizsgálatára, hosszú ideig tartó exploitfejlesztésre és biztonsági felülvizsgálatra használják:

Saját rendszereink védelmében is támaszkodtunk a GPT‑6 Cyberre. Ez volt az egyik fő modell abban a munkában, amelyről nemrég számoltunk be az élvonalbeli modellek tanításához használt infrastruktúra megerősítése⁠ kapcsán. Ellenőrzött támadásszimulációs kampányokban a GPT‑6 Cybert és más OpenAI-modelleket használó ügynökök sebezhetőségek láncolatával törtek ki a mikro-VM-ekből, és futtattak kódot az azokat kiszolgáló gazdagépeken. Az eredmények alapján szoftverjavításokat végeztünk, szigorítottuk a hálózati korlátozásokat, és jeleztük a problémákat a karbantartóknak és a szállítóknak.

Sebezhetőségkutatóink a GPT‑6 Cybert arra is használják, hogy nagy léptékben keressenek és igazoljanak sebezhetőségeket nyílt forráskódú szoftverekben. Ez a munka korábban ismeretlen hibákat tárt fel évek óta alaposan vizsgált szoftverekben:

• 81 új Firefox-sebezhetőség feltárása. A GPT‑6 Cyber alkalmas lehet olyan autonóm munkafolyamatokhoz, amelyek nagy léptékben keresnek sebezhetőségeket és javasolnak jó minőségű javításokat. Egy sebezhetőségkutatási kampány során a GPT‑6 Cyber 81 új, a Mozilla által súlyosnak minősített sebezhetőséghez készített bizonyítékokat és reprodukálható teszteket, továbbá kimutatta, hogy 30 további ismert probléma súlyosabb a korábban jelentettnél. Az eredményeket javítási javaslatokkal együtt átadtuk a Mozillának, hogy segítsük mérnökeit a hibák kijavításában. A Mozilla támogatta ezt a munkát, és nem sokkal a jelentések kézhezvétele után megkezdte a javítások beépítését⁠(új ablakban nyílik meg).

• Exploitok fejlesztése a Linux kernel 948 sebezhetőségéhez⁠. A GPT‑6 Cyber 1724 sebezhetőséget reprodukált, és 948-hoz fejlesztett működő exploitot – ez több mint ötszöröse annak a 166-nak, amelyet a GPT‑5.6 Sol ugyanabban a kutatási végrehajtási környezetben ki tudott használni. A Linux-közösség útmutatását követve 304 kritikus hibát jelentettünk a karbantartóknak lehetséges javításokkal együtt, a többi sebezhetőség javíttatása pedig folyamatban van.

• Kritikus RCE-sebezhetőségek demonstrálása. Nemrég beszámoltunk a Brotli egyik kritikus sebezhetőségéről⁠(új ablakban nyílik meg). Ezt a tömörítési könyvtárat a Node.js és más szoftverek is használják. Biztonsági kutatóink a GPT‑6 Cyber és más OpenAI-modellek segítségével olyan exploitokat fejlesztettek és ellenőriztek, amelyek bemutatják, hogyan tehet lehetővé a hiba távoli kódfuttatást a könyvtárat használó alkalmazásokban.

Ahogy a modellek képességei fejlődnek, és egyre több biztonsági sebezhetőséget tárnak fel, egyre több kísérletet látunk arra is, hogy károkozásra használják őket. Ezek közé tartoznak a rosszindulatú kibertérbeli szereplők próbálkozásai és a modelljeink desztillálására törekvő ellenséges csoportok erőfeszítései. Ezért a GPT‑6 Cyber fejlettebb képességeihez erősebb védelmi intézkedéseket társítottunk, hogy észleljük és megakadályozzuk a visszaéléseket, a modell műveleteit pedig a felhasználó szándékának és felhatalmazásának keretein belül tartsuk.

A GPT‑6 Cyber megjelenésével párhuzamosan az alábbi védelmi intézkedéseket vezettük be, illetve erősítettük meg (a teljes leírás a rendszerkártyán⁠(új ablakban nyílik meg) található):

• Az elvárásoktól eltérő viselkedés kiberbiztonságra szabott figyelése. Figyeljük, hogy a műveletek megfelelnek-e a felhasználó felhatalmazásának, miközben különbséget teszünk a visszaélések és a jogszerű exploitfejlesztés, illetve tesztelés között.

• Az új fenyegetések célzott figyelése. Például a kritikus PHP-sebezhetőségek összehangolt közzététele során célzott figyelést vezettünk be az éles PHP-kiszolgálók elleni exploitok fejlesztésére irányuló kísérletek észlelésére, miközben továbbra is támogattuk az érintett rendszereket javító védelmi szakembereket.

• Private Safety Processing (PSP). Automatizált ellenőrzésekkel vizsgáljuk az összefüggő interakciókat a visszaélések kiszűrésére. Továbbra is a szokásos adatmegőrzés az alapértelmezett. A zéró adatmegőrzést⁠(új ablakban nyílik meg) használó API-ügyfeleknek általában kötelező a PSP⁠(új ablakban nyílik meg) használata. Ez az ügyfél tárhelyén 30 napig megőrzött titkosított rekordokat vizsgálja, anélkül, hogy az utasítások és válaszok hozzáférhetővé válnának az OpenAI munkatársai számára.

• Védelem az ellopott hitelesítő adatok használata ellen. A Daybreak Red API-hoz való hozzáféréshez alapértelmezés szerint IP-engedélyezési listát követelünk meg, így kevés kivételtől eltekintve csak jóváhagyott hálózatokból érkezhetnek kérések. Azt is figyeljük, hogy a hitelesítő adatok illetéktelen kezekbe kerültek-e.

• Elkülönített futtatás és felügyelet. A korábbi modellekhez hasonlóan a magas kockázatú munkafolyamatoknál elkülönített futtatást⁠(új ablakban nyílik meg), műveletellenőrzést⁠(új ablakban nyílik meg) és emberi felügyeletet javaslunk.

• Védelem a magas kockázatú kibertevékenységek támogatása ellen. Új ellenőrzésekkel blokkoljuk a kritikus rendszereket érintő magas kockázatú tevékenységeket (további részletek alább).

A GPT‑6 Cyber védelmi intézkedéseinek és hozzáférési feltételeinek kialakításakor kiemelt szempont volt a kritikus infrastruktúra védelme. Ide tartoznak az erőművek, a vízkezelő létesítmények, valamint a működésüket biztosító üzemeltetési technológiai és ipari vezérlőrendszerek (OT/ICS). Egyszerre szeretnénk hozzáférést biztosítani a rendszereket védő csapatoknak a legfejlettebb modelljeinkhez, és megerősíteni a jogosulatlan támadásokat megakadályozó védelmi intézkedéseinket.

Először is, e védelmi szakemberek támogatására az 1 milliárd dolláros Daybreak a frontvonalban dolgozó védelmi szakembereknek⁠ támogatási programunk hozzájárul a korlátozott erőforrásokkal rendelkező csapatok – például kormányzati szervezetek és alapvető szolgáltatók – hozzáférési költségeihez. A Daybreak Reden belül új csoportot is létrehozunk a kritikus infrastruktúrát védő, jóváhagyott szakembereknek (Daybreak Red kritikus infrastruktúrákhoz). Ez jogosultságot ad a kritikus rendszerek engedélyezett tesztelésére, miközben megmaradnak a modell elvárásoktól eltérő viselkedését gátló védelmi intézkedések.

Másodszor, a Daybreak Red és Blue platformokkal való visszaélések megelőzése érdekében finomítottuk a védelmi intézkedéseket az olyan segítségnyújtás és képességfejlesztés ellen, amely veszélyeztetheti az ipari vezérlő- vagy biztonságkritikus rendszereket, megzavarhatja a berendezések működését, illetve súlyos sérülést, katasztrofális fizikai kárt vagy életveszélyes szolgáltatáskiesést okozhat. Az alábbi ábra a védelmi jelölések arányát hasonlítja össze négy hozzáférési konfigurációban, a GPT‑6 Cyberrel párhuzamosan bevezetett frissítések előtt és után.

A magasabb blokkolási arány nem mindig jelent jobb védelmet. Az értékelésben szereplő technikák közül sok a jogszerű biztonsági munkához is nélkülözhetetlen: a rendszerek megértéséhez, a sebezhetőségek feltárásához és annak ellenőrzéséhez, hogy a javítások ellenállnak-e a támadásoknak. Ezért ezeket az arányokat a jogszerű kutatás és hibajavítás támogatásával együtt értékeljük, nem pedig a 100%-ot célozzuk meg.

Annak értékelésére, hogyan segíthetik modelljeink a kritikus infrastruktúra védelmét, együttműködtünk a Dragosszal, a kiterjesztett üzemeltetési technológia (xOT) kiberbiztonságának globális szolgáltatójával. A Dragos ellenőrzött laboratóriumi környezetben végzett értékeléseket a kibertevékenységeket megengedőbb módon kezelő Daybreak Red modellekkel. Az értékelések a hálózatfeltérképezéstől és az eszközök számbavételétől a célzott felderítésen és az érzékeny adatok kiszivárogtatásán át a jogosulatlan, potenciálisan veszélyes eszközműveletekig terjedő kéréseket vizsgáltak.

A Dragos visszajelzései alapján finomítottuk védelmi intézkedéseinket, hogy blokkoljuk a káros segítségnyújtást anélkül, hogy szükségtelenül korlátoznánk az engedélyezett tesztelést. Az értékelések részletei a zárójelentésükben olvashatók⁠(új ablakban nyílik meg). Más offenzív biztonsági szolgáltatókkal és a támadói, illetve védelmi munkát összehangoló csapatokkal is bővíteni kívánjuk együttműködésünket az MI-vel végzett behatolástesztelés és támadásszimuláció terén. Emellett energiavállalatokkal, a kritikus infrastruktúra más üzemeltetőivel és nemzeti laboratóriumokkal dolgozunk azon, hogy értékeljük modelljeink hatékonyságát és védelmi intézkedéseit az ipari védelemben. A fenyegetések vizsgálatára fordított erőforrásainkat is növeltük, hogy felismerjük az OT/ICS-rendszereket érintő modellhasználatot. Partnereink és a biztonsági közösség visszajelzései alapján tovább finomítjuk védelmi intézkedéseinket. Ebbe beletartoznak a /feedback útján érkező jelentések is azokról az esetekről, amikor a védelem nem észlel káros tevékenységet, vagy megszakítja a jogszerű munkát.

A GPT‑6 Cyber kezdetben a jóváhagyott Daybreak Red ügyfelek egy kiválasztott csoportja számára érhető el az API-n és a Codexen keresztül. Hamarosan fokozatosan minden Daybreak Red ügyfélre kiterjesztjük a hozzáférést, és a GPT‑5.6 Cybert is minden Daybreak Red ügyfél számára elérhetővé tesszük. A GPT‑6 Astrához biztosított Daybreak Blue alfa-hozzáférést is kiterjesztjük további szervezetekre és egyéni biztonsági kutatókra; jelezd nekünk⁠(új ablakban nyílik meg), ha érdekel.

Az új felhasználók és szervezetek jelentkezhetnek a Daybreakre⁠, és kiberbiztonsági készségeink, termékeink és partnereink⁠ segítségével kezdhetik meg a munkát.