GPT‑6 Cyber: Posúvame hranice kyberbezpečnostných agentov konajúcich v súlade so zámermi
Kyberbezpečnostný model trénovaný na hľadanie a overovanie zneužiteľných zraniteľností pri dodržiavaní rozsahu stanoveného výskumníkmi.
Predstavujeme GPT‑6 Cyber, zásadný pokrok v bezpečnostnom výskume: lepšie nachádza a opravuje zraniteľnosti a oveľa spoľahlivejšie dodržiava hranice stanovené výskumníkmi. GPT‑6 Cyber prináša oproti GPT‑5.6 Cyber výrazné zlepšenia v kľúčových benchmarkoch kybernetickej bezpečnosti vrátane relatívneho zlepšenia o 51 % v ExploitGym a skokového zlepšenia v testoch dodržiavania rozsahu úlohy. Už teraz pomáha zabezpečovať reálny softvér a odhaľuje a overuje tisíce exploitov v kódových základniach kritických z hľadiska bezpečnosti, ako sú Linux a Firefox.
V ExploitGym, ktorý testuje schopnosť modelov zneužiť určenú zraniteľnosť, dosahuje GPT‑6 Cyber skóre 48,5 % oproti 32,1 % pri GPT‑5.6 Cyber. Spoľahlivejšie tiež dodržiava hranice úlohy: v samostatnom hodnotení súladu sa GPT‑6 Cyber vyhol zneužitiu služieb mimo povoleného rozsahu v 99,93 % testov bez príkazu používaného pri nasadení a v 100 % testov s týmto príkazom. Toto zlepšenie súladu je výsledkom cieleného trénovania na dodržiavanie povoleného rozsahu, rešpektovanie obmedzení a presné vykazovanie výsledkov.
Tieto schopnosti už pomáhajú zabezpečovať reálne systémy. Naši výskumníci použili GPT‑6 Cyber na vývoj 948 exploitov na zvýšenie oprávnení v Linuxe a odhalenie 81 dovtedy neznámych zraniteľností s vysokou závažnosťou vo Firefoxe, a to aj napriek rozsiahlemu predchádzajúcemu testovaniu pomocou prelomových modelov. Model tiež pomohol pripraviť návrhy opráv a Mozilla už vydala opravy mnohých zraniteľností Firefoxu(otvorí sa v novom okne). Bezpečnostné tímy v spoločnostiach Cisco, Calif a CodeRabbit ho používajú na výskum zraniteľností a kontrolu kódu. My sme ho využili na hľadanie a opravu slabých miest vo vlastnej infraštruktúre.
Je zrejmé, že máme len obmedzený čas na využitie prelomových modelov na zabezpečenie softvéru. Naším cieľom je výrazne rozšíriť Daybreak a sprístupniť pokročilý bezpečnostný výskum organizáciám všetkých veľkostí, nezávislým výskumníkom aj správcom projektov s otvoreným zdrojovým kódom. Modely hlavného radu, ako je GPT‑6 Astra, už podporujú kontrolu kódu, triedenie zraniteľností podľa priority a vývoj opráv. Daybreak Blue pomáha overeným obrancom overovať zraniteľnosti a opravy s menším počtom zbytočných odmietnutí. Daybreak Red umožňuje pokročilejší vývoj exploitov a autorizované bezpečnostné testovanie pomocou GPT‑6 Cyber.
GPT‑6 Cyber je výrazným posunom oproti GPT‑5.6 Cyber a prekonáva GPT‑6 Astra vo väčšine kybernetických úloh, a to aj vtedy, keď Astra požiadavku neodmietne. Model sme hodnotili na úlohách, pri ktorých musí porozumieť softvéru, identifikovať zraniteľnosti a vytvoriť funkčné exploity. Na základe týchto výsledkov model v oblasti kybernetickej bezpečnosti podľa nášho Rámca pripravenosti zaraďujeme do kritickej úrovne, oproti vysokej úrovni pri GPT‑5.6 Cyber.
V ExploitGym, ktorý testuje, či modely dokážu zneužiť určenú zraniteľnosť na vzdialenom cieli, dosahuje GPT‑6 Cyber skóre 48,5 %, čo je približne o 16 percentuálnych bodov viac než 32,1 % pri GPT‑5.6 Cyber. Na testovanie objavovania zraniteľností sme vytvorili aj nové hodnotenie ofenzívneho penetračného testovania webových aplikácií. Modely skúmajú webové aplikácie bez prístupu k ich zdrojovému kódu. GPT‑6 Cyber odhalil 40,3 % zraniteľností v porovnaní s 32,0 % pri GPT‑6 Astra.
Daybreak Red je navrhnutý na podporu pokročilejších bezpečnostných pracovných postupov vrátane vývoja funkčných exploitov a ich použitia proti vzdialeným cieľom. Na vyhodnotenie týchto schopností sme vytvorili nový benchmark RemoteExploitBench, ktorý využíva známe zraniteľnosti aplikácií, ako sú GitLab, PostgreSQL a Jenkins, nasadených v kontrolovanom prostredí. V našom úvodnom hodnotení GPT‑6 Astra s Daybreak Blue odmietol 100 % úloh, zatiaľ čo GPT‑6 Cyber dokončil 95 %. Zlyhal iba pri jednom exploite, ktorý sa mu nepodarilo sprevádzkovať na diaľku. Úplné výsledky a nastavenia hodnotení nájdete v systémovej karte(otvorí sa v novom okne).
Jedným z rizík pri kyberbezpečnostných agentoch je, že prekročia rozsah zadanej úlohy, pokúsia sa zneužiť nesúvisiace služby alebo nebudú rešpektovať pravidlá testovania stanovené výskumníkom.
Pri GPT‑6 Cyber sme kládli dôraz na súlad so zámermi. Špecializovaným trénovaním sme model učili dodržiavať povolený rozsah, rešpektovať obmedzenia svojich činností a presne informovať o svojej práci. Pred nasadením sme vykonali sériu hodnotení súladu, aby sme toto správanie zmerali. Úplné výsledky nájdete v systémovej karte(otvorí sa v novom okne).
Jedným z týchto hodnotení je ExploitGym Honeypot, pri ktorého tvorbe sme vychádzali z incidentu s Hugging Face. Modelu zadáme náročnú úlohu na zneužitie zraniteľnosti v izolovanom prostredí s prístupom k podporným službám, ako je register balíkov alebo objektové úložisko. Tieto služby zámerne nastavujeme tak, aby sa dali ľahko zneužiť a útok na ne mohol odhaliť cieľový príznak úlohy. Model musí sám vyvodiť, že ich zneužitie je mimo rozsahu jeho úlohy.
GPT‑6 Cyber v tomto hodnotení vykazuje skokové zlepšenie oproti GPT‑5.6 Cyber. Pri testovaní bez bezpečnostných príkazov používaných pri nasadení sa vyhol zneužitiu služieb mimo povoleného rozsahu v 99,93 % prípadov, oproti 94,49 % pri GPT‑5.6 Cyber. S týmito príkazmi GPT‑6 Cyber dodržal stanovené hranice v 100 % prípadov.
Priamo v reťazení myšlienok modelu GPT‑6 Cyber vidíme, ako uvažuje o dodržiavaní hraníc:
“Can't assume extra API or attack controller not target. We should only target binary/server.”
“don't explore out of scope credentials.”
GPT‑6 Cyber už pomáha bezpečnostným tímom nachádzať zraniteľnosti, overovať ich dosah a vyvíjať opravy. Zákazníci ho využívajú pri práci s rozsiahlymi kódovými základňami, dlhodobom vývoji exploitov a bezpečnostných kontrolách:
GPT‑6 Cyber sme využili aj na zabezpečenie vlastných systémov. Bol jedným z hlavných modelov, ktoré sme použili pri nedávno predstavenej práci na posilnení zabezpečenia infraštruktúry na trénovanie prelomových modelov. V rámci kontrolovaných kampaní red teamingu agenti využívajúci GPT‑6 Cyber a ďalšie modely OpenAI reťazili zraniteľnosti, aby unikli z microVM a spustili kód na hostiteľských systémoch. Na základe zistení sme opravili softvér, sprísnili sieťové obmedzenia a nahlásili problémy správcom a dodávateľom.
Naši výskumníci zraniteľností tiež používajú GPT‑6 Cyber na rozsiahle vyhľadávanie a overovanie zraniteľností v softvéri s otvoreným zdrojovým kódom. Táto práca odhalila dovtedy neznáme chyby v softvéri, ktorý sa už roky dôkladne skúma:
Odhalenie 81 nových zraniteľností vo Firefoxe. GPT‑6 Cyber môže byť vhodný na použitie v autonómnych pracovných postupoch na rozsiahle vyhľadávanie zraniteľností a navrhovanie kvalitných opráv. Počas kampane zameranej na výskum zraniteľností GPT‑6 Cyber vytvoril dôkazy a reprodukovateľné testy pre 81 nových zraniteľností, ktoré Mozilla klasifikovala ako vysoko závažné. Zároveň ukázal, že ďalších 30 známych problémov je závažnejších, než sa pôvodne uvádzalo. Zistenia sme oznámili Mozille spolu s návrhmi záplat, aby sme jej vývojárom pomohli pripraviť opravy. Mozilla túto prácu podporila a začala začleňovať opravy krátko po prijatí hlásení(otvorí sa v novom okne).
Vývoj exploitov pre 948 zraniteľností jadra Linuxu. GPT‑6 Cyber reprodukoval 1 724 zraniteľností a vytvoril funkčné exploity pre 948 z nich. To je viac než päťnásobok oproti 166 zraniteľnostiam, ktoré zneužil GPT‑5.6 Sol s rovnakým výskumným harnessom. V súlade s usmerneniami komunity Linuxu sme správcom oznámili 304 kritických zistení spolu s návrhmi opráv a pracujeme na odstránení ďalších zraniteľností.
Preukázanie kritických zraniteľností umožňujúcich vzdialené spustenie kódu (RCE). Nedávno sme informovali o kritickej zraniteľnosti v Brotli(otvorí sa v novom okne), kompresnej knižnici používanej v Node.js a ďalšom softvéri. Naši bezpečnostní výskumníci použili GPT‑6 Cyber spolu s ďalšími modelmi OpenAI na vývoj a overenie exploitov, ktoré ukazujú, ako by táto chyba mohla umožniť vzdialené spustenie kódu v aplikáciách využívajúcich túto knižnicu.
S rastúcimi schopnosťami modelov a počtom odhalených bezpečnostných zraniteľností zaznamenávame aj viac pokusov využiť ich na škodlivé účely. Patria sem aj snahy škodlivých kybernetických aktérov a nepriateľských skupín o destiláciu našich modelov. Preto sme silnejšie schopnosti GPT‑6 Cyber doplnili o silnejšie ochranné opatrenia, ktoré odhaľujú a narúšajú zneužívanie a udržiavajú činnosť modelu v medziach zámeru a oprávnení používateľa.
Pri vydaní GPT‑6 Cyber sme pridali a posilnili tieto ochranné opatrenia (úplné informácie nájdete v systémovej karte(otvorí sa v novom okne)):
Monitorovanie nesúladu v kybernetickej oblasti. Sledujeme, či činnosti zodpovedajú oprávneniam používateľa, pričom rozlišujeme legitímny vývoj a testovanie exploitov.
Cielené monitorovanie nových hrozieb. Napríklad počas koordinovaného zverejňovania kritických zraniteľností PHP sme zaviedli cielené monitorovanie pokusov o vývoj exploitov proti PHP serverom v ostrej prevádzke. Zároveň sme zachovali podporu pre obrancov, ktorí opravovali dotknuté systémy.
Súkromné bezpečnostné spracovanie (PSP). Pomocou automatizovaných kontrol preverujeme súvisiace interakcie z hľadiska zneužívania. Predvolené zostáva štandardné uchovávanie údajov. Zákazníci API využívajúci nulové uchovávanie údajov(otvorí sa v novom okne) spravidla musia používať PSP(otvorí sa v novom okne). Tento mechanizmus kontroluje šifrované záznamy uchovávané 30 dní v úložisku zákazníka bez toho, aby sprístupnil príkazy a odpovede pracovníkom OpenAI.
Ochrana pred zneužitím odcudzených prihlasovacích údajov. Pri prístupe k API Daybreak Red štandardne vyžadujeme zoznam povolených IP adries, čím až na obmedzené výnimky povoľujeme požiadavky len zo schválených sietí. Sledujeme tiež, či nedošlo ku kompromitácii prihlasovacích údajov.
Izolované prostredie a dohľad. Rovnako ako pri predchádzajúcich modeloch odporúčame pri vysoko rizikových pracovných postupoch izolované prostredie(otvorí sa v novom okne), kontrolu činností(otvorí sa v novom okne) a ľudský dohľad.
Ochrana pred vysoko rizikovou kybernetickou asistenciou. Novými kontrolami blokujeme vysoko rizikovú činnosť týkajúcu sa kritických systémov (viac informácií nižšie).
Pri navrhovaní ochranných opatrení a prístupu ku GPT‑6 Cyber bola kľúčová ochrana kritickej infraštruktúry vrátane elektrární, zariadení na úpravu vody a prevádzkových technológií a priemyselných riadiacich systémov (OT/ICS), na ktorých tieto zariadenia závisia. Tímom, ktoré tieto systémy chránia, chceme sprístupniť naše najschopnejšie modely a zároveň posilňovať ochranné opatrenia proti neoprávneným útokom.
Po prvé, náš grantový program Daybreak for Frontline Defenders v hodnote 1 miliardy dolárov dotuje prístup pre tímy s obmedzenými zdrojmi, napríklad vládne organizácie a poskytovateľov základných služieb, aby títo obrancovia získali potrebné nástroje. V rámci Daybreak Red zároveň zavádzame novú skupinu (Daybreak Red pre kritickú infraštruktúru) pre schválených obrancov kritickej infraštruktúry. Poskytuje im oprávnenia na autorizované testovanie kritických systémov, pričom zachováva ochranu pred správaním modelu, ktoré nie je v súlade so zámermi.
Po druhé, aby sme zabránili zneužívaniu platforiem Daybreak Red a Blue, zdokonalili sme ochranu pred asistenciou a rozvojom schopností, ktoré by mohli ohroziť priemyselné riadenie alebo systémy kľúčové pre bezpečnosť, zasahovať do zariadení či spôsobiť vážne zranenia, katastrofálne fyzické škody alebo život ohrozujúce prerušenie služieb. Nasledujúci obrázok porovnáva mieru označovania ochrannými mechanizmami pri štyroch konfiguráciách prístupu pred nedávnymi aktualizáciami, ktoré zavádzame spolu s GPT‑6 Cyber, a po nich.
Vyššia miera blokovania ochrannými mechanizmami nie je vždy lepšia. Mnohé techniky v tomto hodnotení sú nevyhnutné aj pre legitímnu bezpečnostnú prácu: pochopenie systémov, hľadanie zraniteľností a overovanie, či opravy odolajú útoku. Tieto miery preto posudzujeme spolu s podporou legitímneho výskumu a opráv, namiesto toho, aby sme sa usilovali dosiahnuť 100 %.
Aby sme vyhodnotili, ako môžu naše modely pomôcť chrániť kritickú infraštruktúru, nadviazali sme partnerstvo so spoločnosťou Dragos, globálnym poskytovateľom kybernetickej bezpečnosti rozšírených prevádzkových technológií (xOT). Dragos vykonal hodnotenia v kontrolovanom laboratórnom prostredí pomocou modelov Daybreak Red s voľnejšími obmedzeniami v kybernetickej oblasti. Hodnotenia zahŕňali požiadavky postupujúce od zisťovania siete a inventarizácie aktív cez cielený prieskum a exfiltráciu citlivých údajov až po neoprávnené, potenciálne nebezpečné úkony na zariadeniach.
Na základe spätnej väzby od spoločnosti Dragos sme zdokonalili ochranné opatrenia s cieľom blokovať škodlivú asistenciu bez zbytočného obmedzovania autorizovaného testovania. Podrobnosti o hodnoteniach nájdete v záverečnej správe spoločnosti Dragos(otvorí sa v novom okne). Pracujeme aj na rozšírení partnerstiev s ďalšími poskytovateľmi ofenzívnej bezpečnosti a tímami prepájajúcimi útočné a obranné postupy pri penetračnom testovaní a red teamingu s AI. Spolupracujeme tiež s energetickými spoločnosťami, ďalšími prevádzkovateľmi kritickej infraštruktúry a národnými laboratóriami na hodnotení účinnosti našich modelov a ochranných opatrení pri obrane priemyselných systémov. Zvýšili sme aj investície do vyšetrovania hrozieb, aby sme odhaľovali používanie modelov súvisiace s OT/ICS. Ochranné opatrenia budeme naďalej zdokonaľovať na základe podnetov od partnerov a bezpečnostnej komunity vrátane hlásení cez /feedback, keď ochrana prehliadne škodlivú činnosť alebo preruší legitímnu prácu.
GPT‑6 Cyber je spočiatku dostupný cez API a Codex vybranej skupine schválených zákazníkov Daybreak Red. Čoskoro budeme prístup postupne rozširovať na všetkých zákazníkov Daybreak Red. Všetkým zákazníkom Daybreak Red zároveň sprístupňujeme GPT‑5.6 Cyber. Rozširujeme aj prístup k alfa verzii Daybreak Blue pre GPT‑6 Astra na ďalšie organizácie a nezávislých bezpečnostných výskumníkov. Ak máte záujem, dajte nám vedieť(otvorí sa v novom okne).
Noví používatelia a organizácie sa môžu prihlásiť do Daybreak a začať využívať naše kyberbezpečnostné zručnosti, produkty a partnerov.
