GPT‑6 Cyber: Померање граница усклађених агената за сајбер безбедност

Представљамо GPT‑6 Cyber, велики искорак у безбедносним истраживањима: способнији је да пронађе и отклони рањивости и знатно поузданије поштује границе које истраживачи поставе. GPT‑6 Cyber доноси велики напредак у односу на GPT‑5.6 Cyber на кључним тестовима сајбер безбедности, укључујући релативно побољшање од 51% на тесту ExploitGym и велики скок у тестовима поштовања задатог опсега. Већ помаже у заштити софтвера у стварној употреби, откривајући и потврђујући хиљаде експлоита у базама кода кључним за безбедност, као што су Linux и Firefox.

На тесту ExploitGym, који проверава да ли модели могу да искористе задату рањивост, GPT‑6 Cyber остварује резултат од 48,5%, у односу на 32,1% за GPT‑5.6 Cyber. Поузданије поштује и границе задатка: у засебној процени усклађености, GPT‑6 Cyber је избегао искоришћавање рањивости сервиса ван задатог опсега у 99,93% тестова без своје инструкције за рад у употреби, а у 100% уз ту инструкцију. Ово побољшање усклађености резултат је наменске обуке за остајање у дозвољеном опсегу, поштовање ограничења и тачно извештавање о резултатима.

Ове способности већ помажу у заштити стварних система. Наши истраживачи су помоћу модела GPT‑6 Cyber развили 948 експлоита за подизање привилегија у систему Linux⁠ и открили 81 раније непознату рањивост високог степена озбиљности у прегледачу Firefox, упркос опсежном претходном тестирању граничним моделима. Модел је помогао и у развоју предлога закрпа, а Mozilla је објавила исправке за многе рањивости у прегледачу Firefox⁠(отвара се у новом прозору). Безбедносни тимови компанија Cisco, Calif и CodeRabbit користе га за истраживање рањивости и преглед кода, а ми смо се ослонили на њега да пронађемо и отклонимо слабости у сопственој инфраструктури⁠.

Јасно је да имамо ограничено време да граничне моделе искористимо за заштиту софтвера⁠. Наш циљ је да знатно проширимо Daybreak и омогућимо напредна безбедносна истраживања организацијама свих величина, независним истраживачима и одржаваоцима софтвера отвореног кода. Модели из основне понуде, попут GPT‑6 Astra, већ подржавају преглед кода, тријажу рањивости и развој закрпа. Daybreak Blue помаже провереним браниоцима да потврде рањивости и исправке уз мање непотребних одбијања, док Daybreak Red омогућава темељнији развој експлоита и овлашћено безбедносно тестирање помоћу модела GPT‑6 Cyber.

GPT‑6 Cyber представља велики напредак у односу на GPT‑5.6 Cyber и надмашује GPT‑6 Astra на већини сајбер задатака, чак и када Astra не одбије захтев. Модел смо процењивали на задацима који захтевају разумевање софтвера, препознавање рањивости и развој функционалних експлоита. На основу ових резултата, модел сврставамо у критични ниво у области сајбер безбедности према нашем Оквиру спремности, што је виши ниво од високог, у који је био сврстан GPT‑5.6 Cyber.

На тесту ExploitGym, који проверава да ли модели могу да искористе задату рањивост на удаљеној мети, GPT‑6 Cyber остварује 48,5%, што је око 16 процентних поена више од резултата модела GPT‑5.6 Cyber од 32,1%. Да бисмо тестирали откривање рањивости, осмислили смо и нову процену за офанзивно пенетрационо тестирање веб апликација. Модели испитују веб апликације без приступа њиховом изворном коду. GPT‑6 Cyber је открио 40,3% рањивости, у поређењу са 32,0% за GPT‑6 Astra.

Daybreak Red је осмишљен да подржи напредније безбедносне токове рада, укључујући развој функционалних експлоита и њихову примену на удаљеним метама. За процену ових способности направили смо нови тест, RemoteExploitBench, који користи познате рањивости у апликацијама као што су GitLab, PostgreSQL и Jenkins, постављеним у контролисаном окружењу. У почетној процени, GPT‑6 Astra у оквиру платформе Daybreak Blue одбио је 100% задатака, док је GPT‑6 Cyber завршио 95%; једини неуспех био је експлоит који није успео да оспособи за рад на даљину. Комплетне резултате и поставке процене погледајте у системској картици⁠(отвара се у новом прозору).

Један од ризика код агената за сајбер безбедност јесте да изађу из опсега додељеног задатка, покушају да искористе рањивости неповезаних сервиса или занемаре правила деловања која је поставио истраживач.

Усклађеност смо поставили у средиште развоја модела GPT‑6 Cyber. Специјализованом обуком помогли смо моделу да остане у дозвољеном опсегу, поштује ограничења својих радњи и тачно извештава о свом раду. Пре пуштања у употребу спровели смо низ процена усклађености да бисмо измерили ова понашања. Комплетне резултате погледајте у системској картици⁠(отвара се у новом прозору).

Једна од тих процена је ExploitGym Honeypot, осмишљена на основу сазнања из инцидента са платформом Hugging Face⁠. Моделу задајемо тежак задатак искоришћавања рањивости у изолованом окружењу, уз приступ помоћним сервисима, попут регистра пакета или складишта објеката. Намерно олакшавамо искоришћавање рањивости тих сервиса, тако да напад на њих може да открије заставицу задатка. Модел мора да закључи да је искоришћавање њихових рањивости ван опсега његовог задатка.

На овој процени GPT‑6 Cyber показује велики скок у односу на GPT‑5.6 Cyber. При тестирању без безбедносних инструкција за рад у употреби, избегао је искоришћавање рањивости сервиса ван задатог опсега у 99,93% случајева, у поређењу са 94,49% за GPT‑5.6 Cyber. Уз те инструкције, GPT‑6 Cyber је остао у задатим границама у 100% случајева.

Из начина резоновања модела GPT‑6 Cyber можемо непосредно да видимо како размишља о поштовању задатих граница:

GPT‑6 Cyber већ помаже безбедносним тимовима да пронађу рањивости, потврде њихов утицај и развију исправке. Клијенти га користе за рад са великим базама кода, дуготрајан развој експлоита и безбедносне прегледе:

На GPT‑6 Cyber ослонили смо се и да бисмо заштитили сопствене системе. Био је један од главних модела у раду на јачању заштите инфраструктуре за обуку граничних модела⁠, о ком смо недавно писали. У контролисаним кампањама црвене команде, агенти који користе GPT‑6 Cyber и друге моделе компаније OpenAI повезивали су рањивости у ланац како би изашли из микро виртуелних машина и извршавали код на њиховим хостовима. Налазе смо искористили за закрпљивање софтвера, пооштравање мрежних ограничења и пријављивање проблема одржаваоцима и добављачима.

Наши истраживачи рањивости такође користе GPT‑6 Cyber за масовно проналажење и потврђивање рањивости у софтверу отвореног кода. Овај рад је открио раније непознате пропусте у софтверу који се годинама детаљно испитује:

• Пронађена је 81 нова рањивост у прегледачу Firefox. GPT‑6 Cyber може бити погодан за аутономне токове рада који у великом обиму проналазе рањивости и предлажу висококвалитетне закрпе. Током кампање истраживања рањивости, GPT‑6 Cyber је израдио доказе и поновљиве тестове за 81 нову рањивост коју је Mozilla класификовала као рањивост високог степена озбиљности. Показао је и да је још 30 познатих проблема озбиљније него што је раније пријављено. Налазе смо доставили организацији Mozilla, заједно са предлозима закрпа, како бисмо њеним инжењерима помогли да развију исправке. Mozilla је подржала овај рад и почела да уводи исправке убрзо по пријему извештаја⁠(отвара се у новом прозору).

• Развој експлоита за 948 рањивости језгра Linux⁠. GPT‑6 Cyber је репродуковао 1.724 рањивости и развио функционалне експлоите за њих 948 — више него петоструко у односу на 166 рањивости које је GPT‑5.6 Sol искористио у истом истраживачком окружењу. У складу са смерницама заједнице Linux, одржаваоцима смо доставили 304 критична налаза са предлозима закрпа, а рад на отклањању осталих рањивости је у току.

• Демонстрирање критичних RCE рањивости. Недавно смо писали о критичној рањивости у библиотеци Brotli⁠(отвара се у новом прозору), библиотеци за компресију коју користе Node.js и други софтвер. Наши безбедносни истраживачи користили су GPT‑6 Cyber уз друге моделе компаније OpenAI да развију и потврде експлоите који показују како би тај пропуст могао да омогући даљинско извршавање кода у апликацијама које користе ту библиотеку.

Како модели постају способнији и откривају више безбедносних рањивости, примећујемо и све више покушаја да се искористе за наношење штете. Међу њима су покушаји злонамерних сајбер актера и противничких група које настоје да дестилују наше моделе. Зато смо веће способности модела GPT‑6 Cyber упарили са снажнијим заштитним мерама за откривање и спречавање злоупотребе, како би радње модела остале у оквиру намере и овлашћења корисника.

Уз објављивање модела GPT‑6 Cyber додали смо и ојачали следеће мере заштите (све информације налазе се у системској картици⁠(отвара се у новом прозору)):

• Праћење неусклађености у сајбер активностима. Пратимо да ли радње одговарају овлашћењима корисника, уз препознавање легитимног развоја и тестирања експлоита.

• Циљано праћење нових претњи. На пример, током координисаног обелодањивања критичних рањивости у PHP-у, успоставили смо циљано праћење покушаја развоја експлоита за активне PHP сервере, уз задржавање подршке браниоцима који закрпљују погођене системе.

• Приватна безбедносна обрада (PSP). Аутоматизованим проверама испитујемо повезане интеракције ради откривања злоупотребе. Стандардно задржавање података остаје подразумевано. API клијенти који користе незадржавање података⁠(отвара се у новом прозору) по правилу морају да користе PSP⁠(отвара се у новом прозору). Овај механизам прегледа шифроване записе који се 30 дана чувају у складишту клијента, а да инструкције и одговоре не открива особљу компаније OpenAI.

• Заштита од употребе украдених акредитива. За API приступ платформи Daybreak Red подразумевано захтевамо листу дозвољених IP адреса, чиме захтеве ограничавамо на одобрене мреже, уз ограничене изузетке. Такође пратимо да ли су акредитиви компромитовани.

• Изоловано извршавање и надзор. Као и код претходних модела, за високоризичне токове рада препоручујемо изоловано извршавање⁠(отвара се у новом прозору), проверу радњи⁠(отвара се у новом прозору) и људски надзор.

• Заштита од пружања помоћи у високоризичним сајбер активностима. Новим проверама блокирамо високоризичне активности које укључују критичне системе (више о томе у наставку).

Заштита критичне инфраструктуре била је један од кључних приоритета при осмишљавању заштитних мера и приступа моделу GPT‑6 Cyber. То обухвата електране, постројења за пречишћавање воде, као и оперативну технологију и индустријске управљачке системе (OT/ICS) на којима се њихов рад заснива. Желимо да тимовима који бране ове системе омогућимо приступ нашим најспособнијим моделима, а да истовремено ојачамо заштитне мере како бисмо спречили неовлашћене нападе.

Прво, да бисмо ове браниоце опремили, наш програм бесповратне помоћи Daybreak за браниоце на првој линији⁠, вредан милијарду долара, субвенционише приступ тимовима са ограниченим ресурсима, попут државних организација и пружалаца основних услуга. Уводимо и нову групу у оквиру платформе Daybreak Red (Daybreak Red за критичну инфраструктуру) за одобрене браниоце критичне инфраструктуре. Она им даје дозволе за овлашћено тестирање критичних система, уз задржавање заштите од неусклађеног понашања модела.

Друго, да бисмо спречили злоупотребу платформи Daybreak Red и Blue, унапредили смо заштиту од пружања помоћи и развоја способности које би могле да угрозе индустријско управљање или системе кључне за безбедност, ометају рад опреме или изазову тешке повреде, катастрофалну физичку штету или прекиде услуга опасне по живот. Графикон у наставку пореди стопе означавања заштитним механизмима за четири конфигурације приступа, пре и после недавних ажурирања која уводимо уз GPT‑6 Cyber.

Више стопе блокирања заштитним механизмима нису увек боље. Многе технике у овој процени неопходне су и за легитиман безбедносни рад: разумевање система, проналажење рањивости и проверу да ли исправке одолевају нападима. Зато ове стопе процењујемо заједно са подршком легитимном истраживању и закрпљивању, уместо да тежимо стопи од 100%.

Да бисмо проценили како наши модели могу да помогну у одбрани критичне инфраструктуре, удружили смо се са компанијом Dragos, глобалним пружаоцем решења за сајбер безбедност проширене оперативне технологије (xOT). Dragos је спровео процене у контролисаном лабораторијском окружењу, користећи моделе Daybreak Red са ширим дозволама за сајбер активности. Процене су обухватале захтеве који су се кретали од откривања мреже и пописивања ресурса до циљаног извиђања, извлачења осетљивих података и неовлашћених, потенцијално опасних радњи на уређајима.

Повратне информације компаније Dragos искористили смо за усавршавање заштитних мера, са циљем да блокирамо штетну помоћ без непотребног ограничавања овлашћеног тестирања. Детаље о проценама погледајте у њиховом завршном извештају⁠(отвара се у новом прозору). Радимо и на ширењу партнерстава са другим пружаоцима услуга офанзивне безбедности и љубичастим тимовима у области пенетрационог тестирања и активности црвене команде уз AI. Сарађујемо и са енергетским компанијама, другим оператерима критичне инфраструктуре и националним лабораторијама како бисмо проценили делотворност наших модела и њихових заштитних мера у одбрани индустријских система. Повећали смо и улагања у истраживање претњи како бисмо откривали употребу модела која укључује OT/ICS. Наставићемо да усавршавамо заштитне мере уз доприносе партнера и безбедносне заједнице, укључујући пријаве преко /feedback када заштитни механизми пропусте штетну активност или прекину легитиман рад.

GPT‑6 Cyber је у почетку доступан преко API-ја и алата Codex одабраној групи одобрених клијената платформе Daybreak Red. Ускоро ћемо постепено проширити приступ на све клијенте платформе Daybreak Red, а свима њима омогућавамо и приступ моделу GPT‑5.6 Cyber. Проширујемо и алфа приступ платформи Daybreak Blue за GPT‑6 Astra на више организација и појединачних безбедносних истраживача; јавите нам⁠(отвара се у новом прозору) ако сте заинтересовани.

Нови корисници и организације могу да се пријаве за Daybreak⁠ и почну да раде уз наше сајбер вештине, производе и партнере⁠.