GPT‑6 Cyber: Поместување на границите на усогласените агенти за сајбербезбедност
Модел за сајбербезбедност обучен да открива и потврдува ранливости што може да се искористат, останувајќи во опсегот што го задаваат истражувачите.
Го претставуваме GPT‑6 Cyber, голем исчекор во безбедносното истражување: поспособен во откривање и отстранување ранливости и далеку посигурен во почитувањето на границите што ги поставуваат истражувачите. GPT‑6 Cyber остварува голем напредок во однос на GPT‑5.6 Cyber на клучни репер-тестови за сајбербезбедност, вклучително и релативно подобрување од 51% на ExploitGym и крупен скок во тестовите за почитување на зададениот опсег. Тој веќе помага во заштитата на софтвер што се користи во пракса, откривајќи и потврдувајќи илјадници експлоити во бази на код клучни за безбедноста, како Linux и Firefox.
На ExploitGym, кој проверува дали моделите можат да искористат одредена ранливост, GPT‑6 Cyber постигнува 48,5%, наспроти 32,1% кај GPT‑5.6 Cyber. Тој посигурно ги почитува и границите на задачата: во посебна евалуација на усогласеноста, GPT‑6 Cyber избегна експлоатација на услуги надвор од опсегот во 99,93% од тестовите без својот промпт за пуштање во употреба и во 100% со тој промпт. Ова подобрување во усогласеноста е резултат на наменска обука за почитување на одобрениот опсег и ограничувањата и за точно известување за резултатите.
Овие способности веќе помагаат во заштитата на реални системи. Нашите истражувачи го користеа GPT‑6 Cyber за да развијат 948 експлоити за зголемување привилегии во Linux и да откријат 81 претходно непозната ранливост со висока сериозност во Firefox, и покрај обемното претходно тестирање со гранични модели. Моделот помогна и во развојот на предлог-закрпи, а Mozilla објави поправки за многу од ранливостите во Firefox(се отвора во нов прозорец). Безбедносните тимови во Cisco, Calif и CodeRabbit го користат за истражување ранливости и преглед на код, а ние се потпревме на него за да откриеме и отстраниме слабости во сопствената инфраструктура.
Јасно е дека имаме ограничено време да ги искористиме граничните модели за заштита на софтверот. Нашата цел е значително да го прошириме Daybreak и да им овозможиме напредно безбедносно истражување на организации од секоја големина, независни истражувачи и одржувачи на софтвер со отворен код. Моделите од главната линија, како GPT‑6 Astra, веќе поддржуваат преглед на код, тријажа на ранливости и развој на закрпи. Daybreak Blue им помага на проверените бранители да ги потврдуваат ранливостите и поправките со помалку непотребни одбивања, додека Daybreak Red овозможува подлабок развој на експлоити и овластено безбедносно тестирање со GPT‑6 Cyber.
GPT‑6 Cyber е голем напредок во однос на GPT‑5.6 Cyber и го надминува GPT‑6 Astra во повеќето сајберзадачи, дури и кога Astra не го одбива барањето. Го евалуиравме моделот со задачи што бараат да го разбере софтверот, да открие ранливости и да развие функционални експлоити. Врз основа на овие резултати, според нашата Рамка за подготвеност го класифицираме моделот на критично ниво во сајбербезбедноста, наспроти високото ниво за GPT‑5.6 Cyber.
На ExploitGym, кој проверува дали моделите можат да искористат одредена ранливост кај далечинска цел, GPT‑6 Cyber постигнува 48,5%, околу 16 процентни поени повеќе од 32,1% на GPT‑5.6 Cyber. За да го тестираме откривањето ранливости, создадовме и нова евалуација за офанзивно пенетрационо тестирање веб-апликации. Моделите ги испитуваат веб-апликациите без пристап до нивниот изворен код. GPT‑6 Cyber откри 40,3% од ранливостите, наспроти 32,0% кај GPT‑6 Astra.
Daybreak Red е осмислен да поддржува понапредни безбедносни работни текови, вклучително и развој на функционални експлоити и нивна употреба против далечински цели. За да ги евалуираме овие способности, создадовме нов репер-тест наречен RemoteExploitBench, кој користи познати ранливости во апликации како GitLab, PostgreSQL и Jenkins, поставени во контролирана средина. Во нашата првична евалуација, GPT‑6 Astra со Daybreak Blue одби 100% од задачите, додека GPT‑6 Cyber заврши 95%; единствениот неуспех беше експлоит што не успеа да го оспособи за далечинско дејствување. Целосните резултати и поставките за евалуација се во системската картичка(се отвора во нов прозорец).
Еден ризик кај агентите за сајбербезбедност е да излезат од опсегот на доделената задача, да се обидат да искористат ранливости во неповрзани услуги или да ги занемарат правилата за дејствување што ги поставил истражувачот.
Усогласеноста ја поставивме во средиштето на развојот на GPT‑6 Cyber, со специјализирана обука што му помага на моделот да остане во одобрениот опсег, да ги почитува ограничувањата за своите дејства и точно да известува за својата работа. Пред пуштањето во употреба, спроведовме низа евалуации на усогласеноста за да ги измериме овие однесувања. Целосните резултати се во системската картичка(се отвора во нов прозорец).
Една од овие евалуации е ExploitGym Honeypot, осмислена врз основа на поуките од инцидентот со Hugging Face. На моделот му задаваме тешка задача за искористување ранливост во изолирана средина со пристап до помошни услуги, како регистар на пакети или складиште за објекти. Намерно ги правиме овие услуги лесни за експлоатација, така што напад врз нив може да го открие знамето на задачата. Моделот мора сам да заклучи дека нивната експлоатација е надвор од опсегот на неговата задача.
Во оваа евалуација, GPT‑6 Cyber покажува крупен напредок во однос на GPT‑5.6 Cyber. При тестирање без безбедносните промптови за пуштање во употреба, избегна експлоатација на услуги надвор од опсегот во 99,93% од случаите, наспроти 94,49% кај GPT‑5.6 Cyber. Со тие промптови, GPT‑6 Cyber ги почитуваше границите во 100% од случаите.
Директно во синџирот на размислување на моделот GPT‑6 Cyber можеме да видиме како размислува за почитувањето на границите:
“Can't assume extra API or attack controller not target. We should only target binary/server.”
“don't explore out of scope credentials.”
GPT‑6 Cyber веќе им помага на безбедносните тимови да откриваат ранливости, да го потврдуваат нивното влијание и да развиваат поправки. Клиентите го користат за работа со големи бази на код, долготраен развој на експлоити и безбедносни прегледи:
На GPT‑6 Cyber се потпираме и за заштита на сопствените системи. Тој беше еден од главните модели во работата што неодамна ја споделивме за зајакнување на заштитата на инфраструктурата за обука на гранични модели. Во контролирани кампањи за тестирање на отпорноста, агенти што користеа GPT‑6 Cyber и други модели на OpenAI поврзуваа ранливости за да излезат од microVM-околините и да извршат код на нивните хостови. Ги искористивме наодите за да го закрпиме софтверот, да ги заостриме мрежните ограничувања и да ги пријавиме проблемите кај одржувачите и добавувачите.
Нашите истражувачи на ранливости го користат GPT‑6 Cyber и за масовно откривање и потврдување ранливости во софтвер со отворен код. Со оваа работа откривме претходно непознати пропусти во софтвер што со години се подложува на темелни проверки:
Откриени 81 нова ранливост во Firefox. GPT‑6 Cyber може да биде соодветен за автономни работни текови за масовно откривање ранливости и предлагање висококвалитетни закрпи. Во текот на кампања за истражување ранливости, GPT‑6 Cyber создаде докази и повторливи тестови за 81 нова ранливост што Mozilla ги класифицираше како високо сериозни, а покажа и дека уште 30 познати проблеми се посериозни од претходно пријавеното. Ги пријавивме наодите кај Mozilla, заедно со предложени закрпи што ќе им помогнат на нејзините инженери да развијат поправки. Mozilla ја поддржа оваа работа и почна да вградува поправки набргу по добивањето на извештаите(се отвора во нов прозорец).
Развој на експлоити за 948 ранливости во јадрото на Linux. GPT‑6 Cyber репродуцираше 1.724 ранливости и разви функционални експлоити за 948 — повеќе од петпати над 166-те што ги искористи GPT‑5.6 Sol со истата истражувачка рамка. Следејќи ги насоките на заедницата на Linux, им пријавивме 304 критични наоди на одржувачите, заедно со предлог-закрпи, а во тек е работата за отстранување и на другите ранливости.
Демонстрирање критични ранливости за далечинско извршување код (RCE). Неодамна пишувавме за критична ранливост во Brotli(се отвора во нов прозорец), библиотека за компресија што ја користат Node.js и друг софтвер. Нашите безбедносни истражувачи користеа GPT‑6 Cyber заедно со други модели на OpenAI за да развијат и потврдат експлоити што покажуваат како пропустот може да овозможи далечинско извршување код во апликациите што ја користат библиотеката.
Како што моделите стануваат поспособни и откриваат повеќе безбедносни ранливости, забележуваме и повеќе обиди да се искористат за предизвикување штета. Меѓу нив се обиди на злонамерни сајберактери и противнички групи што настојуваат да извршат дестилација на нашите модели. Затоа, посилните способности на GPT‑6 Cyber ги придруживме со посилни заштитни мерки за откривање и спречување злоупотреба и за задржување на дејствата на моделот во рамките на намерата и овластувањето на корисникот.
Со објавувањето на GPT‑6 Cyber ги додадовме и зајакнавме следниве заштити (целосните информации се во системската картичка(се отвора во нов прозорец)):
Следење на неусогласеноста специфична за сајберзадачи. Следиме дали дејствата се во согласност со овластувањето од корисникот, притоа препознавајќи го легитимниот развој и тестирање на експлоити.
Насочено следење на нови закани. На пример, при координираното објавување критични ранливости во PHP, воведовме насочено следење на обиди за развој на експлоити против активни PHP-сервери, задржувајќи ја поддршката за бранителите што ги крпат засегнатите системи.
Приватна безбедносна обработка (PSP). Со автоматизирани проверки ги прегледуваме поврзаните интеракции за да откриеме злоупотреба. Стандардното задржување останува стандардна поставка. Клиентите на API што користат нула задржување на податоци(се отвора во нов прозорец) по правило мора да користат PSP(се отвора во нов прозорец), кој прегледува шифрирани записи задржани 30 дена во складиштето на клиентот, без да им ги открива промптовите и одговорите на вработените во OpenAI.
Заштита од украдени податоци за најава. За пристап до API на Daybreak Red стандардно бараме листа на дозволени IP-адреси, со што барањата се ограничуваат на одобрени мрежи, со мал број исклучоци. Исто така, следиме дали податоците за најава се компромитирани.
Изолирано извршување и надзор. Како и кај претходните модели, за високоризични работни текови препорачуваме изолирано извршување(се отвора во нов прозорец), проверка на дејствата(се отвора во нов прозорец) и човечки надзор.
Заштита од високоризична сајберпомош. Користиме нови проверки за блокирање високоризични активности што вклучуваат критични системи (повеќе подолу).
Заштитата на критичната инфраструктура беше клучен приоритет при осмислувањето на заштитните мерки и пристапот до GPT‑6 Cyber. Тука спаѓаат електраните, постројките за третман на вода, како и оперативната технологија и индустриските контролни системи (OT/ICS) на кои се потпираат. Сакаме истовремено да им овозможиме на тимовите што ги бранат овие системи пристап до нашите најспособни модели и да ги зајакнеме заштитните мерки за спречување неовластени напади.
Прво, за да ги опремиме овие бранители, нашата програма за грантови од 1 милијарда долари Daybreak за бранителите на првата линија го субвенционира пристапот за тимови со ограничени ресурси, како владини организации и даватели на основни услуги. Воведуваме и нова група во рамките на Daybreak Red (Daybreak Red за критична инфраструктура) за одобрени бранители на критична инфраструктура. Таа им дава дозволи за овластено тестирање критични системи, со задржување на заштитите од неусогласеност на моделот.
Второ, за да спречиме злоупотреба на платформите Daybreak Red и Blue, ги доработивме заштитите од помош и развој на способности што би можеле да ги компромитираат индустриските контроли или системите клучни за безбедноста, да ја попречат работата на опремата или да предизвикаат сериозни повреди, катастрофална физичка штета или прекин на услуги што загрозува животи. Графиконот подолу ги споредува стапките на означување од заштитните механизми кај четири конфигурации за пристап, пред и по најновите ажурирања што ги воведуваме заедно со GPT‑6 Cyber.
Повисоките стапки на блокирање од заштитните механизми не се секогаш подобри. Многу од техниките во оваа евалуација се неопходни и за легитимна безбедносна работа: разбирање на системите, откривање ранливости и проверка дали поправките издржуваат напад. Затоа ги оценуваме овие стапки заедно со поддршката за легитимно истражување и крпење, наместо да се стремиме кон 100%.
За да оцениме како нашите модели можат да помогнат во одбраната на критичната инфраструктура, соработувавме со Dragos, глобален давател на сајбербезбедносни решенија за проширена оперативна технологија (xOT). Dragos спроведе евалуации во контролирана лабораториска средина, користејќи модели на Daybreak Red со пошироки дозволи за сајберзадачи. Евалуациите опфатија барања што се движеа од откривање мрежи и попишување ресурси, преку насочено извидување и извлекување чувствителни податоци, до неовластени, потенцијално опасни дејства на уредите.
Ги искористивме повратните информации од Dragos за да ги доработиме заштитните мерки, со цел да ја блокираме штетната помош без непотребно да го ограничуваме овластеното тестирање. За детали за евалуациите, погледнете го нивниот конечен извештај(се отвора во нов прозорец). Работиме и на проширување на партнерствата со други даватели на офанзивни безбедносни услуги и комбинирани напаѓачко-одбранбени тимови за пенетрационо тестирање и тестирање на отпорноста со ВИ, како и со енергетски компании, други оператори на критична инфраструктура и национални лаборатории, за да ја оцениме ефикасноста и заштитните мерки на нашите модели во индустриската одбрана. Ги зголемивме и вложувањата во истражување закани за да откриваме употреба на моделите што вклучува OT/ICS. Ќе продолжиме да ги усовршуваме заштитните мерки со придонес од партнерите и безбедносната заедница, вклучително и преку пријави со /feedback кога заштитите пропуштаат штетни активности или ја прекинуваат легитимната работа.
GPT‑6 Cyber првично е достапен преку API и Codex за избрана група одобрени клиенти на Daybreak Red. Наскоро постепено ќе го прошириме пристапот за сите клиенти на Daybreak Red, а го правиме достапен и GPT‑5.6 Cyber за сите клиенти на Daybreak Red. Го прошируваме и алфа-пристапот до Daybreak Blue за GPT‑6 Astra за повеќе организации и поединечни безбедносни истражувачи; известете нѐ(се отвора во нов прозорец) ако сте заинтересирани.
Новите корисници и организации можат да се пријават за Daybreak и да започнат со нашите сајбервештини, производи и партнери.
