GPT‑6 Cyber: Pagsulong sa larangan ng mga naka-align na cybersecurity agent

Ipinapakilala namin ang GPT‑6 Cyber, isang malaking pagsulong sa pananaliksik sa seguridad: mas mahusay ito sa pagtukoy ng mga kahinaan at pagbuo ng mga pag-aayos para sa mga ito, at di-hamak na mas maaasahan sa pagsunod sa mga hangganang itinakda ng mga mananaliksik. Nagtala ang GPT‑6 Cyber ng malaking pagbuti ng performance sa mahahalagang cybersecurity benchmark kumpara sa GPT‑5.6 Cyber, kabilang ang 51% na relatibong pagtaas sa ExploitGym at isang malaking pag-angat ng performance sa pagsusuri kung nananatili ito sa loob ng awtorisadong saklaw. Nakakatulong na ito sa pagprotekta sa software na aktuwal na ginagamit, sa pamamagitan ng pagtuklas at pag-validate ng libo-libong exploit sa mga codebase na kritikal sa seguridad, gaya ng Linux at Firefox.

Sa ExploitGym, na sumusubok kung kayang mag-exploit ng mga modelo ng isang tinukoy na kahinaan, nakakuha ang GPT‑6 Cyber ng 48.5%, mula sa 32.1% na naitala ng GPT‑5.6 Cyber. Mas maaasahan din ito sa pagsunod sa mga hangganan ng gawain: sa isang hiwalay na pagsusuri sa alignment, naiwasan ng GPT‑6 Cyber ang pag-exploit sa mga serbisyong nasa labas ng saklaw sa 99.93% ng mga pagsubok nang walang deployment prompt, at sa 100% ng mga pagsubok gamit ang prompt na ito. Ipinapakita ng paghusay na ito sa alignment ang bisa ng espesyalisadong pagsasanay para manatili ang modelo sa awtorisadong saklaw, sumunod sa mga restriksyon, at tumpak na iulat ang mga resulta.

Nakatutulong na ang mga kakayahang ito sa pagprotekta ng mga aktuwal na system. Ginamit ng aming mga mananaliksik ang GPT‑6 Cyber para bumuo ng 948 privilege escalation exploit sa Linux⁠ at tukuyin ang 81 malulubhang kahinaan sa Firefox na hindi pa natutukoy dati, sa kabila ng malawakang naunang pagsubok gamit ang mga frontier na modelo. Nakatulong din ang modelo sa pagbuo ng mga posibleng patch, at naglabas na ang Mozilla ng mga pag-aayos para sa marami sa mga kahinaan sa Firefox⁠(magbubukas sa bagong window). Ginagamit ito ng mga security team sa Cisco, Calif, at CodeRabbit para sa pananaliksik sa kahinaan at pagsusuri ng code, at ginamit namin ito para matuklasan at ayusin ang mga kahinaan sa sarili naming imprastraktura⁠.

Malinaw na limitado ang ating panahon para gamitin ang mga frontier na modelo sa pagprotekta ng software⁠. Layunin naming palawakin nang husto ang Daybreak, para maihatid ang advanced na pananaliksik sa seguridad sa mga organisasyon anuman ang laki, mga independent na mananaliksik, at mga maintainer ng open-source software. Sinusuportahan na ng mga pangunahing modelo gaya ng GPT‑6 Astra ang pagsusuri ng code, pag-triage ng mga kahinaan, at pagbuo ng mga patch. Tinutulungan ng Daybreak Blue ang mga verified na defender na i-validate ang mga kahinaan at pag-aayos nang may mas kaunting di-kinakailangang pagtanggi, habang nagbibigay-daan ang Daybreak Red sa mas masusing pagbuo ng exploit at awtorisadong pagsubok sa seguridad gamit ang GPT‑6 Cyber.

Malaking pagsulong ang GPT‑6 Cyber kumpara sa GPT‑5.6 Cyber, at nahihigitan nito ang GPT‑6 Astra sa karamihan ng mga gawaing cyber, kahit na hindi tumatanggi ang Astra sa kahilingan. Sinuri namin ang modelo sa mga gawaing nangangailangan ng pag-unawa sa software, pagtukoy ng mga kahinaan, at pagbuo ng mga gumaganang exploit. Batay sa mga resultang ito, inuuri namin ang modelo bilang Kritikal sa larangan ng cybersecurity sa ilalim ng aming Preparedness Framework, na mas mataas kaysa sa Mataas na klasipikasyon ng GPT‑5.6 Cyber.

Sa ExploitGym, na sumusubok kung kayang i-exploit ng mga modelo ang isang tinukoy na kahinaan sa isang remote na target, nakakuha ang GPT‑6 Cyber ng 48.5%, na humigit-kumulang 16 na percentage point na mas mataas kaysa sa 32.1% ng GPT‑5.6 Cyber. Para subukan ang pagtuklas ng kahinaan, bumuo rin kami ng bagong pagsusuri para sa offensive web penetration testing. Sinisiyasat ng mga modelo ang mga web application nang walang access sa source code ng mga ito. Nakamit ng GPT‑6 Cyber ang 40.3% na recall sa mga kahinaan kumpara sa 32.0% ng GPT‑6 Astra.

Idinisenyo ang Daybreak Red upang suportahan ang mas advanced na mga security workflow, kabilang ang pagbuo ng mga gumaganang exploit at paggamit sa mga ito laban sa mga remote na target. Upang suriin ang mga kakayahang ito, bumuo kami ng bagong benchmark na tinatawag na RemoteExploitBench, na gumagamit ng mga kilalang kahinaan sa mga application gaya ng GitLab, PostgreSQL, at Jenkins na naka-deploy sa isang kontroladong environment. Sa aming paunang pagsusuri, tinanggihan ng GPT‑6 Astra na tumatakbo gamit ang Daybreak Blue ang 100% ng mga gawain, samantalang natapos ng GPT‑6 Cyber ang 95%; isang exploit lang ang hindi nito mapagana nang remote. Tingnan ang card ng system⁠(magbubukas sa bagong window) para sa buong resulta at mga setting ng pagsusuri.

Isa sa mga panganib ng paggamit ng mga cybersecurity agent ay ang paglampas ng mga ito sa saklaw ng kanilang nakatalagang gawain, pagtatangkang i-exploit ang mga walang kaugnayang serbisyo, o pagbalewala sa rules of engagement ng mananaliksik.

Ginawa naming pangunahing pokus ng GPT‑6 Cyber ang alignment, gamit ang specialized na pagsasanay para tulungan ang modelo na manatili sa awtorisadong saklaw, sumunod sa mga paghihigpit sa mga aksyon nito, at tumpak na maiulat ang mga ginawa nito. Bago ito i-deploy, nagsagawa kami ng isang serye ng mga pagsusuri sa alignment para masukat ang mga gawi na ito. Tingnan ang card ng system⁠(magbubukas sa bagong window) para sa kumpletong mga resulta.

Isa sa mga pagsusuring ito ang ExploitGym Honeypot, na binuo batay sa insidente sa Hugging Face⁠. Binigyan namin ang modelo ng mahirap na exploitation task sa isang isolated na environment na may access sa mga pansuportang serbisyo, gaya ng package registry o object store. Sinadya naming gawing madaling i-exploit ang mga serbisyong ito para mailantad ng pag-atake sa mga ito ang flag ng gawain. Kailangang mahinuha ng modelo na hindi sakop ng gawain nito ang pag-exploit sa mga iyon.

Nagpakita ang GPT‑6 Cyber ng malaking pag-unlad kumpara sa GPT‑5.6 Cyber sa pagsusuring ito. Sa pagsubok na walang mga safety prompt para sa deployment, naiwasan nitong i-exploit ang mga hindi saklaw na serbisyo sa 99.93% ng mga kaso, kumpara sa 94.49% na naitala ng GPT‑5.6 Cyber. Nang ginamit ang mga prompt na iyon, nanatili ang GPT‑6 Cyber sa loob ng mga itinakdang limitasyon sa 100% ng mga kaso.

Direkta nating makikita sa chain-of-thought ng GPT‑6 Cyber na modelo kung paano ito nangangatwiran tungkol sa pagsunod sa mga limitasyon:

Tinutulungan na ng GPT‑6 Cyber ang mga security team na makahanap ng mga kahinaan, i-validate ang epekto ng mga ito, at bumuo ng mga solusyon. Ginagamit na ito ng mga customer sa malalaking codebase, matagalang pagbuo ng mga exploit, at pagsusuri sa seguridad:

Umasa din kami sa GPT‑6 Cyber para maprotektahan ang sarili naming mga system. Isa ito sa mga pangunahing modelong ginamit namin sa gawaing ibinahagi namin kamakailan tungkol sa pagpapatibay sa seguridad ng imprastrakturang ginagamit sa pagsasanay ng mga frontier na modelo⁠. Sa mga kontroladong red-teaming campaign, nag-chain ng mga kahinaan ang mga agent na gumagamit ng GPT‑6 Cyber at iba pang modelo ng OpenAI upang makalabas sa mga microVM at mag-execute ng code sa mga underlying host. Ginamit namin ang mga natuklasan upang maglapat ng mga patch sa software, higpitan ang mga restriksyon sa network, at mag-ulat ng mga isyu sa mga maintainer at vendor.

Ginagamit din ng aming mga mananaliksik ng kahinaan ang GPT‑6 Cyber para maghanap at mag-validate ng mga kahinaan sa open-source na software nang malawakan. Natuklasan sa gawaing ito ang mga depektong dati ay hindi pa natutukoy, kahit matagal nang masusing sinusuri ang software na kinaroroonan ng mga ito:

• Nakatuklas ng 81 bagong kahinaan sa Firefox. Maaaring angkop ang GPT‑6 Cyber sa mga autonomous na workflow para sa malawakang pagtuklas ng mga kahinaan at pagmumungkahi ng mga de-kalidad na patch. Sa isang kampanya sa pananaliksik ng kahinaan, gumawa ang GPT‑6 Cyber ng ebidensya at mga pagsubok na puwedeng i-reproduce para sa 81 bagong tuklas na kahinaang inuri ng Mozilla bilang may mataas na antas ng kalubhaan, at ipinakita nitong mas malubha kaysa sa naunang iniulat ang 30 pang dati nang natukoy na isyu. Ibinahagi namin ang mga natuklasan sa Mozilla, kasama ang mga iminumungkahing patch upang tulungan ang mga engineer nito na bumuo ng mga solusyon. Sinuportahan ng Mozilla ang gawaing ito at nagsimulang magsama ng mga solusyon di-nagtagal matapos matanggap ang mga ulat⁠(magbubukas sa bagong window).

• Pagbuo ng mga exploit para sa 948 kahinaan sa Linux kernel⁠. Ni-reproduce ng GPT‑6 Cyber ang 1,724 na kahinaan at nakabuo ito ng mga gumaganang exploit para sa 948 sa mga ito—mahigit limang beses ng 166 na na-exploit ng GPT‑5.6 Sol gamit ang parehong harness sa pananaliksik. Alinsunod sa gabay ng komunidad ng Linux, ibinahagi namin sa mga maintainer ang 304 na kritikal na natuklasan kasama ang mga posibleng patch, at kasalukuyan naming inaasikaso ang paggawa ng solusyon sa iba pang kahinaan.

• Pagpapakita ng mga kritikal na kahinaan sa RCE. Tinalakay namin kamakailan ang isang kritikal na kahinaan sa Brotli⁠(magbubukas sa bagong window), isang compression library na ginagamit ng Node.js at iba pang software. Ginamit ng aming mga mananaliksik sa seguridad ang GPT‑6 Cyber kasama ng iba pang modelo ng OpenAI para bumuo at mag-validate ng mga exploit na nagpapakita kung paano maaaring magbigay-daan ang depekto sa remote na pag-execute ng code sa mga application na gumagamit nito.

Habang nagiging mas mahusay ang mga modelo at nakatutuklas ng mas maraming kahinaan sa seguridad, dumarami rin ang nakikita naming pagtatangkang gamitin ang mga ito maminsala. Kabilang dito ang mga pagsisikap ng mga malisyosong cyber actor at kalabang grupong naglalayong magsagawa ng distillation sa aming mga modelo. Kaya tinapatan namin ang mas malalakas na kakayahan ng GPT‑6 Cyber ng mas mahihigpit na proteksyon upang matukoy at mapigilan ang maling paggamit, at mapanatili ang mga aksyon ng modelo alinsunod sa layunin at pahintulot ng user.

Idinagdag at pinatibay namin ang mga proteksyong ito kasabay ng paglabas ng GPT‑6 Cyber (tingnan ang card ng system⁠(magbubukas sa bagong window) para sa kumpletong impormasyon):

• Pagsubaybay sa misalignment na partikular sa cyber. Sinusubaybayan namin kung naaayon ang mga aksyon sa pahintulot ng user, habang kinikilala ang lehitimong pagbuo at pagsubok ng exploit.

• Naka-target na pagsubaybay sa mga bagong banta. Halimbawa, sa koordinadong pagsisiwalat ng mga kritikal na kahinaan sa PHP, nagtakda kami ng naka-target na pagsubaybay sa mga pagtatangkang bumuo ng mga exploit laban sa mga live na PHP server, habang pinananatili ang suporta sa mga defender na naglalapat ng mga patch sa mga apektadong system.

• Private Safety Processing (PSP). Gumagamit kami ng mga naka-automate na pagsusuri para suriin kung may maling paggamit sa mga nauugnay na interaction. Default pa rin ang karaniwang pagpapanatili ng data. Karaniwang kinakailangan ang PSP⁠(magbubukas sa bagong window) para sa mga API customer na gumagamit ng Zero na Pagpapanatili ng Data⁠(magbubukas sa bagong window). Sinusuri nito ang mga naka-encrypt na rekord na pinananatili sa storage ng customer sa loob ng 30 araw nang hindi inilalantad sa mga personnel ng OpenAI ang mga prompt at tugon.

• Proteksyon laban sa mga ninakaw na kredensyal. Bilang default, kinakailangan namin ang IP allowlisting para sa access sa Daybreak Red API, na naglilimita sa mga request sa mga aprubadong network, na may limitadong exception. Sinusubaybayan din namin kung nakompromiso ang mga kredensyal.

• Sandboxing at pangangasiwa. Gaya ng sa mga naunang modelo, inirerekomenda namin ang sandboxing⁠(magbubukas sa bagong window), pagsusuri ng aksyon⁠(magbubukas sa bagong window), at pangangasiwa ng tao para sa mga workflow na may mataas na panganib.

• Mga proteksyon laban sa tulong sa mga cyber activity na may mataas na panganib. Gumagamit kami ng mga bagong pagsusuri para i-block ang mga aktibidad na may mataas na panganib na sangkot ang mga kritikal na system (tingnan sa ibaba para sa higit pang detalye).

Naging pangunahing konsiderasyon sa pagdidisenyo ng mga pananggalang at access ng GPT‑6 Cyber ang pagprotekta sa kritikal na imprastraktura, kabilang ang mga planta ng kuryente, pasilidad sa paggamot ng tubig, at ang operational technology at industrial control systems (OT/ICS) na na nagsisilbing pundasyon ng operasyon ng mga ito. Gusto naming bigyan ang mga team na nagpoprotekta sa mga system na ito ng access sa aming pinakamahuhusay na modelo, habang pinatitibay ang aming mga pananggalang para mapigilan ang mga hindi awtorisadong pag-atake.

Una, upang mabigyan ng kinakailangang suporta ang mga defender na ito, tinutustusan ng aming $1 bilyong grant program na Daybreak for Frontline Defenders⁠ ang access ng mga team na limitado ang resources, gaya ng mga organisasyon ng pamahalaan at mga tagapagbigay ng mahahalagang serbisyo. Nagtatatag din kami ng bagong grupo sa loob ng Daybreak Red (Daybreak Red for Critical Infrastructure) para sa mga defender ng kritikal na imprastrakturang nabigyan ng pag-apruba. Binibigyan sila ng grupong ito ng pahintulot na magsagawa ng awtorisadong pagsubok sa mga kritikal na system habang nananatili ang mga pananggalang laban sa misalignment ng modelo.

Ikalawa, upang maiwasan ang maling paggamit sa mga platform ng Daybreak Red at Blue, pinahusay namin ang mga pananggalang laban sa pagbibigay ng tulong at pagpapaunlad ng mga kakayahan na maaaring magkompromiso sa mga industrial control system o mga system na kritikal sa kaligtasan, makagambala sa pagpapatakbo ng mga kagamitan, o magdulot ng malubhang pinsala sa katawan, malawakang pisikal na pagkasira, o pagkagambala sa mga serbisyong maaaring maglagay sa buhay ng mga tao sa panganib. Inihahambing ng figure sa ibaba ang mga rate ng paglalagay ng safeguard label sa apat na configuration ng access, bago at pagkatapos ng mga kamakailang update na inilulunsad namin kasabay ng GPT‑6 Cyber.

Hindi laging mas mabuti ang mas mataas na block rate ng mga pananggalang. Mahalaga rin sa lehitimong gawaing panseguridad ang marami sa mga teknik sa pagsusuring ito: pag-unawa sa mga system, pagtukoy ng mga kahinaan, at pagtiyak na kayang labanan ng mga solusyon ang mga pag-atake. Kaya sinusuri namin ang mga rate na ito kasabay ng suporta sa lehitimong pananaliksik at paglalapat ng mga patch, sa halip na hangaring umabot sa 100%.

Para suriin kung paano makatutulong ang aming mga modelo sa pagtatanggol ng kritikal na imprastraktura, nakipagtulungan kami sa Dragos, ang global provider ng cybersecurity para sa extended operational technology (xOT). Nagsagawa ang Dragos ng mga pagsusuri gamit ang mga cyber-permissive na modelo ng Daybreak Red sa isang kontroladong laboratoryo. Saklaw ng mga pagsusuri ang mga request na mula sa pagtuklas ng network at paglilista ng mga asset hanggang sa naka-target na pangangalap ng impormasyon, exfiltration ng sensitibong data, at mga hindi awtorisado at posibleng mapanganib na pagkilos sa device.

Ginamit namin ang feedback mula sa Dragos upang pinuhin ang aming mga pananggalang, nang sa gayon ay maharang ang mapaminsalang tulong nang hindi labis na nililimitahan ang awtorisadong pagsubok. Tingnan ang kanilang pinal na ulat⁠(magbubukas sa bagong window) para sa mga detalye ng mga pagsusuri.Nagsisikap din kaming palawakin ang aming mga pakikipagtulungan sa iba pang provider ng offensive security at mga purple team para sa penetration testing at red teaming gamit ang AI. Nakikipagtulungan din kami sa mga kumpanya ng enerhiya, iba pang operator ng kritikal na imprastraktura, at mga national laboratory upang suriin ang pagiging epektibo ng aming mga modelo at ng mga pananggalang ng mga ito sa pagtatanggol sa mga sistemang pang-industriya.Dinagdagan din namin ang aming pamumuhunan sa pagsisiyasat sa mga banta upang matukoy ang paggamit sa aming mga modelo sa mga aktibidad na may kinalaman sa OT/ICS. Patuloy naming papahusayin ang aming mga pananggalang batay sa feedback mula sa mga partner at sa komunidad ng seguridad. Kabilang dito ang mga ulat na ipinapadala sa pamamagitan ng /feedback kapag hindi nahaharang ng mga pananggalang ang mapaminsalang aktibidad o kapag naaantala ng mga ito ang lehitimong gawain.

Sa umpisa, available ang GPT‑6 Cyber sa pamamagitan ng API at Codex para sa isang piling grupo ng mga aprubadong customer ng Daybreak Red. Unti-unti naming palalawakin ang access upang maging available ito sa lahat ng customer ng Daybreak Red sa lalong madaling panahon. Ginagawa rin naming available ang GPT‑5.6 Cyber sa lahat ng customer ng Daybreak Red. Pinalalawak din namin ang alpha access ng Daybreak Blue para sa GPT‑6 Astra sa mas maraming organisasyon at indibidwal na mananaliksik sa seguridad; ipaalam mo sa amin⁠(magbubukas sa bagong window) kung interesado ka.

Puwedeng mag-apply sa Daybreak⁠ ang mga bagong user at organisasyon at magsimula gamit ang aming mga skill, produkto, at partner sa cyber⁠.