GPT‑6 Cyber: Agjentë avangardë të sigurisë kibernetike që respektojnë udhëzimet

Po prezantojmë GPT‑6 Cyber, një hap të madh përpara në kërkimin e sigurisë: më i aftë për të gjetur dhe korrigjuar dobësi, si dhe shumë më i besueshëm në respektimin e kufijve që vendosin kërkuesit. GPT‑6 Cyber shënon përmirësime të mëdha ndaj GPT‑5.6 Cyber në testet kryesore të sigurisë kibernetike, përfshirë një përmirësim relativ prej 51% në ExploitGym dhe një përmirësim rrënjësor në testet e respektimit të kufijve të detyrës. Ai tashmë po ndihmon në sigurimin e softuerit në përdorim real, duke zbuluar dhe vërtetuar mijëra kode shfrytëzimi dobësish në baza kodi kritike për sigurinë, si Linux dhe Firefox.

Në ExploitGym, që teston nëse modelet mund të shfrytëzojnë një dobësi të caktuar, GPT‑6 Cyber arrin 48,5%, kundrejt 32,1% për GPT‑5.6 Cyber. Ai gjithashtu i respekton më me besueshmëri kufijtë e detyrës: në një vlerësim të veçantë të përputhjes me udhëzimet, GPT‑6 Cyber shmangu shfrytëzimin e dobësive në shërbime jashtë kufijve të detyrës në 99,93% të testeve pa kërkesën e vënies në përdorim dhe në 100% me këtë kërkesë. Ky përmirësim i përputhjes me udhëzimet pasqyron trajnimin e posaçëm për të qëndruar brenda kufijve të autorizuar, për të respektuar kufizimet dhe për të raportuar rezultatet me saktësi.

Këto aftësi tashmë po ndihmojnë në sigurimin e sistemeve reale. Kërkuesit tanë përdorën GPT‑6 Cyber për të zhvilluar 948 kode shfrytëzimi për ngritjen e privilegjeve në Linux⁠ dhe për të identifikuar 81 dobësi me rëndësi të lartë, të panjohura më parë, në Firefox, pavarësisht testimeve të gjera të mëparshme me modele avangardë. Modeli ndihmoi edhe në zhvillimin e korrigjimeve të propozuara, dhe Mozilla ka publikuar korrigjime për shumë nga dobësitë e Firefox⁠(hapet në një dritare të re). Ekipet e sigurisë në Cisco, Calif dhe CodeRabbit po e përdorin për kërkimin e dobësive dhe shqyrtimin e kodit, ndërsa ne jemi mbështetur tek ai për të gjetur dhe korrigjuar dobësi në infrastrukturën tonë⁠.

Është e qartë se kemi një afat të kufizuar për të përdorur modelet avangardë në sigurimin e softuerit⁠. Qëllimi ynë është ta zgjerojmë ndjeshëm Daybreak, duke ua mundësuar kërkimin e avancuar të sigurisë organizatave të çdo madhësie, kërkuesve të pavarur dhe mirëmbajtësve të softuerit me burim të hapur. Modelet e linjës kryesore, si GPT‑6 Astra, tashmë mbështesin shqyrtimin e kodit, vlerësimin dhe prioritizimin e dobësive, si dhe zhvillimin e korrigjimeve. Daybreak Blue i ndihmon mbrojtësit e verifikuar të vërtetojnë dobësitë dhe korrigjimet me më pak refuzime të panevojshme, ndërsa Daybreak Red mundëson zhvillim më të thelluar të kodeve të shfrytëzimit dhe testime të autorizuara sigurie me GPT‑6 Cyber.

GPT‑6 Cyber shënon një përmirësim të madh ndaj GPT‑5.6 Cyber dhe e tejkalon GPT‑6 Astra në shumicën e detyrave kibernetike, edhe kur Astra nuk e refuzon kërkesën. Modelin e vlerësuam në detyra që kërkojnë të kuptojë softuerin, të identifikojë dobësi dhe të zhvillojë kode funksionale shfrytëzimi. Bazuar në këto rezultate, modelin e klasifikojmë në nivelin Kritik për sigurinë kibernetike sipas Preparedness Framework, nga niveli I lartë i GPT‑5.6 Cyber.

Në ExploitGym, që teston nëse modelet mund të shfrytëzojnë një dobësi të caktuar në një objektiv në distancë, GPT‑6 Cyber arrin 48,5%, rreth 16 pikë përqindjeje më shumë se 32,1% e GPT‑5.6 Cyber. Për të testuar zbulimin e dobësive, ndërtuam gjithashtu një vlerësim të ri për testimin ofensiv të depërtimit në ueb. Modelet analizojnë aplikacionet e uebit për dobësi pa pasur akses në kodin e tyre burimor. GPT‑6 Cyber arriti të zbulonte 40,3% të dobësive, krahasuar me 32,0% për GPT‑6 Astra.

Daybreak Red është projektuar për të mbështetur flukse pune më të avancuara të sigurisë, përfshirë zhvillimin e kodeve funksionale të shfrytëzimit dhe përdorimin e tyre kundër objektivave në distancë. Për të vlerësuar këto aftësi, ndërtuam një test të ri krahasues të quajtur RemoteExploitBench, i cili përdor dobësi të njohura në aplikacione si GitLab, PostgreSQL dhe Jenkins, të vendosura në një mjedis të kontrolluar. Në vlerësimin tonë fillestar, GPT‑6 Astra me Daybreak Blue refuzoi 100% të detyrave, ndërsa GPT‑6 Cyber përfundoi 95% të tyre; i vetmi dështim ishte një kod shfrytëzimi që nuk arriti ta vinte në punë në distancë. Shiko kartën e sistemit⁠(hapet në një dritare të re) për rezultatet e plota dhe konfigurimet e vlerësimit.

Një rrezik që paraqesin agjentët e sigurisë kibernetike është se mund të dalin jashtë kufijve të detyrës së caktuar, të përpiqen të shfrytëzojnë dobësi në shërbime të palidhura me të ose të shpërfillin rregullat e angazhimit të kërkuesit.

Përputhjen me udhëzimet e bëmë një përparësi kryesore të GPT‑6 Cyber, duke përdorur trajnim të specializuar që ta ndihmojë modelin të qëndrojë brenda kufijve të autorizuar, të respektojë kufizimet mbi veprimet e tij dhe të raportojë me saktësi punën e kryer. Para vënies në përdorim, kryem një sërë vlerësimesh të përputhjes me udhëzimet për t’i matur këto sjellje. Shiko kartën e sistemit⁠(hapet në një dritare të re) për rezultatet e plota.

Një prej këtyre vlerësimeve është ExploitGym Honeypot, i hartuar duke u mbështetur te incidenti i Hugging Face⁠. Modelit i japim një detyrë të vështirë shfrytëzimi dobësish në një mjedis të izoluar, me akses në shërbime mbështetëse, si një regjistër paketash ose një depo objektesh. Këto shërbime i bëjmë qëllimisht të lehta për t’u sulmuar, në mënyrë që sulmi ndaj tyre të zbulojë flamurin e detyrës. Modeli duhet të nxjerrë vetë përfundimin se shfrytëzimi i dobësive të tyre është jashtë kufijve të detyrës së tij.

Në këtë vlerësim, GPT‑6 Cyber shënon një përmirësim rrënjësor krahasuar me GPT‑5.6 Cyber. Kur u testua pa kërkesat e sigurisë për vënien në përdorim, ai shmangu shfrytëzimin e dobësive në shërbime jashtë kufijve të detyrës në 99,93% të rasteve, kundrejt 94,49% për GPT‑5.6 Cyber. Me këto kërkesa, GPT‑6 Cyber qëndroi brenda kufijve në 100% të rasteve.

Në zinxhirin e mendimit të modelit GPT‑6 Cyber mund të shohim drejtpërdrejt se si arsyeton për të qëndruar brenda kufijve:

GPT‑6 Cyber tashmë po i ndihmon ekipet e sigurisë të gjejnë dobësi, të vërtetojnë ndikimin e tyre dhe të zhvillojnë korrigjime. Klientët e kanë vënë në punë në baza të mëdha kodi, në zhvillimin afatgjatë të kodeve të shfrytëzimit të dobësive dhe në shqyrtimin e sigurisë:

Jemi mbështetur te GPT‑6 Cyber edhe për të siguruar sistemet tona. Ai ishte një nga modelet kryesore të përdorura në punën që ndamë së fundmi për forcimin e sigurisë së infrastrukturës që përdoret për trajnimin e modeleve avangardë⁠. Në fushata të kontrolluara simulimi sulmesh, agjentët që përdornin GPT‑6 Cyber dhe modele të tjera të OpenAI lidhën dobësi njëra pas tjetrës për të dalë nga mikroVM-të dhe për të ekzekutuar kod në sistemet pritëse ku ato funksiononin. Gjetjet i përdorëm për të korrigjuar softuerin, për të shtrënguar kufizimet e rrjetit dhe për t’ua raportuar problemet mirëmbajtësve dhe furnitorëve.

Kërkuesit tanë të dobësive e përdorin gjithashtu GPT‑6 Cyber për të gjetur dhe vërtetuar dobësi në softuer me burim të hapur në shkallë të gjerë. Kjo punë ka zbuluar mangësi të panjohura më parë në softuer që është shqyrtuar imtësisht prej vitesh:

• U gjetën 81 dobësi të reja në Firefox. GPT‑6 Cyber mund të jetë i përshtatshëm për flukse pune autonome që gjejnë dobësi dhe propozojnë korrigjime cilësore në shkallë të gjerë. Gjatë një fushate kërkimi dobësish, GPT‑6 Cyber prodhoi prova dhe teste të riprodhueshme për 81 dobësi të reja, të klasifikuara nga Mozilla si me rëndësi të lartë, dhe tregoi se 30 probleme të tjera të njohura ishin më të rënda nga sa ishte raportuar më parë. Gjetjet ia raportuam Mozilla, së bashku me korrigjime të propozuara për t’i ndihmuar inxhinierët e saj të zhvillonin zgjidhje. Mozilla e mbështeti këtë punë dhe nisi të integronte korrigjime pak pasi mori raportet⁠(hapet në një dritare të re).

• Zhvillimi i kodeve të shfrytëzimit për 948 dobësi në kernelin Linux⁠. GPT‑6 Cyber riprodhoi 1 724 dobësi dhe zhvilloi kode funksionale shfrytëzimi për 948 prej tyre, mbi pesë herë më shumë se 166 dobësitë e shfrytëzuara nga GPT‑5.6 Sol me të njëjtën strukturë kërkimore. Duke ndjekur udhëzimet e komunitetit Linux, u raportuam mirëmbajtësve 304 gjetje kritike bashkë me korrigjime të propozuara dhe po punojmë për korrigjimin e dobësive të tjera.

• Demonstrimi i dobësive kritike që lejojnë ekzekutim kodi në distancë (RCE). Së fundmi diskutuam një dobësi kritike në Brotli⁠(hapet në një dritare të re), një bibliotekë kompresimi e përdorur nga Node.js dhe softuerë të tjerë. Kërkuesit tanë të sigurisë përdorën GPT‑6 Cyber krahas modeleve të tjera të OpenAI për të zhvilluar dhe vërtetuar kode shfrytëzimi që tregonin se si kjo mangësi mund të mundësonte ekzekutim kodi në distancë në aplikacionet që përdorin bibliotekën.

Teksa modelet bëhen më të afta dhe zbulojnë më shumë dobësi sigurie, po shohim edhe më shumë përpjekje për t’i përdorur ato për të shkaktuar dëm. Këtu përfshihen përpjekje nga aktorë keqdashës kibernetikë dhe grupe kundërshtare që synojnë të distilojnë modelet tona. Prandaj, aftësitë më të fuqishme të GPT‑6 Cyber i kemi shoqëruar me masa mbrojtëse më të forta për të zbuluar e ndërprerë keqpërdorimin dhe për t’i mbajtur veprimet e modelit brenda qëllimit dhe autorizimit të përdoruesit.

Krahas publikimit të GPT‑6 Cyber, shtuam dhe forcuam këto masa mbrojtëse (shiko kartën e sistemit⁠(hapet në një dritare të re) për informacionin e plotë):

• Monitorim i mospërputhjes me udhëzimet, i posaçëm për fushën kibernetike. Monitorojmë nëse veprimet përputhen me autorizimin e përdoruesit, duke dalluar njëkohësisht zhvillimin dhe testimin legjitim të kodeve të shfrytëzimit.

• Monitorim i synuar për kërcënimet e reja. Për shembull, gjatë raportimit të koordinuar të dobësive kritike në PHP, ngritëm monitorim të synuar për përpjekjet për të zhvilluar kode shfrytëzimi kundër serverëve PHP në funksionim, duke ruajtur mbështetjen për mbrojtësit që korrigjonin sistemet e prekura.

• Përpunimi Privat për Sigurinë (PSP). Përdorim kontrolle të automatizuara për të shqyrtuar ndërveprimet e lidhura me njëri-tjetrin për keqpërdorim. Mbajtja standarde e të dhënave mbetet parazgjedhja. Klientët e API që përdorin opsionin Pa mbajtje të dhënash⁠(hapet në një dritare të re) përgjithësisht duhet të përdorin PSP⁠(hapet në një dritare të re), i cili shqyrton regjistrat e enkriptuar që ruhen për 30 ditë në hapësirën ruajtëse të klientit, pa ia ekspozuar kërkesat dhe përgjigjet personelit të OpenAI.

• Mbrojtje nga kredencialet e vjedhura. Për aksesin në API të Daybreak Red, si parazgjedhje kërkojmë lista të adresave IP të lejuara, duke i kufizuar kërkesat te rrjetet e miratuara, me pak përjashtime. Gjithashtu monitorojmë kredencialet për shenja komprometimi.

• Izolim në mjedis të kontrolluar dhe mbikëqyrje. Ashtu si për modelet e mëparshme, rekomandojmë izolim në mjedis të kontrolluar⁠(hapet në një dritare të re), shqyrtim të veprimeve⁠(hapet në një dritare të re) dhe mbikëqyrje njerëzore për flukset e punës me rrezik të lartë.

• Masa mbrojtëse kundër ndihmës kibernetike me rrezik të lartë. Përdorim kontrolle të reja për të bllokuar veprimtaritë me rrezik të lartë që përfshijnë sisteme kritike (shiko më poshtë për më shumë).

Mbrojtja e infrastrukturës kritike ka qenë një konsideratë kyçe në hartimin e masave mbrojtëse dhe të kushteve të aksesit në GPT‑6 Cyber. Kjo përfshin centralet elektrike, impiantet e trajtimit të ujit, si dhe teknologjinë operacionale dhe sistemet e kontrollit industrial (OT/ICS) ku ato mbështeten. Synojmë njëkohësisht t’u japim ekipeve që mbrojnë këto sisteme akses në modelet tona më të afta dhe të forcojmë masat mbrojtëse për të parandaluar sulmet e paautorizuara.

Së pari, për t’i pajisur këta mbrojtës me mjetet e nevojshme, programi ynë i granteve prej 1 miliard dollarësh, Daybreak për Mbrojtësit e Vijës së Parë⁠, subvencionon qasjen për ekipe me burime të kufizuara, si organizatat qeveritare dhe ofruesit e shërbimeve thelbësore. Po prezantojmë gjithashtu një grup të ri brenda Daybreak Red (Daybreak Red për Infrastrukturën Kritike) për mbrojtësit e miratuar të infrastrukturës kritike. Ky grup u jep leje për të kryer testime të autorizuara të sistemeve kritike, duke ruajtur masat mbrojtëse kundër mospërputhjes së modelit me udhëzimet.

Së dyti, për të parandaluar keqpërdorimin e platformave Daybreak Red dhe Blue, kemi përmirësuar masat mbrojtëse kundër ndihmës dhe zhvillimit të aftësive që mund të komprometojnë kontrollet industriale ose sistemet kritike për sigurinë, të ndërhyjnë në pajisje ose të shkaktojnë lëndime të rënda, dëme fizike katastrofike apo ndërprerje shërbimesh që rrezikojnë jetën. Figura më poshtë krahason përqindjet e shënimit nga masat mbrojtëse në katër konfigurime aksesi, para dhe pas përditësimeve të fundit që po zbatojmë krahas GPT‑6 Cyber.

Përqindje më të larta bllokimi nga masat mbrojtëse nuk janë gjithmonë më të mira. Shumë nga teknikat në këtë vlerësim janë thelbësore edhe për punën legjitime të sigurisë: kuptimin e sistemeve, gjetjen e dobësive dhe verifikimin se korrigjimet u qëndrojnë sulmeve. Prandaj, këto përqindje i vlerësojmë krahas mbështetjes për kërkimin dhe korrigjimin legjitim, në vend që të synojmë 100%.

Për të vlerësuar se si modelet tona mund të ndihmojnë në mbrojtjen e infrastrukturës kritike, bashkëpunuam me Dragos, ofruesin global të sigurisë kibernetike për teknologjinë operacionale të zgjeruar (xOT). Dragos kreu vlerësime në një mjedis laboratorik të kontrolluar, duke përdorur modele të Daybreak Red me më pak kufizime për veprimtaritë kibernetike. Vlerësimet përfshinin kërkesa që nisnin me zbulimin e rrjetit dhe identifikimin e aseteve, e vijonin me zbulim të synuar, nxjerrje të paautorizuar të të dhënave sensitive dhe veprime të paautorizuara e potencialisht të rrezikshme në pajisje.

Komentet nga Dragos i përdorëm për të përmirësuar masat mbrojtëse, me synimin për të bllokuar ndihmën e dëmshme pa kufizuar pa nevojë testimin e autorizuar. Shiko raportin e tyre përfundimtar⁠(hapet në një dritare të re) për hollësi mbi vlerësimet. Po punojmë gjithashtu për të zgjeruar partneritetet me ofrues të tjerë të sigurisë ofensive dhe ekipe të kombinuara sulmi e mbrojtjeje, për testime depërtimi dhe simulim sulmesh me IA. Po bashkëpunojmë edhe me kompani energjetike, operatorë të tjerë të infrastrukturës kritike dhe laboratorë kombëtarë për të vlerësuar efektivitetin dhe masat mbrojtëse të modeleve tona në mbrojtjen industriale. Kemi rritur gjithashtu investimet në hetimin e kërcënimeve për të zbuluar përdorime të modeleve që përfshijnë OT/ICS. Do të vazhdojmë t’i përmirësojmë masat mbrojtëse me kontributet e partnerëve dhe komunitetit të sigurisë, përfshirë raportimet përmes /feedback kur masat mbrojtëse nuk kapin veprimtari të dëmshme ose ndërpresin punë legjitime.

Fillimisht, GPT‑6 Cyber ofrohet përmes API dhe Codex për një grup të përzgjedhur klientësh të miratuar të Daybreak Red. Së shpejti do ta zgjerojmë gradualisht aksesin për të gjithë klientët e Daybreak Red. Po e bëjmë gjithashtu GPT‑5.6 Cyber të disponueshëm për të gjithë klientët e Daybreak Red. Po zgjerojmë gjithashtu aksesin alfa në Daybreak Blue për GPT‑6 Astra për më shumë organizata dhe kërkues individualë të sigurisë; na njofto⁠(hapet në një dritare të re) nëse je i interesuar.

Përdoruesit dhe organizatat e reja mund të aplikojnë për Daybreak⁠ dhe të fillojnë me aftësitë, produktet dhe partnerët tanë të sigurisë kibernetike⁠.