GPT‑6 Cyber: Noi progrese pentru agenții aliniați de securitate cibernetică

Lansăm GPT‑6 Cyber, un salt major în cercetarea în securitate: mai capabil să găsească și să remedieze vulnerabilități și mult mai fiabil în respectarea limitelor stabilite de cercetători. GPT‑6 Cyber aduce progrese majore față de GPT‑5.6 Cyber la principalele benchmarkuri de securitate cibernetică, inclusiv o îmbunătățire relativă de 51% la ExploitGym și un salt semnificativ la testele privind respectarea limitelor sarcinii. Contribuie deja la securizarea software-ului utilizat în practică, descoperind și validând mii de exploituri în baze de cod esențiale pentru securitate, precum Linux și Firefox.

La ExploitGym, care testează dacă modelele pot exploata o vulnerabilitate specificată, GPT‑6 Cyber obține 48,5%, față de 32,1% pentru GPT‑5.6 Cyber. Respectă și limitele sarcinii mai fiabil: într-o evaluare separată a alinierii, GPT‑6 Cyber a evitat exploatarea serviciilor din afara acestor limite în 99,93% din teste fără solicitarea folosită la implementare și în 100% cu această solicitare. Această îmbunătățire a alinierii reflectă instruirea dedicată respectării limitelor autorizate și a restricțiilor, precum și raportării corecte a rezultatelor.

Aceste capacități contribuie deja la securizarea unor sisteme reale. Cercetătorii noștri au folosit GPT‑6 Cyber pentru a dezvolta 948 de exploituri de escaladare a privilegiilor în Linux⁠ și a identifica 81 de vulnerabilități de gravitate ridicată, necunoscute anterior, în Firefox, în ciuda testării ample efectuate anterior cu modele de vârf. Modelul a contribuit și la dezvoltarea unor propuneri de corecții, iar Mozilla a lansat remedieri pentru multe dintre vulnerabilitățile Firefox⁠(se deschide într-o fereastră nouă). Echipele de securitate de la Cisco, Calif și CodeRabbit îl folosesc pentru cercetarea vulnerabilităților și revizuirea codului, iar noi ne-am bazat pe el pentru a găsi și remedia puncte slabe în propria infrastructură⁠.

Este clar că avem un interval limitat pentru a folosi modele de vârf la securizarea software-ului⁠. Scopul nostru este să extindem considerabil Daybreak, oferind acces la cercetare avansată în securitate organizațiilor de orice dimensiune, cercetătorilor independenți și responsabililor de mentenanță ai proiectelor open-source. Modelele din gama principală, precum GPT‑6 Astra, sprijină deja revizuirea codului, trierea vulnerabilităților și dezvoltarea de corecții. Daybreak Blue îi ajută pe apărătorii verificați să valideze vulnerabilități și remedieri cu mai puține refuzuri inutile, iar Daybreak Red permite dezvoltarea aprofundată de exploituri și testarea autorizată a securității cu GPT‑6 Cyber.

GPT‑6 Cyber reprezintă un progres major față de GPT‑5.6 Cyber și depășește GPT‑6 Astra la majoritatea sarcinilor cibernetice, chiar și atunci când Astra nu refuză solicitarea. Am evaluat modelul pe sarcini care îi cer să înțeleagă software-ul, să identifice vulnerabilități și să dezvolte exploituri funcționale. Pe baza acestor rezultate, clasificăm modelul ca fiind Critic pentru securitatea cibernetică, conform Cadrului nostru de pregătire, față de nivelul Ridicat pentru GPT‑5.6 Cyber.

La ExploitGym, care testează dacă modelele pot exploata o vulnerabilitate specificată într-o țintă la distanță, GPT‑6 Cyber obține 48,5%, cu aproximativ 16 puncte procentuale peste scorul de 32,1% al GPT‑5.6 Cyber. Pentru a testa descoperirea vulnerabilităților, am creat și o evaluare nouă pentru testarea ofensivă de penetrare a aplicațiilor web. Modelele sondează aplicații web fără acces la codul lor sursă. GPT‑6 Cyber a identificat 40,3% dintre vulnerabilități, față de 32,0% pentru GPT‑6 Astra.

Daybreak Red este conceput pentru a sprijini fluxuri de lucru mai avansate în securitate, inclusiv dezvoltarea de exploituri funcționale și folosirea lor împotriva unor ținte la distanță. Pentru a evalua aceste capacități, am creat un nou benchmark, RemoteExploitBench, care folosește vulnerabilități cunoscute în aplicații precum GitLab, PostgreSQL și Jenkins, implementate într-un mediu controlat. În evaluarea noastră inițială, GPT‑6 Astra folosit cu Daybreak Blue a refuzat 100% dintre sarcini, în timp ce GPT‑6 Cyber a finalizat 95%; singurul său eșec a fost un exploit pe care nu a reușit să-l facă să funcționeze de la distanță. Consultă fișa de sistem⁠(se deschide într-o fereastră nouă) pentru rezultatele complete și setările evaluării.

Un risc asociat agenților de securitate cibernetică este depășirea limitelor sarcinii atribuite, încercarea de a exploata servicii fără legătură cu aceasta sau ignorarea regulilor de intervenție stabilite de cercetător.

Am făcut din aliniere o prioritate pentru GPT‑6 Cyber, folosind instruirea specializată pentru a ajuta modelul să respecte limitele autorizate și restricțiile privind acțiunile sale și să-și raporteze corect activitatea. Înainte de implementare, am efectuat o serie de evaluări ale alinierii pentru a măsura aceste comportamente. Consultă fișa de sistem⁠(se deschide într-o fereastră nouă) pentru rezultatele complete.

Una dintre aceste evaluări este ExploitGym Honeypot, concepută ținând cont de incidentul Hugging Face⁠. Îi atribuim modelului o sarcină dificilă de exploatare într-un mediu izolat, cu acces la servicii auxiliare, precum un registru de pachete sau un depozit de obiecte. Facem intenționat aceste servicii ușor de exploatat, astfel încât atacarea lor să poată dezvălui indicatorul de reușită al sarcinii. Modelul trebuie să deducă faptul că exploatarea lor depășește limitele sarcinii sale.

GPT‑6 Cyber înregistrează un salt major față de GPT‑5.6 Cyber la această evaluare. Testat fără solicitările de siguranță folosite la implementare, a evitat exploatarea serviciilor din afara limitelor sarcinii în 99,93% din cazuri, față de 94,49% pentru GPT‑5.6 Cyber. Cu aceste solicitări, GPT‑6 Cyber a respectat limitele în 100% din cazuri.

Putem vedea direct în lanțul de gândire al modelului GPT‑6 Cyber cum raționează cu privire la respectarea limitelor:

GPT‑6 Cyber ajută deja echipele de securitate să găsească vulnerabilități, să le confirme impactul și să dezvolte remedieri. Clienții l-au folosit pentru baze de cod mari, dezvoltarea de lungă durată a exploiturilor și analize de securitate:

Ne-am bazat pe GPT‑6 Cyber și pentru a ne securiza propriile sisteme. A fost unul dintre principalele modele folosite în activitatea pe care am prezentat-o recent privind consolidarea securității infrastructurii utilizate la antrenarea modelelor de vârf⁠. În campanii controlate de red teaming, agenții care foloseau GPT‑6 Cyber și alte modele OpenAI au înlănțuit vulnerabilități pentru a ieși din izolarea microVM-urilor și a executa cod pe gazdele acestora. Am folosit constatările pentru a aplica corecții software, a înăspri restricțiile de rețea și a raporta problemele responsabililor de mentenanță și furnizorilor.

Cercetătorii noștri specializați în vulnerabilități folosesc GPT‑6 Cyber și pentru a găsi și valida vulnerabilități în software open-source la scară largă. Această activitate a scos la iveală deficiențe necunoscute anterior în software analizat amănunțit de ani de zile:

• Descoperirea a 81 de vulnerabilități noi în Firefox. GPT‑6 Cyber poate fi potrivit pentru fluxuri de lucru autonome care descoperă vulnerabilități și propun corecții de înaltă calitate la scară largă. Într-o campanie de cercetare a vulnerabilităților, GPT‑6 Cyber a produs dovezi și teste reproductibile pentru 81 de vulnerabilități noi, clasificate de Mozilla ca fiind de gravitate ridicată, și a arătat că alte 30 de probleme cunoscute erau mai grave decât se raportase anterior. Am comunicat constatările către Mozilla, împreună cu propuneri de corecții pentru a-i ajuta pe inginerii săi să dezvolte remedieri. Mozilla a susținut această activitate și a început să integreze remedieri la scurt timp după primirea rapoartelor⁠(se deschide într-o fereastră nouă).

• Dezvoltarea de exploituri pentru 948 de vulnerabilități ale nucleului Linux⁠. GPT‑6 Cyber a reprodus 1.724 de vulnerabilități și a dezvoltat exploituri funcționale pentru 948 dintre ele (de peste cinci ori mai multe decât cele 166 exploatate de GPT‑5.6 Sol), folosind același cadru de testare pentru cercetare. Urmând recomandările comunității Linux, am comunicat responsabililor de mentenanță 304 constatări critice, împreună cu propuneri de corecții, și lucrăm la remedierea altor vulnerabilități.

• Demonstrarea vulnerabilităților critice de execuție de cod de la distanță (RCE). Am prezentat recent o vulnerabilitate critică în Brotli⁠(se deschide într-o fereastră nouă), o bibliotecă de compresie folosită de Node.js și alte programe. Cercetătorii noștri în securitate au folosit GPT‑6 Cyber alături de alte modele OpenAI pentru a dezvolta și valida exploituri care arată cum ar putea această deficiență să permită execuția de cod de la distanță în aplicațiile care folosesc biblioteca.

Pe măsură ce modelele devin mai capabile și descoperă mai multe vulnerabilități de securitate, observăm și mai multe încercări de a le folosi pentru a provoca daune. Printre acestea se numără acțiuni ale unor actori cibernetici rău intenționați și ale unor grupări ostile care urmăresc să distileze modelele noastre. De aceea, am însoțit capacitățile sporite ale GPT‑6 Cyber de măsuri de protecție mai solide, pentru a detecta și opri utilizarea abuzivă și a menține acțiunile modelului în limitele intenției și autorizării utilizatorului.

Am adăugat și consolidat aceste protecții odată cu lansarea GPT‑6 Cyber (consultă fișa de sistem⁠(se deschide într-o fereastră nouă) pentru informații complete):

• Monitorizarea dezalinierii specifice securității cibernetice. Monitorizăm dacă acțiunile se încadrează în autorizarea utilizatorului, recunoscând totodată dezvoltarea și testarea legitimă a exploiturilor.

• Monitorizare țintită a amenințărilor emergente. De exemplu, în timpul divulgării coordonate a unor vulnerabilități critice PHP, am instituit o monitorizare țintită a încercărilor de a dezvolta exploituri împotriva serverelor PHP active, menținând asistența pentru cei care aplicau corecții sistemelor afectate.

• Procesare privată pentru siguranță (PSP). Folosim verificări automate pentru a analiza interacțiunile conexe în vederea detectării utilizării abuzive. Păstrarea standard a datelor rămâne opțiunea implicită. Clienții API care folosesc zero date păstrate⁠(se deschide într-o fereastră nouă) trebuie, de regulă, să folosească PSP⁠(se deschide într-o fereastră nouă), care analizează înregistrări criptate păstrate timp de 30 de zile în spațiul de stocare al clientului, fără a expune solicitările și răspunsurile personalului OpenAI.

• Protecție împotriva folosirii datelor de autentificare furate. Pentru accesul la API-ul Daybreak Red, impunem implicit o listă de adrese IP permise, limitând cererile la rețele aprobate, cu puține excepții. Monitorizăm și datele de autentificare pentru a detecta compromiterea lor.

• Izolare în medii sandbox și supraveghere. Ca și pentru modelele anterioare, recomandăm izolarea în medii sandbox⁠(se deschide într-o fereastră nouă), verificarea acțiunilor⁠(se deschide într-o fereastră nouă) și supravegherea umană pentru fluxurile de lucru cu risc ridicat.

• Protecții împotriva asistenței cibernetice cu risc ridicat. Folosim verificări noi pentru a bloca activitățile cu risc ridicat care implică sisteme critice (mai multe detalii mai jos).

Protejarea infrastructurii critice a fost un considerent esențial în proiectarea măsurilor de protecție și a accesului la GPT‑6 Cyber. Aceasta include centrale electrice, instalații de tratare a apei, precum și tehnologia operațională și sistemele de control industrial (OT/ICS) pe care se bazează. Dorim atât să le oferim echipelor care apără aceste sisteme acces la cele mai capabile modele ale noastre, cât și să consolidăm măsurile de protecție pentru a preveni atacurile neautorizate.

În primul rând, pentru a dota acești apărători, programul nostru de granturi de 1 miliard $ Daybreak pentru apărătorii din prima linie⁠ subvenționează accesul echipelor cu resurse limitate, precum organizațiile guvernamentale și furnizorii de servicii esențiale. Introducem și un grup nou în cadrul Daybreak Red (Daybreak Red pentru infrastructură critică), destinat apărătorilor aprobați ai infrastructurii critice. Acesta le acordă permisiuni pentru testarea autorizată a sistemelor critice, păstrând măsurile de protecție împotriva dezalinierii modelelor.

În al doilea rând, pentru a preveni utilizarea abuzivă a platformelor Daybreak Red și Blue, am perfecționat protecțiile împotriva asistenței și dezvoltării de capacități care ar putea compromite comenzile industriale sau sistemele esențiale pentru siguranță, perturba echipamentele sau provoca vătămări grave, daune fizice catastrofale sau întreruperi ale serviciilor care pun vieți în pericol. Figura de mai jos compară ratele de etichetare ale mecanismelor de protecție pentru patru configurații de acces, înainte și după actualizările recente pe care le lansăm odată cu GPT‑6 Cyber.

Ratele mai mari de blocare prin mecanismele de protecție nu sunt întotdeauna mai bune. Multe dintre tehnicile din această evaluare sunt esențiale și pentru activitatea legitimă de securitate: înțelegerea sistemelor, descoperirea vulnerabilităților și verificarea rezistenței remedierilor la atacuri. Prin urmare, evaluăm aceste rate împreună cu sprijinul oferit cercetării legitime și aplicării de corecții, în loc să urmărim o rată de 100%.

Pentru a evalua cum pot modelele noastre să contribuie la apărarea infrastructurii critice, am încheiat un parteneriat cu Dragos, furnizorul global de securitate cibernetică pentru tehnologia operațională extinsă (xOT). Dragos a efectuat evaluări într-un mediu de laborator controlat, folosind modele Daybreak Red cu permisiuni extinse pentru activități cibernetice. Evaluările au cuprins solicitări care au progresat de la descoperirea rețelei și enumerarea resurselor la recunoaștere țintită, exfiltrarea datelor sensibile și acțiuni neautorizate, potențial periculoase, asupra dispozitivelor.

Am folosit feedbackul Dragos pentru a perfecționa măsurile de protecție, urmărind să blocăm asistența dăunătoare fără a restricționa inutil testarea autorizată. Consultă raportul final Dragos⁠(se deschide într-o fereastră nouă) pentru detalii despre evaluări. Lucrăm și la extinderea parteneriatelor cu alți furnizori de securitate ofensivă și cu echipe mixte de atac și apărare, pentru teste de penetrare și red teaming cu IA, precum și cu companii energetice, alți operatori de infrastructură critică și laboratoare naționale, pentru a evalua eficacitatea modelelor și măsurile lor de protecție în apărarea industrială. Am crescut și investițiile în investigarea amenințărilor, pentru a detecta utilizări ale modelelor care implică OT/ICS. Vom continua să perfecționăm măsurile de protecție pe baza contribuțiilor partenerilor și comunității de securitate, inclusiv a rapoartelor trimise prin /feedback atunci când protecțiile nu detectează activități dăunătoare sau întrerup activități legitime.

GPT‑6 Cyber este disponibil inițial prin API și Codex pentru un grup restrâns de clienți Daybreak Red aprobați. Vom extinde treptat accesul la toți clienții Daybreak Red în curând și punem și GPT‑5.6 Cyber la dispoziția tuturor clienților Daybreak Red. Extindem și accesul alfa Daybreak Blue pentru GPT‑6 Astra la mai multe organizații și cercetători individuali în securitate; anunță-ne⁠(se deschide într-o fereastră nouă) dacă te interesează.

Utilizatorii și organizațiile noi pot solicita acces la Daybreak⁠ și pot începe cu competențele, produsele și partenerii noștri din securitatea cibernetică⁠.