Incidentul OpenAI–Hugging Face(se deschide într-o fereastră nouă) a reprezentat un moment de cotitură pentru securitatea cibernetică, deoarece ne-a oferit o perspectivă asupra modului în care vor evolua în lunile următoare capacitățile unui actor rău intenționat obișnuit. În ultimele săptămâni am discutat cu numeroase organizații, iar un lucru este clar: acestea știu că trebuie să-și îmbunătățească fundamental practicile de securitate cibernetică, cu o viteză fără precedent. În această postare voi prezenta ce facem pentru a apăra OpenAI, măsurile concrete pe care alte organizații le pot lua chiar astăzi și motivele pentru care trebuie să acționăm acum.
Modelele de AI dezvoltate în întreaga lume pot automatiza tot mai multe etape ale atacurilor cibernetice reale, făcând mai ușor de găsit și exploatat vulnerabilitățile persistente – de la erori ascunse adânc în software-ul scris de oameni până la permisiuni uitate. Aceleași capacități ale AI le oferă apărătorilor noi modalități de a găsi și remedia aceste puncte slabe, însă trebuie să acționeze acum. Dacă firmele acționează hotărât – inclusiv prin consolidarea elementelor fundamentale și amplificarea capacităților echipelor cu ajutorul AI – putem face internetul mai sigur ca oricând.
În incidentul OpenAI–Hugging Face, un colectiv agentiv a reușit să pătrundă autonom nu doar în infrastructura de cercetare a OpenAI, ci și în infrastructura de producție a altei companii, combinând vulnerabilități care mergeau de la breșe de securitate necunoscute anterior până la utilizarea datelor de conectare ale unor conturi de utilizator divulgate pe internet. Devine tot mai clar că datoria tehnică(se deschide într-o fereastră nouă) a fiecărei companii ascunde deficiențe semnificative, iar apărătorii trebuie să le găsească și să le remedieze înaintea atacatorilor.
Pentru a le oferi apărătorilor un avantaj față de atacatori, la începutul acestui an am început să punem la dispoziție capabilitățile noastre cibernetice doar apărătorilor de încredere. De atunci, mai multe companii au lansat modele cu ponderi deschise, cu capabilități cibernetice aflate la doar câteva luni în urma frontierei tehnologice. Cel mai recent dintre aceste modele pare programat să fie lansat(se deschide într-o fereastră nouă) la sfârșitul lunii august și este probabil să accelereze semnificativ evoluția peisajului amenințărilor.
Deși atacatorii dotați cu AI vor putea în curând să găsească vulnerabilități persistente în multe sisteme existente, AI îi va ajuta și pe apărători să găsească, să prioritizeze și să remedieze mult mai ușor aceleași deficiențe. Securitatea rămâne un joc de-a șoarecele și pisica, însă AI îi poate schimba dinamica economică(se deschide într-o fereastră nouă) în moduri care le oferă apărătorilor un avantaj fundamental. De exemplu, începem să ne antrenăm modelele special pentru a scrie cod cu un nivel de securitate suprauman. Modelele noastre sunt extraordinare și la demonstrații matematice, care pot fi folosite pentru verificarea formală a securității software-ului, o sarcină care s-a dovedit imposibil de gestionat de către oameni.
După incidentul OpenAI–Hugging Face, i-am cerut ChatGPT Work (folosind modelul GPT‑5.6 Sol disponibil public) să evalueze securitatea site-ului gregbrockman.com(se deschide într-o fereastră nouă). Este un site static simplu, găzduit pe AWS și cu Cloudflare ca punct de intrare, așa că am presupus că suprafața de atac nu putea fi prea mare.
În aproximativ 15 minute, a descoperit 13 probleme. Probabil că multe dintre ele nu pot fi exploatate individual, dar mi-aș putea imagina că, în combinație cu alte vulnerabilități, ar putea avea efecte semnificative. Nu-mi configurasem înregistrările DNS pentru a împiedica atacatorii să trimită e-mailuri în numele meu; site-ul folosea o versiune nesigură de jQuery; Cloudflare redirecționa solicitările către AWS prin HTTP necriptat.
Apoi i-am cerut ChatGPT Work să remedieze aceste probleme, ceea ce a făcut într-o oră. A deschis în browser panoul de control Cloudflare și a apăsat numeroase butoane pentru a configura corect setările DNS, TLS și opțiunile avansate de securitate; a eliminat complet jQuery de pe site; a migrat site-ul de pe AWS pe Cloudflare Pages; a început implementarea treptată a DMARC(se deschide într-o fereastră nouă).
Și acesta era doar site-ul meu personal. Acesta este un mic exemplu al modului în care modelele noastre actuale pot acționa ca un gardian cibernetic: găsesc acele numeroase probleme rare pentru care un om nu ar avea timp sau expertiză – multe dintre setările remediate îmi erau vag cunoscute, dar nu aș fi știut pe loc cum să le configurez corect – și apoi le rezolvă printr-un plan de implementare calibrat corespunzător.
Incidentul Hugging Face a arătat că am subestimat capacitățile cibernetice reale ale modelelor noastre de AI. În consecință, ne consolidăm cerințele de siguranță, ceea ce sporește și mai mult urgența cercetărilor noastre existente privind siguranța și a activității interne de securitate.
Prezint pe scurt abordarea noastră actuală privind securizarea OpenAI, în speranța că le va fi utilă și altor organizații. Pentru a proteja OpenAI, investim semnificativ atât în controale fundamentale (aplicarea corectă a principiilor de bază), cât și în consolidarea apărării prin inteligență de vârf. Această strategie se bazează pe patru piloni principali.
În primul rând, ne folosim modelele pentru a ne securiza codul. Codex, inclusiv pluginul nostru de securitate, validează modificările codului, identifică vulnerabilități și îi ajută pe dezvoltatori să remedieze problemele înainte de implementare. Nu urmărim să generăm pur și simplu mai multe constatări de securitate care necesită validare umană; obiectivul este să depistăm vulnerabilitățile reale înainte ca acestea să ajungă în producție și să scurtăm drumul de la descoperirea unei probleme la implementarea în siguranță a remedierii. Pe măsură ce continuăm să ne antrenăm modelele să producă un cod tot mai sigur, obiectivul nostru este să eliminăm anumite clase de vulnerabilități software din codul nou creat.
În al doilea rând, ne folosim modelele pentru a ne apăra continuu infrastructura. În prezent, aproape toate alertele noastre inițiale de securitate sunt analizate de inteligența artificială înainte de implicarea oamenilor. Astfel reducem munca repetitivă a apărătorilor, îmbunătățim timpul de răspuns și le permitem oamenilor să se concentreze acolo unde competențele lor au cea mai mare valoare: discernământ, judecată și expertiză aplicată. Conectăm tot mai des aceste detectări la răspunsuri automatizate cu limite clare, păstrând responsabilitatea umană pentru deciziile cu cel mai mare impact. Obiectivul este să putem detecta problemele de securitate și să răspundem la ele cu viteza mașinilor.
În al treilea rând, folosim inteligența de vârf pentru a inventaria, testa și identifica permanent posibile căi de atac. Identificând vulnerabilități, configurări greșite, identități cu privilegii excesive sau limite de încredere neintenționate, putem găsi și elimina rapid aceste breșe înainte ca atacatorii să le exploateze. Astfel putem evalua, monitoriza și testa continuu, în toate produsele, infrastructura și sistemele noastre, invariantele de securitate – proprietățile de securitate pe care le considerăm adevărate.
În sfârșit, investim masiv în aplicarea la scară largă a principiilor fundamentale. Continuăm să investim în arhitecturi și controale sigure, adoptăm strategii precum apărarea în profunzime și privilegiul minim și proiectăm sisteme în care, pentru a se produce un eveniment catastrofal, trebuie să eșueze simultan mai multe controale independente. Controalele clasice de securitate, precum izolarea rețelelor, consolidarea sarcinilor de lucru, monitorizarea și aplicarea și implementarea în siguranță a patchurilor, vor fi mai importante ca oricând în viitorul dominat de AI.
Timpul este esențial, iar apărătorii vor trebui să parcurgă pașii de mai jos cu viteză maximă. Mai jos voi menționa tehnologii OpenAI, dar în ecosistem există și numeroși concurenți care merită evaluați. Instrumentul ales contează mai puțin decât să le oferiți chiar acum apărătorilor voștri acces la o AI performantă.
- Obține angajamentul și sprijinul organizației. Riscurile de securitate se schimbă rapid. Asigură-te că echipele de securitate și inginerie beneficiază de sprijinul, colaborarea și resursele necesare pentru a răspunde prompt acestor riscuri. Organizează cu echipele exerciții de simulare pentru a vedea cum s-ar putea manifesta aceste atacuri în organizație și cum vei răspunde.
- Oferă-i echipei de securitate un agent. Începe să utilizezi Codex, pluginul Codex Security(se deschide într-o fereastră nouă) sau un alt instrument performant pentru codare agentivă și securitate. Acordă-i acces autorizat la bazele de cod, configurațiile infrastructurii și documentația tehnică pe care echipa de securitate trebuie să le evalueze. Nu aștepta implementarea la nivelul întregii companii pentru a începe cu sistemele cu cea mai mare prioritate.
- Dotează agentul cu expertiză în securitate. Începe cu competențele(se deschide într-o fereastră nouă) susținute de comunitate, care includ fluxuri de lucru pentru analiză statică, revizuirea codului din perspectiva securității, analiza variantelor de vulnerabilități, riscurile din lanțul de aprovizionare software și alte procese de securitate. Apoi creează-ți propriile competențe pe baza arhitecturii, standardelor de securitate, modelelor de amenințări și procedurilor organizației.
- Evaluează imediat securitatea propriilor sisteme. Acordă prioritate evaluării serviciilor expuse la internet, fluxurilor de autentificare, infrastructurii definite prin cod, conductelor de implementare și sistemelor care gestionează informații sensibile. Extinde scanarea pe măsură ce echipa capătă încredere.
- Parcurge lista existentă de vulnerabilități restante. Oferă agentului constatările provenite din scanerele de cod, alertele privind dependențele, tichetele de securitate, rapoartele din programele de recompense pentru identificarea erorilor și evaluările anterioare. Cere-i să prioritizeze aceste constatări, să distingă problemele exploatabile de alertele fără relevanță, să identifice vulnerabilități asociate în alte zone ale bazei de cod și să recomande ce trebuie remediat mai întâi.
- Integrează revizuirea securității direct în procesul de dezvoltare. Folosește agenți pentru a revizui modificările codului înainte de integrare și execută verificări de securitate în CI. Caută erori de autentificare, eludări ale controlului accesului, date de conectare expuse, dependențe nesigure, setări implicite vulnerabile, modificări care extind accesul la sistemele de producție și alte vulnerabilități.
- Lasă agentul să te ajute să remediezi problemele pe care le identifică. Pentru problemele validate, cere-i să genereze și să verifice un patch punctual, să scrie un test de regresie și să confirme că vulnerabilitatea nu mai poate fi reprodusă. Păstrează verificarea umană pentru modificările cu impact semnificativ, dar elimină întârzierile inutile dintre identificarea unei probleme reale și prezentarea unei remedieri sigure unui inginer.
- Automatizează treptat trierea detectărilor. Nu începe prin a încerca să construiești un centru autonom de operațiuni de securitate. Începe printr-o scanare de securitate cu acces doar pentru citire asupra unui depozit sau pune un agent să revizuiască alertele rezolvate anterior, folosind acces doar pentru citire la jurnalele existente. Lasă-l să rezume dovezile și să recomande o soluție, în timp ce fiecare decizie este luată de un om. Pe măsură ce încrederea crește, treci la scanarea consultativă a pull-requesturilor, apoi la trierea alertelor în timp real și, în final, la închiderea automată a unor categorii strict definite de rezultate fals pozitive.
- Pregătește o capacitate de investigație criminalistică asistată de AI înainte de a avea nevoie de ea. Solicită Trusted Access for Cyber(se deschide într-o fereastră nouă) și obține aprobarea ca echipa să utilizeze GPT‑Daybreak‑Blue pentru activități defensive autorizate, inclusiv răspuns la incidente, ingineria detectării și analiza programelor malware. Exersează utilizarea acestei capacități pentru a analiza jurnale, date de telemetrie și alerte de securitate.
- Experimentează, organizează săptămâni de inovare și îmbunătățește rapid soluțiile. Va trebui să construim tot felul de instrumente noi, să schimbăm modul în care lucrăm și să îmbunătățim competențele tuturor pentru lumea către care ne îndreptăm. Încurajează personalul să facă experimente, programează o săptămână de inovare pentru dezvoltarea unor noi capacități și concentrează-te pe repetarea și îmbunătățirea rapidă a ciclurilor care automatizează mici părți ale problemei. Progresele incrementale rapide generează rezultate defensive cumulative, iar autonomia poate fi extinsă treptat, pe măsură ce echipa capătă încredere.
Nicio companie nu poate face asta singură. Solicităm laboratoarelor de AI, furnizorilor de soluții de securitate, companiilor și responsabililor de mentenanță să împărtășească rezultatele validate, remedierile și procedurile practice, astfel încât descoperirea unei organizații să poată consolida întregul ecosistem.
Fereastra de oportunitate a apărătorilor este deschisă acum. În lunile următoare, fiecare organizație va trebui să înceapă să-și automatizeze semnificativ programul de securitate pentru a rămâne protejată, iar comunitatea de securitate trebuie să se mobilizeze urgent pentru a defini instrumentele, practicile și procedurile care vor spori puterea apărătorilor mai repede decât pe cea a atacatorilor, pe măsură ce AI continuă să avanseze. Acest lucru va necesita un efort uriaș și fără precedent, dar, dacă ne mobilizăm împreună, putem crea o lume mai sigură decât ne-am fi putut imagina până acum.
