Cum dezvoltă Block securitatea bazată pe AI cu tehnologia OpenAI

La Block, compania din spatele Square, Cash App și Afterpay, echipa de securitate folosește OpenAI Defense Factory: un sistem în care AI se ocupă de descoperirea vulnerabilităților, detecție și răspuns la o scară cu care nicio echipă umană nu ar putea ține pasul. Cu ajutorul unor sisteme AI precum OpenAI Daybreak, Block realizează în doar câteva ore activități care înainte durau săptămâni.

Echipa de securitate Block s-a concentrat pe adoptarea responsabilă a AI în toate fluxurile de lucru, de la generarea de cod la operațiunile de securitate. „În esență, este vorba despre un nou coleg de echipă alături de care îți poți extinde capacitatea de lucru”, spune James Nettesheim, director pentru securitatea informațiilor. „Nu este ca automatizarea tradițională, unde trebuia să definești fiecare pas. Îi poți prezenta o problemă destul de specifică și ambiguă, apoi să o rezolvați împreună.”

Sarcini precum analiza unei erori software sau interpretarea unui jurnal necesitau zile sau săptămâni. Acum, echipa le poate finaliza într-o fracțiune din acel timp, fiecare rezultat fiind în continuare validat de un om.

De exemplu, pentru ajustarea detecției, fiecare investigație păstrează dovezile brute obținute prin interogări, astfel încât echipa poate testa acum o modificare propusă a detecției pe date de telemetrie din șapte luni de funcționare în producție, în mai puțin de o oră. Înainte, acest lucru presupunea refacerea manuală a interogărilor pentru sute de cazuri vechi și se întâmpla rar în practică, deoarece consuma foarte mult timp.

Echipa a devenit și mai atentă la alegerea modelului potrivit pentru fiecare sarcină. „Înainte foloseam cel mai recent model, dar acum nu mai este necesar”, spune el. „Am învățat, din experiență, să alegem modele diferite pentru sarcini diferite.” Cadrul de testare pentru securitate al Block este construit pe baza Daybreak și ajută la direcționarea sarcinilor către modelul potrivit. Acesta include mecanisme prin care oamenii pot prelua sarcinile, iar agenții își pot verifica reciproc munca. Echipa evaluează continuu aceste sisteme folosind teste de referință interne și rezultatele din practică, ajustându-și abordarea când este necesar, inclusiv prin trimiterea sarcinilor spre verificare umană atunci când aceasta este opțiunea responsabilă.

Sistemul automat de triere a permis realizarea unui volum mai mare de muncă, într-un timp mai scurt. Echipa de securitate Block a înregistrat o creștere de 50% a randamentului trierii, o creștere de 50% a activităților de colectare a informațiilor și de investigare, precum și o capacitate complet nouă de căutare autonomă a amenințărilor. Nettesheim spune: „Sistemul realizează trimestrial investigații echivalente cu aproximativ 1.100 de ore de muncă ale unui analist, deoarece fiecare alertă este acum investigată complet și în profunzime, în toate aspectele sale. Sistemul nostru tratează fiecare alertă ca și cum ar fi singura din ziua respectivă.”

Instrumentele tradiționale de scanare semnalează câte o vulnerabilitate izolată, însă echipa de securitate Block poate merge mult mai departe cu Daybreak. Modelul ajută la formularea unor ipoteze despre tiparele de atac și la legarea unei serii de atacuri într-un traseu complet de compromitere, scoțând la iveală vulnerabilități care ar fi putut exista de ani de zile.

Într-un caz, o alertă de pe un singur laptop părea, privită separat, o încălcare minoră a politicilor. Însă, în timpul verificării reciproce, modelul a urmărit un indicator care apărea doar incidental în dovezi, l-a corelat cu jurnalele de identitate ale Block și a descoperit un set mult mai amplu de probleme. „O alertă de rutină de pe un dispozitiv a dus la oprirea unei întregi campanii de atac. Niciun instrument nu face singur această corelare. Indiciul apare doar prin corelarea jurnalelor a două produse”, spune James.

Un alt exemplu în care Daybreak a fost de ajutor este un exercițiu recent de red teaming. Modelul a primit câteva indicii despre un sistem intern și, în aproximativ două ore, a construit un traseu complet de atac: injecție SQL, escaladarea privilegiilor, stabilirea unui punct de acces, enumerarea credențialelor și trecerea la alte sisteme. În mod obișnuit, unui specialist în red teaming i-ar lua câteva zile să facă acest lucru. În exercițiile recente de red teaming, au trecut 18 minute de la raportarea unei vulnerabilități descrise la nivel general până la propunerea automată a unei corecții.

Descoperirea vulnerabilităților este utilă doar în măsura în care acestea pot fi remediate. Nettesheim descrie procesul urmat de echipa sa pentru fiecare problemă descoperită: localizarea problemei în cod și identificarea persoanei responsabile, apoi trecerea la remediere. „Propui o corecție, confirmi că vulnerabilitatea poate fi exploatată, apoi verifici că ai remediat-o, cu un om implicat în proces, care îl ghidează și implementează modificările de cod.”

Deși agenții au capacitățile tehnice necesare, nu cunosc contextul unei organizații sau motivele din spatele deciziilor anterioare. Un om aduce acest context și definește strategia, iar aici intervine echipa sa, asigurând un nivel de verificare umană. Pe măsură ce capacitatea AI de a lua decizii se confirmă în practică, Nettesheim spune: „vom crește treptat nivelul de risc acceptat, pentru a o folosi în sisteme mai sensibile.”

• Mai puțin de o oră pentru testarea unei modificări propuse a detecției pe date de telemetrie din șapte luni.

• 18 minute de la raportarea unei vulnerabilități descrise la nivel general până la propunerea automată a unei corecții, în exercițiile recente de red teaming.

• Aproximativ 600 de ore de muncă economisite trimestrial pentru analiști la trierea alertelor fals pozitive.

• Investigații realizate trimestrial echivalente cu aproximativ 1.100 de ore de muncă ale unui analist.

• Creștere de 50% a randamentului trierii.

• Creștere de 50% a activităților de colectare a informațiilor și de investigare.

Doar activitățile de detecție și răspuns au economisit trimestrial aproximativ 600 de ore de muncă ale analiștilor, dedicate anterior trierii alertelor fals pozitive. Datorită timpului astfel câștigat, echipa se poate dedica mai mult investigațiilor aprofundate și dezvoltării responsabile a unor noi automatizări.

Pe măsură ce ritmul atacurilor crește și modelele AI continuă să avanseze, Nettesheim vede o oportunitate de a reduce numărul vulnerabilităților introduse de la bun început. Astfel, echipele de securitate ar putea aloca mai puțin timp aplicării corecțiilor și mai mult timp activităților preventive și strategice.

„OpenAI înclină balanța în favoarea celor care apără sistemele, punând aceste capacități avansate la îndemâna tuturor”, spune el. „Până acum, de regulă, doar companiile de tehnologie de prim rang și guvernele aveau acces la ele. Dar acum toată lumea, inclusiv operatorii de infrastructură critică, școlile și întreprinderile mici, poate începe să folosească această tehnologie pentru a-și apăra rețelele.”