Block: sicurezza basata sull’IA con la tecnologia OpenAI

In Block, l’azienda dietro Square, Cash App e Afterpay, il team di sicurezza si avvale di OpenAI Defense Factory: un sistema in cui l’IA gestisce la ricerca delle vulnerabilità, il rilevamento e la risposta su una scala impossibile da sostenere per un team di sole persone. Grazie a sistemi di IA come OpenAI Daybreak, Block svolge in poche ore attività che prima richiedevano settimane.

Il team di sicurezza di Block si è concentrato sull’adozione responsabile dell’IA nei flussi di lavoro, dalla generazione di codice alle operazioni di sicurezza. “Il punto è poter contare su un nuovo collega con cui ampliare le nostre capacità operative”, afferma James Nettesheim, responsabile della sicurezza delle informazioni. “Non è come l’automazione tradizionale, in cui bisognava definire ogni passaggio. Puoi sottoporgli un problema molto specifico e poco definito e affrontarlo insieme.”

Attività come esaminare un bug software o analizzare un log richiedevano giorni o settimane. Ora il team può portarle a termine in una frazione del tempo, mantenendo la verifica umana di ogni risultato.

Per esempio, per ottimizzare il rilevamento, ogni indagine conserva i dati grezzi ottenuti dalle query. Il team può così testare una modifica proposta alle regole di rilevamento su sette mesi di dati telemetrici di produzione in meno di un’ora. Prima, questo lavoro richiedeva di eseguire di nuovo manualmente le query su centinaia di vecchi casi e, nella pratica, veniva svolto di rado perché richiedeva troppo tempo.

Il team è diventato anche più attento alla scelta del modello da usare per ciascuna attività. “Prima usavamo il modello più recente, ma ora non è più necessario”, racconta. “Abbiamo imparato a scegliere modelli diversi per attività diverse.” L’infrastruttura di sicurezza di Block è costruita su Daybreak per assegnare le attività al modello più adatto e prevede meccanismi che consentono alle persone di subentrare o agli agenti di verificare il lavoro degli altri. Il team valuta costantemente questi sistemi rispetto ai benchmark interni e alle prestazioni sul campo, adattando l’approccio quando serve, anche affidando il lavoro alla revisione umana quando è la scelta più responsabile.

Il sistema di triage automatizzato ha permesso di svolgere più lavoro e più velocemente. Il team di sicurezza di Block ha registrato un aumento del 50% della capacità di elaborazione nel triage, un incremento del 50% nella raccolta di informazioni e nelle indagini e una capacità del tutto nuova di ricerca autonoma delle minacce. Nettesheim spiega: “Il sistema svolge ogni trimestre l’equivalente di circa 1.100 ore di indagine di un analista, perché ora ogni avviso viene esaminato in modo completo e approfondito, in tutti gli aspetti che coinvolge. Il nostro sistema tratta ogni avviso come se fosse l’unico ricevuto quel giorno.”

Gli strumenti di scansione tradizionali segnalano singole vulnerabilità isolatamente, ma con Daybreak il team di sicurezza di Block può andare molto oltre. Il modello aiuta a formulare ipotesi sugli schemi di attacco e a concatenare una serie di attacchi in un percorso di compromissione completo, portando alla luce vulnerabilità che potrebbero essere presenti da anni.

In un caso, un avviso relativo a un singolo portatile, preso da solo, sembrava indicare una lieve violazione delle policy. Durante la revisione tra pari, però, il modello ha seguito un indicatore che compariva solo incidentalmente nei dati raccolti, lo ha incrociato con i log delle identità di Block e ha fatto emergere un insieme di problemi molto più ampio. “Un normale avviso su un endpoint ha portato a neutralizzare un’intera campagna di attacco. Nessuno strumento, da solo, stabilisce quel collegamento. Il segnale emerge solo incrociando i log di due prodotti”, spiega James.

Un altro esempio dell’aiuto fornito da Daybreak risale a una recente esercitazione di red teaming. Con pochi indizi su un sistema interno, il modello ha ricostruito in circa due ore un intero percorso di attacco: SQL injection, escalation dei privilegi, acquisizione di un punto d’appoggio, enumerazione delle credenziali e passaggio ad altri sistemi. Di norma, a un esperto di red teaming servirebbero diversi giorni. Nelle recenti esercitazioni di red teaming, dalla descrizione generale di una vulnerabilità alla proposta automatica di una patch sono trascorsi 18 minuti.

Trovare le vulnerabilità è utile solo se si è in grado di correggerle. Nettesheim illustra il processo che il suo team segue per ogni problema rilevato: individuare dove si trova nel codice e chi ne è responsabile, per poi passare alla correzione. “Si propone una patch, si conferma che la vulnerabilità sia sfruttabile e poi si verifica di averla corretta, con una persona che guida il processo e distribuisce le modifiche al codice.”

Pur avendo le capacità tecniche, gli agenti non conoscono il contesto dell’organizzazione né le ragioni alla base delle decisioni precedenti. Sono le persone a fornire questo contesto e la strategia: è qui che interviene il suo team, assicurando un livello di revisione umana. Man mano che la capacità di giudizio dell’IA si dimostrerà affidabile sul campo, afferma Nettesheim, “aumenteremo gradualmente il livello di rischio accettato per usarla su sistemi più sensibili.”

• Meno di un’ora per testare una modifica proposta al rilevamento su sette mesi di dati telemetrici.

• 18 minuti dalla descrizione generale di una vulnerabilità alla proposta automatica di una patch nelle recenti esercitazioni di red teaming.

• Circa 600 ore di lavoro a trimestre restituite agli analisti, prima dedicate al triage dei falsi positivi.

• L’equivalente di circa 1.100 ore di indagine di un analista svolte ogni trimestre.

• Aumento del 50% della capacità di elaborazione nel triage.

• Incremento del 50% nella raccolta di informazioni e nelle indagini.

Le sole attività di rilevamento e risposta hanno restituito agli analisti circa 600 ore a trimestre, prima dedicate al triage dei falsi positivi. Grazie al tempo recuperato, il team può dedicarsi maggiormente a indagini approfondite e allo sviluppo responsabile di nuove automazioni.

Mentre gli attacchi si intensificano e i modelli di IA continuano a progredire, Nettesheim vede l’opportunità di ridurre a monte il numero di vulnerabilità introdotte. Questo consentirebbe ai team di sicurezza di dedicare meno tempo alle patch e più tempo alle attività preventive e strategiche.

“OpenAI sta spostando il vantaggio a favore di chi difende i sistemi, mettendo queste capacità avanzate a disposizione di tutti”, afferma. “Di solito erano accessibili solo alle aziende tecnologiche di primissimo piano e ai governi. Ma ora tutti, compresi i gestori di infrastrutture critiche, le scuole e le piccole imprese, possono iniziare a usare questa tecnologia per difendere le proprie reti.”