Com Block reforça la seguretat amb la tecnologia d'IA d'OpenAI

A Block, l'empresa darrere de Square, Cash App i Afterpay, l'equip de seguretat aprofita OpenAI Defense Factory: un entorn on la IA s'encarrega de descobrir i detectar vulnerabilitats i de respondre-hi a una escala que cap equip humà podria assumir. Amb sistemes d'IA com OpenAI Daybreak, Block fa en poques hores una feina que abans requeria setmanes.

L'equip de seguretat de Block s'ha centrat a adoptar la IA de manera responsable en tots els fluxos de treball, tant en la generació de codi com en les operacions de seguretat. "La clau és tenir un nou company d'equip que et permeti ampliar la capacitat de treball", explica James Nettesheim, director de seguretat de la informació. "No és com l'automatització més tradicional, en què calia anar pas a pas. Li pots plantejar un problema força específic i ambigu i treballar-hi conjuntament per resoldre'l."

Tasques com revisar un error de programari o analitzar un registre requerien dies o setmanes. Ara l'equip pot completar aquestes tasques en una fracció del temps, i una persona continua validant cada resultat.

Per exemple, per ajustar la detecció, cada investigació desa les evidències en brut de les consultes. Així, l'equip ara pot provar un canvi proposat en la detecció amb set mesos de telemetria de producció en menys d'una hora. Abans, aquesta feina implicava tornar a consultar manualment centenars de casos antics i, a la pràctica, gairebé no es feia perquè requeria massa temps.

L'equip també ha afinat més la tria del model que fa servir per a cada tasca. "Abans fèiem servir el model més recent, però ara ja no cal", explica. "Triar models diferents per a tasques diferents ha estat tot un aprenentatge." L'entorn d'execució de seguretat de Block es basa en Daybreak per ajudar a assignar les tasques al model adequat i inclou mecanismes perquè les persones puguin assumir el control de les tasques o perquè els agents verifiquin la feina dels altres. L'equip avalua contínuament aquests sistemes amb proves de referència internes i segons el seu rendiment en situacions reals, i ajusta l'enfocament quan cal, per exemple, derivant la feina a una revisió humana quan és l'opció responsable.

El sistema de triatge automatitzat ha permès fer més feina i fer-la més de pressa. L'equip de seguretat de Block ha registrat un augment del 50 % en el rendiment del triatge, un increment del 50 % en la recopilació d'informació d'intel·ligència i les investigacions, i una capacitat completament nova de cerca autònoma d'amenaces. Nettesheim explica: "El sistema fa l'equivalent d'unes 1.100 hores d'investigació d'analistes per trimestre, perquè ara cada alerta és objecte d'una investigació completa i exhaustiva de tots els elements implicats. El nostre sistema tracta cada alerta com si fos l'única que hem rebut aquell dia."

Les eines d'escaneig tradicionals assenyalen una vulnerabilitat aïllada, però l'equip de seguretat de Block pot anar molt més enllà amb Daybreak. El model ajuda a formular hipòtesis sobre patrons d'atac i a encadenar una sèrie d'atacs en una via d'intrusió completa, de principi a fi, i posa al descobert vulnerabilitats que podien existir des de feia anys.

En un cas, una alerta en un únic portàtil semblava, per si sola, un incompliment menor de les polítiques. Però durant la revisió entre iguals, el model va seguir un indicador que només apareixia de manera incidental en les evidències, el va creuar amb els registres d'identitat de Block i va descobrir un conjunt de problemes molt més ampli. "Una alerta rutinària d'un dispositiu final va acabar permetent desmantellar una campanya d'atacs. Cap eina per si sola no estableix aquesta connexió. L'indici només apareix quan es creuen els registres de dos productes", explica James.

Un altre exemple de l'ajuda de Daybreak es va donar en un exercici recent d'equip vermell. Es van donar al model unes quantes pistes sobre un sistema intern i, en unes dues hores, va encadenar una via d'atac completa: injecció SQL, escalada de privilegis, establiment d'un punt de suport, enumeració de credencials i un salt a altres sistemes. A un membre humà de l'equip vermell, això normalment li requeriria diversos dies. En exercicis recents d'equip vermell, el temps transcorregut des de la notificació d'una vulnerabilitat a grans trets fins a una proposta automàtica de pedaç va ser de 18 minuts.

Trobar vulnerabilitats només és útil si es poden corregir. Nettesheim detalla el procés que segueix el seu equip amb cada troballa: localitzar el problema dins del codi i identificar-ne el responsable, i després passar a corregir-lo. "Proposes un pedaç, confirmes que la vulnerabilitat es pot explotar i després verifiques que l'has corregida, amb una persona que guia el procés i desplega els canvis en el codi."

Tot i que els agents tenen capacitat tècnica, no coneixen el context de l'organització ni els motius de les decisions anteriors. Una persona aporta aquest context i l'estratègia, i és aquí on intervé el seu equip per afegir-hi una revisió humana. A mesura que el criteri de la IA demostri la seva fiabilitat a la pràctica, Nettesheim afirma: "Anirem augmentant gradualment el nivell de risc per fer-la servir en sistemes més sensibles."

• Menys d'una hora per provar un canvi proposat en la detecció amb set mesos de telemetria.

• 18 minuts des de la notificació d'una vulnerabilitat a grans trets fins a una proposta automàtica de pedaç en exercicis recents d'equip vermell.

• Unes 600 hores trimestrals de feina d'analistes alliberades del triatge de falsos positius.

• L'equivalent d'unes 1.100 hores d'investigació d'analistes completades per trimestre.

• Augment del 50 % en el rendiment del triatge.

• Increment del 50 % en la recopilació d'informació d'intel·ligència i les investigacions.

Només amb la feina de detecció i resposta, s'han alliberat unes 600 hores trimestrals de feina d'analistes que abans es dedicaven al triatge de falsos positius. Gràcies a aquest temps recuperat, l'equip ara pot dedicar més temps a investigacions aprofundides i a desenvolupar més automatitzacions de manera responsable.

A mesura que augmenta el ritme dels atacs i els models d'IA continuen avançant, Nettesheim hi veu una oportunitat per reduir el nombre de vulnerabilitats que s'introdueixen d'entrada. Això permetria als equips de seguretat dedicar menys temps a aplicar pedaços i més a tasques preventives i estratègiques.

"OpenAI està inclinant la balança a favor dels defensors en posar aquestes capacitats avançades a l'abast de tothom", afirma. "Fins ara, normalment només en disposaven les empreses tecnològiques més destacades i els governs. Però ara tothom, incloent-hi infraestructures crítiques, escoles i petites empreses, pot començar a utilitzar aquesta tecnologia per defensar les seves xarxes."