Com Block crea seguretat basada en IA amb tecnologia d'OpenAI

A Block, l'empresa que hi ha darrere de Square, Cash App i Afterpay, l'equip de seguretat aprofita OpenAI Defense Factory: la IA s'encarrega de descobrir-hi i detectar-hi vulnerabilitats i a respondre-hi a un ritme i una escala que cap equip humà no podria seguir. Gràcies a sistemes d'IA com OpenAI Daybreak, Block només necessita unes quantes hores per fer una feina que abans requeria setmanes.

L'equip de seguretat de Block s'ha centrat a adoptar la IA de manera responsable en tots els fluxos de treball, tant si es tracta de generar codi com d'operacions de seguretat. "El que es busca realment és tenir un nou company d'equip amb qui puguis créixer", explica James Nettesheim, director de seguretat de la informació. "No és com una automatització més tradicional, en què havies d'anar pas a pas. Li pots donar una indicació sobre un problema força específic i ambigu i anar-lo resolent plegats".

Projectes com ara revisar un error de programari o analitzar un registre trigarien dies o setmanes a completar-se. Ara, l'equip pot completar aquests projectes en una fracció del temps, i una persona continua validant cada resultat.

Per exemple, pel que fa a l'ajustament de la detecció, cada investigació desa les evidències en brut de les consultes, de manera que ara l'equip pot tornar a executar un canvi de detecció proposat amb set mesos de telemetria de producció en menys d'una hora. Abans, per fer aquesta feina calia tornar a consultar manualment centenars de casos antics, i això sovint ni tan sols es feia a la pràctica, perquè requeria molt de temps.

L'equip també s'ha tornat més selectiu a l'hora de decidir quin model utilitza per a cada tasca. "Abans utilitzàvem el model més recent, però ja no cal fer-ho", diu. "Ha estat un procés d'aprenentatge triar models diferents per a tasques diferents". L'entorn d'execució de seguretat de Block es basa en Daybreak per ajudar a dirigir les tasques al model adequat i inclou mecanismes perquè les persones es puguin fer càrrec de les tasques o perquè els agents verifiquin la feina dels altres. L'equip avalua contínuament aquests sistemes amb proves de referència internes i el rendiment en situacions reals i n'ajusta l'enfocament quan cal, cosa que inclou derivar la feina a la revisió humana quan aquesta és l'opció responsable.

El sistema de triatge automatitzat ha permès fer la feina més de pressa (i fer-ne més). L'equip de seguretat de Block ha augmentat un 50 % el rendiment del triatge, ha incrementat un 50 % la recopilació d'intel·ligència i les investigacions i ha adquirit una capacitat completament nova de caça autònoma. Segons Nettesheim, "això representa unes 1.100 hores d'investigació d'analistes per trimestre, perquè ara cada alerta rep una investigació completa i exhaustiva de tots els elements que hi estan relacionats. El nostre sistema tracta cada alerta com si fos l'única que tinguéssim aquell dia".

Les eines d'escaneig tradicionals detecten una única vulnerabilitat de manera aïllada, però l'equip de seguretat de Block pot anar molt més enllà amb Daybreak. El model ajuda a formular hipòtesis sobre patrons d'atac i a encadenar una sèrie d'atacs per traçar una ruta completa de compromís d'extrem a extrem, cosa que fa aflora vulnerabilitats que potser feia anys que existien.

En un cas, una alerta en un únic portàtil semblava, per si sola, un problema menor de política. Però durant la revisió entre iguals, el model va seguir un indicador que només es mostrava de manera incidental a les proves, el va correlacionar amb els registres d'identitat de Block i va fer aflorar un conjunt de problemes molt més ampli. "Una alerta rutinària d'un punt final va derivar en el desmantellament d'una campanya. Cap eina per si sola pot fer aquesta correlació. El senyal només existeix als registres de dos productes", diu James.

Un altre exemple en què Daybreak va ajudar va ser durant un exercici recent d'equip vermell. Se li van proporcionar al model unes quantes pistes sobre un sistema intern, i aquest va encadenar una ruta d'atac completa —injecció SQL, escalada de privilegis, un punt de suport, enumeració de credencials i un pivot cap a altres sistemes— en unes dues hores. Per a un especialista de l'equip vermell, això normalment hauria requerit diversos dies de feina. En exercicis recents d'equip vermell, el temps des de l'enviament d'una vulnerabilitat d'alta gravetat fins a la proposta automatitzada d'un pegat va ser de 18 minuts.

Trobar les vulnerabilitats només és útil si es poden corregir. Nettesheim explica pas a pas el procés que el seu equip segueix amb cada troballa: localitzar en quin punt del codi es troba el problema i identificar qui n'és responsable, i després passar a corregir-lo. "Proposes un pedaç, confirmes que la vulnerabilitat es pot explotar i després verifiques que l'has corregida, amb una persona que supervisa el procés, el guia i desplega els canvis al codi".

Tot i que els agents són tècnicament capaços, no tenen el context d'una organització ni el raonament que hi ha darrere de les decisions anteriors. Una persona aporta aquest context i aquesta estratègia, i és aquí on entra el seu equip per proporcionar una capa humana de revisió. A mesura que es demostri a la pràctica el criteri de la IA, diu Nettesheim, "augmentarem gradualment el nivell de risc per fer-la servir en sistemes més sensibles".

• Menys d'una hora per tornar a executar un canvi de detecció proposat sobre set mesos de telemetria.

• 18 minuts des de l'enviament d'una vulnerabilitat d'alta gravetat fins a la proposta automatitzada d'un pegat en exercicis recents d'equip vermell.

• Aproximadament 600 hores d'analista per trimestre recuperades del triatge de falsos positius.

• Aproximadament 1.100 hores d'investigació d'analistes completades per trimestre.

• Augment del 50 % en el rendiment del triatge.

• Augment del 50 % en la recopilació d'intel·ligència i les investigacions.

Només la feina de detecció i resposta ha alliberat aproximadament 600 hores d'analista per trimestre, que abans es dedicaven a classificar falsos positius. Amb aquest temps recuperat, l'equip ara dedica més temps a investigacions més aprofundides i a desenvolupar més automatització de manera responsable.

A mesura que augmenta el ritme dels atacs i els models d'IA continuen avançant, Nettesheim veu una oportunitat per reduir el nombre de vulnerabilitats que s'introdueixen d'entrada. Gràcies a això, els equips de seguretat podrien dedicar menys temps a aplicar pegats i més a tasques preventives i estratègiques.

"OpenAI està decantant l'avantatge cap als defensors posant aquestes capacitats avançades a l'abast de tothom", afirma. "Fins ara, normalment només les tenien a les seves mans empreses tecnològiques molt destacades i els governs. Però ara tothom, incloent-hi les infraestructures crítiques, les escoles i les petites empreses, pot començar a utilitzar aquesta tecnologia per defensar les seves xarxes".