Hoe Block AI-beveiliging bouwt met technologie van OpenAI

Bij Block, het bedrijf achter Square, Cash App en Afterpay, gebruikt het beveiligingsteam de OpenAI Defense Factory. Daar neemt AI het opsporen van kwetsbaarheden, detectie en respons voor zijn rekening op een schaal die geen menselijk team zou kunnen bijbenen. Met AI-systemen zoals OpenAI Daybreak voert Block in slechts enkele uren werk uit dat vroeger weken kostte.

Het beveiligingsteam van Block richt zich op een verantwoorde inzet van AI in uiteenlopende werkprocessen, van codegeneratie tot beveiligingsactiviteiten. "In de kern gaat het om een nieuwe teamgenoot waarmee je kunt opschalen", zegt James Nettesheim, Chief Information Security Officer. "Het is anders dan traditionele automatisering, waarbij je alles stap voor stap moest vastleggen. Je kunt in een prompt een vrij specifiek, niet eenduidig probleem voorleggen en dat samen uitwerken."

Taken zoals het beoordelen van een softwarebug of het analyseren van een logbestand kostten vroeger dagen of weken. Nu kan het team die taken in een fractie van die tijd afronden, terwijl een mens nog steeds elk resultaat controleert.

Om de detectie te verfijnen, worden bijvoorbeeld bij elk onderzoek de ruwe queryresultaten als bewijsmateriaal opgeslagen. Daardoor kan het team een voorgestelde detectiewijziging nu in minder dan een uur testen op zeven maanden aan telemetrie uit de productieomgeving. Voorheen moesten daarvoor handmatig opnieuw query's worden uitgevoerd voor honderden oude gevallen. Omdat dat zo tijdrovend was, gebeurde het in de praktijk zelden.

Het team kiest inmiddels ook gerichter welk model het voor welke taak inzet. "Vroeger gebruikten we het nieuwste model, maar dat hoeft niet meer", zegt hij. "We hebben moeten leren om voor verschillende taken verschillende modellen te kiezen." Het beveiligingsharness van Block is gebouwd op Daybreak en helpt taken naar het juiste model te leiden. Het bevat ook voorzieningen waarmee mensen taken kunnen overnemen of agents elkaars werk kunnen controleren. Het team toetst deze systemen voortdurend aan interne benchmarks en prestaties in de praktijk, en past de aanpak waar nodig aan. Daar hoort ook bij dat werk ter beoordeling aan mensen wordt voorgelegd wanneer dat de verantwoorde keuze is.

Dankzij het geautomatiseerde triagesysteem wordt er meer werk gedaan, in minder tijd. Het beveiligingsteam van Block zag de doorvoer bij triage met 50% stijgen en verzamelt 50% meer dreigingsinformatie en voert 50% meer onderzoeken uit. Ook beschikt het nu over een geheel nieuwe mogelijkheid om autonoom op dreigingen te jagen. Nettesheim zegt: "Dit levert per kwartaal onderzoekswerk op dat overeenkomt met zo'n 1.100 analistenuren, omdat elke melding nu volledig en diepgaand wordt onderzocht, inclusief alle betrokken onderdelen. Ons systeem behandelt elke melding alsof het de enige is die we die dag hebben gekregen."

Traditionele scantools signaleren afzonderlijke kwetsbaarheden, maar met Daybreak kan het beveiligingsteam van Block veel verder gaan. Het model helpt hypothesen over aanvalspatronen te formuleren en een reeks aanvallen aaneen te rijgen tot een volledig pad om een systeem te compromitteren. Zo brengt het kwetsbaarheden aan het licht die mogelijk al jaren bestonden.

Zo leek een melding op één laptop op zichzelf slechts te wijzen op een kleine beleidsovertreding. Maar tijdens een collegiale toetsing volgde het model een indicator die slechts terloops in het bewijsmateriaal voorkwam. Het koppelde die aan de identiteitslogboeken van Block en bracht zo een veel grotere reeks problemen aan het licht. "Eén routinemelding op een eindapparaat leidde tot het uitschakelen van een hele aanvalscampagne. Geen enkele tool legt dat verband op zichzelf. Het signaal wordt pas zichtbaar als je de logboeken van twee producten combineert", zegt James.

Daybreak bewees zijn nut ook tijdens een recente redteamoefening. Het model kreeg een paar aanwijzingen over een intern systeem en stelde in ongeveer twee uur een volledig aanvalspad samen: SQL-injectie, escalatie van rechten, het verkrijgen van een vaste voet in het systeem, het inventariseren van inloggegevens en het doordringen tot andere systemen. Een menselijke specialist in red teaming zou hier doorgaans meerdere dagen voor nodig hebben. Bij recente redteamoefeningen duurde het 18 minuten vanaf het melden van een globaal beschreven kwetsbaarheid tot een automatisch patchvoorstel.

Kwetsbaarheden vinden heeft pas echt waarde als je ze ook kunt verhelpen. Nettesheim beschrijft het proces dat zijn team bij elke bevinding volgt: bepalen waar het probleem in de code zit en wie ervoor verantwoordelijk is, en het vervolgens verhelpen. "Je stelt een patch voor, bevestigt dat de kwetsbaarheid kan worden misbruikt en controleert vervolgens of je die hebt verholpen. Daarbij blijft een mens betrokken die het proces stuurt en de codewijzigingen uitrolt."

Hoewel agents technisch veel aankunnen, kennen ze niet de context van een organisatie of de afwegingen achter eerdere beslissingen. Een mens brengt die context en strategie in. Daar ligt de rol van zijn team: zorgen voor een extra, menselijke beoordeling. Naarmate AI zijn oordeelsvermogen in de praktijk bewijst, zegt Nettesheim, "zullen we het risiconiveau stapsgewijs verhogen en AI ook voor gevoeligere systemen inzetten."

• Minder dan een uur om een voorgestelde detectiewijziging te testen op zeven maanden aan telemetrie.

• 18 minuten tussen het melden van een globaal beschreven kwetsbaarheid en een automatisch patchvoorstel bij recente redteamoefeningen.

• Circa 600 analistenuren per kwartaal vrijgemaakt door de triage van fout-positieve meldingen over te nemen.

• Onderzoekswerk ter waarde van ongeveer 1.100 analistenuren uitgevoerd per kwartaal.

• 50% hogere doorvoer bij triage.

• 50% meer dreigingsinformatie verzameld en onderzoeken uitgevoerd.

Alleen al bij detectie en respons zijn per kwartaal circa 600 analistenuren vrijgemaakt die voorheen naar de triage van fout-positieve meldingen gingen. Die vrijgekomen tijd besteedt het team nu aan diepgaander onderzoek en het verantwoord ontwikkelen van meer automatisering.

Nu aanvallen elkaar sneller opvolgen en AI-modellen zich blijven ontwikkelen, ziet Nettesheim een kans om te voorkomen dat kwetsbaarheden überhaupt ontstaan. Daardoor zouden beveiligingsteams minder tijd kwijt zijn aan patches en meer tijd kunnen besteden aan preventief, strategisch werk.

"OpenAI geeft verdedigers het voordeel door deze geavanceerde mogelijkheden voor iedereen beschikbaar te maken", zegt hij. "Tot nu toe waren die doorgaans alleen beschikbaar voor zeer vooraanstaande technologiebedrijven en overheden. Maar nu kan iedereen, van beheerders van vitale infrastructuur tot scholen en kleine bedrijven, deze technologie gaan gebruiken om zijn netwerken te verdedigen."