Kako Block gradi AI sigurnost uz tehnologiju OpenAI

U kompaniji Block, koja stoji iza usluga Square, Cash App i Afterpay, sigurnosni tim koristi OpenAI Defense Factory: sistem u kojem AI otkriva ranjivosti, prepoznaje prijetnje i reaguje na njih u obimu koji nijedan ljudski tim ne bi mogao pratiti. Uz AI sisteme, uključujući OpenAI Daybreak, Block za svega nekoliko sati obavlja posao za koji su ranije trebale sedmice.

Sigurnosni tim kompanije Block usmjeren je na odgovorno uvođenje AI-ja u radne procese, bilo da je riječ o generisanju koda ili sigurnosnim operacijama. „Suština je u tome da dobijete novog člana tima uz kojeg možete proširivati svoje kapacitete“, kaže James Nettesheim, direktor informacijske sigurnosti. „To nije kao tradicionalna automatizacija, kod koje ste morali ići korak po korak. Možete mu zadati prilično specifičan, nejasno definisan problem i zajedno raditi na njegovom rješavanju.“

Za zadatke poput pregleda softverske greške ili analize zapisa bili su potrebni dani ili sedmice. Sada tim te zadatke može završiti za mnogo kraće vrijeme, dok čovjek i dalje provjerava svaki rezultat.

Naprimjer, radi podešavanja detekcije, u svakoj istrazi čuvaju se izvorni dokazi dobijeni upitima, pa tim sada za manje od sat vremena može testirati predloženu izmjenu detekcije na telemetrijskim podacima iz produkcije prikupljenim tokom sedam mjeseci. Ranije je taj posao podrazumijevao ručno ponovno pokretanje upita za stotine starih slučajeva, a u praksi se rijetko obavljao jer je oduzimao toliko vremena.

Tim sada i pažljivije bira koji će model koristiti za koji zadatak. „Ranije smo koristili najnoviji model, ali to više nije neophodno“, kaže on. „Učili smo kako birati različite modele za različite zadatke.“ Sigurnosni harness kompanije Block izgrađen je na sistemu Daybreak kako bi zadatke usmjeravao odgovarajućem modelu, a uključuje i mehanizme koji ljudima omogućavaju preuzimanje zadataka, a agentima međusobnu provjeru rada. Tim kontinuirano procjenjuje ove sisteme prema internim mjerilima i učinku u stvarnim uslovima te po potrebi prilagođava svoj pristup, uključujući upućivanje posla na ljudsku provjeru kada je to odgovoran izbor.

Sistem za automatizovanu trijažu omogućio je da se više posla obavi brže. Sigurnosni tim kompanije Block zabilježio je povećanje protoka trijaže od 50%, povećanje obima prikupljanja obavještajnih podataka i istraga od 50% te dobio potpuno novu mogućnost autonomne potrage za prijetnjama. Nettesheim kaže: „Sistem svakog kvartala obavi istrage koje odgovaraju približno 1.100 sati rada analitičara, jer se sada za svako upozorenje provodi potpuna, detaljna istraga svih elemenata na koje se ono odnosi. Naš sistem obrađuje svako upozorenje kao da je jedino koje smo dobili tog dana.“

Tradicionalni alati za skeniranje označavaju pojedinačne ranjivosti izolovano, ali sigurnosni tim kompanije Block uz Daybreak može otići mnogo dalje. Model pomaže u postavljanju hipoteza o obrascima napada i povezivanju niza napada u cjelovit put kompromitacije sistema, otkrivajući ranjivosti koje su možda postojale godinama.

U jednom slučaju, upozorenje na jednom laptopu samo za sebe izgledalo je kao manje kršenje sigurnosnih pravila. Međutim, tokom međusobne provjere, model je pratio pokazatelj koji se tek usput pojavio među dokazima, povezao ga sa zapisima o identitetima u kompaniji Block i otkrio mnogo veći skup problema. „Jedno rutinsko upozorenje s krajnjeg uređaja dovelo je do zaustavljanja čitave napadačke kampanje. Nijedan alat samostalno ne povezuje te podatke. Taj signal postaje vidljiv tek povezivanjem zapisa dvaju proizvoda“, kaže James.

Još jedan primjer pomoći sistema Daybreak bila je nedavna red teaming vježba. Model je dobio nekoliko naznaka o internom sistemu i za oko dva sata povezao cijeli put napada: SQL ubacivanje, eskalaciju privilegija, uspostavljanje uporišta, popisivanje vjerodajnica i prelazak na druge sisteme. Stručnjaku za red teaming za to bi obično trebalo nekoliko dana. U nedavnim red teaming vježbama, od prijave općeg opisa ranjivosti do automatskog prijedloga zakrpe prošlo je 18 minuta.

Otkrivanje ranjivosti vrijedi onoliko koliko ih je moguće otkloniti. Nettesheim opisuje postupak koji njegov tim primjenjuje za svaki nalaz: utvrditi gdje se problem nalazi u kodu i ko je za njega odgovoran, a zatim preći na otklanjanje. „Predložite zakrpu, potvrdite da se ranjivost može iskoristiti, a zatim provjerite jeste li je otklonili, uz čovjeka koji usmjerava proces i primjenjuje izmjene koda.“

Iako su agenti tehnički sposobni, ne poznaju kontekst organizacije ni razloge za ranije odluke. Čovjek daje taj kontekst i strategiju, a tu se uključuje njegov tim kako bi osigurao dodatnu ljudsku provjeru. Kako se sposobnost AI-ja da prosuđuje bude potvrđivala u praksi, Nettesheim kaže: „Postepeno ćemo podizati nivo rizika koji prihvatamo kako bismo ga koristili i za osjetljivije sisteme.“

• Manje od sat vremena za testiranje predložene izmjene detekcije na telemetrijskim podacima iz sedam mjeseci.

• 18 minuta od prijave općeg opisa ranjivosti do automatskog prijedloga zakrpe u nedavnim red teaming vježbama.

• Oslobođeno oko 600 sati rada analitičara po kvartalu koji su ranije odlazili na trijažu lažno pozitivnih upozorenja.

• Svakog kvartala obavljene istrage koje odgovaraju približno 1.100 sati rada analitičara.

• Povećanje protoka trijaže od 50%.

• Povećanje obima prikupljanja obavještajnih podataka i istraga od 50%.

Samo rad na detekciji i odgovoru oslobodio je oko 600 sati rada analitičara po kvartalu koji su ranije odlazili na trijažu lažno pozitivnih upozorenja. Zahvaljujući toj uštedi vremena, tim se sada više posvećuje detaljnijim istragama i odgovornom razvoju dodatne automatizacije.

Kako se napadi ubrzavaju, a AI modeli nastavljaju napredovati, Nettesheim vidi priliku da se smanji broj ranjivosti koje uopće nastaju. To bi sigurnosnim timovima omogućilo da manje vremena troše na zakrpe, a više na preventivni, strateški rad.

„OpenAI prebacuje prednost na stranu onih koji brane sisteme tako što ove napredne mogućnosti čini dostupnim svima“, kaže on. „One su obično bile dostupne samo vodećim tehnološkim kompanijama i državnim institucijama. Ali sada svi, uključujući upravljače kritične infrastrukture, škole i mala preduzeća, mogu početi koristiti ovu tehnologiju za odbranu svojih mreža.“