Kako Block gradi AI sigurnost uz tehnologiju OpenAI
Block koristi AI sustave, među kojima je i OpenAI Daybreak, kako bi skratio vrijeme otklanjanja ranjivosti i omogućio sigurnosnom timu da se usredotoči na strateški rad.
Prilagodba detekcije
<1
Sat za provjeru predložene promjene detekcije na telemetrijskim podacima iz sedam mjeseci
Predložena zakrpa
18
Minuta od prijave ozbiljne ranjivosti do automatski predloženog zakrpa
Trijaža lažno pozitivnih upozorenja
~600
Sati oslobođenih za drugi rad analitičara po tromjesečju
Istrage
~1100
Sati analitičarskog rada na istragama obavljenih po tromjesečju
U tvrtki Block, koja stoji iza usluga Square, Cash App i Afterpay, sigurnosni tim koristi OpenAI Defense Factory: sustav u kojem AI otkriva ranjivosti, prepoznaje prijetnje i reagira na njih u opsegu koji nijedan ljudski tim ne bi mogao pratiti. Uz AI sustave, među kojima je i OpenAI Daybreak, Block za samo nekoliko sati obavlja posao koji je prije trajao tjednima.
„AI skraćuje vrijeme od ljudske namjere do djelovanja. Neko se vrijeme smatralo da su napadači u prednosti jer su brži i prilagodljiviji. No uz sustave poput Daybreaka i napredak alata tvrtke OpenAI, oni koji brane sustave mogu uzvratiti istom mjerom i držati korak s brzim uvođenjem AI-ja.”
Blockov sigurnosni tim usredotočen je na odgovorno uvođenje AI-ja u radne procese, bilo da je riječ o generiranju koda ili sigurnosnim operacijama. „U srži je svega novi član tima uz kojeg možete povećavati opseg rada”, kaže James Nettesheim, direktor informacijske sigurnosti. „To nije kao tradicionalna automatizacija, kod koje ste morali ići korak po korak. Možete mu zadati prilično specifičan, nejasno definiran problem i zajedno raditi na rješenju.”
Zadaci poput provjere softverske pogreške ili analize zapisnika prije su trajali danima ili tjednima. Sada ih tim može dovršiti u djeliću tog vremena, a čovjek i dalje provjerava svaki rezultat.
Primjerice, za prilagodbu detekcije u svakoj se istrazi pohranjuju izvorni dokazi dobiveni upitima. Tim zato sada može za manje od sat vremena provjeriti predloženu promjenu detekcije na telemetrijskim podacima iz sedam mjeseci produkcijskog rada. Prije je to značilo ručno ponovno pokretanje upita za stotine starih slučajeva, što se u praksi rijetko radilo jer je oduzimalo previše vremena.
Tim sada i pažljivije bira koji će model koristiti za koji posao. „Prije smo koristili najnoviji model, ali to više nije nužno”, kaže. „Učili smo kako birati različite modele za različite zadatke.” Blockov sigurnosni testni sklop izgrađen je na sustavu Daybreak kako bi se zadaci usmjeravali odgovarajućem modelu. Uključuje i mehanizme koji ljudima omogućuju preuzimanje zadataka, a agentima međusobnu provjeru rada. Tim kontinuirano procjenjuje te sustave prema internim referentnim testovima i rezultatima u stvarnim uvjetima te po potrebi prilagođava pristup, uključujući upućivanje rada na ljudsku provjeru kada je to odgovorno rješenje.
Sustav automatizirane trijaže omogućio je brže obavljanje veće količine posla. Blockov sigurnosni tim bilježi 50 % veću propusnost trijaže, 50 % veći opseg prikupljanja obavještajnih podataka i istraga te potpuno novu mogućnost autonomnog traganja za prijetnjama. Nettesheim kaže: „Sustav po tromjesečju obavi istražni rad koji odgovara približno 1100 sati rada analitičara jer se sada za svako upozorenje provodi potpuna, temeljita istraga svih elemenata na koje se odnosi. Naš sustav obrađuje svako upozorenje kao da je jedino koje smo taj dan dobili.”
Tradicionalni alati za skeniranje označavaju pojedinačne ranjivosti zasebno, no Blockov sigurnosni tim uz Daybreak može otići mnogo dalje. Model pomaže postaviti hipoteze o obrascima napada i povezati niz napada u cjelovit put do kompromitacije sustava, otkrivajući ranjivosti koje su možda postojale godinama.
U jednom je slučaju upozorenje na jednom prijenosnom računalu, promatrano zasebno, izgledalo kao manji problem s poštovanjem sigurnosnih pravila. No tijekom dodatne provjere model je slijedio pokazatelj koji se tek usput pojavio u dokazima, povezao ga s Blockovim zapisnicima identiteta i otkrio mnogo širi skup problema. „Jedno rutinsko upozorenje s krajnjeg uređaja dovelo je do zaustavljanja cijele napadačke kampanje. Nijedan alat samostalno ne uspostavlja tu vezu. Taj se signal može uočiti samo povezivanjem zapisnika dvaju proizvoda”, kaže James.
Daybreak je pomogao i tijekom nedavne vježbe red-team testiranja. Model je dobio nekoliko naznaka o internom sustavu i za otprilike dva sata povezao cijeli put napada: ubacivanje SQL koda, podizanje ovlasti, uspostavu uporišta, popisivanje vjerodajnica i prelazak na druge sustave. Stručnjaku za red-team testiranje za to bi obično trebalo nekoliko dana. U nedavnim vježbama red-team testiranja od prijave ozbiljne ranjivosti do automatski predložene zakrpe prošlo je 18 minuta.
Otkrivanje ranjivosti vrijedi samo onoliko koliko ih je moguće i otkloniti. Nettesheim opisuje postupak koji njegov tim primjenjuje za svaki nalaz: pronaći gdje se problem nalazi u kodu i tko je za njega odgovoran, a zatim prijeći na otklanjanje. „Predložite zakrpu, potvrdite da se ranjivost može iskoristiti, a zatim provjerite jeste li je otklonili. Pritom je u postupak uključen čovjek koji ga usmjerava i pušta izmjene koda u rad.”
Iako su agenti tehnički sposobni, ne poznaju kontekst organizacije ni razloge koji stoje iza prethodnih odluka. Čovjek daje taj kontekst i određuje strategiju, a upravo tu njegov tim preuzima ulogu dodatne ljudske provjere. Kako se pouzdanost prosudbe AI-ja bude potvrđivala u praksi, Nettesheim kaže: „Postupno ćemo prihvaćati višu razinu rizika i koristiti ga za osjetljivije sustave.”
Manje od sat vremena za provjeru predložene promjene detekcije na telemetrijskim podacima iz sedam mjeseci.
18 minuta od prijave ozbiljne ranjivosti do automatski predložene zakrpe u nedavnim vježbama red-team testiranja.
Oko 600 sati po tromjesečju oslobođenih za drugi rad analitičara umjesto trijaže lažno pozitivnih upozorenja.
Približno 1100 sati analitičarskog rada na istragama obavljenih po tromjesečju.
50 % veća propusnost trijaže.
50 % veći opseg prikupljanja obavještajnih podataka i istraga.
Samo u području detekcije i odgovora na prijetnje analitičarima je po tromjesečju oslobođeno oko 600 sati koje su prije trošili na trijažu lažno pozitivnih upozorenja. Zahvaljujući tom oslobođenom vremenu tim se sada više posvećuje dubljim istragama i odgovornom razvoju dodatne automatizacije.
Kako napadi postaju sve učestaliji, a AI modeli napreduju, Nettesheim vidi priliku da se smanji broj ranjivosti već pri samom nastanku. To bi sigurnosnim timovima omogućilo da manje vremena troše na zakrpe, a više na preventivni, strateški rad.
„OpenAI prebacuje prednost na stranu onih koji brane sustave tako što te napredne mogućnosti čini dostupnima svima”, kaže. „Dosad su one uglavnom bile dostupne samo vodećim tehnološkim tvrtkama i državnim tijelima. No sada svi, uključujući operatore kritične infrastrukture, škole i male tvrtke, mogu početi koristiti ovu tehnologiju za obranu svojih mreža.”
