Block uz tehnologiju OpenAI-a razvija sigurnost temeljenu na AI-u
Block upotrebljava sustave umjetne inteligencije, uključujući OpenAI Daybreak, kako bi skratio vrijeme potrebno za otklanjanje ranjivosti, čime svojem sigurnosnom timu omogućuje da se usredotoči na strateški rad.
Podešavanje detekcije
<1
Sat za ponovno testiranje predložene promjene detekcije na sedam mjeseci telemetrijskih podataka
Predložena zakrpa
18
Minute od prijave ranjivosti visoke razine do automatski predložene zakrpe
Razvrstavanje lažno pozitivnih rezultata
~600
Sati analitičara vraćenih po tromjesečju
Istrage
~1100
Sati rada analitičara na istragama dovršenima u svakom tromjesečju
U Blocku, tvrtki koja stoji iza Squarea, Cash Appa i Afterpaya, sigurnosni tim upotrebljava OpenAI-ev Defense Factory: umjetna inteligencija ondje otkriva i prepoznaje ranjivosti te reagira na njih u tolikom opsegu da to nijedan ljudski tim ne bi mogao pratiti. Uz sustave umjetne inteligencije, uključujući OpenAI Daybreak, Block sada u samo nekoliko sati obavlja posao za koji su prije bili potrebni tjedni.
„Umjetna inteligencija skraćuje vrijeme od javljanja ljudske namjere do djelovanja. Neko se vrijeme smatralo da su napadači u prednosti jer su brži i prilagodljiviji. No uz rješenja poput Daybreaka i napredak u OpenAI-evim alatima, branitelji se mogu suprotstaviti napadačima istim sredstvima i držati korak s brzim tempom usvajanja umjetne inteligencije.“
Blockov sigurnosni tim usredotočen je na odgovorno uvođenje umjetne inteligencije u radne procese, bilo da je riječ o generiranju koda ili sigurnosnim operacijama. „U središtu je zapravo novi član tima uz kojeg možete povećavati opseg svojeg rada”, kaže James Nettesheim, direktor informacijske sigurnosti. „To nije poput tradicionalnije automatizacije, koju je trebalo uvoditi postupno. U upitu mu možete iznijeti prilično specifičan, nejasno definiran problem i zajedno raditi na njegovu rješavanju.”
Za dovršetak projekata poput pregleda softverske pogreške ili raščlanjivanja zapisnika bili bi potrebni dani ili tjedni. Sada tim te projekte može dovršiti u tek djeliću tog vremena, a čovjek i dalje provjerava svaki rezultat.
Primjerice, pri podešavanju detekcije svaka istraga pohranjuje neobrađene podatke iz upita koji služe kao dokaz, pa tim sada može ponovno testirati predloženu promjenu detekcije na sedam mjeseci telemetrijskih podataka iz produkcijskog okruženja u manje od sat vremena. Taj je posao prije podrazumijevao ručno ponovno slanje upita za stotine starih slučajeva, a zbog utroška vremena u praksi se često nije ni obavljao.
Tim je postao izbirljiviji u odabiru modela za pojedine zadatke. „Prije smo upotrebljavali najnoviji model, ali to više nije potrebno”, kaže. „Odabir različitih modela za različite zadatke bio je proces učenja.” Sigurnosni testni sklop tvrtke Block izgrađen je na platformi Daybreak kako bi se zadaci usmjeravali prema odgovarajućem modelu, a uključuje i mehanizme koji ljudima omogućuju preuzimanje zadataka ili agentima međusobnu provjeru rada. Tim kontinuirano procjenjuje te sustave prema internim mjerilima i njihovoj uspješnosti u stvarnim uvjetima te po potrebi prilagođava pristup, uključujući usmjeravanje zadataka na ljudsku provjeru kada je to odgovoran postupak.
Automatizirani sustav za razvrstavanje omogućio je brže obavljanje većeg opsega posla. Sigurnosni tim tvrtke Block zabilježio je povećanje propusnosti razvrstavanja od 50 %, 50 % više prikupljenih obavještajnih podataka i provedenih istraga te potpuno novu mogućnost autonomnog traganja za prijetnjama. Nettesheim kaže: „To u svakom tromjesečju obavlja oko 1100 sati istraživačkog rada analitičara jer se svako upozorenje sada temeljito istražuje, uzimajući u obzir sve elemente koje obuhvaća. Naš sustav obrađuje svako upozorenje kao da je jedino koje smo tog dana dobili.”
Tradicionalni alati za skeniranje izdvajaju pojedinačne ranjivosti, no Blockov sigurnosni tim uz Daybreak može otići mnogo dalje. Model pomaže u stvaranju hipoteza o obrascima napada i povezivanju niza napada u cjelovit put do kompromitiranja sustava, otkrivajući ranjivosti koje su možda postojale godinama.
U jednom je slučaju upozorenje na jednom prijenosnom računalu samo po sebi izgledalo kao manji problem s pravilima. No tijekom stručnog pregleda model je slijedio pokazatelj koji se samo usputno pojavio u dokazima, povezao ga sa zapisima identiteta Blocka i otkrio mnogo veći skup problema. „Jedno rutinsko upozorenje krajnje točke pretvorilo se u uklanjanje kampanje. Nijedan pojedinačni alat ne može ostvariti takvu poveznicu. Signal postoji samo u zapisnicima dvaju proizvoda”, kaže James.
Daybreak je pomogao i tijekom nedavne vježbe red-team testiranja. Model je dobio nekoliko naznaka o internom sustavu i za otprilike dva sata povezao cijeli lanac napada – umetanje SQL koda, eskalaciju privilegija, nametanje, enumeraciju vjerodajnica i prelazak na druge sustave. Čovjeku koji provodi red-team testiranje za to bi obično trebalo nekoliko dana. U nedavnim vježbama red-team testiranja vrijeme od prijave ranjivosti visoke razine do automatski predložene zakrpe iznosilo je 18 minuta.
Otkrivanje ranjivosti vrijedi samo onoliko koliko vrijedi i sposobnost njihova otklanjanja. Nettesheim objašnjava postupak koji njegov tim primjenjuje pri svakom nalazu: pronaći gdje se problem nalazi u kodu i utvrditi tko je za njega odgovoran, a zatim prijeći na njegovo otklanjanje. „Predlaže se zakrpa, potvrđuje mogućnost iskorištavanja, a zatim se provjerava je li problem otklonjen, uz čovjeka uključenog u postupak koji ga usmjerava i uvodi izmjene koda.”
Iako su agenti tehnički sposobni, nemaju kontekst organizacije ni uvid u rasuđivanje na kojem su se temeljile prethodne odluke. Čovjek pruža taj kontekst i strategiju, a njegov tim tu dolazi do izražaja pružajući sloj ljudske provjere. Kako se prosudba umjetne inteligencije bude potvrđivala u praksi, kaže Nettesheim, „postupno ćemo povećavati razinu rizika pri njezinoj primjeni u osjetljivijim sustavima.”
Manje od sat vremena za ponovno testiranje predložene promjene detekcije na sedam mjeseci telemetrijskih podataka.
18 minuta od prijave ranjivosti visoke razine do automatski predložene zakrpe u nedavnim vježbama red-team testiranja.
Ušteđeno otprilike 600 sati rada analitičara po tromjesečju na razvrstavanju lažno pozitivnih rezultata.
Analitičari provedu približni 100 sati na istragama po tromjesečju.
Povećanje propusnosti razvrstavanja za 50 %.
Povećanje prikupljanja podataka i provođenja istraga za 50 %.
Sam rad na otkrivanju i odgovoru na incidente oslobodio je oko 600 sati rada analitičara po tromjesečju koji su se prije trošili na razvrstavanja lažno pozitivnih rezultata. S tim oslobođenim vremenom tim sada više vremena posvećuje temeljitijim istragama i odgovornom razvoju dodatne automatizacije.
Kako se tempo napada ubrzava, a modeli umjetne inteligencije nastavljaju napredovati, Nettesheim vidi priliku za smanjenje broja ranjivosti koje se uopće uvode. To bi sigurnosnim timovima omogućilo da manje vremena provode zakrpavajući, a više na preventivnom i strateškom radu.
„OpenAI daje prednost onima koji se brane tako što ove napredne mogućnosti stavlja svima na raspolaganje”, kaže on. „Ta je tehnologija dosad uglavnom bila dostupna samo vrlo istaknutim tehnološkim tvrtkama i državnim tijelima. No sada svi, uključujući kritičnu infrastrukturu, škole i mala poduzeća, mogu početi upotrebljavati tu tehnologiju za obranu svojih mreža.”
