Kuidas Block loob OpenAI tehnoloogiaga tehisarupõhist turvet

Square’i, Cash Appi ja Afterpay taga oleva ettevõtte Block turbemeeskond kasutab OpenAI Defense Factoryt: tehisaru avastab haavatavusi, tuvastab ohte ja reageerib neile mahus, millega ükski inimestest koosnev meeskond sammu pidada ei suudaks. Tehisarusüsteemide, sealhulgas OpenAI Daybreaki abil teeb Block vaid tundidega ära töö, milleks varem kulus nädalaid.

Blocki turbemeeskond on keskendunud tehisaru vastutustundlikule kasutuselevõtule eri töövoogudes, olgu selleks koodi genereerimine või igapäevane turbetöö. „Kõige keskmes on uus meeskonnakaaslane, kellega koos saab töömahtu kasvatada,“ ütleb infoturbejuht James Nettesheim. „See ei ole nagu tavapärane automatiseerimine, kus tuli kõik sammhaaval ette anda. Võid anda talle viibaga üsna eripärase ja ebaselge probleemi ning selle koos läbi töötada.“

Sellised ülesanded nagu tarkvaravea uurimine või logi parsimine võtsid varem päevi või nädalaid. Nüüd saab meeskond need tehtud murdosa ajaga, kusjuures inimene kontrollib endiselt iga tulemust.

Näiteks talletatakse tuvastusreeglite häälestamiseks iga uurimise käigus päringutega kogutud algandmed. Nii saab meeskond nüüd pakutud reeglimuudatust seitsme kuu tootmiskeskkonna telemeetriaandmetel läbi proovida vähem kui tunniga. Varem tähendas see sadade varasemate juhtumite käsitsi uuesti pärimist ning ajakulu tõttu tehti seda praktikas harva.

Meeskond valib nüüd ka hoolikamalt, millist mudelit millise töö jaoks kasutada. „Varem kasutasime alati uusimat mudelit, kuid enam pole see vajalik,“ ütleb ta. „Oleme õppinud eri ülesannete jaoks erinevaid mudeleid valima.“ Blocki turbeülesannete täitmiskeskkond on ehitatud Daybreaki peale, et suunata ülesanded sobivale mudelile. Selles on ka võimalused inimestel ülesandeid üle võtta ja agentidel üksteise tööd kontrollida. Meeskond hindab neid süsteeme pidevalt sisemiste võrdlustestide ja tegelike töötulemuste põhjal ning kohandab vajaduse korral oma lähenemist. Muu hulgas suunatakse töö inimesele ülevaatamiseks, kui see on vastutustundlik valik.

Automaatne esmase hindamise süsteem on võimaldanud teha tööd kiiremini ja suuremas mahus. Blocki turbemeeskonna esmase hindamise läbilase on kasvanud 50%, ohuteabe kogumise ja uurimiste maht samuti 50% ning lisandunud on täiesti uus autonoomse ohujahi võimekus. Nettesheim ütleb: „See teeb igas kvartalis ära umbes 1100 analüütikutunni jagu uurimistööd, sest nüüd uuritakse iga hoiatust põhjalikult ja kõigi sellega seotud asjaolude ulatuses. Meie süsteem tegeleb iga hoiatusega nii, nagu see oleks päeva ainus.“

Tavapärased skannimisvahendid tuvastavad üksikuid haavatavusi eraldiseisvalt, kuid Daybreakiga saab Blocki turbemeeskond minna palju kaugemale. Mudel aitab püstitada hüpoteese ründemustrite kohta ja siduda ründed terviklikuks ründeahelaks, mis viib süsteemi kompromiteerimiseni. Nii tulevad välja haavatavused, mis võisid olemas olla juba aastaid.

Ühel juhul näis ühe sülearvuti hoiatus eraldi vaadates väikese turbereeglite rikkumisena. Kuid vastastikuse kontrolli käigus uuris mudel edasi üht tõendites vaid juhuslikult esinenud indikaatorit, seostas selle Blocki identiteedilogidega ja tõi esile palju suurema probleemide kogumi. „Ühest tavalisest lõppseadme hoiatusest sai alguse terve ründekampaania peatamine. Ükski tööriist eraldi seda seost ei loo. Ohumärk ilmneb ainult kahe toote logisid kõrvutades,“ ütleb James.

Daybreakist oli abi ka hiljutisel lööktestimise õppusel. Mudelile anti sisesüsteemi kohta mõni vihje ning umbes kahe tunniga koostas see tervikliku ründeahela: SQL-süst, õiguste laiendamine, süsteemis kanda kinnitamine, autentimisandmete loendamine ja sealt teistesse süsteemidesse liikumine. Inimesest lööktestijal kuluks selleks tavaliselt mitu päeva. Hiljutistel lööktestimise õppustel kulus haavatavuse üldkirjelduse esitamisest automaatselt pakutud paigani 18 minutit.

Haavatavuste leidmisest on kasu vaid siis, kui need suudetakse ka parandada. Nettesheim kirjeldab protsessi, mida tema meeskond rakendab iga leiu puhul: esmalt selgitatakse välja probleemi asukoht koodis ja selle eest vastutaja ning seejärel asutakse probleemi kõrvaldama. „Pakud välja paiga, kinnitad, et haavatavust saab ära kasutada, ja seejärel kontrollid, et see on parandatud. Inimene osaleb protsessis, suunab seda ja juurutab koodimuudatused.“

Kuigi agendid on tehniliselt võimekad, ei tunne nad organisatsiooni tausta ega varasemate otsuste põhjendusi. Selle tausta ja strateegia annab inimene ning siin tulebki mängu tema meeskond, kes lisab inimliku kontrollikihi. Sedamööda, kuidas tehisaru otsustusvõime end praktikas tõestab, „liigume järk-järgult kõrgema riskitaseme poole, et kasutada seda tundlikumates süsteemides“, ütleb Nettesheim.

• Pakutud tuvastusreegli muudatuse läbiproovimiseks seitsme kuu telemeetriaandmetel kulub alla tunni.

• Hiljutistel lööktestimise õppustel kulus haavatavuse üldkirjelduse esitamisest automaatselt pakutud paigani 18 minutit.

• Valehäirete esmase hindamise arvelt vabaneb kvartalis ligikaudu 600 analüütikutundi.

• Igas kvartalis tehakse ära umbes 1100 analüütikutunni jagu uurimistööd.

• Esmase hindamise läbilase kasvas 50%.

• Ohuteabe kogumise ja uurimiste maht kasvas 50%.

Ainuüksi ohtude tuvastamise ja neile reageerimisega on kvartalis vabastatud ligikaudu 600 analüütikutundi, mis varem kulusid valehäirete esmasele hindamisele. Vabanenud aega kasutab meeskond nüüd põhjalikumateks uurimisteks ja täiendavate automaatlahenduste vastutustundlikuks loomiseks.

Rünnete sagenedes ja tehisarumudelite arenedes näeb Nettesheim võimalust vähendada juba haavatavuste tekkimist. See võimaldaks turbemeeskondadel kulutada vähem aega paikamisele ning rohkem ennetavale ja strateegilisele tööle.

„OpenAI kallutab eelise kaitsjate poole, tehes need täiustatud võimekused kõigile kättesaadavaks,“ ütleb ta. „Tavaliselt on need olnud vaid suurte tuntud tehnoloogiaettevõtete ja riigiasutuste käsutuses. Nüüd saavad aga kõik, sealhulgas kriitilise taristu haldajad, koolid ja väikeettevõtted, hakata seda tehnoloogiat oma võrkude kaitsmiseks kasutama.“