Kā Block ar OpenAI tehnoloģiju veido uz MI balstītu drošību

Uzņēmumā Block, kas piedāvā Square, Cash App un Afterpay, drošības komanda izmanto OpenAI Defense Factory: mākslīgais intelekts ievainojamības, konstatē draudus un reaģē uz tiem tādā mērogā, kam neviena cilvēku komanda nespētu tikt līdzi. Izmantojot MI sistēmas, tostarp OpenAI Daybreak, Block paveic vien dažu stundu laikā darbu, kas agrāk prasīja nedēļas.

Block drošības komanda ir pievērsusies atbildīgai MI ieviešanai dažādās darbplūsmās – gan koda ģenerēšanā, gan drošības operācijās. “Galvenais ir tas, ka tev ir jauns komandas biedrs, kura atbalstu var paplašināt līdz ar darba apjomu,” saka Džeimss Neteshaims, informācijas drošības direktors. “Tas nav tāpat kā ar tradicionālāku automatizāciju, kur viss bija jādara soli pa solim. Vari tam dot uzvedni par diezgan specifisku, neviennozīmīgu problēmu un kopīgi to risināt.”

Tādi uzdevumi kā programmatūras kļūdu pārbaude vai žurnālfailu parsēšana agrāk prasīja dienas vai nedēļas. Tagad komanda šos uzdevumus var pabeigt, patērējot tikai daļu no iepriekš nepieciešamā laika, turklāt cilvēks joprojām pārbauda katru rezultātu.

Piemēram, draudu atklāšanas mehānismu pielāgošanai katrā izmeklēšanā tiek saglabāti sākotnējie vaicājumu rezultāti. Tāpēc tagad komanda var mazāk nekā stundas laikā pārbaudīt ierosinātās izmaiņas šajos mehānismos, izmantojot septiņu mēnešu ekspluatācijas vides telemetrijas datus. Agrāk bija manuāli jāveic atkārtoti vaicājumi par simtiem iepriekš izmeklētu gadījumu, un praksē tas notika reti, jo prasīja pārāk daudz laika.

Komanda arī rūpīgāk izvēlas, kuru modeli izmantot katram uzdevumam. „Agrāk izmantojām jaunāko modeli, bet tagad tas vairs nav nepieciešams,” viņš saka. „Izvēloties dažādus modeļus dažādiem uzdevumiem, esam daudz mācījušies.” Block drošības aģentu darbības vadības ietvars ir veidots uz Daybreak bāzes, lai palīdzētu novirzīt uzdevumus atbilstošajam modelim, un tajā ir iekļauti mehānismi, kas ļauj cilvēkiem pārņemt uzdevumus vai aģentiem pārbaudīt citam cita paveikto. Komanda pastāvīgi pārbauda šīs sistēmas, izmantojot iekšējos etalontestus, un novērtē to veiktspēju reālos apstākļos. Vajadzības gadījumā tā pielāgo savu pieeju, tostarp nodod uzdevumus cilvēkiem pārskatīšanai, ja tas ir atbildīgākais risinājums.

Automatizētā sākotnējās izvērtēšanas sistēma ir ļāvusi paveikt darbu ātrāk un lielākā apjomā. Block drošības komanda ir panākusi laika vienībā sākotnēji izvērtēto brīdinājumu skaita pieaugumu par 50 %, izlūkinformācijas vākšanas un izmeklēšanas apjoma pieaugumu par 50 %, kā arī ieguvusi pilnīgi jaunu autonomas draudu meklēšanas iespēju. Neteshaims saka: „Šī sistēma katru ceturksni paveic izmeklēšanas darbu, kas atbilst aptuveni 1100 analītiķu darba stundām, jo tagad katrs brīdinājums tiek vispusīgi un padziļināti izmeklēts, aptverot visus ar to saistītos elementus. Mūsu sistēma izskata katru brīdinājumu tā, it kā tas būtu vienīgais brīdinājums, ko tajā dienā esam saņēmuši.”

Tradicionālie skenēšanas rīki atzīmē katru ievainojamību atsevišķi, taču Block drošības komanda ar Daybreak var iet daudz tālāk. Modelis palīdz izvirzīt hipotēzes par uzbrukumu shēmām un sasaistīt vairākus uzbrukumus pilnā uzbrukuma ķēdē, kas ļauj kompromitēt sistēmu, atklājot ievainojamības, kas, iespējams, pastāvējušas gadiem ilgi.

Vienā gadījumā brīdinājums par vienu klēpjdatoru pats par sevi šķita kā neliela neatbilstība drošības noteikumiem. Taču savstarpējās pārbaudes laikā modelis izsekoja indikatoram, kas izmeklēšanas datos parādījās tikai kā blakusinformācija, sasaistīja to ar Block identitātes pārvaldības žurnālu datiem un atklāja daudz plašāku problēmu kopumu. “Viens parasts brīdinājums par galiekārtu noveda pie uzbrukumu kampaņas apturēšanas. Neviens atsevišķs rīks nevar veikt šādu sasaisti. Apdraudējuma pazīme atklājas tikai tad, kad tiek sasaistīti abu produktu žurnālu dati,” saka Džeimss.

Vēl viens gadījums, kad Daybreak palīdzēja, bija nesenajās sarkanās komandas mācībās. Modelim tika sniegtas dažas norādes par iekšēju sistēmu, un tas aptuveni divu stundu laikā izveidoja pilnu uzbrukuma ķēdi – SQL injekciju, privilēģiju paaugstināšanu, sākotnējās piekļuves nostiprināšanu, akreditācijas datu apzināšanu un pārvietošanos uz citām sistēmām. Cilvēkam, kurš veic imitētus uzbrukumus, tas parasti prasītu vairākas dienas. Nesenajās sarkanās komandas mācībās no vispārīga ievainojamības apraksta iesniegšanas līdz automātiski sagatavotam ielāpa priekšlikumam pagāja 18 minūtes.

Ievainojamību atklāšanas vērtība ir atkarīga no spējas tās novērst. Neteshaims izklāsta procesu, ko viņa komanda izmanto katra konstatējuma gadījumā: atrast, kur kodā ir problēma, un noteikt, kurš par to atbild, pēc tam pāriet pie tās novēršanas. “Tu ierosini ielāpu, apstiprini, ka ievainojamību iespējams izmantot, un tad pārbaudi, vai esi to novērsis, cilvēkam vadot procesu un ieviešot koda izmaiņas.”

Lai gan aģenti ir tehniski spējīgi, tiem trūkst zināšanu par organizācijas darbību un iepriekšējo lēmumu pamatojumu. Cilvēks nodrošina šo kontekstu un stratēģiju, un tieši šeit viņa komanda iesaistās, lai pārbaudītu aģentu paveikto. Neteshaims saka: “Kad mākslīgā intelekta spriestspēja būs pierādījusies praksē, mēs pakāpeniski uzņemsimies lielāku risku, izmantojot to arī sensitīvākās sistēmās.”

• Mazāk nekā stunda, lai pārbaudītu ierosinātās izmaiņas draudu atklāšanas mehānismos, izmantojot septiņu mēnešu telemetrijas datus.

• Nesenajās sarkanās komandas mācībās no vispārīga ievainojamības apraksta iesniegšanas līdz automātiski sagatavotam ielāpa priekšlikumam pagāja 18 minūtes.

• Katru ceturksni ietaupītas aptuveni 600 analītiķu darba stundas, ko iepriekš veltīja kļūdaini pozitīvo rezultātu sākotnējai izvērtēšanai.

• Katru ceturksni tiek paveikts izmeklēšanas darbs aptuveni 1100 analītiķu darba stundu apjomā.

• Par 50 % lielāks laika vienībā sākotnēji izvērtēto brīdinājumu skaits.

• Izlūkinformācijas vākšanas un izmeklēšanas apjoma pieaugums par 50 %.

Atklāšanas un reaģēšanas darbs vien ir ļāvis atgūt aptuveni 600 analītiķu darba stundas ceturksnī, ko iepriekš veltīja kļūdaini pozitīvo rezultātu sākotnējai izvērtēšanai. Ietaupīto laiku komanda tagad velta padziļinātākai izmeklēšanai un jaunu automatizācijas risinājumu atbildīgai izstrādei.

Pieaugot uzbrukumu tempam un turpinot attīstīties mākslīgā intelekta modeļiem, Neteshaims saskata iespēju mazināt ievainojamību rašanos jau pašā sākumā. Tas ļautu drošības komandām mazāk laika veltīt ievainojamību novēršanai ar ielāpiem un vairāk – preventīviem, stratēģiskiem uzdevumiem.

“OpenAI, nododot šīs modernās iespējas ikviena rīcībā, maina spēku samēru par labu kiberaizsardzības speciālistiem,” viņš saka. “Parasti šīs iespējas bija pieejamas tikai ļoti pazīstamiem tehnoloģiju uzņēmumiem un valdībām. Taču tagad šo tehnoloģiju savu tīklu aizsardzībai var sākt izmantot ikviens, tostarp kritiskās infrastruktūras jomas pārstāvji, skolas un mazie uzņēmumi.”