Kif Block qed tibni sigurtà bl-AI u t-teknoloġija ta’ OpenAI
Block qed tuża sistemi tal-AI, fosthom OpenAI Daybreak, biex tqassar iż-żmien meħtieġ biex jissewwew il-vulnerabbiltajiet, u b’hekk it-tim tas-sigurtà tagħha jkun jista’ jiffoka fuq xogħol strateġiku.
Irfinar tad-detezzjoni
<1
Siegħa biex tiġi ttestjata bidla proposta fid-detezzjoni fuq seba’ xhur ta’ telemetrija
Tiswija proposta
18
Minuti mis-sottomissjoni ta’ vulnerabbiltà ta’ livell għoli sa proposta awtomatika għal tiswija
Valutazzjoni ta’ pożittivi foloz
~600
Sigħat ta’ xogħol ta’ analista ffrankati kull tliet xhur
Investigazzjonijiet
~1,100
Sigħat ta’ xogħol investigattiv ta’ analista mwettqa kull tliet xhur
F’Block, il-kumpanija wara Square, Cash App u Afterpay, it-tim tas-sigurtà juża l-OpenAI Defense Factory: fejn l-AI tieħu ħsieb is-sejbien tal-vulnerabbiltajiet, id-detezzjoni u r-rispons fuq skala li l-ebda tim ta’ bnedmin ma jista’ jlaħħaq magħha. B’sistemi tal-AI fosthom OpenAI Daybreak, Block qed tagħmel fi ftit sigħat xogħol li qabel kien jieħu ġimgħat.
“L-AI qed tqassar iż-żmien bejn l-intenzjoni tal-bniedem u l-azzjoni. Għal xi żmien, kien hemm is-suppożizzjoni li l-attakkanti kellhom vantaġġ għax jaġixxu u jadattaw aktar malajr. Iżda b’sistemi bħal Daybreak u l-avvanzi fl-għodod ta’ OpenAI, id-difensuri jistgħu jirrispondu bl-istess mezzi u jlaħħqu mar-ritmu mgħaġġel tal-adozzjoni tal-AI.”
It-tim tas-sigurtà ta’ Block iffoka fuq l-adozzjoni responsabbli tal-AI fil-flussi tax-xogħol, kemm fil-ġenerazzjoni tal-kodiċi kif ukoll fl-operazzjonijiet tas-sigurtà. “Fil-qalba ta’ dan kollu hemm kollega ġdid li miegħu tista’ twessa’ l-ħidma tiegħek,” jgħid James Nettesheim, Uffiċjal Kap tas-Sigurtà tal-Informazzjoni. “Mhijiex bħal awtomatizzazzjoni aktar tradizzjonali fejn kellek tgħaddi pass pass. Tista’ tippreżentalha problema pjuttost speċifika u ambigwa u taħdmu fuqha flimkien.”
Proġetti bħall-eżami ta’ żball fis-software jew l-analiżi ta’ reġistru kienu jieħdu jiem jew ġimgħat biex jitlestew. Issa t-tim jista’ jlesti dawk il-proġetti fi frazzjoni tal-ħin, filwaqt li persuna xorta tivvalida kull riżultat.
Pereżempju, biex jirfina d-detezzjoni, kull investigazzjoni taħżen l-evidenza mhux ipproċessata mill-mistoqsijiet lid-database. B’hekk it-tim issa jista’ jittestja bidla proposta fid-detezzjoni fuq seba’ xhur ta’ telemetrija mill-ambjent operattiv f’inqas minn siegħa. Qabel, dak ix-xogħol kien ifisser li jerġgħu jsiru mistoqsijiet manwalment fuq mijiet ta’ każijiet qodma, u fil-prattika rari kien isir għax kien jieħu wisq ħin.
It-tim sar ukoll aktar selettiv dwar liema mudell juża għal liema xogħol. “Qabel konna nużaw l-aħħar mudell, iżda dan m’għadux meħtieġ,” jgħid. “Tgħallimna ħafna mill-għażla ta’ mudelli differenti għal kompiti differenti.” Il-harness tas-sigurtà ta’ Block huwa mibni fuq Daybreak biex jgħin jgħaddi l-kompiti lill-mudell it-tajjeb, u jinkludi punti fejn il-bnedmin jistgħu jieħdu f’idejhom il-kompiti jew l-aġenti jivverifikaw xogħol xulxin. It-tim jevalwa kontinwament dawn is-sistemi skont parametri referenzjarji interni u l-prestazzjoni fil-prattika, u jadatta l-approċċ tiegħu meta jkun meħtieġ, inkluż billi jgħaddi x-xogħol għal rieżami uman meta din tkun l-għażla responsabbli.
Is-sistema awtomatizzata ta’ valutazzjoni u prijoritizzazzjoni wasslet biex isir aktar xogħol u b’aktar ħeffa. It-tim tas-sigurtà ta’ Block kiseb żieda ta’ 50% fit-throughput tal-valutazzjoni u l-prijoritizzazzjoni, żieda ta’ 50% fil-ġbir ta’ informazzjoni u fl-investigazzjonijiet, u kapaċità kompletament ġdida ta’ tfittxija awtonoma għat-theddid. Nettesheim jgħid: “Din twettaq xogħol investigattiv ekwivalenti għal madwar 1,100 siegħa ta’ analista kull tliet xhur, għax kull twissija issa tgħaddi minn investigazzjoni sħiħa u fil-fond tal-elementi kollha involuti. Is-sistema tagħna tittratta kull twissija bħallikieku hi l-unika waħda li rċevejna dakinhar.”
L-għodod tradizzjonali tal-iskannjar jindikaw vulnerabbiltà waħda waħedha, iżda t-tim tas-sigurtà ta’ Block jista’ jmur ferm lil hinn minn hekk b’Daybreak. Il-mudell jgħin biex jiġu fformulati ipoteżijiet dwar xejriet ta’ attakki u biex sensiela ta’ attakki tintrabat f’rotta sħiħa ta’ kompromess tas-sistema, mill-bidu sal-aħħar, u jikxef vulnerabbiltajiet li setgħu ilhom jeżistu s-snin.
F’każ minnhom, twissija fuq laptop wieħed, meta tqieset waħedha, dehret li kienet kwistjoni żgħira ta’ konformità mal-politika. Iżda waqt rieżami bejn il-pari, il-mudell segwa indikatur li deher biss inċidentalment fl-evidenza, qabblu mar-reġistri tal-identitajiet ta’ Block, u kixef sett ferm akbar ta’ problemi. “Twissija ta’ rutina fuq apparat terminali wasslet biex titwaqqaf kampanja sħiħa ta’ attakki. L-ebda għodda waħedha ma tagħmel dik il-konnessjoni. Is-sinjal jidher biss meta tgħaqqad ir-reġistri ta’ żewġ prodotti,” jgħid James.
Eżempju ieħor fejn Daybreak għen kien waqt eżerċizzju reċenti ta’ red teaming. Il-mudell ingħata ftit ħjiel dwar sistema interna u, f’madwar sagħtejn, għaqqad rotta sħiħa ta’ attakk: injezzjoni SQL, eskalazzjoni tal-privileġġi, stabbiliment ta’ punt ta’ aċċess, enumerazzjoni tal-kredenzjali u użu ta’ dak l-aċċess biex jintlaħqu sistemi oħra. Dan normalment jieħu diversi jiem lil espert uman tar-red teaming. F’eżerċizzji reċenti ta’ red teaming, iż-żmien mis-sottomissjoni ta’ vulnerabbiltà ta’ livell għoli sa proposta awtomatika għal tiswija kien ta’ 18-il minuta.
Is-sejbien tal-vulnerabbiltajiet għandu valur biss jekk ikun hemm il-kapaċità li jissewwew. Nettesheim jispjega l-proċess li t-tim tiegħu juża għal kull sejba: isib fejn tinsab il-problema fil-kodiċi u min hu responsabbli għaliha, imbagħad jgħaddi għat-tiswija. “Tipproponi tiswija, tikkonferma jekk il-vulnerabbiltà tistax tiġi sfruttata, u mbagħad tivverifika li sewwejtha, b’persuna involuta fil-proċess biex tiggwidah u timplimenta l-bidliet fil-kodiċi.”
Għalkemm l-aġenti huma kapaċi teknikament, m’għandhomx il-kuntest tal-organizzazzjoni jew ir-raġunament wara deċiżjonijiet preċedenti. Persuna tipprovdi dak il-kuntest u l-istrateġija, u hawn jidħol it-tim tiegħu biex jipprovdi livell ta’ rieżami uman. Hekk kif il-ġudizzju tal-AI jagħti prova tiegħu fil-prattika, Nettesheim jgħid, “se ngħollu gradwalment il-livell ta’ riskju biex nużawha għal sistemi aktar sensittivi.”
Inqas minn siegħa biex tiġi ttestjata bidla proposta fid-detezzjoni fuq seba’ xhur ta’ telemetrija.
18-il minuta mis-sottomissjoni ta’ vulnerabbiltà ta’ livell għoli sa proposta awtomatika għal tiswija f’eżerċizzji reċenti ta’ red teaming.
Madwar 600 siegħa ta’ xogħol ta’ analista ffrankati kull tliet xhur fil-valutazzjoni ta’ pożittivi foloz.
Madwar 1,100 siegħa ta’ xogħol investigattiv ta’ analista mwettqa kull tliet xhur.
Żieda ta’ 50% fit-throughput tal-valutazzjoni u l-prijoritizzazzjoni.
Żieda ta’ 50% fil-ġbir ta’ informazzjoni u fl-investigazzjonijiet.
Ix-xogħol ta’ detezzjoni u rispons waħdu ffranka madwar 600 siegħa ta’ xogħol ta’ analista kull tliet xhur, li qabel kienu jintefqu fuq il-valutazzjoni ta’ pożittivi foloz. B’dan il-ħin iffrankat, it-tim issa jiddedika aktar ħin għal investigazzjonijiet aktar fil-fond u għall-iżvilupp responsabbli ta’ aktar awtomatizzazzjoni.
Hekk kif jiżdied ir-ritmu tal-attakki u l-mudelli tal-AI jkomplu javvanzaw, Nettesheim jara opportunità biex jitnaqqas mill-bidu n-numru ta’ vulnerabbiltajiet introdotti. B’hekk it-timijiet tas-sigurtà jkunu jistgħu jqattgħu inqas ħin fuq tiswijiet u aktar fuq xogħol preventiv u strateġiku.
“OpenAI qed iddawwar il-vantaġġ favur id-difensuri billi tqiegħed dawn il-kapaċitajiet avvanzati f’idejn kulħadd,” jgħid. “Sa issa, dawn ġeneralment kienu biss f’idejn kumpaniji tat-teknoloġija prominenti ħafna u gvernijiet. Iżda issa kulħadd, inklużi l-operaturi tal-infrastruttura kritika, l-iskejjel u n-negozji ż-żgħar, jista’ jibda juża din it-teknoloġija biex jiddefendi n-networks tiegħu.”
