Jinsi Block inavyojenga usalama wa AI kwa teknolojia ya OpenAI
Block inatumia mifumo ya AI ikiwemo OpenAI Daybreak kufupisha muda wa kurekebisha udhaifu, ikiipa timu yake ya usalama nafasi ya kuzingatia kazi za kimkakati.
Uboreshaji wa ugunduzi
<1
Saa ya kupima badiliko linalopendekezwa la ugunduzi kwa kutumia data ya ufuatiliaji ya miezi saba
Marekebisho yaliyopendekezwa
18
Dakika kutoka kuwasilisha taarifa ya jumla ya udhaifu hadi kupata pendekezo la marekebisho kiotomatiki
Uchujaji wa tahadhari zisizo za kweli
~600
Saa za kazi ya mchambuzi zilizookolewa kila robo mwaka
Uchunguzi
~1,100
Saa za kazi ya mchambuzi zinazolingana na uchunguzi unaokamilishwa kila robo mwaka
Katika Block, kampuni inayomiliki Square, Cash App na Afterpay, timu ya usalama inatumia OpenAI Defense Factory: ambapo AI hutafuta udhaifu, hugundua vitisho na kukabiliana navyo kwa kiwango ambacho hakuna timu ya binadamu ingeweza kufikia. Kwa kutumia mifumo ya AI ikiwemo OpenAI Daybreak, Block inakamilisha kwa saa chache tu kazi zilizokuwa zikichukua wiki kadhaa.
“AI inafupisha muda kutoka mtu anapokusudia kufanya jambo hadi linapotekelezwa. Kwa muda, ilidhaniwa kuwa washambuliaji walikuwa na faida kwa sababu wana kasi zaidi na hubadilika kwa urahisi zaidi. Lakini kwa mifumo kama Daybreak na maendeleo ya zana za OpenAI, watetezi wa usalama wanaweza kukabiliana na washambuliaji kwa kutumia uwezo kama wao, na kuendana na kasi kubwa ya kuanza kutumia AI.”
Timu ya usalama ya Block imejikita katika kutumia AI kwa uwajibikaji katika michakato ya kazi, iwe ni kuunda msimbo au shughuli za usalama. “Kiini chake ni kuwa na mwenzako mpya katika timu, ambaye mnaweza kupanua uwezo wenu wa kazi pamoja,” anasema James Nettesheim, Afisa Mkuu wa Usalama wa Taarifa. “Si kama mifumo ya kawaida ya kuendesha kazi kiotomatiki, ambapo ilibidi ufuate hatua moja baada ya nyingine. Unaweza kuipa tatizo lenye mahitaji mahususi na lisilo wazi kabisa, kisha mkashirikiana kulitatua.”
Kazi kama kuchunguza hitilafu ya programu au kuchanganua kumbukumbu za mfumo zilikuwa zikichukua siku au wiki kadhaa kukamilika. Sasa timu inaweza kukamilisha kazi hizo kwa muda mfupi sana, huku binadamu akiendelea kuthibitisha kila matokeo.
Kwa mfano, katika kuboresha ugunduzi wa vitisho, kila uchunguzi huhifadhi ushahidi wa moja kwa moja kutoka kwenye hoja za utafutaji. Hivyo, timu sasa inaweza kupima badiliko linalopendekezwa la ugunduzi kwa kutumia data ya ufuatiliaji ya miezi saba kutoka kwenye mifumo inayotumika, kwa chini ya saa moja. Zamani, kazi hiyo ilihitaji mtu kutafuta tena taarifa za mamia ya visa vya zamani, na kwa kweli haikufanywa mara nyingi kwa sababu ilichukua muda mwingi sana.
Timu pia imekuwa makini zaidi katika kuchagua muundo wa kutumia kwa kila kazi. “Tulikuwa tukitumia muundo mpya zaidi, lakini sasa si lazima kufanya hivyo,” anasema. “Tumejifunza mengi kwa kuchagua miundo tofauti kwa kazi tofauti.” Mazingira ya uendeshaji ya usalama ya Block yamejengwa kwa msingi wa Daybreak ili kusaidia kuelekeza kazi kwa muundo unaofaa. Pia yana njia za kuwawezesha binadamu kuchukua usimamizi wa kazi au mawakala kuhakiki kazi za wenzao. Timu hutathmini mifumo hii kila wakati kwa kutumia vigezo vya ndani na utendaji halisi, ikirekebisha mbinu zake inapohitajika, ikiwa ni pamoja na kuelekeza kazi kwa binadamu ili zikaguliwe pale hilo linapokuwa chaguo la kuwajibika.
Mfumo wa kiotomatiki wa kuchuja na kupanga tahadhari kwa kipaumbele umewezesha kazi nyingi zaidi kufanywa kwa kasi zaidi. Timu ya usalama ya Block imeona ongezeko la 50% katika utendaji wa uchujaji wa tahadhari, ongezeko la 50% katika ukusanyaji wa taarifa za kiusalama na uchunguzi, pamoja na uwezo mpya kabisa wa kutafuta vitisho kwa kujitegemea. Nettesheim anasema, “Mfumo huu hufanya uchunguzi unaolingana na takriban saa 1,100 za kazi ya mchambuzi kila robo mwaka, kwa sababu sasa kila tahadhari huchunguzwa kikamilifu na kwa kina katika vipengele vyote vinavyohusika. Mfumo wetu hushughulikia kila tahadhari kana kwamba ndiyo tahadhari pekee tuliyopokea siku hiyo.”
Zana za kawaida za kukagua usalama hubaini udhaifu mmoja bila kuuhusisha na mwingine, lakini timu ya usalama ya Block inaweza kufanya mengi zaidi kwa kutumia Daybreak. Muundo husaidia kubuni dhana kuhusu mifumo ya mashambulizi na kuunganisha mfululizo wa mashambulizi kuwa njia kamili ya kuvamia mfumo, kuanzia mwanzo hadi mwisho, na hivyo kufichua udhaifu ambao huenda umekuwepo kwa miaka.
Katika kisa kimoja, tahadhari kwenye kompyuta moja ya mkononi ilionekana kuwa tatizo dogo la ukiukaji wa sera ilipoangaliwa peke yake. Lakini wakati wa uhakiki wa kazi ya wakala mwingine, muundo ulifuatilia kiashiria kilichojitokeza kwa bahati tu kwenye ushahidi, ukakihusisha na kumbukumbu za utambulisho za Block, na kufichua matatizo mengi zaidi. “Tahadhari moja ya kawaida ya kifaa iliwezesha kukomesha kampeni nzima ya mashambulizi. Hakuna zana moja inayoweza kuunganisha taarifa hizo peke yake. Dalili hiyo huonekana tu kwa kuhusisha kumbukumbu za bidhaa mbili,” James anasema.
Mfano mwingine wa msaada wa Daybreak ulikuwa wakati wa zoezi la hivi karibuni la kujaribu kubaini udhaifu wa mfumo. Muundo ulipewa vidokezo vichache kuhusu mfumo wa ndani, na ukaunganisha njia kamili ya shambulizi—kupenyeza amri za SQL, kuongeza ruhusa, kupata mwanya wa kudumu wa kuingia, kuorodhesha vitambulisho vya kuingia, na kuhamia mifumo mingine—kwa takriban saa mbili. Kwa kawaida, hili lingemchukua mtu anayefanya jaribio la kubaini udhaifu wa mfumo siku kadhaa. Katika mazoezi ya hivi karibuni ya kujaribu kubaini udhaifu wa mfumo, muda kutoka kuwasilisha taarifa ya jumla ya udhaifu hadi kupata pendekezo la marekebisho kiotomatiki ulikuwa dakika 18.
Kubaini udhaifu kuna manufaa tu ikiwa unaweza kuurekebisha. Nettesheim anaeleza mchakato ambao timu yake hufuata kwa kila udhaifu unaobainika: kutafuta mahali tatizo lilipo kwenye msimbo na kutambua anayewajibikia msimbo huo, kisha kuanza kulirekebisha. “Unapendekeza marekebisho, unathibitisha kuwa udhaifu huo unaweza kutumiwa kushambulia, kisha unahakikisha kuwa umeurekebisha, huku binadamu akihusika kuongoza mchakato na kuanza kutumia mabadiliko ya msimbo.”
Ingawa mawakala wana uwezo wa kiufundi, hawaelewi mazingira ya shirika wala sababu za maamuzi yaliyofanywa hapo awali. Binadamu ndiye hutoa uelewa huo na mkakati, na hapo ndipo timu yake huhusika kufanya ukaguzi wa kibinadamu. Kadiri uwezo wa AI wa kufanya maamuzi unavyothibitika kwa vitendo, Nettesheim anasema, “tutaongeza hatua kwa hatua kiwango cha hatari tunachokubali ili kuitumia kwenye mifumo nyeti zaidi.”
Chini ya saa moja kupima badiliko linalopendekezwa la ugunduzi kwa kutumia data ya ufuatiliaji ya miezi saba.
Dakika 18 kutoka kuwasilisha taarifa ya jumla ya udhaifu hadi kupata pendekezo la marekebisho kiotomatiki katika mazoezi ya hivi karibuni ya kujaribu kubaini udhaifu wa mfumo.
Takriban saa 600 za kazi ya mchambuzi zilizookolewa kila robo mwaka katika kuchuja tahadhari zisizo za kweli.
Uchunguzi unaolingana na takriban saa 1,100 za kazi ya mchambuzi unakamilishwa kila robo mwaka.
Ongezeko la 50% katika utendaji wa uchujaji wa tahadhari.
Ongezeko la 50% katika ukusanyaji wa taarifa za kiusalama na uchunguzi.
Kazi ya kugundua na kukabiliana na vitisho pekee imeokoa takriban saa 600 za kazi ya mchambuzi kila robo mwaka, ambazo hapo awali zilitumika kuchuja tahadhari zisizo za kweli. Kwa muda huo uliookolewa, timu sasa inatumia muda zaidi kufanya uchunguzi wa kina na kuunda mifumo zaidi ya kuendesha kazi kiotomatiki kwa uwajibikaji.
Kadiri kasi ya mashambulizi inavyoongezeka na miundo ya AI inavyoendelea kuimarika, Nettesheim anaona fursa ya kupunguza idadi ya udhaifu unaoingizwa kwenye mifumo tangu mwanzo. Hilo lingewezesha timu za usalama kutumia muda mchache kufanya marekebisho na muda mwingi zaidi kufanya kazi za kimkakati za kuzuia matatizo.
“OpenAI inawapa watetezi wa usalama nafasi ya kuwa mbele ya washambuliaji kwa kuwezesha kila mtu kupata uwezo huu wa hali ya juu,” anasema. “Kwa kawaida, uwezo huu umekuwa ukipatikana tu kwa kampuni maarufu sana za teknolojia na serikali. Lakini sasa kila mtu, wakiwemo waendeshaji wa miundombinu muhimu, shule na biashara ndogo, anaweza kuanza kutumia teknolojia hii kulinda mitandao yake.”
