Jinsi Block inayounda usalama kwa teknolojia ya AI ya OpenAI

Katika Block, kampuni iliyo nyuma ya Square, Cash App na Afterpay, timu ya usalama hutumia Kiwanda cha Ulinzi cha OpenAI: ambapo AI hushughulikia ugunduzi, utambuzi na mwitikio wa udhaifu wa kiusalama kwa kiwango ambacho hakuna timu ya binadamu ingeweza kuendana nacho. Kwa mifumo ya AI ikiwemo OpenAI Daybreak, Block inafanya kazi inayokuwa ikichukua wiki kwa saa chache tu.

Timu ya usalama ya Block imekuwa ikilenga kuanza kutumia AI kwa uwajibikaji katika michakato yote ya kazi, iwe ni kuzalisha msimbo au shughuli za usalama. “Kiini chake hasa ni kuwa na mshiriki mpya wa timu ambaye unaweza kupanua uwezo wa kazi pamoja naye,” anasema James Nettesheim, Afisa Mkuu wa Usalama wa Taarifa. “Si kama mifumo ya kawaida zaidi ya kufanya kazi kiotomatiki, ambapo ulilazimika kufuata hatua moja baada ya nyingine. Unaweza kuipa dokezo lenye tatizo linalohusu mahitaji mahususi kwa kiasi kikubwa na lisilo wazi kabisa, kisha ukalishughulikia pamoja.”

Miradi kama vile kukagua hitilafu katika programu au kuchanganua faili ya kumbukumbu ingechukua siku au wiki kukamilika. Sasa timu inaweza kukamilisha miradi hiyo kwa sehemu ndogo tu ya muda huo, huku binadamu akiendelea kuthibitisha kila matokeo.

Kwa mfano, katika kuboresha ugunduzi, kila uchunguzi huhifadhi ushahidi ghafi wa hoja za utafutaji, hivyo timu sasa inaweza kuendesha tena mabadiliko ya ugunduzi yaliyopendekezwa kwa kutumia data ya telemetria ya uzalishaji ya miezi saba kwa chini ya saa moja. Kazi hiyo hapo awali ilimaanisha kuuliza tena mamia ya kesi za zamani kwa mikono, na mara nyingi, kwa vitendo, haikufanyika kwa kuwa ilichukua muda mwingi.

Timu pia imekuwa makini zaidi kuhusu muundo inaotumia kwa kila kazi. “Tulikuwa tukitumia muundo wa hivi karibuni zaidi, lakini si lazima kufanya hivyo tena,” anasema. “Kuchagua miundo tofauti kwa kazi tofauti kumekuwa fursa ya kujifunza.” Mazingira ya uendeshaji ya usalama ya Block yamejengwa juu ya Daybreak ili kusaidia kuelekeza kazi kwa muundo unaofaa, na yanajumuisha viunganishi vinavyowezesha binadamu kuchukua kazi hizo au mawakala kuhakiki kazi za wenzao. Timu hutathmini mifumo hii daima kwa kuzingatia vigezo vya ndani na utendaji katika mazingira halisi, huku ikirekebisha mbinu yake inapohitajika, ikiwemo kuelekeza kazi zikaguliwe na binadamu pale ambapo hiyo ndiyo hatua inayowajibika.

Mfumo wa kupanga na kushughulikia tahadhari kiotomatiki umesababisha kazi kufanywa kwa kasi zaidi (na kazi nyingi zaidi kufanywa). Timu ya usalama ya Block imeona ongezeko la 50% la utendaji wa kushughulikia tahadhari, ongezeko la 50% la ukusanyaji wa taarifa za kijasusi na uchunguzi, na uwezo mpya kabisa wa kutafuta vitisho kwa kujitegemea. Nettesheim anasema, “Hii hufanya uchunguzi unaochukua takriban saa 1,100 za wachanganuzi kwa kila robo mwaka, kwa sababu kila tahadhari sasa hufanyiwa uchunguzi kamili na wa kina kuhusu vipengele vyote vinavyohusika nayo. Mfumo wetu hushughulikia kila tahadhari kana kwamba ndiyo tahadhari pekee tuliyo nayo siku hiyo.”

Zana za jadi za kuchanganua huripoti udhaifu mmoja mmoja, lakini timu ya usalama ya Block inaweza kwenda mbali zaidi kwa kutumia Daybreak. Muundo huu husaidia kutoa nadharia kuhusu mifumo ya mashambulizi na kuunganisha mfululizo wa mashambulizi kuwa njia kamili ya kuhujumu mfumo kuanzia mwanzo hadi mwisho, na kufichua udhaifu ambao huenda ulikuwepo kwa miaka mingi.

Katika kisa kimoja, tahadhari kwenye kompyuta mpakato moja ilionekana kuwa suala dogo la sera ilipochukuliwa peke yake. Lakini wakati wa mapitio ya rika, muundo ulifuatilia kiashiria kilichojitokeza tu kwa bahati katika ushahidi, ukakilinganisha na kumbukumbu za utambulisho za Block, na kubaini mkusanyiko mkubwa zaidi wa masuala. “Tahadhari moja ya kawaida ya kituo cha mwisho iligeuka kuwa kusitishwa kwa kampeni. Hakuna zana moja inayoweza kuunganisha kumbukumbu hizo. Ishara hiyo inapatikana tu katika kumbukumbu za bidhaa mbili,” anasema James.

Mfano mwingine wa jinsi Daybreak ilivyosaidia ulikuwa wakati wa zoezi la hivi majuzi la jaribio la kubaini udhaifu wa mfumo. Muundo ulipewa vidokezo vichache kuhusu mfumo wa ndani, kisha ukaunganisha njia kamili ya shambulio—uingizaji wa SQL, upandishaji wa haki za ufikiaji, kupata nafasi ya kuingilia mfumo, kuorodhesha vitambulisho vya kuingia, na kuhamia kwenye mifumo mingine—kwa takriban saa mbili. Kwa kawaida, mtaalamu wa kibinadamu wa jaribio la kubaini udhaifu wa mfumo angehitaji siku kadhaa kufanya hivyo. Katika mazoezi ya hivi majuzi ya jaribio la kubaini udhaifu wa mfumo, muda kuanzia kuwasilisha udhaifu wa kiusalama wa kiwango cha juu hadi kupendekezwa kwa marekebisho otomatiki ulikuwa dakika 18.

Kupata udhaifu wa kiusalama kuna manufaa kulingana tu na uwezo wa kuurekebisha. Nettesheim anaeleza hatua ambazo timu yake hufuata kwa kila tatizo linalopatikana: kutafuta mahali tatizo lilipo kwenye msimbo na kutambua anayewajibika nalo, kisha kuendelea na urekebishaji. “Unapendekeza marekebisho, unathibitisha uwezekano wa udhaifu huo kutumiwa vibaya, kisha unathibitisha kwamba umeurekebisha, huku binadamu akiongoza mchakato na kupeleka mabadiliko ya msimbo.”

Ingawa mawakala wana uwezo wa kiufundi, hawana muktadha wa shirika wala uwazaji uliokuwa nyuma ya maamuzi ya awali. Binadamu hutoa muktadha na mkakati huo, na hapo ndipo timu yake inapotoa safu ya ukaguzi wa kibinadamu. Kadiri uamuzi wa AI unavyothibitishwa kwa vitendo, Nettesheim anasema, “tutapandisha hatua kwa hatua kiwango cha hatari cha kuitumia katika mifumo nyeti zaidi.”

• Chini ya saa moja kuendesha tena mabadiliko yaliyopendekezwa ya ugunduzi kwenye data ya telemetria ya miezi saba.

• Dakika 18 kuanzia kuwasilisha udhaifu wa kiusalama wa kiwango cha juu hadi kupendekezwa kwa marekebisho otomatiki katika mazoezi ya hivi karibuni ya timu ya kuiga mashambulizi.

• Takriban saa 600 za kazi ya wachambuzi zinazotumika kupanga vipaumbele vya matokeo chanya ya uwongo hurejeshwa kila robo mwaka.

• Takriban saa 1,100 za kazi ya uchunguzi ya wachambuzi hukamilishwa kila robo mwaka.

• Ongezeko la 50% la utendaji wa upangaji wa vipaumbele.

• Ongezeko la 50% la ukusanyaji wa taarifa za kijasusi na uchunguzi.

Kazi ya ugunduzi na mwitikio pekee imerudisha takriban saa 600 za wachambuzi kwa kila robo mwaka, ambazo hapo awali zilitumika kuchuja matokeo chanya ya uwongo. Kwa kuwa sasa wana muda huo tena, timu hutumia muda zaidi kufanya uchunguzi wa kina na kuunda mifumo zaidi ya kiotomatiki kwa uwajibikaji.

Kadiri kasi ya mashambulizi inavyoongezeka na miundo ya AI inavyoendelea kuimarika, Nettesheim anaona fursa ya kupunguza idadi ya udhaifu unaoletwa tangu mwanzo. Hilo lingezipa timu za usalama nafasi ya kutumia muda mchache kuweka marekebisho na muda mwingi zaidi kufanya kazi za kuzuia na za kimkakati.

“OpenAI inahamishia faida kwa wanaojilinda kwa kuweka uwezo huu wa hali ya juu mikononi mwa kila mtu,” anasema. “Kwa kawaida, uwezo huu umekuwa ukipatikana tu katika kampuni maarufu sana za teknolojia na mikononi mwa serikali. Lakini sasa kila mtu, ikiwemo miundombinu muhimu, shule na biashara ndogo, anaweza kuanza kutumia teknolojia hii kulinda mitandao yao.”