Si Block ndërton siguri me IA përmes teknologjisë së OpenAI

Në Block, kompaninë që qëndron pas Square, Cash App dhe Afterpay, ekipi i sigurisë përdor OpenAI Defense Factory, ku IA-ja merret me zbulimin e cenueshmërive, detektimin dhe reagimin në një shkallë që asnjë ekip njerëzor nuk do të mund ta përballonte. Me sistemet e IA-së, përfshirë OpenAI Daybreak, Block tani mbaron për pak orë atë punë që më parë bëheshin për pak javë.

Ekipi i sigurisë i Block është përqendruar në adoptimin e përgjegjshëm të IA-së në proceset e punës, qoftë në gjenerimin e kodit apo në operacionet e sigurisë. "Në thelb, bëhet fjalë për të pasur një anëtar të ri në ekip, me të cilin mund të rritesh", thotë James Nettesheim, drejtor i sigurisë së informacionit. "Nuk është si automatizimi më tradicional, ku duhej të ecje hap pas hapi. Mund t’i paraqesësh një kërkesë për një problem mjaft të veçantë e të paqartë dhe të punoni së bashku për ta zgjidhur."

Projekte të tilla si shqyrtimi i një gabimi në softuer ose analizimi i një regjistri do të kërkonin ditë ose javë për t'u përfunduar. Tani ekipi mund t'i përfundojë këto projekte në një fraksion të kohës, ndërkohë që një person vazhdon të verifikojë çdo rezultat.

Për shembull, për rregullimin e zbulimit, çdo hetim ruan provat e papërpunuara të marra nga kërkimet, kështu që ekipi tani mund të testojë sërish një ndryshim të propozuar të zbulimit me të dhënat telemetrike të shtatë muajve nga mjedisi i prodhimit në më pak se një orë. Më parë, kjo punë kërkonte përsëritjen manuale të kërkimeve për qindra raste të vjetra dhe në praktikë kryhej rrallë, pasi merrte shumë kohë.

Ekipi është bërë gjithashtu më i kujdesshëm në përzgjedhjen e modelit për secilën detyrë. "Dikur përdornim modelin më të fundit, por tani nuk është më e nevojshme", thotë ai. "Ka qenë një proces mësimi për ne që të zgjedhim modele të ndryshme për detyra të ndryshme." Struktura e sigurisë së Block është ndërtuar mbi Daybreak për të ndihmuar në drejtimin e detyrave te modeli i duhur dhe përfshin mekanizma që u mundësojnë njerëzve të marrin përsipër detyrat ose agjentëve të verifikojnë punën e njëri-tjetrit. Ekipi i vlerëson vazhdimisht këto sisteme kundrejt kritereve të brendshme të vlerësimit dhe performancës në botën reale, duke përshtatur qasjen sipas nevojës, përfshirë kalimin e punës për shqyrtim nga njerëzit kur kjo është mënyra më e përgjegjshme për të vepruar.

Sistemi i automatizuar i klasifikimit ka bërë që puna të kryhet më shpejt (dhe të kryhet më shumë). Ekipi i sigurisë i Block ka parë një rritje prej 50% të kapacitetit të përpunimit të klasifikimit të alarmeve, një rritje prej 50% të mbledhjes së inteligjencës dhe të hetimeve, si dhe një aftësi krejtësisht të re për të kërkuar kërcënime në mënyrë autonome. Nettesheim thotë: "Ky sistem kryen afërsisht 1 100 orë hetimi nga analistët për tremujor, sepse tani çdo alarm hetohet plotësisht dhe në thellësi, duke shqyrtuar të gjithë elementet që përfshin. Sistemi ynë e trajton çdo alarm sikur të ishte i vetmi alarm që kemi atë ditë."

Mjetet tradicionale të skanimit nxjerrin në pah një cenueshmëri të vetme, të izoluar, por ekipi i sigurisë i Block mund të shkojë shumë më tej me Daybreak. Modeli ndihmon të formulohen hipoteza rreth modeleve të sulmit dhe të lidhen një sërë sulmesh në një rrugë që çon drejt komprometimit të plotë, nga fillimi në fund, duke zbuluar cenueshmëri që mund të kenë ekzistuar prej vitesh.

Në një rast, një njoftim për një pikë të vetme fundore në një laptop dukej, në vetvete, si një problem i vogël me politikat. Por, gjatë shqyrtimit nga kolegët, modeli ndoqi një tregues që shfaqej vetëm rastësisht në prova, e krahasoi me regjistrat e identitetit të Block dhe zbuloi një numër shumë më të madh problemesh. "Një njoftim rutinë për një pikë fundore çoi në çmontimin e një fushate. Asnjë mjet i vetëm nuk mund ta bëjë këtë lidhje. Sinjali ekziston vetëm në regjistrat e dy produkteve", thotë James.

Një tjetër rast kur Daybreak ndihmoi ishte gjatë një ushtrimi të fundit simulimi sulmesh. Modelit iu dhanë disa të dhëna orientuese për një sistem të brendshëm dhe ai ndërthuri një varg hapash në një rrugë të plotë sulmi—injektim SQL, përshkallëzim privilegjesh, sigurim i një pikëmbështetjeje, numërim i kredencialeve dhe kalim drejt sistemeve të tjera—brenda thujse dy orësh. Një specialisti të simulimit të sulmeve zakonisht do t'i duheshin disa ditë për këtë. Në ushtrimet e fundit të simulimit të sulmeve, koha nga paraqitja e një cenueshmërie të nivelit të lartë deri te propozimi automatik i një përditësimi korrigjues ishte 18 minuta.

Zbulimi i cenueshmërive vlen vetëm po aq sa aftësia për t’i rregulluar ato. Nettesheim shpjegon procesin që ekipi i tij ndjek për çdo problem të zbuluar: gjen se ku ndodhet problemi në kod dhe përcakton se kush është përgjegjës për të, pastaj kalon te korrigjimi. "Propozohet një rregullim, konfirmohet mundësia e shfrytëzimit të cenueshmërisë dhe më pas verifikohet që problemi të jetë rregulluar, ndërsa një person mbikëqyr procesin dhe vendos në zbatim ndryshimet në kod."

Ndërsa agjentët janë teknikisht të aftë, ata nuk kanë parasysh kontekstin e një organizate ose arsyetimin pas vendimeve të mëparshme. Një njeri e ofron këtë kontekst dhe strategji, dhe pikërisht këtu hyn në lojë ekipi i tij, duke ofruar një shtresë njerëzore shqyrtimi. Ndërsa gjykimi i IA-së dëshmohet në praktikë, thotë Nettesheim, "do ta rrisim gradualisht nivelin e rrezikut për ta përdorur në sisteme më të ndjeshme."

• Më pak se një orë për të testuar sërish një ndryshim të propozuar të zbulimit me të dhënat telemetrike të shtatë muajve.

• 18 minuta nga paraqitja e një cenueshmërie të nivelit të lartë deri te një përditësim korrigjues i propozuar automatikisht në ushtrimet e fundit të simulimit të sulmeve.

• Rreth 600 orë pune të analistëve për tremujor, të kursyera nga shqyrtimi i alarmeve të rreme pozitive.

• Afërsisht 1 100 orë punë hetimore të përfunduara nga analistët në çdo tremujor.

• Rritje me 50% e kapacitetit të përpunimit gjatë triazhimit.

• Rritje me 50% e mbledhjes së inteligjencës dhe e hetimeve.

Vetëm puna e zbulimit dhe reagimit ka kursyer rreth 600 orë pune të analistëve për tremujor, të cilat më parë përdoreshin për shqyrtimin e alarmeve të rreme pozitive. Me këtë kohë të rifituar, ekipi tani i kushton më shumë kohë hetimeve më të thelluara dhe ndërtimit të më shumë automatizimeve me përgjegjësi.

Me rritjen e ritmit të sulmeve dhe përparimin e vazhdueshëm të modeleve të IA-së, Nettesheim sheh një mundësi për të zvogëluar numrin e cenueshmërive që futen që në fillim. Kjo do t’u mundësonte ekipeve të sigurisë të shpenzonin më pak kohë duke aplikuar korrigjime dhe më shumë kohë në punë parandaluese dhe strategjike.

"OpenAI po avantazhon mbrojtësit duke vënë në duart e të gjithëve këto aftësi të përparuara," thotë ai. "Zakonisht, këto aftësi kanë qenë në duart e kompanive teknologjike shumë të njohura dhe të qeverive. Por tani të gjithë, përfshirë ata që merren me infrastrukturën kritike, shkollat dhe bizneset e vogla, mund të fillojnë ta përdorin këtë teknologji për të mbrojtur rrjetet e tyre."