Si ndërton Block siguri me IA dhe teknologjinë OpenAI

Te Block, kompania që qëndron pas Square, Cash App dhe Afterpay, ekipi i sigurisë shfrytëzon OpenAI Defense Factory: aty IA merret me zbulimin e cenueshmërive, identifikimin e kërcënimeve dhe reagimin ndaj tyre në një shkallë që asnjë ekip njerëzor nuk do të mund ta përballonte. Me sisteme të IA-së, përfshirë OpenAI Daybreak, Block po kryen në vetëm pak orë punë që më parë kërkonin javë.

Ekipi i sigurisë i Block është përqendruar në përdorimin e përgjegjshëm të IA-së në proceset e punës, si në gjenerimin e kodit, ashtu edhe në operacionet e sigurisë. “Në thelb, bëhet fjalë për një anëtar të ri të ekipit, me të cilin mund të zgjerosh kapacitetet”, thotë James Nettesheim, drejtor i sigurisë së informacionit. “Nuk është si automatizimi tradicional, ku duhej të përcaktoje çdo hap. Mund t’i parashtrosh një problem mjaft specifik e të paqartë dhe të punoni së bashku për ta zgjidhur.”

Detyra si shqyrtimi i një gabimi në softuer ose analizimi i një regjistri kërkonin ditë apo javë për t’u përfunduar. Tani ekipi mund t’i përfundojë këto detyra në shumë më pak kohë, ndërkohë që çdo rezultat vazhdon të verifikohet nga një njeri.

Për shembull, për të përmirësuar zbulimin e kërcënimeve, çdo hetim ruan provat e papërpunuara nga kërkimet. Kështu, ekipi tani mund të ritestojë një ndryshim të propozuar në mekanizmin e zbulimit me të dhënat e telemetrisë të shtatë muajve nga mjedisi i prodhimit, në më pak se një orë. Më parë, kjo punë kërkonte përsëritjen manuale të kërkimeve për qindra raste të vjetra dhe rrallë kryhej në praktikë, sepse merrte shumë kohë.

Ekipi është bërë gjithashtu më përzgjedhës për modelin që përdor për secilën punë. “Më parë përdornim modelin më të fundit, por kjo nuk është më e nevojshme”, thotë ai. “Kemi mësuar nga përvoja të zgjedhim modele të ndryshme për detyra të ndryshme.” Struktura e sigurisë e Block është ndërtuar mbi Daybreak për të ndihmuar në drejtimin e detyrave te modeli i duhur. Ajo përfshin mekanizma që u mundësojnë njerëzve të marrin përsipër detyrat ose agjentëve të verifikojnë punën e njëri-tjetrit. Ekipi i vlerëson vazhdimisht këto sisteme sipas standardeve të brendshme dhe performancës në praktikë, duke e përshtatur qasjen sipas nevojës. Kjo përfshin edhe dërgimin e punës për shqyrtim nga njerëzit, kur kjo është zgjedhja e përgjegjshme.

Sistemi i automatizuar i vlerësimit fillestar ka bërë të mundur që të kryhet më shumë punë dhe më shpejt. Ekipi i sigurisë i Block ka shënuar një rritje prej 50% të kapacitetit të përpunimit për vlerësimin fillestar, një rritje prej 50% në mbledhjen e informacioneve dhe hetime, si dhe ka fituar një aftësi krejt të re për të kërkuar kërcënime në mënyrë autonome. Nettesheim thotë: “Ky sistem kryen hetime të barasvlershme me rreth 1 100 orë pune analistësh në tremujor, sepse tani çdo alarm hetohet plotësisht dhe në thellësi, në të gjitha aspektet që përfshin. Sistemi ynë e trajton çdo alarm sikur të ishte i vetmi që kemi marrë atë ditë.”

Mjetet tradicionale të skanimit sinjalizojnë një cenueshmëri të veçuar, por ekipi i sigurisë i Block mund të shkojë shumë më tej me Daybreak. Modeli ndihmon në ngritjen e hipotezave për modelet e sulmeve dhe në lidhjen e një serie sulmesh në një rrugë të plotë komprometimi, nga fillimi në fund, duke nxjerrë në pah cenueshmëri që mund të kenë ekzistuar prej vitesh.

Në një rast, një alarm në një laptop të vetëm, i parë më vete, dukej si një shkelje e vogël e politikave. Por gjatë shqyrtimit të ndërsjellë, modeli ndoqi një tregues që shfaqej vetëm rastësisht në prova, e lidhi me regjistrat e identitetit të Block dhe nxori në pah një grup shumë më të gjerë problemesh. “Një alarm rutinë në një pajisje fundore çoi në ndalimin e një fushate sulmesh. Asnjë mjet i vetëm nuk e bën këtë lidhje. Sinjali bëhet i dukshëm vetëm duke kombinuar regjistrat e dy produkteve”, thotë James.

Një shembull tjetër i ndihmës së Daybreak ishte gjatë një ushtrimi të fundit simulimi sulmesh. Modelit iu dhanë disa të dhëna orientuese për një sistem të brendshëm dhe, brenda rreth dy orësh, ai ndërtoi një rrugë të plotë sulmi: injektim SQL, ngritje privilegjesh, sigurim i një pike hyrjeje të qëndrueshme, renditje e kredencialeve dhe kalim në sisteme të tjera. Kjo zakonisht do t’i kërkonte disa ditë një specialisti të simulimit të sulmeve. Në ushtrimet e fundit të simulimit të sulmeve, koha nga raportimi i një cenueshmërie të nivelit të lartë deri te propozimi automatik i një korrigjimi ishte 18 minuta.

Zbulimi i cenueshmërive ka vlerë vetëm nëse mund t’i korrigjosh ato. Nettesheim shpjegon procesin që ekipi i tij ndjek për çdo gjetje: përcakton ku ndodhet problemi në kod dhe kush është përgjegjës për të, pastaj kalon te korrigjimi. “Propozon një korrigjim, konfirmon nëse cenueshmëria mund të shfrytëzohet dhe më pas verifikon se e ke korrigjuar, me një njeri që e udhëheq procesin dhe zbaton ndryshimet në kod.”

Ndonëse agjentët kanë aftësi teknike, ata nuk e njohin kontekstin e organizatës apo arsyetimin pas vendimeve të mëparshme. Këtë kontekst dhe strategji i jep një njeri, dhe pikërisht këtu ndërhyn ekipi i tij për të siguruar një nivel shqyrtimi njerëzor. Ndërsa gjykimi i IA-së provon vlerën e vet në praktikë, Nettesheim thotë: “do ta rrisim gradualisht nivelin e rrezikut që marrim përsipër, për ta përdorur në sisteme më të ndjeshme.”

• Më pak se një orë për të ritestuar një ndryshim të propozuar në mekanizmin e zbulimit me të dhënat e telemetrisë të shtatë muajve.

• 18 minuta nga raportimi i një cenueshmërie të nivelit të lartë deri te propozimi automatik i një korrigjimi në ushtrimet e fundit të simulimit të sulmeve.

• Rreth 600 orë pune analistësh të kursyera çdo tremujor nga vlerësimi fillestar i alarmeve të rreme.

• Hetime të kryera çdo tremujor, të barasvlershme me rreth 1 100 orë pune analistësh.

• Rritje prej 50% e kapacitetit të përpunimit për vlerësimin fillestar.

• Rritje prej 50% në mbledhjen e informacioneve dhe hetime.

Vetëm puna për zbulimin dhe reagimin ka kursyer rreth 600 orë pune analistësh çdo tremujor, të cilat më parë shpenzoheshin për vlerësimin fillestar të alarmeve të rreme. Falë kohës së kursyer, ekipi tani i kushton më shumë kohë hetimeve të thelluara dhe zhvillimit të më shumë automatizimeve në mënyrë të përgjegjshme.

Ndërsa ritmi i sulmeve rritet dhe modelet e IA-së vazhdojnë të përparojnë, Nettesheim sheh një mundësi për të zvogëluar numrin e cenueshmërive që krijohen që në fillim. Kjo do t’u mundësonte ekipeve të sigurisë të shpenzonin më pak kohë për korrigjime dhe më shumë për punë parandaluese e strategjike.

“OpenAI po e kalon epërsinë te mbrojtësit, duke i vënë këto aftësi të përparuara në duart e të gjithëve”, thotë ai. “Zakonisht, ato kanë qenë vetëm në duart e kompanive më të njohura të teknologjisë dhe të qeverive. Por tani të gjithë, përfshirë operatorët e infrastrukturës kritike, shkollat dhe bizneset e vogla, mund të fillojnë ta përdorin këtë teknologji për të mbrojtur rrjetet e tyre.”