Hogyan épít a Block AI-alapú biztonságot OpenAI-technológiával

A Square, a Cash App és az Afterpay mögött álló Block vállalatnál a biztonsági csapat az OpenAI Defense Factory-t használja: itt az AI olyan léptékben végzi a sebezhetőségek felderítését, az észlelést és a reagálást, amellyel egyetlen emberi csapat sem tudna lépést tartani. Az olyan AI-rendszerek segítségével, mint az OpenAI Daybreak, a Block mindössze néhány óra alatt végzi el azt a munkát, amely korábban heteket vett igénybe.

A Block biztonsági csapata arra összpontosított, hogy felelősen vezesse be az AI-t a munkafolyamatokban, legyen szó akár kódgenerálásról, akár biztonsági műveletekről. „A lényeg, hogy legyen egy új csapattársad, akivel együtt bővítheted a kapacitásodat” – mondja James Nettesheim, az információbiztonsági igazgató. „Ez nem olyan, mint a hagyományosabb automatizálás, ahol lépésről lépésre kellett haladnod. Adhatsz neki utasítást egy meglehetősen egyedi, nehezen körülhatárolható problémával kapcsolatban, és együtt dolgozhatjátok ki a megoldást.”

Az olyan projektek, mint egy szoftverhiba kivizsgálása vagy egy napló feldolgozása, korábban napokig vagy hetekig tartottak. Most a csapat ennek az időnek a töredéke alatt el tudja végezni ezeket a projekteket, miközben továbbra is egy ember ellenőriz minden eredményt.

Például az észlelés finomhangolásakor minden vizsgálat eltárolja a nyers lekérdezési bizonyítékokat, így a csapat most kevesebb mint egy óra alatt visszajátszhat egy javasolt észlelési módosítást hét hónapnyi éles telemetrián. Korábban ehhez több száz régi esetet kellett kézzel újra lekérdezni, és ez a gyakorlatban gyakran el is maradt, mert túl időigényes volt.

A csapat azt is körültekintőbben választja meg, hogy melyik feladathoz melyik modellt használja. „Korábban mindig a legújabb modellt használtuk, de erre ma már nincs szükség” – vallja. „Tanulási folyamat volt, hogy a különböző feladatokhoz különböző modelleket válasszunk.” A Block biztonsági végrehajtási környezete a Daybreakre épül, hogy segítsen a megfelelő modellhez irányítani a feladatokat, és olyan kapcsolódási pontokat is tartalmaz, amelyek lehetővé teszik, hogy emberek vegyék át a feladatokat, vagy az ágensek ellenőrizzék egymás munkáját. A csapat belső mércék és a valós körülmények között nyújtott teljesítmény alapján folyamatosan értékeli ezeket a rendszereket, és szükség esetén módosítja a megközelítését, például emberi ellenőrzésre irányítja a munkát, ha ez a felelős megoldás.

Az automatizált előszűrési rendszernek köszönhetően gyorsabban és több munka is elvégezhető. A Block biztonsági csapatánál 50%-kal nőtt az előszűrési adatátviteli egység, 50%-kal több intelligencia gyűjtése és vizsgálat zajlik, és egy teljesen új, autonóm fenyegetésvadászati képesség is létrejött. Nettesheim szerint: „A rendszer negyedévente ~1100 elemzői munkaórányi vizsgálatot végez el, mivel most már minden riasztást teljes körűen és alaposan kivizsgál, az érintett összes elemre kiterjedően. A rendszerünk minden riasztással úgy foglalkozik, mintha az lenne az egyetlen riasztás, amelyet aznap kaptunk.”

A hagyományos vizsgálati eszközök elszigetelten jeleznek egy-egy sebezhetőséget, a Block biztonsági csapata azonban a Daybreakkel ennél jóval tovább juthat. A modell segít feltételezéseket megfogalmazni a támadási mintákról, és támadások sorozatát teljes, végpontok közötti kompromittálási útvonallá fűzni, így olyan sebezhetőségeket is felszínre hoz, amelyek akár évek óta fennállhattak.

Egyetlen laptopra vonatkozó riasztás önmagában kisebb szabályzati problémának tűnt. A szakmai felülvizsgálat során azonban a modell követett egy, a bizonyítékok között csak mellékesen felbukkanó indikátort, összevetette azt a Block identitásnaplóival, és jóval több problémát tárt fel. „Egy rutinszerű végponti riasztás végül egy kampány felszámolásához vezetett. Ezt az összekapcsolást egyetlen eszköz sem tudja elvégezni. A jel csak két termék naplóiban együtt jelenik meg” – mondja James.

A Daybreak egy közelmúltbeli támadásszimuláció során is segítséget nyújtott. A modell néhány támpontot kapott egy belső rendszerről, és körülbelül két óra alatt összeállított egy teljes támadási láncot: SQL-injekciót, jogosultságszint-emelést, kezdeti hozzáférés megszerzését, hitelesítő adatok feltérképezését, majd továbblépést más rendszerekre. Ez egy emberi támadásszimulációs szakembernek általában több napjába telne. A közelmúltbeli támadásszimulációk során egy magas szintű sebezhetőség beküldésétől az automatikusan javasolt javításig 18 perc telt el.

A sebezhetőségek feltárása csak annyit ér, amennyire képesek vagyunk kijavítani őket. Nettesheim végigvezeti a hallgatóságot azon a folyamaton, amelyet a csapata minden feltárt problémánál követ: megkeresik a kódban, hol található a probléma, és azonosítják, ki felel érte, majd áttérnek a kijavítására. „Javasolsz egy javítást, megerősíted, hogy a hiba kihasználható, majd ellenőrzöd, hogy kijavítottad-e, miközben egy ember felügyeli a folyamatot, irányítja azt és telepíti a kódmódosításokat.”

Bár az ügynökök technikailag képesek erre, nem rendelkeznek egy szervezet kontextusával, sem a korábbi döntések mögött meghúzódó érveléssel. Ezt a kontextust és stratégiát egy ember biztosítja, és itt kapcsolódik be a csapata, hogy emberi felülvizsgálati réteget biztosítson. Ahogy a mesterséges intelligencia ítélőképessége a gyakorlatban is bizonyítást nyer, Nettesheim szerint „fokozatosan egyre magasabb kockázati szintű, érzékenyebb rendszerekben is alkalmazni fogjuk.”

• Kevesebb mint egy órát vesz igénybe egy javasolt észlelési módosítás visszajátszása hét hónapnyi telemetrián.

• A magas szintű sebezhetőség beküldésétől az automatizált javítási javaslat elkészültéig 18 perc telt el a legutóbbi red team gyakorlatokon.

• Negyedévente nagyjából 600 elemzői munkaórát adnak vissza a téves pozitív triázs előszűréséből.

• Negyedévente körülbelül 1100 elemzői munkaórányi vizsgálatot fejeznek be.

• 50%-os növekedés a triázs adatátviteli egységében.

• Az intelligenciagyűjtés és a vizsgálatok növekedése: 50%.

A felderítési és reagálási munka önmagában negyedévente nagyjából 600 elemzői munkaórát szabadított fel, amelyeket korábban téves pozitív találatok előszűrésére fordítottak. A felszabadult időnek köszönhetően a csapat most több időt fordít mélyrehatóbb vizsgálatokra, valamint az automatizálás felelős bővítésére.

A támadások ütemének gyorsulásával és az AI-modellek folyamatos fejlődésével Nettesheim lehetőséget lát arra, hogy eleve csökkentsék a bekerülő sebezhetőségek számát. Ezáltal a biztonsági csapatok kevesebb időt tölthetnének biztonsági javítások telepítésével, és több időt fordíthatnának megelőző, stratégiai munkára.

„Az OpenAI azzal billenti a védők javára az erőviszonyokat, hogy mindenki számára elérhetővé teszi ezeket a fejlett képességeket” – állítja. „Ezekhez jellemzően csak nagy jelentőségű technológiai vállalatok és kormányzati szervek férhettek hozzá. Most azonban mindenki – a kritikus infrastruktúrák, az iskolák és a kisvállalkozások is – elkezdheti használni ezt a technológiát hálózatai védelmére.”