Block eflir netöryggi með gervigreindartækni OpenAI

Öryggisteymi Block, fyrirtækisins á bak við Square, Cash App og Afterpay, nýtir OpenAI Defense Factory. Þar sér gervigreind um að finna veikleika, greina ógnir og bregðast við þeim í umfangi sem ekkert teymi manna gæti annað. Með gervigreindarkerfum á borð við OpenAI Daybreak lýkur Block nú á örfáum klukkustundum vinnu sem áður tók margar vikur.

Öryggisteymi Block hefur lagt áherslu á ábyrga innleiðingu gervigreindar í verkferla sína, hvort sem um er að ræða kóðagerð eða öryggisrekstur. „Þetta snýst í raun um að fá nýjan liðsfélaga sem gerir þér kleift að auka afköstin,“ segir James Nettesheim, yfirmaður upplýsingaöryggis. „Þetta er ólíkt hefðbundinni sjálfvirknivæðingu þar sem þurfti að fara skref fyrir skref. Þú getur lagt fyrir hana nokkuð sértækt og óljóst vandamál og unnið að lausn þess með henni.“

Verkefni eins og að yfirfara hugbúnaðarvillu eða greina annál tóku áður daga eða vikur. Nú getur teymið lokið þeim á broti af þeim tíma, en manneskja staðfestir enn hverja niðurstöðu.

Við fínstillingu ógnagreiningar eru til dæmis óunnin gögn úr fyrirspurnum varðveitt fyrir hverja rannsókn. Því getur teymið nú prófað fyrirhugaða breytingu á greiningarreglu á sjö mánaða vöktunargögnum úr raunumhverfi á innan við klukkustund. Áður þurfti að endurtaka fyrirspurnir handvirkt fyrir hundruð eldri mála. Í reynd var það sjaldan gert vegna þess hve tímafrekt það var.

Teymið velur nú einnig af meiri kostgæfni hvaða líkan er notað í hvert verkefni. „Áður notuðum við alltaf nýjasta líkanið, en þess þarf ekki lengur,“ segir hann. „Það hefur verið lærdómsríkt að velja ólík líkön fyrir ólík verkefni.“ Öryggiskerfi Block er byggt ofan á Daybreak til að beina verkefnum til rétta líkansins. Það gerir einnig fólki kleift að taka við verkefnum og aðstoðarforritum að sannreyna vinnu hvert annars. Teymið metur þessi kerfi stöðugt með innri viðmiðunarprófum og út frá frammistöðu við raunverulegar aðstæður. Það aðlagar nálgun sína eftir þörfum og vísar meðal annars verkefnum til yfirferðar hjá fólki þegar það er ábyrgast að gera það.

Sjálfvirka forgangsmatskerfið hefur skilað meiri vinnu á skemmri tíma. Hjá öryggisteymi Block hafa afköst við forgangsmat aukist um 50%, upplýsingaöflun og rannsóknir um 50%, og nú er hægt að leita sjálfvirkt að ógnum, sem áður var ekki mögulegt. Nettesheim segir: „Þetta skilar rannsóknarvinnu sem jafngildir um 1.100 vinnustundum greiningaraðila á ársfjórðungi, því nú er hver viðvörun rannsökuð ítarlega og farið yfir alla þætti sem henni tengjast. Kerfið okkar vinnur úr hverri viðvörun eins og hún sé sú eina sem við höfum fengið þann dag.“

Hefðbundin skönnunartól flagga einstökum veikleikum án samhengis, en með Daybreak getur öryggisteymi Block gengið mun lengra. Líkanið hjálpar til við að setja fram tilgátur um árásarmynstur og tengja saman röð árása í heildstæða leið inn í kerfi. Þannig dregur það fram veikleika sem gætu hafa verið til staðar árum saman.

Í einu tilviki virtist viðvörun frá einni fartölvu, ein og sér, aðeins benda til minniháttar brots á öryggisreglum. Við jafningjarýni fylgdi líkanið hins vegar eftir vísbendingu sem kom aðeins fyrir tilviljun fram í gögnunum, tengdi hana við annála auðkenniskerfa Block og afhjúpaði mun fleiri vandamál. „Ein hefðbundin viðvörun frá notendatæki leiddi til þess að stöðvuð var heil árásarherferð. Ekkert eitt tól sér þessa tengingu. Vísbendingin kemur aðeins í ljós þegar annálar tveggja kerfa eru skoðaðir saman,“ segir James.

Annað dæmi um gagnsemi Daybreak kom fram í nýlegri æfingu rauðteymis. Líkanið fékk nokkrar vísbendingar um innra kerfi og á um tveimur klukkustundum setti það saman heila árásarleið: SQL-innspýtingu, aukin aðgangsréttindi, fótfestu í kerfinu, leit að aðgangsupplýsingum og þaðan leið yfir í önnur kerfi. Þetta tæki manneskju í rauðteymi yfirleitt nokkra daga. Í nýlegum æfingum rauðteyma liðu 18 mínútur frá því að yfirlitslýsing á veikleika var send inn þar til tillaga að lagfæringu varð sjálfkrafa til.

Að finna veikleika skilar aðeins árangri ef hægt er að laga þá. Nettesheim lýsir ferlinu sem teymið notar við hvern veikleika sem finnst: staðsetja vandamálið í kóðanum og finna hver ber ábyrgð á honum, og ráðast svo í úrbætur. „Þú leggur til lagfæringu, staðfestir að hægt sé að nýta veikleikann til árásar og sannreynir svo að búið sé að laga hann. Manneskja fylgist með, leiðbeinir og setur kóðabreytingarnar í notkun.“

Þótt aðstoðarforrit búi yfir tæknilegri getu þekkja þau ekki aðstæður fyrirtækis eða rökin að baki fyrri ákvörðunum. Fólk veitir þessa innsýn og mótar stefnuna. Þar kemur teymið hans að með yfirferð af hálfu manna. Eftir því sem dómgreind gervigreindar sannar sig í verki segir Nettesheim: „Við munum smám saman taka meiri áhættu með því að nota hana í viðkvæmari kerfum.“

• Innan við klukkustund til að prófa fyrirhugaða breytingu á greiningarreglu á sjö mánaða vöktunargögnum.

• 18 mínútur frá innsendingu yfirlitslýsingar á veikleika þar til tillaga að lagfæringu varð sjálfkrafa til í nýlegum æfingum rauðteyma.

• Um 600 vinnustundir greiningaraðila losna á ársfjórðungi sem áður fóru í mat á fölskum viðvörunum.

• Lokið er rannsóknarvinnu sem jafngildir um 1.100 vinnustundum greiningaraðila á ársfjórðungi.

• 50% meiri afköst við forgangsmat.

• 50% aukning í upplýsingaöflun og rannsóknum.

Vinna við ógnagreiningu og viðbrögð ein og sér hefur losað um 600 vinnustundir greiningaraðila á ársfjórðungi sem áður fóru í mat á fölskum viðvörunum. Teymið nýtir tímann sem hefur losnað í ítarlegri rannsóknir og frekari sjálfvirknivæðingu með ábyrgum hætti.

Eftir því sem árásum fjölgar og gervigreindarlíkönum fleygir fram sér Nettesheim tækifæri til að fækka veikleikum sem verða til í upphafi. Það myndi gera öryggisteymum kleift að verja minni tíma í lagfæringar og meiri í forvarnir og vinnu að langtímamarkmiðum.

„OpenAI er að færa varnaraðilum forskotið með því að gera þessa háþróuðu getu aðgengilega öllum,“ segir hann. „Hingað til hafa yfirleitt aðeins þekktustu tæknifyrirtækin og stjórnvöld haft aðgang að henni. En nú geta allir farið að nýta þessa tækni til að verja netkerfi sín, þar á meðal rekstraraðilar mikilvægra innviða, skólar og lítil fyrirtæki.“