Svona eflir Block öryggi með gervigreindartækni frá OpenAI

Hjá Block, fyrirtækinu á bak við Square, Cash App og Afterpay, nýtir öryggisteymið OpenAI Defense Factory: þar sér gervigreind um að finna veikleika, greina þá og bregðast við þeim í umfangi sem ekkert mannlegt teymi gæti fylgt eftir. Með gervigreindarkerfum á borð við OpenAI Daybreak tekur Block nú aðeins nokkrar klukkustundir að vinna verk sem áður tók vikur.

Öryggisteymi Block hefur einbeitt sér að því að innleiða gervigreind með ábyrgum hætti í öllum verkferlum, hvort sem um er að ræða kóðagerð eða öryggisrekstur. „Í grunninn snýst þetta um að hafa nýjan liðsfélaga sem þú getur vaxið með,“ segir James Nettesheim, upplýsingaöryggisstjóri. „Þetta er ekki eins og hefðbundnari sjálfvirknivæðing þar sem þurfti að fara skref fyrir skref. Þú getur gefið henni nokkuð sérsniðið og óljóst viðfangsefni sem kvaðningu og unnið úr því saman.“

Það tæki daga eða vikur að ljúka verkefnum á borð við að skoða hugbúnaðarvillu eða greina annál. Nú getur teymið lokið slíkum verkefnum á broti af þeim tíma og manneskja sannreynir samt hverja niðurstöðu.

Til að fínstilla greiningu eru til dæmis varðveitt óunnin sönnunargögn úr fyrirspurnum í hverri rannsókn. Þannig getur teymið nú prófað fyrirhugaða breytingu á greiningu á sjö mánaða fjarmælingagögnum úr rekstrarumhverfi á innan við klukkustund. Áður þurfti að keyra fyrirspurnir handvirkt á ný fyrir hundruð eldri mála og var það sjaldan gert í reynd þar sem það var svo tímafrekt.

Teymið hefur einnig orðið vandfýsinna á því hvaða líkan það notar fyrir hvert verkefni. „Við notuðum áður nýjasta líkanið, en þess þarf ekki lengur,“ segir hann. „Það hefur verið lærdómsríkt að velja mismunandi líkön fyrir mismunandi verkefni.“ Öryggiskerfi Block byggir ofan á Daybreak til að beina verkefnum til rétta líkansins og býður upp á tengipunkta þar sem fólk getur tekið við verkefnum eða gervigreindarfulltrúar sannreynt vinnu hvers annars. Teymið metur þessi kerfi stöðugt út frá innri viðmiðum og frammistöðu við raunverulegar aðstæður og lagar nálgun sína eftir þörfum, meðal annars með því að beina verkefnum í yfirferð hjá fólki þegar það er ábyrgasta leiðin.

Sjálfvirka kerfið fyrir forgangsflokkun hefur leitt til þess að verk eru unnin hraðar (og fleiri verk klárast). Öryggisteymi Block hefur séð afköst við forgangsflokkun aukast um 50%, upplýsingaöflun og rannsóknir aukast um 50% og alveg nýja getu til sjálfstæðrar ógnaleitar verða til. Nettesheim segir: „Þetta skilar rannsóknarvinnu sem jafngildir ~1.100 vinnustundum greinenda á hverjum ársfjórðungi, því nú fær hver viðvörun ítarlega og heildstæða rannsókn sem nær til allra þátta sem hún varðar. Kerfið okkar vinnur úr hverri viðvörun eins og hún sé eina viðvörunin sem okkur hefur borist þann dag.“

Hefðbundin skönnunartól tilkynna um hvern öryggisveikleika fyrir sig, en öryggisteymi Block getur komist mun lengra með Daybreak. Líkanið hjálpar til við að setja fram tilgátur um árásarmynstur og tengja saman röð árása í heildstæða leið að fullri yfirtöku, og þannig koma í ljós öryggisveikleikar sem kunna að hafa verið til staðar árum saman.

Í einu tilviki virtist viðvörun á einni fartölvu ein og sér vera minniháttar brot á reglum. En við jafningjarýni fylgdi líkanið vísbendi sem kom aðeins tilviljunarkennt fyrir í gögnunum, tengdi það við auðkennisskrár Block og leiddi í ljós mun fleiri vandamál. „Ein venjuleg viðvörun frá endapunkti leiddi til þess að herferð var stöðvuð. Ekkert eitt tól getur tengt þetta saman. Merkið kemur aðeins fram þegar skrár tveggja vara eru skoðaðar saman,“ segir James.

Annað dæmi um hvernig Daybreak hjálpaði var í nýlegri rauðteymisæfingu. Líkaninu voru gefnar nokkrar vísbendingar um innra kerfi og það tengdi saman heila árásarleið—SQL-innspýtingu, réttindahækkun, fótfestu, upptalningu aðgangsupplýsinga og færslu yfir í önnur kerfi—á um tveimur klukkustundum. Þetta tæki fyrir mannlegan sérfræðing í rauðteymi yfirleitt nokkra daga. Í nýlegum rauðteymisæfingum var tíminn frá því að veikleiki á háu stigi var sendur inn þar til sjálfvirk tillaga að lagfæringu lá fyrir 18 mínútur.

Gildi þess að finna veikleikana ræðst af því hvort hægt sé að laga þá. Nettesheim fer yfir ferlið sem teymi hans fylgir við hverja veikleikagreiningu: finna hvar vandinn er í kóðanum og hver ber ábyrgð á honum og ráðast síðan í úrbætur. „Þú leggur til lagfæringu, staðfestir að hægt sé að nýta veikleikann og sannreynir síðan að hann hafi verið lagfærður, með manneskju með í ferlinu sem stýrir verkinu og innleiðir kóðabreytingarnar.“

Þótt gervigreindargerendur séu tæknilega færir búa þeir ekki yfir þekkingu á aðstæðum innan fyrirtækis eða rökunum að baki fyrri ákvörðunum. Manneskja leggur til þá samhengisþekkingu og stefnu og þar kemur teymið hans til sögunnar með yfirferð af hálfu fólks. Eftir því sem dómgreind gervigreindarinnar sannar sig í framkvæmd segir Nettesheim að „við munum smám saman hækka áhættustigið til að nota hana fyrir viðkvæmari kerfi“.

• Innan við klukkustund til að endurspila fyrirhugaða breytingu á greiningu á móti sjö mánaða fjarmælingagögnum.

• Í nýlegum æfingum rauðteymis liðu 18 mínútur frá innsendingu veikleika á háu stigi þar til sjálfvirk tillaga að lagfæringu lá fyrir.

• Um 600 vinnustundir greinenda á ársfjórðungi sparast við flokkun falskra jákvæðra niðurstaðna.

• Á hverjum ársfjórðungi er lokið við um það bil 1.100 vinnustundir af rannsóknarvinnu greinenda.

• 50% aukning á afköstum við flokkun.

• 50% aukning í greindaröflun og rannsóknum.

Vinna við greiningu og viðbrögð hefur ein og sér sparað um 600 vinnustundir greinenda á ársfjórðungi sem áður fóru í að meta og forgangsraða fölskum viðvörunum. Tímann sem þannig sparast nýtir teymið nú til ítarlegri rannsókna og til að þróa frekari sjálfvirkni á ábyrgan hátt.

Eftir því sem hraði árása eykst og gervigreindarlíkönum fleygir fram sér Nettesheim tækifæri til að fækka veikleikum sem verða til yfirhöfuð. Það myndi gera öryggisteymum kleift að verja minni tíma í að lagfæra veikleika og meiri tíma í fyrirbyggjandi og stefnumótandi verkefni.

„OpenAI er að færa varnaraðilum forskot með því að gera öllum kleift að nýta þessa háþróuðu möguleika,“ segir hann. „Hingað til hafa þeir yfirleitt aðeins verið á færi mjög áberandi tæknifyrirtækja og stjórnvalda. En nú geta allir, þar á meðal aðilar að mikilvægum innviðum, skólar og smáfyrirtæki, farið að nýta þessa tækni til að verja netkerfi sín.“