Miten Block rakentaa tekoälyturvaa OpenAI-teknologian avulla

Square-, Cash App- ja Afterpay-palveluiden taustalla olevan yrityksen Blockin tietoturvatiimi hyödyntää OpenAI Defense Factorya, jossa tekoäly etsii haavoittuvuuksia, havaitsee niitä ja reagoi niihin sellaisessa mittakaavassa, ettei yksikään ihmistiimi pystyisi pysymään tahdissa. Tekoälyjärjestelmien, kuten OpenAI Daybreakin, avulla Block saa tehtyä muutamassa tunnissa työn, johon aiemmin kului viikkoja.

Blockin tietoturvatiimi on keskittynyt ottamaan tekoälyn vastuullisesti käyttöön eri työnkuluissa, olipa kyse sitten koodin generoinnista tai tietoturvatoiminnoista. ”Kyse on ennen kaikkea siitä, että käytössä on uusi tiimikaveri, jonka kanssa toimintaa voi skaalata”, sanoo tietoturvajohtaja James Nettesheim. ”Se ei ole samanlaista kuin perinteisempi automaatio, jossa piti edetä vaihe vaiheelta. Voit antaa sille kehotteeksi melko räätälöidyn ja monitulkintaisen ongelman ja työstää sitä yhdessä sen kanssa.”

Ohjelmistovirheen tarkastelu tai lokin jäsentäminen saattoi kestää päiviä tai viikkoja. Nyt tiimi voi saada tällaiset projektit valmiiksi murto-osassa siitä ajasta, ja ihminen tarkistaa silti jokaisen tuloksen.

Esimerkiksi tunnistuksen hienosäädössä jokaisessa tutkinnassa tallennetaan raakakyselyihin perustuva näyttöaineisto, joten tiimi voi nyt testata ehdotettua tunnistusmuutosta seitsemän kuukauden tuotantotelemetriatiedoilla alle tunnissa. Aiemmin tämä työ tarkoitti satojen vanhojen tapausten tietojen uudelleenkyselyä manuaalisesti, ja käytännössä sitä tehtiin harvoin, koska se vei niin paljon aikaa.

Tiimi on myös alkanut valita tarkemmin, mitä mallia se käyttää mihinkin tehtävään. ”Ennen käytimme aina uusinta mallia, mutta enää siihen ei ole tarvetta”, hän sanoo. ”Eri mallien valitseminen eri tehtäviin on ollut opettavainen kokemus”. Blockin tietoturvan arviointikehys rakentuu Daybreakin päälle, ja sen avulla tehtävät voidaan ohjata oikealle mallille. Se sisältää myös mekanismeja, joiden avulla ihmiset voivat ottaa tehtäviä hoitaakseen tai agentit tarkistaa toistensa työn. Tiimi arvioi näitä järjestelmiä jatkuvasti sisäisten vertailuarvojen ja todellisen suorituskyvyn perusteella ja mukauttaa lähestymistapaansa tarvittaessa. Tähän kuuluu työn ohjaaminen ihmisen tarkistettavaksi silloin, kun se on vastuullinen ratkaisu.

Automaattisen hälytysten arviointijärjestelmän ansiosta työtä saadaan tehtyä nopeammin (ja enemmän). Blockin tietoturvatiimin hälytysten arvioinnin suoritusteho on kasvanut 50 %, tiedustelutiedon keruu ja tutkinnat ovat lisääntyneet 50 %, ja tiimi on saanut täysin uuden kyvyn etsiä uhkia itsenäisesti. Nettesheim sanoo: ”Tämä tekee vuosineljänneksessä ~1 100 analyytikkotyötuntia vastaavan määrän tutkintatyötä, sillä jokainen hälytys tutkitaan nyt perusteellisesti ja kattavasti kaikkien siihen liittyvien osa-alueiden osalta. Järjestelmämme käsittelee jokaisen hälytyksen kuin se olisi päivän ainoa hälytys.”

Perinteiset skannaustyökalut ilmoittavat haavoittuvuuksista yksittäisinä tapauksina, mutta Blockin tietoturvatiimi pääsee Daybreakin avulla paljon pidemmälle. Malli auttaa muodostamaan hypoteeseja hyökkäysmalleista ja ketjuttamaan hyökkäyksiä kokonaisvaltaiseksi tietomurtopoluksi, jolloin esiin nousee haavoittuvuuksia, jotka ovat saattaneet olla olemassa jo vuosia.

Eräässä tapauksessa yhtä kannettavaa tietokonetta koskeva hälytys vaikutti yksinään vähäiseltä käytäntöihin liittyvältä ongelmalta. Vertaisarvioinnin aikana malli kuitenkin seurasi indikaattoria, joka esiintyi todistusaineistossa vain sivumennen, yhdisti sen Blockin identiteettilokeihin ja toi esiin huomattavasti laajemman joukon ongelmia. ”Yksi tavanomainen endpoint-hälytys johti hyökkäyskampanjan pysäyttämiseen. Yksikään työkalu ei yksin tee tätä yhdistämistä. Signaali tulee esiin vain kahden tuotteen lokitietoja yhdistämällä”, James sanoo.

Toinen esimerkki Daybreakin hyödyistä nähtiin hiljattain toteutetussa red team -harjoituksessa. Mallille annettiin muutamia vihjeitä sisäisestä järjestelmästä, ja se rakensi niiden pohjalta kokonaisen hyökkäysketjun – SQL-injektion, oikeuksien eskaloinnin, jalansijan hankkimisen, tunnistetietojen kartoittamisen ja siirtymisen muihin järjestelmiin – noin kahdessa tunnissa. Ihmiseltä tämä veisi red team -asiantuntijana tyypillisesti useita päiviä. Viimeaikaisissa red team -harjoituksissa aikaa korkean tason haavoittuvuuden ilmoittamisesta automaattisesti ehdotettuun korjaukseen kului 18 minuuttia.

Haavoittuvuuksien löytämisestä on hyötyä vain, jos ne pystytään myös korjaamaan. Nettesheim käy läpi prosessin, jota hänen tiiminsä noudattaa jokaisen löydöksen kohdalla: ensin selvitetään, missä kohtaa koodia ongelma sijaitsee ja kuka siitä vastaa, minkä jälkeen siirrytään sen korjaamiseen. ”Ehdotat korjauspäivitystä; varmistat, että haavoittuvuutta voidaan hyödyntää; ja tarkistat sitten, että olet korjannut sen. Ihminen ohjaa prosessia ja ottaa koodimuutokset käyttöön.”

Vaikka agentit ovat teknisesti kykeneviä, niillä ei ole organisaation kontekstia eikä aiempien päätösten taustalla olevaa päättelyä. Ihminen tuo tähän kontekstin ja strategian, ja tässä kohtaa hänen tiiminsä tulee mukaan tekemään ihmisen suorittaman tarkistuksen. Nettesheimin mukaan, kun tekoälyn arviointikyky osoittautuu käytännössä toimivaksi, ”nostamme riskitasoa vähitellen ja otamme sen käyttöön arkaluonteisemmissa järjestelmissä”.

• Ehdotetun tunnistusmuutoksen testaaminen seitsemän kuukauden telemetriatiedoilla kestää alle tunnin.

• Viimeaikaisissa red team -harjoituksissa korkean vakavuustason haavoittuvuuden ilmoittamisesta automaattisen korjausehdotuksen saamiseen kului 18 minuuttia.

• Noin 600 asiantuntijatyötuntia vuosineljänneksessä vapautuu väärien positiivisten tulosten arvioinnista muihin tehtäviin.

• Noin 1 100 tuntia asiantuntijoiden tutkintatyötä saadaan valmiiksi vuosineljänneksessä.

• 50 %:n parannus ilmoitusten käsittelynopeudessa.

• 50 %:n kasvu tiedustelutietojen keräämisessä ja tutkintatyössä.

Pelkkä uhkien havaitsemiseen ja niihin reagoimiseen liittyvä työ on vapauttanut vuosineljänneksessä noin 600 asiantuntijatyötuntia, jotka aiemmin kuluivat väärien positiivisten tulosten arviointiin. Kun tämä aika on nyt käytettävissä muihin tehtäviin, tiimi voi keskittyä enemmän perusteellisiin tutkintoihin ja automaation vastuulliseen kehittämiseen.

Hyökkäysten tahdin kiihtyessä ja tekoälymallien kehittyessä Nettesheim näkee mahdollisuuden vähentää alun perin syntyvien haavoittuvuuksien määrää. Näin tietoturvatiimit voisivat käyttää vähemmän aikaa korjauspäivityksiin ja enemmän aikaa ennaltaehkäisevään ja strategiseen työhön.

”OpenAI siirtää etulyöntiaseman puolustajille tuomalla nämä edistyneet ominaisuudet kaikkien ulottuville”, hän sanoo. ”Tähän asti nämä ominaisuudet ovat olleet yleensä vain erittäin tunnettujen teknologiayritysten ja valtionhallinnon käytössä. Nyt kuitenkin kaikki, myös kriittisen infrastruktuurin toimijat, koulut ja pienyritykset, voivat alkaa hyödyntää tätä teknologiaa verkkojensa suojaamiseen.”