Doppelin AI-puolustusjärjestelmä pysäyttää hyökkäykset

Yksi ainoa identiteettivarkaussivusto voi käynnistyä, kohdistaa hyökkäyksensä tuhansiin käyttäjiin ja kadota alle tunnissa. Siinä ajassa hyökkääjä ehtii aiheuttaa todellista vahinkoa. Ja generatiivisten työkalujen avulla he voivat luoda satoja samanlaisia.

Doppel rakennettiin puolustamaan organisaatioita syväväärennöksiltä ja verkossa toisena henkilönä esiintymiseltä, mutta nopeasti huomattiin, että tekoäly mahdollisti uhkien rajattoman kasvun. Hyökkääjien ei enää tarvinnut laatia huijauksia käsin; he pystyivät luomaan sekunneissa loputtomasti erilaisia tietojenkalastelupaketteja, väärennettyjä verkkotunnuksia ja tekeytymistilejä.

Pysyäkseen edellä Doppel kehitti uudenlaisen sosiaalisen manipuloinnin torjuntajärjestelmän, joka perustuu OpenAI GPT‑5‑ ja o4-mini-malleihin. Doppelin alusta havaitsee, luokittelee ja poistaa uhat itsenäisesti vähentäen analyytikoiden työmäärää 80 %, kolminkertaistaa uhkien käsittelykapasiteetin ja lyhentää vasteaikoja tunneista minuutteihin.

Perinteinen digitaalinen riskienhallinta perustui siihen, että ihmiset tarkastivat manuaalisesti identiteettivarkauksia harjoittavat sivustot, tietojenkalastelusivustot sekä sosiaalisen median profiilit ja julkaisut. Doppel huomasi, että malli alkoi hajota, kun hyökkääjät alkoivat automatisoida toimintaansa ja käynnistää uhkia nopeammin ja laajemmille hyökkäyspinta-aloille kuin ihmiset ehtivät arvioida niitä.

Nopeus on elintärkeää Doppelin asiakkaille, organisaatioille, joilla ei ole varaa odottaa tunteja uhan vahvistamista. Doppelin järjestelmä luokittelee automaattisesti useimmat uhat hyödyntäen OpenAI:n malleja päättelyyn sekä jäsenneltyä palautesilmukkaa, jota kutsutaan vahvistusoppimiseen perustuvaksi hienosäädöksi (RFT), mallin parantamiseksi ajan mittaan. RFT:ssä ihmisen tekemää palautetta käytetään arvioitavina esimerkkeinä, mikä auttaa mallia oppimaan johdonmukaisten, selitettävien päätösten tekemistä itsenäisesti.

Doppelin suuri kielimalli -pohjainen prosessiketju on sen tunnistusjärjestelmän ytimessä. Signaalien hankkimisen ja suodatuksen jälkeen järjestelmä suorittaa sarjan kohdennettuja päättelytehtäviä: potentiaalisten uhkien arviointia päättelyn avulla, tarkoituksen vahvistamista ja luokittelupäätösten ohjaamista. Jokainen vaihe on suunniteltu tasapainottamaan nopeutta, tarkkuutta ja johdonmukaisuutta sekä auttamaan analyytikkoja keskittymään reunatapauksiin, jotka vaativat ihmisen harkintaa.

Näin se toimii:

• Signaalien suodatus ja ominaisuuksien poiminta: Doppelin järjestelmät käsittelevät päivittäin miljoonia verkkotunnuksia, URL-osoitteita ja tilejä. Heuristiikan ja OpenAI o4-minin yhdistelmä suodattaa kohinaa ja poimii jäsenneltyjä ominaisuuksia ohjaamaan mallin arviointia jatkokäsittelyssä.
• Rinnakkaisen uhan vahvistus: Jokainen signaali kulkee useiden GPT‑5-kehotteiden läpi, jotka on kehitetty erityyppisten uhkien analysointiin. Kehotteet arvioivat tekijöitä, kuten toisena henkilönä esiintymisen riskiä, brändin väärinkäyttöä tai sosiaalisen manipuloinnin malleja.
• Uhkien luokittelu: O4-mini:n RFT-versio yhdistää aiemmat vahvistukset ja antaa strukturoidun tunnisteen: haitallinen, hyväntahtoinen tai moniselitteinen, tuotantotason johdonmukaisuudella.
• Lopullinen vahvistus: Toinen GPT‑5-käsittelyvaihe varmistaa mallin päätöksen ja luo perustelun luonnollisella kielellä. Jos varmuustaso ylittää kynnyksen, järjestelmä aloittaa automaattisen täytäntöönpanon.
• Ihmisen tekemä tarkastus: Varmuustasoltaan heikot tai ristiriitaiset tulokset ohjataan ihmisanalyytikoille. Heidän päätöksensä tallennetaan ja syötetään takaisin RFT-silmukkaan parantamaan jatkuvasti mallin johdonmukaisuutta.

Doppel on jo saavuttanut merkittävää hyötyä alkuperäisestä Suuri kielimalli -tehostetusta havaitsemisputkesta, mutta tapauksissa, joissa sama uhka voitaisiin arvioida eri tavoin riippuen analyytikosta, johdonmukaisuudesta tuli rajoittava tekijä.

Johdonmukaisuuden saavuttamiseksi Doppel sovelsi RFT:tä käyttäen analyytikkodataansa palautteen lähteenä. Jokaisesta päätöksestä luokitella verkkotunnus haitalliseksi, hyvänlaatuiseksi tai epäselväksi tuli arvioitu esimerkki. Nämä merkityt esimerkit kouluttivat mallin toistamaan asiantuntijoiden arvioita, jopa epäselvissä reunatapauksissa.

Työskennellessään tiiviisti OpenAI:n soveltavan tekniikan tiimin kanssa Doppel suunnitteli luokittelutoimintoja, jotka arvioivat paitsi tarkkuutta myös selittävää laatua ja palkitsivat malleja, jotka perustelivat selkeästi eivätkä vain oikein. Muuntamalla analyytikoiden palautteen strukturoiduksi koulutusdataksi Doppel auttoi osoittamaan, kuinka RFT voisi tehdä automaattisesta tunnistuksesta entistä johdonmukaisempaa ja luotettavampaa.

Hyperparametrien säätäminen ja iteratiiviset arvioinnit toivat mallia lähemmäs ihmisen tasoista johdonmukaisuutta. Mutta Doppelille automaation viimeisen vaiheen toteuttaminen tarkoitti myös sitä, että päätöksistä tuli välittömästi ymmärrettävämpiä.

Jokainen automaattinen poistaminen sisältää nyt tekoälyn tuottaman perustelun, joka selittää, miksi uhka poistettiin, ja antaa asiakkaille välittömän käsityksen siitä, miksi toimenpiteisiin ryhdyttiin – mikä aiemmin edellytti analyytikon puuttumista asiaan.

Näkyvyys parantaa luottamusta, mikä on ratkaisevan tärkeä tekijä Doppelin käyttäjille. Kun tiimit näkevät, mitä toimenpiteitä on tehty ja miksi, he saavat varmuutta reagoida nopeasti sekä tarvittavan kontekstin selittää päätöksiä sisäisesti tai sidosryhmille.

• Vähennä analyytikoiden työmäärää 80 %
• Lyhensi uhkavasteaikoja tunneista minuutteihin
• Kolminkertainen uhkien käsittelykapasiteetti
• Useimmat uhkat luokitellaan automaattisesti

Saavutettuaan lähes täydellisen automatisoinnin huijausten ja toisena henkilönä esiintymisen verkkotunnuksille Doppel soveltaa nyt samaa malliohjattua viitekehystä muihin korkean vaihtelun kanaviin.

”Verkkotunnukset ovat todennäköisesti vaikein käsittelemämme kanava”, sanoi Madduluri. ”Signaalit ovat sekavia, sisältö muuttuu jatkuvasti, ja uhat kehittyvät nopeasti useilla alustoilla samanaikaisesti.” Jos voimme automatisoida sen alusta loppuun, voimme tehdä sen missä tahansa: sosiaalisessa mediassa, maksetuissa mainoksissa – missä tahansa.

Seuraaviin välitavoitteisiin kuuluu heidän RFT-tietojoukkonsa kasvattaminen kertaluokalla, uusien arviointistrategioiden kokeileminen ja GPT‑5:n käyttäminen alkuvaiheen piirteiden poimintaan. Muutosten ansiosta Doppel voi yhdistää prosessin vaiheita ja analysoida monimutkaisempia uhkaindikaattoreita prosessin aikaisemmassa vaiheessa.

Jokaisella iteraatiolla Doppel rakentaa järjestelmää, joka puolustaa sitä, mikä on todellista kaikilla pinnoilla, joissa luottamus on uhattuna.