Doppeli AI-kaitsesüsteem peatab rünnakud enne, kui need levivad

Üksik libaleht võib käivituda, võtta sihikule tuhandeid kasutajaid ja kaduda vähem kui tunniga. Sellest piisab täiesti, et ründaja saaks tekitada reaalset kahju. Ja generatiivsete tööriistade abil saavad nad luua sadu täpselt samasuguseid.

Doppel loodi kaitsmaks organisatsioone süvavõltsingute ja veebipõhiste identiteedivarguste eest, kuid peagi mõisteti, et tehisintellekt tähendab ohtude lõputut skaleeruvust. Ründajad ei pidanud enam pettusi käsitsi kokku panema; nad võisid sekunditega genereerida lõputult variante õngitsuskomplektidest, võltsitud domeenidest ja libakontodest.

Et sammu võrra ees püsida, töötas Doppel välja uut tüüpi sotsiaalsete rünnakute kaitsesüsteemi, mis on ehitatud OpenAI GPT‑5 ja o4-mini mudelitele. Doppeli platvorm tuvastab, klassifitseerib ja eemaldab ohte autonoomselt, mis vähendab analüütikute töökoormust 80%, kolmekordistab ohtude käsitlemise võimekust ja lühendab reageerimisaegu tundidelt minutitele.

Traditsiooniline digitaalsete riskide kaitse tugines inimestele, kes vaatasid käsitsi üle libalehti, õngitsusdomeene ning sotsiaalmeedia profiile ja postitusi. Doppel nägi, kuidas see mudel hakkas kokku kukkuma, kui ründajad asusid asju automatiseerima, käivitades ohte kiiremini ja laiemal pinnal, kui inimesed neid hinnata suutsid.

See kiirus on Doppeli klientidele ülioluline – need on organisatsioonid, kes ei saa endale lubada tundidepikkust ootamist ohu kinnitamiseks. Doppeli süsteem klassifitseerib enamiku ohte automaatselt, kasutades arutlemiseks OpenAI mudeleid ja struktureeritud tagasisideahelat, mida tuntakse kinnistava peenhäälestamisena (RFT), et mudelit aja jooksul täiustada. RFT-s kasutatakse inimeste antud tagasisidet väärtuslike näidetena, aidates mudelitel õppida iseseisvalt tegema järjepidevaid ja selgitatavaid otsuseid.

Doppeli LLM-il põhinev protsess asub nende tuvastusvirna keskmes. Pärast signaalide kogumist ja filtreerimist sooritab süsteem rea sihipäraseid arutlusülesandeid: analüüsib potentsiaalseid ohte, kinnitab kavatsusi ja suunab klassifitseerimisotsuseid. Iga etapp on loodud tasakaalustama kiirust, täpsust ja järjepidevust, hoides samal ajal analüütikute fookust äärmuslikel juhtumitel, mis vajavad inimese hinnangut.

Siin on, kuidas see toimib:

• Signaalide filtreerimine ja tunnuste eraldamine: Doppeli süsteemid neelavad iga päev miljoneid domeene, URL-e ja kontosid. Heuristika ja OpenAI o4-mini kombinatsioon filtreerib välja müra ja eraldab struktureeritud tunnuseid, et suunata edasisi mudeli hinnanguid.
• Paralleelne ohu kinnitamine: iga signaal lastakse läbi mitme GPT‑5 viiba, mis on spetsiaalselt loodud erinevat tüüpi ohtude analüüsiks. Need viibad hindavad selliseid tegureid nagu identiteedivarguse risk, brändi väärkasutamine või sotsiaalsete rünnakute mustrid.
• Ohtude klassifitseerimine: o4-mini RFT-versioon sünteesib varasemad kinnitused, et määrata struktureeritud silt—pahatahtlik, ohutu või mitmetähenduslik—toodangutaseme järjepidevusega.
• Lõplik kontrollimine: teine ring GPT‑5-ga valideerib mudeli otsuse ja genereerib loomulikus keeles põhjenduse. Kui kindlus ületab künnise, käivitab süsteem automaatselt meetmete rakendamise.
• Ülevaatus inimese poolt: madala kindlusega või vastuolulised tulemused suunatakse inimananalüütikutele. Nende otsused logitakse ja suunatakse tagasi RFT-tsüklisse, et mudeli järjepidevust pidevalt parandada.

Doppel oli juba näinud märkimisväärset kasu oma esialgsest LLM-iga täiustatud tuvastusprotsessist, kuid kui tekkisid olukorrad, kus sama ohtu võidi olenevalt analüütikust erinevalt hinnata, muutus piiravaks teguriks järjepidevus.

Selle järjepidevuse loomiseks rakendas Doppel RFT-d, kasutades tagasisideallikana omaenda analüütikute andmeid. Iga otsus klassifitseerida domeen pahatahtlikuks, ohutuks või ebaselgeks muutus astmeliseks näiteks. Need sildistatud näited õpetasid mudelit kopeerima ekspertide hinnanguid isegi mitmetähenduslike äärmuslike juhtumite puhul.

Tehes tihedat koostööd OpenAI rakendusinseneride meeskonnaga, kujundas Doppel hindamisfunktsioonid, mis hindasid mitte ainult täpsust, vaid ka selgituste kvaliteeti, premeerides mudeleid, mis arutlesid selgelt, mitte pelgalt õigesti. Muutes analüütikute tagasiside struktureeritud treeningandmeteks, aitas Doppel näidata, kuidas RFT võiks muuta automatiseeritud tuvastamise järjepidevamaks ja usaldusväärsemaks.

Hüperparameetrite häälestamine ja iteratiivsed hindamised tõid mudeli lähemale inimtasemel järjepidevusele. Kuid Doppeli jaoks tähendas automatiseerimise viimase etapi lõpuleviimine ka seda, et otsused tuli muuta koheselt arusaadavaks.

Iga automatiseeritud mahavõtmine sisaldab nüüd tehisintellekti genereeritud põhjendust, mis selgitab, miks oht eemaldati, andes klientidele kohese ülevaate sellest, miks meetmeid rakendati—midagi, mis kunagi nõudis analüütiku sekkumist.

Selline nähtavus suurendab usaldust, mis on Doppeli kasutajate jaoks kriitiline tegur. Nähes mitte ainult seda, mida tehti, vaid ka seda, miks, annab meeskondadele kindluse kiiresti reageerida ja konteksti nende otsuste selgitamiseks ettevõttesiseselt või sidusrühmadele.

• Vähendas analüütikute töökoormust 80%
• Lühendas ohtudele reageerimise aega tundidelt minutitele
• Kolmekordistas ohtude käsitlemise võimekust
• Enamik ohte klassifitseeritakse automaatselt

Olles saavutanud peaaegu täieliku automatiseerituse õngitsus- ja libadomeenide osas, rakendab Doppel nüüd sama mudelipõhist raamistikku ka teiste suure varieeruvusega kanalite puhul.

„Domeenid on ilmselt kõige keerulisem kanal, millega me tegeleme,“ ütles Madduluri. „Signaalid on segased, sisu muutub pidevalt ja ohud arenevad kiiresti samaaegselt mitmel tasandil. Kui suudame selle otsast lõpuni automatiseerida, suudame seda teha mis tahes asjaga: sotsiaalmeedia, tasulised reklaamid – mida iganes soovite.“

Järgmised verstapostid hõlmavad nende RFT-andmestiku skaleerimist suurusjärgu võrra, uute hindamisstrateegiatega eksperimenteerimist ja GPT‑5 kasutamist eeltöötluse käigus tunnuste eraldamiseks. Need muudatused võimaldavad Doppelil koondada protsessi etappe ja analüüsida keerukamaid ohuindikaatoreid juba protsessi varasemas faasis.

Iga iteratsiooniga ehitab Doppel süsteemi, mis kaitseb seda, mis on tõeline, kõikidel tasanditel, kus usaldus on rünnaku all.