Doppelov AI sustav obrane zaustavlja napade prije nego se prošire

Jedna stranica za lažno predstavljanje može se pokrenuti, ciljati tisuće korisnika i nestati za manje od sat vremena. To je više nego dovoljno vremena da napadač nanese stvarnu štetu. Uz generativne alate mogu stvoriti još stotine drugih baš poput njega.

Doppel je osmišljen kako bi štitio organizacije od deepfakeova i lažnog predstavljanja na internetu, no brzo je shvatio da umjetna inteligencija omogućuje beskonačno skaliranje prijetnji. Napadači više nisu morali ručno izrađivati prijevare nego su u nekoliko sekundi mogli generirati beskrajne varijante phishing kompleta, lažiranih domena i računa za lažno predstavljanje.

Kako bi ostao korak ispred, Doppel je razvio novu vrstu sustava obrane od društvenog inženjeringa temeljenog na modelu OpenAI GPT‑5 i o4-mini. Doppelova platforma autonomno otkriva, klasificira i uklanja prijetnje, čime se smanjuje opterećenje analitičara za 80 %, utrostručuje kapacitet za obradu prijetnji i skraćujući vrijeme odgovora sa sati na minute.

Tradicionalna zaštita od digitalnih rizika oslanjala se na to da ljudi ručno pregledavaju stranice za lažno predstavljanje, phishing domene te profile i objave na društvenim mrežama. Doppel je uvidio da je taj model počeo zakazivati kada su napadači počeli automatizirati procese, tako što su prijetnje brže pokretali i na većem broju površina napada nego što su ih ljudi mogli procijeniti.

Ta je brzina ključna za Doppelove korisnike, organizacije koje si ne mogu priuštiti čekanje satima kako bi potvrdile prijetnju. Doppelov sustav automatski klasificira većinu prijetnji koristeći OpenAI modele za rasuđivanje i strukturiranu povratnu petlju poznatu kao precizno podešavanje s potkrepljivanjem (RFT) kako bi se model s vremenom poboljšavao. U precizno podešavanje potkrepljivanjem, ljudska povratna informacija koristi se kao ocijenjeni primjeri, što modelima pomaže naučiti samostalno donošenje dosljednih i objašnjivih odluka.

Doppelov kanal koji pokreću LLM-ovi nalazi se u središtu njegova sustava za detekciju. Nakon što se signali prikupe i filtriraju, sustav obavlja niz ciljanih zadataka rasuđivanja: rasuđivanje kroz potencijalne prijetnje, potvrđivanje namjere i usmjeravanje odluka o klasifikaciji. Svaka je faza osmišljena tako da uravnoteži brzinu, točnost i dosljednost, a pritom analitičare usmjerava na rubne slučajeve koji zahtijevaju ljudsku prosudbu.

Evo kako to funkcionira:

• Filtriranje signala i izdvajanje značajki: Doppelovi sustavi svakodnevno obrađuju milijune domena, URL-ova i računa. Kombinacija heuristika i OpenAI-ja o4-mini filtrira šum i izdvaja strukturirane značajke kako bi usmjerila naknadne procjene modela.
• Paralelna potvrda prijetnji: Svaki signal prolazi kroz više GPT‑5 upita posebno namijenjenih različitim vrstama analize prijetnji. Taj upit procjenjuje čimbenike kao što su rizik od lažnog predstavljanja, zlouporaba brenda ili obrasci društvenog inženjeringa.
• Klasifikacija prijetnji: Verzija o4-mini s preciznim podešavanjem potkrepljivanjem sintetizira prethodne potvrde kako bi dodijelila strukturiranu oznaku – zlonamjerna, benigna ili dvosmislena – uz dosljednost na produkcijskoj razini.
• Završna provjera: Drugi prolaz GPT‑5 potvrđuje odluku modela i generira obrazloženje na prirodnom jeziku. Ako pouzdanost premašuje prag, sustav automatski pokreće provedbu.
• Ljudski pregled: Rezultati s niskom razinom pouzdanosti ili proturječni usmjeravaju se ljudskim analitičarima. Njihove odluke bilježe se i vraćaju u RFT petlju radi kontinuiranog poboljšavanja dosljednosti modela.

Doppel je već ostvario znatne pomake zahvaljujući poboljšanom detekcijskom sustavu potpomognutim LLM-om. No u slučajevima u kojima se ista prijetnja može različito procijeniti ovisno o analitičaru, dosljednost je postala ograničavajući čimbenik.

Kako bi postigao tu dosljednost, Doppel je primijenio precizno podešavanje potkrepljivanjem koristeći vlastite podatke analitičara kao izvor povratnih informacija. Svaka odluka o klasifikaciji domene kao zlonamjerne, bezopasne ili nejasne postala je ocijenjeni primjer. Ti označeni primjeri obučili su model da replicira prosudbu stručnjaka, čak i u dvosmislenim rubnim slučajevima.

U bliskoj suradnji s OpenAI-jevim timom za primijenjeni inženjering, Doppel je osmislio funkcije ocjenjivača koje su ocjenjivale ne samo točnost nego i kvalitetu objašnjenja, čime se nagrađuju modeli koji su jasno zaključivali, a ne samo ispravno. Pretvaranjem povratnih informacija analitičara u strukturirane podatke za obuku, Doppel je pomogao pokazati kako bi precizno podešavanje potkrepljivanjem moglo automatizirano otkrivanje učiniti dosljednijim i pouzdanijim.

Podešavanje hiperparametara i iterativnih evaluacija približilo je model dosljednosti ljudskoj razini. No za Doppel, dovršetak posljednje etape automatizacije značilo je i da odluke budu odmah razumljive.

Svako automatizirano uklanjanje sada uključuje obrazloženje koje generira AI i koje objašnjava zašto je prijetnja uklonjena, čime se korisnicima pruža trenutačan uvid u to zašto je poduzeta radnja – nešto što je nekoć zahtijevalo intervenciju analitičara.

Ta preglednost povećava povjerenje, što je ključan čimbenik za Doppelove korisnike. Uvid ne samo u to koja je radnja poduzeta nego i zašto timovima daje sigurnost da brzo reagiraju i kontekst potreban za objašnjenje tih odluka interno ili dionicima.

• smanjeno radno opterećenje analitičara za 80 %
• manje vrijeme odgovora na prijetnje s nekoliko sati na nekoliko minuta
• utrostručen kapacitet za obradu prijetnji
• većina prijetnji automatski klasificirana.

Nakon što je postigao gotovo potpunu automatizaciju za domene za phishing i lažno predstavljanje, Doppel sada primjenjuje isti okvir temeljen na modelu i na druge kanale s velikom varijabilnošću.

„Domene su vjerojatno najteži kanal kojim se bavimo”, rekao je Madduluri. „Signali su kaotični, sadržaj se stalno mijenja, a prijetnje se brzo razvijaju na više površina istodobno. Ako to možemo automatizirati od početka do kraja, možemo to primijeniti na bilo što: društvene mreže, plaćene oglase, što god želite.”

Sljedeće prekretnice uključuju povećanje njihova skupa podataka za precizno podešavanje potkrepljivanjem za red veličine, eksperimentiranje s novim strategijama ocjenjivanja i upotrebu GPT‑5 za uzvodno izdvajanje značajki. Te će promjene omogućiti Doppelu da objedini faze kanala i ranije u postupku analizira složenije pokazatelje prijetnji.

Sa svakom iteracijom Doppel gradi sustav koji štiti stvarnost na svim mjestima gdje je povjerenje ugroženo.