Dopplov obrambni sistem UI ustavi napade, preden se razširijo

Eno samo spletno mesto, ki se izdaja za drugo organizacijo, se lahko zažene, doseže tisoče uporabnikov in izgine v manj kot eni uri. To je več kot dovolj časa, da napadalec povzroči dejansko škodo. Z generativnimi orodji pa lahko hitro vzpostavijo še na stotine takšnih spletnih mest.

Doppel je bil zasnovan za zaščito organizacij pred globokimi ponaredki in spletnimi lažnimi predstavitvami, vendar je hitro ugotovil, da umetna inteligenca omogoča neskončno širjenje groženj. Napadalcem ni bilo več treba ročno delati prevar; v nekaj sekundah so lahko ustvarili neskončno različic kompletov za lažno predstavljanje, ponarejenih domen in računov za lažno identiteto.

Da bi ostal korak pred drugimi, je Doppel razvil novo vrsto obrambnega sistema proti socialnemu inženiringu, ki temelji na modelih OpenAI GPT‑5 in o4-mini. Dopplova platforma samodejno zaznava, razvršča in odpravlja grožnje, kar zmanjša obremenitev analitikov za 80 %, potroji zmogljivost obravnave groženj in skrajša odzivni čas z ur na minute.

Tradicionalna zaščita pred digitalnimi tveganji je temeljila na tem, da so ljudje ročno pregledovali lažna spletna mesta, domene za lažno predstavljanje ter profile in objave na družbenih omrežjih. Doppel je videl, da ta model razpada, ko so napadalci začeli avtomatizirati svoje delovanje ter grožnje uvajati hitreje in na več področjih, kot so jih ljudje lahko ocenili.

Ta hitrost je ključnega pomena za stranke podjetja Doppel – organizacije, ki si ne morejo privoščiti večurnega čakanja na to, da grožnjo potrdijo. Sistem podjetja Doppel večino groženj razvrsti samodejno, pri čemer za sklepanje uporablja modele OpenAI in strukturirano povratno zanko, imenovano prilagajanje z okrepljenim učenjem (RFT), da sčasoma izboljša model. Pri prilagajanju z okrepljenim učenjem se človeške povratne informacije uporabljajo kot ocenjeni primeri, ki modelom pomagajo, da se naučijo sami sprejemati dosledne in razložljive odločitve.

Dopplov cevovod, ki ga poganja veliki jezikovni model, je v središču njegovega sklopa za zaznavanje. Ko so signali pridobljeni in filtrirani, sistem izvede vrsto ciljno usmerjenih nalog sklepanja: sklepanje o morebitnih grožnjah, potrjevanje namena in usmerjanje odločitev o razvrščanju. Vsaka faza je zasnovana tako, da uravnoteži hitrost, natančnost in doslednost, hkrati pa analitike ohranja osredotočene na mejne primere, ki zahtevajo človeško presojo.

Tukaj je, kako to deluje:

• Filtriranje signalov in ekstrakcija značilnosti: Dopplovi sistemi vsak dan zajamejo milijone domen, URL-jev in računov. Kombinacija hevristik in OpenAI o4-mini izloči šume ter izlušči strukturirane značilnosti za usmerjanje nadaljnjih ocen modelov.
• Vzporedna potrditev groženj: Vsak signal se obdela z več pozivi GPT‑5, ki so namensko zasnovani za različne vrste analize groženj. Ti pozivi ocenjujejo dejavnike, kot so tveganje lažnega predstavljanja, zloraba blagovne znamke ali vzorci socialnega inženiringa.
• Razvrstitev groženj: Različica o4-mini, prilagojena z okrepljenim učenjem, združi predhodne potrditve, da dodeli strukturirano oznako — zlonamerno, nenevarno ali dvoumno — z doslednostjo, primerno za produkcijsko uporabo.
• Končno preverjanje: Drugi prehod z GPT‑5 potrdi odločitev modela in ustvari utemeljitev v naravnem jeziku. Če zanesljivost preseže prag, sistem samodejno sproži izvrševanje.
• Človeški pregled: Rezultati z nizko stopnjo zaupanja ali nasprotujoči si rezultati se usmerijo k človeškim analitikom. Njihove odločitve se beležijo in vračajo v zanko prilagajanja z okrepljenim učenjem, da se neprekinjeno izboljšuje doslednost modela.

Doppel je že dosegal pomembne izboljšave s svojim prvotnim cevovodom za zaznavanje, izboljšanim z velikim jezikovnim modelom. Vendar pa je pri primerih, kjer je bila ista grožnja glede na analitika presojena različno, doslednost postala omejujoči dejavnik.

Da bi zagotovil to doslednost, je Doppel uporabil prilagajanje z okrepljenim učenjem (RFT), pri čemer je kot vir povratnih informacij uporabil podatke svojih analitikov. Vsaka odločitev, da se domena razvrsti kot zlonamerna, neškodljiva ali nejasna, je postala ocenjen primer. Ti označeni primeri so model usposobili, da posnema presojo strokovnjakov, tudi pri dvoumnih mejnih primerih.

V tesnem sodelovanju z OpenAI-jevo ekipo za aplikativni inženiring je Doppel zasnoval ocenjevalne funkcije, ki niso ocenjevale le natančnosti, temveč tudi kakovost pojasnjevanja, ter nagrajevale modele, ki so sklepali jasno, ne le pravilno. S pretvorbo povratnih informacij analitikov v strukturirane podatke za usposabljanje je Doppel pomagal pokazati, kako lahko prilagajanje z okrepljenim učenjem omogoči bolj dosledno in zanesljivo avtomatizirano zaznavanje.

Prilagajanje hiperparametrov in iterativna vrednotenja so model približali doslednosti na ravni človeka. Vendar je za Doppel dokončanje zadnjega koraka avtomatizacije pomenilo tudi, da so bile odločitve takoj razumljive.

Vsaka samodejna odstranitev zdaj vključuje utemeljitev, ki jo ustvari UI in pojasnjuje, zakaj je bila grožnja odstranjena, strankam pa omogoča takojšen vpogled v to, zakaj je bil ukrep izveden — kar je nekoč zahtevalo posredovanje analitika.

Ta preglednost krepi zaupanje, ki je ključni dejavnik za Dopplove uporabnike. Vpogled ne le v to, kateri ukrep je bil sprejet, temveč tudi zakaj, ekipam daje samozavest za hiter odziv ter kontekst, da te odločitve lahko pojasnijo interno ali deležnikom.

• Zmanjšajte delovne obremenitve analitikov za 80 %
• Čas odziva na grožnje smo skrajšali z ur na minute
• Potrojena zmogljivost za obvladovanje groženj
• Večina groženj je samodejno razvrščenih

Potem ko je Doppel na področjih lažnega predstavljanja in imitacije dosegel skoraj popolno avtomatizacijo, zdaj isti okvir, podprt z modeli, uporablja tudi za druge kanale z veliko variabilnostjo.

»Domene so verjetno najzahtevnejši kanal, ki ga obravnavamo,« je povedal Madduluri. »Signali so kaotični, vsebina se nenehno spreminja, grožnje pa se hitro razvijajo na več površinah hkrati. Če lahko to avtomatiziramo od začetka do konca, lahko to naredimo za karkoli: družbena omrežja, plačani oglasi, karkoli si zamislite.”

Naslednji mejniki vključujejo povečanje njihovega nabora podatkov za prilagajanje z okrepljenim učenjem za red velikosti, preizkušanje novih strategij ocenjevanja in uporabo GPT‑5 za zgodnje pridobivanje značilnosti. Te spremembe bodo Doppelu omogočile združevanje faz procesa in sklepanje o kompleksnejših kazalnikih groženj v zgodnejši fazi procesa.

Z vsako iteracijo Doppel gradi sistem, ki ščiti resničnost na vseh področjih, kjer je zaupanje ogroženo.