Doppelov UI sistem odbrane zaust. nap. prije njihovog proširenja

Jedna stranica za lažno predstavljanje može se pokrenuti, ciljati hiljade korisnika i nestati za manje od sat vremena. To je više nego dovoljno vremena da napadač nanese stvarnu štetu. A uz generativne alate, mogu napraviti na stotine novih baš poput njega.

Doppel je izgrađen da štiti organizacije od deepfakeova i lažnog predstavljanja na internetu, ali je brzo shvatio da UI znači da prijetnje mogu rasti beskonačno. Napadači više nisu morali ručno izrađivati prevare; mogli su generirati beskrajne varijante phishing kompleta, lažnih domena i naloga za lažno predstavljanje za nekoliko sekundi.

Da bi ostao korak ispred, Doppel je razvio novu vrstu sistema odbrane od društvenog inženjeringa, zasnovanog na modelima OpenAI GPT‑5 i o4-mini. Doppelova platforma autonomno otkriva, klasificira i uklanja prijetnje, smanjuje opterećenje analitičara za 80%, utrostručuje kapacitet za obradu prijetnji i skraćuje vrijeme odgovora sa sati na minute.

Tradicionalna zaštita od digitalnih rizika oslanjala se na ljude da ručno pregledaju stranice za lažno predstavljanje, phishing domene, te profile i objave na društvenim mrežama. Doppel je uvidio da se taj model počinje raspadati kako su napadači krenuli s automatizacijom, pokrećući prijetnje brže i preko više površina napada nego što su ih ljudi mogli procijeniti.

Ta brzina je ključna za Doppelove klijente, organizacije koje ne mogu sebi priuštiti da čekaju satima kako bi potvrdile prijetnju. Doppelov sistem automatski klasificira većinu prijetnji, koristeći OpenAI modele za rezonovanje i strukturiranu povratnu petlju poznatu kao fino podešavanje s potkrepljenjem (precizno podešavanje potkrepljivanjem, RFT) kako bi se model s vremenom poboljšavao. U precizno podešavanje potkrepljivanjem, ljudski povratni odgovor koristi se kao ocijenjeni primjeri, pomažući modelima da nauče samostalno donositi dosljedne, objašnjive odluke.

Doppelov LLM cjevovod nalazi se u središtu njegovog detekcijskog steka. Nakon što se signali prikupe i filtriraju, sistem izvršava niz ciljanih zadataka rezonovanja: rezonovanje o potencijalnim prijetnjama, potvrđivanje namjere i usmjeravanje odluka o klasifikaciji. Svaka faza osmišljena je da uskladi brzinu, tačnost i dosljednost, uz zadržavanje fokusa analitičara na granične slučajeve koji zahtijevaju ljudsku procjenu.

Evo kako funkcionira:

• Filtriranje signala i izdvajanje karakteristika: Doppelovi sistemi svakodnevno obrađuju milione domena, URL-ova i računa. Kombinacija heuristika i OpenAI o4-mini filtrira šum i izdvaja strukturirane karakteristike kako bi usmjerila naknadne evaluacije modela.
• Paralelna potvrda prijetnji: Svaki signal prolazi kroz više GPT‑5 upita posebno osmišljenih za različite vrste analize prijetnji. Ovi upit procjenjuju faktore poput rizika od lažnog predstavljanja, zloupotrebe brenda ili obrazaca socijalnog inženjeringa.
• Klasifikacija prijetnji: precizno podešavanje potkrepljivanjem verzija o4-mini objedinjuje ranije potvrde kako bi dodijelila strukturiranu oznaku — zlonamjerna, bezopasna ili dvosmislena — uz dosljednost na produkcijskom nivou.
• Završna provjera: drugi prolaz GPT‑5 validira odluku modela i generira obrazloženje na prirodnom jeziku. Ako pouzdanost premaši prag, sistem automatski pokreće izvršavanje mjera.
• Ljudski pregled: rezultati s niskim stepenom pouzdanosti ili proturječni rezultati usmjeravaju se ljudskim analitičarima. Njihove odluke se evidentiraju i vraćaju u petlju preciznog podešavanja potkrepljivanjem kako bi se kontinuirano poboljšavala dosljednost modela.

Doppel je već vidio značajne pomake zahvaljujući svom originalnom sistemu za detekciju poboljšanom LLM-om, ali kada su u pitanju slučajevi gdje bi ista prijetnja mogla biti različito procijenjena zavisno od analitičara, dosljednost je postala ograničavajući faktor.

Da bi izgradio tu dosljednost, Doppel je primijenio precizno podešavanje potkrepljivanjem, koristeći vlastite podatke analitičara kao izvor povratnih informacija. Svaka odluka da se domena klasificira kao zlonamjerna, benigna ili nejasna postala je ocijenjeni primjer. Ti označeni primjeri obučili su model da replicira stručnu procjenu, čak i u dvosmislenim rubnim slučajevima.

Blisko sarađujući s OpenAI timom za primijenjeni inženjering, Doppel je osmislio funkcije za ocjenjivanje koje su procjenjivale ne samo tačnost nego i kvalitet objašnjenja, nagrađujući modele koji su jasno rezonovali, a ne samo tačno odgovarali. Pretvaranjem povratnih informacija analitičara u strukturirane podatke za obuku, Doppel je pomogao pokazati kako bi precizno podešavanje potkrepljivanjem moglo učiniti automatizovano otkrivanje dosljednijim i pouzdanijim.

Podešavanje hiperparametara i iterativne evaluacije približilo je model dosljednosti na ljudskom nivou. Ali za Doppel, dovršavanje posljednjeg koraka automatizacije također je značilo učiniti odluke odmah razumljivima.

Svako automatizirano uklanjanje sada uključuje UI-generirano obrazloženje koje objašnjava zašto je prijetnja uklonjena, pružajući korisnicima trenutni uvid u razloge poduzete akcije — nešto što je ranije zahtijevalo intervenciju analitičara.

Ta vidljivost povećava povjerenje, što je ključni faktor za Doppelove korisnike. Uvid ne samo u to koja je radnja poduzeta, već i zašto, daje timovima sigurnost da brzo reaguju i kontekst da te odluke objasne interno ili zainteresovanim stranama.

• Smanjite radno opterećenje analitičara za 80%
• Vrijeme odgovora na prijetnje smanjeno sa sati na minute
• Kapacitet za rukovanje prijetnjama je utrostručen
• Većina prijetnji automatski klasifikovana

Nakon što je postigao gotovo potpunu automatizaciju za domene za phishing i lažno predstavljanje, Doppel sada primjenjuje isti okvir vođen modelom na druge kanale sa velikom varijabilnošću.

„Domene su vjerovatno najteži kanal kojim se bavimo“, rekao je Madduluri. „Signali su neuredni, sadržaj se stalno mijenja, a prijetnje se brzo razvijaju na više površina istovremeno.“ Ako to možemo automatizirati od početka do kraja, možemo to uraditi za bilo šta: društvene mreže, plaćeni oglasi, šta god poželite.

Sljedeće prekretnice uključuju povećanje njihovog skupa podataka za precizno podešavanje potkrepljivanjem za red veličine, eksperimentiranje sa novim strategijama ocjenjivanja i korištenje GPT‑5 za izdvajanje značajki u ranijoj fazi. Ove promjene će omogućiti Doppelu da objedini faze procesa i rasuđuje o složenijim indikatorima prijetnji ranije u procesu.

Sa svakom iteracijom, Doppel razvija sistem koji brani ono što je stvarno na svim površinama gdje je povjerenje ugroženo.