Gervigreindarvarnarkerfi Doppel stöðvar árásir fyrir útbreiðslu

Ein fölsuð vefsíða getur farið í loftið, beint að þúsundum notenda og horfið á innan við klukkustund. Það er meira en nægur tími fyrir árásaraðila til að valda raunverulegu tjóni. Og með gervigreindarverkfærum geta þeir búið til hundruð annarra alveg eins.

Doppel var hannað til að vernda stofnanir gegn djúpfölsunum og eftirlíkingum á netinu, en áttaði sig fljótt á því að gervigreind gerði það að verkum að ógnir gátu vaxið endalaust. Árásaraðilar þurftu ekki lengur að handsmíða svik. Þeir gátu búið til endalaus afbrigði af vefveiðisettum, fölsuðum lénum og reikningum sem líkja eftir öðrum á nokkrum sekúndum.

Til að vera skrefi á undan þróaði Doppel nýja tegund varnarkerfis gegn bragðvísi, byggt á OpenAI GPT‑5 og o4-mini líkönum. Verkvangur Doppel greinir, flokkar og fjarlægir ógnir sjálfvirkt, dregur úr vinnuálagi greinenda um 80%, þrefaldar afkastagetu við meðhöndlun ógnana og styttir viðbragðstíma úr nokkrum klukkustundum í nokkrar mínútur.

Hefðbundin stafræn áhættuvernd byggðist á því að menn færu handvirkt yfir eftirlíkingarsíður, netveiðilén og samfélagsmiðlaprófíla og færslur. Doppel sá að líkanið var að brotna niður þegar árásaraðilar hófu sjálfvirknivæðingu og beittu ógnum hraðar og yfir fleiri árásarsvæði en menn gátu metið.

Sá hraði er lykilatriði fyrir viðskiptavini Doppel, stofnanir sem hafa ekki efni á að bíða klukkustundum saman eftir að staðfesta ógn. Kerfi Doppel flokkar flestar ógnir sjálfkrafa með því að nota OpenAI-líkön fyrir rök og skipulagða endurgjafarlykkju sem kallast fínstilling styrkingar (RFT) til að bæta líkanið með tímanum. Í RFT er endurgjöf frá fólki notuð sem gefin dæmi, sem hjálpar líkan að læra að taka samræmdar og útskýranlegar ákvarðanir upp á eigin spýtur.

LLM-knúið kerfi Doppel er í miðju greiningarkerfis þess. Eftir að merki hafa verið fengin og síuð framkvæmir kerfið röð markvissra rökverkefna: að fara í gegnum mögulegar ógnir með rök, staðfesta ásetning og stýra flokkunarákvörðunum. Hvert stig er hannað til að skapa jafnvægi milli hraða, nákvæmni og samræmis, á meðan sérfræðingar halda fókus á jaðartilvik sem krefjast mannlegrar dómgreindar.

Svona virkar þetta:

• Síun merkja og útdráttur einkenna: Kerfi Doppels taka daglega inn milljónir léna, vefslóða og reikninga. Sambland reynslureglna og OpenAI o4-mini síar út hávaða og dregur út skipulögð einkenni til að styðja við mat á líkani síðar í ferlinu.
• Samhliða staðfesting á ógnum: Hvert viðvörunarmerki er keyrt í gegnum margar GPT‑5 kvaðningar sem eru sérhannaðar fyrir mismunandi tegundir ógnargreiningar. Þessar kvaðningar meta þætti eins og áhættu á persónugervingu, misnotkun á vörumerki eða mynstur í bragðvísiaðferðum.
• Ógnarflokkun: RFT-útgáfan af o4-mini sameinar fyrri staðfestingar til að úthluta skipulögðum flokki—skaðleg, meinlaus eða óljós—með samræmi á framleiðslustigi.
• Lokastaðfesting: Önnur umferð með GPT‑5 staðfestir ákvörðun líkansins og býr til rökstuðning á eðlilegu máli. Ef öryggi fer yfir þröskuld setur kerfið sjálfkrafa af stað framfylgd.
• Mannleg yfirferð: Niðurstöður sem eru óáreiðanlegar eða misvísandi eru sendar til greinenda. Ákvarðanir þeirra eru skráðar og sendar aftur inn í RFT-lykkjuna til að bæta stöðugt samræmi líkans.

Doppel hafði þegar séð umtalsverðan árangur af upprunalegri LLM-bættri uppgötvunarleiðslu sinni, en þegar kom að tilvikum þar sem sama ógnin gæti verið metin á mismunandi hátt eftir því hvaða greinandi ætti í hlut, varð samræmi takmarkandi þátturinn.

Til að byggja upp þetta samræmi beitti Doppel RFT og notaði eigin gögn frá greinendum sem uppsprettu endurgjafar. Hver ákvörðun um að flokka lén sem skaðlegt, meinlaust eða óljóst varð að gefnu dæmi. Þessi merktu dæmi þjálfuðu líkanið til að endurskapa mat sérfræðinga, jafnvel í óljósum jaðartilvikum.

Í nánu samstarfi við hagnýtt verkfræðiteymi OpenAI hannaði Doppel matsföll sem mátu ekki aðeins nákvæmni heldur líka gæði skýringa og umbunuðu líkönum sem rökstuddu skýrt, en ekki bara rétt. Með því að umbreyta endurgjöf greinenda í skipulögð þjálfunargögn sýndi Doppel hvernig RFT gæti gert sjálfvirka greiningu samkvæmari og áreiðanlegri.

Fínstilling ofurstika og ítrekuð möt færðu líkanið nær samræmi á mannlegu stigi. En fyrir Doppel fól það að ljúka síðasta áfanga sjálfvirkninnar einnig í sér að gera ákvarðanir strax skiljanlegar.

Hver sjálfvirk fjarlæging inniheldur nú rökstuðning sem gervigreind býr til og útskýrir hvers vegna ógn var fjarlægð, sem veitir viðskiptavinum tafarlausa innsýn í hvers vegna gripið var til aðgerða — eitthvað sem áður krafðist íhlutunar sérfræðings.

Sá sýnileiki eykur traust, sem er mikilvægur þáttur fyrir notendur Doppel. Að sjá ekki aðeins hvaða aðgerð var gripið til, heldur einnig hvers vegna, veitir teymum það öryggi að bregðast hratt við og samhengið sem þarf til að útskýra þessar ákvarðanir innan fyrirtækisins eða fyrir hagsmunaaðilum.

• Minnkaðu vinnuálag greinenda um 80%
• Styttu viðbragðstíma við ógnunum úr nokkrum klukkustundum í mínútur
• Þreföld geta til að takast á við ógnir
• Flestar ógnir flokkaðar sjálfkrafa

Eftir að hafa náð nánast fullkominni sjálfvirkni á sviði vefveiða og persónugervingar, beitir Doppel nú sama líkanadrifna ramma á aðrar rásir sem einkennast af miklum breytileika.

„Lén eru líklega erfiðasta rásin sem við vinnum með,“ sagði Madduluri. „Merkin eru óreiðukennd, efnið breytist stöðugt og ógnir þróast hratt á mörgum snertiflötum samtímis. Ef við getum sjálfvirknivætt það frá upphafi til enda, getum við gert það fyrir hvað sem er: samfélagsmiðla, greiddar auglýsingar og hvaðeina annað.“

Næstu áfangar fela í sér að auka RFT-gagnasafnið þeirra um stærðargráðu, gera tilraunir með nýjar matsaðferðir og nota GPT‑5 til eiginleikadráttar framar í ferlinu. Þessar breytingar munu gera Doppel kleift að sameina stig ferlisins og greina flóknari ógnarvísbendingar fyrr í ferlinu.

Með hverri endurtekningu er Doppel að byggja upp kerfi sem stefnir að því að verja raunveruleikann á öllum þeim snertiflötum þar sem traust er undir árás.