A Doppel AI-védelmi rendszere időben megállítja a támadásokat
A GPT‑5 és a megerősítéses finomhangolás (RFT) segítségével a Doppel 80%-kal csökkentette az elemzők munkaterhelését, és most órák helyett percek alatt hárítja el a fenyegetéseket.
Eredmények
80%
egyszerűsített elemzői folyamatok
Eredmények
3x
fenyegetéskezelési kapacitás
Egyetlen megszemélyesítő weboldal elindulhat, több ezer felhasználót célozhat meg, és kevesebb mint egy óra alatt eltűnhet. Ez bőven elegendő idő ahhoz, hogy egy támadó komoly károkat okozzon. És a generatív eszközökkel még több száz hasonlót hozhat létre.
A Doppel azért épült, hogy megvédje a szervezeteket a deepfake-ekkel és az online megszemélyesítésekkel szemben, de gyorsan felismerte, hogy az AI révén a fenyegetések végtelen számban skálázódhatnak. A támadóknak már nem kellett kézzel kidolgozniuk a csalásokat; másodpercek alatt képesek voltak adathalász készletek, hamisított domainek és megszemélyesítő fiókok végtelen számú változatát előállítani.
„Az adathalász támadások okozta károk perceken belül bekövetkezhetnek, mivel gyorsan terjednek a közösségi médiában és az üzenetküldő csatornákon. A végtelen mennyiségű meggyőzés szinte nulla költséggel történő előállításának képessége mindent megváltoztatott.”
A bevezetés belülről
A megelőzés érdekében a Doppel az OpenAI GPT‑5 és o4-mini modellekre épülő, újfajta social engineering elleni védelmi rendszert fejlesztett. A Doppel platformja önállóan észleli, osztályozza és semlegesíti a fenyegetéseket, 80%-kal csökkenti az elemzők munkaterhelését, megháromszorozza a fenyegetéskezelési kapacitást, és a reagálás idejét órákról percekre csökkenti.
Egy lépéssel a gyorsuló fenyegetések előtt
A hagyományos digitális kockázatvédelem arra támaszkodott, hogy emberek manuálisan vizsgálják felül a megszemélyesítő webhelyeket, az adathalász domaineket, valamint a közösségi média profilokat és bejegyzéseket. A Doppel látta, hogy ez a modell összeomlik, ahogy a támadók automatizálni kezdtek, és gyorsabban, valamint több felületen indítottak támadásokat, mint ahogy azokat az emberek képesek lennének kiértékelni.
„Rendszerünk folyamatos jeláradatot dolgoz fel, hogy felismerje a valódi fenyegetéseket ebben a zajban. Amint egy fenyegetést észlelünk, nagyon kevés az idő a cselekvésre, mielőtt bekövetkezne a kár. Az AI használata a döntéshozatal automatizálására az egyik legnagyobb lehetőség a vállalat számára, mert lehetővé teszi, hogy az internet léptékében és sebességével vegyük fel a harcot a támadásokkal szemben.”
Ez a sebesség kulcsfontosságú a Doppel ügyfelei számára: ezek olyan szervezetek, amelyek nem engedhetik meg maguknak, hogy órákat várjanak egy fenyegetés igazolására. A Doppel rendszere a legtöbb fenyegetést automatikusan osztályozza, az érveléshez OpenAI-modelleket használ fel, valamint egy strukturált visszacsatolási ciklust, az úgynevezett megerősítéses finomhangolást (RFT) alkalmaz, hogy idővel javítsa a modellt. Az RFT-ben az emberi visszajelzéseket értékelt példákként használják, segítve a modelleket abban, hogy megtanuljanak önállóan következetes, magyarázható döntéseket hozni.
A Doppel LLM-alapú folyamata az észlelési rendszer központi eleme
A Doppel LLM-alapú folyamata az észlelési rendszer architektúrájának középpontjában áll. A jelzéseket összegyűjtése és megszűrése után, a rendszer célzott érvelési feladatok sorát végzi el: mérlegeli a lehetséges fenyegetéseket, megerősíti a szándékot, és támogatja az osztályozási döntéseket. Minden szakaszban cél a gyorsaság, a pontosság és a következetesség egyensúlyának megteremtése, miközben az elemzők figyelmét azokra a szélsőséges esetekre összpontosítja, amelyek emberi megítélést igényelnek.
Működése:
- Jelszűrés és funkcicók kinyerése: A Doppel rendszerei naponta több millió domaint, URL-t és fiókot dolgoznak fel. A heurisztikák és az OpenAI o4-mini kombinációja kiszűri a zajt, és strukturált jellemzőket nyer ki a további modellértékelések irányításához.
- Párhuzamos fenyegetésmegerősítés: Minden jelzést több, különböző típusú fenyegetéselemzésre kifejezetten kialakított GPT‑5 utasításon vezetünk át. Ezek az utasítások olyan tényezőket értékelnek, mint a megszemélyesítés kockázata, a márkával való visszaélés vagy a social engineering mintázatok.
- Fenyegetésbesorolás: Az o4-mini RFT-verziója a korábbi megerősítéseket összesíti, hogy strukturált címkét rendeljen hozzá—rosszindulatú, ártalmatlan vagy kétértelmű—, üzemi szintű következetességgel.
- Végső ellenőrzés: Egy második GPT‑5 futás érvényesíti a modell döntését, és természetes nyelvezetű indoklást készít. Ha a bizonyosság meghaladja a küszöbértéket, a rendszer automatikusan megkezdi a végrehajtást.
- Emberi ellenőrzés: Az alacsony biztonságú vagy ellentmondásos eredményeket humán elemzők vizsgálják meg. A döntéseiket naplózzák, és visszacsatolják az RFT-ciklusba, hogy folyamatosan javítsák a modell következetességét.
A modell betanítása megerősítéses finomhangolás (RFT) alkalmazásával
A Doppel már jelentős előrelépést tapasztalt az eredeti, LLM-mel továbbfejlesztett észlelési folyamatának köszönhetően, de amikor olyan esetekről volt szó, ahol ugyanazt a fenyegetést az elemzőtől függően eltérően ítélhették meg, a következetesség vált a korlátozó tényezővé.
„Az RFT egyik valódi előnye, hogy következetesebbé teszi a modell döntéseit.”
A következetesség megteremtése érdekében a Doppel az RFT-t alkalmazta, saját elemzői adatait használva a visszajelzési forrásaként. Minden döntés, amely egy domaint rosszindulatúnak, jóindulatúnak vagy nem egyértelműnek minősített, osztályozott példává vált. Ezek a címkés példák arra tanították a modellt, hogy reprodukálja a szakértői megítélést, még a kétértelmű esetekben is.
Az OpenAI alkalmazott mérnöki csapatával szorosan együttműködve a Doppel olyan osztályozófüggvényeket tervezett, amelyek nemcsak a pontosságot, hanem a magyarázat minőségét is értékelték, jutalmazva a világosan és helyesen érvelő modelleket. Az elemzői visszajelzések strukturált betanítási adatokká alakításával a Doppel megmutatta, hogy az RFT hogyan teheti az automatizált észlelést következetesebbé és megbízhatóbbá.
A bizalom megvalósítása az átláthatóság révén
A hiperparaméter-hangolás és az iteratív értékelések közelebb hozták a modellt az emberi szintű következetességhez. A Doppel számára azonban az automatizálás utolsó szakaszának megvalósítása azt is jelentette, hogy a döntéseket azonnal érthetővé kellett tenni.
Minden automatizált eltávolítás most már tartalmaz egy mesterséges intelligencia által generált indoklást, amely megmagyarázza, miért került sor a fenyegetés megszüntetésére, így az ügyfelek azonnali betekintést kapnak a döntés okába—ami korábban elemzői beavatkozást igényelt.
Ez az átláthatóság erősíti a bizalmat, ami kulcsfontosságú tényező a Doppel felhasználói számára. Ha nemcsak azt látják, milyen intézkedés történt, hanem azt is, hogy miért, az magabiztosságot ad a csapatoknak ahhoz, hogy gyorsan reagáljanak, és megfelelő kontextust biztosít ahhoz, hogy ezeket a döntéseket házon belül vagy az érintettek felé is meg tudják magyarázni.
Az eredmények röviden
- Elemzői munkaterhelés csökkentése 80%-kal
- A fenyegetésekre adott válaszidőt órákról percekre csökkentettük
- Megháromszorozott fenyegetéskezelési kapacitás
- A legtöbb fenyegetést automatikusan besorolásra kerül
Mi következik?
Miután az adathalászati és megszemélyesítési domaineken elérte a szinte teljes fokú automatizálást, a Doppel most ugyanezt a modellvezérelt keretrendszert alkalmazza más, nagy varianciájú csatornákra is.
„A domainek valószínűleg a legnehezebb csatornák, amelyekkel foglalkozunk” - mondta Madduluri. „A jelek kaotikusak, a tartalom folyamatosan változik, és a fenyegetések egyszerre több felületen is gyorsan fejlődnek. „Ha ezt elejétől a végéig automatizálni tudjuk, akkor bármit el tudunk végezni: közösségi médiát, fizetett hirdetéseket, és így tovább.”
A következő mérföldkövek között szerepel az RFT-adatkészlet nagyságrenddel való növelése, kísérletezés új értékelési stratégiákkal, valamint a GPT‑5 használata upstream jellemzőkinyeréshez. Ezek a változtatások lehetővé teszik, hogy a Doppel összevonja a folyamat szakaszait, és a folyamat korábbi szakaszában dolgozza fel az összetettebb fenyegetési indikátorokat.
Iterációról iterációra a Doppel egy olyan rendszer felé halad, amely minden olyan felületen megvédi a valóságot, ahol a bizalom támadás alatt áll.
