„Doppel“ DI gynybos sistema sustabdo atakas prieš joms išplintant

Viena apsimetėlių svetainė gali būti sukurta, pasiekti tūkstančius naudotojų ir dingti greičiau nei per valandą. Tokio laiko visiškai pakanka, kad užpuolikas padarytų apčiuopiamos žalos. O naudodami generatyvinius įrankius, jie gali sukurti dar šimtus tokių pačių.

„Doppel“ buvo sukurta siekiant apginti organizacijas nuo netikrų vaizdo įrašų ir internetinių apsimetėlių, tačiau greitai suprato, kad DI leidžia grėsmėms plisti neribotai. Užpuolikams nebereikėjo rankiniu būdu kurti sukčiavimo schemų – per kelias sekundes jie galėdavo sugeneruoti begalę sukčiavimo rinkinių, padirbtų domenų ir netikrų paskyrų.

Norėdama užkirsti tam kelią, „Doppel“ sukūrė naujovišką apsaugos nuo socialinės inžinerijos sistemą, pagrįstą GPT‑5 ir „OpenAI o4-mini“ modeliais. „Doppel“ platforma autonomiškai aptinka, klasifikuoja ir pašalina grėsmes, todėl analitikų darbo krūvis sumažėja 80 proc., grėsmių valdymo pajėgumai padidėja trigubai, o reakcijos laikas sutrumpėja nuo valandų iki minučių.

Tradicinė skaitmeninės rizikos prevencija rėmėsi žmonių darbu – jie turėjo rankiniu būdu peržiūrėti apsimetėlių svetaines, sukčiavimo domenus bei socialinių tinklų profilius ir įrašus. „Doppel“ suprato, kad šis modelis nebeveikia, nes užpuolikai ėmė automatizuoti procesus ir grėsmes skleisti daug greičiau bei plačiau, nei žmonės spėjo jas įvertinti.

Toks greitis yra lemiamas veiksnys „Doppel“ klientams – organizacijoms, kurios negali laukti valandų valandas, kol grėsmė bus patvirtinta. „Doppel“ sistema didžiąją dalį grėsmių klasifikuoja automatiškai, naudodama „OpenAI“ protavimo modelius ir susistemintą grįžtamojo ryšio ciklą, vadinamą skatinamuoju suderinimu (RFT), padedančiu nuolat tobulinti modelį. Naudojant RFT, žmonių atsiliepimai pateikiami kaip įvertinti pavyzdžiai, todėl modeliai išmoksta patys savarankiškai priimti nuoseklius ir paaiškinamus sprendimus.

„Doppel“ LLM grįstas procesas yra pagrindinis jos aptikimo infrastruktūros elementas. Gavusi ir išfiltravusi signalus, sistema atlieka tikslinio protavimo užduotis: vertina potencialias grėsmes, tikrina ketinimus ir priima klasifikavimo sprendimus. Kiekvienas etapas sukurtas taip, kad būtų užtikrintas greitis, tikslumas ir nuoseklumas, o analitikai galėtų susitelkti į išskirtinius atvejus, kai prireikia žmogaus įvertinimo.

Štai kaip tai veikia:

• Signalų filtravimas ir savybių išskyrimas. „Doppel“ sistemos kasdien apdoroja milijonus domenų, URL adresų ir paskyrų. Euristinių metodų ir „OpenAI o4-mini“ derinys išfiltruoja triukšmą ir ištraukia struktūruotas savybes, kuriomis remiamasi atliekant tolesnius modelio vertinimus.
• Lygiagretus grėsmės patvirtinimas. Kiekvienas signalas apdorojamas naudojant kelias GPT‑5 užklausas, specialiai sukurtas skirtingų tipų grėsmėms analizuoti. Šios užklausos vertina tokius veiksnius kaip apsimetimo rizika, netinkamas prekių ženklo naudojimas ar socialinės inžinerijos modeliai.
• Grėsmių klasifikavimas. „OpenAI o4-mini“ RFT versija apibendrina ankstesnius patvirtinimus ir priskiria struktūruotą žymą – kenkėjiška, nepavojinga arba dviprasmiška, taip užtikrindama realioms sistemoms būdingą nuoseklumą.
• Galutinis patvirtinimas. Antrajame etape GPT‑5 patvirtina modelio sprendimą ir sugeneruoja pagrindimą natūraliąja kalba. Jei patikimumo lygis viršija ribą, sistema automatiškai imasi vykdymo veiksmų.
• Žmogaus peržiūra. Mažo patikimumo ar prieštaringi rezultatai perduodami analitikams. Jų sprendimai registruojami ir grąžinami į RFT ciklą, siekiant nuolat gerinti modelio nuoseklumą.

Pradėjusi naudoti LLM grįstą aptikimo procesą, „Doppel“ jau pastebėjo reikšmingą pažangą. Tačiau atvejais, kai skirtingi analitikai tą pačią grėsmę vertindavo nevienodai, didžiausia kliūtimi tapo nuoseklumo trūkumas.

Siekdama užtikrinti šį nuoseklumą, „Doppel“ pritaikė RFT, kaip grįžtamojo ryšio šaltinį naudodama savo analitikų duomenis. Kiekvienas sprendimas klasifikuoti domeną kaip kenkėjišką, nepavojingą ar dviprasmišką tapo įvertintu pavyzdžiu. Šie sužymėti pavyzdžiai išmokė modelį atkartoti ekspertų vertinimus net ir išskirtiniais bei dviprasmiškais atvejais.

Glaudžiai bendradarbiaudama su „OpenAI“ taikomosios inžinerijos komanda, „Doppel“ sukūrė vertinimo funkcijas, kurios matavo ne tik tikslumą, bet ir paaiškinimų kokybę – taip buvo atlyginama modeliams, kurie ne tik pateikdavo teisingą atsakymą, bet ir aiškiai jį argumentuodavo. Paversdama analitikų atsiliepimus susistemintais mokymo duomenimis, „Doppel“ parodė, kaip RFT gali padėti užtikrinti nuoseklesnį ir patikimesnį automatinį aptikimą.

Hiperparametrų derinimas ir pasikartojantys vertinimai leido modeliui pasiekti žmogaus lygio nuoseklumą. Tačiau bendrovei „Doppel“ paskutinis automatizavimo etapas reiškė ir tai, kad sprendimai turi būti iškart suprantami.

Kiekvienas automatinis pašalinimas dabar turi DI sugeneruotą pagrindimą, kuriame paaiškinama, kodėl grėsmė buvo pašalinta. Taip klientai iškart supranta veiksmų priežastį – anksčiau tam prireikdavo analitiko įsikišimo.

Toks skaidrumas didina pasitikėjimą, o tai – lemiamas veiksnys „Doppel“ naudotojams. Matydamos ne tik kokių veiksmų imtasi, bet ir kodėl, komandos gali drąsiau bei greičiau reaguoti, taip pat gauna kontekstą, leidžiantį šiuos sprendimus paaiškinti viduje ar suinteresuotosioms šalims.

• 80 proc. sumažintas analitikų darbo krūvis.
• Nuo valandų iki minučių sutrumpintas reakcijos į grėsmes laikas.
• Trigubai didesni grėsmių valdymo pajėgumai.
• Dauguma grėsmių klasifikuojamos automatiškai.

Pasiekusi beveik visišką sukčiavimo ir apsimetėlių domenų aptikimo automatizaciją, „Doppel“ dabar taiko tą pačią modeliais grįstą sistemą kitiems itin kintantiems kanalams.

„Domenai turbūt yra sudėtingiausias kanalas, su kuriuo susiduriame“, – teigė R. Madduluri. „Signalai yra netvarkingi, turinys nuolat keičiasi, o grėsmės greitai vystosi iškart keliose srityse. Jei galime tai visiškai automatizuoti, vadinasi, galime automatizuoti bet ką: socialinius tinklus, mokamas reklamas ir visa kita.“

Tolesni etapai apima RFT duomenų rinkinio padidinimą dešimčia kartų, eksperimentavimą su naujomis vertinimo strategijomis ir GPT‑5 naudojimą ankstyvojo etapo savybių išskyrimui. Šie pokyčiai leis „Doppel“ sujungti proceso etapus ir ankstesniuose etapuose analizuoti sudėtingesnius grėsmių rodiklius.

Su kiekviena iteracija „Doppel“ kuria sistemą, apsaugančią tikrąją informaciją visose srityse, kuriose kėsinamasi į pasitikėjimą.