Sistemi i mbrojtjes AI i Doppel ndalon sulmet para se të përhapen

Një faqe e vetme mashtrimi mund të lançohet, të synojë mijëra përdorues dhe të zhduket brenda një ore. Kjo kohë është më se e mjaftueshme që një sulmues të shkaktojë dëme reale. Dhe me mjete gjeneruese, ata mund të krijojnë qindra të tjera të ngjashme.

Doppel u krijua për të mbrojtur organizatat nga deepfake-et dhe imitimet online, por shpejt kuptoi se AI do të thoshte se kërcënimet mund të shkallëzoheshin pafundësisht. Sulmuesit nuk kishin më nevojë t’i krijonin mashtrimet me dorë; ata mund të gjeneronin variante të pafundme të paketave të phishing, domeneve të falsifikuara dhe llogarive për imitim brenda sekondash.

Për të qëndruar një hap përpara, Doppel zhvilloi një lloj të ri sistemi mbrojtjeje kundër inxhinierisë sociale, të ndërtuar mbi modelet OpenAI GPT‑5 dhe o4-mini. Platforma e Doppel zbulon, klasifikon dhe eliminon kërcënimet në mënyrë autonome, duke ulur ngarkesën e punës së analistëve me 80%, duke trefishuar kapacitetin e trajtimit të kërcënimeve dhe duke e ulur kohën e reagimit nga orë në minuta.

Mbrojtja tradicionale nga rreziqet dixhitale mbështetej te njerëzit për të shqyrtuar manualisht faqet e imitimit, domenet e phishing-ut dhe profilet dhe postimet në rrjetet sociale. Doppel pa se ai model po dështonte ndërsa sulmuesit nisën të automatizonin, duke lëshuar kërcënime më shpejt dhe në më shumë sipërfaqe sulmi sesa njerëzit mund t’i vlerësonin ato.

Kjo shpejtësi është kritike për klientët e Doppel, organizata që nuk mund t’ia lejojnë vetes të presin me orë të tëra për të konfirmuar një kërcënim. Sistemi i Doppel i klasifikon shumicën e kërcënimeve automatikisht, duke përdorur modele të OpenAI për arsyetim dhe një qark të strukturuar reagimesh të njohur si rafinim përforcues (RFT) për ta përmirësuar modelin me kalimin e kohës. Në RFT, reagimet njerëzore përdoren si shembuj të vlerësuar, duke i ndihmuar modelet të mësojnë të marrin vendime të qëndrueshme dhe të shpjegueshme vetë.

Procesi i Doppel i drejtuar nga LLM-ja qëndron në qendër të strukturës së saj të zbulimit. Pasi sinjalet merren dhe filtrohen, sistemi kryen një seri detyrash të synuara arsyetimi: arsyetim mbi kërcënimet e mundshme, konfirmim të qëllimit dhe orientim të vendimeve të klasifikimit. Çdo fazë është projektuar për të balancuar shpejtësinë, saktësinë dhe qëndrueshmërinë, ndërsa i mban analistët të përqendruar te rastet e skajshme që kërkojnë gjykim njerëzor.

Ja se si funksionon:

• Filtrimi i sinjaleve dhe nxjerrja e veçorive: Sistemet e Doppel përthithin çdo ditë miliona domene, URL dhe llogari. Një kombinim heuristikash dhe OpenAI o4-mini filtron zhurmën dhe nxjerr veçori të strukturuara për të udhëhequr vlerësimet pasuese të model.
• Konfirmim paralel i kërcënimit: Çdo sinjal kalon nëpër disa kërkesa GPT‑5 të ndërtuara posaçërisht për lloje të ndryshme të analizës së kërcënimeve. Këto kërkesa vlerësojnë faktorë si rreziku i imitimit, keqpërdorimi i markës ose modelet e inxhinierisë sociale.
• Klasifikimi i kërcënimit: Versioni RFT i o4-mini sintetizon konfirmimet e mëparshme për të caktuar një etiketë të strukturuar—keqdashëse, e padëmshme ose e paqartë—me konsistencë të nivelit të prodhimit.
• Verifikimi përfundimtar: Një kalim i dytë me GPT‑5 vërteton vendimin e model dhe gjeneron një arsyetim në gjuhën natyrore. Nëse niveli i besueshmërisë tejkalon pragun, sistemi nis automatikisht zbatimin.
• Shqyrtim njerëzor: Rezultatet me besueshmëri të ulët ose kontradiktore i kalohen analistëve njerëzorë. Vendimet e tyre regjistrohen dhe rikthehen në ciklin RFT për të përmirësuar vazhdimisht konsistencën e modelit.

Doppel kishte parë tashmë përmirësime domethënëse nga linja detektimi origjinale e përmirësuar me LLM, por kur bëhej fjalë për raste ku i njëjti kërcënim mund të gjykohej ndryshe në varësi të analistit, konsistenca u bë faktori kufizues.

Për të krijuar atë qëndrueshmëri, Doppel aplikoi RFT duke përdorur të dhënat e analistëve të vet si burim reagimesh. Çdo vendim për të klasifikuar një domen si me qëllim të keq, të padëmshëm ose të paqartë u bë një shembull i vlerësuar. Këta shembuj të etiketuar e trajnuan modelin të riprodhojë gjykimin e ekspertëve, edhe në raste kufitare të paqarta.

Duke punuar ngushtë me ekipin e inxhinierisë së aplikuar të OpenAI, Doppel projektoi funksione vlerësimi që vlerësonin jo vetëm saktësinë, por edhe cilësinë e shpjegimit, duke shpërblyer model që arsyetonin qartë, jo vetëm saktë. Duke i shndërruar komentet e analistëve në të dhëna trajnimi të strukturuara, Doppel ndihmoi të tregohej se si RFT mund ta bënte zbulimin e automatizuar më të qëndrueshëm dhe më të besueshëm.

Rregullimi i hiperparametrave dhe vlerësimet përsëritëse e afruan model më pranë qëndrueshmërisë së nivelit njerëzor. Por për Doppel, përfundimi i kilometrës së fundit të automatizimit nënkuptonte gjithashtu t’i bënte vendimet menjëherë të kuptueshme.

Çdo heqje automatike tani përfshin një arsyetim të gjeneruar nga AI-ja që shpjegon pse u hoq një kërcënim, duke u dhënë klientëve menjëherë qartësi mbi arsyen pse u ndërmor veprimi, diçka që më parë kërkonte ndërhyrjen e një analisti.

Kjo dukshmëri rrit besimin, që është një faktor thelbësor për përdoruesit e Doppel. Të kuptuarit jo vetëm se çfarë veprimi u ndërmor, por edhe pse, u jep ekipeve besimin për t’u përgjigjur shpejt dhe kontekstin për të shpjeguar ato vendime brenda organizatës ose për palët e interesuara.

• U ulën ngarkesat e punës së analistëve me 80%
• U zvogëluan kohët e përgjigjes ndaj kërcënimeve nga orë në minuta
• Kapacitet i trefishuar për trajtimin e kërcënimeve
• Shumica e kërcënimeve klasifikohen automatikisht

Pasi ka arritur automatizim pothuajse të plotë për fushat e phishing-ut dhe të imitimit të identitetit, Doppel tani po zbaton të njëjtin kuadër të drejtuar nga modeli edhe në kanale të tjera me variacion të lartë.

“Domenet janë me shumë gjasë kanali më i vështirë që trajtojmë”, tha Madduluri. “Sinjalet janë të çrregullta, përmbajtja ndryshon vazhdimisht dhe kërcënimet evoluojnë shpejt në disa sipërfaqe njëkohësisht. Nëse mund ta automatizojmë atë nga fillimi në fund, mund ta bëjmë për çdo gjë: rrjetet sociale, reklama me pagesë, çfarëdo që të doni.”

Arritjet kryesore të ardhshme përfshijnë rritjen e shkallës së grupit të tyre të të dhënave RFT me një rend madhësie, eksperimentimin me strategji të reja vlerësimi dhe përdorimin e GPT‑5 për nxjerrjen e veçorive në rrjedhën e sipërme. Këto ndryshime do t’i lejojnë Doppel-it të konsolidojë fazat e procesit dhe të arsyetojë mbi treguesit më kompleksë të kërcënimeve më herët gjatë procesit.

Me çdo përsëritje, Doppel po ndërton një sistem që mbron atë që është e vërtetë në çdo sipërfaqe ku besimi është i rrezikuar.