Doppel-дің AI қорғаныс жүйесі шабуылдарды таралмай тоқтатады

Бір ғана кейіп таныту сайты іске қосылып, мыңдаған пайдаланушыны нысанаға алып, бір сағатқа жетпей ғайып болуы мүмкін. Бұл шабуылдаушыға елеулі зиян келтіруге әбден жеткілікті уақыт. Ал генеративті құралдардың көмегімен олар соған ұқсас жүздеген нұсқаны тағы да тез жасай алады.

Doppel ұйымдарды дипфейктер мен интернеттегі кейіп танытудан қорғау үшін құрылған, бірақ AI қауіптердің шексіз ауқымда өсе алатынын тез аңғарды. Шабуылдаушыларға енді алаяқтықты қолдан жасау қажет болмады; олар фишинг жинақтарының, жалған домендердің және кейіп танытатын аккаунттардың шексіз нұсқаларын секундтар ішінде тудыра алды.

Алда болу үшін Doppel OpenAI GPT‑5 және o4-mini модельдеріне негізделген әлеуметтік инженериядан қорғайтын жаңа жүйе жасады. Doppel платформасы қауіптерді автономды түрде анықтап, жіктеп және жояды, соның арқасында сарапшылардың жүктемесін 80%-ға қысқартып, қауіптерді өңдеу қуатын үш есе арттырып, жауап беру уақытын сағаттардан минуттарға дейін азайтады.

Дәстүрлі цифрлық тәуекелден қорғау тәсілдері кейіп таныту сайттарын, фишинг домендерін және әлеуметтік желідегі профильдер мен жазбаларды адамдардың қолмен тексеруіне сүйенді. Шабуылдаушылар автоматтандыруды бастап, қауіптерді адамдар бағалап үлгергеннен жылдамырақ әрі көбірек арналарда іске қоса бастағанда, Doppel бұл тәсілдің әлсіреп бара жатқанын көрді.

Мұндай жылдамдық Doppel клиенттері үшін аса маңызды, өйткені олар қауіптің расталуын сағаттап күте алмайды. Doppel жүйесі қауіптердің көп бөлігін автоматты түрде жіктейді, бұл үшін OpenAI модельдерін ой қорытуға және модельді уақыт өте жақсартатын күшейтпелі баптау (RFT) деп аталатын құрылымдалған кері байланыс цикліне қолданады. RFT барысында адам кері байланысы бағаланған мысалдар ретінде пайдаланылады, бұл модельдерге өз бетінше бірізді әрі түсіндірілетін шешім қабылдауды үйренуге көмектеседі.

Doppel-дің LLM (үлкен тілдік модель) негізіндегі конвейері оның анықтау стегінің өзегінде тұр. Сигналдар жиналып, сүзгіден өткеннен кейін жүйе нысаналы ой қорыту тапсырмаларының сериясын орындайды: ықтимал қауіптерді талдау, ниетті растау және жіктеу шешімдерін шығару. Әр кезең жылдамдық, дәлдік және бірізділік арасындағы теңгерімді сақтауға арналған, сонымен бірге сарапшыларды адам пайымын қажет ететін шеткі жағдайларға шоғырландырады.

Ол былай жұмыс істейді:

• Сигналдарды сүзгілеу және сипаттарды шығару: Doppel жүйелері күн сайын миллиондаған доменді, URL-ді және аккаунтты қабылдайды. Эвристикалар мен OpenAI o4-mini үйлесімі шуды сүзгіден өткізіп, кейінгі модель бағалауларын бағыттау үшін құрылымдалған сипаттарды шығарады.
• Қауіпті параллель растау: Әр сигнал қауіп талдауының әртүрлі түрлеріне арнайы жасалған бірнеше GPT‑5 көмексөзі арқылы өтеді. Бұл көмексөздер кейіп таныту қаупі, брендті теріс пайдалану немесе әлеуметтік инженерия үлгілері сияқты факторларды бағалайды.
• Қауіпті жіктеу: o4-mini-дің RFT нұсқасы алдыңғы растауларды біріктіріп, өндірістік деңгейдегі бірізділікпен құрылымдалған белгі қояды — зиянды, зиянсыз немесе екіұшты.
• Соңғы тексеру: GPT‑5-пен екінші тексеріс модель шешімін растап, табиғи тілдегі негіздеме жасайды. Егер сенімділік шектен асса, жүйе автоматты түрде әрекет етуді бастайды.
• Адамның тексеруі: Сенімділігі төмен немесе қайшы нәтижелер адам сарапшыларына жіберіледі. Олардың шешімдері тіркеліп, модель бірізділігін үздіксіз жақсарту үшін RFT цикліне қайта беріледі.

Doppel өзінің бастапқы LLM (үлкен тілдік модель) күшейткен анықтау конвейерінен айтарлықтай нәтиже көрген еді, бірақ бір қауіп әртүрлі сарапшыға байланысты әрқалай бағалануы мүмкін жағдайларда бірізділік шектеуші факторға айналды.

Осы бірізділікті қалыптастыру үшін Doppel кері байланыс көзі ретінде өзінің сарапшылар деректерін қолданып, RFT қолданды. Доменді зиянды, зиянсыз немесе анық емес деп жіктеу туралы әр шешім бағаланған мысалға айналды. Осы таңбаланған мысалдар модельді екіұшты шеткі жағдайларда да сарапшы пайымын қайталауға үйретті.

OpenAI-дың қолданбалы инженерия командасымен тығыз жұмыс істей отырып, Doppel тек дәлдікті ғана емес, түсіндіру сапасын да бағалайтын грейдер функцияларын әзірледі, яғни тек дұрыс емес, анық ой қорыта алатын модельдерді марапаттады. Сарапшы кері байланысын құрылымдалған оқыту деректеріне айналдыру арқылы Doppel RFT автоматтандырылған анықтауды неғұрлым бірізді әрі сенімді ете алатынын көрсетті.

Гиперпараметрлерді баптау мен итеративті eval-дар модельді адам деңгейіндегі бірізділікке жақындатты. Бірақ Doppel үшін автоматтандырудың соңғы кезеңін аяқтау шешімдерді бірден түсінікті етуді де білдірді.

Енді әр автоматтандырылған жою әрекетіне қауіптің неге жойылғанын түсіндіретін AI жасаған негіздеме қоса беріледі, бұл клиенттерге неге әрекет жасалғанын бірден түсінуге мүмкіндік береді — бұрын бұл үшін сарапшының араласуы қажет болатын.

Мұндай көрінерлік Doppel пайдаланушылары үшін шешуші фактор болып табылатын сенімді арттырады. Қандай әрекет жасалғанын ғана емес, неге жасалғанын да көру командаларға жылдам әрекет етуге және бұл шешімдерді іште немесе мүдделі тараптарға түсіндіруге қажетті контекст береді.

• Сарапшы жүктемесі 80%-ға қысқарды
• Қауіпке жауап беру уақыты сағаттардан минуттарға қысқарды
• Қауіптерді өңдеу қуаты үш есе артты
• Қауіптердің көпшілігі автоматты түрде жіктеледі

Фишинг пен кейіп таныту домендері бойынша дерлік толық автоматтандыруға қол жеткізген Doppel енді дәл осы модельге негізделген тәсілді ауытқуы жоғары басқа арналарға қолданып жатыр.

«Домендер — біз жұмыс істейтін ең қиын арна болуы мүмкін», — деді Маддулури. «Сигналдар ретсіз, контент үнемі өзгеріп тұрады, ал қауіптер бір уақытта бірнеше бетте тез өзгереді. Егер біз мұны басынан аяғына дейін автоматтандыра алсақ, кез келген нәрсеге қолдана аламыз: әлеуметтік желі, ақылы жарнама — не десеңіз де».

Келесі межелерге олардың RFT деректер жиынын он есе ұлғайту, жаңа бағалау стратегияларын сынау және GPT‑5-ті жоғары деңгейдегі сипаттарды шығару үшін қолдану кіреді. Бұл өзгерістер Doppel-ге конвейер кезеңдерін біріктіріп, үдерістің ертерек сатысында неғұрлым күрделі қауіп индикаторлары бойынша ой қорытуға мүмкіндік береді.

Әр итерация сайын Doppel сенімге шабуыл жасалатын кез келген ортада шынайы нәрсені қорғайтын жүйеге қарай ілгерілеп келеді.