Системот за одбрана со ВИ на Doppel рано запира напади

Една единствена страница за лажно претставување може да се појави, да таргетира илјадници корисници и да исчезне за помалку од еден час. Тоа е повеќе од доволно време напаѓачот да предизвика вистинска штета. А со генеративни алатки, можат да создадат уште стотици слични на неа.

Doppel беше изграден за да ги заштити организациите од дипфејкови и лажно претставување онлајн, но брзо сфати дека вештачката интелигенција значи дека заканите може бесконечно да се зголемуваат. Напаѓачите повеќе не мораа рачно да изработуваат измами; можеа за неколку секунди да генерираат бескрајни варијанти на фишинг-комплети, лажирани домени и сметки за лажно претставување.

За да остане чекор понапред, Doppel разви нов вид систем за одбрана од социјален инженеринг, изграден врз моделите OpenAI GPT‑5 и o4-mini. Платформата на Doppel автономно открива, класифицира и отстранува закани, намалувајќи го обемот на работа на аналитичарите за 80%, го зголемува капацитетот за справување со закани тројно и го намалува времето на одговор од повеќе часа на неколку минути.

Традиционалната заштита од дигитални ризици се потпираше на луѓе рачно да ги прегледуваат страниците за лажно претставување, фишинг-домените и профилите и објавите на социјалните мрежи. Doppel виде дека тој модел се распаѓа кога напаѓачите почнаа да автоматизираат, покренувајќи закани побрзо и низ повеќе површини за напад отколку што луѓето можеа да ги проценат.

Таа брзина е клучна за клиентите на Doppel, организации што не можат да си дозволат да чекаат со часови за да потврдат закана. Системот на Doppel автоматски класифицира најголем дел од заканите, користејќи OpenAI модели за расудување и структуриран циклус на повратни информации познат како засилено фино прилагодување (RFT) за да го подобрува моделот со текот на времето. Во RFT, човечките повратни информации се користат како оценети примери, помагајќи им на моделите да научат самостојно да носат доследни, одлуки што може да се објаснат.

Процесот на Doppel, управуван од големи јазични модели (LLM), е во центарот на неговиот систем за детекција. Откако сигналите ќе се приберат и филтрираат, системот извршува низа насочени задачи за расудување: расудување за потенцијални закани, потврдување на намерата и донесување одлуки за класификација. Секоја фаза е осмислена да ги балансира брзината, точноста и доследноста, додека аналитичарите се фокусираат на граничните случаи што бараат човечка проценка.

Еве како функционира ова:

• Филтрирање сигнали и извлекување карактеристики: Системите на Doppel секојдневно внесуваат милиони домени, URL-адреси и сметки. Комбинација од хеуристики и OpenAI o4-mini го филтрира шумот и извлекува структурирани карактеристики за да ги насочи последователните евалуации на модел.
• Паралелна потврда на закани: Секој сигнал се обработува преку повеќе промптови за GPT‑5, специјално создадени за различни видови анализа на закани. Овие промптови проценуваат фактори како ризик од лажно претставување, злоупотреба на бренд или обрасци на социјален инженеринг.
• Класификација на закани: RFT верзијата на o4-mini ги синтетизира претходните потврди за да додели структурирана ознака - злонамерна, безопасна или двосмислена - со конзистентност на ниво на продукциска употреба.
• Финална проверка: Второто поминување со GPT‑5 ја потврдува одлуката на модел и создава образложение на природен јазик. Ако довербата го надмине прагот, системот автоматски започнува спроведување.
• Човечки преглед: Резултатите со ниска доверба или спротивставени резултати се насочуваат кон човечки аналитичари. Нивните одлуки се евидентираат и се враќаат во циклусот RFT за постојано подобрување на конзистентноста на модел.

Doppel веќе имаше забележано значителни подобрувања од својот оригинален процес за детекција подобрен со големи јазични модели (LLM), но кога стануваше збор за случаи во кои истата закана може да биде проценета различно во зависност од аналитичарот, доследноста стана ограничувачки фактор.

За да ја изгради таа доследност, Doppel го примени RFT, користејќи ги сопствените податоци од аналитичарите како извор на повратни информации. Секоја одлука да се класифицира домен како злонамерен, бениген или нејасен стана оценет пример. Тие означени примери го обучија моделот да го реплицира експертското расудување, дури и кај двосмислени гранични случаи.

Во тесна соработка со тимот за применето инженерство на OpenAI, Doppel дизајнираше функции за оценување кои ја оценуваат не само точноста, туку и квалитетот на објаснувањето, наградувајќи ги моделите што расудуваат јасно, а не само точно. Претворајќи ги повратните информации од аналитичарите во структурирани податоци за обука, Doppel помогна да покаже како RFT може да го направи автоматизираното откривање подоследно и посигурно.

Прилагодувањето на хиперпараметрите и итеративните проценки го приближија моделот до доследност блиска до човечкото ниво. Но за Doppel, завршувањето на последниот чекор од автоматизацијата значеше и донесените одлуки да бидат веднаш разбирливи.

Секое автоматизирано отстранување сега вклучува образложение генерирано од вештачка интелигенција што објаснува зошто е отстранета закана, со што им овозможува на клиентите веднаш да добијат увид зошто е преземено дејство - нешто што порано бараше интервенција од аналитичар.

Таа видливост ја зголемува довербата, што е критичен фактор за корисниците на Doppel. Фактот што не само што се гледа која акција е преземена, туку и зошто е преземена, им дава на тимовите сигурност да реагираат брзо и контекст за да ги објаснат тие одлуки внатрешно или пред засегнатите страни.

• Го намали обемот на работа на аналитичарите за 80 %
• Го намали времето на одговор на закани од неколку часа на неколку минути
• Тројно го зголеми капацитетот за справување со закани
• Повеќето закани се класифицираат автоматски

Откако постигна речиси целосна автоматизација за домени за фишинг и лажно претставување, Doppel сега ја применува истата рамка водена од модели и на други канали со голема варијабилност.

„Домените се веројатно најтешкиот канал со кој работиме“, рече Мадулури. „Сигналите се хаотични, содржината постојано се менува, а заканите брзо се развиваат истовремено на повеќе површини. Ако можеме да го автоматизираме тоа од почеток до крај, можеме да го направиме тоа за што било: социјални медиуми, платени реклами, што и да посакате.“

Следните пресвртници вклучуваат зголемување на нивниот збир на податоци RFT за еден ред големина, експериментирање со нови стратегии за оценување и користење на GPT‑5 за извлекување одлики порано во процесот. Овие промени ќе му овозможат на Doppel да ги обедини фазите на текот и порано во процесот да заклучува врз основа на посложени индикатори за закани.

Со секоја итерација, Doppel се движи кон систем што го брани она што е реално низ секоја површина каде што довербата е под напад.