Система захисту на базі ШІ від Doppel зупиняє атаки до поширення

Один сайт-імітатор може з’явитися, вразити тисячі користувачів і зникнути менш ніж за годину. Цього більш ніж достатньо, аби зловмисники завдали реальної шкоди. А за допомогою генеративних інструментів вони можуть створити ще сотні подібних сайтів.

Doppel було створено для захисту організацій від діпфейків та видавання себе за іншу особу онлайн; але швидко стало зрозуміло, що за рахунок того ж ШІ загрози можуть масштабуватися безмежно. Зловмисникам більше не потрібно створювати шахрайські схеми вручну; вони можуть генерувати безліч варіантів фішингових наборів, підроблених доменів та акаунтів для видавання себе за інших за лічені секунди.

Аби залишатися попереду, Doppel розробила новий тип системи захисту від соціальної інженерії, побудованої на моделях OpenAI GPT‑5 та o4-mini. Платформа Doppel автономно виявляє, класифікує та нейтралізує загрози, зменшуючи навантаження на аналітиків на 80%, утричі збільшуючи спроможність обробляти загрози та скорочуючи час реагування з годин до хвилин.

Традиційний цифровий захист від ризиків покладався на те, що люди вручну перевіряли сайти-імітатори, фішингові домени, а також профілі та дописи в соціальних мережах. Doppel побачила, що ця модель перестала працювати, коли зловмисники почали автоматизувати свої дії, запускаючи загрози швидше й на більшій площі поверхні атаки, ніж люди могли оцінити.

Така швидкість є критично важливою для клієнтів Doppel — організацій, які не можуть дозволити собі чекати годинами для підтвердження загрози. Система Doppel автоматично класифікує більшість загроз, використовуючи моделі OpenAI для міркування та структурований цикл зворотного зв’язку, відомий як донавчання з підкріпленням (RFT), аби з часом удосконалювати модель. У RFT людський зворотний зв’язок використовується як оцінені приклади, що допомагають моделям навчатися самостійно ухвалювати послідовні, пояснювані рішення.

Процес на базі LLM знаходиться в центрі стека виявлення Doppel. Після того як сигнали збирають і фільтрують, система виконує серію цільових завдань із міркування: аналізує потенційні загрози, підтверджує намір і спрямовує рішення щодо класифікації. Кожен етап розроблено так, щоб збалансувати швидкість, точність і послідовність, водночас зберігаючи увагу аналітиків на граничних випадках, які потребують людського судження.

Ось як це працює.

• Фільтрація сигналів і виділення ознак: системи Doppel щодня обробляють мільйони доменів, URL-адрес та облікових записів. Поєднання евристичних правил і OpenAI o4-mini дозволяє відфільтрувати шум і виділити структуровані ознаки для спрямування подальших оцінювань моделей.
• Паралельне підтвердження загроз: кожен сигнал проходить через кілька запитів GPT‑5, спеціально створених для різних типів аналізу загроз. Ці промпти оцінюють такі чинники, як ризик видавання себе за іншу особу, зловживання брендом або шаблони соціальної інженерії.
• Класифікація загроз: версія o4-mini на основі RFT узагальнює попередні підтвердження, щоб призначити структуровану мітку («шкідливо», «безпечно» чи «неоднозначно») зі стабільною узгодженістю виробничого рівня.
• Остаточна перевірка: другий прохід GPT‑5 підтверджує рішення моделі та створює обґрунтування природною мовою. Якщо рівень упевненості перевищує поріг, система автоматично розпочинає примусове виконання.
• Людська перевірка: результати з низькою впевненістю або суперечливі результати передаються людським аналітикам. Їхні рішення реєструються та передаються назад у цикл RFT, аби безперервно підвищувати узгодженість моделі.

Doppel уже помітила значні покращення завдяки початковому процесу виявлення, посиленому LLM. Однак у ситуаціях, коли одну й ту саму загрозу різні аналітики могли оцінювати по-різному, саме послідовність стала ключовим обмеженням.

Щоб забезпечити таку послідовність, Doppel застосувала RFT, використовуючи дані власних аналітиків як джерело зворотного зв’язку. Кожне рішення класифікувати домен як шкідливий, безпечний або неоднозначний ставало оціненим прикладом. Ці позначені приклади навчали модель відтворювати експертні судження навіть у складних та неоднозначних випадках.

Тісно співпрацюючи з командою прикладної інженерії OpenAI, Doppel розробила функції оцінювання, які враховували не лише точність, а й якість пояснень, заохочуючи моделі за чітке міркування, а не лише за правильність відповідей. Перетворивши відгуки аналітиків на структуровані навчальні дані, Doppel продемонстрував, як RFT може зробити автоматизоване виявлення більш послідовним і надійним.

Налаштування гіперпараметрів та ітеративні оцінювання наблизили модель до рівня послідовності, властивого людині. Але для Doppel завершення останнього етапу автоматизації також означало забезпечення негайної зрозумілості рішень.

Кожне автоматизоване видалення тепер містить обґрунтування, згенероване ШІ, яке пояснює, чому загрозу було видалено. Це дає клієнтам змогу одразу зрозуміти причину вжиття заходів — те, що раніше вимагало втручання аналітика.

Така прозорість посилює довіру, що є вирішальним чинником для користувачів Doppel. Розуміння не лише того, яку саме дію було виконано, а й чому, дає командам можливість швидко реагувати та контекст для пояснення цих рішень усередині компанії або зацікавленим сторонам.

• Скорочення навантаження аналітиків на 80%
• Час реагування на загрози скорочено з годин до хвилин
• Спроможність протидіяти загрозам покращено втричі
• Більшість загроз класифікується автоматично

Досягши майже повної автоматизації для доменів фішингу та імітації, Doppel тепер застосовує ту саму керовану моделлю структуру до інших каналів із високою варіативністю.

«Домени — мабуть, найскладніший канал, з яким ми працюємо», — зазначає Маддулурі. «Сигнали неструктуровані, контент постійно змінюється, а загрози швидко розвиваються одночасно на кількох рівнях. Якщо ми зможемо автоматизувати це від початку до кінця, ми зможемо зробити це для будь-чого: соціальних мереж, платної реклами — чого завгодно».

Наступні етапи передбачають збільшення набору даних RFT на порядок величини, експерименти з новими стратегіями оцінювання та використання GPT‑5 для виділення ознак на ранніх етапах. Ці зміни дадуть Doppel змогу об’єднати етапи робочого процесу та аналізувати складніші індикатори загроз на більш ранніх етапах.

З кожною ітерацією Doppel рухається до створення системи, яка захищає істину на всіх рівнях, де довіра може бути під загрозою.