System AI Doppel zatrzymuje ataki, zanim się rozprzestrzenią

Nawet pojedyncza strona podszywająca się pod inną może zaraz po powstaniu zaatakować tysiące użytkowników i zniknąć szybciej niż w godzinę. W tak krótkim czasie atakujący może wyrządzić realne szkody, a dzięki narzędziom generatywnym z łatwością mogą uruchomić setki kolejnych takich stron.

Pierwotnie system Doppel powstawał z myślą o ochronie organizacji przed atakami deepfake i internetową kradzieżą tożsamości, lecz szybko okazało się oczywiste, że skala ataków wykorzystujących AI może być rozszerzana niemal dowolnie. Atakujący nie muszą już samodzielnie wymyślać swych oszustw; w ciągu kilku sekund mogą generować niekończące się warianty pakietów phishingowych, fałszywych domen internetowych i kont podszywających się pod inne.

Aby nie stracić przewagi, firma Doppel wykorzystała możliwości modeli GPT‑5 i o4-mini od OpenAI, aby opracować nowy typ systemu do obrony przed zagrożeniami opartymi na inżynierii społecznej. Platforma Doppel wykrywa, klasyfikuje i autonomicznie niweluje zagrożenia, zmniejszając obciążenie pracą analityków o 80%, potrajając zdolność do reagowania na zagrożenia i skracając czas reakcji z godzin do minut.

Tradycyjna ochrona przed zagrożeniami cyfrowymi polegała na ludziach, którzy samodzielnie przeglądali fałszywe strony, domeny phishingowe oraz profile i posty w mediach społecznościowych. Firma Doppel zaobserwowała jednak, że model ten przestał być skuteczny w obliczu zautomatyzowanych ataków, zagrożeń powstających szybciej i w większej liczbie obszarów, z których oceną ludzie przestali sobie radzić.

Wspomniana szybkość działania ma kluczowe znaczenie dla klientów Doppel: organizacji, które nie mogą sobie pozwolić na potwierdzanie zagrożeń po wielogodzinnym oczekiwaniu. System Doppel klasyfikuje większość zagrożeń automatycznie na podstawie rozumowania modeli OpenAI z użyciem specjalnego sprzężenia zwrotnego, określanego jako dostosowanie ze wzmocnieniem (RFT). Umożliwia ono doskonalenie modeli z upływem czasu. W procesie RFT informacje zwrotne uzyskiwane od ludzi są wykorzystywane jako wiarygodnie ocenione przykłady, które ułatwiają modelom samodzielne podejmowanie spójnych i uzasadnionych decyzji.

Opracowane przez Doppel procesy oparte na LLM stanowią rdzeń ich narzędzi wykrywających. Po wykryciu i przefiltrowaniu sygnałów system wykonuje serię odpowiednio ukierunkowanych zadań wymagających rozumowania: analizując potencjalne zagrożenia, potwierdzając intencje i ukierunkowując decyzje klasyfikacyjne. Każdy etap opracowany został tak, aby zrównoważyć wymogi szybkości, dokładności i niezawodności działania, przy zapewnieniu udziału analityków w przetwarzaniu przypadków granicznych, które wymagają oceny przez człowieka.

Proces obejmuje następujące etapy:

• Filtrowanie sygnałów i wyodrębnienie cech: Systemy Doppel analizują miliony domen, adresów URL i kont każdego dnia. Połączenie heurystyki z filtrami o4-mini od OpenAI pozwala na odfiltrowanie szumu informacyjnego i wyodrębnienie określonych cech istotnych z punktu widzenia dalszej oceny przez model.
• Równoległe potwierdzenie zagrożeń: Każdy sygnał przepuszczany jest przez wiele poleceń GPT‑5 precyzyjnie opracowanych pod kątem analizy różnego rodzaju zagrożeń. Polecenia te oceniają czynniki takie jak ryzyko przejęcia tożsamości, niewłaściwe wykorzystanie marki czy wzorce inżynierii społecznej.
• Klasyfikacja zagrożeń: Wersja RFT o4-mini syntetyzuje wcześniejsze obserwacje i przypisuje odpowiednią etykietę – szkodliwe, nieszkodliwe lub niejednoznaczne – z zachowaniem spójności na poziomie produkcyjnym.
• Ostateczna weryfikacja: Drugie przejście w GPT‑5 weryfikuje decyzję modelu i generuje uzasadnienie w języku naturalnym. Jeżeli poziom pewności przekracza określony próg, system automatycznie inicjuje działanie.
• Weryfikacja przez człowieka: Wyniki o niskim poziomie pewności lub sprzeczne kierowane są do oceny przez ludzkich analityków. Ich decyzje są rejestrowane i wprowadzane z powrotem do pętli RFT, aby stale poprawiać spójność modelu.

Choć wykorzystanie procedury wykrywania wspomaganej przez LLM sprawdza się już bardzo dobrze w Doppel, w sytuacjach, gdy to samo zagrożenie może być różnie oceniane przez różnych analityków, czynnikiem ograniczającym rozwój okazuje się spójność.

Aby zwiększyć tą spójność, Doppel stosuje RFT z wykorzystaniem własnych danych analitycznych jako źródła informacji zwrotnych. Każda decyzja o sklasyfikowaniu domeny jako szkodliwej, nieszkodliwej lub niejednoznacznej staje się przykładem zatwierdzonej oceny. Tak oznaczone przykłady są wykorzystywane przy trenowaniu modelu, aby postępował zgodnie z ocenami ekspertów nawet w niejednoznacznych przypadkach.

W bliskiej współpracy z zespołem inżynierii stosowanej OpenAI firma Doppel opracowała funkcje klasyfikacyjne oceniające nie tylko dokładność działania, ale również jakość wyjaśnień, nagradzając modele rozumujące w sposób przejrzysty, a nie wyłącznie poprawny. Dzięki wykorzystaniu informacji zwrotnych od analityków w charakterze uporządkowanych danych treningowych firma Doppel pomogła zademonstrować możliwość wykorzystania RFT do celów bardziej konsekwentnej i wiarygodnej detekcji zagrożeń.

Regulacja hiperparametrów i oceny iteracyjne pozwoliły modelowi na zbliżenie się do poziomu spójności działania oczekiwanej od człowieka. Jednak zgodnie z podejściem Doppel osiągnięcie pełnego poziomu automatyzacji wiązało się również z zapewnieniem pełnej zrozumiałości podejmowanych decyzji.

Każdemu automatycznemu usunięciu towarzyszy obecnie wygenerowane przez AI uzasadnienie wyjaśniające powód usunięcia danego zagrożenia, co umożliwia klientom bezpośredni wgląd w przyczyny poszczególnych działań – aspekt, który w przeszłości wymagał zaangażowania analityka.

Tego rodzaju transparentność sprzyja zaufaniu, co jest czynnikiem o kluczowym znaczeniu dla klientów Doppler. Wgląd w uzasadnienie podejmowanych działań ułatwia zespołom szybsze reagowanie, dając jednocześnie kontekst pozwalający wyjaśnić decyzje zainteresowanym na forum wewnętrznym.

• Zmniejszenie o 80% obciążenia pracą analityków
• Skrócenie czasu reakcji na zagrożenia z godzin do minut
• Potrojona zdolność do reagowania na zagrożenia
• Większość zagrożeń klasyfikowanych automatycznie

Po osiągnięciu niemal kompletnej automatyzacji w zakresie phishingu i kradzieży tożsamości Doppel pracuje obecnie nad rozszerzeniem tej samej metodologii na inne obszary o wysokiej zmienności.

„Domeny są prawdopodobnie najtrudniejszym z kanałów, którymi się zajmujemy” — stwierdził Madduluri. „Sygnały są chaotyczne, treści ulegają nieustannym zmianom, a zagrożenia ewoluują szybko i na wielu płaszczyznach jednocześnie. Jeżeli uda nam się osiągną pełną automatyzację w tym kontekście, będziemy w stanie poradzić sobie ze wszystkim: mediami społecznościowymi, płatnymi reklamami, absolutnie wszystkim”.

Kolejne kamienie milowe obejmują dalsze, wykładnicze skalowanie zbioru danych RFT, testowanie nowych strategii oceny i wykorzystanie GPT‑5 do wyodrębniania cech źródłowych. Zmiany te pozwolą Doppel na konsolidację etapów przetwarzania i analizowanie bardziej złożonych wskaźników zagrożeń na wcześniejszym etapie procesu.

Z każdą kolejną iteracją Doppel rozwija się w kierunku systemu, który potrafi zawsze skutecznie chronić użytkowników przed nadużyciami zaufania.