Cyberoperacja: narzędzia do złośliwego oprogramowania rosyjskojęzycznych grup
OpenAI zablokowało konta prawdopodobnie powiązane z rosyjskojęzycznymi grupami przestępczymi, które używały AI do tworzenia loaderów malware, mechanizmów unikania wykrycia, skryptów kradnących dane logowania i infrastruktury C2.
To studium przypadku opublikowano pierwotnie w raporcie OpenAI z października 2025 r.(otwiera nowe okno)
Sprawca
Zablokowaliśmy konta ChatGPT, za pomocą których próbowano wykorzystać model do tworzenia i udoskonalania złośliwego oprogramowania, w tym trojana zdalnego dostępu, narzędzi do wykradania danych uwierzytelniających oraz funkcji umożliwiających unikanie wykrycia. Konta te prawdopodobnie były powiązane z rosyjskojęzycznymi grupami przestępczymi, ponieważ zaobserwowaliśmy publikowanie dowodów ich działalności na kanale Telegramu poświęconym tym grupom. Na podstawie naszego dochodzenia oceniamy, że działalność ta była powiązana z rosyjskojęzycznym operatorem, który zarządzał wieloma kontami oraz korzystał z serwerów proxy i tymczasowej infrastruktury hostingowej.
Działania
Ten aktor zagrożeń korzystał z wielu kont ChatGPT głównie do tworzenia prototypów i rozwiązywania problemów z komponentami technicznymi umożliwiającymi działania po uzyskaniu dostępu oraz kradzież danych uwierzytelniających — typowe zastosowania w przypadku tego rodzaju sprawców. Model odmawiał realizacji bezpośrednich próśb o generowanie złośliwych treści, dlatego operator zazwyczaj wykorzystywał go do pozyskiwania fragmentów kodu, na przykład do konwertowania skompilowanych plików wykonywalnych na kod powłoki, projektowania modułów ładujących działających w pamięci czy przetwarzania danych uwierzytelniających z przeglądarek. Aktor zagrożeń prawdopodobnie łączył następnie te elementy w szkodliwe procedury.
Aktor zagrożeń wykorzystywał również nasze modele do generowania kodu służącego do zaciemniania oraz tworzenia tzw. crypterów, między innymi przez wstawianie instrukcji wypełniających i zbędnych sekwencji. Tworzył też funkcje monitorowania schowka i proste narzędzia pomocnicze do eksfiltracji danych, takie jak bot Telegramu do przesyłania plików oraz skrypty archiwizujące i wysyłające dane. Wygenerowane materiały nie są z natury złośliwe, chyba że aktor zagrożeń wykorzysta je w taki sposób poza naszą platformą.
Aktor zagrożeń używał ChatGPT głównie do zadań technicznych, takich jak niskopoziomowa obsługa PE i interfejsu Win32 API, obsługa plików cookie z użyciem DPAPI i AES-GCM oraz automatyzacja Chrome DevTools i CDP. Aktor zagrożeń kierował zarówno zaawansowane, jak i prostsze prośby: wiele promptów wymagało dogłębnej znajomości platformy Windows oraz iteracyjnego debugowania, a inne automatyzowały powszechne zadania, takie jak masowe generowanie haseł i składanie podań o pracę za pomocą skryptów. Operator korzystał z niewielkiej liczby kont ChatGPT i w kolejnych rozmowach wielokrotnie modyfikował ten sam kod, co wskazuje raczej na ciągły rozwój niż sporadyczne testy.
Rezultaty
Naszych modeli nie użyto do uruchamiania narzędzi ani procedur aktora zagrożeń. Nie możemy też niezależnie zweryfikować żadnych działań prowadzonych poza platformą. Aktor zagrożeń próbował wykorzystać nasze modele do tworzenia i udoskonalania narzędzi ofensywnych oraz procedur operacyjnych, które prawdopodobnie umożliwiały kradzież danych uwierzytelniających i kryptoaktywów, dyskretne wykonywanie kodu oraz zarządzanie ukrytą infrastrukturą.
W szczególności korzystał z ChatGPT do generowania i iteracyjnego udoskonalania działającego kodu oraz instrukcji wdrażania dotyczących wykonywania kodu w pamięci i modułów ładujących kod powłoki; obchodzenia mechanizmów UAC, SmartScreen i Mark-of-the-Web; wyodrębniania danych uwierzytelniających i plików cookie z przeglądarek oraz tworzenia szkieletów odszyfrowywania danych powiązanych z aplikacją; analizowania portfeli w bazach LevelDB oraz przejmowania i podmieniania zawartości schowka z funkcją eksfiltracji; a także komponentów zdalnego dostępu (RAT), w tym emulacji obrazu i urządzeń wejściowych. Zgodnie z zastosowanymi zabezpieczeniami nasze modele odmawiały realizacji próśb, które były jednoznacznie złośliwe i nie miały żadnego legalnego zastosowania.
Reprezentatywne przykłady tych działań można przyporządkować do frameworku LLM ATT&CK w następujący sposób:
Działanie | Kategoria frameworku LLM ATT&CK |
|---|---|
Konwertowanie plików EXE na niezależny od położenia kod powłoki; tworzenie modułów ładujących działających w pamięci (VirtualAlloc / WriteProcessMemory / zdalny wątek); konwersje między językami na potrzeby zestawów narzędzi modułów ładujących. | Tworzenie ładunków zoptymalizowane pod kątem LLM |
Dodawanie warstw zaciemniających i pakujących, crypterów oraz technik prawdopodobnie służących do zmiany sygnatur PE lub ukrywania ładunków przed systemami AV/EDR w inny sposób. | Unikanie wykrywania anomalii z wykorzystaniem LLM |
Generowanie skryptów i kodu prawdopodobnie przeznaczonych do wyodrębniania lub odszyfrowywania danych uwierzytelniających i plików cookie z przeglądarek, analizowania portfeli w bazach LevelDB, monitorowania lub podmieniania zawartości schowka oraz eksfiltracji danych przez kanały botów, takie jak Telegram. | Działania po przejęciu systemu wspomagane przez LLM |
Tworzenie i udoskonalanie infrastruktury C2 oraz tunelowania, w tym odwrotnych serwerów proxy, konfiguracji SOCKS5 / OpenVPN i tunelowania pulpitu zdalnego, a także instrukcji debugowania i wdrażania zdalnego strumieniowania oraz emulacji urządzeń wejściowych. | Profilowanie infrastruktury z użyciem LLM |
Skutki
Wyłączyliśmy wszystkie konta powiązane z tą działalnością i udostępniliśmy odpowiednie wskaźniki partnerom branżowym. Nie znaleźliśmy dowodów na to, że dostęp do naszych modeli zapewnił tym sprawcom nowe możliwości lub wskazówki, których nie mogliby uzyskać z licznych publicznie dostępnych źródeł. Nasze modele odmawiały realizacji bezpośrednich próśb dotyczących exploitów i keyloggerów.