Operazione informatica: strumenti malware di soggetti russofoni
OpenAI ha bloccato account probabilmente legati a gruppi criminali russofoni che usavano l'IA per creare loader di malware, livelli elusivi, script per il furto di credenziali e infrastrutture C2.
Questo caso di studio è stato pubblicato originariamente nel rapporto di OpenAI di ottobre 2025(si apre in una nuova finestra).
Autore della minaccia
Abbiamo bloccato alcuni account ChatGPT che tentavano di usare il modello per sviluppare e perfezionare malware, tra cui un trojan di accesso remoto, strumenti per il furto di credenziali e funzionalità elusive. Questi account sembrano affiliati a gruppi criminali russofoni, poiché li abbiamo visti pubblicare prove delle proprie attività in un canale Telegram dedicato a tali soggetti. In base alla nostra indagine, riteniamo che questa attività fosse collegata a un operatore russofono che gestiva più account e sfruttava proxy e infrastrutture di hosting temporanee.
Comportamento
L'autore della minaccia ha usato più account ChatGPT soprattutto per creare prototipi e risolvere problemi relativi a componenti tecnici che consentono attività successive alla compromissione e il furto di credenziali, pratiche ben note per questo tipo di soggetto. Il modello ha rifiutato le richieste dirette di generare contenuti dannosi. L'operatore cercava quindi di ottenere dal modello singoli blocchi di codice, ad esempio per convertire eseguibili compilati in shellcode, progettare loader in memoria o analizzare le credenziali dei browser, che l'autore della minaccia ha poi probabilmente assemblato in flussi di lavoro dannosi.
L'autore della minaccia ha inoltre usato i nostri modelli per generare codice per l'offuscamento e schemi da “crypter”, ad esempio inserendo istruzioni di riempimento e sequenze inutili, monitorando gli appunti e creando semplici strumenti ausiliari per l'esfiltrazione, come un bot Telegram per il caricamento di file e script per comprimerli e inviarli. Questi output non sono intrinsecamente dannosi, a meno che un autore della minaccia non li utilizzi in tal modo al di fuori della nostra piattaforma.
L'autore della minaccia ha usato ChatGPT prevalentemente per attività tecniche, come la gestione a basso livello di PE/API Win32 e dei cookie tramite DPAPI/AES GCM, nonché l'automazione di Chrome DevTools/CDP. L'autore della minaccia ha presentato richieste di complessità variabile: molti prompt richiedevano una conoscenza approfondita della piattaforma Windows e un debugging iterativo, mentre altri automatizzavano attività comuni, come la generazione in massa di password e l'invio di candidature tramite script. L'operatore ha usato un numero ridotto di account ChatGPT, perfezionando lo stesso codice in più conversazioni: uno schema compatibile con un'attività di sviluppo continuativa anziché con test occasionali.
Risultati
I nostri modelli non sono stati usati per eseguire strumenti o flussi di lavoro dell'autore della minaccia e non siamo in grado di verificare in modo indipendente le attività svolte al di fuori della piattaforma. L'autore della minaccia ha tentato di usare i nostri modelli per sviluppare e perfezionare strumenti offensivi e flussi di lavoro operativi apparentemente destinati a sottrarre credenziali e criptoasset, eseguire codice in modo furtivo e gestire infrastrutture occulte.
In particolare, ha usato ChatGPT per generare e perfezionare codice funzionante e indicazioni di distribuzione per l'esecuzione in memoria e i loader di shellcode; tecniche per aggirare UAC, SmartScreen e Mark-of-the-Web; strutture di base per estrarre credenziali e cookie dai browser e per la decrittografia app-bound; analisi di wallet LevelDB e strumenti per dirottare o sostituire gli appunti ed esfiltrarne il contenuto; nonché componenti di accesso remoto (RAT), tra cui video ed emulazione degli input. In linea con le relative misure di sicurezza, i nostri modelli hanno rifiutato le richieste chiaramente dannose e prive di applicazioni legittime.
Esempi rappresentativi di queste attività possono essere ricondotti al framework LLM ATT&CK come segue:
Attività | Categoria del framework LLM ATT&CK |
|---|---|
Conversione di file EXE in shellcode indipendente dalla posizione; creazione di loader in memoria (VirtualAlloc/WriteProcessMemory/thread remoto); conversioni tra linguaggi per toolchain di loader. | Creazione di payload ottimizzata dagli LLM |
Inserimento di livelli di offuscamento/packing, crypter e tecniche probabilmente concepite per alterare le firme PE o nascondere in altro modo i payload ai sistemi AV/EDR. | Elusione del rilevamento delle anomalie potenziata dagli LLM |
Generazione di script e codice probabilmente concepiti per estrarre o decrittografare credenziali e cookie dei browser, analizzare i database LevelDB dei wallet, monitorare o sostituire il contenuto degli appunti ed esfiltrarlo tramite canali bot come Telegram. | Attività post-compromissione assistita dagli LLM |
Creazione e perfezionamento di infrastrutture C2 e di tunneling, tra cui proxy inversi, configurazioni SOCKS5/OpenVPN e tunneling del desktop remoto, nonché indicazioni per il debugging e la distribuzione di sistemi di streaming remoto ed emulazione degli input. | Profilazione dell'infrastruttura guidata dagli LLM |
Impatto
Abbiamo disattivato tutti gli account associati a questa attività e condiviso gli indicatori pertinenti con i partner del settore. Non abbiamo trovato prove che l'accesso ai nostri modelli abbia fornito a questi soggetti capacità o indicazioni nuove, non altrimenti reperibili nelle numerose risorse disponibili pubblicamente. I nostri modelli hanno rifiutato le richieste dirette relative a exploit e keylogger.