Operazione “ScopeCreep”: sviluppo di malware da parte di un soggetto di lingua russa

Questo caso di studio è stato pubblicato originariamente nel rapporto di OpenAI di giugno 2025⁠(si apre in una nuova finestra).

Abbiamo bloccato un gruppo di account ChatGPT che sembravano gestiti da un autore di minacce di lingua russa. Questo soggetto ha usato i nostri modelli per sviluppare e perfezionare malware per Windows, eseguire il debug di codice in più linguaggi e configurare la propria infrastruttura di comando e controllo.

Il soggetto ha dimostrato di conoscere i meccanismi interni di Windows e di adottare alcune pratiche di sicurezza operativa. Abbiamo chiamato l'operazione “ScopeCreep” per il suo uso di uno strumento di “mirino” per videogiochi infettato con un trojan e per le sue tattiche elusive.

L'autore della minaccia adottava un approccio peculiare alla sicurezza operativa. Usava indirizzi email temporanei per registrare account ChatGPT, limitando ciascun account a una sola conversazione dedicata a un singolo miglioramento incrementale del codice. Poi abbandonava l'account originale e ne creava uno nuovo.

Il soggetto distribuiva il malware ScopeCreep tramite un repository di codice pubblico che si spacciava per un noto strumento legittimo per sovrapporre un mirino ai videogiochi (Crosshair-X). Gli utenti ignari che scaricavano ed eseguivano la versione malevola avviavano il loader del malware sul proprio sistema, causando il download e l'esecuzione di ulteriori file malevoli dall'infrastruttura dell'autore dell'attacco.

Da lì, il malware era progettato per avviare un processo in più fasi volto a ottenere privilegi elevati, garantire una persistenza nascosta, avvisare l'autore della minaccia ed esfiltrare dati sensibili, evitando il rilevamento.

L'autore della minaccia usava il nostro modello come supporto allo sviluppo iterativo del malware, chiedendo continuamente a ChatGPT di implementare ulteriori funzionalità specifiche. ScopeCreep impiegava varie tecniche di distribuzione, esecuzione, elusione ed esfiltrazione, tra cui:

• Payload C2 progettati per evitare il rilevamento basato su firme.

• Esecuzione nascosta tramite side-loading di DLL.

• Offuscamento tramite packing personalizzato con Themida.

• Escalation dei privilegi ed elusione.

• HTTPS sulla porta 80.

• Furto di credenziali e sessioni.

• Notifiche all'autore dell'attacco tramite Telegram.

• Offuscamento del traffico tramite proxy.

Nonostante gli sforzi dell'autore della minaccia in materia di sicurezza operativa e i meccanismi di elusione del rilevamento integrati nel malware, siamo riusciti a individuare l'attività grazie al nostro processo di rilevamento degli abusi informatici su larga scala. Abbiamo collaborato con il fornitore del servizio di hosting del codice per rimuovere il repository malevolo e abbiamo bloccato tutti gli account ChatGPT associati a questa attività.

Le interazioni di questo gruppo di account con il modello riguardavano un'ampia gamma di attività di sviluppo. Una includeva un frammento di codice Go in cui l'autore della minaccia aveva difficoltà con una richiesta HTTPS e chiedeva al modello di eseguirne il debug. In un altro caso, l'autore della minaccia ha chiesto assistenza per usare comandi PowerShell tramite Go per modificare le impostazioni di Windows Defender, cercando un modo per aggiungere esclusioni antivirus a livello di codice.

Alcuni esempi rappresentativi di queste attività possono essere ricondotti al framework LLM ATT&CK come segue:

• Uso di LLM per compilare un file, python310.dll, in modo che il codice dell'autore della minaccia venga eseguito ogni volta che si avvia python.exe: sviluppo assistito da LLM.

• Risoluzione di errori relativi a certificati SSL/TLS destinati a gestire traffico HTTPS sulla porta 80: sviluppo assistito da LLM.

• Migrazione assistita dal modello di un server C2 basato su Flask a un server WSGI pronto per la produzione: sviluppo assistito da LLM.

• Sviluppo di comandi PowerShell in Go per modificare le impostazioni di Windows Defender e aggiungere esclusioni antivirus: elusione del rilevamento delle anomalie potenziata da LLM.

• Debug di errori nel codice che invia una notifica a un canale Telegram controllato dall'autore dell'attacco quando viene compromessa una nuova vittima: attività post-compromissione assistite da LLM.

In questa fase, l'impatto di ScopeCreep potrebbe essere stato mitigato dalla tempestività delle segnalazioni e dalla stretta collaborazione con partner del settore che sono riusciti a rimuovere il repository malevolo. Abbiamo bloccato gli account OpenAI usati da questo soggetto.

Riteniamo che l'autore della minaccia abbia usato i nostri modelli nel tentativo di accelerare le proprie attività di sviluppo del malware. Paradossalmente, questo ci ha anche offerto l'opportunità di individuare e contrastare rapidamente la minaccia in quelle che sembravano essere le sue fasi iniziali.

Sebbene le funzionalità di questo malware includano escalation dei privilegi, persistenza, raccolta di credenziali e accesso remoto, non si tratta di capacità particolarmente innovative. Sebbene questo malware fosse probabilmente già attivo al di fuori di ambienti di test, con alcuni campioni comparsi su VirusTotal, non abbiamo riscontrato prove di un interesse o di una diffusione su larga scala.