Operazione informatica: supporto a phishing e scripting

Questo caso di studio è stato pubblicato originariamente nel rapporto di OpenAI di ottobre 2025⁠(si apre in una nuova finestra).

Abbiamo individuato e bloccato un gruppo di account ChatGPT coinvolti in attività riconducibili a gruppi di minaccia noti nel settore come UNK_DROPPITCH (Proofpoint) e UTA0388 (Volexity). In almeno un caso, l’indirizzo email usato per registrare un account ChatGPT sarebbe stato utilizzato anche per inviare messaggi di phishing.

Gli autori della minaccia che gestivano questi account mostravano caratteristiche compatibili con operazioni informatiche condotte per soddisfare le esigenze dell’intelligence della Repubblica Popolare Cinese: uso della lingua cinese e attacchi mirati al settore taiwanese dei semiconduttori, al mondo accademico e ai think tank statunitensi, nonché a organizzazioni associate a gruppi etnici e politici critici nei confronti del Partito Comunista Cinese, talvolta definiti i “cinque veleni”.

Il nostro modello non ha introdotto nuove capacità offensive. Gli operatori sembrano aver usato i nostri modelli soprattutto per rendere gradualmente più efficienti flussi di lavoro già esistenti, in particolare per creare contenuti di phishing ed eseguire il debug o modificare i propri strumenti.

Gli autori hanno usato ChatGPT per due attività principali: generare contenuti per campagne di phishing in più lingue, tra cui cinese semplificato e tradizionale, inglese e giapponese, e contribuire allo sviluppo di strumenti e malware. Il loro lavoro di sviluppo era compatibile con un autore tecnicamente competente, ma poco sofisticato: per esempio, discutevano diversi aspetti e sfumature dell’uso di AES per proteggere il traffico C2, continuando però a usare una semplice chiave statica.

La procedura seguita dagli autori per creare contenuti di phishing era dettagliata e schematica, in linea con attacchi rivolti a una fascia demografica ben definita. In genere, generavano email concise e formalmente cortesi attribuite a una persona del mondo accademico, industriale o congressuale. Gli autori della minaccia chiedevano spesso di modificare il tono, sostituire alcuni termini con varianti regionali o aggiungere riferimenti istituzionali specifici. Sebbene queste micro-modifiche mirate indichino uno sforzo coordinato per migliorare la qualità dei contenuti iniziali, gli autori non hanno corretto alcuni dettagli rivelatori, come i recapiti di esempio poco plausibili inseriti nei blocchi firma.

Chiedevano frammenti di codice ed elenchi di controllo per velocizzare le attività di routine. Hanno richiesto codice per testare trasporti cifrati (HTTPS, TLS) destinati a semplici operazioni di polling in stile beacon; abbozzato frammenti in Go e PowerShell per elencare i processi, terminarli in base al nome dell’eseguibile o raccogliere dettagli sull’ambiente; e integrato comuni strumenti di scansione in wrapper bash / PowerShell.

Hanno inoltre chiesto al modello di suggerire semplici accorgimenti per l’offuscamento e la sicurezza operativa (OPSEC), come rinominare funzioni, modificare header o nascondere stringhe. Nel corso di più sessioni, hanno lavorato a prototipi elementari di comando e controllo, compatibili con malware di maturità medio-bassa, tra cui cicli keep-alive, assegnazione di attività essenziali tramite HTTP(S) e contenitori JSON per attività e risultati.

Alcuni dettagli implementativi delle attività di sviluppo in Go degli autori coincidono con quanto riportato nel settore in merito ai malware tracciati come GOVERSHELL (Volexity) o HealthKick (Proofpoint), suggerendo che abbiano cercato di usare i modelli a supporto dello sviluppo del proprio malware principale.

Parallelamente alla creazione di queste identità fittizie e allo sviluppo degli strumenti, gli operatori hanno studiato ulteriori possibilità di automazione tramite DeepSeek. L’attività sembrava un lavoro esplorativo volto ad automatizzare il phishing di massa, per esempio analizzando contenuti web per generare automaticamente un elenco di destinatari e, per ciascun potenziale obiettivo individuato, contenuti probabilmente di suo interesse. Non siamo in grado di confermare in modo indipendente se gli autori abbiano effettivamente adottato una simile automazione né, in tal caso, quale modello abbiano infine utilizzato.

Gli autori hanno tentato di usare i nostri modelli per progettare e perfezionare componenti C2 cifrati, flussi di lavoro per l’esecuzione remota di comandi e messaggi di contatto adattati al contesto culturale, privilegiando velocità e localizzazione rispetto a nuove capacità offensive. Hanno generato output dei modelli apparentemente destinati a supportare attività esterne alla nostra piattaforma in diversi ambiti operativi:

• C2 cifrato ed esecuzione remota: richieste di scrivere o correggere codice client-server in Go con cifratura dei messaggi, come AES-GCM, rinnovo delle chiavi di sessione, beacon con informazioni di sistema e una console server per impartire comandi PowerShell tramite protocolli web standard o un canale basato su WebSocket.

• Protezione del traffico e modifiche OPSEC: le richieste comprendevano codice per passare da WebSocket non protetti a WebSocket sicuri (wss://) e da HTTP a HTTPS; disabilitare i controlli dei certificati in alcuni test; confondere il traffico tramite un front-end CDN / TLS; e gestire messaggi più grandi senza causare arresti anomali del client.

• Ricognizione e controllo dei processi: richieste di informazioni per individuare antivirus tramite PowerShell, elencare i processi e terminare specifici processi Edge / WebView2.

• Configurazione di comuni strumenti di scansione: istruzioni per installare e usare strumenti open source come nuclei e fscan su infrastrutture Linux commerciali e salvare i risultati per esaminarli in seguito.

• Contenuti di phishing e primo contatto: stesura in più lingue di email persuasive rivolte a contatti accademici o industriali, con oggetti e stile adattati alle consuetudini locali.

Queste attività rientrano in categorie LLM ATT&CK quali LLM-Optimized Payload Crafting, LLM-Enhanced Anomaly-Detection Evasion, LLM-Assisted Post-Compromise Activity, LLM-Assisted Reconnaissance and Discovery e LLM-Assisted Social Engineering.

Abbiamo disattivato tutti gli account associati a questa attività e condiviso gli indicatori pertinenti con i partner del settore. Gli autori cercavano soprattutto di rendere gradualmente più efficienti i flussi di lavoro esistenti, anche producendo email di phishing pronte per l’invio e abbreviando i cicli di iterazione per il codice e l’automazione di routine. Non abbiamo riscontrato prove che gli output dei modelli abbiano consentito capacità ulteriori rispetto a tecniche pubbliche ben documentate; il nostro modello non ha introdotto nuove capacità offensive. Il vantaggio operativo ricercato con l’assistenza dei modelli derivava dalla padronanza linguistica, dalla localizzazione e dalla perseveranza: probabilmente meno errori linguistici, codice di raccordo prodotto più rapidamente e correzioni più veloci in caso di problemi.