Autori di minacce informatiche: ricerca sulle intrusioni assistita dall’IA
OpenAI ha bloccato account potenzialmente associati ad autori di minacce affiliati alla RPDC e già segnalati pubblicamente, che usavano l’IA per studiare strumenti di intrusione, phishing, malware e attacchi mirati alle criptovalute.
Questo caso di studio è stato pubblicato originariamente nel rapporto di OpenAI di febbraio 2025(si apre in una nuova finestra).
Autore della minaccia
Abbiamo bloccato alcuni account che mostravano attività potenzialmente associate ad autori di minacce affiliati alla Repubblica Popolare Democratica di Corea (RPDC), già segnalati pubblicamente. Alcuni di questi account hanno svolto attività che implicavano tattiche, tecniche e procedure (TTP) riconducibili a un gruppo di minaccia noto come VELVET CHOLLIMA (noto anche come Kimsuky ed Emerald Sleet)(si apre in una nuova finestra), mentre altri account erano potenzialmente collegati a un autore che, secondo la valutazione di una fonte attendibile, aveva legami con STARDUST CHOLLIMA (noto anche come APT38 e Sapphire Sleet)(si apre in una nuova finestra). Abbiamo rilevato questi account grazie a una segnalazione di un partner di settore fidato.
Comportamento
Gli account bloccati hanno usato i nostri strumenti principalmente per cercare informazioni probabilmente correlate a strumenti o operazioni di intrusione informatica. Hanno inoltre mostrato interesse per argomenti relativi alle criptovalute, probabilmente in relazione ad attività con finalità economiche. Questa combinazione di attività finanziarie e informatiche è tipica dei gruppi di minaccia associati alla RPDC.
Risposte generate
Gli autori hanno usato i nostri modelli per ricevere assistenza nella programmazione e nel debug, oltre che per svolgere ricerche su codice open source relativo alla sicurezza. Ciò ha incluso assistenza nel debug e nello sviluppo di strumenti e codice disponibili pubblicamente, utilizzabili per attacchi di forza bruta contro il Remote Desktop Protocol (RDP), nonché indicazioni sull’uso di strumenti open source di amministrazione remota (RAT).
Durante il debug di percorsi e tecniche relativi agli Auto-Start Extensibility Point (ASEP) per macOS, l’autore ha rivelato URL di staging per file binari (file eseguibili compilati) che, all’epoca, sembravano sconosciuti ai fornitori di soluzioni di sicurezza. Abbiamo inviato gli URL di staging a un servizio di scansione online per agevolarne la condivisione con la comunità della sicurezza. Ora i file binari vengono rilevati in modo affidabile da diversi fornitori, contribuendo a proteggere le potenziali vittime.
Di seguito è riportato un campione delle attività ricondotte alle estensioni a tema LLM proposte in precedenza per il framework MITRE ATT&CK®(si apre in una nuova finestra):
Richieste sulle vulnerabilità di varie applicazioni: ricognizione basata su informazioni fornite da LLM.
Sviluppo e risoluzione dei problemi di un client RDP basato su C# per consentire attacchi di forza bruta: sviluppo assistito da LLM.
Richieste di codice per aggirare gli avvisi di sicurezza e ottenere accessi RDP non autorizzati: sviluppo assistito da LLM.
Richieste di numerosi script PowerShell per connessioni RDP, caricamento e download di file, esecuzione di codice dalla memoria e offuscamento di contenuti HTML: tecniche di scripting potenziate dagli LLM; elusione del rilevamento delle anomalie potenziata dagli LLM.
Discussioni sulla creazione e distribuzione di payload offuscati da eseguire: creazione di payload ottimizzata dagli LLM.
Ricerca di metodi per condurre campagne mirate di phishing e ingegneria sociale contro investitori e trader di criptovalute, oltre che per creare contenuti di phishing più generici: ingegneria sociale supportata dagli LLM.
Creazione di email e notifiche di phishing per indurre gli utenti a rivelare informazioni sensibili: ingegneria sociale supportata dagli LLM.
Ricerca su strumenti open source di amministrazione remota (RAT): attività successive alla compromissione assistite da LLM.
Impatto
I prompt e le richieste dell’autore si basavano principalmente su informazioni open source già esistenti e le risposte generate dal modello non offrivano nuove capacità oppure si rifiutavano di rispondere. Abbiamo bloccato gli account associati all’autore della minaccia e condiviso i relativi payload con la comunità della sicurezza per ostacolarne ulteriormente le operazioni.