Operació cibernètica: eines de programari maliciós de grups russòfons
OpenAI va bloquejar comptes probablement vinculats a grups criminals russòfons que utilitzaven IA per crear carregadors de programari maliciós, capes d'evasió, scripts per robar credencials i infraestructura de C2.
Aquest estudi de cas es va publicar originalment a l'informe d'OpenAI de l'octubre de 2025(s'obre en una finestra nova).
Actor
Vam bloquejar comptes de ChatGPT que intentaven utilitzar el model per ajudar a desenvolupar i perfeccionar programari maliciós, com ara un troià d'accés remot, lladres de credencials i funcions per eludir la detecció. Aquests comptes semblen estar vinculats a grups criminals russòfons, ja que vam observar que publicaven proves de les seves activitats en un canal de Telegram dedicat a aquests actors. A partir de la nostra investigació, considerem que aquesta activitat estava relacionada amb un operador russòfon que gestionava diversos comptes i aprofitava una infraestructura de servidors intermediaris i allotjament efímer.
Comportament
Aquest actor d'amenaces va utilitzar diversos comptes de ChatGPT principalment per crear prototips i resoldre problemes de components tècnics que permeten dur a terme activitats posteriors a l'explotació i robar credencials, pràctiques ben conegudes d'aquest tipus d'actor. El model va rebutjar les sol·licituds directes de generar contingut maliciós. Per això, l'ús habitual que en feia l'operador consistia a obtenir fragments de codi, com ara convertir executables compilats en codi shell, dissenyar carregadors en memòria o analitzar credencials del navegador, que probablement després integrava en fluxos de treball maliciosos.
L'actor d'amenaces també va utilitzar els nostres models per generar codi d'ofuscació i patrons de "crypter", com ara inserir instruccions de farciment i seqüències brossa, supervisar el porta-retalls i crear eines senzilles d'exfiltració, com un bot de Telegram per pujar fitxers i scripts per arxivar-los i enviar-los. Aquests resultats no són maliciosos per si mateixos, tret que un actor d'amenaces els utilitzi amb aquesta finalitat fora de la nostra plataforma.
L'actor d'amenaces va utilitzar ChatGPT principalment per a tasques tècniques, com ara operacions de baix nivell amb PE i les API de Win32, la gestió de galetes amb DPAPI i AES-GCM i l'automatització de Chrome DevTools i CDP. L'actor d'amenaces va fer sol·licituds de diversos graus de sofisticació: moltes indicacions exigien un coneixement profund de la plataforma Windows i una depuració iterativa, mentre que d'altres automatitzaven tasques genèriques, com ara la generació massiva de contrasenyes i la presentació automatitzada de candidatures laborals. L'operador va utilitzar un nombre reduït de comptes de ChatGPT i va perfeccionar el mateix codi en diverses converses, un patró coherent amb un desenvolupament continuat i no pas amb proves ocasionals.
Respostes
Els nostres models no es van utilitzar per executar cap eina ni flux de treball de l'actor d'amenaces, i no podem verificar de manera independent cap activitat fora de la plataforma. Aquest actor d'amenaces va intentar utilitzar els nostres models per desenvolupar i perfeccionar eines ofensives i fluxos de treball operatius que semblen permetre robar credencials i criptoactius, executar codi de manera furtiva i gestionar infraestructures encobertes.
En concret, va utilitzar ChatGPT per generar i perfeccionar codi funcional i instruccions de desplegament per a l'execució en memòria i els carregadors de codi shell; eludir UAC, SmartScreen i Mark-of-the-Web; extreure credencials i galetes del navegador i crear bastides de desxifratge vinculat a aplicacions; analitzar moneders LevelDB i crear eines per segrestar o substituir el contingut del porta-retalls i exfiltrar-lo; i desenvolupar components d'accés remot (RAT), incloent-hi vídeo i emulació d'entrada. D'acord amb les seves mesures de protecció, els nostres models van rebutjar les sol·licituds clarament malicioses i sense cap aplicació legítima.
Alguns exemples representatius d'aquestes activitats es poden relacionar amb el marc LLM ATT&CK de la manera següent:
Activitat | Categoria del marc LLM ATT&CK |
|---|---|
Conversió de fitxers EXE en codi shell independent de la posició; creació de carregadors en memòria (VirtualAlloc, WriteProcessMemory i fils remots); conversions entre llenguatges per a cadenes d'eines de carregadors. | Creació de càrregues útils optimitzada amb LLM |
Inserció de capes d'ofuscació o empaquetament, "crypters" i tècniques probablement dissenyades per alterar les signatures PE o ocultar d'altres maneres les càrregues útils als sistemes AV/EDR. | Evasió de la detecció d'anomalies millorada amb LLM |
Generació de scripts i codi probablement dissenyats per extreure o desxifrar credencials i galetes del navegador, analitzar bases LevelDB de moneders, supervisar o substituir el contingut del porta-retalls i exfiltrar dades mitjançant canals de bots com Telegram. | Activitat posterior a la intrusió assistida per LLM |
Creació i perfeccionament d'infraestructures de C2 i tunelització, com ara servidors intermediaris inversos, configuracions de SOCKS5 i OpenVPN, tunelització d'escriptori remot i instruccions de depuració i desplegament per a la transmissió remota i l'emulació d'entrada. | Anàlisi d'infraestructures guiada per LLM |
Impacte
Vam desactivar tots els comptes associats amb aquesta activitat i vam compartir els indicadors rellevants amb socis del sector. No vam trobar proves que l'accés als nostres models proporcionés a aquests actors capacitats o orientacions noves que no poguessin haver obtingut a partir de diversos recursos disponibles públicament. Els nostres models van rebutjar les sol·licituds directes relacionades amb exploits i registradors de tecles.