Operación cibernética: herramientas de malware de actores rusoparlantes
OpenAI bloqueó cuentas probablemente vinculadas a grupos delictivos rusoparlantes que usaban IA para crear cargadores de malware, capas de evasión, scripts para robar credenciales e infraestructura de C2.
Este estudio de caso se publicó originalmente en el informe de octubre de 2025(se abre en una nueva ventana) de OpenAI.
Actor
Bloqueamos cuentas de ChatGPT que intentaban usar el modelo para ayudar a desarrollar y perfeccionar malware, incluidos un troyano de acceso remoto, programas para robar credenciales y funciones para evadir la detección. Estas cuentas parecen estar vinculadas a grupos delictivos rusoparlantes, ya que las vimos publicar pruebas de sus actividades en un canal de Telegram dedicado a esos actores. Según nuestra investigación, consideramos que esta actividad estaba relacionada con un operador rusoparlante que administraba varias cuentas y aprovechaba infraestructura de proxy y alojamiento efímero.
Comportamiento
Este actor de amenazas usó varias cuentas de ChatGPT principalmente para crear prototipos y solucionar problemas de componentes técnicos que permiten realizar acciones posteriores a una vulneración y robar credenciales, actividades habituales entre este tipo de actores. El modelo rechazó las solicitudes directas de generar contenido malicioso, por lo que el operador solía usarlo para obtener fragmentos de código, como convertir ejecutables compilados en shellcode, diseñar cargadores en memoria o analizar credenciales de navegadores. Es probable que el actor de amenazas luego integrara estos elementos en flujos de trabajo maliciosos.
El actor de amenazas también usó nuestros modelos para generar código de ofuscación y patrones de “crypter”, como la inserción de instrucciones de relleno y secuencias basura, la supervisión del portapapeles y herramientas sencillas de exfiltración, entre ellas un bot de Telegram para subir archivos y scripts para comprimirlos y enviarlos. Estos resultados no son intrínsecamente maliciosos, salvo que un actor de amenazas los use con ese fin fuera de nuestra plataforma.
El actor de amenazas usó ChatGPT principalmente para tareas técnicas, como trabajar a bajo nivel con PE y la API de Win32, manejar cookies con DPAPI y AES-GCM, y automatizar Chrome DevTools mediante CDP. El actor de amenazas hizo solicitudes con distintos niveles de sofisticación: muchas instrucciones requerían conocimientos profundos de la plataforma Windows y depuración iterativa, mientras que otras automatizaban tareas genéricas, como generar contraseñas en masa y enviar solicitudes de empleo mediante scripts. El operador usó un pequeño número de cuentas de ChatGPT y perfeccionó el mismo código a lo largo de varias conversaciones, un patrón más compatible con un desarrollo continuo que con pruebas ocasionales.
Resultados
Nuestros modelos no se usaron para ejecutar herramientas ni flujos de trabajo del actor de amenazas, y no podemos verificar de forma independiente ninguna actividad realizada fuera de la plataforma. Este actor de amenazas intentó usar nuestros modelos para desarrollar y perfeccionar herramientas ofensivas y flujos de trabajo operativos que parecen facilitar el robo de credenciales y criptoactivos, la ejecución encubierta de código y la administración de infraestructura clandestina.
En concreto, usó ChatGPT para generar y perfeccionar código funcional y guías de implementación para la ejecución en memoria y cargadores de shellcode; elusión de UAC, SmartScreen y Mark-of-the-Web; extracción de credenciales y cookies de navegadores y estructuras base para el descifrado vinculado a aplicaciones; análisis de bases LevelDB de billeteras y herramientas para secuestrar o reemplazar el portapapeles y exfiltrar datos; y componentes de acceso remoto (RAT), incluida la emulación de video y entradas. De acuerdo con sus medidas de protección, nuestros modelos rechazaron las solicitudes que eran claramente maliciosas y carecían de una aplicación legítima.
Los siguientes son ejemplos representativos de cómo estas actividades pueden clasificarse en el marco LLM ATT&CK:
Actividad | Categoría del marco LLM ATT&CK |
|---|---|
Conversión de archivos EXE en shellcode independiente de la posición; creación de cargadores en memoria (VirtualAlloc, WriteProcessMemory y subprocesos remotos); conversiones de lenguajes para cadenas de herramientas de cargadores. | Creación de cargas útiles optimizada con LLM |
Inserción de capas de ofuscación o empaquetado, crypters y técnicas probablemente diseñadas para alterar firmas PE u ocultar de otro modo las cargas útiles de herramientas AV/EDR. | Evasión de la detección de anomalías mejorada con LLM |
Generación de scripts y código probablemente diseñados para extraer o descifrar credenciales y cookies de navegadores, analizar bases LevelDB de billeteras, supervisar o reemplazar el contenido del portapapeles y exfiltrar datos mediante canales de bots como Telegram. | Actividad posterior a una vulneración asistida por LLM |
Creación y perfeccionamiento de infraestructura de C2 y tunelización, incluidos proxies inversos, configuraciones de SOCKS5 y OpenVPN, tunelización de escritorio remoto y guías de depuración e implementación para la transmisión remota y la emulación de entradas. | Análisis de infraestructura guiado por LLM |
Impacto
Desactivamos todas las cuentas asociadas con esta actividad y compartimos los indicadores pertinentes con socios del sector. No encontramos pruebas de que el acceso a nuestros modelos brindara a estos actores capacidades o indicaciones novedosas que no pudieran haber obtenido de múltiples recursos disponibles públicamente. Nuestros modelos rechazaron solicitudes directas de exploits y keyloggers.