Operación cibernética: herramientas de malware rusófonas
OpenAI bloqueó cuentas probablemente vinculadas a grupos delictivos rusófonos que usaban IA para crear cargadores de malware, capas de evasión, scripts para robar credenciales e infraestructura de C2.
Este caso práctico se publicó originalmente en el informe de octubre de 2025(se abre en una ventana nueva) de OpenAI.
Agente
Bloqueamos cuentas de ChatGPT que intentaban usar el modelo para ayudar a desarrollar y perfeccionar software malicioso, incluidos un troyano de acceso remoto, ladrones de credenciales y funciones para eludir la detección. Estas cuentas parecen estar vinculadas a grupos delictivos rusófonos, ya que observamos que publicaban pruebas de sus actividades en un canal de Telegram dedicado a esos agentes. Según nuestra investigación, consideramos que esta actividad estaba relacionada con un operador rusófono que gestionaba varias cuentas y utilizaba servidores proxy e infraestructura de alojamiento efímera.
Comportamiento
Este agente de amenazas usó varias cuentas de ChatGPT principalmente para crear prototipos y resolver problemas de componentes técnicos que permiten realizar acciones posteriores a una vulneración y robar credenciales, actividades habituales entre este tipo de agentes. El modelo rechazó las solicitudes directas para generar contenido malicioso, por lo que el operador solía usarlo para obtener componentes de código, como convertir ejecutables compilados en shellcode, diseñar cargadores en memoria o analizar credenciales de navegadores. Es probable que después el agente de amenazas integrara estos componentes en flujos de trabajo maliciosos.
El agente de amenazas también usó nuestros modelos para generar código de ofuscación y patrones de «crypters», como la inserción de instrucciones de relleno y secuencias basura, la supervisión del portapapeles y herramientas sencillas de exfiltración, como un cargador mediante un bot de Telegram y scripts para comprimir y enviar archivos. Estos resultados no son intrínsecamente maliciosos, salvo que un agente de amenazas los use con esos fines fuera de nuestra plataforma.
El agente de amenazas usó ChatGPT principalmente para tareas técnicas, como operaciones de bajo nivel con PE y la API de Win32, el tratamiento de cookies con DPAPI y AES GCM, y la automatización mediante Chrome DevTools y CDP. El agente de amenazas realizó solicitudes con distintos grados de sofisticación: muchas instrucciones requerían conocimientos avanzados de la plataforma Windows y depuración iterativa, mientras que otras automatizaban tareas comunes, como generar contraseñas en masa y presentar candidaturas de empleo mediante scripts. El operador usó un pequeño número de cuentas de ChatGPT y modificó reiteradamente el mismo código en distintas conversaciones, un patrón más propio de un desarrollo continuo que de pruebas ocasionales.
Resultados
Nuestros modelos no se usaron para ejecutar ninguna herramienta ni ningún flujo de trabajo del agente de amenazas, y no podemos verificar de forma independiente ninguna actividad realizada fuera de la plataforma. Este agente de amenazas intentó usar nuestros modelos para desarrollar y perfeccionar herramientas ofensivas y flujos de trabajo operativos que parecen facilitar el robo de credenciales y criptoactivos, la ejecución encubierta de código y la gestión de infraestructura clandestina.
En concreto, usó ChatGPT para generar y perfeccionar código funcional y orientación sobre el despliegue de ejecución en memoria y cargadores de shellcode; técnicas para eludir UAC, SmartScreen y Mark-of-the-Web; estructuras para extraer credenciales y cookies de navegadores y descifrar datos vinculados a aplicaciones; análisis de carteras en LevelDB y herramientas para secuestrar o sustituir el contenido del portapapeles y exfiltrarlo; y componentes de acceso remoto (RAT), incluida la emulación de vídeo y de dispositivos de entrada. De acuerdo con sus medidas de protección, nuestros modelos rechazaron las solicitudes claramente maliciosas que carecían de cualquier aplicación legítima.
Algunos ejemplos representativos de estas actividades pueden clasificarse en el marco LLM ATT&CK de la siguiente manera:
Actividad | Categoría del marco LLM ATT&CK |
|---|---|
Conversión de archivos EXE en shellcode independiente de la posición; creación de cargadores en memoria (VirtualAlloc, WriteProcessMemory e hilos remotos); conversiones entre lenguajes para cadenas de herramientas de cargadores. | Creación de cargas útiles optimizada mediante LLM |
Inserción de capas de ofuscación o empaquetado, crypters y técnicas probablemente diseñadas para alterar las firmas PE u ocultar de otras formas las cargas útiles frente a soluciones AV/EDR. | Evasión de la detección de anomalías mejorada mediante LLM |
Generación de scripts y código de programación probablemente diseñados para extraer o descifrar credenciales y cookies de navegadores, analizar carteras en LevelDB, supervisar o sustituir el contenido del portapapeles y exfiltrar datos mediante canales de bots como Telegram. | Actividad posterior a la vulneración asistida por LLM |
Creación y perfeccionamiento de infraestructura de C2 y tunelización, incluidos servidores proxy inversos, configuraciones de SOCKS5 y OpenVPN, tunelización de escritorio remoto y orientación para depurar y desplegar funciones de transmisión remota y emulación de dispositivos de entrada. | Análisis de infraestructura guiado por LLM |
Impacto
Desactivamos todas las cuentas asociadas con esta actividad y compartimos los indicadores pertinentes con socios del sector. No encontramos pruebas de que el acceso a nuestros modelos proporcionara a estos agentes capacidades o vías novedosas que no pudieran haber obtenido de otros muchos recursos disponibles públicamente. Nuestros modelos rechazaron las solicitudes directas relacionadas con exploits y registradores de pulsaciones.