Operación cibernética: apoyo para phishing y scripts

Este estudio de caso se publicó originalmente en el informe de OpenAI de octubre de 2025⁠(se abre en una ventana nueva).

Identificamos y bloqueamos un conjunto de cuentas de ChatGPT implicadas en actividades que coincidían con información pública sobre grupos de amenazas conocidos en el sector como UNK_DROPPITCH (Proofpoint) y UTA0388 (Volexity). En al menos un caso, se informó de que la dirección de correo electrónico utilizada para registrar una cuenta de ChatGPT también se había empleado para enviar mensajes de phishing.

Los agentes de amenazas que operaban estas cuentas mostraban indicios compatibles con operaciones cibernéticas destinadas a atender las necesidades de inteligencia de la RPC: uso del chino y ataques dirigidos al sector taiwanés de los semiconductores, al ámbito académico y los centros de estudios de EE. UU., y a organizaciones vinculadas a grupos étnicos y políticos críticos con el PCCh, a veces denominados los «cinco venenos».

Nuestro modelo no aportó nuevas capacidades ofensivas. Los operadores parecen haber usado nuestros modelos principalmente para aumentar poco a poco la eficiencia de sus flujos de trabajo existentes, sobre todo al crear contenido de phishing y depurar o modificar sus herramientas.

Los agentes usaron ChatGPT para realizar dos tareas principales: generar contenido para campañas de phishing en varios idiomas —incluidos chino simplificado y tradicional, inglés y japonés— y ayudar a desarrollar herramientas y malware. Su trabajo de desarrollo era propio de un agente con competencia técnica, pero poco sofisticado. Por ejemplo, analizaron diversos aspectos y matices del uso de AES para proteger el tráfico de C2, pero siguieron utilizando una clave estática sencilla.

El método de los agentes para crear contenido de phishing era detallado y formulista, en consonancia con ataques dirigidos a un grupo demográfico muy definido. Por lo general, generaban un correo electrónico conciso, formal y cortés, remitido por una identidad ficticia del ámbito académico, empresarial o de las conferencias. Los agentes de amenazas solían pedir que se ajustara el tono, se sustituyeran términos por variantes regionales o se añadieran referencias institucionales concretas. Aunque estos pequeños ajustes específicos revelan un esfuerzo coordinado por mejorar la calidad del contenido inicial, los agentes de amenazas no corrigieron algunos detalles delatores, como los datos de contacto de ejemplo poco verosímiles incluidos en sus bloques de firma.

Solicitaron fragmentos de código y listas de comprobación que agilizaran las tareas rutinarias. Solicitaron código para probar transportes cifrados (HTTPS, TLS) destinados a consultas periódicas sencillas de tipo baliza; esbozaron fragmentos de Go y PowerShell para enumerar procesos, finalizar procesos por el nombre del ejecutable o recopilar datos del entorno; e integraron escáneres comerciales en envoltorios de bash / PowerShell.

También pidieron al modelo que sugiriera pequeños retoques de ofuscación y seguridad operativa (OPSEC): cambiar el nombre de funciones, modificar cabeceras u ocultar cadenas. A lo largo de varias sesiones, avanzaron hacia prototipos básicos de mando y control propios de malware con un nivel de madurez bajo o medio, incluidos bucles de conexión persistente, asignación mínima de tareas mediante HTTP(S) y estructuras de tareas / resultados basadas en JSON.

Algunos detalles de implementación de las actividades de desarrollo en Go del agente coinciden con informes del sector sobre el malware conocido como GOVERSHELL (Volexity) o HealthKick (Proofpoint), lo que sugiere que usaron modelos para intentar respaldar el desarrollo de su malware principal.

Además de este trabajo de creación de identidades ficticias y desarrollo de herramientas, los operadores investigaron otras formas de automatización que podrían conseguir mediante DeepSeek. Esta actividad parecía un trabajo exploratorio para automatizar el phishing masivo, por ejemplo, mediante el análisis de contenido web para generar automáticamente una lista de destinatarios y contenido que probablemente resultara de interés para cada posible objetivo identificado. No podemos confirmar de forma independiente si los agentes llegaron a implementar alguna de estas automatizaciones ni, de ser así, qué modelo utilizaron finalmente.

Los agentes intentaron usar nuestros modelos para planificar y perfeccionar componentes cifrados de C2, flujos de trabajo de ejecución remota de comandos y comunicaciones adaptadas a cada cultura, dando prioridad a la rapidez y la localización frente a la obtención de nuevas capacidades ofensivas. Generaron resultados del modelo que parecían destinados a respaldar actividades fuera de nuestra plataforma en varias áreas operativas:

• C2 cifrado y ejecución remota: solicitudes para redactar o reparar código cliente-servidor en Go con cifrado de mensajes como AES-GCM, renovación de claves de sesión, balizas de información del sistema y una consola de servidor para ejecutar comandos de PowerShell mediante protocolos web estándar o un canal basado en WebSocket.

• Protección del tráfico y ajustes de OPSEC: las solicitudes incluían código para pasar de WebSockets sin cifrar a WebSockets seguros (wss://) y de HTTP a HTTPS; desactivar las comprobaciones de certificados en algunas pruebas; camuflar el tráfico mediante una interfaz CDN / TLS; y gestionar mensajes de mayor tamaño sin que el cliente fallara.

• Reconocimiento y control de procesos: solicitudes de información para detectar antivirus mediante PowerShell, enumerar procesos y finalizar procesos específicos de Edge / WebView2.

• Configuración de escáneres comerciales: instrucciones para instalar y usar herramientas de código abierto como nuclei y fscan en infraestructura Linux comercial, y guardar los resultados para revisarlos más adelante.

• Contenido de phishing y captación: redacción de correos electrónicos persuasivos en varios idiomas para contactos académicos o empresariales, con asuntos y estilos adaptados a las normas locales.

Estas actividades corresponden a categorías de LLM ATT&CK como LLM-Optimized Payload Crafting, LLM-Enhanced Anomaly-Detection Evasion, LLM-Assisted Post-Compromise Activity, LLM-Assisted Reconnaissance and Discovery y LLM-Assisted Social Engineering.

Desactivamos todas las cuentas asociadas a esta actividad y compartimos los indicadores pertinentes con socios del sector. Los agentes buscaban principalmente aumentar poco a poco la eficiencia de sus flujos de trabajo existentes, por ejemplo, mediante la creación de correos de phishing listos para enviar y ciclos de iteración más breves para tareas rutinarias de código y automatización. No encontramos pruebas de que los resultados del modelo permitieran obtener capacidades más allá de las técnicas públicas ampliamente documentadas; nuestro modelo no aportó nuevas capacidades ofensivas. La ventaja operativa que buscaban con la ayuda del modelo procedía de la fluidez lingüística, la localización y la constancia: probablemente menos errores de idioma, código de integración más rápido y ajustes más ágiles cuando algo fallaba.