Agentes de amenazas cibernéticas: investigación de intrusiones asistida por IA

Este estudio de caso se publicó originalmente en el informe de OpenAI de febrero de 2025⁠(se abre en una nueva ventana).

Bloqueamos cuentas que mostraban actividad posiblemente asociada con agentes de amenazas vinculados a la República Popular Democrática de Corea (RPDC) y mencionados en informes públicos. Algunas de estas cuentas realizaron actividades con tácticas, técnicas y procedimientos (TTP) que coincidían con los de un grupo de amenazas conocido como VELVET CHOLLIMA (también conocido como Kimsuky y Emerald Sleet)⁠(se abre en una nueva ventana), mientras que otras posiblemente estaban relacionadas con un agente que, según la evaluación de una fuente confiable, estaría vinculado a STARDUST CHOLLIMA (también conocido como APT38 y Sapphire Sleet)⁠(se abre en una nueva ventana). Detectamos estas cuentas gracias a un aviso de un socio confiable del sector.

Las cuentas bloqueadas usaban principalmente nuestras herramientas para buscar información probablemente relacionada con herramientas u operaciones de intrusión cibernética. También mostraron interés en temas relacionados con las criptomonedas, probablemente en conexión con actividades motivadas por fines económicos. Esta combinación de actividad financiera y cibernética es habitual en los grupos de amenazas asociados con la RPDC.

Los agentes usaron nuestros modelos para obtener ayuda con la programación y la depuración, además de investigar código abierto relacionado con la seguridad. Esto incluyó ayuda para desarrollar y depurar herramientas y código disponibles públicamente que podrían usarse en ataques de fuerza bruta contra el Protocolo de escritorio remoto (RDP), así como orientación sobre el uso de herramientas de administración remota (RAT) de código abierto.

Mientras depuraba ubicaciones y técnicas de puntos de extensibilidad de inicio automático (ASEP) para macOS, el agente reveló URL de alojamiento temporal de archivos binarios (archivos ejecutables compilados) que, al parecer, los proveedores de seguridad desconocían en ese momento. Enviamos las URL de alojamiento temporal a un servicio de análisis en línea para facilitar que se compartieran con la comunidad de seguridad. Ahora, varios proveedores detectan de manera confiable los archivos binarios, lo que brinda protección a posibles víctimas.

A continuación, se muestra una muestra de actividad clasificada según extensiones relacionadas con LLM propuestas anteriormente para el marco MITRE ATT&CK^®⁠(se abre en una nueva ventana):

• Consultar sobre vulnerabilidades en diversas aplicaciones: reconocimiento basado en LLM.

• Desarrollar y solucionar problemas de un cliente RDP basado en C# para permitir ataques de fuerza bruta: desarrollo asistido por LLM.

• Solicitar código para eludir advertencias de seguridad y obtener acceso no autorizado mediante RDP: desarrollo asistido por LLM.

• Solicitar numerosos scripts de PowerShell para conexiones RDP, carga y descarga de archivos, ejecución de código desde la memoria y ofuscación de contenido HTML: técnicas de scripting mejoradas con LLM; evasión de la detección de anomalías mejorada con LLM.

• Analizar la creación y el despliegue de cargas útiles ofuscadas para su ejecución: creación de cargas útiles optimizada con LLM.

• Buscar métodos para realizar phishing dirigido e ingeniería social contra inversionistas y operadores de criptomonedas, además de contenido de phishing más genérico: ingeniería social respaldada por LLM.

• Redactar correos electrónicos y notificaciones de phishing para manipular a los usuarios y hacer que revelen información confidencial: ingeniería social respaldada por LLM.

• Investigar herramientas de administración remota (RAT) de código abierto: actividad posterior a la vulneración asistida por LLM.

Las instrucciones y consultas del agente se basaban principalmente en información de código abierto existente, y los resultados generados por el modelo no ofrecían capacidades novedosas o se negaban a responder. Bloqueamos las cuentas asociadas con el agente de amenazas y compartimos sus cargas útiles con la comunidad de seguridad para obstaculizar aún más sus operaciones.