SweetSpecter: ciberactividad vinculada a China
OpenAI bloqueó cuentas probablemente pertenecientes a SweetSpecter, un adversario presuntamente establecido en China que utilizaba IA para investigar vulnerabilidades, escribir código y apoyar ataques de phishing dirigido.
Este caso de estudio se publicó originalmente en el informe de octubre de 2024(se abre en una ventana nueva) de OpenAI.
Actor
Identificamos y bloqueamos cuentas que, según la evaluación de una fuente fiable, probablemente pertenecían a un adversario presuntamente establecido en China. Estas cuentas intentaban utilizar nuestros modelos para apoyar sus ciberoperaciones ofensivas mientras, en paralelo, llevaban a cabo ataques de phishing dirigido contra nuestros empleados y gobiernos de todo el mundo. Este adversario, conocido públicamente como SweetSpecter, surgió en 2023. Según la información de la que disponemos, esta es la primera vez que se identifica públicamente a una empresa de IA con sede en Estados Unidos entre sus objetivos. Los informes sobre su actividad anterior señalaban que se había centrado en entidades políticas de Oriente Medio, África y Asia.
Comportamiento
En mayo de 2024, una fuente fiable nos alertó de que su equipo de seguridad había observado cómo SweetSpecter enviaba correos de phishing dirigido con archivos adjuntos maliciosos a las cuentas de correo tanto corporativas como personales de algunos de nuestros empleados.
Versión con datos ocultos del correo enviado por SweetSpecter a un pequeño número de nuestros empleados. Nuestros sistemas de seguridad bloquearon estos correos. Imagen cortesía de Proofpoint.
En estos correos, SweetSpecter se hacía pasar por un usuario de ChatGPT que solicitaba ayuda a los empleados seleccionados como objetivo. Los correos incluían un archivo adjunto malicioso llamado «some problems.zip», que contenía un archivo LNK. Este archivo contenía código que, al abrirse, mostraría al usuario un archivo DOCX con una lista de supuestos mensajes de error y de servicio de ChatGPT. Sin embargo, en segundo plano se descifraría y ejecutaría un malware para Windows conocido como SugarGh0st RAT. El malware está diseñado para dar a SweetSpecter el control del equipo comprometido y permitirle realizar acciones como ejecutar comandos arbitrarios, hacer capturas de pantalla y exfiltrar datos.
El equipo de seguridad de OpenAI se puso en contacto con los empleados que se creía que habían sido objetivo de esta campaña de phishing dirigido y comprobó que los controles de seguridad existentes habían impedido que los mensajes llegaran a sus cuentas de correo corporativas.
Contenido utilizado como señuelo en uno de los archivos LNK maliciosos analizados, que se mostraría al ejecutarlo.
A lo largo de este proceso, nuestra colaboración con socios del sector fue clave para identificar estos intentos fallidos de comprometer las cuentas de los empleados. Esto pone de relieve la importancia de compartir inteligencia sobre amenazas y colaborar para anticiparse a adversarios sofisticados en la era de la IA. Al aprovechar la información compartida y los conocimientos colectivos, podemos proteger mejor nuestros activos e interrumpir la actividad de las cuentas de nuestra plataforma vinculadas a estas prácticas.
Respuestas generadas
Al analizar el conjunto de la infraestructura que sustentaba esta campaña, encontramos y bloqueamos un grupo de cuentas de ChatGPT que utilizaban la misma infraestructura para intentar obtener respuestas a preguntas y completar tareas de creación de scripts e investigación de vulnerabilidades. Relacionamos estas interacciones con las tácticas, técnicas y procedimientos (TTP) basados en LLM que Microsoft propuso integrar en el marco MITRE ATT&CK® a principios de este año. El marco MITRE recoge tácticas y técnicas utilizadas por ciberadversarios en situaciones reales. Al detallar estas correspondencias, nuestro objetivo es informar al conjunto de la comunidad de ciberseguridad sobre las TTP observadas y contribuir a mejorar la eficacia de la ciberdefensa.
A continuación se muestran algunos ejemplos de actividades de SweetSpecter que se corresponden con estas TTP:
Actividad | Categoría del marco ATT&CK para LLM |
|---|---|
Preguntar por vulnerabilidades en diversas aplicaciones | Reconocimiento basado en información de LLM |
Preguntar cómo buscar versiones específicas de Log4j afectadas por Log4Shell, una vulnerabilidad crítica de ejecución remota de código (RCE) | Reconocimiento basado en información de LLM |
Preguntar por sistemas de gestión de contenidos populares en el extranjero | Reconocimiento basado en información de LLM |
Solicitar información sobre números CVE específicos | Reconocimiento basado en información de LLM |
Preguntar cómo se crean escáneres capaces de analizar todo Internet. | Reconocimiento basado en información de LLM |
Preguntar cómo se utilizaría sqlmap para subir un posible web shell a un servidor objetivo. | Investigación de vulnerabilidades asistida por LLM |
Pedir ayuda para encontrar formas de explotar vulnerabilidades en la infraestructura de un destacado fabricante de automóviles. | Investigación de vulnerabilidades asistida por LLM |
Proporcionar código y pedir ayuda adicional para utilizar servicios de comunicación con los que enviar mensajes de texto de forma programática. | Técnicas de creación de scripts mejoradas con LLM |
Pedir ayuda para depurar una extensión en desarrollo para una herramienta de ciberseguridad. | Técnicas de creación de scripts mejoradas con LLM |
Pedir ayuda para depurar código que forma parte de un entorno de desarrollo más amplio destinado a enviar mensajes de texto de forma programática a números especificados por el atacante. | Desarrollo asistido por LLM |
Preguntar por temas que resultarían interesantes para empleados de departamentos gubernamentales y por nombres adecuados para evitar el bloqueo de archivos adjuntos. | Ingeniería social con apoyo de LLM |
Pedir variantes de un mensaje de contratación laboral proporcionado por el atacante. | Ingeniería social con apoyo de LLM |
A lo largo de esta investigación, nuestros equipos de seguridad utilizaron ChatGPT para analizar, categorizar, traducir y resumir interacciones de cuentas de adversarios. Esto nos permitió extraer rápidamente información relevante de grandes conjuntos de datos y, al mismo tiempo, minimizar los recursos necesarios para este trabajo. A medida que nuestros modelos sean más avanzados, prevemos que también podremos utilizar ChatGPT para aplicar ingeniería inversa a los archivos adjuntos maliciosos enviados a los empleados y analizarlos.
Impacto
En consonancia con lo observado en nuestro primer informe sobre amenazas, el uso de nuestros modelos no pareció aportar a los operadores capacidades ni orientaciones novedosas que no pudieran haber obtenido por otros medios a partir de múltiples recursos de acceso público. Nuestros mecanismos de seguridad bloquearon los correos maliciosos del adversario antes de que llegaran a las bandejas de entrada de los empleados.