Estafa de captación romántica: procesos de “matanza de cerdos” asistidos por IA
OpenAI bloqueó cuentas que parecían operar desde Camboya y usaban IA para traducir y generar conversaciones de estafas románticas y de inversión.
Este estudio de caso se publicó originalmente en el informe de OpenAI de febrero de 2025(se abre en una nueva ventana).
Actor
Bloqueamos un grupo de cuentas de ChatGPT que traducían y generaban comentarios breves en japonés, chino e inglés. Esta actividad parece haberse originado en Camboya y coincidía con una estafa romántica y de inversión, también conocida como “matanza de cerdos”. Meta identificó recientemente una actividad relacionada(se abre en una nueva ventana) en su plataforma que parecía provenir de un centro de estafas recién establecido en Camboya.
Comportamiento
Esta red usó nuestros modelos para traducir y generar comentarios breves. El idioma principal de los actores parece haber sido el chino. El contenido se generó en varios idiomas, principalmente japonés y chino, pero también inglés.
Los actores usaron nuestros modelos para dos actividades principales. En primer lugar, generaban comentarios que se publicaban abiertamente en plataformas de redes sociales como Facebook, X e Instagram. Cada cuenta de redes sociales solía mostrar una o más fotos de perfil de una mujer joven. Consideramos que al menos algunas de estas fotos se copiaron de modelos o influencers reales, en lugar de generarse con IA.
La mayoría de los comentarios generados se publicaron en respuesta a publicaciones de personas reales en redes sociales. Algunas de las publicaciones a las que respondían los operadores tenían meses o años de antigüedad. Esta operación solía dirigirse a hombres cuyos perfiles públicos indicaban que tenían más de 40 años, a menudo profesionales de la salud. La operación respondía con frecuencia a publicaciones sobre golf, lo que sugiere una estrategia deliberada para seleccionar objetivos. En ocasiones, los estafadores publicaban sobre temas políticos o acontecimientos de actualidad.
Comentario en Facebook generado por este actor con nuestros modelos, en respuesta al comentario sobre golf de una persona que no parecía estar vinculada con esta operación. La foto de perfil de la cuenta fraudulenta fue copiada de una influencer estadounidense de moda y belleza. La publicación original tenía más de un mes de antigüedad cuando la cuenta fraudulenta publicó allí.
Comentario generado por nuestros modelos y publicado por una cuenta verificada en X en respuesta al tuit de una cuenta que no parecía estar vinculada con esta estafa. La foto de perfil de la cuenta fue copiada de la misma influencer estadounidense de moda y belleza. El tuit original tenía casi seis meses de antigüedad.
En segundo lugar, y con mayor frecuencia, los operadores generaban comentarios breves que parecían fragmentos de una conversación en línea. Por lo general, esto consistía en traducir comentarios del chino a un idioma de destino —japonés o inglés— o del idioma de destino al chino. Esto concuerda con el uso del modelo principalmente para traducir chats en curso por parte de los estafadores.
A veces, las cuentas pedían al modelo que generara una respuesta con un tono determinado, como el de una joven coqueta. En ocasiones, proporcionaban abundantes datos biográficos para orientar las respuestas del modelo, como el nombre, la formación académica, el empleo, la ubicación y los pasatiempos del personaje falso. Estas biografías solían mencionar que el personaje falso hacía algunas inversiones en línea.
Los estafadores parecen haber utilizado muchas herramientas y plataformas diferentes para interactuar con sus objetivos. Nuestra investigación descubrió indicios de que usaban herramientas como LINE, WhatsApp, X, Facebook, Instagram, diversos servicios de mensajería, la función de Apple “Ocultar mi correo”(se abre en una nueva ventana) y plataformas de criptomonedas y cambio de divisas.
Respuestas generadas
Según la perspectiva específica que tenemos de esta actividad, los estafadores parecen haber seguido un proceso habitual para llevar a sus objetivos desde el contacto inicial hasta la inversión fraudulenta:
Interacción pública: los estafadores comentaban en las publicaciones de sus objetivos en redes sociales. Estos comentarios solían terminar con una pregunta como “¿Qué opinas sobre [tema]?”, probablemente para aumentar la posibilidad de obtener una respuesta. En unos pocos casos, comentaron sobre política, pero con mayor frecuencia hablaban de golf.
Probable mensajería directa: después, los estafadores generaban comentarios breves y conversacionales. Aunque no tenemos visibilidad completa sobre cómo y dónde se utilizaron, los comentarios coincidían con una situación en la que el estafador y su objetivo comenzaban a intercambiar mensajes directos.
Mensajería segura: poco después, a menudo en cuestión de días, los estafadores generaban mensajes que sugerían cambiarse a una aplicación de mensajería más segura. A veces lo justificaban diciendo que no confiaban en las redes sociales; otras veces, recurrían a una excusa logística, como afirmar que estaban por ir a un lugar donde no tendrían acceso a ellas.
Vínculo romántico: los estafadores escribían y traducían mensajes cada vez más afectuosos e íntimos. Si los objetivos pedían fotos de la “mujer” con la que chateaban, los estafadores inventaban excusas.
Interacción financiera: los estafadores escribían y traducían mensajes en los que presumían de haber ganado una gran suma de dinero mediante inversiones en línea en divisas, criptomonedas u oro. A menudo lo presentaban como resultado de haber seguido los consejos de un familiar que trabajaba en finanzas. El estafador instaba al objetivo a comenzar a invertir de la misma manera y se ofrecía a guiarlo durante el proceso.
Fraude: los estafadores escribían y traducían mensajes para intentar convencer a la víctima de transferir dinero a una aplicación de inversiones y la animaban exagerando las ganancias que supuestamente obtenía. Cada vez que la víctima intentaba retirar sus “ganancias”, el estafador presentaba alguna excusa, como que era necesario pagar una comisión.
Este patrón de actividad coincide con los reportes disponibles públicamente(se abre en una nueva ventana) sobre el funcionamiento habitual de este tipo de estafas.
Impacto
Esta actividad parece haber incluido muchos intentos fallidos y fracasos. Algunas de las conversaciones que los estafadores procesaron mediante nuestros modelos terminaron cuando el objetivo señaló que se trataba de una estafa o le dijo al estafador que lo dejara en paz. También identificamos publicaciones de los estafadores en redes sociales que no obtuvieron ninguna interacción.
Sin embargo, algunas conversaciones mencionaban sumas de miles de dólares —o su equivalente en otras monedas— como el monto de transacciones individuales. Debido al uso que estos operadores hicieron de nuestros modelos, no podemos determinar si estas transacciones financieras se concretaron, pero las referencias en las conversaciones sugieren que, al menos en algunos casos, los estafadores lograron defraudar a sus objetivos.
Las políticas de OpenAI prohíben estrictamente usar el contenido generado por nuestras herramientas para cometer fraudes o estafas. Nos comprometemos a colaborar con otras empresas del sector y con las autoridades para entender cómo se usa la IA en conductas maliciosas e interrumpir activamente las estafas que abusan de nuestros servicios. En consonancia con este compromiso, compartimos información sobre las redes de estafas que desarticulamos con otras empresas del sector y las autoridades pertinentes.