Desarticulación de una operación delictiva de estafa radicada en Camboya
OpenAI desarticuló una operación de estafa radicada en Camboya que usaba ChatGPT para apoyar fraudes de inversión, románticos, de apuestas y de suplantación de identidad.
Introducción
A principios de este año, desarticulamos una operación de estafa radicada en Camboya que usaba ChatGPT para apoyar fraudes de inversión, románticos, de apuestas y de suplantación de agentes del orden. Comenzamos a investigar esta actividad tras recibir una pista de nuestros homólogos de WhatsApp y, desde entonces, hemos compartido otros indicios de amenazas con socios del sector y las autoridades pertinentes.
La operación ilustra una realidad importante sobre las redes de estafas modernas: los grupos delictivos organizados rara vez se limitan a un único tipo de estafa. En su lugar, aprovechan cualquier historia, identidad o táctica que consideren eficaz para engañar a las víctimas. En nuestras investigaciones, observamos habitualmente que los responsables pasan de un tipo de estafa a otro o combinan varias técnicas en una misma operación.
Algunos usuarios de la red también generaron contenido que apuntaba a posibles vínculos con la trata de personas y la actividad delictiva forzada. Estas observaciones concuerdan con numerosos informes(se abre en una ventana nueva) públicos que describen(se abre en una ventana nueva) cómo grupos delictivos organizados del Sudeste Asiático captan trabajadores con promesas de empleo legítimo y luego los atrapan en sistemas de servidumbre por deudas y coacción. Aunque no podemos determinar de forma independiente las circunstancias de cada persona implicada, esta actividad nos recuerda que quienes llevan a cabo las estafas también pueden ser víctimas de explotación.
Responsable
Bloqueamos una red coordinada de cuentas de ChatGPT que, con gran probabilidad, tenía su origen en Camboya y operaba en Poipet o sus alrededores. Esta ciudad de la provincia de Banteay Meanchey ha sido vinculada(se abre en una ventana nueva) reiteradamente(se abre en una ventana nueva) por diversos medios(se abre en una ventana nueva) con centros de estafas en línea y operaciones de trata.
La red utilizó nuestros modelos para crear identidades falsas en línea y gestionar su actividad, generar y traducir mensajes dirigidos a posibles víctimas, crear contenido promocional para sus fraudes y facilitar las operaciones cotidianas.
Al igual que en anteriores(se abre en una ventana nueva) redes de estafas que hemos desarticulado, algunos usuarios también emplearon ChatGPT para tareas administrativas, como redactar comunicados internos, traducir mensajes entre empleados y documentar cuestiones que parecían estar relacionadas con la contratación, la situación migratoria, las condiciones laborales y la disciplina del personal.
Comportamiento
La red llevó a cabo simultáneamente varios tipos de estafas y, con frecuencia, combinó elementos de distintos fraudes. Por ejemplo, los operadores usaban identidades ficticias en aplicaciones de citas para ganarse la confianza de sus objetivos antes de presentarles oportunidades de inversión fraudulentas relacionadas con criptomonedas y operaciones al contado con oro. Otros usuarios mantenían largas conversaciones románticas con sus objetivos utilizando identidades ficticias, se hacían pasar por representantes de plataformas de apuestas en línea que ofrecían bonificaciones y premios falsos o suplantaban a organismos policiales para decir a sus objetivos que debían pagar multas por haber cometido delitos graves.
Aunque las historias variaban, los usuarios de toda la red mostraban sistemáticamente el mismo patrón de conducta engañosa. Por ejemplo, creaban y gestionaban perfiles falsos de citas e identidades ficticias de expertos en inversión y agentes del orden. También generaban imágenes de documentos falsificados, como pasaportes, notificaciones legales, confirmaciones de compra de acciones e interfaces de plataformas de apuestas.
Como hemos señalado en(se abre en una ventana nueva) informes(se abre en una ventana nueva) anteriores(se abre en una ventana nueva), los estafadores seguían un patrón habitual al interactuar con sus objetivos: el contacto (iniciar la conversación), el enganche (generar emociones) y el golpe (obtener dinero).
El contacto: la red utilizaba ChatGPT para traducir y generar conversaciones con sus objetivos en plataformas de mensajería como WhatsApp y Telegram. Los estafadores también creaban contenido para redes sociales y buscaban material para perfiles de citas con el fin de respaldar sus identidades falsas.
El enganche: los mensajes de los estafadores recurrían con frecuencia a la presión emocional y a técnicas para ganarse la confianza de las víctimas. Entre otros ejemplos, prometían rentabilidades garantizadas e inversiones «sin riesgo», usaban un lenguaje romántico, pedían mantener las conversaciones en secreto y exigían actuar con urgencia antes de que caducaran bonificaciones ficticias.
El golpe: los estafadores indicaban a las víctimas que hicieran depósitos para desbloquear supuestas recompensas, pagaran tasas de activación o saldaran multas ficticias. Después, les pedían capturas de pantalla de las transferencias o información de sus cuentas como justificante de pago.

Interfaz falsa de compraventa de criptomonedas creada con ChatGPT por un estafador de la red.

Imagen generada por IA y creada por un estafador de la red para promocionar un fraude de inversión.
Indicios de trata de personas
Además de las estafas, algunos usuarios generaron contenido que apuntaba a su participación en otras actividades que infringen nuestras políticas y que detectamos e interrumpimos, como la trata de personas o el trabajo forzoso. Esto incluía la creación de anuncios en redes sociales para empleos de «operador de chat» en Poipet que prometían vuelos, alojamiento, comidas, visados y permisos de trabajo.
Otras actividades parecían estar relacionadas con la gestión de los trabajadores de la operación. Los usuarios mantenían registros de las deudas de los empleados, las deducciones salariales, las multas disciplinarias y la devolución de préstamos, y traducían conversaciones sobre la situación migratoria, los permisos de trabajo, la permanencia tras caducar los visados y los incentivos de contratación.
Algunas conversaciones también hacían referencia a aparentes retenciones, intentos de fuga y posibles responsabilidades penales de personas que habían sido víctimas de trata y obligadas a trabajar en operaciones de estafa. Aunque estas conversaciones no nos permiten determinar las circunstancias de ninguna persona concreta, concuerdan con numerosos informes(se abre en una ventana nueva) públicos que describen(se abre en una ventana nueva) las actividades de grupos delictivos organizados en el Sudeste Asiático.


Imágenes generadas por IA y creadas por estafadores de la red para anunciar empleos en Camboya en las redes sociales. OpenAI añadió las partes ocultas.
Impacto
Bloqueamos las cuentas de ChatGPT asociadas a esta operación, compartimos los indicios pertinentes con socios del sector y las autoridades correspondientes, y tomamos medidas para dificultar que estos responsables recuperaran el acceso a nuestros productos y servicios.
Se desconoce la magnitud total de las pérdidas económicas asociadas a la red, pero, según las propias comunicaciones de los estafadores, la operación podría haber interactuado con cientos de objetivos mediante distintos tipos de estafa. Las conversaciones de los usuarios hacían referencia a víctimas concretas que habían perdido miles de dólares, aunque no podemos verificar esas afirmaciones de forma independiente.
En términos más generales, este caso confirma dos tendencias. En primer lugar, las redes organizadas de estafas pueden estar muy diversificadas y ejecutar varios fraudes simultáneamente, en lugar de limitarse a un único tipo de estafa. En segundo lugar, los límites entre el fraude en línea, la delincuencia organizada y la trata de personas suelen ser difusos. Por tanto, para lograr una desarticulación eficaz no basta con actuar contra las estafas dirigidas a las víctimas; también hay que perseguir a las organizaciones delictivas que las orquestan y se lucran con ellas.