Operaciones fraudulentas: redes de fraude en internet

Este estudio de caso se publicó originalmente en el informe de OpenAI de octubre de 2025⁠(se abre en una ventana nueva).

Redes probablemente originadas en Camboya, Myanmar y Nigeria abusaron de ChatGPT en lo que parecen intentos de estafar a personas por internet.

Nos dedicamos a identificar, prevenir y frenar los intentos de abusar de nuestros modelos con fines dañinos. Entre estos abusos se encuentran las estafas: detectamos y bloqueamos a actores maliciosos que intentan utilizar indebidamente nuestros modelos para engañar y estafar a personas. En los últimos tres meses, hemos desarticulado redes de estafas probablemente originadas en Camboya, Myanmar y Nigeria. Como muestra del papel que puede desempeñar la IA en la lucha contra el fraude, al investigar estos patrones de abuso también hemos visto a muchas personas utilizar nuestros modelos para identificar estafas. Este informe analiza ambos casos de uso.

El abuso de nuestros modelos para facilitar estafas abarca desde individuos que intentan cometer fraude hasta operaciones persistentes y a gran escala probablemente vinculadas a grupos de delincuencia organizada. Independientemente de su origen y sus tácticas concretas, la actividad relacionada con estafas que hemos desarticulado suele seguir un patrón común que denominamos el «contacto» (acercamiento no solicitado), el «impacto» (intento de generar entusiasmo o pánico) y el «golpe» (obtención de dinero o información valiosa).

Estos estafadores empiezan difundiendo contenidos, generados o no mediante IA, por servicios de mensajería e internet, lo que incluye publicar anuncios en redes sociales. Después intentan despertar en quienes responden entusiasmo por una oportunidad lucrativa o miedo a una pérdida económica inminente, y aprovechan esa emoción para convencer a la víctima de que entregue dinero o información confidencial.

También hemos observado muchos casos en los que nuestros modelos probablemente han ayudado a proteger a personas frente al fraude. Hemos encontrado pruebas de que se utiliza ChatGPT millones de veces al mes para identificar y evitar estafas en internet. En todas las operaciones fraudulentas descritas en este informe, hemos visto al modelo ayudar a identificar correctamente la estafa y recomendar medidas de seguridad adecuadas. Según nuestra estimación actual, ChatGPT se utiliza para identificar estafas hasta tres veces más que para cometerlas.

Ejemplo de un investigador de OpenAI que pegó en ChatGPT una captura de pantalla de un SMS fraudulento que había recibido y utilizó correctamente el modelo para identificarlo como una estafa. En este caso, los actores maliciosos intentaron hacerse pasar por reclutadores de TikTok.

Desde nuestro último informe, hemos reforzado nuestra capacidad para detectar y desarticular estafas. Hemos desarticulado más redes de estafas que parecían proceder de Camboya, Myanmar y Nigeria. Junto con nuestras intervenciones anteriores, estas medidas nos permiten identificar algunas tendencias emergentes en varias operaciones fraudulentas de distintos países.

La mayor parte de la actividad fraudulenta que desarticulamos se centraba en incorporar la IA a métodos de estafa ya existentes, en lugar de crear otros nuevos en torno a ella. Todas las operaciones fraudulentas que hemos identificado y bloqueado este año utilizaron principalmente la IA como herramienta para ampliar su escala y mejorar su eficiencia. Por lo general, esto incluía utilizar nuestros modelos para traducir, redactar mensajes y crear contenido para redes sociales.

Por ejemplo, recientemente bloqueamos operaciones fraudulentas probablemente originadas en Camboya y Nigeria que se hacían pasar por «empresas de inversión» para intentar estafar a víctimas de varios países. Los estafadores crearon sitios web y anuncios en internet para promocionar las empresas falsas, y utilizaron cuentas de redes sociales probablemente fraudulentas que se hacían pasar por expertos en inversión para invitar a personas a grupos privados de mensajería. Tras prometer oportunidades de obtener beneficios lucrativos sin riesgo, los actores maliciosos intentaban atraer a posibles víctimas para que ingresaran dinero en plataformas de inversión ficticias. En todas estas estafas, los estafadores utilizaron nuestros modelos principalmente para generar y traducir correspondencia, crear contenido para sus sitios web y cuentas de redes sociales, y realizar investigaciones básicas.

En otro caso, bloqueamos un centro de estafas ubicado con gran probabilidad en Myanmar que utilizaba nuestros modelos tanto para generar contenido destinado a sus tramas fraudulentas como para realizar tareas empresariales cotidianas. Estas tareas incluían organizar horarios, redactar comunicados internos, asignar puestos de trabajo y plazas en dormitorios, y gestionar cuentas financieras. Algunos operadores preguntaron por las penas aplicables a quienes fueran descubiertos cometiendo estafas por internet.

No todos los estafadores que bloqueamos utilizaban nuestros modelos de la misma manera ni con el mismo grado de complejidad. La mayoría de las interacciones de los estafadores con ChatGPT consistían en tareas relativamente sencillas, como traducir, pero algunas operaciones fraudulentas eran más ambiciosas y elaboradas.

Por ejemplo, una operación fraudulenta que probablemente se originó en Camboya y que desarticulamos utilizaba nuestros modelos para generar biografías detalladas de falsos expertos en inversión y empleados ficticios de empresas de inversión falsas. Después, los estafadores pidieron a ChatGPT que escribiera mensajes para redes sociales con las voces de esos personajes. A menudo, los actores maliciosos introducían en nuestro modelo mensajes que parecían haber recibido de sus objetivos y le pedían que continuara la conversación adoptando la identidad falsa.

Una segunda operación fraudulenta, también originada probablemente en Camboya, comenzó utilizando nuestros modelos para generar SMS de captación no solicitados que se enviaban de forma masiva a números de teléfono de Estados Unidos. Uno de ellos se envió a un investigador de OpenAI, de forma similar al caso sobre el que informamos en junio. Estos SMS incluían invitaciones para unirse a grupos de WhatsApp, posteriormente bloqueados, cuyos nombres se parecían al de una empresa de inversión legítima.

Según una serie de mensajes de WhatsApp enviados al investigador de OpenAI, si un posible objetivo se unía a uno de estos grupos, enseguida presenciaba una «conversación» entre media docena de cuentas distintas que hablaban sobre inversiones. Una se hacía pasar por el «experto en inversión», mientras que las demás fingían ser inversores con distintos niveles de confianza y experiencia. Los estafadores generaban todas las partes de esta conversación y las traducían en un único bloque del chino, probablemente para dar la impresión de que se trataba de un grupo dinámico de inversores entusiastas y exitosos. Finalmente, el «experto en inversión» sugería al objetivo que también probara a invertir.

Por otra parte, una operación de estafa de inversión originada con gran probabilidad en Nigeria pidió al modelo instrucciones paso a paso para utilizar anuncios en redes sociales con el fin de llegar a personas adineradas de Latinoamérica, ocultar su ubicación y eludir las restricciones de las plataformas sociales. Para ello, dirigían el modelo a las condiciones de servicio públicas de una plataforma y le pedían que comprobara si el contenido publicitario propuesto las cumplía.

Los estafadores, especialmente los grandes centros de estafas, son persistentes. Con mucha frecuencia, ante una intervención intentan reanudar la actividad infractora, aunque modifican algunos aspectos de su conducta, probablemente para evitar que vuelvan a detectarlos. Este es uno de los motivos por los que resulta importante compartir con todo el sector información sobre la evolución de su actividad, como cuando OpenAI y Meta intercambiaron datos sobre actores maliciosos que contribuyeron a nuevas investigaciones y medidas de cumplimiento.

Quizá en respuesta a nuestras intervenciones o a conversaciones más amplias en internet sobre los indicios que pueden revelar el uso de IA, hemos visto a estafadores intentar ocultar el uso de esta tecnología en su contenido en internet y en las comunicaciones con sus objetivos. Esto incluye operaciones fraudulentas probablemente originadas en Camboya que indicaban al modelo que eliminara las rayas de los resultados.

En un caso, los estafadores intentaron justificar una intervención a gran escala contra sus recursos en redes sociales inventando una excusa para explicar el bloqueo. Se trataba del centro de estafas probablemente originado en Camboya que operaba mediante SMS y WhatsApp, descrito anteriormente. Después de que WhatsApp bloqueara los «grupos de inversión» vinculados a la operación, los operadores empezaron a generar mensajes en los que afirmaban que un competidor había denunciado falsamente esos grupos, probablemente para justificar los bloqueos.

Captura de pantalla de un mensaje de WhatsApp enviado por la operación fraudulenta vinculada a Camboya a un investigador de OpenAI tras la intervención de WhatsApp.