Operaciones de estafa: redes de fraude en línea

Este estudio de caso se publicó originalmente en el informe de OpenAI de octubre de 2025⁠(se abre en una nueva ventana).

Redes que probablemente se originaron en Camboya, Myanmar y Nigeria usaron ChatGPT de manera indebida en lo que parecen ser intentos de cometer fraude en línea.

Nos dedicamos a identificar, prevenir y detener los intentos de usar indebidamente nuestros modelos con fines perjudiciales. Entre estos abusos se encuentran las estafas, para las que detectamos y bloqueamos a actores maliciosos que intentan usar indebidamente nuestros modelos para engañar y defraudar a las personas. En los últimos tres meses, desarticulamos redes de estafas que probablemente se originaron en Camboya, Myanmar y Nigeria. Como muestra del papel que puede desempeñar la IA en la lucha contra el fraude, al investigar estos patrones de abuso también vimos que muchas personas usan nuestros modelos para identificar estafas. Este informe analiza ambos casos de uso.

El uso indebido de nuestros modelos para facilitar estafas abarca desde actores individuales que intentan cometer fraude hasta operaciones persistentes a gran escala, probablemente vinculadas con grupos delictivos organizados. Sin importar su origen ni sus tácticas específicas, la actividad relacionada con estafas que hemos detenido suele seguir un patrón común: el contacto inicial (acercarse en frío), el impacto (intentar generar entusiasmo o pánico) y el golpe final (obtener dinero o información valiosa).

Estos estafadores comienzan difundiendo contenido, generado o no con IA, en servicios de mensajería e internet, incluso mediante anuncios en redes sociales. Luego intentan despertar en quienes responden entusiasmo por una oportunidad lucrativa o miedo ante una pérdida financiera inminente, y aprovechan esa emoción para convencer a la persona objetivo de entregar dinero o información confidencial.

También observamos muchos casos en los que nuestros modelos probablemente ayudaron a proteger a las personas del fraude. Hemos visto millones de veces al mes indicios de personas que usan ChatGPT para identificar y evitar estafas en línea. En todas las operaciones de estafa incluidas en este informe, vimos que el modelo ayudó a las personas a identificar correctamente la estafa y les recomendó medidas de seguridad adecuadas. Nuestra estimación actual indica que ChatGPT se usa para identificar estafas hasta tres veces más de lo que se usa para cometerlas.

Ejemplo de un investigador de OpenAI que pegó en ChatGPT una captura de pantalla de un SMS fraudulento que había recibido y usó correctamente el modelo para identificarlo como una estafa. En este caso, los actores de amenazas intentaron hacerse pasar por reclutadores de TikTok.

Desde nuestro último informe, reforzamos nuestra capacidad para detectar y detener estafas. Desarticulamos otras redes de estafas que parecían originarse en Camboya, Myanmar y Nigeria. Junto con nuestras intervenciones anteriores, estas medidas nos permiten identificar algunas tendencias emergentes en múltiples operaciones de estafa de distintos países.

La mayor parte de la actividad fraudulenta que detuvimos se centró en incorporar la IA a métodos de estafa existentes, en lugar de crear métodos nuevos en torno a ella. Todas las operaciones de estafa que identificamos y bloqueamos este año usaron la IA principalmente como herramienta para aumentar la escala y la eficiencia. Por lo general, esto incluía usar nuestros modelos para traducir, redactar mensajes y crear contenido para redes sociales.

Por ejemplo, recientemente bloqueamos operaciones de estafa que probablemente se originaron en Camboya y Nigeria y se hacían pasar por “empresas de inversión” para defraudar a víctimas de varios países. Los estafadores crearon sitios web y anuncios en línea para promocionar las empresas falsas, y usaron cuentas de redes sociales probablemente ficticias que se hacían pasar por expertos en inversiones para invitar a personas a grupos privados de mensajería. Tras prometer oportunidades lucrativas y sin riesgo, los actores de amenazas intentaban convencer a posibles víctimas de realizar pagos en plataformas de inversión ficticias. En todas las estafas, los responsables usaron nuestros modelos principalmente para generar y traducir mensajes, crear contenido para sus sitios web y cuentas de redes sociales, y realizar investigaciones básicas.

En otro caso, bloqueamos un centro de estafas ubicado con gran probabilidad en Myanmar, que usaba nuestros modelos tanto para generar contenido destinado a sus tramas fraudulentas como para realizar tareas empresariales cotidianas. Esto incluía organizar horarios, redactar anuncios internos, asignar escritorios y dormitorios, y administrar cuentas financieras. Algunos operadores preguntaron por las sanciones penales para quienes fueran sorprendidos cometiendo estafas en línea.

No todos los estafadores que detuvimos usaban nuestros modelos de la misma manera ni con el mismo grado de complejidad. La mayoría de las interacciones de los estafadores con ChatGPT consistía en tareas relativamente sencillas, como traducir, pero algunas operaciones eran más ambiciosas y elaboradas.

Por ejemplo, una operación de estafa que probablemente se originó en Camboya y que detuvimos usaba nuestros modelos para generar biografías detalladas de falsos expertos en inversiones y empleados ficticios de empresas de inversión falsas. Luego, los estafadores le pidieron a ChatGPT que redactara mensajes para redes sociales con la voz de esos personajes. A menudo, los actores de amenazas ingresaban en nuestro modelo mensajes que parecían haber recibido de sus objetivos y le pedían que continuara la conversación como el personaje falso.

Una segunda operación de estafa, que también probablemente se originó en Camboya, comenzó usando nuestros modelos para generar mensajes SMS de contacto en frío que se enviaban de forma masiva a números telefónicos de EE. UU. Uno de estos mensajes llegó a un investigador de OpenAI, en un caso similar al que informamos en junio. Estos SMS incluían invitaciones para unirse a grupos de WhatsApp —que luego fueron bloqueados— cuyos nombres se parecían al de una empresa de inversión legítima.

Según una serie de mensajes de WhatsApp enviados al investigador de OpenAI, si una posible víctima se unía a uno de estos grupos, rápidamente presenciaba una “conversación” entre media docena de cuentas distintas, todas hablando de inversiones. Una de estas cuentas se hacía pasar por el “experto en inversiones”, mientras que las demás fingían ser inversionistas con distintos grados de confianza y experiencia. Los estafadores generaban cada parte de esta conversación y la traducían en un solo bloque desde el chino, probablemente para dar la impresión de que se trataba de un grupo dinámico de inversionistas entusiastas y exitosos. Al final, el “experto en inversiones” sugería que la persona objetivo también intentara invertir.

Por otra parte, una operación de estafa de inversiones que muy probablemente se originó en Nigeria le pidió al modelo instrucciones paso a paso para usar anuncios en redes sociales a fin de llegar a personas adineradas de América Latina, ocultar su ubicación y eludir las restricciones de las plataformas sociales. Para ello, dirigían al modelo a las condiciones de servicio públicas de una plataforma y le pedían que verificara si el contenido propuesto para los anuncios las cumplía.

Los estafadores, en especial los centros de estafas a gran escala, son persistentes. Con mucha frecuencia, ante una intervención intentan reanudar la actividad infractora mientras cambian algunos aspectos de su comportamiento, probablemente para evitar que vuelvan a detectarlos. Esta es una de las razones por las que resulta importante compartir en todo el sector información sobre la evolución de sus actividades, como cuando OpenAI y Meta compartieron datos sobre actores de amenazas que contribuyeron a nuevas investigaciones y medidas de cumplimiento.

Posiblemente como respuesta a las intervenciones o a conversaciones más amplias en internet sobre las señales que pueden revelar el uso de IA, vimos a estafadores intentar ocultar el uso de IA en el contenido en línea y en sus comunicaciones con los objetivos. Esto incluye operaciones de estafa probablemente originadas en Camboya que indicaban al modelo que eliminara las rayas de sus respuestas.

En un caso, los estafadores intentaron justificar la desarticulación a gran escala de sus recursos en redes sociales inventando una excusa para explicar el bloqueo. Se trataba del centro de estafas probablemente originado en Camboya y que operaba mediante SMS y WhatsApp, descrito anteriormente. Después de que WhatsApp bloqueara los “grupos de inversión” vinculados con la operación, los responsables comenzaron a generar mensajes que afirmaban que un competidor había denunciado falsamente esos grupos, probablemente para justificar los bloqueos.

Captura de pantalla de un mensaje de WhatsApp que la operación de estafa vinculada con Camboya envió a un investigador de OpenAI después de que WhatsApp la desarticulara.