Operació "Cita trampa": una estafa amb IA dirigida a persones que busquen l'amor

Aquest estudi de cas es va publicar originalment a l'informe d'OpenAI de febrer de 2026⁠(s'obre en una finestra nova) sobre les actuacions per frenar els usos maliciosos de la IA.

Vam bloquejar un grup de comptes de ChatGPT i un client de l'API que feien servir els nostres models per dur a terme una estafa semiautomatitzada que combinava el component romàntic amb tasques i que probablement estafava centenars de víctimes al mes. És molt probable que aquesta activitat tingués l'origen a Cambodja, i concorda amb informes⁠(s'obre en una finestra nova) públics recents sobre operacions criminals d'estafa dirigides per xinesos al país. En casos aïllats, alguns usuaris es van identificar com a treballadors d'estafes a Cambodja, per exemple, en demanar assessorament fiscal al model i indicar que la seva ocupació era "estafador".

La xarxa feia servir ChatGPT i l'accés als nostres models a través de l'API per dur a terme, a gran escala, una estafa romàntica de tasques semiautomatitzada. Seguia un flux de treball estructurat i un model operatiu que recordava els programes de venda mitjançant contactes en fred.

1. Contacte: A la fase inicial de captació, l'operació feia servir els seus comptes de ChatGPT per generar textos promocionals per a un servei de cites i acompanyants de luxe anomenat "Club romàntic". Després, aquests textos es publicaven a les xarxes socials com a anuncis de pagament. Els estafadors s'adreçaven a homes indonesis interessats en continguts sobre estils de vida luxosos, amb paraules clau publicitàries com "golf", "iots" i "alta gastronomia". Els anuncis incloïen enllaços a un bot de conversa amb IA que havia rebut instruccions de fer-se passar per una recepcionista coqueta. La suposada recepcionista demanava a les possibles víctimes que triessin entre un menú de tipus de dones i de relacions abans de dirigir-les a Telegram mitjançant un URL de seguiment i un codi promocional.

2. Emoció: Un cop a Telegram, l'operació combinava operadors humans que feien servir ChatGPT amb processos automatitzats a través de l'API. Els perfils de recepcionistes continuaven la conversa amb un llenguatge cada vegada més romàntic i sexualment explícit, i després oferien a les possibles víctimes unir-se a unes plataformes de cites en línia anomenades "Codi de l'amor" i "Acció sexual". La plataforma mostrava perfils de suposades "noies disponibles" i un canal d'anuncis generats amb IA que felicitaven clients ficticis per haver completat "missions", desbloquejat bonificacions i guanyat premis.

Un cop s'havia guanyat la confiança de la víctima, el perfil de recepcionista traspassava la conversa a un "mentor", que feia servir ChatGPT per generar i traduir missatges de manipulació emocional que pressionaven la víctima perquè completés una seqüència de "tasques" o "missions". Cada tasca exigia pagaments cada vegada més elevats mitjançant transferències bancàries o moneders digitals, com ara comprar una "targeta VIP", donar suport a una "noia escollida" en un concurs o pagar el dipòsit d'un hotel. Imatge d'una recepcionista falsa de la plataforma de cites "Codi de l'amor", creada per un estafador amb ChatGPT.

3. Estocada: A l'etapa final, els estafadors intentaven cobrar un pagament més elevat, que descrivien com el "cop final", inventant-se càrrecs addicionals com ara "liquidacions d'indemnitzacions" o "dipòsits de verificació". A jutjar pels missatges que els estafadors enganxaven a ChatGPT, un cop la víctima havia enviat la quantitat màxima possible, la bloquejaven a Telegram i marcaven el cas com a tancat. Còpia d'una carta compartida amb ChatGPT per un estafador, en què diu a una víctima que ha de pagar 20.500.000 Rp (12.000 $) per corregir un error fictici de processament de dades al sistema Codi de l'amor, però que rebrà una "bonificació" del 35 %, de 39.860.000 Rp. Els investigadors d'OpenAI n'han ocultat algunes dades.

A més de l'activitat d'estafa romàntica, l'operació també feia servir els nostres models per facilitar la gestió quotidiana del negoci. Això incloïa demanar a ChatGPT orientació per dur a terme tasques tècniques, com integrar l'API d'OpenAI o actualitzar el web del servei de cites fals, analitzar comptes financers i generar informes diaris que assignaven a cada víctima un valor de "cop final" calculat pels estafadors: la quantitat estimada que volien extreure'n al final.

En altres casos, els estafadors demanaven a ChatGPT que traduís missatges entre supervisors de parla xinesa i treballadors del centre d'estafes de parla indonèsia, i que fes un seguiment del rendiment dels departaments anomenats "Captació de clients potencials", "Equip de recepció" i "Equip de supervisió".

Cal prudència a l'hora d'avaluar l'impacte d'aquesta xarxa. La nostra principal font de proves són els textos que els mateixos estafadors introduïen al model. Aquests textos suggereixen que els estafadors podrien haver estat interactuant amb centenars de possibles víctimes alhora i obtenint milers de dòlars al dia. Tanmateix, no podem verificar de manera independent si aquestes afirmacions eren certes.

Les polítiques d'OpenAI prohibeixen estrictament utilitzar el contingut generat amb les nostres eines per cometre fraus o estafes. Ens comprometem a col·laborar amb altres empreses del sector i amb les autoritats per entendre com influeix la IA en els comportaments maliciosos i per frenar activament les estafes que fan un ús indegut dels nostres serveis.