Operació "Número equivocat": estafa de tasques assistida per IA

Aquest estudi de cas es va publicar originalment a l’informe de juny de 2025⁠(s'obre en una finestra nova) d’OpenAI.

Vam bloquejar comptes de ChatGPT que generaven missatges breus de captació en anglès, castellà, suahili, ruandès, alemany i crioll haitià. Aquests missatges oferien sous elevats per fer tasques trivials, com ara indicar que els agradaven publicacions a les xarxes socials, i animaven els destinataris a captar altres persones. L’operació semblava molt centralitzada i probablement tenia l’origen a Cambodja.

Gràcies a eines de traducció basades en IA, vam poder investigar i interrompre ràpidament l’ús dels serveis d’OpenAI per part de la campanya.

La majoria dels comentaris de la xarxa estaven relacionats amb tasques de traducció. Feien servir ChatGPT per traduir frases de conversa entre el xinès i diverses llengües, sobretot l’anglès, el castellà, el ruandès, el suahili, l’alemany i el crioll haitià. Normalment, aquestes tasques alternaven entre traduir al xinès un missatge entrant i tornar a traduir una resposta del xinès a la llengua original.

Alguns d’aquests missatges semblaven anuncis de feina de captació en fred i oferien una remuneració elevada per hora a canvi de molt poca feina. Un d’aquests missatges es va distribuir per SMS a un conjunt aparentment aleatori de números de mòbil del Regne Unit, un dels quals pertanyia a un investigador d’OpenAI. Hem batejat aquesta operació com a "Número equivocat", en honor de l’SMS inicial.

Els actors maliciosos semblaven recórrer a diverses plataformes de missatgeria. L’SMS inicial indicava als destinataris que continuessin per WhatsApp i, des d’allà, els qui responien eren derivats a un "mentor" a Telegram. En algunes activitats també es feia referència a l’aplicació de missatgeria BonChat. Els primers missatges introductoris enviats per aquests canals no semblaven haver estat generats amb els nostres models. Eren missatges rutinaris que probablement es podien fer servir en qualsevol conversa.

Moltes de les tasques de traducció incloïen comunicacions que suposadament provenien de representants d’empreses que afirmaven ser "ocupadores". Els mateixos noms d’empreses apareixien repetidament en nombroses converses de ChatGPT incloses en aquesta investigació. Entre aquestes empreses hi havia Hyesung Advertising⁠(s'obre en una finestra nova) i Lightning Shared Scooter Co (LSSC)⁠(s'obre en una finestra nova). Informacions públiques han assenyalat Hyesung i LSSC com a presumptes estafes de tasques. Tot i que no hem verificat de manera independent la naturalesa d’aquestes entitats, la nostra investigació va determinar que els missatges que suposadament en provenien eren generats per usuaris de ChatGPT de parla xinesa, probablement des de Cambodja.

Les empreses que aquesta xarxa afirmava representar pertanyien a sectors molt diversos, des de la negociació d’accions i el lloguer de patinets fins a la venda de "m’agrada" a les xarxes socials. Un senyal d’alerta clar era l’oferta de pagar més de 5 $ per un sol "m’agrada" a TikTok; en canvi, en una revisió manual de mercats en línia vam observar que alguns venedors de "m’agrada" a les xarxes socials cobren menys de 10 $ per 1.000 "m’agrada".

Combinant indicadors externs a la plataforma amb observacions internes, vam identificar un patró de funcionament recurrent. Per facilitar la comprensió d’aquesta tàctica i simplificar-ne la classificació, descrivim aquest patró així: el toc (contacte en fred), l’espurna (generar entusiasme) i l’estocada (treure diners):

1. El toc (contacte en fred): la xarxa genera contingut destinat a contactar persones en fred, normalment amb ofertes de sous inusualment alts a canvi de molt poca feina o amb promeses de grans rendiments en inversions borsàries. Aquestes ofertes inclouen remuneracions elevades per tasques senzilles, com ara indicar que agraden publicacions a les xarxes socials, o bé oportunitats d’inversió lucratives.

2. L’espurna (generar entusiasme): la xarxa tradueix converses, probablement entre l’operador i els seus "empleats". Aquests intercanvis inclouen detalls logístics sobre les tasques, però sovint s’hi intercalen missatges motivadors sobre els guanys i les possibles bonificacions.

3. L’estocada (treure diners): la xarxa genera o envia contingut que pressiona l’"empleat" o l’"inversor" perquè aporti diners a fi de desbloquejar recompenses més grans. Això adopta diverses formes, com ara un "dipòsit" inicial, compres de criptomonedes i "despeses de gestió".

Segons informacions públiques⁠(s'obre en una finestra nova), algunes d’aquestes empreses cobraven als nous membres quotes d’inscripció considerables i després destinaven una part d’aquests diners a pagar als "empleats" existents just el necessari per mantenir-los implicats. Aquesta estructura és característica de les estafes de tasques⁠(s'obre en una finestra nova).

És difícil quantificar l’abast real d’aquesta xarxa, atesa la nostra visibilitat limitada. Tanmateix, els informes externs a la plataforma⁠(s'obre en una finestra nova) i les converses en què els "empleats" exigien reemborsaments indiquen que almenys algunes persones van pagar aquests presumptes ocupadors. També vam observar usuaris reals que defensaven les empreses a les xarxes socials, cosa que indica un cert grau d’interacció en el món real.