Opération « Mauvais numéro » : fraude à la tâche assistée par l’IA

Cette étude de cas a d’abord été publiée dans le rapport de juin 2025⁠(s'ouvre dans une nouvelle fenêtre) d’OpenAI.

Nous avons banni des comptes ChatGPT qui généraient de courts messages de recrutement en anglais, en espagnol, en swahili, en kinyarwanda, en allemand et en créole haïtien. Ces messages offraient aux destinataires des salaires élevés pour des tâches banales, comme aimer des publications sur les médias sociaux, et les encourageaient à recruter d’autres personnes. L’opération semblait fortement centralisée et provenait probablement du Cambodge.

Grâce à des outils de traduction alimentés par l’IA, nous avons pu enquêter sur l’utilisation des services d’OpenAI par cette campagne et l’interrompre rapidement.

La majorité des commentaires du réseau concernaient des tâches de traduction. Le réseau utilisait ChatGPT pour traduire des phrases conversationnelles entre le chinois et plusieurs autres langues, notamment l’anglais, l’espagnol, le kinyarwanda, le swahili, l’allemand et le créole haïtien. Ces tâches consistaient généralement à traduire un message reçu en chinois, puis à retraduire une réponse du chinois vers la langue d’origine.

Certains de ces messages ressemblaient à des offres d’emploi non sollicitées proposant un salaire horaire élevé pour un travail minimal. Un de ces messages a été envoyé par SMS à ce qui semblait être un ensemble aléatoire de numéros de téléphone mobile du Royaume-Uni, dont celui d’un enquêteur d’OpenAI. Nous avons baptisé cette opération « Mauvais numéro », en hommage au SMS initial.

Les acteurs malveillants semblaient utiliser plusieurs plateformes de messagerie. Le SMS initial invitait les destinataires à communiquer sur WhatsApp, puis les personnes qui répondaient étaient dirigées vers un « mentor » sur Telegram. Certaines activités faisaient également référence à l’application de messagerie BonChat. Les premiers messages d’introduction transmis par ces canaux ne semblaient pas avoir été générés à l’aide de nos modèles. Il s’agissait de messages courants qui pouvaient probablement s’appliquer à toutes les conversations.

De nombreuses tâches de traduction portaient sur des communications censées provenir de représentants de prétendues entreprises « employeuses ». Les mêmes noms d’entreprises revenaient dans de nombreuses conversations ChatGPT visées par cette enquête. Il s’agissait notamment de Hyesung Advertising⁠(s'ouvre dans une nouvelle fenêtre) et de Lightning Shared Scooter Co (LSSC)⁠(s'ouvre dans une nouvelle fenêtre). Des rapports publics ont désigné Hyesung et LSSC comme de présumées fraudes à la tâche. Bien que nous n’ayons pas vérifié de façon indépendante la nature de ces entités, notre enquête a révélé que les messages censés provenir de celles-ci avaient été générés par des utilisateurs de ChatGPT sinophones, probablement établis au Cambodge.

Les entreprises que ce réseau prétendait représenter couvraient un large éventail de secteurs, du commerce d’actions à la location de trottinettes, en passant par la vente de mentions J’aime sur les médias sociaux. Un signal d’alarme évident était l’offre de plus de 5 $ pour une seule mention J’aime sur TikTok; en comparaison, notre examen manuel des marchés en ligne a montré que certains vendeurs facturent moins de 10 $ pour 1 000 mentions J’aime.

En combinant des indicateurs externes à la plateforme avec des observations internes, nous avons relevé un processus récurrent. Afin de mieux faire comprendre cette tactique et d’en simplifier la classification, nous décrivons ce processus ainsi : le contact (approche à froid), l’enthousiasme (susciter l’intérêt) et le piège (soutirer de l’argent) :

1. Le contact (approche à froid) : le réseau génère du contenu destiné à la sollicitation à froid, offrant généralement une rémunération inhabituellement élevée pour un travail minimal ou promettant des rendements élevés sur des placements boursiers. Ces offres comprennent une rémunération élevée pour des tâches simples, comme aimer des publications sur les médias sociaux, ou des occasions de placement lucratives.

2. L’enthousiasme (susciter l’intérêt) : le réseau traduit des conversations, probablement entre l’opérateur et ses « employés ». Ces échanges comprennent des détails logistiques sur les tâches, mais sont souvent ponctués de messages motivants sur les revenus et les primes potentielles.

3. Le piège (soutirer de l’argent) : le réseau génère ou envoie du contenu qui pousse l’« employé » ou l’« investisseur » à verser de l’argent afin de débloquer des récompenses plus importantes. Cela prend plusieurs formes, notamment un « dépôt » initial, des achats de cryptomonnaie et des « frais de traitement ».

Des rapports publics⁠(s'ouvre dans une nouvelle fenêtre) indiquent que certaines de ces entreprises exigeaient des frais d’adhésion substantiels aux nouvelles recrues, puis utilisaient une partie de ces fonds pour verser aux « employés » existants juste assez d’argent pour maintenir leur participation. Cette structure est caractéristique des fraudes à la tâche⁠(s'ouvre dans une nouvelle fenêtre).

Il est difficile de quantifier la portée réelle de ce réseau, compte tenu de notre visibilité limitée. Cependant, des rapports externes à la plateforme⁠(s'ouvre dans une nouvelle fenêtre) et des conversations où des « employés » exigeaient des remboursements indiquent qu’au moins certaines personnes ont versé de l’argent à ces prétendus employeurs. Nous avons également observé de véritables utilisateurs défendre les entreprises sur les médias sociaux, ce qui laisse croire à une certaine participation dans le monde réel.