Arnaque à la tâche : faux emplois d’évaluation assistés par l’IA

Cette étude de cas a été publiée initialement dans le rapport de février 2025⁠(s'ouvre dans une nouvelle fenêtre) d’OpenAI.

Nous avons banni un groupe de comptes ChatGPT qui traduisaient de courts commentaires entre l’ourdou et l’anglais, conformément à une arnaque « à la tâche⁠(s'ouvre dans une nouvelle fenêtre) ». Dans ce type d’arnaque, les victimes se voient offrir un emploi très bien rémunéré, mais doivent ensuite verser leur propre argent dans le système avant de pouvoir accéder à leurs prétendus « gains ». Cette activité semblait provenir du Cambodge. Dans ces arnaques, les victimes perdent généralement à la fois leurs « gains » et leur propre argent. Nous avons commencé à enquêter sur cette activité après avoir reçu un signalement de Meta.

Ce réseau utilisait principalement nos modèles pour traduire entre l’ourdou et l’anglais de courts commentaires correspondant à des échanges entre un fraudeur et ses victimes. Nous avons relevé des références à des échanges sur Telegram, qui semblait être leur principale plateforme, ainsi que sur WhatsApp, par SMS et sur divers forums et groupes d’emploi où des offres pouvaient être publiées.

Les fraudeurs semblaient se faire passer principalement pour deux types de personnes. Le premier était le « recruteur » : ses messages constituaient une forme de sollicitation à froid et diffusaient des annonces de télétravail bien rémunéré. Le second, qui générait un volume d’activité plus élevé, était le « mentor ». Celui-ci assurait le suivi des démarches du « recruteur » et enseignait à la cible comment faire son travail. Les mentors mentionnaient très souvent des séances de formation sur Telegram.

À l’occasion, les fraudeurs utilisaient aussi nos modèles pour réviser le texte de sites Web. Ces sites semblent avoir usurpé le nom et l’apparence de marques de luxe des secteurs du design, de la mode et du voyage. Les personnes jouant le rôle de « mentor » prétendaient recruter au nom de ces marques, ce qui indique que les sites Web servaient probablement à rendre l’arnaque plus crédible.

D’après notre visibilité limitée, les fraudeurs semblent avoir suivi un processus courant pour faire passer leurs cibles de la prise de contact à l’arnaque :

1. Publication d’une offre d’emploi : d’après leurs requêtes et les contenus générés, les fraudeurs semblent avoir commencé par publier des offres d’emploi sur divers forums en ligne. Les activités de recrutement mentionnaient généralement le télétravail et semblaient proposer une rémunération relativement élevée pour peu de travail, par exemple 300 $ par jour, plus des primes, pour quelques heures de travail. Ces offres étaient généralement publiées par la personne jouant le rôle de « recruteur ».

2. Recruter : les fraudeurs généraient ensuite des commentaires en adoptant le rôle du « mentor » afin de communiquer avec des employés potentiels au moyen de diverses applications de messagerie, selon leurs indications, et leur disaient travailler avec le « recruteur ». Le « mentor » prétendait travailler pour l’une des marques de luxe pour lesquelles le groupe avait créé un site Web. Ils décrivaient la tâche comme la publication d’avis cinq étoiles sur les sites de ces marques de luxe, prétendument pour améliorer leurs évaluations par la clientèle.

3. Rassurer : dans les contenus générés, les fraudeurs rassuraient souvent leurs cibles en affirmant que le travail était légitime puisqu’il était effectué pour le compte d’une entreprise établie depuis longtemps. Si la cible se montrait mal à l’aise, le fraudeur prétendait avoir lui aussi déjà été victime d’une arnaque, mais que cette occasion était sûre.

4. Former : si la cible manifestait toujours de l’intérêt, les contenus générés indiquaient que le « mentor » lui proposait une formation, généralement sur Telegram. La cible obtenait d’abord l’accès à un « compte de formation », où elle devait effectuer de 25 à 35 tâches d’évaluation par jour. Le « compte de formation » montrait à la cible que ses « gains » augmentaient rapidement.

5. Susciter l’enthousiasme : souvent, si la cible poursuivait sa formation, les contenus générés indiquaient qu’on lui proposait une tâche d’évaluation « spéciale » ou « ultime », assortie d’une prime plus élevée. Le « mentor » insistait sur la rareté de cette tâche et sur la chance qu’avait la cible.

6. « Frais d’activation » : lorsque les « gains » de la cible atteignaient un certain montant, les contenus générés montraient le « mentor » lui disant qu’elle devait payer des « frais d’activation » pour pouvoir retirer ses « gains ». Au besoin, le fraudeur l’incitait à emprunter l’argent à des proches.

7. Faire pression : les contenus générés montraient que, si la cible hésitait à payer, le fraudeur devenait de plus en plus agressif. Il faisait pression sur elle en la comparant à d’autres travailleurs plus efficaces et en affirmant qu’elle perdrait ses gains si elle ne versait pas l’argent.

8. Trouver des excuses : dans les contenus générés, si la cible semblait avoir versé de l’argent, le fraudeur invoquait une série d’excuses pour expliquer pourquoi elle ne pouvait pas retirer ses gains, affirmant souvent qu’elle devait payer davantage.

Certaines conversations montraient que les cibles étaient très sceptiques, et certains commentaires générés par les fraudeurs adoptaient le ton d’un mentor demandant pourquoi sa cible avait cessé de lui écrire. Cela laisse croire que cette arnaque avait probablement un faible taux de conversion global. Cependant, certaines conversations et certains témoignages en ligne laissent entendre qu’au moins quelques victimes ont bel et bien versé de l’argent dans le cadre de ces arnaques. Nous ne pouvons pas vérifier de manière indépendante les activités qui se déroulent hors de nos outils.

Les politiques d’OpenAI interdisent strictement l’utilisation des résultats de nos outils à des fins de fraude ou d’arnaque. Nous nous engageons à collaborer avec nos pairs du secteur et les autorités pour comprendre comment l’IA influence les comportements malveillants et pour perturber activement les arnaques qui exploitent abusivement nos services. Conformément à cet engagement, nous avons communiqué à nos pairs du secteur et aux autorités concernées des renseignements sur les réseaux d’arnaque que nous avons perturbés afin de renforcer notre sécurité collective.