Arnaque à la tâche : faux emplois de publication d’avis assistés par l’IA

Cette étude de cas a été publiée à l’origine dans le rapport d’OpenAI de février 2025⁠(ouverture dans une nouvelle fenêtre).

Nous avons banni un groupe de comptes ChatGPT qui traduisaient de courts commentaires entre l’ourdou et l’anglais, dans le cadre apparent d’une arnaque « à la tâche⁠(ouverture dans une nouvelle fenêtre) » : les victimes se voient proposer un emploi très bien rémunéré, mais doivent ensuite verser leur propre argent dans le système avant de pouvoir accéder à leurs prétendus « gains ». Cette activité semblait provenir du Cambodge. Dans ces arnaques, les victimes perdent généralement à la fois leurs « gains » et leur propre argent. Nous avons commencé à enquêter sur cette activité après avoir reçu un signalement de Meta.

Ce réseau utilisait principalement nos modèles pour traduire entre l’ourdou et l’anglais de courts commentaires qui semblaient issus d’échanges entre un escroc et ses victimes. Nous avons relevé des références à des échanges sur Telegram, apparemment leur plateforme principale, ainsi que sur WhatsApp, par SMS et sur divers forums et groupes consacrés à l’emploi où des offres pouvaient être publiées.

Les escrocs semblaient principalement endosser deux types de personnages. Le premier était le « recruteur » : ses messages relevaient du démarchage à froid et diffusaient des annonces de télétravail bien rémunéré. L’autre, à l’origine d’un volume d’activité plus important, était le « mentor », qui prenait le relais après la prise de contact du « recruteur » et apprenait à la cible comment effectuer son travail. Les mentors mentionnaient très souvent des sessions de formation sur Telegram.

Les escrocs utilisaient aussi parfois nos modèles pour relire le texte de sites web. Ces sites semblent avoir usurpé le nom et l’apparence de marques de luxe dans les secteurs du design, de la mode et du voyage. Les personnages de « mentor » prétendaient recruter pour le compte de ces marques, ce qui laisse penser que les sites web servaient probablement à rendre l’arnaque plus crédible.

D’après notre visibilité limitée, les escrocs semblent avoir suivi un processus courant pour faire passer leurs cibles de la prise de contact à l’arnaque :

1. Publication d’une offre d’emploi : d’après leurs requêtes et les contenus générés, les escrocs semblent avoir commencé par publier des offres d’emploi sur divers forums en ligne. Les démarches de recrutement mentionnaient généralement le télétravail et semblent avoir proposé des rémunérations relativement élevées pour une faible quantité de travail, par exemple 300 $ par jour, plus des primes, pour quelques heures de travail. Ces offres étaient généralement publiées par le personnage du « recruteur ».

2. Recrutement : les escrocs généraient ensuite des commentaires sous le personnage du « mentor » afin de contacter des employés potentiels au moyen de diverses applications de messagerie, selon leurs indications, et affirmaient travailler avec le « recruteur ». Le « mentor » prétendait travailler pour l’une des marques de luxe pour lesquelles le groupe avait créé un site web. Ils décrivaient la tâche comme consistant à publier des avis cinq étoiles sur les sites de ces marques de luxe, prétendument pour améliorer leurs évaluations par les clients.

3. Rassurer : dans les contenus générés, les escrocs rassuraient souvent leurs cibles en affirmant que le travail était légitime puisqu’il était effectué pour le compte d’une entreprise établie de longue date. Si la cible manifestait des inquiétudes, l’escroc prétendait avoir lui aussi déjà été victime d’une arnaque, mais assurait que cette occasion était sans danger.

4. Former : si la cible restait intéressée, les contenus générés indiquaient que le « mentor » lui proposait une formation, généralement sur Telegram. La cible obtenait d’abord l’accès à un « compte de formation », sur lequel elle devait effectuer 25 à 35 tâches de publication d’avis par jour. Le « compte de formation » montrait à la cible que ses « gains » augmentaient rapidement.

5. Susciter l’enthousiasme : souvent, si la cible poursuivait sa formation, les contenus générés indiquaient qu’on lui proposait une tâche d’avis « spéciale » ou « ultime », assortie d’une prime plus élevée. Le « mentor » soulignait combien cette occasion était rare et combien la cible avait de la chance.

6. « Frais d’activation » : une fois que les « gains » de la cible atteignaient un certain niveau, les contenus générés montraient le « mentor » lui expliquant qu’elle devait payer des « frais d’activation » pour pouvoir retirer ses « gains ». Si nécessaire, l’escroc l’incitait à emprunter l’argent à des amis ou à sa famille.

7. Faire pression : les contenus générés montraient que, si la cible hésitait à verser de l’argent, l’escroc devenait de plus en plus agressif. Il faisait pression sur elle en la comparant à d’autres travailleurs plus efficaces et en affirmant qu’elle perdrait ses gains si elle ne payait pas.

8. Trouver des excuses : dans les contenus générés, lorsque certains éléments indiquaient que la cible avait versé de l’argent, l’escroc avançait une série d’excuses pour expliquer pourquoi elle ne pouvait pas retirer ses gains, affirmant souvent qu’elle devait payer davantage.

Certaines conversations montraient que les cibles étaient très sceptiques, et certains commentaires générés par les escrocs adoptaient la voix d’un mentor demandant pourquoi sa cible avait cessé de lui écrire, ce qui laisse penser que cette arnaque présentait probablement un faible taux de conversion global. Cependant, certaines conversations et certains témoignages en ligne suggèrent qu’au moins une partie des victimes ont effectivement versé de l’argent dans le cadre de ces arnaques. Nous ne pouvons pas vérifier de manière indépendante les activités qui se déroulent en dehors de nos outils.

Les politiques d’OpenAI interdisent strictement d’utiliser les résultats de nos outils à des fins de fraude ou d’escroquerie. Nous nous engageons à collaborer avec nos homologues du secteur et les autorités afin de comprendre comment l’IA influence les comportements malveillants et de perturber activement les activités frauduleuses qui détournent nos services. Conformément à cet engagement, nous avons communiqué des informations sur les réseaux d’escroquerie que nous avons démantelés à nos homologues du secteur et aux autorités compétentes afin de renforcer notre sécurité collective.