Opérations d’escroquerie : réseaux de fraude en ligne

Cette étude de cas a été publiée initialement dans le rapport d’octobre 2025⁠(s'ouvre dans une nouvelle fenêtre) d’OpenAI.

Des réseaux provenant probablement du Cambodge, du Myanmar et du Nigéria ont détourné ChatGPT dans ce qui semble être des tentatives de fraude en ligne.

Nous nous consacrons à repérer, à prévenir et à interrompre les tentatives visant à détourner nos modèles à des fins malveillantes. Ces abus comprennent les escroqueries, pour lesquelles nous repérons et bannissons les acteurs malveillants qui tentent d’utiliser nos modèles à mauvais escient pour tromper et frauder des gens. Au cours des trois derniers mois, nous avons perturbé des réseaux d’escroquerie provenant probablement du Cambodge, du Myanmar et du Nigéria. Signe du rôle que l’IA peut jouer dans la lutte contre la fraude, nous avons aussi vu, en enquêtant sur ces tendances d’abus, de nombreuses personnes utiliser nos modèles pour les aider à repérer des escroqueries. Ce rapport traite de ces deux cas d’utilisation.

L’utilisation abusive de nos modèles pour faciliter des escroqueries va d’acteurs isolés tentant de commettre une fraude à des opérations persistantes et à grande échelle, probablement liées à des groupes criminels organisés. Quelles que soient leur origine et leurs tactiques précises, les activités d’escroquerie que nous avons perturbées suivent généralement un schéma commun, que nous appelons l’approche (prise de contact non sollicitée), l’accroche (tentative de susciter l’enthousiasme ou la panique) et l’arnaque (soutirage d’argent ou de renseignements précieux).

Ces fraudeurs commencent par disséminer du contenu, généré ou non par l’IA, sur les services de messagerie et Internet, notamment au moyen de publicités sur les médias sociaux. Ils tentent ensuite de susciter chez quiconque répond soit l’enthousiasme pour une occasion lucrative, soit la peur d’une perte financière imminente, puis exploitent cette émotion pour convaincre la cible de leur remettre de l’argent ou des renseignements sensibles.

Nous avons aussi observé de nombreux cas où nos modèles ont probablement contribué à protéger des gens contre la fraude. Nous avons constaté que des gens utilisent ChatGPT des millions de fois par mois pour les aider à repérer et à éviter des escroqueries en ligne; dans chaque opération d’escroquerie présentée dans ce rapport, nous avons vu le modèle aider des gens à reconnaître correctement l’escroquerie et leur recommander des mesures de sécurité appropriées. Selon notre estimation actuelle, ChatGPT est utilisé pour repérer des escroqueries jusqu’à trois fois plus souvent qu’il ne sert à en commettre.

Exemple d’un enquêteur d’OpenAI collant dans ChatGPT une capture d’écran d’un message texte frauduleux qu’il avait reçu et utilisant avec succès le modèle pour reconnaître l’escroquerie. Dans ce cas, les acteurs malveillants tentaient de se faire passer pour des recruteurs de TikTok.

Depuis notre dernier rapport, nous avons renforcé notre capacité à détecter et à perturber les escroqueries. Nous avons perturbé d’autres réseaux d’escroquerie qui semblaient provenir du Cambodge, du Myanmar et du Nigéria. Combinés à nos interventions précédentes, ces démantèlements nous permettent de dégager certaines tendances émergentes parmi plusieurs opérations d’escroquerie menées depuis différents pays.

La majorité des activités d’escroquerie que nous avons perturbées visaient à intégrer l’IA à des méthodes existantes plutôt qu’à créer de nouvelles méthodes axées sur l’IA. Toutes les opérations d’escroquerie que nous avons repérées et bannies cette année utilisaient principalement l’IA comme outil de mise à l’échelle et d’efficacité. Cela comprenait généralement l’utilisation de nos modèles pour traduire et rédiger des messages ainsi que créer du contenu pour les médias sociaux.

Par exemple, nous avons récemment banni des opérations d’escroquerie provenant probablement du Cambodge et du Nigéria qui se présentaient comme des « sociétés de placement » afin de frauder des victimes dans plusieurs pays. Les fraudeurs ont créé des sites Web et des publicités en ligne pour promouvoir les fausses sociétés et ont utilisé des comptes de médias sociaux probablement non authentiques, se faisant passer pour des experts en négociation afin d’inviter des gens à rejoindre des groupes de messagerie privés. En promettant des occasions de gains lucratifs et sans risque, les acteurs malveillants cherchaient ensuite à inciter les victimes potentielles à effectuer des paiements sur des plateformes de négociation fictives. Dans toutes ces escroqueries, les fraudeurs ont principalement utilisé nos modèles pour générer et traduire de la correspondance, créer du contenu pour leurs sites Web et leurs comptes de médias sociaux, et effectuer des recherches élémentaires.

Dans un autre cas, nous avons banni un centre d’escroquerie très probablement situé au Myanmar qui utilisait nos modèles à la fois pour générer du contenu destiné à ses stratagèmes frauduleux et pour accomplir des tâches administratives quotidiennes. Cela comprenait l’organisation des horaires, la rédaction d’annonces internes, l’attribution de bureaux et de places en dortoir ainsi que la gestion de comptes financiers. Certains opérateurs se sont renseignés sur les sanctions pénales encourues par les personnes prises à commettre des escroqueries en ligne.

Les fraudeurs dont nous avons perturbé les activités n’utilisaient pas tous nos modèles de la même manière ni avec le même degré de complexité. La majorité des interactions des fraudeurs avec ChatGPT portaient sur des tâches relativement simples comme la traduction, mais certaines opérations d’escroquerie étaient plus ambitieuses et élaborées.

Par exemple, une opération d’escroquerie provenant probablement du Cambodge que nous avons perturbée utilisait nos modèles pour générer des biographies détaillées de faux experts en placement et d’employés fictifs de fausses sociétés de négociation. Les fraudeurs demandaient ensuite à ChatGPT de rédiger des messages pour les médias sociaux dans le style de ces personnages. Souvent, les acteurs malveillants fournissaient à notre modèle des messages qu’ils semblaient avoir reçus de leurs cibles et lui demandaient de poursuivre la conversation en incarnant le faux personnage.

Une deuxième opération d’escroquerie, provenant elle aussi probablement du Cambodge, a commencé par utiliser nos modèles pour générer des messages textes de sollicitation à froid, envoyés en masse à des numéros de téléphone américains. L’un de ces messages a été envoyé à un enquêteur d’OpenAI, comme dans le cas que nous avons signalé en juin. Ces messages textes comprenaient des invitations à rejoindre des groupes WhatsApp, bannis par la suite, dont les noms ressemblaient à celui d’une société de placement légitime.

D’après une série de messages WhatsApp envoyés à l’enquêteur d’OpenAI, une cible potentielle qui rejoignait l’un de ces groupes assistait rapidement à une « conversation » entre une demi-douzaine de comptes différents, qui parlaient tous de placements. L’un d’eux se faisait passer pour « l’expert en placement », tandis que les autres prétendaient être des investisseurs ayant différents degrés de confiance et d’expérience. Chaque partie de cette conversation était générée par les fraudeurs, qui la traduisaient en un seul bloc depuis le chinois, probablement pour donner l’impression d’un groupe dynamique de négociateurs enthousiastes et prospères. En fin de compte, « l’expert en placement » suggérait à la cible d’essayer elle aussi d’investir.

Par ailleurs, une opération d’escroquerie liée aux placements provenant très probablement du Nigéria a demandé au modèle des instructions détaillées pour utiliser des publicités sur les médias sociaux afin de joindre des personnes fortunées en Amérique latine, masquer son emplacement et contourner les restrictions des plateformes de médias sociaux. Pour ce faire, les opérateurs ont dirigé le modèle vers les conditions d’utilisation publiques d’une plateforme et lui ont demandé de vérifier si le contenu publicitaire proposé les respectait.

Les fraudeurs, particulièrement les centres d’escroquerie à grande échelle, sont tenaces. Très souvent, après une perturbation, ils tentent de reprendre leurs activités contraires aux règles tout en modifiant certains aspects de leur comportement, probablement pour éviter d’être de nouveau détectés. C’est l’une des raisons pour lesquelles il est important de partager à l’échelle du secteur des observations sur l’évolution de leurs activités, comme lorsqu’OpenAI et Meta ont chacune communiqué des renseignements sur des acteurs malveillants qui ont contribué à d’autres enquêtes et mesures d’application.

Peut-être en réaction aux perturbations ou aux discussions générales en ligne sur les indices pouvant révéler l’utilisation de l’IA, nous avons vu des fraudeurs tenter de dissimuler leur recours à l’IA dans leur contenu en ligne et leurs communications avec leurs cibles. Cela comprend des opérations d’escroquerie provenant probablement du Cambodge qui demandaient au modèle de supprimer les tirets cadratins de ses réponses.

Dans un cas, les fraudeurs ont tenté d’expliquer la perturbation à grande échelle de leurs ressources sur les médias sociaux en inventant un prétexte pour justifier leur bannissement. Il s’agissait du centre d’escroquerie provenant probablement du Cambodge, décrit ci-dessus, qui opérait par messages textes et sur WhatsApp. Après que WhatsApp a banni les « groupes de placement » liés à l’opération, les opérateurs ont commencé à générer des messages affirmant que ces groupes avaient été faussement signalés par un concurrent, probablement pour justifier les bannissements.

Capture d’écran d’un message WhatsApp envoyé à un enquêteur d’OpenAI par l’opération d’escroquerie liée au Cambodge après le démantèlement effectué par WhatsApp.