Opérations d’escroquerie : réseaux de fraude en ligne

Cette étude de cas a été publiée initialement dans le rapport d’octobre 2025⁠(ouverture dans une nouvelle fenêtre) d’OpenAI.

Des réseaux probablement originaires du Cambodge, du Myanmar et du Nigeria ont abusé de ChatGPT dans ce qui semble être des tentatives d’escroquerie en ligne.

Nous nous employons à identifier, prévenir et interrompre les tentatives visant à utiliser abusivement nos modèles à des fins préjudiciables. Parmi ces abus figurent les arnaques, pour lesquelles nous détectons et bannissons les acteurs malveillants qui tentent de détourner nos modèles afin de tromper et d’escroquer des personnes. Au cours des trois derniers mois, nous avons démantelé des réseaux d’escroquerie probablement originaires du Cambodge, du Myanmar et du Nigeria. Signe du rôle que l’IA peut jouer dans la lutte contre la fraude, notre enquête sur ces schémas d’abus nous a également permis de constater que de nombreuses personnes utilisent nos modèles pour les aider à repérer les arnaques. Ce rapport examine ces deux cas d’utilisation.

L’utilisation abusive de nos modèles à l’appui d’arnaques va d’acteurs isolés tentant de frauder à des opérations persistantes et à grande échelle, probablement liées à des groupes criminels organisés. Quels que soient leur origine et leurs procédés précis, les activités liées aux arnaques que nous avons interrompues suivent généralement un schéma commun : l’accroche (une prise de contact non sollicitée), la mise sous pression (susciter l’enthousiasme ou la panique), puis l’estocade (soutirer de l’argent ou des informations précieuses).

Ces escrocs commencent par diffuser largement du contenu, généré ou non par l’IA, sur les services de messagerie et Internet, notamment au moyen de publicités sur les réseaux sociaux. Ils tentent ensuite de susciter chez quiconque répond soit l’enthousiasme pour une occasion lucrative, soit la crainte d’une perte financière imminente, puis exploitent cette émotion pour convaincre la cible de leur remettre de l’argent ou des informations sensibles.

Nous avons également observé de nombreux cas où nos modèles ont vraisemblablement contribué à protéger des personnes contre la fraude. Nous avons constaté que des personnes utilisent ChatGPT des millions de fois par mois pour les aider à repérer et éviter les arnaques en ligne ; dans chaque opération d’escroquerie présentée dans ce rapport, nous avons vu le modèle aider des personnes à reconnaître correctement l’arnaque et leur recommander des mesures de sécurité appropriées. Selon notre estimation actuelle, ChatGPT est utilisé pour repérer des arnaques jusqu’à trois fois plus souvent qu’il ne l’est pour en commettre.

Exemple d’un enquêteur d’OpenAI collant dans ChatGPT la capture d’écran d’un SMS frauduleux qu’il avait reçu et utilisant avec succès le modèle pour l’identifier comme une arnaque. Dans ce cas, les acteurs malveillants tentaient de se faire passer pour des recruteurs de TikTok.

Depuis notre dernier rapport, nous avons renforcé notre capacité à détecter et à interrompre les arnaques. Nous avons démantelé d’autres réseaux d’escroquerie qui semblaient être originaires du Cambodge, du Myanmar et du Nigeria. Associées à nos précédentes interventions, ces opérations nous permettent de dégager certaines tendances émergentes parmi plusieurs réseaux d’escroquerie issus de différents pays.

La majorité des activités frauduleuses que nous avons interrompues visaient à intégrer l’IA à des méthodes d’escroquerie existantes, plutôt qu’à en créer de nouvelles reposant sur l’IA. Toutes les opérations d’escroquerie que nous avons identifiées et bannies cette année utilisaient principalement l’IA pour gagner en efficacité et passer à l’échelle. Cela consistait généralement à utiliser nos modèles pour traduire, rédiger des messages et créer du contenu destiné aux réseaux sociaux.

Par exemple, nous avons récemment banni des opérations d’escroquerie probablement originaires du Cambodge et du Nigeria, qui se présentaient comme des « sociétés d’investissement » afin d’escroquer des victimes dans plusieurs pays. Les escrocs ont créé des sites Web et des publicités en ligne pour promouvoir ces fausses sociétés, et utilisé des comptes vraisemblablement non authentiques sur les réseaux sociaux, se faisant passer pour des experts en trading afin d’inviter des personnes à rejoindre des groupes de messagerie privés. En promettant des possibilités de gains lucratives et sans risque, les acteurs malveillants cherchaient ensuite à inciter les victimes potentielles à effectuer des paiements sur des plateformes de trading fictives. Dans toutes ces arnaques, les escrocs ont principalement utilisé nos modèles pour générer et traduire des échanges, créer du contenu pour leurs sites Web et comptes de réseaux sociaux, et effectuer des recherches élémentaires.

Dans un autre cas, nous avons banni un centre d’escroquerie très probablement situé au Myanmar, qui utilisait nos modèles à la fois pour générer du contenu destiné à ses stratagèmes frauduleux et pour accomplir des tâches professionnelles quotidiennes. Cela comprenait l’organisation des emplois du temps, la rédaction d’annonces internes, l’attribution des bureaux et des dortoirs, ainsi que la gestion des comptes financiers. Certains opérateurs se sont renseignés sur les sanctions pénales encourues par les personnes prises en train de commettre des escroqueries en ligne.

Les escrocs dont nous avons interrompu les activités n’utilisaient pas tous nos modèles de la même manière ni avec le même degré de complexité. La majorité des interactions des escrocs avec ChatGPT portaient sur des tâches relativement simples, comme la traduction, mais certaines opérations d’escroquerie étaient plus ambitieuses et élaborées.

Par exemple, une opération d’escroquerie probablement originaire du Cambodge que nous avons interrompue utilisait nos modèles pour générer des biographies détaillées de faux experts en investissement et d’employés fictifs de fausses sociétés de trading. Les escrocs ont ensuite demandé à ChatGPT de rédiger des messages pour les réseaux sociaux dans le style de ces personnages. Souvent, les acteurs malveillants soumettaient à notre modèle des messages qu’ils semblaient avoir reçus de leurs cibles et lui demandaient de poursuivre la conversation sous l’identité du faux personnage.

Une deuxième opération d’escroquerie, elle aussi probablement originaire du Cambodge, a commencé par utiliser nos modèles pour générer des SMS de prospection non sollicitée, envoyés en masse à des numéros de téléphone américains. L’un de ces messages a été envoyé à un enquêteur d’OpenAI, comme dans le cas que nous avions signalé en juin. Ces SMS contenaient des invitations à rejoindre des groupes WhatsApp, bannis par la suite, dont les noms ressemblaient à celui d’une société d’investissement légitime.

D’après une série de messages WhatsApp envoyés à l’enquêteur d’OpenAI, lorsqu’une cible potentielle rejoignait l’un de ces groupes, elle assistait rapidement à une « conversation » entre une demi-douzaine de comptes différents, parlant tous d’investissement. L’un d’eux se faisait passer pour « l’expert en investissement », tandis que les autres prétendaient être des investisseurs présentant différents degrés d’assurance et d’expérience. Chaque partie de cette conversation était générée par les escrocs, qui la traduisaient d’un seul bloc depuis le chinois, probablement pour donner l’impression d’un groupe dynamique de traders enthousiastes et prospères. Finalement, « l’expert en investissement » suggérait à la cible d’essayer elle aussi d’investir.

Par ailleurs, une opération d’escroquerie à l’investissement très probablement originaire du Nigeria a demandé au modèle des instructions détaillées pour utiliser des publicités sur les réseaux sociaux afin d’atteindre des personnes fortunées en Amérique latine, masquer sa localisation et contourner les restrictions imposées par les plateformes sociales. Pour cela, elle orientait le modèle vers les conditions d’utilisation publiques d’une plateforme et lui demandait de vérifier la conformité du contenu publicitaire proposé.

Les escrocs, en particulier les centres d’escroquerie à grande échelle, sont tenaces. Très souvent, après une interruption, ils tentent de reprendre leurs activités contraires à nos règles tout en modifiant certains aspects de leur comportement, vraisemblablement pour échapper à de nouvelles détections. C’est l’une des raisons pour lesquelles il est important de partager dans l’ensemble du secteur les enseignements tirés de l’évolution de leurs activités, comme lorsque OpenAI et Meta ont chacun communiqué des informations sur des acteurs malveillants qui ont contribué à de nouvelles enquêtes et mesures coercitives.

Peut-être en réaction aux interruptions ou aux discussions plus générales en ligne sur les indices révélant l’utilisation de l’IA, nous avons vu des escrocs tenter de dissimuler leur recours à l’IA dans leurs contenus en ligne et leurs communications avec leurs cibles. Il s’agit notamment d’opérations d’escroquerie probablement originaires du Cambodge qui demandaient au modèle de supprimer les tirets cadratins de ses réponses.

Dans un cas, les escrocs ont tenté d’expliquer le démantèlement à grande échelle de leurs ressources sur les réseaux sociaux en inventant un prétexte pour justifier leur bannissement. Il s’agissait du centre d’escroquerie probablement originaire du Cambodge, décrit ci-dessus, qui opérait par SMS et sur WhatsApp. Après que WhatsApp a banni les « groupes d’investissement » liés à l’opération, les opérateurs ont commencé à générer des messages affirmant que ces groupes avaient été faussement signalés par un concurrent, probablement pour justifier les bannissements.

Capture d’écran d’un message WhatsApp envoyé à un enquêteur d’OpenAI par l’opération d’escroquerie liée au Cambodge après l’intervention de WhatsApp.