Arnaques sentimentales : des processus facilités par l’IA

Cette étude de cas a été publiée initialement dans le rapport d’OpenAI de février 2026⁠(ouverture dans une nouvelle fenêtre) consacré à la lutte contre les usages malveillants de l’IA.

Depuis que nous avons commencé à rendre compte de nos actions contre les réseaux d’arnaque cherchant à détourner nos modèles, il y a un an⁠(ouverture dans une nouvelle fenêtre), nous avons mis fin à de nombreuses opérations frauduleuses dans différentes régions du monde. Il s’agissait notamment d’arnaques aux « tâches », qui escroquent leurs victimes en les convainquant de verser de l’argent pour accéder à des gains inexistants issus de tâches anodines, et d’arnaques à l’investissement, qui les convainquent de placer de l’argent dans des sociétés d’investissement fictives.

L’arnaque sentimentale est une forme d’escroquerie répandue depuis bien avant l’ère de l’IA : les escrocs se présentent comme un partenaire amoureux potentiel et tentent de convaincre leur cible qu’elle a trouvé l’âme sœur, avant de lui demander toujours plus d’argent. Notre premier compte rendu d’une action contre une arnaque concernait une opération criminelle récemment mise en place au Cambodge, qui avait utilisé ChatGPT pour générer des messages destinés à une arnaque sentimentale, dont certains avaient été diffusés sur les réseaux sociaux. Depuis, nous avons déjoué diverses tentatives d’arnaques sentimentales. Comme nous l’avons écrit en juin⁠(ouverture dans une nouvelle fenêtre), ces arnaques et d’autres suivent généralement un schéma commun dans leur utilisation de l’IA, que nous résumons ainsi : l’accroche (prise de contact à froid), l’émotion (susciter des émotions) et la ponction (soutirer de l’argent).

L’accroche (prise de contact à froid) : l’escroc génère du contenu destiné à attirer l’attention de la cible potentielle en faisant appel à ses centres d’intérêt. Par exemple, l’arnaque au « dépeçage du cochon » que nous avons signalée l’an dernier ciblait fréquemment des Américains d’une quarantaine d’années exerçant une profession médicale, en répondant à leurs publications sur le golf sur les réseaux sociaux. D’autres opérations utilisaient des SMS non sollicités, de faux messages de recrutement ou, dans notre cas d’arnaque sentimentale le plus récent (décrit ci-dessous), des publicités sur les réseaux sociaux. Dans chaque cas, les acteurs malveillants utilisaient ChatGPT pour générer des messages potentiellement plus engageants et dont la rédaction par des non-natifs était moins évidente que dans les arnaques traditionnelles.

L’émotion (susciter des émotions) : l’escroc génère du contenu destiné à provoquer de fortes émotions chez la cible afin de la rendre plus facile à manipuler. Les arnaques sentimentales cherchent à susciter chez la cible une attirance pour l’escroc. D’autres arnaques peuvent chercher à enthousiasmer la cible à propos d’une affaire potentiellement lucrative, à lui faire craindre de manquer une occasion ou à l’alarmer au sujet d’un prétendu risque juridique ou d’une facture impayée. Parfois, l’émotion peut être suscitée dans le même message que l’accroche.

La ponction (soutirer de l’argent) : l’escroc génère du contenu destiné à convaincre la cible de lui remettre de l’argent. Les raisons invoquées peuvent varier considérablement. Par exemple, les arnaques sentimentales peuvent demander à la cible d’investir dans l’entreprise de l’être aimé ou de lui verser de l’argent pour faire face à une crise financière. Les arnaques aux « tâches » demandent aux cibles de verser de l’argent pour accéder à des fonds (fictifs) qu’elles pensent avoir gagnés. Les arnaques à l’investissement demandent aux cibles de placer leur argent dans des investissements inexistants.

Comme le montre cet enchaînement, le réseau de diffusion est une composante essentielle des arnaques. Les différentes opérations frauduleuses que nous avons mises au jour diffusaient leurs accroches par SMS, applications de messagerie chiffrée, publications sur les réseaux sociaux, publicités en ligne, ou une combinaison de ces moyens ; les arnaques antérieures à l’IA sont bien connues pour avoir utilisé des e-mails⁠(ouverture dans une nouvelle fenêtre), des appels téléphoniques⁠(ouverture dans une nouvelle fenêtre), voire, au XIXe siècle, des lettres⁠(ouverture dans une nouvelle fenêtre) et des télégrammes⁠(ouverture dans une nouvelle fenêtre). De nombreuses arnaques privilégient une diffusion tous azimuts, mais certaines semblent tenter un ciblage précis. Par exemple, l’arnaque au « dépeçage du cochon » que nous avons signalée en février 2025⁠(ouverture dans une nouvelle fenêtre) se concentrait sur des sujets comme le golf ; une autre arnaque sentimentale utilisait des publicités sur les réseaux sociaux pour cibler de jeunes hommes en Indonésie ; et les arnaques usurpant l’identité de célébrités⁠(ouverture dans une nouvelle fenêtre) consistent généralement à se faire passer pour une personne célèbre puis à cibler ses groupes de fans. Si le caractère fragmentaire des éléments recueillis rend difficile une comparaison fiable entre les différentes arnaques que nous avons perturbées, nous estimons que le mode de diffusion choisi (par exemple, tous azimuts ou ciblé) joue un rôle important dans la capacité de chaque arnaque à atteindre et à exploiter ses cibles, quel que soit le degré d’utilisation de l’IA pour ses différentes fonctions.