Fraudes amoureuses : processus de fraude amoureuse facilités par l’IA

Cette étude de cas a été publiée initialement dans le rapport d’OpenAI de février 2026⁠(s'ouvre dans une nouvelle fenêtre) sur la perturbation des utilisations malveillantes de l’IA.

Depuis que nous avons commencé à rendre compte de nos interventions contre les réseaux de fraude cherchant à détourner nos modèles il y a un an⁠(s'ouvre dans une nouvelle fenêtre), nous avons démantelé de nombreuses opérations frauduleuses dans différentes régions du monde. Il s’agissait notamment de fraudes aux « tâches », qui consistent à convaincre les victimes de verser de l’argent pour accéder à des gains inexistants provenant de tâches banales, et de fraudes à l’investissement, qui les incitent à placer de l’argent dans des sociétés d’investissement inexistantes.

La fraude amoureuse est un type de fraude répandu depuis bien avant l’arrivée de l’IA. Les fraudeurs se font passer pour des partenaires amoureux potentiels et tentent de convaincre leur cible qu’elle a trouvé l’âme sœur, avant de lui demander toujours plus d’argent. Notre premier compte rendu d’une intervention contre une fraude portait sur une opération criminelle nouvellement établie au Cambodge qui avait utilisé ChatGPT pour générer des messages destinés à une fraude amoureuse, dont certains ont été diffusés sur les réseaux sociaux. Depuis, nous avons perturbé diverses tentatives de fraude amoureuse. Comme nous l’avons écrit en juin⁠(s'ouvre dans une nouvelle fenêtre), ces fraudes et d’autres suivent généralement un schéma commun dans leur utilisation de l’IA, que nous décrivons comme l’accroche (contact non sollicité), l’émotion (susciter une émotion) et le soutirage (obtenir de l’argent).

L’accroche (contact non sollicité) : le fraudeur génère du contenu conçu pour attirer l’attention de la cible potentielle en faisant appel à ses intérêts. Par exemple, la fraude à l’« abattage du cochon » que nous avons signalée l’an dernier ciblait fréquemment des Américains dans la quarantaine exerçant une profession médicale, en répondant à leurs publications sur le golf sur les réseaux sociaux. D’autres opérations utilisaient des textos non sollicités, de faux messages de recrutement ou, dans notre plus récent cas de fraude amoureuse (décrit ci-dessous), des publicités sur les réseaux sociaux. Dans chaque cas, les acteurs malveillants utilisaient ChatGPT pour générer des messages potentiellement plus accrocheurs et dont la langue trahissait moins une origine étrangère que dans les fraudes traditionnelles.

L’émotion (susciter une émotion) : le fraudeur génère du contenu conçu pour déclencher des émotions fortes chez la cible et ainsi la rendre plus facile à manipuler. Les fraudes amoureuses visent à amener la cible à ressentir de l’attirance pour le fraudeur. D’autres fraudes peuvent chercher à enthousiasmer la cible au sujet d’une affaire potentiellement lucrative, à lui faire craindre de rater une occasion ou à l’inquiéter au sujet d’un prétendu risque juridique ou d’une facture impayée. Parfois, l’émotion peut être intégrée au même message que l’accroche.

Le soutirage (obtenir de l’argent) : le fraudeur génère du contenu conçu pour convaincre la cible de lui remettre de l’argent. Les raisons invoquées peuvent varier énormément. Par exemple, dans une fraude amoureuse, on peut demander à la cible d’investir dans l’entreprise de l’être aimé ou de lui verser de l’argent pour surmonter une crise financière. Les fraudes aux « tâches » demandent aux cibles de verser de l’argent pour accéder à des fonds fictifs qu’elles croient avoir gagnés. Les fraudes à l’investissement demandent aux cibles de placer leur argent dans des investissements inexistants.

Comme le laisse entendre ce déroulement, le réseau de diffusion est un élément essentiel des fraudes. Les différentes opérations frauduleuses que nous avons révélées diffusaient leurs accroches par texto, par des applications de messagerie chiffrée, par des publications sur les réseaux sociaux, par des publicités en ligne ou par une combinaison de ces moyens; les fraudes d’avant l’ère de l’IA sont bien connues pour avoir utilisé des courriels⁠(s'ouvre dans une nouvelle fenêtre), des appels téléphoniques⁠(s'ouvre dans une nouvelle fenêtre) ou même, au XIXe siècle, des lettres⁠(s'ouvre dans une nouvelle fenêtre) et des télégrammes⁠(s'ouvre dans une nouvelle fenêtre). De nombreuses fraudes misent sur une diffusion tous azimuts, mais certaines semblent tenter un ciblage précis. Par exemple, la fraude à l’« abattage du cochon » que nous avons signalée en février 2025⁠(s'ouvre dans une nouvelle fenêtre) misait sur des sujets comme le golf; une autre fraude amoureuse utilisait des publicités sur les réseaux sociaux pour cibler de jeunes hommes en Indonésie; et les fraudes usurpant l’identité de célébrités⁠(s'ouvre dans une nouvelle fenêtre) consistent généralement à se faire passer pour une personne célèbre, puis à cibler ses groupes d’admirateurs. Même si la nature fragmentaire des éléments de preuve rend difficile toute comparaison fiable des différentes fraudes que nous avons perturbées, nous estimons que le mode de diffusion choisi (par exemple, tous azimuts ou ciblé) joue un rôle important dans la capacité de chaque fraude à atteindre et à exploiter ses cibles, quel que soit le degré d’utilisation de l’IA pour les différentes fonctions de l’opération.