Opération « Mononcle Pourriel » : activité d’influence polarisante aux États-Unis

Cette étude de cas a été publiée initialement dans le rapport d’OpenAI de juin 2025⁠(s'ouvre dans une nouvelle fenêtre).

Nous avons banni plusieurs comptes ChatGPT liés à une opération d’influence provenant de Chine⁠(s'ouvre dans une nouvelle fenêtre) après avoir reçu une piste de nos homologues chez Meta. L’opération a généré du contenu polarisant pour les médias sociaux qui appuyait les deux camps sur des sujets controversés du discours politique américain, notamment du texte et des images de profil générées par l’IA sur des plateformes comme X et Bluesky.

Le réseau a utilisé nos modèles pour plusieurs tâches, principalement pour générer des commentaires sur les médias sociaux qui appuyaient ou critiquaient les tarifs douaniers. Les comptes ont demandé à nos modèles quels étaient les meilleurs moments pour publier afin de maximiser l’engagement de l’auditoire, ce qui témoigne de tactiques d’amplification calculées.

Ensuite, les comptes ont utilisé nos capacités de génération d’images pour créer des logos stylisés, ensuite employés comme photos de profil afin d’appuyer des personnages fictifs sur diverses plateformes sociales. Les comptes se sont notamment concentrés sur la création de personnages d’anciens combattants américains critiques envers l’administration américaine actuelle.

Enfin, les comptes ont constamment demandé du code et des méthodes pour extraire des données personnelles, comme des profils d’utilisateurs, des listes d’abonnés et d’autres renseignements, de plateformes sociales comme X et Bluesky, à l’aide d’outils tels que Tweepy et Nitter ainsi que de l’API publique de Bluesky. De plus, les comptes ont demandé à nos modèles comment analyser les données de profil pour déterminer des caractéristiques personnelles et des affiliations organisationnelles, possiblement afin de classer des personnes ou de déduire leurs associations et leurs attributs.

Les comptes ont produit du contenu polarisant couvrant l’ensemble du discours politique américain, souvent au cours des mêmes séances opérationnelles. Conformément aux méthodes connues des opérations d’influence, cette activité semble avoir été conçue pour exploiter les divisions politiques existantes plutôt que pour promouvoir une position idéologique précise. Le volume de contenu et l’accent mis sur les messages destinés aux Américains nous ont amenés à surnommer cette opération « Mononcle Pourriel ».

Selon l’échelle Breakout⁠(s'ouvre dans une nouvelle fenêtre) mesurant l’impact des opérations d’influence, nous classerions cette activité dans la catégorie 2 : activité sur plusieurs plateformes, sans percée et suscitant peu ou pas d’engagement. Les comptes de médias sociaux qui publiaient du contenu généré par nos modèles ont suscité peu d’engagement authentique. La plupart des publications sur X diffusées par ce réseau ont obtenu peu ou pas de mentions J’aime ni de republications; seules quelques-unes ont suscité un certain engagement. Certains comptes de médias sociaux comptaient des milliers d’abonnés, mais nous n’avons pas pu évaluer leur authenticité, et ce nombre d’abonnés ne semblait pas se traduire par de l’engagement envers les publications.