Opération « Uncle Spam » : activité d’influence fondée sur la polarisation aux États-Unis
OpenAI a banni des comptes d’origine chinoise qui utilisaient l’IA pour générer du contenu politique américain et mener des recherches sur des personnes, des mouvements et des communautés en ligne.
Cette étude de cas a été initialement publiée dans le rapport de juin 2025(ouverture dans une nouvelle fenêtre) d’OpenAI.
Acteur
À la suite d’un signalement de nos homologues de Meta, nous avons banni plusieurs comptes ChatGPT liés à une opération d’influence d’origine chinoise(ouverture dans une nouvelle fenêtre). L’opération a généré du contenu polarisant pour les réseaux sociaux, soutenant les deux camps sur des sujets clivants du débat politique américain, notamment des textes et des images de profil générées par l’IA sur des plateformes telles que X et Bluesky.
Comportement
Le réseau a utilisé nos modèles pour plusieurs tâches, principalement afin de générer des commentaires sur les réseaux sociaux favorables ou hostiles aux droits de douane. Les comptes ont demandé à nos modèles quels étaient les meilleurs horaires de publication pour maximiser l’engagement de l’audience, ce qui indique le recours à des tactiques d’amplification calculées.
Deux tweets dont le texte a été généré par cet acteur malveillant à l’aide de nos modèles, chacun défendant un camp différent dans le débat sur les droits de douane.
Ensuite, les comptes ont utilisé nos capacités de génération d’images pour créer des logos stylisés, ensuite employés comme images de profil afin d’étayer des personnages fictifs sur différentes plateformes sociales. Les comptes se sont notamment attachés à créer des personnages d’anciens combattants américains critiques à l’égard de l’administration américaine actuelle.
Compte sur Bluesky ayant publié du contenu généré par ce réseau. Le logo « Vétérans pour la justice » a été généré à l’aide de nos modèles.
Enfin, les comptes ont régulièrement demandé du code et des méthodes permettant d’extraire des données personnelles, comme des profils d’utilisateurs, des listes d’abonnés et d’autres informations, depuis des plateformes sociales telles que X et Bluesky, à l’aide d’outils comme Tweepy, Nitter et l’API publique de Bluesky. En outre, les comptes ont utilisé nos modèles pour obtenir des conseils afin d’analyser les données de profils à la recherche de caractéristiques personnelles et d’affiliations organisationnelles, potentiellement dans le but de catégoriser des personnes ou de déduire leurs liens et leurs attributs.
Réponses générées
Les comptes ont produit du contenu polarisant couvrant l’ensemble du débat politique américain, souvent au cours des mêmes sessions opérationnelles. Conformément aux méthodes connues des opérations d’influence, cette activité semble avoir été conçue pour exploiter les divisions politiques existantes plutôt que pour promouvoir une position idéologique précise. Le volume de contenu et l’accent mis sur les messages destinés au public américain nous ont conduits à baptiser cette opération « Uncle Spam ».
Tweets dont le texte a été généré par nos modèles et qui ont été publiés par des personnages fictifs.
Impact
Selon l’échelle Breakout(ouverture dans une nouvelle fenêtre) mesurant l’impact des opérations d’influence, nous classerions cette activité en catégorie 2 : activité sur plusieurs plateformes, sans percée et avec un engagement nul ou minime. Les comptes de réseaux sociaux qui publiaient du contenu généré par nos modèles ont suscité peu d’engagement authentique. La plupart des publications de ce réseau sur X ont reçu peu ou pas de mentions J’aime ni de republications, seules quelques-unes ayant suscité un certain engagement. Certains comptes de réseaux sociaux comptaient plusieurs milliers d’abonnés, mais nous n’avons pas pu évaluer l’authenticité de ces derniers, et leur nombre ne semblait pas se traduire par de l’engagement envers les publications.