Campagne « Data Center Bandwagon » : activité d’influence ciblant les États-Unis

Cette étude de cas a été publiée initialement dans le rapport de juin 2026⁠(s'ouvre dans une nouvelle fenêtre) d’OpenAI sur les opérations d’influence liées à la RPC qui ciblent les débats sur l’IA aux États-Unis.

Nous avons banni un groupe de comptes ChatGPT probablement originaires de Chine qui utilisaient ChatGPT pour générer du contenu destiné aux médias sociaux dans le cadre d’une opération d’influence clandestine. Ils formulaient leurs requêtes à ChatGPT en chinois simplifié tout en demandant à répétition des résultats en anglais et en chinois, se faisant passer pour des Américains de divers milieux, puis publiaient ces résultats sur plusieurs plateformes de médias sociaux. Comme nous n’autorisons pas l’accès à nos modèles depuis la Chine, ils ont utilisé des RPV pour accéder à notre plateforme.

Les opérateurs des comptes faisaient probablement partie d’une équipe chargée des activités sur les médias sociaux au sein d’une entreprise technologique chinoise privée travaillant pour des clients gouvernementaux chinois de niveau provincial. Cette activité semble correspondre à un écosystème commercial qui soutient les priorités du Parti-État en matière d’orientation de l’opinion publique⁠(s'ouvre dans une nouvelle fenêtre). Un rapport distinct qu’ils ont téléversé dans ChatGPT décrivait leurs objectifs et leurs stratégies pour influencer l’opinion publique et créer des comptes de médias sociaux conçus pour échapper aux systèmes de détection des plateformes.

Les comptes que nous avons bannis cherchaient à influencer deux groupes de publics. Ils ciblaient principalement le public américain et généraient de courts commentaires et des images en anglais affirmant que les centres de données et les applications d’IA augmentaient la demande d’électricité et les coûts pour les Américains ordinaires.

Par exemple, ils ont demandé des bandes dessinées sur les prix des enchères de capacité d’un opérateur de réseau électrique, en se fondant sur un article publié par un journal régional légitime. Ils ont demandé à ChatGPT d’axer les commentaires sur la hausse des prix de capacité découlant des pointes de demande d’électricité, de présenter cette nouvelle demande comme provenant des centres de données et des applications d’IA, et de soutenir que ces coûts étaient finalement refilés aux ménages ordinaires. Les commentaires et les images ont été publiés sur X par un ensemble de comptes probablement non authentiques, accompagnés de liens vers des articles légitimes sur les enchères de capacité de l’opérateur du réseau électrique et la demande énergétique des centres de données.

Le contenu généré par l’IA a été publié sur X avec des mots-clics comme #capacityauction, #datacentersuccess et #datacenters. Ils ont aussi utilisé ChatGPT pour modifier des images, en ajoutant du texte à des images génériques du marché de l’électricité afin d’appuyer un récit selon lequel les gens ordinaires subventionnent l’infrastructure d’IA.

Captures d’écran de publications sur X contenant du texte et des images générés par ChatGPT.

Le deuxième public ciblé par le groupe était la diaspora chinoise, ce qui concordait avec son rôle apparent de soutien aux priorités du gouvernement chinois. Ils ont demandé des renseignements publics sur le dissident chinois Li Ying, aussi connu sous le nom de « Professeur Li », puis demandé à ChatGPT de générer de courts commentaires insultants à son égard et destinés au compte X de son équipe, @whyyoutouzhele. Dans notre dernier rapport sur les menaces⁠, nous avions indiqué que Li avait été la cible d’un harcèlement en ligne semblable de la part d’une personne associée aux forces de l’ordre chinoises. Dans ce cas-ci, nos modèles ont refusé de générer des propos incendiaires ou des attaques personnelles contre Li. Parmi les autres commentateurs politiques chinois qu’ils ont tenté de harceler figuraient Lu Yiheng, Xu Chi et le compte X @SydneyDaddy1.

Une tactique notable consistait à se faire passer en ligne pour des immigrants chinois, des travailleurs, des étudiants, des mères, des commis et des investisseurs établis aux États-Unis, dans le but d’inciter un ancien policier chinois établi aux États-Unis et critique du pays à en révéler le « côté sombre ». Les acteurs ont demandé à ChatGPT de générer des messages destinés à un youtubeur afin d’encourager l’ancien policier à parler des échecs des politiques américaines. Cela semblait constituer une nouvelle tactique consistant à utiliser de faux profils d’Américains et d’immigrants chinois établis aux États-Unis pour encourager le contenu d’un influenceur critiquant les États-Unis.

En plus de générer du contenu pour les médias sociaux, les comptes ont utilisé ChatGPT pour automatiser leur flux de travail et le déployer à grande échelle. Cela comprenait des demandes de code visant à automatiser la connexion et la gestion des interactions sur plusieurs plateformes de médias sociaux. Ils ont aussi utilisé ChatGPT comme outil de traitement de texte pour extraire des noms d’utilisateur, ajouter des liens X ou YouTube au début des entrées, supprimer des hyperliens et mettre en forme des données pour des feuilles de calcul.

Image originale d’un centre de données.

Image modifiée par l’IA et publiée sur X par un compte probablement non authentique.

Les comptes ont demandé à ChatGPT de générer, de peaufiner et de réviser des rapports de travail qui révélaient les considérations de sécurité opérationnelle entourant leurs activités sur les médias sociaux ainsi que leur compréhension des systèmes de détection des plateformes. Ils ont décrit leurs objectifs comme étant notamment la création de comptes persistants et crédibles, la production de contenu visuellement attrayant pour accroître leur portée dans les régions ciblées et le maintien de la viabilité à long terme des comptes en anticipant les mesures d’application des plateformes.

Un rapport portait précisément sur les activités sur Facebook et soulignait l’importance de créer des personnages réalistes et dignes de confiance axés sur la vie quotidienne, d’établir l’identité initiale des comptes au moyen de contenu sur le mode de vie, l’actualité, les commentaires et le monde professionnel, et d’utiliser les interactions entre comptes pour amplifier les récits tout en conservant l’apparence d’un engagement naturel. Cela révélait un flux de travail plus sophistiqué visant à maintenir une présence persistante sur les plateformes américaines de médias sociaux ainsi que l’utilisation de l’IA pour appuyer la planification opérationnelle de ces activités.

Le même rapport montre qu’ils avaient analysé en profondeur la plateforme Facebook afin d’accroître leur portée et de réduire le risque de perturbation. Ils ont expliqué comment l’écosystème de contenu, les groupes, les pages, les mots-clics, les outils publicitaires, les systèmes de recommandation et les mécanismes de signalement de Facebook pouvaient servir à exercer une influence et à atteindre de nouveaux publics au fil du temps. Ils présentaient cette stratégie comme une approche à deux volets combinant l’engagement naturel et les publicités Facebook, appuyée par des essais itératifs portant sur les sujets, les formats et les publics. Ils insistaient aussi sur la sécurité des comptes, la création de comptes de secours et la séparation des activités opérationnelles entre les comptes afin d’éviter que la plateforme ne détecte une coordination dans leur flux de travail.