Opération « Spamouflage » : activité d’influence liée à la Chine

Cette étude de cas a été publiée initialement dans le rapport de mai 2024⁠(s'ouvre dans une nouvelle fenêtre) d’OpenAI.

Nous avons banni un petit nombre de comptes associés à l’opération d’origine chinoise appelée « Spamouflage »⁠(s'ouvre dans une nouvelle fenêtre). Selon Meta⁠(s'ouvre dans une nouvelle fenêtre), cette opération est attribuable à « des personnes associées aux forces de l’ordre chinoises ». Le FBI⁠(s'ouvre dans une nouvelle fenêtre) a attribué une partie des activités de cette opération sur les médias sociaux à une unité du ministère chinois de la Sécurité publique.

Ce réseau ciblait des publics du monde entier, en particulier les membres de la diaspora chinoise et les détracteurs du gouvernement chinois. Il générait principalement du contenu en chinois et, dans une moindre mesure, en anglais, en japonais et en coréen.

Le réseau utilisait nos modèles pour déboguer du code, obtenir des conseils sur l’analyse des médias sociaux, effectuer des recherches sur l’actualité et générer du contenu ensuite publié sur des forums de blogue et les médias sociaux.

Par exemple, en 2023, le réseau a utilisé nos modèles pour déboguer le code qui configurait le thème WordPress d’un site Web, revealscum.com. Ce site Web publiait en chinois des critiques et des renseignements personnels concernant des membres de la diaspora chinoise qui critiquaient le gouvernement chinois. Il qualifiait ces détracteurs de « traîtres ». Le contenu lui-même n’a pas été généré à l’aide de nos modèles.

Cette campagne a également utilisé nos modèles pour créer du contenu qui a ensuite été publié sur des plateformes de médias sociaux et des forums. Par exemple, à la fin de 2023, l’opération a généré des articles accusant le Japon de nuire au milieu marin en rejetant les eaux usées de la centrale de Fukushima. Nous avons repéré ces articles sur des plateformes comme Medium, Blogspot et ameblo.jp.

En avril 2024, la campagne a diffusé une série de commentaires en anglais critiquant la dissidente chinoise Cai Xia. Nous avons repéré un compte X qui avait publié le commentaire initial et un groupe d’autres comptes qui avaient publié les autres commentaires sous forme de réponses. Nous n’avons vu aucun compte authentique leur répondre.

La campagne a aussi utilisé nos modèles pour mener des recherches en sources ouvertes, notamment sur la façon de demander des comptes de développeur sur les médias sociaux, ou pour obtenir des résumés de publications de détracteurs du gouvernement chinois.

L’utilisation de l’intelligence artificielle par le réseau ne semble avoir représenté qu’une faible part de sa production globale. Par exemple, bon nombre des comptes X et Medium qui, selon nous, publiaient du contenu généré par nos modèles ont publié un volume plus élevé de contenu qui semblait avoir été créé manuellement en anglais et en chinois, comme en témoignait notamment un anglais peu idiomatique. Ils ont publié ce contenu avant et après la publication des commentaires générés par l’IA.

Une grande partie du contenu généré par cette campagne était en chinois. Les sujets allaient de l’éloge de la coopération internationale du gouvernement chinois en matière d’application de la loi à la dénonciation des mauvais traitements infligés aux Autochtones aux États-Unis. Certains contenus critiquaient le gouvernement américain et Microsoft pour avoir révélé les activités du groupe de pirates informatiques chinois appelé « Volt Typhoon ».

D’autres contenus étaient en anglais. Ce contenu critiquait généralement d’éminents détracteurs du gouvernement chinois, comme l’acteur et militant pour le Tibet Richard Gere ainsi que la dissidente Cai Xia. Quelques articles générés à la fin de 2023 en anglais, en japonais, en chinois, en coréen et en russe accusaient le Japon de polluer les eaux du Pacifique avec les rejets de la centrale nucléaire de Fukushima⁠(s'ouvre dans une nouvelle fenêtre) — un thème récurrent des opérations d’influence chinoises.

Un petit groupe d’activités visait à générer des commentaires positifs en chinois au sujet d’une visite en Ouzbékistan du ministre chinois de la Sécurité publique. Spamouflage n’avait encore jamais été associé à ce thème; celui-ci présente un intérêt compte tenu de l’attribution par le FBI⁠(s'ouvre dans une nouvelle fenêtre) d’une partie des activités antérieures de cette opération sur les médias sociaux au ministère chinois de la Sécurité publique.

Certaines activités du réseau semblent avoir reflété les intérêts personnels des opérateurs. Par exemple, un opérateur a utilisé nos modèles pour effectuer des recherches sur des objectifs d’appareil photo. Un autre a utilisé nos modèles pour accomplir ce qui semble avoir été un travail d’évaluation destiné à des membres du Parti communiste chinois.

Spamouflage est l’une des opérations d’influence les plus étudiées au monde depuis qu’elle a été décrite publiquement pour la première fois en 2019⁠(s'ouvre dans une nouvelle fenêtre). Très peu de ses activités auraient atteint des publics authentiques.

L’utilisation de contenu généré par l’IA ne semble pas avoir changé cette dynamique. Parmi les blogues, articles et comptes de médias sociaux que notre enquête a permis de repérer, aucun n’a obtenu un nombre élevé d’interactions ou d’abonnés réels. Dans certains cas, les indicateurs disponibles montrent que seuls les membres de notre équipe d’enquête ont consulté leurs publications.

Selon l’échelle Breakout⁠(s'ouvre dans une nouvelle fenêtre), qui mesure l’incidence des opérations d’influence de 1 (la plus faible) à 6 (la plus élevée), nous classerions cette opération dans la catégorie 2, caractérisée par des publications sur de nombreuses plateformes, mais sans preuve d’une amplification importante par des personnes extérieures au réseau.

Nous avons établi que le domaine suivant était associé à cette campagne.

• revealscum.com