Opération « Sneer Review » : activité d’influence d’origine chinoise

Cette étude de cas a été initialement publiée dans le rapport de juin 2025⁠(ouverture dans une nouvelle fenêtre) d’OpenAI.

Nous avons banni des comptes ChatGPT qui, d’après nos détections, utilisaient nos modèles pour générer en masse des publications sur les réseaux sociaux correspondant à l’activité d’une opération d’influence clandestine. Au cours de notre enquête, nous avons également observé que ces comptes rédigeaient des évaluations internes des performances.

Ces comptes soumettaient principalement des prompts en chinois et se concentraient sur des sujets politiques et géopolitiques liés à la Chine. Un utilisateur a indiqué dans un prompt qu’il travaillait pour le Département chinois de la propagande. Nous ne disposons toutefois d’aucune preuve indépendante permettant de vérifier cette affirmation.

Les comptes que nous avons bannis menaient deux grands axes de travail. Le plus prolifique consistait à générer de courts commentaires en anglais et en chinois sur les réseaux sociaux, ainsi que quelques-uns en ourdou. Nous avons constaté que beaucoup de ces commentaires étaient publiés sur TikTok et X, tandis que d’autres contenus apparaissaient sur Reddit, Facebook et divers sites Web.

Une pratique courante consistait à publier un premier commentaire depuis un compte « principal », souvent créé en apparence uniquement à cette fin, puis une série de réponses depuis d’autres comptes. Ce comportement semblait destiné à donner une fausse impression d’engagement organique.

Sur TikTok, les comptes publiant des commentaires utilisaient des pseudonymes dans diverses langues et divers alphabets, souvent sans rapport avec la langue du contenu publié. Par exemple, un compte portant un nom coréen a publié un commentaire en ourdou, tandis que des comptes portant des noms thaïlandais et hébreux ont publié en anglais des commentaires générés par ce réseau. Sur X, les comptes publiant des commentaires utilisaient généralement des images de profil représentant des personnages de dessin animé et portaient parfois des noms associés aux cryptomonnaies.

Le réseau était moins actif sur Facebook. Son activité consistait principalement à générer des noms et des photos de profil pour deux Pages se faisant passer pour des médias d’information. Aucune des deux Pages n’avait d’abonnés ni de mentions J’aime, et chacune ne présentait qu’une poignée de publications.

Le réseau générait occasionnellement des publications plus longues en chinois ou en anglais. Nous avons identifié une publication de ce type sur Reddit et deux autres sur divers forums Web. Le second axe de travail consistait à utiliser ChatGPT pour générer ce qui semble avoir été des documents internes relatifs aux politiques ou à l’évaluation des performances.

Les contenus générés sur les réseaux sociaux par cet acteur malveillant abordaient divers sujets, tous étroitement alignés sur les intérêts géostratégiques de la Chine.

Certains contenus portaient sur Taïwan et ciblaient en particulier « Front renversé »⁠(ouverture dans une nouvelle fenêtre) (« 逆統戰 »), un jeu vidéo et de plateau centré sur Taïwan qui imagine une résistance au Parti communiste chinois. Le réseau a généré des dizaines de commentaires critiques en chinois au sujet du jeu, puis un long article affirmant que celui-ci avait suscité une vive opposition. Il s’agissait de l’activité la plus caractéristique de l’opération : c’est pourquoi nous l’avons baptisée « Sneer Review ».

D’autres contenus, en anglais et en ourdou, ciblaient la militante pakistanaise Mahrang Baloch, qui a publiquement critiqué les investissements de la Chine au Baloutchistan⁠(ouverture dans une nouvelle fenêtre). Un compte TikTok et une Page Facebook liés au réseau ont publié une vidéo accusant à tort Baloch d’être apparue dans un film pornographique. L’opération a ensuite généré des centaines de courts commentaires dans les deux langues afin de simuler un engagement massif.

Un dernier ensemble de contenus portait sur la fermeture de l’Agence américaine pour le développement international (USAID), et générait de courts commentaires qui approuvaient ou critiquaient cette décision. Ces commentaires ont été publiés sur TikTok et X.

Enfin, les acteurs malveillants ont utilisé nos modèles pour générer ce qui semble avoir été des documents internes, notamment un essai détaillé rédigé dans le style d’un document officiel de sécurité publique et une évaluation des performances décrivant les étapes suivies pour mettre en place et mener l’opération.

Cette opération semblait n’en être qu’à ses débuts lorsque nous avons interrompu son utilisation de nos modèles. Aucune des deux Pages Facebook n’avait d’abonnés. Sur Reddit, une publication a reçu 44 votes positifs, tandis que deux autres ont été bloquées ou supprimées des subreddits où elles avaient été publiées.

L’engagement sur X et TikTok était plus variable : les deux vidéos TikTok ont cumulé 25 000 mentions J’aime, tandis que les tweets du compte principal de cette opération enregistraient généralement environ 10 000 vues chacun. Cependant, de nombreux commentaires sous ces publications ont été générés par ce réseau à l’aide de ChatGPT, ce qui indique qu’une partie au moins de l’engagement était inauthentique. Tous les chiffres d’engagement doivent donc être interprétés avec prudence.

Selon la Breakout Scale⁠(ouverture dans une nouvelle fenêtre) mesurant l’impact des opérations d’influence, nous estimerions que cette opération se situe au bas de la catégorie 3 si les chiffres d’engagement sur X et TikTok étaient authentiques. Nous réviserions cette évaluation à la baisse si de nouvelles preuves venaient étayer l’hypothèse selon laquelle la majorité des mentions J’aime et des vues étaient, comme la majorité des commentaires, inauthentiques.