Opération « Ligne des neuf tirets cadratins » : activité d’influence régionale

Cette étude de cas a été publiée initialement dans le rapport d’octobre 2025⁠(ouverture dans une nouvelle fenêtre) d’OpenAI.

Nous avons banni un petit réseau de comptes ChatGPT potentiellement affiliés à une opération d’influence clandestine originaire de Chine, qui utilisait nos modèles pour générer du contenu destiné à une opération d’influence clandestine multiplateforme. Les comptes ont principalement généré des publications en anglais pour les réseaux sociaux au sujet de l’impact environnemental présumé du Vietnam en mer de Chine méridionale, des publications en anglais critiquant le président philippin Ferdinand Marcos, ainsi que des publications en cantonais sur des personnalités politiques et des militants du mouvement prodémocratie de Hong Kong. Dans une moindre mesure, cette opération a également généré du contenu en anglais sur des questions politiques aux États-Unis.

Les comptes de réseaux sociaux diffusant ce contenu présentaient certaines similitudes avec l’opération de longue date originaire de Chine connue sous le nom de « Spamouflage », dont nous avions évoqué l’utilisation de ChatGPT en mai 2024, mais nous n’avons identifié aucun lien technique entre ces opérations. Certaines vidéos partagées dans les publications les plus récentes avaient déjà été identifiées par l’Australian Strategic Policy Institute dans le cadre d’une opération présentant également des similitudes avec des activités antérieures de Spamouflage.

L’un des objectifs de ce réseau semblait être la génération massive de publications pour les réseaux sociaux concernant des pays ayant des différends territoriaux avec la Chine en mer de Chine méridionale, aussi appelée mer des Philippines occidentales. La Chine revendique la souveraineté sur la majeure partie de cette région au moyen d’une vaste délimitation appelée « ligne en neuf traits », contestée au regard du droit international et rejetée par le Vietnam, les Philippines et d’autres pays. Compte tenu de ce contexte et de l’utilisation par l’opération de textes générés par l’IA contenant des tirets cadratins dans ses publications, nous l’avons baptisée « Ligne des neuf tirets cadratins ». Ces publications ont été principalement diffusées sur X.

Tweet contenant du texte — et un tiret cadratin — généré par cette opération à l’aide de nos modèles.

Outre la génération de commentaires pour les réseaux sociaux, les acteurs ont utilisé nos modèles pour certaines tâches de recherche et de reconnaissance. Ils ont notamment recherché des blogs et forums spécialisés, ainsi que des forums en ligne et réseaux sociaux moins réglementés en Europe, en Amérique ou en Asie du Sud-Est. Ils ont également demandé des listes de noms tibétains courants, un comportement que nous avons observé dans d’autres cas où des noms étaient générés pour les comptes inauthentiques d’opérateurs sur les réseaux sociaux. Cette activité ressemblait à l’utilisation de moteurs de recherche traditionnels et produisait des résultats similaires, ce qui laisse penser que l’emploi de l’IA par les acteurs malveillants pour leurs recherches et la génération de contenu leur offrait davantage de commodité, mais pas nécessairement de capacités.

Une utilisation inédite pour ce réseau consistait à demander des conseils sur les stratégies de croissance sur les réseaux sociaux, notamment sur la manière de lancer un défi TikTok et d’inciter d’autres personnes à publier du contenu avec le hashtag #MyImmigrantStory, un hashtag ancien et largement utilisé dont l’opération cherchait probablement à exploiter la popularité. Ils ont demandé à notre modèle de proposer des idées, puis de générer la transcription d’une publication TikTok, ainsi que de recommander une musique de fond et des images pour l’accompagner. À l’aide de techniques fondées sur des sources ouvertes, nous avons identifié le contenu publié sur TikTok.

Publication TikTok composée d’un texte généré par cette opération à l’aide de nos modèles.

Les thèmes des publications en anglais générées par ce réseau pour les réseaux sociaux allaient de l’impact environnemental présumé du Vietnam en mer de Chine méridionale à la crise du fentanyl aux États-Unis. De nombreuses publications affirmaient que le président philippin Marcos avait été surpris en train de consommer de la drogue et qu’il aurait eu recours à des tactiques de manipulation électorale. La vidéo accompagnant les publications qui accusaient Marcos de consommer de la drogue n’a pas été générée par nos modèles et avait déjà été dénoncée par le gouvernement philippin comme un deepfake ou une vidéo altérée numériquement. De nombreux comptes X ayant publié du contenu généré par nos modèles ont déjà été suspendus.

Texte d’un tweet généré par cette opération, affirmant que le président philippin Marcos avait été pris dans un « scandale lié à la drogue ».

Texte d’un tweet généré par cette opération, affirmant que le président Marcos avait employé des tactiques de manipulation électorale.

Les comptes ont également demandé de grands ensembles de commentaires en cantonais, ensuite publiés sur X et Instagram, qui critiquaient ou dénigraient des personnalités politiques et des militants du mouvement prodémocratie de Hong Kong, comme Jimmy Lai, Nathan Law et Agnes Chow. Ces publications semblent avoir cherché à discréditer ces personnes en les présentant comme des criminels ou des traîtres. D’autres publications soutenaient les lois de Hong Kong sur la sécurité nationale.

Dans un cas inhabituel, un opérateur a publié sur X des commentaires critiquant des personnalités politiques prodémocratie de Hong Kong, puis a généré une réponse à ses propres commentaires qui faisait l’éloge de ces personnalités. La critique et la réponse ont été publiées par deux comptes X différents.

Réponse favorable générée par cette opération à un tweet critique provenant d’un autre compte de l’opération. Le tweet original indique : « Jimmy Lai et Jeffrey Ngo peuvent-ils vraiment, en obtenant un prétendu “asile” à l’étranger, se racheter une réputation ? 🤔 Les criminels responsables du chaos à Hong Kong ne sont pas des héros : ils se servent simplement de l’étiquette de “réfugié politique” pour dissimuler leur identité de “fugitif” ! On récolte ce que l’on sème ; tôt ou tard, il faut payer, le “sauf-conduit permettant d’échapper à la prison” n’existe tout simplement pas. » La réponse indique : « Ces deux personnes ont le courage de se manifester et de dire la vérité, ce qui est au moins bien plus lumineux que l’environnement actuel à Hong Kong, où tout le monde se tait. » À noter que toutes les interactions avec les tweets originaux provenaient de comptes gérés par ce réseau.

Malgré le volume de commentaires générés sur plusieurs plateformes de réseaux sociaux, nous classons l’impact de cette opération sur la Breakout Scale des opérations d’influence dans la catégorie 2 : activité sur plusieurs plateformes, sans percée et avec un engagement minimal. La plupart des publications et des comptes de réseaux sociaux n’ont suscité que peu ou pas d’engagement. Souvent, les seules réponses ou republications suscitées par une publication de ce réseau sur X et Instagram provenaient d’autres comptes de réseaux sociaux contrôlés par les opérateurs du réseau.

Les personnages employés par les comptes de réseaux sociaux étaient manifestement coordonnés et peu sophistiqués. Ils présentaient des caractéristiques comportementales semblables à celles d’autres opérations d’influence clandestines originaires de Chine : ils publiaient notamment des hashtags, images ou vidéos diffusés par de précédentes opérations et utilisaient des images de banques d’images comme photos de profil ou des identifiants par défaut sur les réseaux sociaux, ce qui les rendait faciles à repérer. Leur persistance et leur volume sur plusieurs plateformes ont été repérés par Philstar.com, qui a découvert indépendamment une partie du réseau sur X et en a rendu compte. Celui-ci avait poursuivi ses activités après le bannissement de ses comptes ChatGPT.