Perturbation d’une nouvelle campagne d’influence clandestine russe

Notre mission est de veiller à ce que l’intelligence artificielle générale profite à toute l’humanité. Nous poursuivons cette mission en déployant nos innovations afin de créer des outils d’IA qui aident chacun à résoudre des problèmes complexes. Cela inclut la création d’outils nous permettant de détecter, d’analyser, de perturber et de révéler des opérations d’influence clandestines : des tentatives trompeuses visant à manipuler l’opinion publique ou à influencer les résultats politiques sans dévoiler la véritable identité ni les intentions des acteurs qui en sont à l’origine.

Nous avons récemment banni un groupe de comptes ChatGPT provenant de Russie, utilisés pour promouvoir l’International Burke Institute (IBI), qui se présente comme une « communauté d’experts » établie en Israël. Ce qui avait commencé comme une enquête sur des publications générées par l’IA sur les réseaux sociaux nous a conduits à une opération d’influence bien plus vaste, organisée autour d’un site contenant des travaux universitaires copiés et attribués à tort, d’un indice de « souveraineté » présentant la Russie sous un jour favorable et de tentatives visant à dissimuler l’origine russe des opérateurs. Bien que la campagne semble avoir touché un public relativement restreint, sa structure élaborée la distingue des autres opérations liées à la Russie⁠(ouverture dans une nouvelle fenêtre) et opérations d’influence⁠(ouverture dans une nouvelle fenêtre) similaires⁠(ouverture dans une nouvelle fenêtre) que nous avons perturbées⁠(ouverture dans une nouvelle fenêtre) depuis le début de la guerre en Ukraine. Ce rapport explique le fonctionnement de l’opération, le rôle qu’y a joué ChatGPT et les mesures que nous avons prises pour la perturber.

Nous avons banni un groupe de comptes ChatGPT qui provenaient très probablement de Russie. Les opérateurs formulaient leurs requêtes en russe pour générer des commentaires destinés aux réseaux sociaux, ensuite publiés sur Substack, Telegram, X, Facebook et LinkedIn. La plupart des commentaires ainsi générés étaient en anglais, et les opérateurs demandaient à ChatGPT de dissimuler tout indice linguistique révélant qu’ils étaient russes. Comme nous n’autorisons pas l’accès à nos modèles depuis la Russie, ils utilisaient des VPN pour accéder à notre plateforme.

Une grande partie du contenu généré visait à promouvoir une prétendue « communauté d’experts » appelée International Burke Institute (IBI). La marque IBI était associée à un site enregistré en février 2025. Celui-ci affirmait que l’institut était établi en Israël. Les articles publiés sur le site n’ont pas été générés par nos modèles. Nombre d’entre eux avaient été copiés depuis de véritables travaux universitaires, parfois avec une attribution mensongère ; certains semblent avoir été rédigés par une personne de langue slave, puis traduits automatiquement. À titre d’exemple, la capture d’écran ci-dessous, tirée du site de l’IBI, emploie une expression peu naturelle qui s’explique très probablement par une traduction automatique littérale depuis une langue slave.

À notre connaissance, il s’agit d’une nouvelle campagne d’influence clandestine qui n’avait jamais été signalée auparavant. Sa caractéristique la plus notable est la création d’un « indice de souveraineté » promu par le prétendu « groupe de réflexion » afin de louer la Russie et de dénigrer les pays occidentaux. C’est la première fois que nous perturbons une opération d’influence liée à la Russie ayant déployé des moyens aussi élaborés.

L’opération utilisait principalement ChatGPT pour générer des publications sur les réseaux sociaux faisant la promotion d’articles du site de l’IBI. Nous avons repéré ces publications sur X, LinkedIn, Facebook, Substack et Telegram. Certaines ont été publiées par des comptes portant le nom et le logo de l’IBI ; d’autres semblaient provenir d’utilisateurs ordinaires (probablement fictifs) dont l’activité principale consistait à publier des articles de l’IBI.

Outre ces publications spontanées, les opérateurs ont également généré des réponses aux publications de véritables utilisateurs de Substack sur divers sujets. Ces réponses invitaient généralement à suivre le canal de l’IBI et étaient publiées sur Substack par le compte de l’IBI.

En plus de générer du contenu sur l’IBI, l’un des opérateurs a produit des publications en allemand qui ont été diffusées sur un canal Telegram appelé « Lahme Ente » (« canard boiteux »). Ces publications critiquaient régulièrement l’Ukraine, l’UE et le gouvernement allemand, et prônaient de meilleures relations avec la Russie.

Un deuxième opérateur, parallèlement à ses contenus liés à l’IBI, a généré des logos pour une douzaine de canaux Telegram (dont Lahme Ente) consacrés à l’Allemagne, aux États-Unis, à la France, à la Pologne et à la Türkiye. Certains de ces canaux publiaient parfois des contenus sur l’IBI ou partageaient ses propres publications. Le deuxième opérateur a également demandé à plusieurs reprises des résumés en russe de l’activité de ces canaux. L’un des canaux consacrés aux États-Unis, qui se faisait passer pour un média américain, présentait une biographie comportant plusieurs indices d’un niveau de langue non natif.

L’International Burke Institute (IBI) semblait être au cœur de cette opération, bien que l’activité que nous avons perturbée ait porté sur des contenus publiés sur les réseaux sociaux qui faisaient la promotion de son site ou comportaient des liens vers celui-ci, plutôt que sur les contenus directement hébergés sur ce site.

Le site se présentait comme une « communauté d’experts » ayant une adresse postale en Israël. Au 17 juillet, son site affirmait réunir un large éventail d’experts de renommée mondiale, notamment des personnalités telles que Francis Fukuyama et Noam Chomsky, et publiait de nombreux travaux de recherche. Toutefois, notre examen d’un échantillon de 36 articles associés à des experts sur le site de l’IBI et publiés entre septembre 2025 et mai 2026 a révélé que 34 d’entre eux avaient été copiés depuis d’autres sources sur Internet.

Certains de ces articles dataient de plusieurs années, tandis que d’autres étaient attribués aux mauvais auteurs. Par exemple, un article sur le corridor économique Chine-Pakistan semble avoir été copié depuis un original de Cambridge University Press, mais attribué à tort à une professeure de l’Université de Nottingham spécialisée dans la politique de l’Asie du Sud.

Un autre article sur la gouvernance des migrations semble avoir été copié depuis le Migration Policy Institute, mais attribué à tort à une professeure australienne de sciences alimentaires. Ce comportement laisse penser que l’objectif était de rendre le site de l’IBI plus légitime en l’alimentant avec des contenus authentiques tout en dissimulant leur véritable source.

Outre ces articles, le site de l’IBI comprenait des rapports sur différents pays et leur souveraineté, telle que mesurée par l’indice de l’institut. Ces rapports n’ont pas été générés à l’aide de nos modèles. Certains de ces rapports étaient présentés comme des comparaisons entre deux pays. D’autres portaient sur un seul pays, en particulier ceux qui critiquent la guerre menée par la Russie en Ukraine, comme la France et l’Allemagne, ainsi que sur l’Union européenne. L’opération diffusait des discours similaires au sujet des États-Unis. Ces rapports étaient généralement critiques, voire polémiques. En voici quelques exemples :

• France⁠(ouverture dans une nouvelle fenêtre) : « Dix années de macronisme ont produit exactement le résultat que devait obtenir un dirigeant arrivé au palais de l’Élysée depuis la banque Rothschild : la France a été ouverte comme un coffre-fort renfermant un capital historique, et elle est désormais vendue à la découpe. »
• États-Unis⁠(ouverture dans une nouvelle fenêtre) : « Trump est arrivé [à Pékin] avec le premier indice de souveraineté au monde et en est reparti après avoir pris plusieurs mesures qui [...] peuvent être qualifiées de réduction volontaire de l’autonomie. »
• Allemagne⁠(ouverture dans une nouvelle fenêtre) : « L’Allemagne a besoin d’une politique industrielle qui protège les emplois, pas seulement le cours des actions. Le pays a besoin d’un débat honnête sur l’identité, sans tabous ni hystérie. Il a besoin d’une véritable souveraineté militaire, et non d’une dépendance aux bases américaines. Et il a besoin de responsables politiques dont la loyauté première va au peuple allemand, et non aux conseils d’administration des entreprises à New York. »
• UE⁠(ouverture dans une nouvelle fenêtre) : « Slovaquie contre Italie : les paradoxes de la souveraineté des pays otages de la « grande » Union »

Si les contenus publiés sur les réseaux sociaux pour promouvoir l’IBI ont été générés par des utilisateurs de ChatGPT en Russie qui se sont efforcés de dissimuler leur origine, et si une grande partie du contenu du site de l’IBI semble avoir été copiée depuis d’autres sources, certaines traces en ligne suggèrent qu’une poignée de personnes réelles en Israël ont également pu représenter l’IBI lors de soumissions d’articles et de conférences. Nous ne sommes pas en mesure de déterminer la nature des liens entre ces personnes, l’IBI et les opérateurs en Russie.

L’impact immédiat de l’opération semble avoir été limité : les publications habituelles sur les réseaux sociaux n’ont reçu qu’un faible nombre de vues et les comptes officiels de l’IBI comptaient peu d’abonnés. Les canaux Telegram de l’opération semblent avoir attiré davantage d’abonnés, généralement entre 10 000 et 20 000 chacun. Selon la Breakout Scale⁠(ouverture dans une nouvelle fenêtre) de Brookings utilisée pour évaluer l’impact de cette opération, nous la situerions au bas de la catégorie 3 (plusieurs plateformes, avec quelques signes de diffusion auprès de publics authentiques).

L’importance de l’opération tient toutefois moins au public qu’elle a touché qu’à l’infrastructure qu’elle avait mise en place. Bien que les acteurs n’aient utilisé ChatGPT que pour produire des publications promotionnelles isolées, celles-ci renvoyaient vers une institution par ailleurs crédible en apparence, avec de prétendus experts, des travaux universitaires republiés et un prétendu indice de risque propriétaire. Cela montre comment les acteurs de l’influence peuvent utiliser l’IA comme outil d’appoint dans le cadre d’une initiative plus vaste visant à fabriquer une autorité, à masquer la source de discours favorables et à établir des actifs susceptibles d’être développés au fil du temps. Cela montre également comment leur utilisation de l’IA comme outil d’appoint peut conduire à la révélation de l’opération dans son ensemble.