Perturbation d’une nouvelle campagne d’influence clandestine russe

Notre mission est de veiller à ce que l’intelligence artificielle générale profite à toute l’humanité. Nous faisons progresser cette mission en déployant nos innovations afin de créer des outils d’IA qui aident les gens à résoudre des problèmes complexes. Nous créons notamment des outils qui nous permettent de détecter, d’examiner, de perturber et de dévoiler des opérations d’influence clandestines : des tentatives trompeuses visant à manipuler l’opinion publique ou à influer sur les résultats politiques sans révéler la véritable identité ni les intentions des acteurs qui en sont responsables.

Nous avons récemment banni un groupe de comptes ChatGPT provenant de Russie qui servaient à promouvoir l’International Burke Institute (IBI), une prétendue « communauté d’experts » établie en Israël. Ce qui avait commencé comme une enquête sur des publications générées par l’IA sur les médias sociaux nous a menés à une opération d’influence beaucoup plus vaste, articulée autour d’un site Web contenant des travaux universitaires copiés et faussement attribués, d’un indice de « souveraineté » présentant la Russie sous un jour favorable et d’efforts visant à dissimuler l’origine russe des opérateurs. Bien que la campagne semble avoir touché des auditoires relativement restreints, sa structure élaborée la distingue des autres opérations⁠(s'ouvre dans une nouvelle fenêtre) d’influence⁠(s'ouvre dans une nouvelle fenêtre) liées à la Russie⁠(s'ouvre dans une nouvelle fenêtre) que nous avons perturbées⁠(s'ouvre dans une nouvelle fenêtre) depuis le début de la guerre en Ukraine. Ce rapport explique le fonctionnement de l’opération, le rôle qu’y jouait ChatGPT et les mesures que nous avons prises pour la perturber.

Nous avons banni un groupe de comptes ChatGPT qui provenaient très probablement de Russie. Les opérateurs rédigeaient leurs requêtes en russe afin de générer des commentaires destinés aux médias sociaux, ensuite publiés sur Substack, Telegram, X, Facebook et LinkedIn. La plupart des commentaires générés étaient en anglais, et les opérateurs demandaient à ChatGPT de dissimuler tout indice linguistique révélant qu’ils étaient russes. Comme nous n’autorisons pas l’accès à nos modèles depuis la Russie, ils utilisaient des RPV pour accéder à notre plateforme.

Une grande partie du contenu généré visait à promouvoir une prétendue « communauté d’experts » appelée International Burke Institute (IBI). La marque IBI était associée à un site Web enregistré en février 2025. Ce site affirmait que l’institut était établi en Israël. Les articles publiés sur le site n’ont pas été générés à partir de nos modèles. Bon nombre d’entre eux avaient été copiés de véritables travaux universitaires, parfois avec une fausse attribution; certains semblent avoir été rédigés par une personne de langue slave, puis traduits automatiquement. À titre d’exemple, la capture d’écran ci-dessous, tirée du site Web de l’IBI, emploie une expression peu naturelle qui s’explique très probablement par une traduction automatique littérale d’une langue slave.

À notre connaissance, il s’agit d’une nouvelle campagne d’influence clandestine qui n’avait jamais été signalée. Sa caractéristique la plus notable est la création d’un « indice de souveraineté » dont faisait la promotion le prétendu « groupe de réflexion » afin de louer la Russie et de dénigrer les pays occidentaux. C’est la première fois que nous perturbons une opération d’influence liée à la Russie ayant déployé des moyens aussi élaborés.

L’opération utilisait principalement ChatGPT pour générer des publications sur les médias sociaux faisant la promotion d’articles du site Web de l’IBI. Nous avons repéré ces publications sur X, LinkedIn, Facebook, Substack et Telegram. Certaines provenaient de comptes portant le nom et le logo de l’IBI; d’autres semblaient provenir d’utilisateurs ordinaires (probablement non authentiques) dont l’activité principale consistait à publier des articles de l’IBI.

En plus de ces publications proactives, les opérateurs ont aussi généré des réponses à des publications de véritables utilisateurs de Substack sur divers sujets. Ces réponses comprenaient généralement une demande de suivre la chaîne de l’IBI et étaient publiées sur Substack par le compte de l’IBI.

En plus de générer du contenu sur l’IBI, l’un des opérateurs a généré des publications en allemand qui ont été publiées sur une chaîne Telegram appelée « Lahme Ente » (« canard boiteux »). Ces publications critiquaient régulièrement l’Ukraine, l’UE et le gouvernement allemand, et préconisaient de meilleures relations avec la Russie.

Un deuxième opérateur, parallèlement à son contenu lié à l’IBI, a généré des logos pour une douzaine de chaînes Telegram (dont Lahme Ente) axées sur l’Allemagne, les États-Unis, la France, la Pologne et la Türkiye. Certaines de ces chaînes publiaient parfois du contenu sur l’IBI ou partageaient les propres publications de l’IBI. Le deuxième opérateur a aussi demandé à plusieurs reprises des résumés en russe de l’activité de ces chaînes. L’une des chaînes axées sur les États-Unis, qui se faisait passer pour un média américain, avait une biographie comportant plusieurs indices d’une langue non maternelle.

L’International Burke Institute (IBI) semblait être au cœur de cette opération, mais l’activité que nous avons perturbée concernait surtout du contenu sur les médias sociaux faisant la promotion du site Web ou contenant des liens vers celui-ci, plutôt que du contenu hébergé directement sur le site.

Le site se présentait comme une « communauté d’experts » ayant une adresse municipale en Israël. Au 17 juillet, son site Web prétendait regrouper un vaste éventail d’experts de renommée mondiale, dont des sommités comme Francis Fukuyama et Noam Chomsky, et publiait de nombreux travaux de recherche. Toutefois, après examen d’un échantillon de 36 articles associés à des experts sur le site Web de l’IBI et publiés entre septembre 2025 et mai 2026, nous avons constaté que 34 avaient été copiés d’autres sources sur Internet.

Certains de ces articles dataient de plusieurs années; d’autres étaient attribués aux mauvais auteurs. Par exemple, un article sur le corridor économique Chine-Pakistan semble avoir été copié d’un original de Cambridge University Press, mais attribué à tort à une professeure de l’Université de Nottingham spécialisée dans la politique sud-asiatique.

Un autre article sur la gouvernance des migrations semble avoir été copié du Migration Policy Institute, mais attribué à tort à une professeure australienne en sciences alimentaires. Ce comportement laisse croire qu’on souhaitait rendre le site Web de l’IBI plus légitime en le garnissant de contenu authentique, tout en dissimulant la véritable source de ce contenu.

En plus de ces articles, le site Web de l’IBI comprenait des rapports sur divers pays et leur souveraineté, mesurée selon l’indice de l’institut. Ces rapports n’ont pas été générés au moyen de nos modèles. Certains de ces rapports étaient présentés comme des comparaisons entre deux pays. D’autres portaient sur un seul pays, surtout ceux qui critiquent la guerre menée par la Russie contre l’Ukraine, comme la France et l’Allemagne, ainsi que sur l’Union européenne. L’opération faisait la promotion de récits semblables au sujet des États-Unis. Ces rapports étaient généralement critiques, voire polémiques. En voici quelques exemples :

• France⁠(s'ouvre dans une nouvelle fenêtre) : « Dix ans de macronisme ont produit exactement le résultat auquel on pouvait s’attendre d’un gestionnaire arrivé au palais de l’Élysée depuis la banque Rothschild : la France a été ouverte comme un coffre-fort rempli d’un capital historique, et elle est maintenant vendue en pièces détachées. »
• États-Unis⁠(s'ouvre dans une nouvelle fenêtre) : « Trump est arrivé [à Pékin] avec l’indice de souveraineté le plus élevé au monde et en est reparti après avoir pris plusieurs mesures qui [...] peuvent être qualifiées de réduction volontaire de l’autonomie. »
• Allemagne⁠(s'ouvre dans une nouvelle fenêtre) : « L’Allemagne a besoin d’une politique industrielle qui protège les emplois, et non seulement le cours des actions. Le pays a besoin d’une discussion franche sur l’identité, sans tabous ni hystérie. Il a besoin d’une véritable souveraineté militaire, et non d’une dépendance aux bases américaines. Et il a besoin de politiciens dont la loyauté première va au peuple allemand, et non aux conseils d’administration d’entreprises à New York. »
• UE⁠(s'ouvre dans une nouvelle fenêtre) : « Slovaquie contre Italie : les paradoxes de la souveraineté des pays otages de la “grande” Union »

Bien que le contenu sur les médias sociaux faisant la promotion de l’IBI ait été généré par des utilisateurs de ChatGPT en Russie qui s’efforçaient de dissimuler leur origine, et qu’une grande partie du contenu du site Web de l’IBI semble avoir été copiée d’autres sources, certaines traces en ligne indiquent qu’une poignée de personnes réelles en Israël pourraient aussi avoir représenté l’IBI lors de soumissions d’articles et de conférences. Nous ne sommes pas en mesure de déterminer la relation entre ces personnes, l’IBI et les opérateurs en Russie.

L’impact immédiat de l’opération semble avoir été limité : les publications habituelles sur les médias sociaux n’ont reçu qu’un faible nombre de vues, et les comptes officiels de l’IBI comptaient peu d’abonnés. Les chaînes Telegram de l’opération semblent avoir attiré davantage d’abonnés, chacune en comptant généralement de 10 000 à 20 000. En utilisant la Breakout Scale⁠(s'ouvre dans une nouvelle fenêtre) de Brookings pour évaluer l’impact de cette opération, nous la situerions au bas de la catégorie trois (plusieurs plateformes, avec certains signes de propagation auprès d’auditoires authentiques).

L’importance de l’opération tient toutefois moins à l’auditoire qu’elle a atteint qu’à l’infrastructure qu’elle avait bâtie. Bien que les acteurs n’aient utilisé ChatGPT que pour produire des publications promotionnelles isolées, celles-ci renvoyaient à une institution par ailleurs crédible en apparence, avec de prétendus experts, des travaux universitaires republiés et un prétendu indice de risque exclusif. Cela montre comment des acteurs de l’influence peuvent utiliser l’IA comme outil de soutien dans le cadre d’un effort plus vaste visant à fabriquer une autorité, à dissimuler la source de récits favorisés et à créer des actifs pouvant être déployés à plus grande échelle au fil du temps. Cela montre aussi comment leur utilisation de l’IA comme outil de soutien peut mener à la mise au jour de l’opération dans son ensemble.