Perturber les opérations de « façade » assistées par l’IA

Au cours des deux dernières années et demie, nous avons rendu compte de nombreuses façons dont les acteurs malveillants ont tenté d’utiliser nos modèles pour mener des cyberattaques, des opérations d’influence clandestines (OI), des escroqueries et d’autres activités contraires à nos politiques d’utilisation. Nous publions ces rapports pour informer les organismes de réglementation, nos pairs du secteur et la société en général des tentatives d’exploitation de l’IA par des acteurs malveillants que nous observons, et pour mettre en lumière les vulnérabilités qu’ils cherchent à exploiter.

Nous avons récemment banni deux OI — l’une russe, l’autre iranienne — qui combinaient nos modèles à des techniques et technologies plus traditionnelles pour soutenir des entités de « façade » sophistiquées. Elles utilisaient ces entités pour diffuser auprès de leurs publics cibles des messages géopolitiques liés aux conflits, en dissimulant leur origine. L’opération iranienne comprenait sept identités fictives de « journalistes » utilisées pour proposer de longs articles à des médias en ligne de petite et moyenne taille dans le monde; l’opération russe semble avoir recruté à leur insu des personnes en Amérique latine pour y gérer un « groupe de réflexion ».

Les deux opérations comportaient plusieurs dimensions et essayaient diverses tactiques pour atteindre leurs objectifs. Outre de longs articles, l’opération iranienne générait des lots de commentaires pour les médias sociaux, généralement sur des sujets liés à la guerre entre les États-Unis et l’Iran. En plus de contrôler le « groupe de réflexion », l’opération russe créait de faux documents prétendument « divulgués » et des scripts audio, dont certains ont été repérés en ligne. Les deux opérations utilisaient aussi largement l’IA pour rédiger des rapports internes (il s’agissait de l’usage principal de l’opération russe); dans les deux cas, les acteurs employaient des méthodes douteuses ou carrément trompeuses pour exagérer l’efficacité des opérateurs.

Ce qui frappe le plus dans ces opérations, c’est leur forte ressemblance avec les opérations d’influence complexes d’avant l’IA, tout en utilisant celle-ci pour faciliter certains processus. Les identités fictives de journalistes de l’opération iranienne rappelaient la fausse journaliste « Alice⁠(s'ouvre dans une nouvelle fenêtre) Donovan⁠(s'ouvre dans une nouvelle fenêtre) », une façade du renseignement militaire russe dont les articles ont été publiés par divers médias occidentaux en 2016 et 2017. En 2020, des personnes associées aux activités passées de l’Internet Research Agency russe dirigeaient un faux média d’« information » appelé « PeaceData⁠(s'ouvre dans une nouvelle fenêtre) », qui recrutait à leur insu des journalistes du monde entier pour écrire pour lui.

Ces opérations se distinguaient aussi par leur portée potentielle. Selon l’échelle de propagation⁠(s'ouvre dans une nouvelle fenêtre) des OI, qui les classe de 1 (niveau le plus bas) à 6 (le plus élevé), nous placerions l’opération d’origine russe dans la catégorie 5. Il s’agit de la première opération de catégorie 5 que nous avons perturbée depuis le début de nos rapports. L’opération d’origine iranienne a atteint la catégorie 4. Toutes deux ont réussi à faire publier leurs contenus (qui n’étaient pas tous générés par nos modèles) dans des médias grand public, plutôt que de simplement les publier sur les médias sociaux. Cela concorde avec une tendance observée parmi les 30 opérations d’influence clandestines que nous avons dévoilées au cours des deux dernières années et demie : celles qui tentent de placer leurs contenus dans de véritables médias, plutôt que de miser sur une diffusion par de faux comptes de médias sociaux, tendent à avoir la portée et l’impact potentiels les plus élevés.

Matrice des 30 OI dévoilées depuis le début de 2024, évaluées selon leur principal mode de diffusion (médias sociaux, site Web géré par l’opération, publications externes) et leur score sur l’échelle de propagation. Les opérations ayant utilisé plusieurs modes de diffusion, comme la gestion d’un site Web et sa promotion sur les médias sociaux, sont classées selon le mode qui semblait constituer le cœur de l’opération.

L’IA peut accroître l’ampleur, l’efficacité, l’aisance linguistique et les capacités rédactionnelles de ces opérations de façade. Les opérateurs peuvent utiliser ces avantages pour exploiter des victimes sans méfiance, comme des employés ou des responsables de rédaction, et présenter leurs contenus à des publics qui ignorent totalement qui en est à l’origine ou quelles sont leurs motivations. Ces opérations illustrent aussi la complexité et la sophistication de l’utilisation de fausses identités et entités par les acteurs malveillants pour atteindre leurs objectifs. Comprendre les vulnérabilités exploitées par les acteurs malveillants dans ces démarches, et la façon dont elles peuvent se traduire en audience et en portée, sera essentiel pour maintenir des défenses solides au sein des organisations.

Mais la nature clandestine de ces opérations de façade les rend aussi particulièrement vulnérables à une divulgation responsable. « Alice Donovan » et « PeaceData » ont toutes deux cessé leurs activités après avoir été démasquées. C’est pourquoi nous rendons compte de ces opérations de façade afin de faciliter les recherches et les perturbations futures, tout en rendant leur poursuite plus difficile.

Acteurs d’origine russe menant des campagnes d’influence dans toute l’Amérique latine.

Nous avons banni un groupe de comptes ChatGPT provenant de Russie. Ils utilisaient ChatGPT pour diverses tâches associées à des opérations d’influence clandestines ciblant des pays d’Amérique latine. Une grande partie de ces activités semblait viser à nuire à la réputation de l’Ukraine dans la région, mais certaines semblaient chercher à influer sur la politique locale, surtout en Argentine et en Bolivie. La plupart des opérateurs formulaient leurs requêtes en russe; l’un d’eux les formulait en espagnol, mais semblait néanmoins se trouver en Russie. Nous avons communiqué des renseignements sur ce cas aux autorités compétentes.

Les opérateurs utilisaient ChatGPT pour trois tâches principales : rédiger des rapports internes sur leurs activités (et sur celles d’autres personnes dont ils pouvaient vraisemblablement s’attribuer le mérite), créer du contenu pour leurs opérations et rédiger des rapports sur les résultats d’une prétendue « plateforme de recherche » en Amérique latine appelée Social Research Center (SRC). Ils semblent avoir contrôlé le SRC au moyen d’une identité fictive nommée « Mia Clark »; en référence à ce nom, nous avons surnommé cette opération « Dark Clark ». Puisque nous n’autorisons pas l’accès à nos modèles depuis la Russie, ils utilisaient des VPN pour se connecter à nos services.

Dans leurs rapports internes, les opérateurs affirmaient avoir diffusé de fausses histoires dans toute l’Amérique latine pour nuire à l’Ukraine ou à des dirigeants locaux. Certains de ces faux ont été attribués par des chercheurs⁠(s'ouvre dans une nouvelle fenêtre) en sources ouvertes⁠(s'ouvre dans une nouvelle fenêtre) à une entité russe connue sous le nom de « Politology » ou « La Compania », qui serait le successeur du groupe Wagner et d’autres entités fondées par l’oligarque russe Evgueni Prigojine. Les opérateurs demandaient aussi à nos modèles de traduire ou d’expliquer des reportages publics sur Politology et Wagner, bien plus souvent que sur tout autre réseau d’origine russe.

Cette opération se distinguait à deux égards. Premièrement, elle semble avoir réussi à recruter à leur insu des personnes en Amérique latine pour travailler au SRC. Les rapports des opérateurs russes sur le SRC évoquaient des décisions concernant les échelles salariales, les embauches et les congédiements, ce qui laisse penser qu’ils contrôlaient l’entité plutôt que de collaborer avec elle. Les éléments disponibles indiquent que les employés du SRC en Amérique latine ne savaient pas qu’ils travaillaient pour un groupe russe. Contrairement à un autre « groupe de réflexion » lié à la Russie que nous avons récemment dévoilé, le SRC semble avoir produit une majorité de contenus originaux grâce à son personnel recruté à son insu. Il s’agit de la tentative la plus complexe d’exploitation d’une identité de façade que nous avons perturbée au cours des deux dernières années et demie.

Deuxièmement, certains éléments en sources ouvertes suggèrent que les faux de Dark Clark ont suffisamment circulé pour susciter des vérifications des faits⁠(s'ouvre dans une nouvelle fenêtre) et des démentis officiels⁠(s'ouvre dans une nouvelle fenêtre), indiquant un degré de pénétration supérieur à celui de toutes les opérations d’influence que nous avons perturbées au cours des deux dernières années. Un faux que l’opération affirmait avoir diffusé au Pérou a même alimenté des tensions publiques entre l’Ukraine et la Pologne.

Les opérateurs utilisaient principalement ChatGPT pour rédiger et mettre à jour des rapports internes destinés à un supérieur non identifié. Ces rapports réguliers décrivaient des efforts pour mener des campagnes d’influence clandestines dans toute l’Amérique latine. Ils couvraient trois grands volets : les efforts pour dénigrer l’Ukraine et nuire au recrutement des forces armées ukrainiennes; les tentatives d’ingérence dans la politique intérieure de certains pays, surtout la Bolivie et l’Argentine; et la gestion du SRC. Dans la majorité des cas, nous n’avons pas observé les acteurs malveillants utiliser nos modèles pour créer du contenu destiné aux campagnes, mais seulement pour en rendre compte (les quelques exceptions sont décrites ci-dessous⁠).

Les rapports regorgeaient de détails tactiques, éclairant la façon dont l’opération cherchait à nuire à l’Ukraine et à certains dirigeants nationaux, notamment les présidents de l’Argentine, de la Bolivie et de l’Équateur. Certains décrivaient des tentatives pour amener par la ruse des habitants à mener des activités que les opérateurs pourraient instrumentaliser; d’autres décrivaient de fausses « fuites » que les opérateurs affirmaient avoir diffusées.

Dans deux cas, les éléments recueillis relient les opérateurs à des reportages publics sur « Politology ». Les opérateurs ont indiqué avoir mené, en 2024, deux campagnes visant le président argentin Javier Milei. D’abord, ils ont dit avoir diffusé une fausse information selon laquelle Milei avait acheté des colliers Cartier ornés de pierres précieuses pour ses chiens. Ensuite, ils ont affirmé avoir payé des acteurs locaux pour réaliser des graffitis anti-Milei à Buenos Aires. Sur la base de documents divulgués, ces deux actions revendiquées ont été publiquement⁠(s'ouvre dans une nouvelle fenêtre) attribuées⁠(s'ouvre dans une nouvelle fenêtre) à « Politology » et à « La Compania ».

De nombreux autres faux n’avaient jamais été associés à des opérations d’influence russes. Par exemple, les opérateurs ont affirmé avoir créé, en mai 2026, une fausse adresse courriel censée appartenir à la Direction régionale de l’éducation de Lima, au Pérou. Ils l’ont utilisée pour demander aux écoles du district de tenir des événements consacrés à l’Ukraine lors de la Journée nationale de la diversité culturelle et linguistique, le 21 mai. Les courriels demandaient explicitement de faire référence, entre autres, à Stepan Bandera, nationaliste ukrainien controversé du XXe siècle, considéré par certains Ukrainiens comme une figure de l’indépendance, mais associé en Russie et en Pologne au fascisme, à la collaboration en temps de guerre et à des atrocités. Selon les opérateurs, certaines écoles ont répondu à la fausse adresse courriel, confirmant avoir tenu ces événements et fournissant même des photos.

Les opérateurs ont ensuite affirmé avoir fait publier dans les médias péruviens et polonais des articles sur ces événements, accompagnés d’allégations selon lesquelles l’Ukraine « exportait » des idéologies ultranationalistes, suscitant l’indignation. Des recherches en sources ouvertes ont permis de repérer des articles correspondant à cette affirmation dans la presse⁠(s'ouvre dans une nouvelle fenêtre) péruvienne⁠(s'ouvre dans une nouvelle fenêtre) et⁠(s'ouvre dans une nouvelle fenêtre) polonaise⁠(s'ouvre dans une nouvelle fenêtre), ainsi que dans une publication anglophone en Hongrie⁠(s'ouvre dans une nouvelle fenêtre) (certains articles ont depuis été supprimés). Certains⁠(s'ouvre dans une nouvelle fenêtre) articles⁠(s'ouvre dans une nouvelle fenêtre) rapportaient la réaction d’un député polonais au Parlement européen proposant que les personnes faisant preuve d’« hostilité envers la Pologne » soient déclarées persona non grata en Pologne. Le faux russe s’est ainsi nourri des tensions historiques entre Ukrainiens et Polonais tout en les alimentant.

De même, en juin, les opérateurs ont affirmé avoir utilisé une autre fausse adresse courriel pour amener par la ruse des écoles en Équateur à tenir une cérémonie d’allégeance au président Daniel Noboa et à Erik Prince, ancien dirigeant de la société militaire privée Blackwater. Les opérateurs ont affirmé que l’incident avait suscité l’indignation en Équateur et poussé le gouvernement à démentir le faux, lui donnant ainsi une visibilité nationale. Là encore, des recherches en sources ouvertes ont permis de repérer une couverture⁠(s'ouvre dans une nouvelle fenêtre) médiatique⁠(s'ouvre dans une nouvelle fenêtre) dans la presse⁠(s'ouvre dans une nouvelle fenêtre) équatorienne⁠(s'ouvre dans une nouvelle fenêtre) correspondant étroitement à cette affirmation, et même une réfutation détaillée⁠(s'ouvre dans une nouvelle fenêtre) de la ministre de l’Éducation de l’Équateur.

Les opérateurs ont utilisé diverses techniques pour étayer leurs fausses histoires. Selon leurs rapports internes, ils ont diffusé deux faux distincts ciblant l’Équateur en mars. L’un utilisait un faux enregistrement audio attribué au consul d’Ukraine en Équateur, dans lequel il aurait tenu des propos désobligeants sur les Équatoriens. Notre enquête en sources ouvertes a permis de repérer une publication TikTok correspondant précisément à cette affirmation; elle semblait n’avoir suscité que peu d’interactions. L’autre décrivait une fausse vidéo diffusée sur X et TikTok sous le logo d’une véritable chaîne d’information, alléguant que le gouvernement Noboa recrutait de jeunes hommes pour combattre en Ukraine. Des vérificateurs des faits⁠(s'ouvre dans une nouvelle fenêtre) en Équateur ont décrit une campagne correspondant à cette description au début d’avril.

Vidéo TikTok publiée le 8 avril 2026, contenant le faux enregistrement audio revendiqué par cette opération et attribué au consul ukrainien.

Un autre rapport interne décrivait un faux diffusé en Bolivie à la fin de mai, au plus fort des manifestations antigouvernementales. Les opérateurs ont explicitement indiqué que cette campagne visait à exacerber la crise entourant les manifestations. La campagne mettait en scène un faux enregistrement audio d’un employé de la société publique de distribution d’eau, EPSAS, affirmant que le gouvernement allait couper l’eau dans la capitale administrative, La Paz, et déclarer l’état d’urgence. Nos recherches en sources ouvertes ont permis de repérer une réfutation⁠(s'ouvre dans une nouvelle fenêtre) de cette même allégation et un démenti officiel⁠(s'ouvre dans une nouvelle fenêtre) d’EPSAS.

D’autres rapports internes mentionnaient des faux que nous n’avons pas pu corroborer à partir de sources ouvertes, peut-être parce qu’ils avaient déjà été retirés ou n’avaient pas circulé. Par exemple, les opérateurs ont affirmé avoir diffusé en janvier une histoire alléguant qu’une influenceuse et mannequin brésilienne avait été victime de traite vers l’Ukraine par des représentants de l’ambassade d’Ukraine, puis tuée à Kyiv. En juin, ils ont affirmé avoir diffusé un autre faux extrait audio en Bolivie, censé provenir cette fois d’un employé de la Banque centrale de Bolivie, avertissant que la Banque allait limiter les retraits d’espèces. Ils ont également affirmé avoir diffusé une fausse lettre de l’agence des hydrocarbures du pays, annonçant des restrictions sur les ventes de carburant aux voitures particulières.

Dans d’autres rapports, les opérateurs ont demandé à nos modèles de les aider à repérer, dans les pays ciblés, des incidents dont ils pourraient s’attribuer le mérite, même sans y avoir participé. Par exemple, en Argentine, les opérateurs ont affirmé que le ministre argentin des Affaires étrangères avait cité leur opération lors d’une réunion d’un comité des Nations Unies sur les îles Falkland/Malouines. Les opérateurs se sont attribué le mérite d’avoir diffusé les arguments selon lesquels le principe d’autodétermination ne s’applique pas aux îles et le Royaume-Uni y maintient une présence militaire disproportionnée. En réalité, ces deux arguments font partie de la position officielle de l’Argentine depuis de nombreuses⁠(s'ouvre dans une nouvelle fenêtre) années⁠(s'ouvre dans une nouvelle fenêtre). De même, en juin, des médias brésiliens ont rapporté⁠(s'ouvre dans une nouvelle fenêtre) le cas d’un citoyen brésilien qui s’était rendu en Ukraine pour rejoindre l’armée, avait été capturé par les forces russes, puis avait fait une déclaration télévisée affirmant avoir été amené à combattre par la ruse. Les opérateurs utilisant ChatGPT ont tenté de prétendre que ce reportage reprenait les messages de leur opération; en réalité, il citait la vidéo du captif lui-même⁠(s'ouvre dans une nouvelle fenêtre). Cela laisse penser que les opérateurs tentaient de mener une opération d’influence ciblant leurs propres employeurs plutôt qu’un public externe.

Certains rapports des opérateurs faisaient référence à une prétendue « plateforme de recherche » appelée Social Research Center (en russe, Центр социологических исследований). Selon son site Web, le SRC se concentre sur la diaspora indienne en Amérique latine et sur les relations entre l’Inde et les pays de la région.

Les rapports internes laissaient entendre que les opérateurs contrôlaient le groupe de réflexion, plutôt que de simplement collaborer avec lui. Ils évoquaient, par exemple, des décisions d’embauche et de congédiement, des échelles salariales, des plans de dotation et des projets de recherche en cours. Fait crucial, ils indiquaient aussi que les opérateurs avaient créé une identité fictive, nommée « Mia Clark », pour gérer les activités de l’opération sur les médias sociaux et échanger avec le personnel sur le terrain en Amérique latine. Les éléments disponibles laissent penser que ces employés sur le terrain ignoraient totalement qu’ils travaillaient pour une opération russe et effectuaient leurs recherches de bonne foi. Ce recours à des intermédiaires à leur insu ressemble fortement à une opération russe antérieure également liée à l’entourage de Prigojine, « PeaceData », que Meta a dévoilée⁠(s'ouvre dans une nouvelle fenêtre) en 2020.

À en juger par les rapports des opérateurs russes, leur personnel sur le terrain en Amérique latine réalisait des entrevues avec des experts et des commentateurs de toute la région, puis rédigeait des articles de recherche à partir de ses constats. Les sujets allaient d’une vaste analyse de l’opinion publique sur le groupe des BRICS à une comparaison détaillée de l’économie brésilienne sous les présidents Jair Bolsonaro et Luiz Inácio Lula da Silva. Parfois, les opérateurs russes rédigeaient des rapports d’étape sur les projets de recherche avant leur publication, signe d’une participation étroite au processus de production. Nous avons repéré bien plus de 60 articles sur le site Web du SRC, dont la grande majorité semblait être des textes originaux. Cela distingue Dark Clark de l’opération d’origine russe que nous avons récemment dévoilée, qui utilisait aussi un groupe de réflexion comme façade, mais plagiait la plupart de ses contenus; cela suggère une volonté de bâtir une entité de façade plus durable, disposant de contacts dans toute l’Amérique latine.

Pour promouvoir le travail du SRC, les opérateurs russes ont affirmé avoir tenté de créer un réseau de comptes sur les médias sociaux. Selon leurs rapports, ces activités sur les médias sociaux ont rencontré des difficultés lorsque des opérateurs situés dans différentes régions du monde ont tenté d’accéder aux mêmes comptes, entraînant des restrictions. Des traces sont visibles dans les sources ouvertes : par exemple, les renseignements de transparence du compte principal du SRC sur X indiquaient une localisation en Allemagne (peut-être en raison de l’utilisation d’un VPN), mais une connexion par l’App Store de la Fédération de Russie, tandis que ceux d’un de ses comptes Instagram situaient son administration au Venezuela. Aucun des trois comptes Facebook portant l’identité du SRC que nous avons repérés n’avait assez d’abonnés pour que le lieu d’administration soit affiché.

À gauche, compte X lié au Social Research Center. Notez le renseignement de transparence indiquant que le compte s’est connecté par l’App Store de la Fédération de Russie. À droite, compte Instagram du SRC : notez la localisation au Venezuela.

Les opérateurs ont signalé des problèmes particuliers sur LinkedIn, où ils ont dit avoir créé un compte explicitement faux pour représenter le SRC, puis avoir eu du mal à lui bâtir un réseau. Selon leurs rapports, la solution consistait à créer d’autres faux comptes pour suivre le premier et le rendre plus crédible. Au 17 août, un compte LinkedIn portant la même identité du Social Research Center comptait 961 abonnés et revendiquait de 200 à 500 employés, mais n’en répertoriait que deux.

À l’occasion, en plus d’utiliser l’IA pour mettre à jour leurs rapports, les opérateurs demandaient à notre modèle de les aider à concevoir et à créer des textes pour leurs opérations : par exemple, pour s’assurer que leurs faux employaient l’accent, le vocabulaire et le style institutionnel appropriés à chaque pays. Cela représentait une part relativement faible du travail total, peut-être parce que l’opération semble avoir compté au moins une personne d’Amérique latine de langue maternelle espagnole et avait donc moins besoin de l’aide linguistique de l’IA.

Par exemple, un opérateur russophone a un jour demandé au modèle de l’aider à rédiger, en russe, une lettre qui impliquerait le consul honoraire d’Ukraine au Panama dans une affaire de corruption. L’opérateur hispanophone a ensuite demandé au modèle de traduire la lettre en espagnol et de générer un script audio pour l’accompagner. Une photo correspondant au texte de la lettre, accompagnée d’une voix hors champ correspondant au script de l’opérateur, a été publiée sur TikTok par un compte se présentant comme un média, mais utilisant le logo de TVN Noticias⁠(s'ouvre dans une nouvelle fenêtre), au Panama. Le compte TikTok n’avait qu’un seul abonné et a cessé de publier après avoir diffusé ce faux.

Publication TikTok montrant la lettre dont le texte a été généré par cette opération, avec un script de voix hors champ également généré par l’opération.

À une autre occasion, l’opérateur hispanophone en Russie a fourni au modèle un script en russe affirmant que Noboa avait insulté les personnes pauvres en Équateur et lui a demandé de le traduire en espagnol équatorien. Une troisième fois, en mars, le même utilisateur a demandé au modèle de réviser une ébauche de contrat en espagnol entre une entreprise appelée « International Security Solutions FZE » et une personne en Équateur, censée fournir des services d’infrastructure en Ukraine. Les questions de l’utilisateur portaient sur l’amélioration de la langue et de la mise en page, notamment sur les mots à mettre en gras.

Les requêtes de l’utilisateur concernant le contrat ont cessé une fois la formulation finalisée. Cependant, des recherches en sources ouvertes montrent qu’une image du « contrat » a ensuite circulé sur les médias sociaux⁠(s'ouvre dans une nouvelle fenêtre). Elle a servi à étayer l’allégation selon laquelle le gouvernement Noboa avait collaboré avec une société de façade pour amener par la ruse des Équatoriens à se faire recruter dans l’armée ukrainienne. Le faux a suffisamment circulé pour susciter une vérification des faits⁠(s'ouvre dans une nouvelle fenêtre) au début d’avril : les vérificateurs ont conclu que l’entreprise « ne figure pas au registre de la Surintendance des sociétés, des valeurs mobilières et des assurances de l’Équateur ».

L’impact de cette opération exige une évaluation particulièrement prudente. Comme indiqué plus haut, l’une des principales approches des opérateurs consistait à s’attribuer le mérite d’activités sans aucun lien avec leur opération. Leurs propres affirmations sur leur impact dans leurs rapports internes ne peuvent donc pas être prises au pied de la lettre. De même, certaines fausses histoires qu’ils affirmaient avoir diffusées n’ont pas été retrouvées dans les recherches en sources ouvertes, peut-être parce qu’elles avaient circulé dans des canaux non publics, avaient déjà été retirées ou n’avaient jamais été publiées.

Toutefois, des éléments en sources ouvertes nous ont permis de corroborer certaines de leurs affirmations. Certains faux que l’opération affirmait avoir diffusés ont ensuite été signalés par des vérificateurs des faits et démentis par des gouvernements, ce qui laisse penser qu’ils avaient suffisamment circulé pour justifier une réponse. Dans d’autres cas, nous avons pu repérer en ligne du contenu correspondant étroitement à celui généré par cette opération. Fait particulièrement notable, l’affirmation de l’opération selon laquelle elle avait amené par la ruse une école péruvienne à tenir un événement présentant Bandera a ensuite fait l’objet de reportages en Amérique latine et en Europe, et semble avoir suscité les commentaires d’au moins un député polonais au Parlement européen.

Selon l’échelle de propagation⁠(s'ouvre dans une nouvelle fenêtre) des OI, qui les classe de 1 (niveau le plus bas) à 6 (le plus élevé), nous placerions cette opération dans la catégorie 5, les éléments disponibles suggérant qu’elle a suscité des commentaires publics de responsables politiques dans plusieurs pays. Il s’agit de la première opération de catégorie 5 que nous avons perturbée depuis le début de nos rapports.

Opération d’origine iranienne plaçant de longs articles sous de fausses signatures dans des médias d’information en ligne.

Nous avons banni un groupe de comptes ChatGPT provenant d’Iran. Ils formulaient leurs requêtes en persan et généraient du contenu en persan et en anglais. Les acteurs masquaient leur localisation en utilisant des VPN pour accéder à ChatGPT.

L’opération utilisait nos modèles pour peaufiner de longs articles et des propositions éditoriales, générer des commentaires pour les médias sociaux et améliorer des rapports internes. Les opérateurs utilisaient sept signatures différentes pour proposer leurs articles; nous avons donc surnommé leur campagne « Bogus Bylines ». Les longs articles portaient sur le conflit entre les États-Unis et l’Iran. La majorité des commentaires traitaient aussi du conflit; une minorité portait sur la politique américaine, généralement dans le contexte plus large du conflit.

L’impact apparent de leurs principaux volets d’activité variait considérablement. Nous avons repéré près de 100 articles publiés ou repris sous les signatures de l’opération dans environ une douzaine de médias en ligne à travers le monde. Il s’agissait de médias de petite ou moyenne taille, généralement axés sur les affaires internationales, la géopolitique et les événements au Moyen-Orient. En revanche, aucun commentaire sur les médias sociaux ne semble avoir suscité beaucoup de mentions J’aime, de partages ou de réponses. En fait, les rapports internes des opérateurs utilisaient un calcul trompeur pour mesurer leur impact sur les médias sociaux, peut-être dans le but de gonfler leur efficacité apparente.

L’ensemble des activités semblait correspondre à celles d’un acteur commercial menant une campagne d’influence à la demande, mais nous ne sommes pas en mesure d’identifier l’acteur en question. Nous avons communiqué des renseignements sur ce cas aux autorités compétentes.

L’activité de cette opération ayant la plus grande portée consistait à demander à ChatGPT de réviser et de peaufiner de longs articles en anglais sur la géopolitique du conflit entre les États-Unis et l’Iran. Les requêtes types demandaient au modèle d’évaluer une ébauche en anglais selon les critères de soumission d’un média en ligne précis et de proposer des modifications pour la rendre conforme. Une fois les modifications approuvées, les opérateurs demandaient au modèle de générer un courriel pour proposer l’article à la rédaction du média en ligne concerné.

Ces courriels de proposition étaient rédigés sous sept fausses signatures différentes : Ervin B. Hoskins, Noah Lamington, Sophia Gonzalez, Michael Harrison, Ericka Feusier, Jenny Williams et Alice Johnson. Selon les biographies publiées en ligne avec certains de ces articles, chaque identité fictive se présentait comme un journaliste occidental (généralement américain, bien que la biographie de Noah Lamington le situe en Nouvelle-Zélande), souvent spécialisé en politique internationale, au Moyen-Orient, en droits de la personne ou dans les conflits. Pour l’une de ces identités fictives, « Michael Harrison », les opérateurs ont demandé au modèle de rédiger la biographie elle-même. (À noter qu’en mars, Meta a perturbé⁠(s'ouvre dans une nouvelle fenêtre) une opération d’influence iranienne mettant également en scène un journaliste fictif nommé « Michael Harrison ».)

Certaines de ces identités fictives étaient étayées par des comptes sur diverses plateformes de médias sociaux. L’identité fictive Michael Harrison, par exemple, disposait de comptes sur Medium, X et Facebook. L’identité fictive Ervin B. Hoskins possédait des comptes sur X, Facebook, Instagram et Threads. Sa biographie le présentait comme « un rédacteur pigiste américain », mais les renseignements de transparence des médias sociaux situaient ses comptes en Iran.

En haut, biographie Instagram de l’identité fictive Ervin Hoskins. En bas à gauche, renseignements de transparence du compte X, indiquant l’utilisation de l’application Android d’Asie occidentale. En bas à droite, renseignements de transparence du compte Instagram, indiquant une localisation en Iran. Meta a banni le compte Instagram en août.

Grâce à des techniques d’enquête en sources ouvertes, nous avons repéré près de 100 articles publiés sous l’une ou l’autre des signatures des opérateurs dans plus d’une douzaine de publications. Ces publications étaient généralement axées sur les affaires internationales, la géopolitique et les événements au Moyen-Orient, parfois dans une perspective antiguerre ou progressiste. Le premier article repéré a été publié en juillet 2025 et le plus récent, en octobre 2026. La fréquence des articles a fortement augmenté après le déclenchement du conflit entre les États-Unis et l’Iran.

Chronologie des articles, par auteur et par thème, de juillet 2025 à septembre 2026. Notez la densité des publications sur les relations États-Unis–Iran à partir de mars 2026.

Exemples de titres d’articles publiés sous les signatures liées à cette opération entre février et juillet 2026 dans divers médias en ligne.

Au moins certains de ces articles ont ensuite été promus par les comptes de médias sociaux des médias concernés, offrant aux opérateurs iraniens un moyen potentiel d’atteindre des publics autrement hors de leur portée.

En parallèle des articles, les acteurs malveillants ont demandé à ChatGPT de générer des lots de commentaires sur des sujets géopolitiques ou politiques en anglais ou en persan. Leur approche habituelle consistait à fournir le texte ou une capture d’écran d’une publication sur les médias sociaux et à demander au modèle une série de réponses conformes à leur orientation générale. Ces réponses étaient ensuite publiées en ligne, souvent à quelques minutes d’intervalle. Les rapports internes des opérateurs évoquaient des publications manuelles et automatisées; nous n’avons aucun élément indiquant que cette automatisation a été réalisée à l’aide de nos modèles.

Gazouillis en anglais, à gauche, et en persan, à droite, générés par cette opération et publiés en juillet. Les commentaires en anglais répondaient à un gazouillis en anglais avertissant que les États-Unis préparaient une « attaque de grande envergure » contre l’Iran. Tous les commentaires de cette image ont été publiés en l’espace de 10 minutes. Les commentaires en persan répondaient à un gazouillis en persan sur les frappes américaines contre l’Iran et ont été publiés en l’espace de 13 minutes.

Une partie de cette activité de commentaires par lots consistait à générer des réponses à des publications sur les médias sociaux portant sur les propres articles de l’opération. Les opérateurs fournissaient alors des captures d’écran de publications faisant la promotion de leurs articles, puis généraient des commentaires élogieux ou favorables, probablement pour donner l’impression que ces articles étaient plus populaires.

Publication Facebook d’une page d’actualités locales américaines partageant un article généré par l’opération, et commentaires générés par l’opération sous cette publication.

La majorité des lots de commentaires portaient plus généralement sur le conflit entre l’Iran, les États-Unis et Israël. Les utilisateurs demandaient des commentaires sur des sujets comme les frappes de missiles, les cessez-le-feu et les manœuvres diplomatiques, en précisant qu’ils devaient présenter les États-Unis comme l’agresseur, Israël comme un allié peu fiable des États-Unis et l’Iran comme une victime combative, mais résiliente. Les opérateurs ont généré un nombre particulièrement élevé de réponses aux publications d’Iran International, une chaîne satellitaire basée au Royaume-Uni et critique du régime iranien, produisant plus de deux douzaines de lots de réponses hostiles en persan. Une minorité des lots contenaient des réponses à des publications sur les médias sociaux concernant la politique américaine, généralement aussi dans le contexte plus large du conflit.

Commentaires Instagram générés par cette opération en réponse à des publications sur la politique américaine.

Nous avons repéré un petit nombre de ces réponses publiées en ligne; beaucoup d’autres n’apparaissaient pas dans nos recherches en sources ouvertes, peut-être parce qu’elles n’avaient pas été publiées ou qu’elles l’avaient été par des comptes déjà supprimés. (Par exemple, trois identités fictives de journalistes — Ericka Feusier, Alice Johnson et Jenny Williams — indiquaient des identifiants X dans leurs biographies publiées : tous ces comptes avaient été suspendus en date d’août 2026.) Certains comptes ayant publié des commentaires en ligne portaient des noms à consonance occidentale, mais étaient situés en Iran selon leurs renseignements de localisation.

Renseignements de transparence des comptes Instagram ayant publié les commentaires illustrés ci-dessus, montrant qu’ils étaient situés en Iran.

Lorsque nous avons trouvé ces réponses en ligne, elles représentaient généralement une minorité des commentaires sous la publication concernée, ce qui suggère que les opérateurs n’avaient pas une voix dominante parmi les réponses authentiques. Elles ne semblaient pas non plus avoir suscité beaucoup d’interactions : en effet, bon nombre des mentions J’aime reçues provenaient de comptes eux-mêmes liés à l’opération. Nous avons communiqué des renseignements sur ce cas à des partenaires du secteur, qui sont les mieux placés pour fournir des évaluations globales des interactions.

La tentative de donner à leurs activités une apparence de popularité accrue ne se limitait pas aux publications publiques. En parallèle de la génération de contenu, les opérateurs demandaient parfois à ChatGPT de peaufiner ce qui semblait être des rapports internes sur leur campagne dans les médias sociaux. Ils fournissaient généralement au modèle une série de statistiques et lui demandaient d’en faire des présentations soignées.

Ce n’est pas la première opération que nous avons perturbée qui utilisait l’IA pour rédiger sa propre⁠(s'ouvre dans une nouvelle fenêtre) autoévaluation⁠(s'ouvre dans une nouvelle fenêtre). Ce qui frappait le plus dans les efforts d’autoévaluation des opérateurs iraniens, c’était la méthode employée. Leur principal indicateur d’« impact » était le nombre de vues des publications auxquelles ils répondaient (et non celui des réponses elles-mêmes), compté avant la publication des réponses, puis après un délai non précisé. Ce calcul ne tenait pas compte des vues pouvant résulter d’autres facteurs, comme la popularité des publications d’origine ou d’autres commentaires. Il exagérait donc fortement les chiffres d’impact de l’opération, ce qui laisse penser que les opérateurs ne connaissaient pas de méthode de calcul plus efficace ou avaient choisi de ne pas l’utiliser.

En réalité, d’après les éléments tirés de l’observation en sources ouvertes, les deux principaux volets de l’opération semblent avoir eu des degrés d’impact probable très différents.

Les réponses sur les médias sociaux que nous avons pu repérer obtenaient généralement peu de mentions J’aime, de vues et de commentaires (des nombres à un ou deux chiffres). Comme indiqué plus haut, les réponses représentaient généralement une minorité des commentaires sous la publication concernée. Selon l’échelle de propagation⁠(s'ouvre dans une nouvelle fenêtre) des OI, qui les classe de 1 (niveau le plus bas) à 6 (le plus élevé), nous placerions ce volet de l’opération dans la catégorie 2, avec des commentaires sur plusieurs plateformes, mais peu de signes de propagation au-delà de ses propres comptes ou de capacité à dominer les réponses.

En revanche, les identités fictives de journalistes ont réussi à faire publier leurs articles dans divers médias, dont certains avaient un nombre important d’abonnés : par exemple, l’un des médias en ligne ayant publié les articles de cette opération comptait près de 2 millions d’abonnés sur Facebook, près de 355 000 sur X et plus de 544 000 sur Instagram en août 2026. Nous placerions ce volet de l’opération dans la catégorie 4, en raison de sa propagation régulière à plusieurs médias.