Opération « A2Z » : activité d’influence multilingue

Cette étude de cas a été publiée initialement dans le rapport d’octobre 2024⁠(ouverture dans une nouvelle fenêtre) d’OpenAI.

Nous avons banni un groupe de comptes jusqu’alors inconnu qui utilisait notre API pour créer des commentaires ensuite publiés sur X et Facebook. Nombre de ces commentaires faisaient l’éloge de l’Azerbaïdjan ou défendaient son bilan en matière de droits humains, mais l’opération abordait aussi de nombreux autres sujets, ce qui pourrait indiquer une activité menée à des fins commerciales. Compte tenu de la fréquence à laquelle il faisait l’éloge de l’Azerbaïdjan et de sa tentative d’utiliser l’IA à plusieurs étapes de l’opération, nous avons baptisé ce réseau « A2Z ».

À l’instar de l’opération russophone sur Telegram que nous avons révélée en mai et baptisée « Bad Grammar », cette opération a utilisé nos modèles pour publier des commentaires sur les réseaux sociaux. Elle s’est servie de l’IA pour gérer de faux profils sur les réseaux sociaux, générer des biographies, analyser des publications et des commentaires, rédiger des réponses dans de nombreuses langues et les relire. Les réponses étaient ensuite publiées sur X ou Facebook. La plupart des contenus prenaient la forme de courts commentaires, mais comprenaient aussi des images stylisées. Celles-ci reprenaient souvent le style des affiches des années 1930 : elles semblaient donc conçues pour attirer l’attention et susciter l’engagement plutôt que pour tromper. Toutefois, les publications habituelles contenant ces images stylisées n’ont reçu que 0 à 5 interactions chacune.

Cette utilisation de l’IA a permis à l’opération de gérer simultanément de nombreux comptes sur les réseaux sociaux : nous avons identifié environ 150 comptes sur X et Facebook correspondant à cette activité, auxquels s’ajoutent d’autres comptes suspects. Elle a aussi permis à l’opération d’intervenir parfois dans des fils de commentaires avec de vraies personnes sur Internet. Nous avons parfois observé de brèves conversations entre de vraies personnes et les faux comptes, dont les réponses étaient générées à l’aide de nos modèles.

Avant l’IA, une opération de cette ampleur aurait probablement nécessité une grande équipe de trolls, avec tous les coûts et risques de fuite associés à une telle entreprise. Toutefois, la dépendance de cette opération à l’IA l’a aussi rendue exceptionnellement vulnérable à notre intervention. Comme elle exploitait l’IA à de nombreux maillons de la chaîne d’attaque, notre intervention a rompu plusieurs de ces maillons simultanément. Après notre interruption de cette activité début juin, les comptes de réseaux sociaux que nous avions identifiés comme faisant partie de cette opération ont cessé de publier pendant toutes les périodes électorales dans l’UE, au Royaume-Uni et en France. Certains ont repris leurs publications fin août. Un petit nombre de leurs publications présentaient des signes indiquant qu’elles avaient probablement été générées par l’IA. Les contenus présentant de tels signes ne provenaient pas de nos modèles.

Cette campagne a généré de courts commentaires portant sur un large éventail de thèmes politiques. Le thème le plus important était l’éloge du gouvernement azerbaïdjanais et de son rôle dans la politique nationale, régionale et internationale, par exemple la promotion de l’unité entre les pays d’Asie centrale ou l’accueil de la Conférence des Nations Unies sur les changements climatiques. Des comptes en anglais et en italien ont salué le rôle de l’Azerbaïdjan comme fournisseur d’énergie de l’Europe, parfois en réponse aux critiques visant le bilan du gouvernement azerbaïdjanais en matière de droits humains.

D’autres volets de l’activité portaient sur les avantages et l’évolution de l’IA, les marchés financiers, les enjeux écologiques, les cryptomonnaies et, plus généralement, la technologie. Un groupe se concentrait sur les Émirats arabes unis, présentés comme une destination stable pour les investissements, souvent par opposition à des affirmations sur l’instabilité politique aux États-Unis.

Certains faux profils se concentraient sur la politique en Europe ou aux États-Unis. L’orientation idéologique de cette activité variait d’une région à l’autre. Par exemple, un compte X axé sur les États-Unis se présentait comme libéral et critiquait l’ancien président américain Trump, tandis que certains comptes Facebook publiant en français critiquaient le président Macron et soutenaient le Rassemblement national (RN). Ces critiques portaient parfois sur des questions nationales pour affirmer que le pays concerné ne devait pas intervenir dans les affaires internationales, notamment l’invasion de l’Ukraine par la Russie.

Cette opération était très active sur Facebook et X, avec probablement des centaines de comptes. Sur X, certains de ses comptes affichaient la coche bleue de la vérification payante. Parmi les quelque 150 comptes échantillonnés sur les deux plateformes, aucun n’avait un nombre important d’abonnés : le plus grand nombre observé sur X pendant notre enquête était de 222 abonnés, les chiffres habituels allaient d’une quinzaine à un peu plus de vingt, et les publications ordinaires sur X recevaient moins de dix interactions. De même, le nombre maximal de réactions à une publication Facebook observé pendant notre enquête était de 36, les chiffres habituels se situant entre 0 et 5. Nous avons toutefois relevé quelques cas où les publications de l’opération ont suscité des réponses de personnes réelles. Celles-ci n’étaient pas toujours positives et comprenaient parfois des personnes réelles contredisant les faux comptes, mais elles témoignent d’une certaine capacité à mobiliser des publics sur plusieurs plateformes, dans plusieurs langues et sur plusieurs sujets.

Selon la Breakout Scale, qui évalue l’impact des opérations d’influence sur une échelle de 1 (minimum) à 6 (maximum), nous situerions cette opération dans le haut de la catégorie 2, avec un risque de passage en catégorie 3 : elle se caractérisait par des publications sur plusieurs plateformes et par certains signes d’interaction de personnes réelles avec ses contenus. Toutefois, après avoir interdit à cette opération d’utiliser nos modèles et partagé des informations avec d’autres acteurs du secteur, les comptes de réseaux sociaux que nous avions identifiés sont restés silencieux pendant plusieurs semaines. Cette opération met ainsi en évidence les capacités accrues que l’utilisation de l’IA peut apporter aux opérateurs, mais aussi leur vulnérabilité accrue aux perturbations en raison de leur dépendance à un modèle d’IA.