Opération « Doppelganger » : activité d’influence russe ciblant l’Ukraine
OpenAI a banni des comptes associés à l’opération d’origine russe « Doppelganger », qui utilisait l’IA pour générer en plusieurs langues des commentaires anti-Ukraine, des traductions et des textes web.
Cette étude de cas a été publiée initialement dans le rapport de mai 2024(ouverture dans une nouvelle fenêtre) d’OpenAI.
Acteur
Nous avons banni quatre groupes de comptes utilisant nos modèles, liés à des personnes agissant pour le compte de l’opération d’influence russe appelée « Doppelganger »(ouverture dans une nouvelle fenêtre). Chaque groupe employait des tactiques, techniques et procédures (TTP) différentes, ce qui correspond à une opération composée de plusieurs équipes fonctionnelles.
Comportement
Cette activité ciblait des publics en Europe et en Amérique du Nord et visait principalement à générer du contenu pour des sites web et les réseaux sociaux.
Le premier groupe de comptes générait de courts commentaires en anglais, en français, en allemand, en italien et en polonais. Ils étaient publiés sur 9GAG et X avec des mèmes, des vidéos et des liens qui ne semblent pas avoir été générés à l’aide de nos modèles. Certains mèmes avaient été copiés sur Internet et semblaient dater de plusieurs années.
Sur 9GAG, les comptes qui publiaient le contenu de cette campagne affichaient généralement des photos de profil de célébrités ou de chats. Ils publiaient leurs mèmes et vidéos dans de nombreuses rubriques, notamment « Random », ainsi que dans des rubriques consacrées aux animaux de compagnie, au sport, à l’humour, voire aux relations et aux rencontres.
Commentaire sur l’Ukraine et vidéo sur Gaza, publiés dans la rubrique « Motor Vehicles » de 9GAG par un compte qui diffusait régulièrement du contenu généré par cette campagne. La référence à l’Ukraine et à la frontière américaine a été générée à l’aide de nos modèles. La vidéo était un montage d’images d’actualité. La publication a reçu 11 votes positifs et 93 votes négatifs.
Chaque fois que la campagne publiait un mème ou une vidéo sur 9GAG, trois à cinq comptes répondaient, généralement par de simples messages tels que « hahaha » ou « mdr ». Chacun de ces comptes interagissait exclusivement avec le contenu de cette campagne ; la plupart avaient été créés le même jour. Ce comportement suscitait souvent des commentaires critiques d’autres utilisateurs, dont beaucoup dénonçaient ces comptes comme des « bots ».
Commentaires sur la vidéo illustrée ci-dessus. Les trois comptes du bas, auteurs des premiers commentaires, avaient tous été créés fin avril 2024 et publiaient, approuvaient ou commentaient régulièrement les publications de cette campagne, à l’exclusion de toute autre. Les trois comptes du haut, qui dénonçaient les faux, avaient été créés entre un et dix ans auparavant et affichaient des activités très diverses.
Sur X, les commentaires de la campagne étaient publiés par des comptes qui ne publiaient généralement qu’un ou deux messages chacun. Les commentaires étaient généralement accompagnés d’un lien apparemment aléatoire, tel que « solarpanelfor.sale ». Ces liens redirigeaient vers un ensemble de sites web attribués à plusieurs reprises à Doppelganger. Les sites web étaient géorestreints, si bien que seules les personnes disposant d’une adresse IP dans le pays ciblé pouvaient les consulter. Toutefois, les opérateurs semblent avoir commis une erreur : certains articles en anglais, en allemand et en polonais n’étaient accessibles que depuis une adresse IP française.
Publication sur X comprenant un commentaire généré à l’aide de nos modèles. Le commentaire signifie : « Un acte choquant ! La politique ne devrait jamais être associée à la violence. Nous avons besoin de dialogue, pas de violence ». Le lien associé redirige vers l’édition en allemand du site de marque de Doppelganger, rrn.media. Toutefois, au 20 mai, elle n’était accessible que depuis une adresse IP française.
Probablement pour échapper à la détection, ce groupe accédait à nos modèles au moyen d’un service lié à des entreprises en Russie et en République tchèque. Ce service visait à permettre aux personnes en Russie de contourner notre politique d’accès des pays pris en charge(ouverture dans une nouvelle fenêtre). Nous avons désactivé l’accès de ce service à l’API.
Le deuxième groupe traduisait des articles du russe vers l’anglais et le français ; les textes russes semblent avoir été des créations originales. Beaucoup de ces articles ont ensuite été publiés sur un site web attribué à plusieurs reprises à Doppelganger : rrn.media. Le même groupe générait de courts commentaires sur ses articles, qui apparaissaient ensuite sur les réseaux sociaux.
Publication sur X générée à l’aide de nos modèles, accompagnée d’un lien vers un article sur rrn.media.
Le troisième groupe servait à générer, relire et corriger des articles en français. Les articles étaient ensuite publiés sur un site web également attribué à Doppelganger, franceeteu.today.
Le dernier groupe opérait en allemand. Il ingérait du contenu provenant d’un site web de Doppelganger, grenzezank.com, et l’utilisait pour générer de courtes publications destinées à un groupe et à une page Facebook portant le nom du site.
Contenu
La majeure partie du contenu publié en ligne par cette campagne portait sur la guerre en Ukraine. Elle présentait l’Ukraine, les États-Unis, l’OTAN et l’UE sous un jour négatif, et la Russie sous un jour positif. Les commentaires habituels affirmaient que la Russie était un partenaire économique important pour les pays européens, que les dirigeants occidentaux critiquant la Russie étaient déconnectés de leurs propres électeurs et que l’Ukraine était faible, corrompue et/ou au bord de la défaite.
À plusieurs reprises, des acteurs de Doppelganger ont tenté de faire générer par nos modèles des caricatures de personnalités politiques européennes et de détracteurs de la Russie. Nos modèles ont refusé ces demandes.
Évaluation de l’impact
Aucune des campagnes Doppelganger que nous avons identifiées ne semble avoir suscité un engagement positif important auprès de publics authentiques.
Sur 9GAG, les publications habituelles recevaient 5 à 10 votes positifs, principalement de comptes qui publiaient également le contenu de cette campagne, et entre 15 et 200 votes négatifs. Sur X, les publications habituelles comptaient environ 1 000 partages, aucune réponse et aucun J’aime. Cet écart est si important qu’il laisse supposer une amplification inauthentique. Une publication a reçu trois réponses, qui la dénonçaient toutes comme fausse.
Réponse sur X à une publication de Doppelganger.
En utilisant l’échelle Breakout(ouverture dans une nouvelle fenêtre) pour évaluer l’impact des opérations d’influence, qui les classe de 1 (niveau le plus faible) à 6 (niveau le plus élevé), nous placerions l’activité liée à l’utilisation de nos modèles dans la catégorie 2, caractérisée par des publications sur plusieurs plateformes, mais sans percée ni engagement notable du public sur aucune d’entre elles.