Opération « Doppelganger » : activité d’influence russe ciblant l’Ukraine

Cette étude de cas a été publiée initialement dans le rapport de mai 2024⁠(s'ouvre dans une nouvelle fenêtre) d’OpenAI.

Nous avons banni quatre groupes de comptes utilisant nos modèles, liés à des personnes agissant pour le compte de l’opération d’influence russe appelée « Doppelganger »⁠(s'ouvre dans une nouvelle fenêtre). Chaque groupe employait des tactiques, techniques et procédures (TTP) différentes, ce qui correspond à une opération composée de diverses équipes fonctionnelles.

Cette activité ciblait des publics en Europe et en Amérique du Nord et visait à générer du contenu pour des sites Web et les médias sociaux.

Le premier groupe de comptes a généré de courts commentaires en anglais, en français, en allemand, en italien et en polonais. Ils ont été publiés sur 9GAG et X avec des mèmes, des vidéos et des liens qui ne semblent pas avoir été générés à l’aide de nos modèles. Certains mèmes avaient été copiés ailleurs sur Internet et semblaient dater de plusieurs années.

Sur 9GAG, les comptes qui publiaient le contenu de cette campagne affichaient généralement des photos de profil de célébrités ou de chats. Ils publiaient leurs mèmes et leurs vidéos dans de nombreuses chaînes, notamment « Random » ainsi que des chaînes consacrées aux animaux, aux sports, à l’humour et même aux relations et aux rencontres.

Chaque fois que la campagne publiait un mème ou une vidéo sur 9GAG, de trois à cinq comptes répondaient, généralement par de simples messages comme « hahaha » ou « lol ». Chacun de ces comptes interagissait uniquement avec le contenu de cette campagne; la plupart avaient été créés à la même date. Ce comportement suscitait souvent des commentaires critiques d’autres utilisateurs, dont beaucoup dénonçaient les comptes comme étant des « robots ».

Sur X, les commentaires de la campagne étaient publiés par des comptes qui ne faisaient généralement qu’une ou deux publications chacun. Les commentaires étaient généralement accompagnés d’un lien apparemment aléatoire, comme « solarpanelfor.sale ». Ces liens redirigeaient vers un ensemble de sites Web qui ont été attribués à plusieurs reprises à Doppelganger. Les sites Web étaient géorestreints, de sorte que seules les personnes ayant une adresse IP dans le pays ciblé pouvaient les consulter. Toutefois, les opérateurs semblent avoir commis une erreur, puisque certains articles en anglais, en allemand et en polonais n’étaient accessibles que depuis une adresse IP française.

Probablement pour éviter d’être détecté, ce groupe a accédé à nos modèles au moyen d’un service lié à des entreprises en Russie et en République tchèque. Ce service visait à permettre aux personnes en Russie de contourner notre politique d’accès des pays pris en charge⁠(s'ouvre dans une nouvelle fenêtre). Nous avons désactivé l’accès de ce service à l’API.

Le deuxième groupe traduisait des articles du russe vers l’anglais et le français; les textes russes semblent être des compositions originales. Bon nombre de ces articles ont ensuite été publiés sur un site Web attribué à plusieurs reprises à Doppelganger : rrn.media. Le même groupe a généré de courts commentaires sur ses articles, qui sont ensuite parus sur les médias sociaux.

Le troisième groupe servait à générer, à relire et à corriger des articles en français. Les articles ont ensuite été publiés sur un site Web également attribué à Doppelganger, franceeteu.today.

Le dernier groupe opérait en allemand. Il a ingéré du contenu d’un site Web de Doppelganger, grenzezank.com, et l’a utilisé pour générer de courtes publications destinées à un groupe et à une page Facebook portant le nom du site Web.

La majorité du contenu que cette campagne a publié en ligne portait sur la guerre en Ukraine. Elle présentait l’Ukraine, les États-Unis, l’OTAN et l’UE de façon négative, et la Russie de façon positive. Des commentaires typiques affirmaient que la Russie est un partenaire économique important pour les pays européens; que les dirigeants occidentaux qui critiquent la Russie sont déconnectés de leurs propres électeurs; et que l’Ukraine est faible, corrompue ou au bord de la défaite.

À quelques reprises, des acteurs de Doppelganger ont tenté d’amener nos modèles à générer des caricatures d’éminents politiciens européens et de critiques de la Russie. Nos modèles ont refusé ces demandes.

Aucune des campagnes de Doppelganger que nous avons repérées ne semble avoir suscité un engagement positif important de la part de publics authentiques.

Sur 9GAG, les publications typiques recevaient de 5 à 10 votes positifs — principalement de comptes qui publiaient aussi le contenu de cette campagne — et de 15 à 200 votes négatifs. Sur X, les publications typiques comptaient environ 1 000 partages, aucune réponse et aucune mention J’aime. Cet écart est si grand qu’il suggère une amplification non authentique. Une publication a reçu trois réponses, qui la dénonçaient toutes comme fausse.

Selon l’échelle Breakout⁠(s'ouvre dans une nouvelle fenêtre), qui évalue l’impact des opérations d’influence sur une échelle de 1 (le plus faible) à 6 (le plus élevé), l’activité liée à l’utilisation de nos modèles se situait dans la catégorie 2, caractérisée par des publications sur plusieurs plateformes, mais sans percée ni engagement important du public sur aucune d’elles.