Operation »Doppelganger«: Russisk påvirkningsaktivitet rettet mod Ukraine
OpenAI udelukkede konti med tilknytning til den russiske operation »Doppelganger«, som brugte AI til at generere Ukraine-fjendtlige kommentarer til sociale medier, oversættelser og webtekst på flere sprog.
Denne casestudie blev oprindeligt udgivet i OpenAI’s rapport fra maj 2024(åbner i et nyt vindue).
Aktør
Vi udelukkede fire grupper af konti, som brugte vores modeller og var knyttet til personer, der handlede på vegne af den russiske påvirkningsoperation kendt som »Doppelganger«(åbner i et nyt vindue). Hver gruppe benyttede forskellige taktikker, teknikker og procedurer (TTP'er), hvilket stemmer overens med en operation bestående af forskellige funktionelle teams.
Adfærd
Aktiviteten var rettet mod målgrupper i Europa og Nordamerika og fokuserede på at generere indhold til websteder og sociale medier.
Den første gruppe af konti genererede korte tekstkommentarer på engelsk, fransk, tysk, italiensk og polsk. De blev slået op på 9GAG og X sammen med memes, videoer og links, som ikke ser ud til at være genereret med vores modeller. Nogle memes var kopieret fra forskellige steder på internettet og så ud til at være flere år gamle.
På 9GAG havde de konti, der slog kampagnens indhold op, typisk profilbilleder af kendte personer eller katte. De slog deres memes og videoer op i mange forskellige kanaler, herunder kanalen »Tilfældigt« og kanaler om kæledyr, sport, humor og endda parforhold og dating.
Kommentar om Ukraine og video om Gaza, slået op i 9GAGs kanal »Motorkøretøjer« af en konto, som gentagne gange slog indhold genereret af denne kampagne op. Henvisningen til Ukraine og grænsen til USA blev genereret med vores modeller. Videoen var en collage af nyhedsoptagelser. Opslaget fik 11 positive og 93 negative stemmer.
Hver gang kampagnen slog et meme eller en video op på 9GAG, svarede tre til fem konti, som regel med enkle beskeder såsom »hahaha« eller »lol«. Alle disse konti interagerede udelukkende med kampagnens indhold, og de fleste blev oprettet på samme dato. Denne adfærd tiltrak ofte kritiske kommentarer fra andre brugere, hvoraf mange afslørede kontiene som »bots«.
Kommentarer til videoen vist ovenfor. De tre nederste konti (de første kommentatorer) blev alle oprettet i slutningen af april 2024 og slog gentagne gange denne kampagnes opslag op, stemte på dem eller kommenterede dem – og ingen andre. De tre øverste konti, som afslørede de falske konti, blev oprettet for mellem et og ti år siden og udviste en bred vifte af aktivitet.
På X blev kampagnens kommentarer slået op af konti, som typisk kun havde lavet et eller to opslag hver. Kommentarerne blev som regel ledsaget af et tilsyneladende tilfældigt link såsom »solarpanelfor.sale«. Disse links omdirigerede til en række websteder, som gentagne gange er blevet tilskrevet Doppelganger. Webstederne var geografisk afgrænset, så kun personer med en IP-adresse i mållandet kunne se dem. Operatørerne ser dog ud til at have begået en fejl, så nogle engelske, tyske og polske artikler kun kunne ses fra en fransk IP-adresse.
Opslag på X med en kommentar genereret med vores modeller. Kommentaren lyder: »En chokerende handling! Politik bør aldrig forbindes med vold. Vi har brug for dialog, ikke vold.« Det tilhørende link omdirigerer til den tysksprogede udgave af Doppelgangers brandede websted, rrn.media. Den 20. maj kunne det dog kun ses fra en fransk IP-adresse.
Sandsynligvis for at undgå at blive opdaget tilgik denne gruppe vores modeller via en tjeneste med tilknytning til virksomheder i Rusland og Tjekkiet. Tjenesten skulle gøre det muligt for personer i Rusland at omgå vores adgangspolitik for understøttede lande(åbner i et nyt vindue). Vi har deaktiveret tjenestens API-adgang.
Den anden gruppe oversatte artikler fra russisk til engelsk og fransk. De russiske tekster ser ud til at have været originale værker. Mange af disse artikler blev efterfølgende udgivet på et websted, som gentagne gange er blevet tilskrevet Doppelganger: rrn.media. Den samme gruppe genererede korte kommentarer om sine artikler, som senere blev vist på sociale medier.
Opslag på X genereret med vores modeller sammen med et link til en artikel på rrn.media.
Den tredje gruppe blev brugt til at generere, korrekturlæse og rette fransksprogede artikler. Artiklerne blev derefter udgivet på et websted, som også er blevet tilskrevet Doppelganger, franceeteu.today.
Den sidste gruppe opererede på tysk. Den indlæste indhold fra et Doppelganger-websted, grenzezank.com, og brugte det til at generere korte opslag til en Facebook-gruppe og -side opkaldt efter webstedet.
Indhold
Størstedelen af det indhold, som kampagnen udgav online, handlede om krigen i Ukraine. Det fremstillede Ukraine, USA, NATO og EU negativt og Rusland positivt. Typiske kommentarer hævdede, at Rusland er en vigtig økonomisk partner for europæiske lande, at vestlige ledere, som kritiserer Rusland, har mistet forbindelsen til deres egne vælgere, og at Ukraine er svagt, korrupt og/eller på randen af nederlag.
I nogle tilfælde forsøgte Doppelganger-aktører at få vores modeller til at generere karikaturer af fremtrædende europæiske politikere og kritikere af Rusland. Vores modeller afviste disse anmodninger.
Konsekvensvurdering
Ingen af de identificerede Doppelganger-kampagner ser ud til at have opnået væsentlig positiv interaktion fra autentiske målgrupper.
På 9GAG fik typiske opslag 5-10 positive stemmer – hovedsageligt fra konti, der også slog kampagnens indhold op – og mellem 15 og 200 negative stemmer. På X havde typiske opslag omkring 1.000 delinger, ingen svar og ingen likes. Forskellen er så stor, at den tyder på uautentisk forstærkning. Ét opslag fik tre svar, som alle udpegede det som falsk.
Svar på X til et Doppelganger-opslag.
Ved at bruge Breakout-skalaen(åbner i et nyt vindue) til at vurdere påvirkningsoperationers effekt, hvor de bedømmes på en skala fra 1 (lavest) til 6 (højest), vurderer vi den aktivitet, der var knyttet til brugen af vores modeller, til kategori 2. Den er kendetegnet ved opslag på flere platforme, men uden gennembrud eller betydelig publikumsinteraktion på nogen af dem.