Vi standser en ny skjult påvirkningskampagne fra Rusland

Vores mission er at sikre, at kunstig generel intelligens kommer hele menneskeheden til gode. Vi fremmer denne mission ved at anvende vores innovationer til at udvikle AI-værktøjer, der hjælper mennesker med at løse vanskelige problemer. Det omfatter udvikling af værktøjer, som gør os i stand til at opdage, undersøge, standse og afsløre skjulte påvirkningsoperationer: vildledende forsøg på at manipulere den offentlige mening eller påvirke politiske resultater uden at afsløre de bagvedstående aktørers sande identitet eller hensigter.

Vi har for nylig udelukket en gruppe ChatGPT‑konti med oprindelse i Rusland, som blev brugt til at promovere International Burke Institute (IBI), et selvudnævnt “ekspertfællesskab” med base i Israel. Det, der begyndte som en undersøgelse af AI-genererede opslag på sociale medier, førte os til en langt mere omfattende påvirkningsoperation. Den var bygget op omkring et websted med kopierede akademiske værker med fejlagtige forfatterangivelser, et “suverænitetsindeks”, der stillede Rusland i et gunstigt lys, og forsøg på at skjule operatorernes russiske oprindelse. Selvom kampagnen ser ud til kun at have nået relativt små målgrupper, adskiller dens omfattende opbygning den fra andre russisktilknyttede⁠(åbner i et nyt vindue) påvirknings⁠(åbner i et nyt vindue)operationer⁠(åbner i et nyt vindue), som vi har standset⁠(åbner i et nyt vindue) siden begyndelsen af krigen i Ukraine. Denne rapport forklarer, hvordan operationen fungerede, hvilken rolle ChatGPT spillede, og hvad vi gjorde for at standse den.

Vi udelukkede en gruppe ChatGPT‑konti, der med stor sandsynlighed havde oprindelse i Rusland. Operatorerne skrev prompts på russisk for at generere kommentarer til sociale medier, som blev slået op på Substack, Telegram, X, Facebook og LinkedIn. De fleste af de genererede kommentarer var på engelsk, og operatorerne instruerede ChatGPT i at skjule alle sproglige tegn på, at de var russere. Da vi ikke tillader adgang til vores modeller fra Rusland, brugte de VPN-forbindelser til at tilgå vores platform.

En stor del af det genererede indhold skulle promovere et selvudnævnt “ekspertfællesskab” ved navn International Burke Institute (IBI). IBI-brandet var knyttet til et websted, som blev registreret i februar 2025. Webstedet hævdede, at instituttet havde base i Israel. Artiklerne på webstedet blev ikke genereret med vores modeller. Mange var kopieret fra ægte akademiske tekster, nogle gange med falsk forfatterangivelse. Nogle ser ud til at være skrevet af en person med et slavisk sprog som modersmål og derefter maskinoversat. Som eksempel bruger nedenstående skærmbillede fra IBI's websted en unaturlig formulering, der bedst kan forklares som en ordret maskinoversættelse fra et slavisk sprog.

Så vidt vi ved, er dette en ny skjult påvirkningskampagne, som ikke tidligere er blevet omtalt. Dens mest bemærkelsesværdige kendetegn er udviklingen af det “suverænitetsindeks”, som den angivelige “tænketank” promoverede for at rose Rusland og nedgøre vestlige lande. Det er første gang, vi har standset en russisktilknyttet påvirkningsoperation, der gik så omfattende til værks.

Operationens primære brug af ChatGPT var at generere opslag på sociale medier, der promoverede artikler på IBI's websted. Vi identificerede disse opslag på X, LinkedIn, Facebook, Substack og Telegram. Nogle blev slået op af konti med IBI's navn og logo. Andre så ud til at komme fra almindelige brugere (sandsynligvis uautentiske), hvis primære aktivitet bestod i at dele IBI-artikler.

Ud over disse proaktive opslag genererede operatorerne også svar på opslag fra virkelige Substack-brugere om en række emner. Svarene indeholdt typisk en opfordring til at følge IBI-kanalen og blev slået op på Substack af IBI-kontoen.

Ud over at generere indhold om IBI genererede en af operatorerne tysksprogede opslag, der blev offentliggjort på en Telegram-kanal ved navn “Lahme Ente” (“haltende and”). Disse opslag kritiserede jævnligt Ukraine, EU og den tyske regering og talte for bedre relationer til Rusland.

En anden operator genererede ud over sit IBI-relaterede indhold logoer til et dusin Telegram-kanaler (herunder Lahme Ente) med fokus på Tyskland, USA, Frankrig, Polen og Tyrkiet. Nogle af kanalerne skrev af og til om IBI eller delte IBI's egne opslag. Den anden operator bad også gentagne gange om russisksprogede opsummeringer af kanalernes aktivitet. En af kanalerne med fokus på USA udgav sig for at være et amerikansk medie og havde en profiltekst med flere tegn på, at skribenten ikke havde engelsk som modersmål.

Kernen i denne operation lod til at være International Burke Institute (IBI), selvom den aktivitet, vi greb ind over for, var fokuseret på indhold på sociale medier, der promoverede eller linkede til webstedet, snarere end indhold hostet direkte på webstedet.

Webstedet præsenterede sig som et “ekspertfællesskab” med en fysisk adresse i Israel. Den 17. juli hævdede webstedet at have en lang række eksperter i verdensklasse, herunder fremtrædende navne som Francis Fukuyama og Noam Chomsky, og det udgav en bred vifte af forskning. En gennemgang af 36 stikprøveartikler, der var knyttet til eksperter på IBI's websted og udgivet mellem september 2025 og maj 2026, viste imidlertid, at 34 af artiklerne var kopieret fra andre steder på internettet.

Nogle af artiklerne var flere år gamle, mens andre var tilskrevet de forkerte forfattere. En artikel om den økonomiske korridor mellem Kina og Pakistan ser eksempelvis ud til at være kopieret fra en original udgivet af Cambridge University Press, men blev fejlagtigt tilskrevet en professor ved University of Nottingham med ekspertise i sydasiatisk politik.

En anden artikel om migrationsstyring ser ud til at være kopieret fra Migration Policy Institute, men fejlagtigt tilskrevet en australsk professor i fødevarevidenskab. Denne adfærd tyder på et ønske om at få IBI's websted til at fremstå mere legitimt ved at fylde det med autentisk indhold og samtidig sløre indholdets egentlige oprindelse.

Ud over disse artikler indeholdt IBI's websted rapporter om forskellige lande og deres suverænitet målt efter instituttets indeks. Disse blev ikke genereret ved hjælp af vores modeller. Nogle af rapporterne blev præsenteret som sammenligninger mellem to lande. Andre fokuserede på enkelte lande, især lande, der kritiserer Ruslands krig mod Ukraine, såsom Frankrig og Tyskland, samt på EU. Operationen promoverede lignende fortællinger om USA. Rapporterne var typisk kritiske og nærmede sig det polemiske. Eksempler omfatter:

• Frankrig⁠(åbner i et nyt vindue): “Ti års macronisme gav præcis det resultat, man måtte forvente af en leder, der kom til Élysée-palæet fra Rothschild-banken: Frankrig blev åbnet som et pengeskab fyldt med historisk kapital, og nu sælges landet stykke for stykke.”
• USA⁠(åbner i et nyt vindue): “Trump ankom [til Beijing] med verdens højeste suverænitetsindeks og rejste igen efter at have taget en række skridt, der [...] kan betegnes som en frivillig reduktion af autonomien.”
• Tyskland⁠(åbner i et nyt vindue): “Tyskland har brug for en industripolitik, der beskytter arbejdspladser, ikke kun aktiekurser. Landet har brug for en ærlig diskussion om identitet uden tabuer og hysteri. Det har brug for reel militær suverænitet, ikke afhængighed af amerikanske baser. Og det har brug for politikere, hvis loyalitet først og fremmest ligger hos det tyske folk, ikke hos koncernbestyrelser i New York.”
• EU⁠(åbner i et nyt vindue): “Slovakiet mod Italien: Paradokserne i gidsellandenes suverænitet i den ‘store’ union”

Mens indholdet på sociale medier, der promoverede IBI, blev genereret af ChatGPT‑brugere i Rusland, som gjorde sig store anstrengelser for at skjule deres oprindelse, og meget af indholdet på IBI's websted så ud til at være kopieret andre steder fra, tyder visse spor på nettet på, at en håndfuld virkelige personer i Israel muligvis også har repræsenteret IBI ved indsendelse af artikler og på konferencer. Vi er ikke i stand til at fastslå forholdet mellem disse personer, IBI og operatorerne i Rusland.

Operationens umiddelbare effekt ser ud til at have været begrænset: Typiske opslag på sociale medier fik kun få visninger, og de officielle IBI-konti havde få abonnenter. Operationens Telegram-kanaler ser ud til at have tiltrukket flere abonnenter og havde generelt hver 10.000-20.000 følgere. Vurderet efter Brookings' gennembrudsskala⁠(åbner i et nyt vindue) placerer vi operationens effekt i den lave ende af kategori tre (flere platforme med visse tegn på gennembrud til autentiske målgrupper).

Operationens betydning ligger dog mindre i den målgruppe, den nåede, end i den infrastruktur, den havde opbygget. Selvom aktørerne kun brugte ChatGPT til at producere enkeltstående promoveringsopslag, henviste opslagene til en institution, der ellers fremstod troværdig, komplet med angivelige eksperter, genudgivne akademiske værker og et angiveligt egenudviklet risikoindeks. Det illustrerer, hvordan påvirkningsaktører kan bruge AI som støtteværktøj i en bredere indsats for at konstruere autoritet, skjule kilden til foretrukne fortællinger og etablere aktiver, der med tiden kan opskaleres. Det illustrerer også, hvordan deres understøttende brug af AI kan føre til, at den bredere operation bliver afsløret.