Vi stanser en ny skjult påvirkningskampanje fra Russland

Vårt mål er å sikre at kunstig generell intelligens kommer hele menneskeheten til gode. Vi arbeider mot dette målet ved å ta i bruk innovasjonene våre for å utvikle KI-verktøy som hjelper mennesker med å løse vanskelige problemer. Dette omfatter utvikling av verktøy som gjør oss i stand til å avdekke, etterforske, stanse og avsløre skjulte påvirkningsoperasjoner: villedende forsøk på å manipulere opinionen eller påvirke politiske utfall uten å røpe den egentlige identiteten eller hensikten til aktørene bak.

Vi utestengte nylig en gruppe ChatGPT‑kontoer med opphav i Russland som ble brukt til å promotere International Burke Institute (IBI), et selvutnevnt «ekspertfellesskap» basert i Israel. Det som begynte som en etterforskning av KI-genererte innlegg i sosiale medier, førte oss til en langt mer omfattende påvirkningsoperasjon. Den var bygget rundt et nettsted med kopierte og feilaktig tilskrevne akademiske arbeider, en «suverenitetsindeks» som fremstilte Russland i et fordelaktig lys, og forsøk på å skjule operatorenes russiske opphav. Selv om kampanjen ser ut til å ha nådd et relativt lite publikum, skiller den omfattende oppbygningen den fra andre Russland-tilknyttede⁠(åpnes i et nytt vindu) påvirknings⁠(åpnes i et nytt vindu)operasjoner⁠(åpnes i et nytt vindu) vi har stanset⁠(åpnes i et nytt vindu) siden krigen i Ukraina begynte. Denne rapporten forklarer hvordan operasjonen fungerte, hvilken rolle ChatGPT spilte, og hva vi gjorde for å stanse den.

Vi utestengte en gruppe ChatGPT‑kontoer som med stor sannsynlighet hadde opphav i Russland. Operatorene skrev instrukser på russisk for å generere kommentarer til sosiale medier som ble publisert på Substack, Telegram, X, Facebook og LinkedIn. De fleste kommentarene de genererte, var på engelsk, og operatorene instruerte ChatGPT om å skjule alle språklige spor som kunne røpe at de var russiske. Siden vi ikke tillater tilgang til modellene våre fra Russland, brukte de VPN-er for å få tilgang til plattformen vår.

Mye av det genererte innholdet skulle promotere et selvutnevnt «ekspertfellesskap» kalt International Burke Institute (IBI). IBI-varemerket var knyttet til et nettsted som ble registrert i februar 2025. Nettstedet hevdet at instituttet var basert i Israel. Artiklene som ble publisert på nettstedet, var ikke generert med modellene våre. Mange var kopiert fra ekte akademiske tekster, noen ganger med falsk forfatterangivelse. Enkelte ser ut til å være skrevet av en slavisktalende og deretter maskinoversatt. Skjermbildet nedenfor fra IBIs nettsted inneholder for eksempel et unaturlig uttrykk som enklest kan forklares som en ordrett maskinoversettelse fra et slavisk språk.

Så vidt vi vet, er dette en ny skjult påvirkningskampanje som ikke tidligere er omtalt. Det mest bemerkelsesverdige trekket er «suverenitetsindeksen», som den angivelige «tankesmien» opprettet og promoterte for å rose Russland og rakke ned på vestlige land. Dette er første gang vi har stanset en Russland-tilknyttet påvirkningsoperasjon som har gått så omfattende til verks.

Operasjonens viktigste bruk av ChatGPT var å generere innlegg i sosiale medier som promoterte artikler på IBIs nettsted. Vi fant slike innlegg på X, LinkedIn, Facebook, Substack og Telegram. Noen ble publisert av kontoer med IBIs navn og logo. Andre så ut til å komme fra vanlige brukere, trolig falske profiler, hvis hovedaktivitet var å legge ut IBI-artikler.

I tillegg til disse proaktive innleggene genererte operatorene også svar på innlegg fra ekte Substack-brukere om en rekke temaer. Svarene inneholdt vanligvis en oppfordring om å følge IBI-kanalen og ble publisert på Substack av IBI-kontoen.

I tillegg til å generere innhold om IBI genererte en av operatorene tyskspråklige innlegg som ble publisert på en Telegram-kanal kalt «Lahme Ente» («haltende and»). Disse innleggene kritiserte jevnlig Ukraina, EU og den tyske regjeringen og tok til orde for bedre forbindelser med Russland.

En annen operator genererte, i tillegg til IBI-relatert innhold, logoer for et dusin Telegram-kanaler, deriblant Lahme Ente, med fokus på Tyskland, USA, Frankrike, Polen og Tyrkia. Noen av kanalene publiserte av og til innhold om IBI eller delte IBIs egne innlegg. Den andre operatoren ba også gjentatte ganger om russiskspråklige oppsummeringer av aktiviteten i disse kanalene. En av kanalene med fokus på USA utga seg for å være et amerikansk medie og hadde en profiltekst med flere tegn på at den ikke var skrevet av en morsmålsbruker.

Kjernen i denne operasjonen så ut til å være International Burke Institute (IBI), men aktiviteten vi stanset, dreide seg om innhold i sosiale medier som promoterte eller lenket til nettstedet, snarere enn innhold publisert direkte der.

Nettstedet fremstilte seg som et «ekspertfellesskap» med gateadresse i Israel. Per 17. juli hevdet nettstedet å ha en rekke eksperter i verdensklasse, blant dem kjente navn som Francis Fukuyama og Noam Chomsky, og publiserte et bredt utvalg av forskning. Vi gjennomgikk imidlertid et utvalg på 36 artikler som var knyttet til eksperter på IBIs nettsted og publisert mellom september 2025 og mai 2026. Av disse var 34 kopiert fra andre steder på internett.

Noen av artiklene var flere år gamle, mens andre var tilskrevet feil forfattere. En artikkel om den økonomiske korridoren mellom Kina og Pakistan ser for eksempel ut til å være kopiert fra en originalartikkel hos Cambridge University Press, men feilaktig tilskrevet en professor ved University of Nottingham med sørasiatisk politikk som fagfelt.

En annen artikkel, om migrasjonsstyring, ser ut til å være kopiert fra Migration Policy Institute, men feilaktig tilskrevet en australsk professor i matvitenskap. Denne fremgangsmåten tyder på et ønske om å få IBIs nettsted til å fremstå som mer legitimt ved å fylle det med autentisk innhold, samtidig som innholdets egentlige kilde ble skjult.

I tillegg til disse artiklene inneholdt IBIs nettsted rapporter om ulike land og deres suverenitet, målt ved hjelp av instituttets indeks. Disse ble ikke generert med modellene våre. Noen av rapportene ble presentert som sammenligninger mellom to land. Andre fokuserte på enkeltland, særlig land som kritiserer Russlands krig mot Ukraina, som Frankrike og Tyskland, samt EU. Operasjonen fremmet lignende narrativer om USA. Rapportene var vanligvis kritiske og tidvis polemiske. Her er noen eksempler:

• Frankrike⁠(åpnes i et nytt vindu): «Ti år med macronisme ga akkurat det resultatet man måtte vente av en forvalter som kom til Élyséepalasset fra Rothschild-banken: Frankrike ble åpnet som en safe med historisk kapital, og nå selges landet stykkevis.»
• USA⁠(åpnes i et nytt vindu): «Trump ankom [Beijing] med verdens høyeste suverenitetsindeks og reiste etter å ha tatt en rekke skritt som [...] kan betegnes som en frivillig reduksjon av autonomien.»
• Tyskland⁠(åpnes i et nytt vindu): «Tyskland trenger en industripolitikk som beskytter arbeidsplasser, ikke bare aksjekurser. Landet trenger en ærlig diskusjon om identitet, uten tabuer og hysteri. Det trenger reell militær suverenitet, ikke avhengighet av amerikanske baser. Og landet trenger politikere som først og fremst er lojale mot det tyske folket, ikke mot konsernstyrer i New York.»
• EU⁠(åpnes i et nytt vindu): «Slovakia mot Italia: Paradoksene ved suvereniteten til gissellandene i den ‘store’ unionen»

Innholdet i sosiale medier som promoterte IBI, ble generert av ChatGPT‑brukere i Russland som gjorde mye for å skjule hvor de kom fra, og mye av innholdet på IBIs nettsted så ut til å være kopiert fra andre steder. Likevel tyder enkelte spor på nettet på at en håndfull virkelige personer i Israel også kan ha representert IBI ved innsending av artikler og på konferanser. Vi kan ikke fastslå forholdet mellom disse personene, IBI og operatorene i Russland.

Operasjonens umiddelbare virkning ser ut til å ha vært begrenset: Vanlige innlegg i sosiale medier fikk få visninger, og IBIs offisielle kontoer hadde få abonnenter. Operasjonens Telegram-kanaler ser ut til å ha tiltrukket seg flere abonnenter, vanligvis mellom 10 000 og 20 000 følgere hver. Med Brookings’ Breakout Scale⁠(åpnes i et nytt vindu) som mål på operasjonens virkning vurderer vi den til nedre del av kategori tre (flere plattformer, med enkelte tegn på gjennomslag hos reelle målgrupper).

Operasjonens betydning ligger imidlertid mindre i publikummet den nådde, og mer i infrastrukturen den hadde bygget opp. Selv om aktørene bare brukte ChatGPT til å lage enkeltstående promoteringsinnlegg, viste innleggene til en ellers troverdig institusjon med angivelige eksperter, republiserte akademiske arbeider og en angivelig egenutviklet risikoindeks. Dette viser hvordan påvirkningsaktører kan bruke KI som støtteverktøy i et større forsøk på å skape autoritet, skjule kilden til foretrukne narrativer og etablere ressurser som kan skaleres over tid. Det viser også hvordan bruken av KI som støtteverktøy kan føre til at den større operasjonen blir avslørt.