Vi stoppar en ny dold påverkanskampanj från Ryssland

Vårt uppdrag är att säkerställa att artificiell generell intelligens gynnar hela mänskligheten. Vi driver uppdraget framåt genom att använda våra innovationer till att utveckla AI-verktyg som hjälper människor att lösa svåra problem. Det innefattar att utveckla verktyg som gör det möjligt för oss att upptäcka, utreda, stoppa och avslöja dolda påverkansoperationer: vilseledande försök att manipulera opinionen eller påverka politiska utfall utan att avslöja aktörernas verkliga identitet eller avsikter.

Vi stängde nyligen av en grupp ChatGPT‑konton med ursprung i Ryssland som användes för att marknadsföra International Burke Institute (IBI), en självutnämnd ”expertgemenskap” baserad i Israel. Det som började som en utredning av AI-genererade inlägg i sociala medier ledde oss till en mycket mer omfattande påverkansoperation. Den byggde på en webbplats med kopierade akademiska arbeten som tillskrivits fel personer, ett ”suveränitetsindex” som framställde Ryssland i fördelaktig dager och försök att dölja aktörernas ryska ursprung. Även om kampanjen tycks ha nått en relativt liten publik skiljer dess avancerade upplägg den från andra Rysslandskopplade⁠(öppnas i ett nytt fönster) ⁠(öppnas i ett nytt fönster)påverkansoperationer⁠(öppnas i ett nytt fönster) som vi har stoppat⁠(öppnas i ett nytt fönster) sedan kriget i Ukraina började. Rapporten beskriver hur operationen fungerade, vilken roll ChatGPT spelade och vad vi gjorde för att stoppa den.

Vi stängde av en grupp ChatGPT‑konton som med mycket stor sannolikhet hade sitt ursprung i Ryssland. Operatorerna skrev instruktioner på ryska för att skapa kommentarer för sociala medier, vilka publicerades på Substack, Telegram, X, Facebook och LinkedIn. De flesta kommentarerna skapades på engelska, och Operatorerna instruerade ChatGPT att dölja alla språkliga ledtrådar om att de var ryssar. Eftersom vi inte tillåter åtkomst till våra modeller från Ryssland använde de VPN-tjänster för att komma åt vår plattform.

En stor del av det skapade innehållet marknadsförde en självutnämnd ”expertgemenskap” vid namn International Burke Institute (IBI). Varumärket IBI var kopplat till en webbplats som registrerades i februari 2025. Webbplatsen hävdade att institutet var baserat i Israel. Artiklarna som publicerades på webbplatsen hade inte skapats med våra modeller. Många hade kopierats från verkliga akademiska texter, ibland med falska författarangivelser. Vissa tycks ha skrivits av en person som talar ett slaviskt språk och sedan maskinöversatts. Som exempel innehåller skärmbilden nedan från IBI:s webbplats ett onaturligt uttryck som enklast förklaras som en ordagrann maskinöversättning från ett slaviskt språk.

Såvitt vi vet är detta en ny dold påverkanskampanj som inte tidigare har rapporterats. Dess mest utmärkande inslag är det ”suveränitetsindex” som den påstådda ”tankesmedjan” skapade och marknadsförde för att hylla Ryssland och misskreditera västländer. Det är första gången vi har stoppat en Rysslandskopplad påverkansoperation med ett så avancerat upplägg.

Operationen använde främst ChatGPT för att skapa inlägg i sociala medier som marknadsförde artiklar på IBI:s webbplats. Vi hittade dessa inlägg på X, LinkedIn, Facebook, Substack och Telegram. Vissa publicerades av konton med IBI:s namn och logotyp. Andra tycktes komma från vanliga användare (sannolikt falska) vars huvudsakliga aktivitet var att publicera IBI-artiklar.

Utöver dessa proaktiva inlägg skapade aktörerna även svar på inlägg från verkliga Substack-användare om en rad olika ämnen. Svaren innehöll vanligtvis en uppmaning att följa IBI-kanalen och publicerades på Substack av IBI-kontot.

Förutom att skapa innehåll om IBI tog en av aktörerna fram tyskspråkiga inlägg som publicerades på Telegram-kanalen ”Lahme Ente” (”lam anka”). Inläggen kritiserade regelbundet Ukraina, EU och den tyska regeringen och förespråkade bättre relationer med Ryssland.

En annan aktör skapade, vid sidan av sitt IBI-relaterade innehåll, logotyper för ett dussintal Telegram-kanaler (däribland Lahme Ente) med fokus på Tyskland, USA, Frankrike, Polen och Turkiet. Vissa av kanalerna publicerade ibland innehåll om IBI eller delade IBI:s egna inlägg. Den här andra aktören bad också upprepade gånger om ryskspråkiga sammanfattningar av kanalernas aktivitet. En av kanalerna med fokus på USA utgav sig för att vara ett amerikanskt medieföretag och hade en profiltext med flera tecken på att skribenten inte hade engelska som modersmål.

Kärnan i operationen tycktes vara International Burke Institute (IBI), även om den aktivitet vi stoppade var inriktad på innehåll i sociala medier som marknadsförde eller länkade till webbplatsen, snarare än innehåll som publicerades direkt där.

Webbplatsen beskrev sig som en ”expertgemenskap” med en gatuadress i Israel. Den 17 juli hävdade webbplatsen att institutet hade ett brett urval av experter i världsklass, däribland framstående personer som Francis Fukuyama och Noam Chomsky, och publicerade forskning inom många områden. Men när vi granskade ett urval av 36 artiklar som länkades till experter på IBI:s webbplats och hade publicerats mellan september 2025 och maj 2026 visade det sig att 34 av artiklarna hade kopierats från andra delar av internet.

Vissa av artiklarna var flera år gamla, medan andra tillskrevs fel författare. En artikel om den ekonomiska korridoren mellan Kina och Pakistan tycks till exempel ha kopierats från ett original hos Cambridge University Press, men felaktigt tillskrivits en professor vid University of Nottingham vars expertområde är sydasiatisk politik.

En annan artikel om migrationsstyrning tycks ha kopierats från Migration Policy Institute, men felaktigt tillskrivits en australisk professor i livsmedelsvetenskap. Detta beteende tyder på en strävan att få IBI:s webbplats att verka mer legitim genom att fylla den med autentiskt innehåll och samtidigt dölja innehållets verkliga källa.

Vid sidan av dessa artiklar innehöll IBI:s webbplats rapporter om olika länder och deras suveränitet, mätt enligt institutets index. Dessa hade inte skapats med våra modeller. Vissa av rapporterna presenterades som jämförelser mellan två länder. Andra fokuserade på enskilda länder, särskilt sådana som kritiserar Rysslands krig mot Ukraina, exempelvis Frankrike och Tyskland, samt på Europeiska unionen. Operationen spred liknande narrativ om USA. Rapporterna var vanligtvis kritiska och ibland rent polemiska. Några exempel:

• Frankrike⁠(öppnas i ett nytt fönster): ”Tio år av macronism gav exakt det resultat som kunde förväntas av en direktör som kom till Élyséepalatset från Rothschildbanken: Frankrike öppnades som ett kassaskåp fyllt med historiskt kapital och säljs nu av bit för bit.”
• USA⁠(öppnas i ett nytt fönster): ”Trump anlände [till Peking] med världens främsta suveränitetsindex och reste därifrån efter att ha vidtagit ett antal åtgärder som [...] kan beskrivas som en frivillig minskning av självständigheten.”
• Tyskland⁠(öppnas i ett nytt fönster): ”Tyskland behöver en industripolitik som skyddar arbetstillfällen, inte bara aktiekurser. Landet behöver en uppriktig diskussion om identitet, utan tabun och hysteri. Det behöver verklig militär suveränitet, inte beroende av amerikanska baser. Och det behöver politiker vars främsta lojalitet är till det tyska folket, inte till bolagsstyrelser i New York.”
• EU⁠(öppnas i ett nytt fönster): ”Slovakien mot Italien: Paradoxerna i suveräniteten hos den ’stora’ unionens gisslanländer”

Innehållet i sociala medier som marknadsförde IBI skapades av ChatGPT‑användare i Ryssland som ansträngde sig för att dölja sitt ursprung, och mycket av innehållet på IBI:s webbplats tycktes ha kopierats från andra håll. Samtidigt tyder vissa spår på nätet på att ett fåtal verkliga personer i Israel också kan ha företrätt IBI genom inskickade artiklar och vid konferenser. Vi kan inte fastställa relationen mellan dessa personer, IBI och individerna bakom operationen i Ryssland.

Operationens omedelbara genomslag tycks ha varit begränsat: vanliga inlägg i sociala medier fick få visningar och IBI:s officiella konton hade få prenumeranter. Operationens Telegram-kanaler tycks ha lockat fler prenumeranter och hade i allmänhet 10 000–20 000 följare vardera. Om vi använder Brookings Breakout Scale⁠(öppnas i ett nytt fönster) för att bedöma operationens genomslag placerar vi den i den nedre delen av kategori tre (flera plattformar, med vissa tecken på spridning till verkliga målgrupper).

Operationens betydelse ligger dock mindre i den publik den nådde och mer i den infrastruktur den hade byggt upp. Aktörerna använde visserligen bara ChatGPT för att skapa enstaka marknadsföringsinlägg, men inläggen hänvisade till en institution som i övrigt verkade trovärdig, med påstådda experter, återpublicerade akademiska arbeten och ett påstått egenutvecklat riskindex. Det visar hur påverkansaktörer kan använda AI som ett stödverktyg i ett bredare försök att skapa en bild av auktoritet, dölja källan till gynnade narrativ och bygga upp resurser som med tiden kan skalas upp. Det visar också hur deras användning av AI som stöd kan leda till att den bredare operationen avslöjas.