Een nieuwe heimelijke beïnvloedingscampagne uit Rusland verstoren

Het is onze missie ervoor te zorgen dat kunstmatige algemene intelligentie de hele mensheid ten goede komt. We werken aan deze missie door onze innovaties in te zetten voor AI-tools waarmee mensen complexe problemen kunnen oplossen. Zo bouwen we tools waarmee we heimelijke beïnvloedingsoperaties kunnen opsporen, onderzoeken, verstoren en aan het licht brengen: misleidende pogingen om de publieke opinie te manipuleren of politieke uitkomsten te beïnvloeden zonder de ware identiteit of bedoelingen van de betrokken actoren prijs te geven.

Onlangs hebben we een cluster van ChatGPT‑accounts uit Rusland geblokkeerd die werden gebruikt om het International Burke Institute (IBI) te promoten, een zelfverklaarde "expertcommunity" in Israël. Wat begon als een onderzoek naar door AI gegenereerde socialemediaberichten, leidde ons naar een veel bredere beïnvloedingsoperatie rond een website met gekopieerd en onjuist toegeschreven academisch werk, een "soevereiniteitsindex" die Rusland gunstig afschilderde en pogingen om de Russische herkomst van de operators te verhullen. Hoewel de campagne een relatief klein publiek lijkt te hebben bereikt, onderscheidt de complexe opzet haar van andere aan Rusland gelieerde⁠(opent in een nieuw venster) beïnvloedings⁠(opent in een nieuw venster)operaties⁠(opent in een nieuw venster) die we sinds het begin van de oorlog in Oekraïne hebben verstoord⁠(opent in een nieuw venster). Dit rapport legt uit hoe de operatie werkte, welke rol ChatGPT erin speelde en wat we hebben gedaan om haar te verstoren.

We hebben een cluster van ChatGPT‑accounts geblokkeerd dat zeer waarschijnlijk uit Rusland afkomstig was. De operators gebruikten Russische prompts om reacties voor sociale media te genereren die op Substack, Telegram, X, Facebook en LinkedIn werden geplaatst. De meeste gegenereerde reacties waren in het Engels en de operators gaven ChatGPT de opdracht om taalkundige aanwijzingen voor hun Russische herkomst te verbergen. Omdat we vanuit Rusland geen toegang tot onze modellen toestaan, gebruikten ze VPN's om ons platform te bereiken.

Veel van de gegenereerde content diende ter promotie van een zelfverklaarde "expertcommunity" genaamd het International Burke Institute (IBI). Het IBI-merk was verbonden aan een website die in februari 2025 werd geregistreerd. Deze site beweerde dat het instituut in Israël was gevestigd. De artikelen op de site waren niet met onze modellen gegenereerd. Veel artikelen waren gekopieerd uit echte academische publicaties, soms met een onjuiste bronvermelding. Sommige lijken te zijn opgesteld door een spreker van een Slavische taal en vervolgens machinaal vertaald. De onderstaande screenshot van de IBI-website bevat bijvoorbeeld een onnatuurlijke formulering die zich het best laat verklaren als een letterlijke machinevertaling uit een Slavische taal.

Voor zover wij weten, gaat het om een nieuwe heimelijke beïnvloedingscampagne waarover nog niet eerder is bericht. Het opvallendste kenmerk is de "soevereiniteitsindex" die de vermeende "denktank" opstelde en promootte om Rusland te prijzen en westerse landen in diskrediet te brengen. Dit is de eerste keer dat we een aan Rusland gelieerde beïnvloedingsoperatie hebben verstoord die zo uitvoerig was opgezet.

De operatie gebruikte ChatGPT voornamelijk om socialemediaberichten te genereren die artikelen op de IBI-website promootten. We troffen deze berichten aan op X, LinkedIn, Facebook, Substack en Telegram. Sommige werden geplaatst door accounts met de naam en het logo van het IBI; andere leken afkomstig van gewone gebruikers (waarschijnlijk niet-authentiek) die zich voornamelijk bezighielden met het plaatsen van IBI-artikelen.

Naast deze proactieve berichten genereerden de operators ook reacties op berichten van echte Substack-gebruikers over uiteenlopende onderwerpen. Deze reacties bevatten meestal een verzoek om het IBI-kanaal te volgen en werden op Substack geplaatst door het IBI-account.

Naast content over het IBI genereerde een van de operators Duitstalige berichten die werden geplaatst op een Telegram-kanaal genaamd "Lahme Ente" ("lamme eend"). Deze berichten uitten geregeld kritiek op Oekraïne, de EU en de Duitse regering en pleitten voor betere betrekkingen met Rusland.

Een tweede operator genereerde naast IBI-gerelateerde content logo's voor twaalf Telegram-kanalen (waaronder Lahme Ente) die zich richtten op Duitsland, de VS, Frankrijk, Polen en Turkije. Sommige van deze kanalen plaatsten soms berichten over het IBI of deelden berichten van het IBI zelf. De tweede operator vroeg ook herhaaldelijk om Russischtalige samenvattingen van de activiteiten van deze kanalen. Een van de op de VS gerichte kanalen deed zich voor als een Amerikaans medium en had een biografie met meerdere aanwijzingen dat de tekst niet door een moedertaalspreker was geschreven.

De kern van deze operatie leek het International Burke Institute (IBI) te zijn, al was de activiteit die we verstoorden gericht op socialemediacontent die de website promootte of ernaar linkte, en niet op content die rechtstreeks op de website stond.

De site presenteerde zich als een "expertcommunity" met een adres in Israël. Op 17 juli beweerde de website over een brede groep experts van wereldklasse te beschikken, onder wie prominenten als Francis Fukuyama en Noam Chomsky, en publiceerde de site allerlei onderzoek. Bij een beoordeling van een steekproef van 36 artikelen die op de IBI-website aan experts waren gekoppeld en tussen september 2025 en mei 2026 waren gepubliceerd, bleken 34 artikelen echter van elders op internet te zijn gekopieerd.

Sommige van deze artikelen waren jaren oud; andere werden aan de verkeerde auteurs toegeschreven. Zo lijkt een artikel over de economische corridor tussen China en Pakistan te zijn gekopieerd van een origineel van Cambridge University Press, maar ten onrechte te zijn toegeschreven aan een hoogleraar aan de Universiteit van Nottingham die gespecialiseerd is in de politiek van Zuid-Azië.

Een ander artikel, over migratiebeleid, lijkt te zijn gekopieerd van het Migration Policy Institute, maar werd ten onrechte toegeschreven aan een Australische hoogleraar voedingswetenschappen. Dit gedrag wijst erop dat men de IBI-website geloofwaardiger wilde laten lijken door deze te vullen met authentieke content en tegelijk de werkelijke bron daarvan te verhullen.

Naast deze artikelen bevatte de IBI-website rapporten over verschillende landen en hun soevereiniteit, gemeten aan de hand van de index van het instituut. Deze waren niet met onze modellen gegenereerd. Sommige rapporten werden gepresenteerd als vergelijkingen tussen twee landen. Andere richtten zich op afzonderlijke landen, vooral landen die kritiek hebben op de Russische oorlog tegen Oekraïne, zoals Frankrijk en Duitsland, en op de Europese Unie. De operatie verspreidde vergelijkbare verhalen over de Verenigde Staten. Deze rapporten waren doorgaans kritisch en soms ronduit polemisch. Enkele voorbeelden:

• Frankrijk⁠(opent in een nieuw venster): "Tien jaar macronisme leverde precies het resultaat op dat men mocht verwachten van een manager die vanuit de Rothschild Bank naar het Élysée kwam: Frankrijk werd geopend als een kluis vol historisch kapitaal en wordt nu in delen verkocht."
• VS⁠(opent in een nieuw venster): "Trump arriveerde [in Beijing] met de hoogste soevereiniteitsindex ter wereld en vertrok nadat hij een aantal stappen had gezet die [...] kunnen worden aangemerkt als een vrijwillige vermindering van de autonomie."
• Duitsland⁠(opent in een nieuw venster): "Duitsland heeft industriebeleid nodig dat banen beschermt, niet alleen aandelenkoersen. Het land heeft een eerlijk debat over identiteit nodig, zonder taboes en hysterie. Het heeft echte militaire soevereiniteit nodig, geen afhankelijkheid van Amerikaanse bases. En het heeft politici nodig die in de eerste plaats loyaal zijn aan het Duitse volk, niet aan raden van bestuur van bedrijven in New York."
• EU⁠(opent in een nieuw venster): "Slowakije versus Italië: de paradoxen van de soevereiniteit van de gegijzelde landen van de 'grote' Unie"

De socialemediacontent ter promotie van het IBI werd gegenereerd door ChatGPT‑gebruikers in Rusland die veel moeite deden om hun herkomst te verbergen, en veel content op de IBI-website leek van elders te zijn gekopieerd. Toch wijzen sommige online sporen erop dat een handvol echte personen in Israël het IBI mogelijk ook heeft vertegenwoordigd bij het indienen van artikelen en op congressen. We kunnen de relatie tussen deze personen, het IBI en de operators in Rusland niet vaststellen.

De directe impact van de operatie lijkt beperkt te zijn geweest: doorsnee socialemediaberichten werden slechts weinig bekeken en de officiële IBI-accounts hadden weinig abonnees. De Telegram-kanalen van de operatie lijken meer abonnees te hebben getrokken, doorgaans 10.000 tot 20.000 volgers per kanaal. Op basis van de Breakout Scale⁠(opent in een nieuw venster) van Brookings beoordelen we de impact van deze operatie als behorend tot de onderkant van categorie drie (meerdere platforms, met enkele aanwijzingen dat een authentiek publiek werd bereikt).

Het belang van de operatie ligt echter minder in het bereikte publiek dan in de infrastructuur die ze had opgebouwd. Hoewel de actoren ChatGPT alleen gebruikten om afzonderlijke promotieberichten te maken, verwezen die berichten naar een op het eerste gezicht geloofwaardige instelling, compleet met vermeende experts, opnieuw gepubliceerd academisch werk en een vermeende bedrijfseigen risico-index. Dit laat zien hoe beïnvloedingsactoren AI als ondersteunend hulpmiddel kunnen inzetten binnen een bredere poging om autoriteit te creëren, de bron van gewenste narratieven te verhullen en middelen op te bouwen die later kunnen worden opgeschaald. Het laat ook zien hoe hun ondersteunende gebruik van AI ertoe kan leiden dat de bredere operatie aan het licht komt.