Operatie "Smaadrecensie": beïnvloedingsactiviteit vanuit China

Deze casestudy werd oorspronkelijk gepubliceerd in het rapport van juni 2025⁠(opent in een nieuw venster) van OpenAI.

We blokkeerden ChatGPT‑accounts waarvan we vaststelden dat ze onze modellen gebruikten om grote aantallen socialmediaberichten te genereren die pasten bij de activiteiten van een heimelijke beïnvloedingsoperatie. Tijdens ons onderzoek zagen we ook dat deze accounts interne prestatiebeoordelingen opstelden.

Deze accounts gebruikten voornamelijk prompts in het Chinees en richtten zich op politieke en geopolitieke onderwerpen die relevant zijn voor China. Eén gebruiker verklaarde in een prompt voor de Chinese propaganda-afdeling te werken. We beschikken echter niet over onafhankelijk bewijs waarmee we deze bewering kunnen verifiëren.

De accounts die we blokkeerden, hielden zich voornamelijk met twee werkstromen bezig. De omvangrijkste werkstroom bestond uit het genereren van korte socialmediareacties in het Engels en Chinees, met daarnaast enkele reacties in het Urdu. We troffen veel van deze reacties aan op TikTok en X. Ook verscheen er content op Reddit, Facebook en diverse websites.

Een kenmerkend patroon was dat eerst een reactie werd geplaatst vanaf een "hoofdaccount", dat vaak alleen voor dat bericht leek te zijn aangemaakt, waarna een reeks reacties van andere accounts volgde. Dit gedrag leek bedoeld om ten onrechte de indruk van organische interactie te wekken.

Op TikTok gebruikten de reagerende accounts schermnamen in uiteenlopende talen en schriften, die vaak niets te maken hadden met de taal van de geplaatste content. Zo plaatste een account met een Koreaanse naam een reactie in het Urdu, terwijl accounts met Thaise en Hebreeuwse namen door dit netwerk gegenereerde reacties in het Engels plaatsten. Op X gebruikten de reagerende accounts doorgaans cartoonafbeeldingen als profielfoto en hadden ze in sommige gevallen namen die verband hielden met cryptovaluta.

Het netwerk was minder actief op Facebook. De activiteiten bestonden daar voornamelijk uit het genereren van namen en profielfoto's voor twee pagina's die zich voordeden als nieuwsmedia. Geen van beide pagina's had volgers of vind-ik-leuks en op elke pagina stonden slechts enkele berichten.

Het netwerk genereerde af en toe langere berichten in het Chinees of Engels. We troffen één zo'n bericht aan op Reddit en nog twee op verschillende internetfora. De tweede werkstroom bestond uit het gebruik van ChatGPT om documenten te genereren die interne beleidsstukken of prestatiebeoordelingen leken te zijn.

De door deze dreigingsactor gegenereerde socialmediacontent behandelde uiteenlopende onderwerpen die allemaal nauw aansloten bij de geostrategische belangen van China.

Sommige content richtte zich op Taiwan, en dan met name op "Reversed Front"⁠(opent in een nieuw venster) ("逆統戰"), een op Taiwan gericht video- en bordspel waarin verzet tegen de Chinese Communistische Partij centraal staat. Het netwerk genereerde tientallen kritische reacties in het Chinees over het spel, gevolgd door een uitgebreid artikel waarin werd beweerd dat het spel op grote schaal negatieve reacties had opgeroepen. Dit was de meest kenmerkende activiteit van de operatie. Daarom hebben we deze operatie "Smaadrecensie" genoemd.

Andere content, in het Engels en Urdu, richtte zich tegen de Pakistaanse activist Mahrang Baloch, die openlijk kritiek heeft geuit op de Chinese investeringen in Beloetsjistan⁠(opent in een nieuw venster). Een TikTok-account en Facebook-pagina die aan het netwerk waren gekoppeld, plaatsten een video waarin Baloch er ten onrechte van werd beschuldigd in een pornofilm te hebben gespeeld. Vervolgens genereerde de operatie honderden korte reacties in beide talen om grootschalige interactie te veinzen.

Een laatste reeks uitingen draaide om de sluiting van het Amerikaanse Agentschap voor Internationale Ontwikkeling (USAID). Daarbij werden korte reacties gegenereerd waarin de stap werd geprezen of bekritiseerd. Deze reacties werden op TikTok en X geplaatst.

Tot slot gebruikten de dreigingsactoren onze modellen om documenten te genereren die intern leken te zijn. Daaronder waren een gedetailleerd essay in de stijl van een officieel document van de openbare veiligheidsdienst en een prestatiebeoordeling waarin werd beschreven welke stappen waren genomen om de operatie op te zetten en uit te voeren.

Deze operatie leek nog in de kinderschoenen te staan toen we het gebruik van onze modellen verstoorden. Geen van beide Facebook-pagina's had volgers. Op Reddit kreeg één bericht 44 upvotes, terwijl twee andere berichten werden geblokkeerd of verwijderd uit de subreddits waarin ze waren geplaatst.

De interactie op X en TikTok liep sterker uiteen. De twee TikTok-video's kregen samen 25.000 vind-ik-leuks, terwijl tweets van het hoofdaccount van deze operatie doorgaans elk ongeveer 10.000 keer werden bekeken. Veel reacties op deze berichten werden echter door dit netwerk gegenereerd met ChatGPT, wat erop wijst dat ten minste een deel van de interactie niet authentiek was. Alle cijfers over interactie moeten daarom met de nodige voorzichtigheid worden geïnterpreteerd.

Volgens de Breakout Scale⁠(opent in een nieuw venster) voor de impact van beïnvloedingsoperaties zouden we dit, als de interactiecijfers voor X en TikTok authentiek waren, aan de onderkant van categorie 3 indelen. We zouden deze beoordeling naar beneden bijstellen als er meer bewijs naar voren kwam voor de hypothese dat de meeste vind-ik-leuks en weergaven, net als de meeste reacties, niet authentiek waren.