Operatie "Spamouflage": aan China gelieerde beïnvloedingsactiviteiten

Deze casestudy verscheen oorspronkelijk in het rapport van mei 2024⁠(opent in een nieuw venster) van OpenAI.

We hebben een klein aantal accounts geblokkeerd die verband hielden met de uit China afkomstige operatie "Spamouflage"⁠(opent in een nieuw venster). Volgens Meta⁠(opent in een nieuw venster) is deze operatie toe te schrijven aan "personen die banden hebben met de Chinese rechtshandhaving". De FBI⁠(opent in een nieuw venster) schreef een deel van de activiteiten van deze operatie op sociale media toe aan een eenheid binnen het Chinese ministerie van Openbare Veiligheid.

Dit netwerk richtte zich op een wereldwijd publiek, met name op leden van de Chinese diaspora en critici van de Chinese overheid. Het genereerde voornamelijk inhoud in het Chinees en in mindere mate in het Engels, Japans en Koreaans.

Het netwerk gebruikte onze modellen om fouten in code op te sporen, advies in te winnen over de analyse van sociale media, nieuws en actualiteiten te onderzoeken en inhoud te genereren die vervolgens op blogforums en sociale media werd gepubliceerd.

Zo gebruikte het netwerk onze modellen in 2023 om fouten op te sporen in code waarmee het WordPress-thema voor de website revealscum.com werd ingesteld. Deze website publiceerde Chineestalige kritiek en persoonsgegevens over leden van de Chinese diaspora die kritiek hadden op de Chinese overheid. De site noemde deze critici "verraders". De inhoud zelf was niet met onze modellen gegenereerd.

Deze campagne gebruikte onze modellen ook om inhoud te maken die vervolgens op socialemediaplatforms en forums werd geplaatst. Zo genereerde de operatie eind 2023 artikelen waarin Japan ervan werd beschuldigd het mariene milieu te schaden door afvalwater van de kerncentrale van Fukushima te lozen. We troffen de artikelen aan op platforms als Medium, Blogspot en ameblo.jp.

In april 2024 plaatste de campagne een reeks Engelstalige reacties met kritiek op de Chinese dissident Cai Xia. We identificeerden één X-account dat de eerste reactie plaatste en een cluster andere accounts die de overige reacties als antwoorden plaatsten. We zagen geen echte accounts die erop reageerden.

De campagne gebruikte onze modellen ook voor onderzoek in openbare bronnen, bijvoorbeeld naar het aanvragen van ontwikkelaarsaccounts op sociale media, en vroeg om samenvattingen van socialemediaberichten van critici van de Chinese overheid.

Het gebruik van kunstmatige intelligentie lijkt slechts een klein deel van de totale productie van het netwerk te hebben uitgemaakt. Zo plaatsten veel van de X- en Medium-accounts die volgens ons door onze modellen gegenereerde inhoud publiceerden, een grotere hoeveelheid inhoud die handmatig in het Engels en Chinees leek te zijn gemaakt. Dat bleek bijvoorbeeld uit onidiomatisch Engels. Ze plaatsten deze inhoud zowel vóór als na de door AI gegenereerde reacties.

Veel van de door deze campagne gegenereerde inhoud was in het Chinees. De onderwerpen varieerden van lof voor de internationale samenwerking van de Chinese overheid op het gebied van rechtshandhaving tot kritiek op misstanden tegen inheemse Amerikanen in de Verenigde Staten. Sommige inhoud bekritiseerde de Amerikaanse overheid en Microsoft omdat ze de activiteiten van de Chinese hackersgroep "Volt Typhoon" hadden onthuld.

Andere inhoud was in het Engels. Deze bekritiseerde doorgaans prominente critici van de Chinese overheid, zoals acteur en Tibet-activist Richard Gere en dissident Cai Xia. Enkele artikelen die eind 2023 in het Engels, Japans, Chinees, Koreaans en Russisch werden gegenereerd, beschuldigden Japan ervan de Stille Oceaan te vervuilen met de lozing van de kerncentrale van Fukushima⁠(opent in een nieuw venster)—een terugkerend thema bij Chinese beïnvloedingsoperaties.

Een klein cluster van activiteiten was gericht op het genereren van positieve reacties in het Chinees over een bezoek van de Chinese minister van Openbare Veiligheid aan Oezbekistan. Voor zover bekend had Spamouflage dit thema niet eerder behandeld. Het is interessant in het licht van de toeschrijving door de FBI⁠(opent in een nieuw venster) van eerdere socialemedia-activiteiten van deze operatie aan het Chinese ministerie van Openbare Veiligheid.

Sommige activiteiten van het netwerk lijken de persoonlijke interesses van de operators te weerspiegelen. Zo gebruikte één operator onze modellen om onderzoek te doen naar cameralenzen. Een andere operator gebruikte onze modellen om een opdracht te voltooien die een toets voor leden van de Chinese Communistische Partij lijkt te zijn geweest.

Spamouflage is een van de intensiefst onderzochte beïnvloedingsoperaties ter wereld sinds de operatie in 2019 voor het eerst openbaar werd beschreven⁠(opent in een nieuw venster). Er zijn vrijwel nooit berichten geweest dat de activiteiten ervan een echt publiek bereikten.

Het gebruik van door AI gegenereerde inhoud lijkt niets aan die dynamiek te hebben veranderd. Geen van de blogs, artikelen en socialemedia-accounts die we tijdens ons onderzoek identificeerden, kreeg veel interacties of volgers van echte mensen. In sommige gevallen wijzen de beschikbare indicatoren erop dat alleen ons onderzoeksteam hun berichten heeft bekeken.

Als we de impact van beïnvloedingsoperaties beoordelen met de Breakout Scale⁠(opent in een nieuw venster), die loopt van 1 (laagste) tot 6 (hoogste), beoordelen we dit als een operatie van categorie 2: er werden berichten op veel platforms geplaatst, maar er is geen bewijs dat mensen buiten het netwerk deze aanzienlijk hebben versterkt.

We hebben vastgesteld dat het volgende domein met deze campagne verband hield.

• revealscum.com