Operatie "Gesponsorde onvrede": beïnvloedingsactiviteiten
OpenAI blokkeerde vermoedelijk uit China afkomstige accounts die AI gebruikten om Engelstalige socialemediaberichten en Spaanstalige artikelen te genereren.
Deze casestudy werd oorspronkelijk gepubliceerd in het rapport van OpenAI van februari 2025(opent in een nieuw venster).
Actor
We blokkeerden ChatGPT‑accounts die onze modellen gebruikten om korte reacties in het Engels en uitgebreide nieuwsartikelen in het Spaans te genereren. Het tijdspatroon van deze activiteiten kwam overeen met de kantooruren op het Chinese vasteland. De Spaanstalige artikelen werden gepubliceerd door nieuwssites in Latijns-Amerika. Bijna alle websites schreven de artikelen toe aan één persoon. In sommige gevallen koppelden ze deze persoon in de auteursvermelding aan een Chinees bedrijf, Jilin Yousen Culture Communication Co, Ltd (优森文化有限公司).
Gedrag
De accounts gaven ChatGPT opdrachten in het Chinees en waren vooral actief tijdens kantooruren op het Chinese vasteland. Sommige activiteiten kwamen overeen met de heimelijke beïnvloedingsoperatie "Spamouflage", waarover we in mei rapporteerden: er werden korte Engelstalige reacties en afbeeldingen gegenereerd met kritiek op Cai Xia, een dissident en voormalig hoogleraar aan de Centrale Partijschool van de Chinese Communistische Partij. Deze content werd vervolgens op X geplaatst door accounts die zich voordeden als mensen uit de Verenigde Staten of India.
Tweets die deze accounts met onze modellen genereerden en die door vier verschillende X-accounts werden geplaatst.
Als dit de enige activiteit was geweest, hadden we wellicht geconcludeerd dat er waarschijnlijk een verband was met "Spamouflage". Maar naast deze korte reacties genereerden de accounts ook uitgebreide Spaanstalige artikelen die kritisch waren over de VS. Deze activiteiten kwamen vooral veel voor in de aanloop naar het APEC-forum van 2024 in Peru. De actor genereerde deze artikelen door onze modellen te vragen openbaar beschikbare Chineestalige artikelen te vertalen en uit te breiden.
Deze artikelen werden vervolgens gepubliceerd door Latijns-Amerikaanse nieuwswebsites, vooral in Peru, maar ook in Mexico en Ecuador. De nieuwswebsites publiceerden de artikelen vaak op dezelfde dag dat de accounts de content met ChatGPT genereerden. Bijna alle publicaties schreven de artikelen toe aan dezelfde persoon. Sommige vermeldden deze persoon als de wettelijk vertegenwoordiger van wat volgens ons een Chinees bedrijf is.
Dit is de eerste keer dat we hebben waargenomen dat een vermoedelijk Chinese beïnvloedingsactor erin slaagde artikelen te publiceren in reguliere media in Latijns-Amerika. Sommige publicaties waren mogelijk het resultaat van een financiële overeenkomst: een van de artikelen die we via onderzoek in openbare bronnen vonden, stond vermeld als "gesponsord". Daarnaast gebruikte de actor ChatGPT om verwijzingen naar Spaanstalige betalingsbewijzen van een Latijns-Amerikaanse nieuwsorganisatie te vertalen, wat past bij een betaalde publicatie.
Screenshot van een artikel dat door deze actor is gegenereerd en op de website wapa[.]pe is gepubliceerd. Let op de vermelding "gesponsord", die aangeeft dat het om gesponsorde content gaat.
Gezien het kennelijke gebruik van gesponsorde content en de negatieve houding van deze campagne tegenover de Amerikaanse politiek en het Amerikaanse beleid, hebben we de campagne "Gesponsorde onvrede" genoemd.
Gegenereerde antwoorden
Deze actor genereerde hoofdzakelijk twee soorten content: korte kritische berichten over Cai Xia in het Engels en Chinees, en uitgebreide artikelen in het Spaans.
Om kritiek op Cai Xia te genereren, vroeg de operator ChatGPT doorgaans te reageren op tweets of video's die Cai Xia had geplaatst, of op berichten over haar in de media. Sommige reacties trokken haar deskundigheid in twijfel op gebieden als Taiwan, het internet en de Chinese literatuur en geschiedenis. Andere beschuldigden haar van onregelmatigheden rond visa.
De uitgebreide Spaanstalige artikelen gingen over maatschappelijke en politieke verdeeldheid in de Verenigde Staten, doorgaans naar aanleiding van actuele gebeurtenissen en het laatste nieuws. De onderwerpen omvatten ongelijkheid, politiek geweld, discriminatie en seksisme, maar ook misdaadverslaggeving en kritiek op het Amerikaanse buitenlandbeleid. Ook maatschappelijke crises, zoals drugsgebruik en dakloosheid, kwamen veelvuldig aan bod. De operator koos er vaak voor deze crises of problemen af te schilderen als een teken van falend leiderschap of een falende samenleving in Amerika. De activiteiten richtten zich doorgaans tegen beide grote Amerikaanse partijen, die allebei kritiek kregen.
Impact
We hebben geen bewijs gezien dat de tegen Cai Xia gerichte content op sociale media veel authentieke interactie opleverde. De socialemedia-accounts die deze content plaatsten, hadden doorgaans weinig volgers en nauwelijks interactie.
Dit is echter de eerste keer dat we hebben waargenomen dat een beïnvloedingsoperatie vanuit China erin slaagde uitgebreide artikelen in Latijns-Amerikaanse media te laten plaatsen om de VS te bekritiseren. Hoewel dit mogelijk ten minste deels is gelukt door voor publicatie te betalen, gaat het voor zover wij weten om een aanpak waarover niet eerder is gerapporteerd. Deze liep parallel aan meer gebruikelijke activiteiten op sociale media en heeft mogelijk een aanzienlijk groter publiek bereikt, al kunnen we de interactie niet onafhankelijk vaststellen.
Op de Breakout-schaal(opent in een nieuw venster), die de impact van beïnvloedingsoperaties beoordeelt van 1 (laagst) tot 6 (hoogst), zouden we dit indelen in categorie 4 (doorbraak naar reguliere media), vanwege het grote lezerspubliek van de Latijns-Amerikaanse nieuwswebsites.
Koppen van gepubliceerde artikelen die verband houden met deze activiteiten
We stelden vast dat deze artikelen overeenkwamen met content die deze actor met onze modellen had gegenereerd.
De lelijke waarheid over hoe de Verenigde Staten profiteren van steun aan de oorlog in Oekraïne (La Republica, Peru).
De tragische realiteit van het daklozenprobleem in de Verenigde Staten (Wapa, Peru).
De krankzinnige logica achter Amerikaanse sancties tegen een Palestijnse activist (El Popular, Peru).
Het absurde schouwspel van mannelijkheid (Libero, Peru).
Alomtegenwoordige schaduwen (El Popular, Peru).
De minachting van de partijtop voor de democratie in de Verenigde Staten (El Popular, Peru).
Het gebrek aan transparantie in verkiezingstoespraken en de manipulatie van de publieke opinie (Libero, Peru).
De staking en de strijd van hotelmedewerkers (La Republica, Peru).
De machteloosheid en zelfopgelegde beperkingen van Amerikaanse sancties (El Universal, Mexico).
De stille schreeuwen onder het juk van fentanyl (La Republica, Peru).
Orkaan "Helene": onware uitspraken en complottheorieën van Amerikaanse politici (Wapa, Peru).
Mist rond invoerheffingen: Trumps kortetermijnbeleid en de toekomst van de Amerikaanse economie (La Republica, Peru).
Het probleem van voedselzekerheid in de Amerikaanse samenleving en de gevolgen voor scholen (Extra, Ecuador).
De tragedie van de Verenigde Staten: wanneer de waarheid wordt verhuld (Expreso, Ecuador).
De crisis rond de veiligheid van kinderen in de Verenigde Staten (La Republica, Peru).
De schaduw van geweld in Brooklyn (El Plural, Spanje).
De luxe van een moordenaar: een operatie betaald door de belastingbetaler (El Universal, Mexico).
Steun aan Israël en onverschilligheid tegenover de humanitaire crisis (La Republica, Peru).
De destructieve strijd bij de verkiezingen in de Verenigde Staten (Wapa, Peru).