Operatie "Nine-emdash Line": regionale beïnvloedingsactiviteiten

Deze casestudy werd oorspronkelijk gepubliceerd in het rapport van oktober 2025⁠(opent in een nieuw venster) van OpenAI.

We blokkeerden een klein netwerk van ChatGPT‑accounts dat mogelijk betrokken was bij een geheime beïnvloedingsoperatie uit China en onze modellen gebruikte om content te genereren voor een platformoverschrijdende geheime beïnvloedingsoperatie. De accounts genereerden voornamelijk Engelstalige berichten voor sociale media over de vermeende milieuschade die Vietnam in de Zuid-Chinese Zee veroorzaakt, Engelstalige berichten met kritiek op de Filipijnse president Ferdinand Marcos en Kantoneestalige berichten over politici en activisten die betrokken zijn bij de prodemocratische beweging in Hongkong. In mindere mate genereerde deze operatie ook Engelstalige content over politieke kwesties in de VS.

De socialemedia-accounts die de content verspreidden, vertoonden enige gelijkenis met de langlopende operatie uit China die bekendstaat als "Spamouflage" en waarover we in mei 2024 schreven vanwege het gebruik van ChatGPT. We hebben echter geen technische verbanden tussen deze operaties vastgesteld. Sommige video's die in de meest recente berichten werden gedeeld, waren eerder door het Australian Strategic Policy Institute in verband gebracht met een operatie die eveneens overeenkomsten vertoonde met eerdere Spamouflage-activiteiten.

Dit netwerk leek zich onder meer te richten op het op grote schaal genereren van socialemediaberichten over landen die met China territoriale geschillen hebben in de Zuid-Chinese Zee/West-Filipijnse Zee. China maakt via een ruime grensafbakening die bekendstaat als de "Negenstreepjeslijn" aanspraak op de soevereiniteit over het grootste deel van dit gebied. Die aanspraak wordt op grond van het internationaal recht betwist en is door Vietnam, de Filipijnen en andere landen afgewezen. Vanwege die context en het gebruik van door AI gegenereerde tekst met gedachtestreepjes in de berichten hebben we deze operatie "Nine-emdash Line" genoemd. Deze berichten werden voornamelijk op X verspreid.

Tweet met content, inclusief een gedachtestreepje, die deze operatie met onze modellen genereerde.

Naast het genereren van reacties voor sociale media gebruikten de actoren onze modellen voor enkele onderzoeks- en verkenningstaken. Zo zochten ze naar nicheblogs en -forums, en naar minder streng gereguleerde onlineforums en sociale media in Europa, Amerika en Zuidoost-Azië. Daarnaast vroegen ze om lijsten met veelvoorkomende Tibetaanse namen. Dit gedrag hebben we ook waargenomen in andere gevallen waarin namen werden gegenereerd voor de misleidende socialemedia-accounts van operators. Deze activiteit leek op het gebruik van traditionele zoekmachines en leverde vergelijkbare resultaten op. Dit wijst erop dat het gebruik van AI voor onderzoek en het genereren van content de dreigingsactoren vooral meer gemak bood, maar niet noodzakelijk meer mogelijkheden.

Nieuw voor dit netwerk waren verzoeken om advies over strategieën om op sociale media te groeien, waaronder hoe je een TikTok-challenge begint en anderen ertoe brengt content te plaatsen met de hashtag #MyImmigrantStory. Dit is een al lange tijd veelgebruikte hashtag en de operatie probeerde waarschijnlijk van de populariteit ervan te profiteren. Ze vroegen ons model eerst ideeën te bedenken en vervolgens een transcript voor een TikTok-bericht te genereren, naast aanbevelingen voor achtergrondmuziek en afbeeldingen bij het bericht. Met opensourcetechnieken hebben we de op TikTok geplaatste content geïdentificeerd.

TikTok-bericht met tekst die deze operatie met onze modellen genereerde.

De onderwerpen in de Engelstalige socialemediaberichten die dit netwerk genereerde, varieerden van de vermeende milieuschade die Vietnam in de Zuid-Chinese Zee veroorzaakt tot de fentanylcrisis in de VS. Veel berichten beweerden dat de Filipijnse president Marcos op drugsgebruik was betrapt en verkiezingsmanipulatie zou hebben toegepast. De video die werd gedeeld bij berichten over het vermeende drugsgebruik van Marcos was niet door onze modellen gegenereerd. De Filipijnse regering had de video al eerder bestempeld als een deepfake of als digitaal gemanipuleerd. Veel van de X-accounts die door onze modellen gegenereerde content plaatsten, zijn inmiddels opgeschort.

Door deze operatie gegenereerde tweettekst waarin wordt beweerd dat de Filipijnse president Marcos bij een "drugsschandaal" betrokken was.

Door deze operatie gegenereerde tweettekst waarin wordt beweerd dat president Marcos verkiezingsmanipulatie toepaste.

De accounts vroegen ook om grote aantallen Kantoneestalige reacties die op X en Instagram werden geplaatst en kritisch of kleinerend waren over politici en activisten die betrokken zijn bij de prodemocratische beweging in Hongkong, zoals Jimmy Lai, Nathan Law en Agnes Chow. Deze berichten lijken bedoeld te zijn geweest om deze personen in diskrediet te brengen door hen als criminelen of verraders af te schilderen. Andere berichten spraken steun uit voor de nationaleveiligheidswetten van Hongkong.

In één ongebruikelijk geval plaatste een operator op X kritische reacties over prodemocratische politici uit Hongkong en genereerde vervolgens een reactie op de eigen opmerkingen waarin die politici juist werden geprezen. De kritiek en de reactie werden door twee verschillende accounts op X geplaatst.

Een door deze operatie gegenereerde steunbetuiging als reactie op een kritische tweet van een ander account binnen de operatie. De oorspronkelijke tweet luidt: "Kunnen Jimmy Lai en Jeffrey Ngo zichzelf zomaar vrijpleiten door in het buitenland zogenaamd 'asiel' te krijgen? 🤔 De misdadigers achter de chaos in Hongkong zijn geen helden; ze gebruiken 'politieke vluchteling' alleen als dekmantel voor hun identiteit als 'voortvluchtige'! Wie kaatst, kan de bal verwachten. Vroeg of laat moet je boeten; een 'verlaat-de-gevangenis-zonder-betalen-kaart' bestaat gewoon niet." De reactie luidt: "Deze twee mensen hebben de moed om naar voren te treden en de waarheid te spreken. Dat is in elk geval veel hoopvoller dan de huidige situatie in Hongkong, waar alles in stilte wordt gehuld." Alle interacties bij de oorspronkelijke tweets waren afkomstig van accounts die door dit netwerk werden beheerd.

Ondanks het grote aantal socialemediareacties dat op meerdere platforms werd gegenereerd, beoordelen we deze operatie op de Breakout Scale voor de impact van beïnvloedingsoperaties als categorie 2: activiteit op meerdere platforms, zonder doorbraak en met minimale betrokkenheid. De meeste berichten en socialemedia-accounts kregen weinig of geen interactie. Vaak waren de enige reacties op of reposts van berichten die dit netwerk op X en Instagram genereerde, afkomstig van andere socialemedia-accounts die door de operators van dit netwerk werden beheerd.

De door de socialemedia-accounts gebruikte persona's waren duidelijk gecoördineerd en weinig verfijnd. Ze vertoonden gedragskenmerken die ook voorkwamen bij andere geheime beïnvloedingsoperaties uit China. Zo plaatsten ze hashtags, afbeeldingen en video's die door eerdere operaties waren verspreid, en gebruikten ze stockfoto's als profielfoto of standaardgebruikersnamen op sociale media, waardoor ze eenvoudig te herkennen waren. Philstar.com merkte hun aanhoudende activiteit en het grote volume op verschillende platforms op. De website ontdekte en beschreef onafhankelijk een deel van het netwerk op X, dat actief bleef nadat we de bijbehorende ChatGPT‑accounts hadden geblokkeerd.