Operation »Ni–tankestregs-linjen«: Regional påvirkningsaktivitet

Denne casestudie blev oprindeligt offentliggjort i OpenAI's rapport fra oktober 2025⁠(åbner i et nyt vindue).

Vi udelukkede et lille netværk af ChatGPT‑konti, som muligvis var knyttet til en skjult påvirkningsoperation med oprindelse i Kina, og som brugte vores modeller til at generere indhold til en skjult påvirkningsoperation på tværs af platforme. Kontiene genererede primært engelsksprogede opslag på sociale medier om Vietnams påståede miljøpåvirkning i Det Sydkinesiske Hav, engelsksprogede opslag med kritik af Filippinernes præsident Ferdinand Marcos samt kantonesisksprogede opslag på sociale medier om politikere og aktivister fra Hongkongs prodemokratiske bevægelse. I mindre omfang genererede operationen også engelsksproget indhold om politiske emner i USA.

De konti på sociale medier, der spredte indholdet, havde visse ligheder med den mangeårige operation med oprindelse i Kina, der er kendt som »Spamouflage«, og hvis brug af ChatGPT vi beskrev i maj 2024. Vi fandt dog ingen tekniske forbindelser mellem operationerne. Nogle af de videoer, der blev delt i de seneste opslag, var tidligere blevet identificeret af Australian Strategic Policy Institute i en operation, der også havde ligheder med tidligere Spamouflage-aktivitet.

Et fokusområde for dette netværk så ud til at være massegenerering af opslag på sociale medier om lande, der har territoriale stridigheder med Kina i Det Sydkinesiske Hav/Vestfilippinske Hav. Kina gør krav på suverænitet over størstedelen af området med henvisning til en vidtgående grænse, der kaldes »Ni-stregs-linjen«. Den er blevet anfægtet i henhold til international ret og afvist af Vietnam, Filippinerne og andre lande. På den baggrund og på grund af operationens brug af AI-genereret tekst med tankestreger i opslagene har vi kaldt operationen »Ni—tankestregs-linjen«. Disse opslag blev hovedsageligt spredt på X.

Tweet med indhold – og en tankestreg – genereret af denne operation ved hjælp af vores modeller.

Ud over at generere kommentarer til sociale medier brugte aktørerne vores modeller til visse research- og rekognosceringsopgaver. Det omfattede identifikation af nicheblogs og -fora samt mindre regulerede onlinefora og sociale medier i Europa, Amerika og Sydøstasien. Derudover bad de om lister over almindelige tibetanske navne. Denne adfærd har vi set i andre sager, hvor navne blev genereret til operatorernes uægte konti på sociale medier. Aktiviteten mindede om brugen af traditionelle søgemaskiner og gav lignende resultater. Det tyder på, at trusselsaktørernes brug af AI til både research og indholdsgenerering gjorde arbejdet nemmere, men ikke nødvendigvis forbedrede deres evner.

En ny anvendelse for netværket var anmodninger om rådgivning om vækststrategier på sociale medier, herunder hvordan man starter en TikTok-udfordring og får andre til at slå indhold op med hashtagget #MyImmigrantStory. Det er et veletableret og meget udbredt hashtag, hvis popularitet operationen sandsynligvis forsøgte at udnytte. De bad vores model om først at udvikle idéer og derefter generere et manuskript til et TikTok-opslag samt anbefale baggrundsmusik og billeder til opslaget. Ved hjælp af open source-metoder identificerede vi det indhold, der blev slået op på TikTok.

TikTok-opslag med tekst genereret af denne operation ved hjælp af vores modeller.

Emnerne i de engelsksprogede opslag på sociale medier, som netværket genererede, spændte fra Vietnams påståede miljøpåvirkning i Det Sydkinesiske Hav til fentanylkrisen i USA. Mange af opslagene hævdede, at Filippinernes præsident Marcos var blevet taget i at bruge narkotika og angiveligt havde benyttet metoder til valgmanipulation. Videoen, der blev delt sammen med opslagene om Marcos' påståede narkotikabrug, blev ikke genereret af vores modeller og er tidligere blevet fordømt af den filippinske regering som en deepfake eller digitalt manipuleret. Mange af de X-konti, der slog indhold genereret af vores modeller op, er allerede blevet suspenderet.

Tweettekst genereret af denne operation med en påstand om, at Filippinernes præsident Marcos var blevet afsløret i en »narkotikaskandale«.

Tweettekst genereret af denne operation med en påstand om, at præsident Marcos benyttede metoder til valgmanipulation.

Kontiene anmodede også om store mængder kantonesiske kommentarer, som blev slået op på X og Instagram, og som var kritiske eller nedsættende over for politikere og aktivister fra Hongkongs prodemokratiske bevægelse, herunder Jimmy Lai, Nathan Law og Agnes Chow. Opslagene ser ud til at have haft til formål at miskreditere disse personer ved at fremstille dem som kriminelle eller forrædere. Andre opslag støttede Hongkongs nationale sikkerhedslove.

I et usædvanligt tilfælde slog en operator kritiske kommentarer om prodemokratiske politikere fra Hongkong op på X og genererede derefter et svar på sine egne kommentarer, som roste disse personer. Kritikken og svaret blev slået op af to forskellige konti på X.

Et støttende svar genereret af denne operation på et kritisk tweet fra en anden konto i operationen. Det oprindelige tweet lyder: »Kan Jimmy Lai og Jeffrey Ngo bare renvaske sig selv ved at få såkaldt ‘asyl’ i udlandet? 🤔 De kriminelle bag kaosset i Hongkong er ikke helte. De bruger blot betegnelsen ‘politisk flygtning’ til at skjule, at de er ‘eftersøgte’! Som man sår, høster man. Før eller siden må man betale prisen – et ‘kom gratis ud af fængslet-kort’ findes ganske enkelt ikke.« Svaret lyder: »Disse to mennesker har modet til at stå frem og fortælle sandheden, og det er i det mindste langt mere opløftende end det nuværende miljø i Hongkong, hvor alt er tavst.« Bemærk, at alle interaktioner med de oprindelige tweets kom fra konti, som blev drevet af dette netværk.

Trods mængden af kommentarer, der blev genereret på tværs af flere sociale medieplatforme, vurderer vi operationen til kategori 2 på Breakout Scale for påvirkningsoperationers effekt: aktivitet på flere platforme, men ingen gennembrudseffekt eller kun minimal interaktion. De fleste opslag og konti på sociale medier fik minimal eller ingen interaktion. Ofte kom de eneste svar eller delinger af et opslag, som netværket havde genereret på X og Instagram, fra andre konti på sociale medier, der blev styret af netværkets operatorer.

De personaer, som kontiene på sociale medier brugte, var tydeligt koordinerede og usofistikerede. De udviste adfærdstræk, der lignede andre skjulte påvirkningsoperationer med oprindelse i Kina. De slog eksempelvis hashtags, billeder eller videoer op, som tidligere operationer havde spredt, og brugte stockfotos som profilbilleder eller sociale mediers standardbrugernavne, hvilket gjorde dem lette at identificere. Deres vedholdenhed og aktivitetsniveau på tværs af platforme blev bemærket af Philstar.com, som uafhængigt opdagede og beskrev en del af netværket på X. Netværket var fortsat aktivt, efter at vi havde udelukket dets ChatGPT‑konti.