Operation »Håneanmeldelse«: påvirkningsaktivitet med oprindelse i Kina
OpenAI udelukkede konti, der brugte AI til at generere opslag med kritik af en taiwansk influencer på sociale medier og relaterede amerikanske emner.
Denne casestudie blev oprindeligt offentliggjort i OpenAI's rapport fra juni 2025(åbner i et nyt vindue).
Aktør
Vi udelukkede ChatGPT‑konti, som vi konstaterede brugte vores modeller til at massegenerere opslag til sociale medier, der stemte overens med aktiviteterne i en skjult påvirkningsoperation. I løbet af vores undersøgelse observerede vi også, at disse konti udarbejdede interne præstationsevalueringer.
Disse konti indsendte primært prompter på kinesisk og fokuserede på politiske og geopolitiske emner med relevans for Kina. En bruger oplyste i en prompt, at vedkommende arbejdede for det kinesiske propagandaministerium. Vi har dog ingen uafhængige beviser, der kan bekræfte denne påstand.
Adfærd
De konti, vi udelukkede, beskæftigede sig med to primære arbejdsområder. Det mest omfattende bestod i at generere korte kommentarer til sociale medier på engelsk og kinesisk samt enkelte på urdu. Vi fandt mange af disse kommentarer på TikTok og X, mens yderligere indhold blev offentliggjort på Reddit, Facebook og forskellige websteder.
Et typisk mønster var, at en indledende kommentar blev slået op fra en »hovedkonto«, der ofte tilsyneladende kun var oprettet til dette ene opslag, hvorefter en række andre konti skrev svar. Denne adfærd syntes at skulle skabe et falsk indtryk af organisk engagement.
TikTok-opslag med titlen »Lukningen af #USAID er kun #BEGYNDELSEN!« med tilknytning til denne aktivitet. Kanalens navn, teksten i videoens undertekster og alle de kommentarer, der kan ses på dette skærmbillede, blev genereret af dette netværk ved hjælp af ChatGPT.
På TikTok brugte kommentarkontiene skærmnavne på mange forskellige sprog og alfabeter, som ofte ikke havde nogen forbindelse til sproget i det indhold, de slog op. Eksempelvis skrev en konto med et koreansk navn en kommentar på urdu, mens konti med thailandske og hebraiske navne skrev kommentarer på engelsk, som var genereret af dette netværk. På X brugte kommentarkontiene typisk tegnede profilbilleder og havde i nogle tilfælde navne med tilknytning til kryptovaluta.
Opslag på X og svar på det, som alle blev genereret af dette netværk ved hjælp af ChatGPT.
Netværket var mindre aktivt på Facebook. Aktiviteten bestod primært i at generere navne og profilbilleder til to sider, der udgav sig for at være nyhedsmedier. Ingen af siderne havde følgere eller synes godt om-tilkendegivelser, og hver side havde kun en håndfuld opslag.
Facebook-opslag, der deler en video, som vi vurderede sandsynligvis var knyttet til denne operation.
Netværket genererede lejlighedsvis længere opslag på kinesisk eller engelsk. Vi fandt ét sådant opslag på Reddit og to andre på forskellige internetfora. Det andet arbejdsområde bestod i at bruge ChatGPT til at generere, hvad der lader til at have været interne politik- eller præstationsevalueringsdokumenter.
Resultater
Det indhold til sociale medier, som denne trusselsaktør genererede, dækkede en række emner, der alle lå tæt op ad Kinas geostrategiske interesser.
Noget af indholdet fokuserede på Taiwan og var specifikt rettet mod »Omvendt front«(åbner i et nyt vindue) (»逆統戰«), et Taiwan-fokuseret video- og brætspil, der forestiller sig modstand mod det kinesiske kommunistparti. Netværket genererede snesevis af kritiske kommentarer på kinesisk om spillet, efterfulgt af en længere artikel, der hævdede, at det havde mødt omfattende modstand. Dette var operationens mest karakteristiske aktivitet, og derfor har vi givet den navnet »Håneanmeldelse«.
Andet indhold på engelsk og urdu var rettet mod den pakistanske aktivist Mahrang Baloch, som offentligt har kritiseret Kinas investeringer i Balochistan(åbner i et nyt vindue). En TikTok-konto og en Facebook-side med tilknytning til netværket offentliggjorde en video, der fejlagtigt beskyldte Baloch for at medvirke i en pornografisk film. Operationen genererede derefter hundredvis af korte kommentarer på begge sprog for at simulere et omfattende engagement.
Chokerede kommentarer til TikTok-videoen om Mahrang Baloch.
En sidste gruppe af indhold fokuserede på lukningen af USA's agentur for international udvikling (USAID) og genererede korte kommentarer, der enten roste eller kritiserede beslutningen. Disse kommentarer blev slået op på TikTok og X.
Opslag på X, der kæder spørgsmålet om bistand sammen med spørgsmålet om told, genereret af dette netværk ved hjælp af ChatGPT.
Endelig brugte trusselsaktørerne vores modeller til at generere, hvad der lader til at have været interne dokumenter, herunder et detaljeret essay skrevet som et officielt dokument fra de offentlige sikkerhedsmyndigheder og en præstationsevaluering, der beskrev de skridt, som blev taget for at etablere og drive operationen.
Gennemslagskraft
Denne operation lader til at have været på et tidligt stadie, da vi afbrød dens brug af vores modeller. Ingen af Facebook-siderne havde nogen følgere. På Reddit fik ét opslag 44 opstemmer, mens to andre blev blokeret eller fjernet fra de subreddits, hvor de blev slået op.
Skærmbillede af et opslag fra en Reddit-konto, som vi identificerede som en del af dette netværk. Det viser, at opslaget blev fjernet af platformens filtre.
Engagementet på X og TikTok var mere varierende. De to TikTok-videoer fik tilsammen 25.000 synes godt om-tilkendegivelser, mens opslag fra operationens hovedkonto på X typisk fik omkring 10.000 visninger hver. Mange af kommentarerne til disse opslag blev dog genereret af dette netværk ved hjælp af ChatGPT, hvilket tyder på, at i hvert fald en del af engagementet var uautentisk. Alle tal for engagement bør derfor tages med forbehold.
Hvis tallene for engagement på X og TikTok var autentiske, ville vi ved brug af Breakout-skalaen(åbner i et nyt vindue) for påvirkningsoperationers gennemslagskraft vurdere dette til at ligge i den lave ende af kategori 3. Vi ville nedjustere denne vurdering, hvis der kom flere beviser for hypotesen om, at størstedelen af synes godt om-tilkendegivelserne og visningerne – ligesom størstedelen af kommentarerne – var uautentiske.