Operation ”Hånrecension”: påverkansaktivitet med ursprung i Kina
OpenAI stängde av konton som använde AI för att skapa inlägg som kritiserade en taiwanesisk influerare och USA-relaterade ämnen.
Den här fallstudien publicerades ursprungligen i OpenAI:s rapport från juni 2025(öppnas i ett nytt fönster).
Aktör
Vi stängde av ChatGPT‑konton som vi upptäckte använde våra modeller för att massproducera inlägg på sociala medier som stämde överens med en dold påverkansoperation. Under utredningen såg vi också att dessa konton utarbetade interna verksamhetsutvärderingar.
Kontona gav främst instruktioner på kinesiska och fokuserade på politiska och geopolitiska frågor av betydelse för Kina. En användare uppgav i en Prompt att personen arbetade för den kinesiska propagandamyndigheten. Vi har dock inga oberoende belägg som styrker påståendet.
Beteende
Kontona som vi stängde av ägnade sig åt två huvudsakliga arbetsområden. Det mest omfattande var att skapa korta kommentarer för sociala medier på engelska och kinesiska samt ett fåtal på urdu. Vi konstaterade att många av kommentarerna publicerades på TikTok och X, medan ytterligare innehåll förekom på Reddit, Facebook och olika webbplatser.
Ett typiskt mönster var att först publicera en kommentar från ett ”huvudkonto”, som ofta tycktes ha skapats enbart för just det inlägget, och därefter en rad svarskommentarer från andra konton. Beteendet tycktes vara avsett att ge ett falskt intryck av organiskt engagemang.
TikTok-inlägg med rubriken ”Att stänga ner #USAID är bara #BÖRJAN!”, kopplat till den här aktiviteten. Kanalnamnet, texten i videons undertexter och samtliga kommentarer som syns i skärmbilden skapades av det här nätverket med ChatGPT.
På TikTok använde kommentarskontona användarnamn på en mängd olika språk och alfabet, ofta utan koppling till språket i innehållet de publicerade. Ett konto med koreanskt namn publicerade exempelvis en kommentar på urdu, medan konton med thailändska och hebreiska namn publicerade engelska kommentarer som skapats av nätverket. På X använde kommentarskontona vanligtvis tecknade profilbilder och hade i vissa fall namn med koppling till kryptovalutor.
En tweet och svarskommentarer till den, samtliga skapade av det här nätverket med ChatGPT.
Nätverket var mindre aktivt på Facebook. Aktiviteten bestod främst i att skapa namn och profilbilder åt två sidor som utgav sig för att vara nyhetsmedier. Ingen av sidorna hade några följare eller gilla-markeringar, och båda innehöll bara ett fåtal inlägg.
Facebook-inlägg som delar en video som vi bedömde sannolikt var kopplad till den här operationen.
Nätverket skapade ibland längre inlägg på kinesiska eller engelska. Vi hittade ett sådant inlägg på Reddit och ytterligare två på olika webbforum. Det andra arbetsområdet bestod i att använda ChatGPT för att skapa vad som tycks ha varit interna styrdokument eller verksamhetsutvärderingar.
Modellsvar
Innehållet som hotaktören skapade för sociala medier berörde en rad ämnen som alla låg nära Kinas geostrategiska intressen.
En del innehåll fokuserade på Taiwan och riktades särskilt mot ”Omvänd front”(öppnas i ett nytt fönster) (”逆統戰”), ett Taiwan-inriktat video- och brädspel som skildrar motstånd mot Kinas kommunistiska parti. Nätverket skapade dussintals kritiska kommentarer om spelet på kinesiska och därefter en längre artikel som hävdade att det hade mött omfattande kritik. Detta var operationens mest utmärkande aktivitet, och därför har vi gett den namnet ”Hånrecension”.
Annat innehåll på engelska och urdu riktades mot den pakistanska aktivisten Mahrang Baloch, som offentligt har kritiserat Kinas investeringar i Baluchistan(öppnas i ett nytt fönster). Ett TikTok-konto och en Facebook-sida med koppling till nätverket publicerade en video som felaktigt anklagade Baloch för att ha medverkat i en pornografisk film. Operationen skapade därefter hundratals korta kommentarer på båda språken för att ge sken av omfattande engagemang.
Bestörta kommentarer till TikTok-videon om Mahrang Baloch.
En sista grupp innehåll kretsade kring nedläggningen av USA:s biståndsmyndighet (USAID) och bestod av korta kommentarer som antingen hyllade eller kritiserade beslutet. Kommentarerna publicerades på TikTok och X.
Tweetar som kopplar samman frågorna om bistånd och tullar, skapade av det här nätverket med ChatGPT.
Slutligen använde hotaktörerna våra modeller för att skapa vad som tycks ha varit interna dokument, däribland en detaljerad uppsats skriven i stil med ett officiellt dokument om allmän säkerhet och en verksamhetsutvärdering som beskrev åtgärderna för att etablera och driva operationen.
Genomslag
Operationen tycks ha befunnit sig i ett tidigt skede när vi stoppade dess användning av våra modeller. Ingen av Facebook-sidorna hade några följare. På Reddit fick ett inlägg 44 uppröster, medan två andra blockerades eller togs bort från de subredditar där de hade publicerats.
Skärmbild av ett inlägg från ett Reddit-konto som vi identifierade som en del av det här nätverket. Bilden visar att inlägget togs bort av plattformens filter.
Engagemanget på X och TikTok varierade mer. De två TikTok-videorna fick sammanlagt 25 000 gilla-markeringar, medan tweetar från operationens huvudkonto vanligtvis fick omkring 10 000 visningar vardera. Många av kommentarerna till inläggen skapades dock av nätverket med ChatGPT, vilket tyder på att åtminstone en del av engagemanget inte var genuint. Alla uppgifter om engagemang bör därför bedömas med försiktighet.
Med hjälp av Breakout-skalan(öppnas i ett nytt fönster) för att mäta påverkansoperationers genomslag skulle vi bedöma detta som den lägre delen av kategori 3, om siffrorna för engagemang på X och TikTok var äkta. Vi skulle sänka bedömningen om fler belägg framkom för hypotesen att merparten av gilla-markeringarna och visningarna, liksom kommentarerna, inte var äkta.