Operation ”Nio–tankstreckslinjen”: Regional påverkansaktivitet

Denna fallstudie publicerades ursprungligen i OpenAI:s rapport från oktober 2025⁠(öppnas i ett nytt fönster).

Vi stängde av ett litet nätverk av ChatGPT‑konton som kan ha varit knutet till en hemlig påverkansoperation med ursprung i Kina och som använde våra modeller för att skapa innehåll till en plattformsöverskridande hemlig påverkansoperation. Kontona skapade främst engelskspråkiga inlägg för sociala medier om Vietnams påstådda miljöpåverkan i Sydkinesiska havet, engelskspråkiga inlägg som kritiserade Filippinernas president Ferdinand Marcos samt kantonesiska inlägg om politiker och aktivister inom Hongkongs prodemokratiska rörelse. I mindre omfattning skapade operationen även engelskspråkigt innehåll om politiska frågor i USA.

De konton i sociala medier som spred innehållet uppvisade vissa likheter med den långvariga operation med ursprung i Kina som kallas ”Spamouflage”, vars användning av ChatGPT vi skrev om i maj 2024. Vi identifierade dock inga tekniska kopplingar mellan operationerna. Några av videorna som delades i de senaste inläggen hade tidigare identifierats av Australian Strategic Policy Institute i en operation som också liknade tidigare Spamouflage-aktivitet.

Nätverket tycktes främst inrikta sig på att massproducera inlägg för sociala medier om länder som har territoriella tvister med Kina i Sydkinesiska havet/Västfilippinska havet. Kina gör anspråk på suveränitet över större delen av regionen genom en vidsträckt gränsdragning som kallas ”niostreckslinjen”. Den har ifrågasatts enligt internationell rätt och avvisats av Vietnam, Filippinerna och andra länder. Mot denna bakgrund, och eftersom operationens AI-genererade texter innehöll tankstreck, har vi gett operationen namnet ”Nio–tankstreckslinjen”. Inläggen spreds främst på X.

Tweet med innehåll – och tankstreck – som operationen skapade med hjälp av våra modeller.

Förutom att skapa kommentarer för sociala medier använde aktörerna våra modeller för viss informationsinhämtning och rekognosering. Detta omfattade att identifiera nischade bloggar och forum samt mindre reglerade nätforum och sociala medier i Europa, Amerika och Sydostasien. De bad även om listor över vanliga tibetanska namn, ett beteende som vi har sett i andra fall där namn skapades för operatörers falska konton i sociala medier. Aktiviteten liknade användning av traditionella sökmotorer och gav liknande resultat. Det tyder på att hotaktörernas användning av AI för informationsinhämtning och innehållsproduktion gjorde arbetet enklare, men inte nödvändigtvis gav dem större förmåga.

Ett nytt användningsområde för nätverket var att be om råd om tillväxtstrategier för sociala medier, bland annat hur man startar en TikTok-utmaning och får andra att publicera innehåll med hashtaggen #MyImmigrantStory. Det är en väletablerad och flitigt använd hashtagg vars popularitet operationen sannolikt försökte dra nytta av. De bad vår modell att ta fram idéer och därefter skapa ett manus till ett TikTok-inlägg samt rekommendera bakgrundsmusik och bilder till inlägget. Med hjälp av öppna källor identifierade vi innehållet som publicerades på TikTok.

TikTok-inlägg med text som operationen skapade med hjälp av våra modeller.

Ämnena i de engelskspråkiga inlägg som nätverket skapade för sociala medier sträckte sig från Vietnams påstådda miljöpåverkan i Sydkinesiska havet till fentanylkrisen i USA. I många av inläggen påstods det att Filippinernas president Marcos hade ertappats med att använda droger och att han hade använt metoder för att manipulera val. Videon som delades tillsammans med inlägg om Marcos påstådda droganvändning skapades inte av våra modeller och har tidigare av Filippinernas regering fördömts som en deepfake eller som digitalt manipulerad. Många av de X-konton som publicerade innehåll skapat av våra modeller har redan stängts av.

Tweettext som skapats av operationen och påstår att Filippinernas president Marcos ertappats i en ”drogskandal”.

Tweettext som skapats av operationen och påstår att president Marcos använde metoder för att manipulera val.

Kontona begärde även stora mängder kantonesiska kommentarer som publicerades på X och Instagram och som kritiserade eller förtalade politiker och aktivister inom Hongkongs prodemokratiska rörelse, däribland Jimmy Lai, Nathan Law och Agnes Chow. Inläggen tycks ha försökt misskreditera dessa personer genom att framställa dem som brottslingar eller förrädare. Andra inlägg gav sitt stöd åt Hongkongs nationella säkerhetslagar.

I ett ovanligt fall publicerade en operatör kritiska kommentarer om prodemokratiska politiker i Hongkong på X och skapade sedan ett svar på sina egna kommentarer där politikerna hyllades. Kritiken och svaret publicerades av två olika konton på X.

Ett stödjande svar som skapades av operationen på en kritisk tweet från ett annat konto inom operationen. Den ursprungliga tweeten lyder: ”Kan Jimmy Lai och Jeffrey Ngo rentvå sig bara genom att få så kallad ’asyl’ utomlands? 🤔 Brottslingarna bakom kaoset i Hongkong är inga hjältar. De använder bara benämningen ’politisk flykting’ för att dölja att de är ’rymlingar’! Som man bäddar får man ligga. Förr eller senare måste ni betala – något ’frikort ur fängelset’ finns helt enkelt inte.” Svaret lyder: ”De här två personerna har modet att träda fram och säga sanningen, vilket åtminstone är mycket ljusare än dagens miljö i Hongkong, där allt har tystnat.” Observera att all interaktion med de ursprungliga tweetarna kom från konton som drevs av detta nätverk.

Trots mängden kommentarer som skapades för sociala medier på flera plattformar bedömer vi operationens genomslag enligt Breakout Scale för påverkansoperationer som kategori 2: aktivitet på flera plattformar, inget genombrott eller minimalt engagemang. De flesta inläggen och kontona i sociala medier fick minimalt eller inget engagemang. Ofta kom de enda svaren på eller vidarepubliceringarna av nätverkets inlägg på X och Instagram från andra konton i sociala medier som kontrollerades av nätverkets operatörer.

De identiteter som kontona i sociala medier använde var tydligt samordnade och föga sofistikerade. De uppvisade beteenden som liknade andra hemliga påverkansoperationer med ursprung i Kina. Exempelvis publicerade de hashtaggar, bilder eller videor som hade spridits av tidigare operationer och använde arkivbilder som profilbilder eller förvalda användarnamn i sociala medier, vilket gjorde dem lätta att identifiera. Deras uthållighet och stora publiceringsvolym på flera plattformar uppmärksammades av Philstar.com, som oberoende av oss upptäckte och rapporterade om en del av nätverket på X. Denna del fortsatte sin verksamhet efter att vi hade stängt av dess ChatGPT‑konton.