Operasjon «Ni–tankestrek-linjen»: Regional påvirkningsaktivitet

Denne casestudien ble opprinnelig publisert i OpenAIs rapport fra oktober 2025⁠(åpnes i et nytt vindu).

Vi utestengte et lite nettverk av ChatGPT‑kontoer som kan ha vært tilknyttet en skjult påvirkningsoperasjon med opphav i Kina, og som brukte modellene våre til å generere innhold til en skjult påvirkningsoperasjon på flere plattformer. Kontoene genererte hovedsakelig engelskspråklige innlegg i sosiale medier om Vietnams påståtte miljøpåvirkning i Sør-Kinahavet, engelskspråklige innlegg som kritiserte Filippinenes president Ferdinand Marcos, og kantonesiskspråklige innlegg om politikere og aktivister i Hongkongs demokratibevegelse. I mindre grad genererte operasjonen også engelskspråklig innhold om politiske spørsmål i USA.

Kontoene i sosiale medier som spredte innholdet, hadde enkelte likhetstrekk med den langvarige kinesiske operasjonen «Spamouflage», hvis bruk av ChatGPT vi omtalte i mai 2024. Vi fant imidlertid ingen tekniske forbindelser mellom operasjonene. Enkelte av videoene som ble delt i de nyeste innleggene, var tidligere blitt knyttet av Australian Strategic Policy Institute til en operasjon som også hadde likhetstrekk med tidligere Spamouflage-aktivitet.

Nettverket så ut til å konsentrere seg om masseproduksjon av innlegg i sosiale medier om land som har territorielle konflikter med Kina i Sør-Kinahavet / Vest-Filippinske hav. Kina gjør krav på suverenitet over størstedelen av regionen gjennom en vidtrekkende grenselinje kjent som «nistrekklinjen». Kravet er blitt bestridt med henvisning til folkeretten og avvist av Vietnam, Filippinene og andre land. På bakgrunn av dette, og fordi operasjonen brukte KI-generert tekst med lange tankestreker i innleggene sine, har vi kalt den «Ni—tankestrek-linjen». Disse innleggene ble hovedsakelig spredt på X.

Tweet med innhold – og en lang tankestrek – som operasjonen genererte ved hjelp av modellene våre.

I tillegg til å generere kommentarer i sosiale medier brukte aktørene modellene våre til enkelte oppgaver innen informasjonsinnhenting og rekognosering. Dette omfattet å finne nisjeblogger og -fora samt nettfora og sosiale medier med mindre streng regulering i Europa, Amerika og Sørøst-Asia. De ba også om lister over vanlige tibetanske navn. Vi har observert denne atferden i andre saker der det ble generert navn til operatorenes falske kontoer i sosiale medier. Aktiviteten lignet bruk av tradisjonelle søkemotorer og ga tilsvarende resultater. Dette tyder på at trusselaktørenes bruk av KI til både informasjonsinnhenting og innholdsproduksjon gjorde arbeidet enklere, men ikke nødvendigvis ga dem større kapasitet.

En ny bruksmåte for dette nettverket var å be om råd om strategier for vekst i sosiale medier, blant annet hvordan man starter en TikTok-utfordring og får andre til å publisere innhold med emneknaggen #MyImmigrantStory. Dette er en veletablert og mye brukt emneknagg som operasjonen trolig forsøkte å dra nytte av populariteten til. De ba modellen vår utvikle ideer og deretter lage et manus til et TikTok-innlegg, i tillegg til å anbefale bakgrunnsmusikk og bilder til innlegget. Ved hjelp av åpne kilder fant vi innholdet som ble publisert på TikTok.

TikTok-innlegg med tekst som operasjonen genererte ved hjelp av modellene våre.

Temaene i de engelskspråklige innleggene som nettverket genererte, spente fra Vietnams påståtte miljøpåvirkning i Sør-Kinahavet til fentanylkrisen i USA. Mange av innleggene hevdet at Filippinenes president Marcos var blitt tatt for narkotikabruk, og at han angivelig hadde brukt metoder for å manipulere valg. Videoen som ble delt sammen med innleggene om Marcos’ påståtte narkotikabruk, ble ikke generert av modellene våre. Filippinenes regjering har tidligere avvist den som en dypforfalskning eller digitalt manipulert video. Mange av X-kontoene som publiserte innhold generert av modellene våre, er allerede suspendert.

Tweet-tekst generert av operasjonen med en påstand om at Filippinenes president Marcos var blitt tatt i en «narkotikaskandale».

Tweet-tekst generert av operasjonen med en påstand om at president Marcos brukte metoder for å manipulere valg.

Kontoene ba også om store mengder kantonesiske kommentarer som ble publisert på X og Instagram, og som kritiserte eller omtalte politikere og aktivister i Hongkongs demokratibevegelse nedsettende, blant andre Jimmy Lai, Nathan Law og Agnes Chow. Innleggene ser ut til å ha hatt som mål å svekke disse personenes troverdighet ved å fremstille dem som kriminelle eller forrædere. Andre innlegg støttet Hongkongs nasjonale sikkerhetslover.

I ett uvanlig tilfelle publiserte en operator kritiske kommentarer om demokratiske politikere fra Hongkong på X, og genererte deretter et svar til sine egne kommentarer som roste de samme personene. Kritikken og svaret ble publisert av to forskjellige kontoer på X.

Et støttende svar generert av operasjonen på en kritisk tweet fra en annen konto i samme operasjon. Den opprinnelige tweeten lyder: «Kan Jimmy Lai og Jeffrey Ngo renvaske seg bare ved å få såkalt ‘asyl’ i utlandet? 🤔 De kriminelle bak kaoset i Hongkong er ikke helter. De bruker bare betegnelsen ‘politisk flyktning’ for å skjule at de er ‘rømlinger’! Som man reder, ligger man. Før eller siden må dere gjøre opp for dere – noe ‘frikort ut av fengsel’ finnes rett og slett ikke.» Svaret lyder: «Disse to har mot til å stå frem og si sannheten. Det er i det minste langt lysere enn dagens miljø i Hongkong, der alt er stille.» Merk at all interaksjon med de opprinnelige tweetene kom fra kontoer som ble drevet av dette nettverket.

Til tross for mengden kommentarer som ble generert på tvers av flere sosiale medier, vurderer vi operasjonen til kategori 2 på gjennomslagsskalaen for påvirkningsoperasjoner: aktivitet på flere plattformer, uten gjennombrudd og med minimal interaksjon. De fleste innleggene og kontoene i sosiale medier fikk få eller ingen interaksjoner. Ofte kom de eneste svarene eller videredelingene av et innlegg som nettverket genererte på X og Instagram, fra andre kontoer i sosiale medier som ble kontrollert av nettverkets operatorer.

Personaene som kontoene i sosiale medier brukte, var tydelig koordinerte og lite avanserte. De hadde atferdstrekk som lignet andre skjulte påvirkningsoperasjoner med opphav i Kina. De publiserte blant annet emneknagger, bilder og videoer som tidligere operasjoner hadde spredt, og brukte arkivbilder som profilbilder eller standardgenererte brukernavn. Dette gjorde dem enkle å identifisere. Philstar.com oppdaget omfanget og den vedvarende aktiviteten på tvers av plattformer. Nettstedet fant og rapporterte uavhengig om deler av nettverket på X, som fortsatte virksomheten etter at vi utestengte ChatGPT‑kontoene deres.