Operasjon «Hånanmeldelse»: Påvirkningsaktivitet med opphav i Kina

Denne kasusstudien ble opprinnelig publisert i OpenAIs rapport fra juni 2025⁠(åpnes i et nytt vindu).

Vi utestengte ChatGPT‑kontoer som vi oppdaget brukte modellene våre til å masseprodusere innlegg i sosiale medier som samsvarte med aktiviteten til en skjult påvirkningsoperasjon. I løpet av undersøkelsen observerte vi også at disse kontoene utarbeidet interne resultatvurderinger.

Disse kontoene brukte hovedsakelig prompter på kinesisk og fokuserte på politiske og geopolitiske temaer av betydning for Kina. Én bruker oppga i en prompt at vedkommende arbeidet for det kinesiske propagandadepartementet. Vi har imidlertid ingen uavhengige bevis som kan bekrefte denne påstanden.

Kontoene vi utestengte, var involvert i to hovedtyper arbeid. Den mest omfattende aktiviteten besto i å generere korte kommentarer til sosiale medier på engelsk og kinesisk, samt noen få på urdu. Vi fant mange av disse kommentarene på TikTok og X, mens noe annet innhold ble publisert på Reddit, Facebook og ulike nettsteder.

Et typisk mønster var at en første kommentar ble publisert fra en «hovedkonto», som ofte så ut til å være opprettet utelukkende for dette innlegget, etterfulgt av en rekke svar fra andre kontoer. Denne atferden så ut til å være utformet for å skape et falskt inntrykk av organisk engasjement.

På TikTok brukte kommentarkontoene visningsnavn på en rekke språk og med ulike alfabeter, ofte uten noen sammenheng med språket i innholdet de publiserte. En konto med et koreansk navn publiserte for eksempel en kommentar på urdu, mens kontoer med thailandske og hebraiske navn publiserte engelske kommentarer generert av dette nettverket. På X brukte kommentarkontoene vanligvis tegneseriefigurer som profilbilder, og i noen tilfeller hadde de navn knyttet til kryptovaluta.

Nettverket var mindre aktivt på Facebook. Aktiviteten besto hovedsakelig i å generere navn og profilbilder til to sider som utga seg for å være nyhetsmedier. Ingen av sidene hadde følgere eller likerklikk, og hver av dem inneholdt bare noen få innlegg.

Nettverket genererte av og til lengre innlegg på kinesisk eller engelsk. Vi fant ett slikt innlegg på Reddit og to andre på ulike nettfora. Den andre typen arbeid besto i å bruke ChatGPT til å generere dokumenter som ser ut til å ha vært interne retningslinjer eller resultatvurderinger.

Innholdet denne trusselaktøren genererte til sosiale medier, omfattet en rekke temaer som alle var nært knyttet til Kinas geostrategiske interesser.

Noe av innholdet handlet om Taiwan og var særlig rettet mot «Omvendt front»⁠(åpnes i et nytt vindu) («逆統戰»), et Taiwan-orientert video- og brettspill som skildrer motstand mot Kinas kommunistparti. Nettverket genererte flere titalls kritiske kommentarer om spillet på kinesisk, etterfulgt av en lengre artikkel som hevdet at det hadde møtt omfattende motstand. Dette var operasjonens mest særpregede aktivitet, og på dette grunnlaget har vi kalt den operasjon «Hånanmeldelse».

Annet innhold på engelsk og urdu var rettet mot den pakistanske aktivisten Mahrang Baloch, som offentlig har kritisert Kinas investeringer i Balutsjistan⁠(åpnes i et nytt vindu). En TikTok-konto og en Facebook-side knyttet til nettverket publiserte en video som feilaktig anklaget Baloch for å ha medvirket i en pornografisk film. Operasjonen genererte deretter hundrevis av korte kommentarer på begge språk for å gi inntrykk av omfattende engasjement.

Et siste sett med innhold dreide seg om nedleggelsen av USAs direktorat for internasjonal utvikling (USAID), og besto av korte kommentarer som enten roste eller kritiserte beslutningen. Disse kommentarene ble publisert på TikTok og X.

Til slutt brukte trusselaktørene modellene våre til å generere det som ser ut til å ha vært interne dokumenter, blant annet et detaljert essay skrevet i samme stil som et offisielt dokument fra sikkerhetsmyndighetene, og en resultatvurdering som beskrev tiltakene som ble gjennomført for å etablere og drive operasjonen.

Operasjonen ser ut til å ha vært i startfasen da vi stanset bruken av modellene våre. Ingen av Facebook-sidene hadde noen følgere. På Reddit fikk ett innlegg 44 oppstemmer, mens to andre ble blokkert eller fjernet fra subredditene der de ble publisert.

Engasjementet på X og TikTok varierte mer. De to TikTok-videoene fikk til sammen 25 000 likerklikk, mens innlegg fra operasjonens hovedkonto på X vanligvis fikk rundt 10 000 visninger hver. Mange av kommentarene til disse innleggene ble imidlertid generert av dette nettverket ved hjelp av ChatGPT, noe som tyder på at i hvert fall noe av engasjementet ikke var ekte. Alle tall for engasjement bør derfor behandles med varsomhet.

Målt etter Breakout-skalaen⁠(åpnes i et nytt vindu) for påvirkningsoperasjoners gjennomslag ville vi vurdert dette til nedre del av kategori 3 dersom engasjementstallene på X og TikTok var ekte. Vi ville nedjustert denne vurderingen dersom det fremkom flere bevis som støttet hypotesen om at de fleste likerklikkene og visningene, i likhet med de fleste kommentarene, ikke var ekte.