Operasjon «Spamouflage»: Kina-tilknyttet påvirkningsaktivitet

Denne kasusstudien ble opprinnelig publisert i OpenAIs rapport fra mai 2024⁠(åpnes i et nytt vindu).

Vi utestengte et lite antall kontoer knyttet til den Kina-baserte operasjonen kjent som «Spamouflage»⁠(åpnes i et nytt vindu). Meta⁠(åpnes i et nytt vindu) har knyttet operasjonen til «personer med tilknytning til kinesisk politi». FBI⁠(åpnes i et nytt vindu) har knyttet deler av operasjonens aktivitet i sosiale medier til en enhet i Kinas departement for offentlig sikkerhet.

Dette nettverket rettet seg mot et globalt publikum, særlig den kinesiske diasporaen og kritikere av kinesiske myndigheter. Det genererte hovedsakelig innhold på kinesisk og i mindre grad på engelsk, japansk og koreansk.

Nettverket brukte modellene våre til å feilsøke kode, be om råd om analyse av sosiale medier, undersøke nyheter og aktuelle hendelser og generere innhold som deretter ble publisert på bloggfora og i sosiale medier.

I 2023 brukte nettverket for eksempel modellene våre til å feilsøke kode som angav WordPress-temaet for nettstedet revealscum.com. Nettstedet publiserte kritikk på kinesisk og personopplysninger om medlemmer av den kinesiske diasporaen som kritiserte kinesiske myndigheter. Det omtalte disse kritikerne som «forrædere». Selve innholdet ble ikke generert ved hjelp av modellene våre.

Kampanjen brukte også modellene våre til å lage innhold som deretter ble publisert på sosiale medier og fora. I slutten av 2023 genererte operasjonen for eksempel artikler som anklaget Japan for å skade havmiljøet ved å slippe ut avløpsvann fra Fukushima-kraftverket. Vi fant artiklene på blant annet Medium, Blogspot og ameblo.jp.

I april 2024 publiserte kampanjen en rekke engelskspråklige kommentarer som kritiserte den kinesiske dissidenten Cai Xia. Vi fant én X-konto som publiserte den første kommentaren, og en gruppe andre kontoer som publiserte resten som svar. Vi så ingen ekte kontoer som svarte på dem.

Kampanjen brukte også modellene våre til å gjøre undersøkelser i åpne kilder, blant annet om hvordan man søker om utviklerkontoer i sosiale medier, og til å be om sammendrag av innlegg fra kritikere av kinesiske myndigheter.

Bruken av kunstig intelligens ser bare ut til å ha utgjort en mindre del av nettverkets samlede produksjon. Mange av X- og Medium-kontoene vi fant som publiserte innhold generert av modellene våre, la for eksempel ut større mengder innhold som så ut til å være laget manuelt på engelsk og kinesisk, noe blant annet uidiomatisk engelsk tydet på. De publiserte dette innholdet både før og etter de AI-genererte kommentarene.

Mye av innholdet som kampanjen genererte, var på kinesisk. Temaene spente fra ros av kinesiske myndigheters internasjonale politisamarbeid til kritikk av overgrep mot amerikanske urfolk i USA. Noe av innholdet kritiserte amerikanske myndigheter og Microsoft for å ha avslørt aktiviteten til den kinesiske hackergruppen kjent som «Volt Typhoon».

Annet innhold var på engelsk. Dette kritiserte vanligvis fremtredende kritikere av kinesiske myndigheter, som skuespilleren og Tibet-aktivisten Richard Gere og dissidenten Cai Xia. Noen få artikler som ble generert sent i 2023 på engelsk, japansk, kinesisk, koreansk og russisk, anklaget Japan for å forurense Stillehavet med utslipp fra Fukushima-kjernekraftverket⁠(åpnes i et nytt vindu) – et tilbakevendende tema i kinesiske påvirkningsoperasjoner.

En liten aktivitetsgruppe fokuserte på å generere positive kommentarer på kinesisk om et besøk til Usbekistan av Kinas minister for offentlig sikkerhet. Spamouflage er ikke kjent for å ha tatt opp dette temaet tidligere. Det er interessant i lys av at FBI har knyttet⁠(åpnes i et nytt vindu) deler av operasjonens tidligere aktivitet i sosiale medier til Kinas departement for offentlig sikkerhet.

Deler av nettverkets aktivitet ser ut til å ha gjenspeilet operatørenes personlige interesser. Én operator brukte for eksempel modellene våre til å undersøke kameraobjektiver. En annen brukte modellene våre til å fullføre noe som ser ut til å ha vært en prøveoppgave for medlemmer av Kinas kommunistparti.

Spamouflage har vært en av verdens mest inngående undersøkte påvirkningsoperasjoner siden den først ble offentlig beskrevet i 2019⁠(åpnes i et nytt vindu). Svært lite av aktiviteten skal noen gang ha nådd reelle målgrupper.

Bruken av AI-generert innhold ser ikke ut til å ha endret denne dynamikken. Ingen av bloggene, artiklene eller kontoene i sosiale medier som vi identifiserte i undersøkelsen, fikk mange reaksjoner eller følgere fra ekte mennesker. I noen tilfeller viser de tilgjengelige indikatorene at de eneste som så innleggene, var etterforskningsteamet vårt.

Med Breakout-skalaen⁠(åpnes i et nytt vindu), som vurderer effekten av påvirkningsoperasjoner fra 1 (lavest) til 6 (høyest), vurderer vi dette som en kategori 2-operasjon. Den kjennetegnes av publisering på mange plattformer, men uten tegn til betydelig spredning blant personer utenfor nettverket.

Vi identifiserte følgende domene som tilknyttet denne kampanjen.

• revealscum.com