”Spamouflage”-operaatio: Kiinaan liittyvä vaikuttamistoiminta

Tämä tapaustutkimus julkaistiin alun perin OpenAI:n toukokuun 2024⁠(avautuu uudessa ikkunassa) raportissa.

Estimme pienen määrän tilejä, jotka liittyivät Kiinasta lähtöisin olevaan ”Spamouflage”⁠(avautuu uudessa ikkunassa)-operaatioon. Meta⁠(avautuu uudessa ikkunassa) on yhdistänyt tämän operaation ”Kiinan lainvalvontaviranomaisiin yhteydessä oleviin henkilöihin”. FBI⁠(avautuu uudessa ikkunassa) on yhdistänyt osan operaation toiminnasta sosiaalisessa mediassa Kiinan yleisen turvallisuuden ministeriön alaiseen yksikköön.

Verkoston kohteena oli maailmanlaajuinen yleisö, erityisesti kiinalaisen diasporan jäsenet ja Kiinan hallinnon arvostelijat. Se tuotti sisältöä pääasiassa kiinaksi ja vähäisemmässä määrin englanniksi, japaniksi ja koreaksi.

Verkosto käytti mallejamme koodin virheenkorjaukseen, sosiaalisen median analysointia koskevien neuvojen pyytämiseen, uutisten ja ajankohtaisten tapahtumien tutkimiseen sekä blogifoorumeilla ja sosiaalisessa mediassa julkaistun sisällön luomiseen.

Vuonna 2023 verkosto esimerkiksi käytti mallejamme revealscum.com-sivuston WordPress-teeman määrittävän koodin virheenkorjaukseen. Sivustolla julkaistiin kiinankielistä kritiikkiä ja henkilötietoja sellaisista kiinalaisen diasporan jäsenistä, jotka olivat arvostelleet Kiinan hallintoa. Sivusto kutsui näitä arvostelijoita ”pettureiksi”. Itse sisältöä ei luotu malleillamme.

Kampanja käytti mallejamme myös sellaisen sisällön luomiseen, joka julkaistiin myöhemmin sosiaalisen median alustoilla ja foorumeilla. Vuoden 2023 lopulla operaatio esimerkiksi tuotti artikkeleita, joissa Japania syytettiin meriympäristön vahingoittamisesta päästämällä Fukushiman voimalaitoksen jätevettä mereen. Löysimme artikkeleita muun muassa Mediumista, Blogspotista ja ameblo.jp-palvelusta.

Huhtikuussa 2024 kampanja julkaisi joukon englanninkielisiä kommentteja, joissa arvosteltiin kiinalaista toisinajattelijaa Cai Xiaa. Tunnistimme yhden X-tilin, joka julkaisi ensimmäisen kommentin, sekä joukon muita tilejä, jotka julkaisivat loput kommentit vastauksina. Emme havainneet aitojen tilien vastaavan niihin.

Kampanja käytti mallejamme myös avoimiin lähteisiin perustuvaan tutkimukseen. Se esimerkiksi selvitti, miten sosiaalisen median kehittäjätilejä haetaan, ja pyysi yhteenvetoja Kiinan hallinnon arvostelijoiden julkaisuista sosiaalisessa mediassa.

Tekoälyn käyttö näyttää muodostaneen vain pienen osan verkoston kokonaistuotannosta. Esimerkiksi monet tunnistamamme X- ja Medium-tilit, jotka julkaisivat malleillamme tuotettua sisältöä, julkaisivat vielä enemmän sisältöä, joka vaikutti käsin laaditulta englanniksi ja kiinaksi. Tästä kertoi esimerkiksi epäidiomaattinen englanti. Ne julkaisivat tällaista sisältöä sekä ennen tekoälyllä luotuja kommentteja että niiden jälkeen.

Suuri osa kampanjan tuottamasta sisällöstä oli kiinankielistä. Aiheina olivat niin Kiinan hallinnon kansainvälisen lainvalvontayhteistyön ylistäminen kuin Yhdysvaltojen alkuperäiskansoihin kohdistuneiden väärinkäytösten arvostelu. Osassa sisällöstä arvosteltiin Yhdysvaltain hallintoa ja Microsoftia kiinalaisen ”Volt Typhoon” -hakkeriryhmän toiminnan paljastamisesta.

Osa sisällöstä oli englanninkielistä. Siinä arvosteltiin tyypillisesti Kiinan hallinnon tunnettuja kriitikoita, kuten näyttelijä ja Tiibet-aktivisti Richard Gereä sekä toisinajattelija Cai Xiaa. Muutamissa vuoden 2023 lopulla tuotetuissa englannin-, japanin-, kiinan-, korean- ja venäjänkielisissä artikkeleissa Japania syytettiin Tyynenmeren saastuttamisesta Fukushiman ydinvoimalan⁠(avautuu uudessa ikkunassa) päästöillä. Aihe on esiintynyt pitkään Kiinan vaikuttamisoperaatioissa.

Yksi pieni toimintaryhmä keskittyi luomaan kiinankielisiä myönteisiä kommentteja Kiinan yleisen turvallisuuden ministerin vierailusta Uzbekistaniin. Spamouflagen ei tiedetä käsitelleen tätä aihetta aiemmin. Se on kiinnostavaa, koska FBI on yhdistänyt⁠(avautuu uudessa ikkunassa) osan operaation aiemmasta toiminnasta sosiaalisessa mediassa Kiinan yleisen turvallisuuden ministeriöön.

Osa verkoston toiminnasta näyttää heijastaneen operaattorien henkilökohtaisia kiinnostuksenkohteita. Yksi operaattori esimerkiksi käytti mallejamme kameraobjektiivien tutkimiseen. Toinen käytti mallejamme tehtävään, joka vaikuttaa olleen Kiinan kommunistisen puolueen jäsenille tarkoitettu koe.

Spamouflage on ollut yksi maailman perusteellisimmin tutkituista vaikuttamisoperaatioista siitä lähtien, kun se kuvattiin ensimmäisen kerran julkisesti vuonna 2019⁠(avautuu uudessa ikkunassa). Vain hyvin harvoin sen toiminnan on raportoitu tavoittaneen aitoja yleisöjä.

Tekoälyllä luodun sisällön käyttö ei näytä muuttaneen tätä asetelmaa. Yksikään tutkimuksessamme tunnistetuista blogeista, artikkeleista tai sosiaalisen median tileistä ei saanut paljon aitojen ihmisten sitoutumisia tai seuraajia. Joissakin tapauksissa saatavilla olevat tiedot osoittavat, että vain tutkintaryhmämme katsoi niiden julkaisuja.

Kun vaikuttamisoperaation vaikutusta arvioidaan Breakout Scale -asteikolla⁠(avautuu uudessa ikkunassa) yhdestä (matalin) kuuteen (korkein), arvioisimme tämän luokan 2 operaatioksi. Sille oli ominaista julkaiseminen monilla alustoilla, mutta mikään ei viittaa siihen, että verkoston ulkopuoliset ihmiset olisivat merkittävästi vahvistaneet sen näkyvyyttä.

Tunnistimme seuraavan tähän kampanjaan liittyvän verkkotunnuksen.

• revealscum.com