Operaatio ”Pilkka-arvio”: Kiinasta lähtöisin oleva vaikuttamistoiminta
OpenAI esti tilejä, jotka tuottivat tekoälyllä Taiwanissa toimivaa sosiaalisen median vaikuttajaa ja Yhdysvaltoihin liittyviä aiheita arvostelevia julkaisuja.
Tämä tapaustutkimus julkaistiin alun perin OpenAI:n kesäkuun 2025(avautuu uudessa ikkunassa) raportissa.
Toimija
Estimme ChatGPT‑tilejä, joiden havaitsimme tuottavan malleillamme suuria määriä sosiaalisen median julkaisuja peiteltyä vaikuttamisoperaatiota vastaavalla tavalla. Tutkinnan aikana havaitsimme näiden tilien myös laativan sisäisiä suoritusarvioita.
Näillä tileillä kehotteet annettiin pääasiassa kiinaksi, ja ne keskittyivät Kiinan kannalta merkityksellisiin poliittisiin ja geopoliittisiin aiheisiin. Yksi käyttäjä kertoi kehotteessa työskentelevänsä Kiinan propagandaosastolla. Meillä ei kuitenkaan ole riippumatonta näyttöä väitteen vahvistamiseksi.
Toimintatavat
Estämillämme tileillä oli kaksi pääasiallista toimintalinjaa. Tuotteliain niistä oli lyhyiden sosiaalisen median kommenttien tuottaminen englanniksi ja kiinaksi sekä muutamissa tapauksissa urduksi. Havaitsimme, että monia näistä kommenteista julkaistiin TikTokissa ja X:ssä. Jonkin verran muuta sisältöä ilmestyi myös Redditiin, Facebookiin ja eri verkkosivustoille.
Tyypillisessä toimintamallissa ensimmäinen kommentti julkaistiin ”päätililtä”, joka oli usein ilmeisesti luotu vain kyseistä julkaisua varten. Sen jälkeen muut tilit julkaisivat sarjan vastauksia. Toiminnalla pyrittiin ilmeisesti luomaan valheellinen vaikutelma aidosta vuorovaikutuksesta.
Tähän toimintaan liittyvä TikTok-julkaisu, jonka otsikko oli ”#USAID:n lakkauttaminen on vasta #ALKUA!”. Kanavan nimen, videon tekstitykset ja kaikki tässä kuvakaappauksessa näkyvät kommentit tuotti tämä verkosto ChatGPT:llä.
TikTokissa kommentointiin käytettiin tilejä, joiden näyttönimet olivat eri kielillä ja eri kirjoitusjärjestelmillä eivätkä usein liittyneet julkaistun sisällön kieleen. Esimerkiksi koreankielisellä nimellä esiintynyt tili julkaisi kommentin urduksi, kun taas thai- ja hepreankielisillä nimillä esiintyneet tilit julkaisivat tämän verkoston tuottamia englanninkielisiä kommentteja. X:ssä kommentointiin käytetyillä tileillä oli yleensä sarjakuvamaisia profiilikuvia, ja joillakin niistä oli kryptovaluuttoihin liittyviä nimiä.
Twiitti ja siihen annetut vastaukset, jotka kaikki tämä verkosto tuotti ChatGPT:llä.
Verkosto oli vähemmän aktiivinen Facebookissa. Sen toiminta koostui pääasiassa nimien ja profiilikuvien tuottamisesta kahdelle uutissivustona esiintyneelle sivulle. Kummallakaan sivulla ei ollut seuraajia eikä tykkäyksiä, ja molemmilla oli vain muutama julkaisu.
Facebook-julkaisu, jossa jaettiin video, jonka tunnistimme todennäköisesti liittyvän tähän operaatioon.
Verkosto tuotti toisinaan pidempiä julkaisuja kiinaksi tai englanniksi. Tunnistimme yhden tällaisen julkaisun Redditissä ja kaksi muuta eri verkkofoorumeilla. Toisessa toimintalinjassa ChatGPT:llä tuotettiin ilmeisesti sisäisiä toimintaperiaatteita tai suoritusarvioita käsitteleviä asiakirjoja.
Tuotokset
Tämän uhkatoimijan tuottama sosiaalisen median sisältö käsitteli monenlaisia aiheita, jotka kaikki vastasivat läheisesti Kiinan geostrategisia etuja.
Osa sisällöstä keskittyi Taiwaniin ja kohdistui erityisesti ”Reversed Front”(avautuu uudessa ikkunassa) -peliin (”逆統戰”), joka on Taiwan-aiheinen video- ja lautapeli ja kuvaa vastarintaa Kiinan kommunistista puoluetta vastaan. Verkosto tuotti pelistä kymmeniä kriittisiä kiinankielisiä kommentteja ja sen jälkeen pitkän artikkelin, jossa väitettiin pelin herättäneen laajaa vastustusta. Tämä oli operaation tunnusomaisin toimintamuoto, minkä vuoksi nimesimme operaation ”Pilkka-arvioksi”.
Muu englannin- ja urdunkielinen sisältö kohdistui pakistanilaiseen aktivistiin Mahrang Balochiin, joka on arvostellut julkisesti Kiinan investointeja Belutšistaniin(avautuu uudessa ikkunassa). Verkostoon yhdistetty TikTok-tili ja Facebook-sivu julkaisivat videon, jossa Balochia syytettiin perättömästi esiintymisestä pornografisessa elokuvassa. Sen jälkeen operaatio tuotti satoja lyhyitä kommentteja molemmilla kielillä jäljitelläkseen laajaa vuorovaikutusta.
Järkyttyneitä kommentteja Mahrang Balochia käsittelevään TikTok-videoon.
Viimeinen sisältökokonaisuus keskittyi Yhdysvaltain kansainvälisen kehityksen viraston (USAID) lakkauttamiseen. Verkosto tuotti lyhyitä kommentteja, joissa päätöstä joko kiitettiin tai arvosteltiin. Kommentit julkaistiin TikTokissa ja X:ssä.
Twiittejä, joissa avustuskysymys yhdistettiin tullikysymykseen ja jotka tämä verkosto tuotti ChatGPT:llä.
Lopuksi uhkatoimijat tuottivat malleillamme ilmeisesti sisäisiä asiakirjoja. Niihin sisältyi virallisen yleisen turvallisuuden asiakirjan tyyliin laadittu yksityiskohtainen essee sekä suoritusarvio, jossa kuvattiin operaation perustamiseksi ja toteuttamiseksi tehdyt toimet.
Vaikutus
Operaatio vaikutti olleen vasta alkuvaiheessa, kun keskeytimme malliemme käytön siinä. Kummallakaan Facebook-sivulla ei ollut seuraajia. Redditissä yksi julkaisu sai 44 plusääntä, kun taas kaksi muuta estettiin tai poistettiin aliredditeistä, joihin ne oli julkaistu.
Kuvakaappaus tähän verkostoon kuuluvaksi tunnistamamme Reddit-tilin julkaisusta, jonka alustan suodattimet olivat poistaneet.
Vuorovaikutus X:ssä ja TikTokissa vaihteli enemmän: kaksi TikTok-videota keräsi yhteensä 25 000 tykkäystä, ja operaation päätilin twiitit saivat yleensä noin 10 000 katselukertaa kukin. Monet julkaisujen kommenteista olivat kuitenkin tämän verkoston ChatGPT:llä tuottamia, mikä osoittaa ainakin osan vuorovaikutuksesta olleen epäaitoa. Kaikkiin vuorovaikutuslukuihin on siksi suhtauduttava varauksella.
Vaikuttamisoperaatioiden vaikutusta mittaavalla Breakout-asteikolla(avautuu uudessa ikkunassa) arvioisimme operaation sijoittuvan luokan 3 alapäähän, jos X:n ja TikTokin vuorovaikutusluvut olivat aitoja. Laskisimme arviota, jos saataisiin lisää näyttöä siitä, että kommenttien tavoin myös suurin osa tykkäyksistä ja katselukerroista oli epäaitoja.