Operatsioon „Spamouflage“: Hiinaga seotud mõjutustegevus

See juhtumiuuring avaldati algselt OpenAI 2024. aasta mai⁠(avaneb uues aknas) aruandes.

Blokeerisime väikese arvu kontosid, mis olid seotud Hiinast lähtuva operatsiooniga „Spamouflage“⁠(avaneb uues aknas). Meta⁠(avaneb uues aknas) on seostanud selle operatsiooni „Hiina õiguskaitseasutustega seotud isikutega“. FBI⁠(avaneb uues aknas) seostas osa selle operatsiooni tegevusest sotsiaalmeedias Hiina avaliku julgeoleku ministeeriumi ühe üksusega.

See võrgustik võttis sihikule üleilmse publiku, eelkõige Hiina diasporaa liikmed ja Hiina valitsuse kritiseerijad. Sisu loodi peamiselt hiina keeles ning vähemal määral inglise, jaapani ja korea keeles.

Võrgustik kasutas meie mudeleid koodi silumiseks, sotsiaalmeedia analüüsi kohta nõu küsimiseks, uudiste ja päevakajaliste sündmuste uurimiseks ning hiljem blogifoorumites ja sotsiaalmeedias avaldatud sisu loomiseks.

Näiteks kasutas võrgustik 2023. aastal meie mudeleid veebisaidi revealscum.com WordPressi kujundusteemat määrava koodi silumiseks. Sellel veebisaidil avaldati hiina keeles kriitikat ja isikuandmeid Hiina valitsust kritiseerinud Hiina diasporaa liikmete kohta. Sait nimetas neid kriitikuid „reeturiteks“. Sisu ennast ei loodud meie mudelite abil.

Kampaania kasutas meie mudeleid ka sotsiaalmeediaplatvormidel ja foorumites avaldatud sisu loomiseks. Näiteks loodi 2023. aasta lõpus artikleid, milles süüdistati Jaapanit Fukushima elektrijaama reovee merre laskmisega merekeskkonna kahjustamises. Leidsime neid artikleid muu hulgas platvormidelt Medium, Blogspot ja ameblo.jp.

2024. aasta aprillis avaldas kampaania ingliskeelse kommentaarisarja, milles kritiseeriti Hiina teisitimõtlejat Cai Xiad. Tuvastasime ühe X-i konto, mis avaldas esialgse kommentaari, ja rühma teisi kontosid, mis postitasid ülejäänud kommentaarid vastustena. Me ei näinud, et neile oleks vastanud ükski päris konto.

Kampaania kasutas meie mudeleid ka avalikel allikatel põhinevaks uurimistööks, näiteks uuriti sotsiaalmeedias arendajakonto taotlemist või paluti teha kokkuvõtteid Hiina valitsuse kritiseerijate sotsiaalmeediapostitustest.

Tehisintellekti abil loodud sisu näib moodustavat vaid väikese osa võrgustiku kogutoodangust. Näiteks avaldasid paljud meie mudelite loodud sisu postitanud X-i ja Mediumi kontod veelgi rohkem sisu, mis näis olevat käsitsi loodud inglise ja hiina keeles (sellele viitas muu hulgas ebaloomulik inglise keele kasutus). Nad avaldasid seda sisu nii enne kui ka pärast tehisintellekti loodud kommentaaride postitamist.

Suur osa selle kampaania loodud sisust oli hiinakeelne. Teemad ulatusid Hiina valitsuse rahvusvahelise õiguskaitsekoostöö kiitmisest kuni Ameerika Ühendriikide põlisrahvaste väärkohtlemise kritiseerimiseni. Osa sisust kritiseeris USA valitsust ja Microsofti Hiina häkkerirühmituse „Volt Typhoon“ tegevuse paljastamise eest.

Osa sisust oli ingliskeelne. Selles kritiseeriti tavaliselt Hiina valitsuse tuntud arvustajaid, näiteks näitlejat ja Tiibeti aktivisti Richard Gere’i ning teisitimõtlejat Cai Xiad. Mõnes 2023. aasta lõpus inglise, jaapani, hiina, korea ja vene keeles loodud artiklis süüdistati Jaapanit Vaikse ookeani vee reostamises Fukushima tuumajaama⁠(avaneb uues aknas) heitveega. See on Hiina mõjutusoperatsioonide kauaaegne teema.

Üks väike tegevusrühm keskendus Hiina avaliku julgeoleku ministri Usbekistani-visiidi kohta hiinakeelsete positiivsete kommentaaride loomisele. Teadaolevalt ei ole Spamouflage seda teemat varem käsitlenud. See on tähelepanuväärne, arvestades FBI hinnangut⁠(avaneb uues aknas), mis seostas osa operatsiooni varasemast tegevusest sotsiaalmeedias Hiina avaliku julgeoleku ministeeriumiga.

Osa võrgustiku tegevusest näib kajastavat Operatorite isiklikke huve. Näiteks kasutas üks Operator meie mudeleid kaameraobjektiivide uurimiseks. Teine kasutas meie mudeleid ülesande lahendamiseks, mis näib olevat olnud Hiina Kommunistliku Partei liikmetele mõeldud test.

Spamouflage on olnud üks maailma põhjalikumalt uuritud mõjutusoperatsioone alates sellest, kui seda 2019. aastal esimest korda avalikult kirjeldati⁠(avaneb uues aknas). Selle tegevus on teadaolevalt päris publikuni jõudnud vaid väga harva.

Tehisintellekti loodud sisu kasutamine ei näi olevat seda olukorda muutnud. Ükski uurimise käigus tuvastatud blogi, artikkel ega sotsiaalmeediakonto ei kogunud päris inimestelt palju reaktsioone ega jälgijaid. Mõnel juhul näitavad kättesaadavad andmed, et nende postitusi vaatas ainult meie uurimisrühm.

Mõjutusoperatsiooni mõju hindamiseks kasutataval Breakout Scale’i skaalal⁠(avaneb uues aknas), kus operatsioone hinnatakse ühest (madalaim) kuueni (kõrgeim), hindaksime selle 2. kategooria operatsiooniks: tegevust avaldati paljudel platvormidel, kuid puuduvad tõendid, et võrgustikuvälised inimesed oleksid seda märkimisväärselt võimendanud.

Tuvastasime järgmise selle kampaaniaga seotud domeeni.

• revealscum.com