Operacija »Spamouflage«: dejavnost vplivanja, povezana s Kitajsko

Ta študija primera je bila prvotno objavljena v poročilu OpenAI za maj 2024⁠(odpre se v novem oknu).

Blokirali smo manjše število računov, povezanih z operacijo kitajskega izvora, znano kot »Spamouflage«⁠(odpre se v novem oknu). Družba Meta⁠(odpre se v novem oknu) je to operacijo pripisala »posameznikom, povezanim s kitajskimi organi kazenskega pregona«. Del dejavnosti te operacije na družbenih omrežjih je FBI⁠(odpre se v novem oknu) pripisal enoti znotraj kitajskega Ministrstva za javno varnost.

To omrežje je nagovarjalo občinstvo po vsem svetu, zlasti pripadnike kitajske diaspore in kritike kitajske vlade. Vsebino je ustvarjalo predvsem v kitajščini, v manjši meri pa tudi v angleščini, japonščini in korejščini.

Omrežje je naše modele uporabljalo za odpravljanje napak v kodi, pridobivanje nasvetov o analizi družbenih omrežij, raziskovanje novic in aktualnih dogodkov ter ustvarjanje vsebin, ki jih je nato objavilo na spletnih forumih in družbenih omrežjih.

Omrežje je na primer leta 2023 z našimi modeli odpravljalo napake v kodi za nastavitev teme WordPress na spletnem mestu revealscum.com. To spletno mesto je v kitajščini objavljalo kritike in osebne podatke pripadnikov kitajske diaspore, ki so kritizirali kitajsko vlado. Te kritike je označevalo za »izdajalce«. Sama vsebina ni bila ustvarjena z našimi modeli.

Kampanja je naše modele uporabljala tudi za ustvarjanje vsebin, ki jih je nato objavljala na družbenih omrežjih in forumih. Konec leta 2023 je operacija na primer ustvarjala članke, ki so Japonsko obtoževali škodovanja morskemu okolju z izpuščanjem odpadne vode iz elektrarne Fukušima. Članke smo odkrili na platformah, kot so Medium, Blogspot in ameblo.jp.

Aprila 2024 je kampanja objavila niz komentarjev v angleščini, ki so kritizirali kitajsko disidentko Cai Xia. Odkrili smo en račun na omrežju X, ki je objavil začetni komentar, in skupino drugih računov, ki so preostale komentarje objavili kot odgovore. Nismo zaznali, da bi nanje odgovoril kateri koli resnični račun.

Kampanja je naše modele uporabljala tudi za raziskovanje odprtih virov, na primer za iskanje navodil za pridobitev razvijalskih računov na družbenih omrežjih ali povzetkov objav kritikov kitajske vlade.

Kaže, da je uporaba umetne inteligence predstavljala le manjši del celotne produkcije tega omrežja. Številni računi na omrežju X in platformi Medium, za katere smo ugotovili, da objavljajo vsebino, ustvarjeno z našimi modeli, so na primer objavili še več vsebine, ki je bila očitno ročno ustvarjena v angleščini in kitajščini, kar med drugim nakazuje neidiomatična raba angleščine. To vsebino so objavljali tako pred objavo komentarjev, ustvarjenih z UI, kot po njej.

Velik del vsebine, ustvarjene v okviru te kampanje, je bil v kitajščini. Teme so segale od hvaljenja mednarodnega sodelovanja kitajske vlade na področju kazenskega pregona do kritiziranja zlorab ameriških staroselcev v Združenih državah. Del vsebine je kritiziral ameriško vlado in Microsoft zaradi razkritja dejavnosti kitajske hekerske skupine, znane kot »Volt Typhoon«.

Druga vsebina je bila v angleščini. Ta je navadno kritizirala ugledne kritike kitajske vlade, kot sta igralec in aktivist za Tibet Richard Gere ter disidentka Cai Xia. Nekaj člankov, ustvarjenih konec leta 2023 v angleščini, japonščini, kitajščini, korejščini in ruščini, je Japonsko obtoževalo onesnaževanja pacifiških voda z izpusti iz jedrske elektrarne Fukušima⁠(odpre se v novem oknu) – to je že dolgo prisotna tema kitajskih operacij vplivanja.

Manjša skupina dejavnosti je bila usmerjena v ustvarjanje pozitivnih komentarjev v kitajščini o obisku kitajskega ministra za javno varnost v Uzbekistanu. Ni znano, da bi se Spamouflage že prej ukvarjal s to temo. Zanimiva je glede na to, da je FBI del dejavnosti pripisal⁠(odpre se v novem oknu) kitajskemu Ministrstvu za javno varnost že pri nekaterih prejšnjih dejavnostih te operacije na družbenih omrežjih.

Kaže, da so nekatere dejavnosti omrežja odražale osebne interese operatorjev. En operator je na primer naše modele uporabljal za raziskovanje objektivov fotoaparatov. Drug operator je naše modele uporabil za reševanje naloge, ki je bila očitno preizkus za člane Komunistične partije Kitajske.

Spamouflage je ena najbolj temeljito raziskanih operacij vplivanja na svetu, odkar je bila leta 2019 prvič javno opisana⁠(odpre se v novem oknu). Le za zelo malo njenih dejavnosti so kadar koli poročali, da so dosegle pristno občinstvo.

Kaže, da uporaba vsebin, ustvarjenih z UI, te dinamike ni spremenila. Noben blog, članek ali račun na družbenem omrežju, ki smo ga med preiskavo opredelili kot del operacije, ni dosegel velikega števila interakcij ali sledilcev med resničnimi ljudmi. V nekaterih primerih razpoložljivi kazalniki kažejo, da so njihove objave videli samo člani naše preiskovalne skupine.

Po lestvici Breakout Scale⁠(odpre se v novem oknu) za ocenjevanje vpliva operacij vplivanja, ki jih razvršča od 1 (najnižja ocena) do 6 (najvišja ocena), bi to operacijo uvrstili v 2. kategorijo. Zanjo je značilno objavljanje na številnih platformah, vendar ni dokazov, da bi njeno vsebino znatno širili ljudje zunaj omrežja.

Ugotovili smo, da je s to kampanjo povezana naslednja domena.

• revealscum.com