Operácia „Spamouflage“: vplyvové aktivity prepojené s Čínou

Táto prípadová štúdia bola pôvodne uverejnená v správe OpenAI z mája 2024⁠(otvorí sa v novom okne).

Zablokovali sme malý počet účtov spojených s operáciou pochádzajúcou z Číny, ktorá je známa ako „Spamouflage“⁠(otvorí sa v novom okne). Spoločnosť Meta⁠(otvorí sa v novom okne) pripísala túto operáciu „osobám spojeným s čínskymi orgánmi presadzovania práva“. Časť aktivít tejto operácie na sociálnych sieťach pripísal FBI⁠(otvorí sa v novom okne) útvaru čínskeho ministerstva verejnej bezpečnosti.

Táto sieť sa zameriavala na publikum po celom svete, najmä na členov čínskej diaspóry a kritikov čínskej vlády. Obsah vytvárala najmä v čínštine a v menšej miere v angličtine, japončine a kórejčine.

Sieť používala naše modely na ladenie kódu, získavanie rád k analýze sociálnych sietí, prieskum správ a aktuálneho diania a tvorbu obsahu, ktorý následne uverejňovala na blogových fórach a sociálnych sieťach.

V roku 2023 napríklad použila naše modely na ladenie kódu, ktorým sa nastavovala téma WordPressu pre web revealscum.com. Tento web v čínštine uverejňoval kritiku a osobné údaje členov čínskej diaspóry, ktorí kritizovali čínsku vládu. Týchto kritikov označoval za „zradcov“. Samotný obsah nebol vytvorený pomocou našich modelov.

Kampaň používala naše modely aj na tvorbu obsahu, ktorý následne uverejňovala na sociálnych sieťach a fórach. Koncom roka 2023 napríklad vytvorila články, ktoré obviňovali Japonsko z poškodzovania morského prostredia vypúšťaním odpadovej vody z elektrárne Fukušima. Tieto články sme našli na platformách vrátane Medium, Blogspot a ameblo.jp.

V apríli 2024 kampaň uverejnila sériu komentárov v angličtine, ktoré kritizovali čínsku disidentku Cai Xia. Identifikovali sme jeden účet na X, ktorý uverejnil úvodný komentár, a skupinu ďalších účtov, ktoré v odpovediach uverejnili zvyšné komentáre. Nezaznamenali sme, že by na ne odpovedali nejaké skutočné účty.

Kampaň používala naše modely aj na prieskum otvorených zdrojov, napríklad na zisťovanie, ako požiadať o vývojárske účty na sociálnych sieťach, alebo na tvorbu súhrnov príspevkov kritikov čínskej vlády na sociálnych sieťach.

Zdá sa, že použitie umelej inteligencie predstavovalo iba malú časť celkovej produkcie tejto siete. Mnohé účty na X a Medium, ktoré podľa našich zistení uverejňovali obsah vytvorený našimi modelmi, napríklad publikovali ešte viac obsahu, ktorý bol zjavne vytvorený manuálne v angličtine a čínštine, čo okrem iného naznačovala neidiomatická angličtina. Tento obsah uverejňovali pred komentármi vytvorenými umelou inteligenciou aj po nich.

Veľká časť obsahu vytvoreného touto kampaňou bola v čínštine. Témy siahali od chvály medzinárodnej spolupráce čínskej vlády v oblasti presadzovania práva až po kritiku bezprávia páchaného na pôvodných obyvateľoch USA. Časť obsahu kritizovala vládu USA a spoločnosť Microsoft za odhalenie aktivít čínskej hackerskej skupiny známej ako „Volt Typhoon“.

Ďalší obsah bol v angličtine. Zvyčajne kritizoval významných kritikov čínskej vlády, ako sú herec a aktivista za Tibet Richard Gere či disidentka Cai Xia. Niekoľko článkov vytvorených koncom roka 2023 v angličtine, japončine, čínštine, kórejčine a ruštine obviňovalo Japonsko zo znečisťovania vôd Tichého oceánu vypúšťaním vody z jadrovej elektrárne Fukušima⁠(otvorí sa v novom okne) – ide o dlhodobú tému čínskych vplyvových operácií.

Jedna malá skupina aktivít sa zameriavala na tvorbu pozitívnych komentárov v čínštine o návšteve čínskeho ministra verejnej bezpečnosti v Uzbekistane. Nie je známe, že by sa Spamouflage tejto téme venovala už predtým. Je zaujímavá vzhľadom na to, že FBI pripísal⁠(otvorí sa v novom okne) niektoré skoršie aktivity tejto operácie na sociálnych sieťach čínskemu ministerstvu verejnej bezpečnosti.

Zdá sa, že niektoré aktivity siete odrážali osobné záujmy jej operátorov. Jeden operátor napríklad použil naše modely na prieskum objektívov fotoaparátov. Iný pomocou našich modelov vypracoval zadanie, ktoré bolo zrejme skúškou pre členov Komunistickej strany Číny.

Spamouflage patrí medzi najintenzívnejšie skúmané vplyvové operácie na svete odvtedy, ako bola prvýkrát verejne opísaná v roku 2019⁠(otvorí sa v novom okne). Len veľmi málo jej aktivít podľa dostupných správ oslovilo skutočné publikum.

Zdá sa, že použitie obsahu vytvoreného umelou inteligenciou túto situáciu nezmenilo. Žiadny z blogov, článkov ani účtov na sociálnych sieťach, ktoré sme počas vyšetrovania identifikovali, nezískal vysoký počet interakcií ani sledovateľov od skutočných ľudí. V niektorých prípadoch dostupné ukazovatele naznačujú, že ich príspevky si pozrel iba náš vyšetrovací tím.

Pri hodnotení vplyvu vplyvových operácií pomocou škály Breakout Scale⁠(otvorí sa v novom okne), ktorá ich hodnotí od 1 (najnižšia úroveň) do 6 (najvyššia úroveň), by sme túto operáciu zaradili do kategórie 2. Tá sa vyznačuje uverejňovaním na mnohých platformách, no bez dôkazov o výraznom šírení ľuďmi mimo siete.

Zistili sme, že s touto kampaňou súvisí nasledujúca doména.

• revealscum.com