Operatsioon „Pilkav arvustus“: Hiinast lähtuv mõjutustegevus

See juhtumiuuring avaldati algselt OpenAI 2025. aasta juuni⁠(avaneb uues aknas) aruandes.

Keelasime ChatGPT kontod, mis meie tuvastuse kohaselt kasutasid meie mudeleid varjatud mõjutusoperatsioonile omaste sotsiaalmeediapostituste massiliseks loomiseks. Uurimise käigus märkasime ka, et need kontod koostasid asutusesiseseid tulemuslikkuse hinnanguid.

Need kontod esitasid viibad peamiselt hiina keeles ning keskendusid Hiina jaoks olulistele poliitilistele ja geopoliitilistele teemadele. Üks kasutaja väitis viibas, et töötab Hiina propagandaosakonnas, kuid meil pole selle väite kinnitamiseks sõltumatuid tõendeid.

Meie keelatud kontod tegelesid peamiselt kahe töösuunaga. Mahukaim neist oli lühikeste sotsiaalmeediakommentaaride loomine inglise ja hiina keeles ning vähesel määral urdu keeles. Tuvastasime paljude nende kommentaaride avaldamise TikTokis ja X-is ning lisasisu ilmus Redditis, Facebookis ja mitmesugustel veebisaitidel.

Tüüpilise mustri korral avaldati esmalt kommentaar „põhikontolt“, mis oli sageli loodud ilmselt üksnes selle postituse jaoks, ning seejärel lisasid teised kontod hulga vastuseid. Selle käitumise eesmärk näis olevat jätta ekslik mulje loomulikust kaasatusest.

TikTokis kasutasid kommenteerivad kontod eri keeltes ja tähestikes kuvatavaid nimesid, mis polnud sageli seotud nende avaldatud sisu keelega. Näiteks avaldas koreakeelse nimega konto urdukeelse kommentaari, samal ajal kui tai- ja heebreakeelsete nimedega kontod avaldasid selle võrgustiku loodud ingliskeelseid kommentaare. X-is kasutasid kommenteerivad kontod tavaliselt multifilmilikke profiilipilte ja mõnel juhul krüptorahaga seotud nimesid.

Facebookis oli võrgustik vähem aktiivne. Seal loodi peamiselt nimesid ja profiilipilte kahele uudistekanalitena esinenud lehele. Kummalgi lehel polnud jälgijaid ega meeldimisi ning mõlemal oli ainult mõni postitus.

Aeg-ajalt lõi võrgustik hiina- või ingliskeelseid pikemaid postitusi. Tuvastasime ühe sellise postituse Redditis ja veel kaks eri veebifoorumites. Teises töösuunas kasutati ChatGPT‑d ilmselt asutusesiseste poliitika- või tulemuslikkuse hindamise dokumentide loomiseks.

Selle ohutegutseja loodud sotsiaalmeediasisu käsitles mitmesuguseid teemasid, mis kõik olid tihedalt seotud Hiina geostrateegiliste huvidega.

Osa sisust keskendus Taiwanile ja oli suunatud eeskätt mängu „Pööratud rinne“⁠(avaneb uues aknas) („逆統戰“) vastu. See Taiwani-keskne video- ja lauamäng kujutab vastupanu Hiina Kommunistlikule Parteile. Võrgustik lõi mängu kohta kümneid hiinakeelseid kriitilisi kommentaare ning seejärel pika artikli, milles väideti, et mäng on pälvinud ulatuslikku vastuseisu. See oli operatsiooni kõige eripärasem tegevus ja seetõttu nimetasime operatsiooni „Pilkavaks arvustuseks“.

Muu inglise- ja urdukeelne sisu oli suunatud Pakistani aktivisti Mahrang Balochi vastu, kes on avalikult kritiseerinud Hiina investeeringuid Belutšistanis⁠(avaneb uues aknas). Võrgustikuga seotud TikToki konto ja Facebooki leht avaldasid video, milles Balochi süüdistati alusetult pornograafilises filmis osalemises. Seejärel lõi operatsioon mõlemas keeles sadu lühikesi kommentaare, et jätta mulje laialdasest kaasatusest.

Viimane sisurühm keskendus USA Rahvusvahelise Arengu Agentuuri (USAID) sulgemisele ning selle sammu kiitmiseks või kritiseerimiseks loodi lühikesi kommentaare. Need kommentaarid avaldati TikTokis ja X-is.

Lisaks kasutasid ohutegutsejad meie mudeleid ilmselt asutusesiseste dokumentide loomiseks. Nende seas olid ametliku avaliku julgeoleku dokumendi stiilis üksikasjalik essee ja tulemuslikkuse hinnang, milles kirjeldati operatsiooni loomise ja juhtimise samme.

Kui takistasime sellel operatsioonil meie mudelite kasutamist, näis see olevat alles algusjärgus. Kummalgi Facebooki lehel polnud ühtegi jälgijat. Redditis sai üks postitus 44 poolthäält, kuid kaks teist blokeeriti või eemaldati alamfoorumitest, kuhu need postitati.

Kaasatus X-is ja TikTokis oli ebaühtlasem: kaks TikToki videot kogusid kokku 25 000 meeldimist, operatsiooni põhikonto säutsud aga tavaliselt umbes 10 000 vaatamist. Paljud nende postituste kommentaarid lõi aga see võrgustik ChatGPT abil, mis osutab vähemalt osaliselt ebaautentsele kaasatusele. Seetõttu tuleb kõigisse kaasatuse näitajatesse suhtuda ettevaatusega.

Mõjutusoperatsioonide mõju mõõtva Breakout Scale’i⁠(avaneb uues aknas) järgi hindaksime selle 3. kategooria madalamasse otsa, kui X-i ja TikToki kaasatusnäitajad oleksid autentsed. Langetaksime hinnangut, kui ilmneks rohkem tõendeid hüpoteesi toetuseks, et enamik meeldimisi ja vaatamisi oli sarnaselt enamiku kommentaaridega ebaautentne.