Operācija “Izsmējīgā recenzija”: Ķīnas izcelsmes ietekmēšanas darbība
OpenAI bloķēja kontus, kas izmantoja MI, lai veidotu ierakstus ar kritiku pret Taivānas sociālo mediju influenceri un par saistītām ASV tēmām.
Šis gadījuma apraksts sākotnēji publicēts OpenAI 2025. gada jūnija(atveras jaunā logā) ziņojumā.
Īstenotājs
Mēs bloķējām ChatGPT kontus, par kuriem konstatējām, ka tie izmantoja mūsu modeļus, lai masveidā veidotu sociālo mediju ierakstus, kas atbilda slēptas ietekmes operācijas darbībām. Izmeklēšanas gaitā novērojām arī to, ka šajos kontos tika sagatavoti iekšēji darbības rezultātu pārskati.
Šajos kontos uzvednes galvenokārt tika iesniegtas ķīniešu valodā, pievēršoties Ķīnai aktuālām politiskām un ģeopolitiskām tēmām. Kāds lietotājs uzvednē norādīja, ka strādā Ķīnas Propagandas departamentā, taču mums nav neatkarīgu pierādījumu, kas šo apgalvojumu apstiprinātu.
Rīcība
Mūsu bloķētajos kontos tika īstenoti divi galvenie darbības virzieni. Aktīvākais virziens bija īsu sociālo mediju komentāru veidošana angļu un ķīniešu valodā, kā arī dažu komentāru veidošana urdu valodā. Daudzus no šiem komentāriem atradām TikTok un X platformā, bet papildu saturs bija publicēts arī Reddit, Facebook un dažādās tīmekļvietnēs.
Parasti sākotnējais komentārs tika publicēts no “galvenā” konta, kas nereti šķietami bija izveidots tikai šim ierakstam, bet pēc tam no citiem kontiem tika publicēta virkne atbilžu. Šķiet, šādas rīcības mērķis bija radīt maldīgu iespaidu par dabisku lietotāju iesaisti.
Ar šo darbību saistīts TikTok ieraksts ar nosaukumu “#USAID slēgšana ir tikai #SĀKUMS!”. Kanāla nosaukumu, video subtitru tekstu un visus šajā ekrānuzņēmumā redzamos komentārus šis tīkls izveidoja, izmantojot ChatGPT.
TikTok komentētāju kontos tika izmantoti dažādu valodu un alfabētu lietotājvārdi, kas bieži neatbilda publicētā satura valodai. Piemēram, konts ar korejiešu vārdu publicēja komentāru urdu valodā, savukārt konti ar taizemiešu un ebreju vārdiem publicēja šī tīkla veidotus komentārus angļu valodā. Platformā X komentētāju kontos parasti tika izmantoti multiplikācijas filmu tēlu profila attēli, un dažos gadījumos kontu nosaukumi bija saistīti ar kriptovalūtām.
Tvīts un atbildes komentāri, ko šis tīkls izveidoja, izmantojot ChatGPT.
Facebook platformā tīkls darbojās mazāk aktīvi. Tā darbība galvenokārt ietvēra nosaukumu un profila attēlu veidošanu divām lapām, kas uzdevās par ziņu medijiem. Nevienai lapai nebija ne sekotāju, ne atzīmju “Patīk”, un katrā bija tikai daži ieraksti.
Facebook ieraksts, kurā kopīgots video, kas, pēc mūsu konstatētā, visticamāk, bija saistīts ar šo operāciju.
Tīkls reizēm veidoja arī garākus ierakstus ķīniešu vai angļu valodā. Vienu šādu ierakstu atradām Reddit, bet vēl divus — dažādos tīmekļa forumos. Otrajā darbības virzienā ChatGPT tika izmantots, lai veidotu dokumentus, kas šķietami bija paredzēti iekšējai politikas vai darbības rezultātu izvērtēšanai.
Izveidotais saturs
Šī apdraudējuma īstenotāja veidotais sociālo mediju saturs aptvēra dažādas tēmas, kas visas bija cieši saistītas ar Ķīnas ģeostratēģiskajām interesēm.
Daļa satura bija veltīta Taivānai, īpaši vēršoties pret “Apvērsto fronti”(atveras jaunā logā) (“逆統戰”) — Taivānas tematikai veltītu video un galda spēli, kurā attēlota pretošanās Ķīnas Komunistiskajai partijai. Tīkls ķīniešu valodā izveidoja desmitiem kritisku komentāru par spēli un pēc tam — garu rakstu, kurā apgalvots, ka tā izraisījusi plašu nosodījumu. Tā bija šīs operācijas raksturīgākā darbība, tāpēc nosaucām to par operāciju “Izsmējīgā recenzija”.
Cits saturs angļu un urdu valodā bija vērsts pret Pakistānas aktīvisti Mahrangu Baloču, kura ir publiski kritizējusi Ķīnas investīcijas Beludžistānā(atveras jaunā logā). Ar tīklu saistīts TikTok konts un Facebook lapa publicēja video, kurā Baloča tika nepatiesi apsūdzēta par filmēšanos pornogrāfiskā filmā. Pēc tam operācijas īstenotāji abās valodās izveidoja simtiem īsu komentāru, lai radītu plašas iesaistes iespaidu.
Pārsteiguma pilni komentāri pie Mahrangas Baločas TikTok video.
Noslēdzošā satura kopa bija veltīta ASV Starptautiskās attīstības aģentūras (USAID) slēgšanai, veidojot īsus komentārus, kuros šis lēmums tika vai nu slavēts, vai kritizēts. Šie komentāri tika publicēti TikTok un X platformā.
Tvīti, kuros palīdzības jautājums sasaistīts ar tarifu jautājumu un kurus šis tīkls izveidoja, izmantojot ChatGPT.
Visbeidzot, apdraudējuma īstenotāji izmantoja mūsu modeļus šķietami iekšēju dokumentu veidošanai, tostarp detalizētai esejai oficiāla sabiedriskās drošības dokumenta stilā un darbības rezultātu pārskatam, kurā aprakstīti operācijas izveides un īstenošanas soļi.
Ietekme
Kad pārtraucām mūsu modeļu izmantošanu šajā operācijā, tā, šķiet, vēl bija sākumposmā. Nevienai Facebook lapai nebija sekotāju. Viens Reddit ieraksts saņēma 44 pozitīvus vērtējumus, bet divi citi tika bloķēti vai dzēsti no apakšforumiem, kuros tie bija publicēti.
Ekrānuzņēmums ar ierakstu no Reddit konta, ko identificējām kā šī tīkla daļu; redzams, ka platformas filtri ierakstu dzēsa.
Iesaistes rādītāji X un TikTok platformā bija atšķirīgāki: abi TikTok video kopā saņēma 25 000 atzīmju “Patīk”, savukārt šīs operācijas galvenā konta tvīti parasti katrs sasniedza aptuveni 10 000 skatījumu. Tomēr daudzus komentārus pie šiem ierakstiem tīkls izveidoja, izmantojot ChatGPT, un tas liecina, ka vismaz daļa iesaistes nebija autentiska. Tāpēc visi iesaistes rādītāji jāvērtē piesardzīgi.
Izmantojot ietekmes operāciju ietekmes novērtēšanas izplatības skalu(atveras jaunā logā), mēs šo operāciju vērtētu 3. kategorijas zemākajā līmenī, ja X un TikTok iesaistes rādītāji būtu autentiski. Mēs šo vērtējumu pazeminātu, ja parādītos vairāk pierādījumu hipotēzei, ka lielākā daļa atzīmju “Patīk” un skatījumu, tāpat kā lielākā daļa komentāru, nebija autentiski.