Operācija “Spamouflage”: ar Ķīnu saistītas ietekmes darbības

Šis gadījuma apraksts sākotnēji tika publicēts OpenAI 2024. gada maija⁠(atveras jaunā logā) ziņojumā.

Mēs bloķējām nelielu skaitu kontu, kas saistīti ar Ķīnas izcelsmes operāciju “Spamouflage”⁠(atveras jaunā logā). Meta⁠(atveras jaunā logā) šo operāciju ir saistījis ar “personām, kuras saistītas ar Ķīnas tiesībaizsardzības iestādēm”. Daļu šīs operācijas darbību sociālajos tīklos FIB⁠(atveras jaunā logā) saistīja ar kādu Ķīnas Sabiedriskās drošības ministrijas struktūrvienību.

Šis tīkls vērsās pie auditorijām visā pasaulē, jo īpaši Ķīnas diasporas pārstāvjiem un Ķīnas valdības kritiķiem. Tas galvenokārt ģenerēja saturu ķīniešu valodā un mazākā apjomā — angļu, japāņu un korejiešu valodā.

Tīkls izmantoja mūsu modeļus, lai atkļūdotu kodu, lūgtu padomus par sociālo tīklu analīzi, pētītu ziņas un aktuālos notikumus, kā arī ģenerētu saturu, ko pēc tam publicēja emuāru forumos un sociālajos tīklos.

Piemēram, 2023. gadā tīkls izmantoja mūsu modeļus, lai atkļūdotu kodu, ar kuru vietnei revealscum.com tika iestatīts WordPress dizains. Šajā vietnē ķīniešu valodā tika publicēta kritika un personas dati par tiem Ķīnas diasporas pārstāvjiem, kuri kritizēja Ķīnas valdību. Vietnē šie kritiķi tika dēvēti par “nodevējiem”. Pats saturs netika ģenerēts ar mūsu modeļiem.

Šajā kampaņā mūsu modeļi tika izmantoti arī tāda satura veidošanai, ko pēc tam publicēja sociālo tīklu platformās un forumos. Piemēram, 2023. gada nogalē operācijas īstenotāji ģenerēja rakstus, kuros Japāna tika apsūdzēta par kaitējumu jūras videi, novadot Fukušimas spēkstacijas notekūdeņus. Mēs šos rakstus atradām vairākās platformās, tostarp Medium, Blogspot un ameblo.jp.

2024. gada aprīlī kampaņas ietvaros angļu valodā tika publicēta virkne komentāru, kuros kritizēta Ķīnas disidente Cai Xia. Mēs identificējām vienu X kontu, kas publicēja sākotnējo komentāru, un citu kontu kopu, kas atbildēs publicēja pārējos komentārus. Mēs neredzējām nevienu īstu kontu, kas uz tiem būtu atbildējis.

Kampaņā mūsu modeļi tika izmantoti arī atklāto avotu izpētei, piemēram, lai noskaidrotu, kā pieteikties izstrādātāja kontiem sociālajos tīklos, vai lūgtu apkopot Ķīnas valdības kritiķu publikācijas sociālajos tīklos.

Šķiet, ka ar mākslīgo intelektu tika radīta tikai neliela daļa no tīkla kopējā satura. Piemēram, daudzi X un Medium konti, kuros, kā noskaidrojām, tika publicēts ar mūsu modeļiem ģenerēts saturs, daudz lielākā apjomā publicēja saturu, kas, šķiet, bija manuāli izveidots angļu un ķīniešu valodā (par to liecināja, piemēram, angļu valodai neraksturīgi formulējumi). Šo saturu tie publicēja gan pirms, gan pēc MI ģenerēto komentāru publicēšanas.

Liela daļa šīs kampaņas ģenerētā satura bija ķīniešu valodā. Tēmu loks bija plašs — no Ķīnas valdības starptautiskās sadarbības tiesībaizsardzības jomā slavēšanas līdz Amerikas pamatiedzīvotāju tiesību pārkāpumu kritizēšanai ASV. Daļā satura tika kritizēta ASV valdība un Microsoft par Ķīnas hakeru grupas “Volt Typhoon” darbību atklāšanu.

Cita satura daļa bija angļu valodā. Tajā parasti tika kritizēti ievērojami Ķīnas valdības kritiķi, piemēram, aktieris un Tibetas aktīvists Ričards Gīrs un disidente Cai Xia. Dažos 2023. gada nogalē angļu, japāņu, ķīniešu, korejiešu un krievu valodā ģenerētos rakstos Japāna tika apsūdzēta par Klusā okeāna ūdeņu piesārņošanu ar Fukušimas atomelektrostacijas⁠(atveras jaunā logā) notekūdeņiem — tā ir sena Ķīnas ietekmes operāciju tēma.

Viena neliela darbību kopa bija vērsta uz pozitīvu komentāru ģenerēšanu ķīniešu valodā par Ķīnas sabiedriskās drošības ministra vizīti Uzbekistānā. Nav zināms, ka Spamouflage iepriekš būtu pievērsies šādai tēmai. Tas ir būtiski, ņemot vērā FIB secinājumu⁠(atveras jaunā logā), ka daļa šīs operācijas iepriekšējo darbību sociālajos tīklos bija saistītas ar Ķīnas Sabiedriskās drošības ministriju.

Šķiet, ka daļa tīkla darbību atspoguļoja operatoru personīgās intereses. Piemēram, viens operators izmantoja mūsu modeļus, lai pētītu kameru objektīvus. Cits izmantoja mūsu modeļus, lai izpildītu uzdevumu, kas, šķiet, bija pārbaudījums Ķīnas Komunistiskās partijas biedriem.

Kopš pirmā publiskā apraksta 2019. gadā⁠(atveras jaunā logā) Spamouflage ir bijusi viena no visintensīvāk pētītajām ietekmes operācijām pasaulē. Ziņojumos gandrīz nekad nav norādīts, ka tās darbības būtu sasniegušas īstu auditoriju.

Šķiet, ka MI ģenerēta satura izmantošana šo situāciju nav mainījusi. Neviens no mūsu izmeklēšanā identificētajiem emuāriem, rakstiem un sociālo tīklu kontiem nesaņēma daudz mijiedarbību vai īstu cilvēku sekotāju. Dažos gadījumos pieejamie rādītāji liecina, ka viņu publikācijas bija skatījusi tikai mūsu izmeklēšanas grupa.

Vērtējot ietekmes operācijas pēc Breakout Scale⁠(atveras jaunā logā) skalas no 1 (zemākā ietekme) līdz 6 (augstākā ietekme), mēs šo operāciju novērtētu ar 2. kategoriju: saturs tika publicēts daudzās platformās, taču nav pierādījumu, ka ārpus tīkla esoši cilvēki to būtu būtiski izplatījuši.

Mēs identificējām šo ar kampaņu saistīto domēnu.

• revealscum.com