Operacija „Spamouflage“: su Kinija susijusi įtakos veikla
OpenAI užblokavo su iš KLR kilusia operacija „Spamouflage“ susijusias paskyras, kurios naudojo DI socialinių tinklų veiklai tirti, įrašams kurti ir anksčiau nežinotos svetainės kodui derinti.
Šis atvejo tyrimas pirmą kartą paskelbtas OpenAI 2024 m. gegužės(atsidaro naujame lange) ataskaitoje.
Veikėjas
Užblokavome kelias paskyras, susijusias su Kinijoje vykdyta operacija, žinoma kaip „Spamouflage“(atsidaro naujame lange). Pasak „Meta“(atsidaro naujame lange), šią operaciją vykdė „su Kinijos teisėsauga susiję asmenys“. Dalį šios operacijos veiklos socialiniuose tinkluose FTB(atsidaro naujame lange) susiejo su vienu Kinijos viešojo saugumo ministerijos padaliniu.
Elgsena
Šis tinklas taikėsi į auditorijas visame pasaulyje, ypač į kinų diasporos narius ir Kinijos vyriausybės kritikus. Jis daugiausia kūrė turinį kinų, o mažesniu mastu – anglų, japonų ir korėjiečių kalbomis.
Tinklas naudojo mūsų modelius kodui derinti, patarimams dėl socialinių tinklų analizės gauti, naujienoms ir aktualijoms tirti bei turiniui, vėliau skelbtam tinklaraščių forumuose ir socialiniuose tinkluose, kurti.
Pavyzdžiui, 2023 m. tinklas naudojo mūsų modelius svetainės revealscum.com „WordPress“ temos kodui derinti. Šioje svetainėje kinų kalba skelbta Kinijos vyriausybę kritikavusių kinų diasporos narių kritika ir asmeninė informacija. Šiuos kritikus svetainė vadino „išdavikais“. Pats turinys nebuvo sugeneruotas naudojant mūsų modelius.
Svetainės revealscum.com ekrano kopija, kurioje rodomas puslapis pavadinimu „汉奸“ („išdavikas“). Paslėpėme šios svetainės taikiniu tapusių žmonių veidus.
Ši kampanija mūsų modelius taip pat naudojo turiniui, kuris vėliau buvo skelbiamas socialinių tinklų platformose ir forumuose, kurti. Pavyzdžiui, 2023 m. pabaigoje per operaciją buvo sukurta straipsnių, kuriuose Japonija kaltinta kenkianti jūrų aplinkai, nes iš Fukušimos elektrinės išleidžia nuotekas. Straipsnių aptikome tokiose platformose kaip „Medium“, „Blogspot“ ir ameblo.jp.
2024 m. balandį vykdant kampaniją anglų kalba paskelbta virtinė komentarų, kuriuose kritikuota Kinijos disidentė Cai Xia. Nustatėme vieną X paskyrą, paskelbusią pirmąjį komentarą, ir grupę kitų paskyrų, kurios likusius komentarus paskelbė kaip atsakymus. Nepastebėjome, kad į juos būtų atsakiusi kuri nors tikra paskyra.
Įrašas ir atsakymai, kuriuose puolama Cai Xia. Turinį, naudodama mūsų modelius, sugeneravo „Spamouflage“. Atkreipkite dėmesį, kad nėra nei pasidalijimų, nei patiktukų. Visus dešimt pirminio įrašo komentarų paskelbė paskyros, naudojusios „Spamouflage“ sugeneruotą turinį.
Kampanijos vykdytojai mūsų modelius taip pat naudojo tyrimams iš atvirųjų šaltinių: pavyzdžiui, aiškinosi, kaip socialiniuose tinkluose gauti kūrėjų paskyras, arba prašė apibendrinti Kinijos vyriausybės kritikų įrašus socialiniuose tinkluose.
Atrodo, kad dirbtiniu intelektu sukurtas turinys sudarė tik nedidelę viso šio tinklo turinio dalį. Pavyzdžiui, daugelis X ir „Medium“ paskyrų, kurios, kaip nustatėme, skelbė mūsų modelių sugeneruotą turinį, paskelbė daugiau turinio, veikiausiai rankiniu būdu sukurto anglų ir kinų kalbomis (tai rodė, be kita ko, nenatūrali anglų kalba). Šį turinį jos skelbė ir prieš DI sugeneruotus komentarus, ir po jų.
2024 m. balandžio 22 d. įrašas iš vienos paskyrų, balandžio 19 d. paskelbusių DI sugeneruotą turinį. Atrodo, kad ir tekstas, ir vaizdas sukurti rankiniu būdu.
Turinys
Didelė dalis vykdant šią kampaniją sugeneruoto turinio buvo kinų kalba. Temos buvo įvairios: nuo Kinijos vyriausybės tarptautinio teisėsaugos bendradarbiavimo liaupsinimo iki piktnaudžiavimo prieš Amerikos čiabuvius Jungtinėse Valstijose kritikos. Dalyje turinio JAV vyriausybė ir „Microsoft“ kritikuotos už tai, kad atskleidė Kinijos programišių grupės, žinomos kaip „Volt Typhoon“, veiklą.
Kita turinio dalis buvo anglų kalba. Jame paprastai kritikuoti žinomi Kinijos vyriausybės kritikai, pavyzdžiui, aktorius ir Tibeto aktyvistas Richardas Gere’as bei disidentė Cai Xia. Keliuose 2023 m. pabaigoje anglų, japonų, kinų, korėjiečių ir rusų kalbomis sugeneruotuose straipsniuose Japonija kaltinta teršianti Ramiojo vandenyno vandenis iš Fukušimos atominės elektrinės(atsidaro naujame lange) išleidžiamu vandeniu – tai jau seniai Kinijos įtakos operacijose naudojama tema.
Viena nedidelė veiklos grupė buvo skirta teigiamiems komentarams kinų kalba apie Kinijos viešojo saugumo ministro vizitą Uzbekistane kurti. Nėra žinoma, kad „Spamouflage“ anksčiau būtų nagrinėjusi šią temą. Ji įdomi atsižvelgiant į tai, kad FTB susiejo(atsidaro naujame lange) dalį ankstesnės šios operacijos veiklos socialiniuose tinkluose su Kinijos viešojo saugumo ministerija.
Atrodo, kad dalis tinklo veiklos atspindėjo asmeninius Operatorių interesus. Pavyzdžiui, vienas Operatorius naudojo mūsų modelius fotoaparatų objektyvams tyrinėti. Kitas mūsų modelius naudojo užduočiai, kuri, regis, buvo bandomoji užduotis Kinijos komunistų partijos nariams, atlikti.
Poveikio vertinimas
Nuo tada, kai „Spamouflage“ buvo pirmą kartą viešai aprašyta 2019 m.(atsidaro naujame lange), ji tapo viena intensyviausiai pasaulyje tiriamų įtakos operacijų. Beveik nėra duomenų, kad jos veikla kada nors būtų pasiekusi tikras auditorijas.
Atrodo, kad DI sugeneruoto turinio naudojimas šios padėties nepakeitė. Nė vienas iš mūsų tyrimo metu nustatytų tinklaraščių, straipsnių ar socialinių tinklų paskyrų nesulaukė daug tikrų žmonių reakcijų ar sekėjų. Kai kuriais atvejais turimi duomenys rodo, kad jų įrašus peržiūrėjo tik mūsų tyrėjų komanda.
Vertindami įtakos operacijų poveikį pagal Proveržio skalę(atsidaro naujame lange), kurioje jos vertinamos nuo 1 (žemiausias įvertinimas) iki 6 (aukščiausias), šią operaciją priskirtume 2 kategorijai: veikla vykdyta daugelyje platformų, tačiau nėra įrodymų, kad ją būtų reikšmingai išplatinę tinklui nepriklausantys žmonės.
Indikatoriai
Nustatėme, kad su šia kampanija susijęs šis domenas.
revealscum.com