Operacija „Spamouflage“: aktivnosti utjecaja povezane s Kinom

Ova studija slučaja prvobitno je objavljena u OpenAI izvještaju iz maja 2024.⁠(otvara se u novom prozoru)

Zabranili smo mali broj računa povezanih s operacijom porijeklom iz Kine poznatom kao „Spamouflage“⁠(otvara se u novom prozoru). Kompanija Meta⁠(otvara se u novom prozoru) ovu je operaciju pripisala „pojedincima povezanim s kineskim organima za provođenje zakona“. Dio aktivnosti ove operacije na društvenim mrežama FBI⁠(otvara se u novom prozoru) je pripisao jedinici unutar kineskog Ministarstva javne sigurnosti.

Ova mreža ciljala je publiku širom svijeta, posebno pripadnike kineske dijaspore i kritičare kineske vlade. Sadržaj je uglavnom generirala na kineskom, a u manjoj mjeri na engleskom, japanskom i korejskom jeziku.

Mreža je koristila naše modele za otklanjanje grešaka u kodu, traženje savjeta o analizi društvenih mreža, istraživanje vijesti i aktuelnih događaja te generiranje sadržaja koji je potom objavljivan na blogovima, forumima i društvenim mrežama.

Naprimjer, mreža je 2023. koristila naše modele za otklanjanje grešaka u kodu kojim se postavljala WordPress tema za web-stranicu revealscum.com. Na ovoj web-stranici objavljivane su kritike na kineskom i lični podaci pripadnika kineske dijaspore koji su kritizirali kinesku vladu. Ove kritičare nazivala je „izdajnicima“. Sam sadržaj nije generiran pomoću naših modela.

Ova kampanja koristila je naše modele i za izradu sadržaja koji je potom objavljivan na platformama društvenih mreža i forumima. Naprimjer, krajem 2023. operacija je generirala članke u kojima je Japan optužen za nanošenje štete morskom okolišu ispuštanjem otpadnih voda iz elektrane Fukushima. Članke smo pronašli na platformama kao što su Medium, Blogspot i ameblo.jp.

U aprilu 2024. kampanja je objavila niz komentara na engleskom u kojima je kritizirana kineska disidentica Cai Xia. Otkrili smo jedan račun na X-u koji je objavio prvi komentar i skup drugih računa koji su preostale komentare objavili kao odgovore. Nismo vidjeli da im je odgovorio ijedan stvarni račun.

Kampanja je naše modele koristila i za istraživanje javno dostupnih izvora, naprimjer kako se prijaviti za razvojne račune na društvenim mrežama, kao i za traženje sažetaka objava kritičara kineske vlade na društvenim mrežama.

Čini se da je upotreba umjetne inteligencije činila tek manji dio ukupnog sadržaja ove mreže. Naprimjer, mnogi računi na X-u i Mediumu za koje smo utvrdili da objavljuju sadržaj generiran našim modelima objavili su veću količinu sadržaja za koji se činilo da je ručno izrađen na engleskom i kineskom jeziku, na šta je, između ostalog, ukazivala neprirodna upotreba engleskog. Taj sadržaj objavljivali su i prije i nakon objavljivanja komentara generiranih umjetnom inteligencijom.

Velik dio sadržaja koji je generirala ova kampanja bio je na kineskom jeziku. Teme su se kretale od pohvala međunarodnoj saradnji kineske vlade u provođenju zakona do kritika zlostavljanja američkih starosjedilaca u Sjedinjenim Američkim Državama. U dijelu sadržaja kritizirani su vlada SAD-a i Microsoft zbog razotkrivanja aktivnosti kineske hakerske grupe poznate kao „Volt Typhoon“.

Ostali sadržaj bio je na engleskom jeziku. U njemu su obično kritizirani istaknuti kritičari kineske vlade, poput glumca i aktiviste za Tibet Richarda Gerea i disidentice Cai Xia. Nekoliko članaka generiranih krajem 2023. na engleskom, japanskom, kineskom, korejskom i ruskom optuživalo je Japan da ispuštanjem iz nuklearne elektrane Fukushima⁠(otvara se u novom prozoru) zagađuje vode Tihog okeana — što je dugogodišnja tema kineskih operacija utjecaja.

Jedan mali skup aktivnosti bio je usmjeren na generiranje pozitivnih komentara na kineskom o posjeti kineskog ministra javne sigurnosti Uzbekistanu. Nije poznato da se Spamouflage ranije bavio ovom temom. Ona je zanimljiva u svjetlu toga što je FBI pripisao⁠(otvara se u novom prozoru) neke ranije aktivnosti ove operacije na društvenim mrežama kineskom Ministarstvu javne sigurnosti.

Čini se da su neke aktivnosti mreže odražavale lične interese operatora. Naprimjer, jedan operator koristio je naše modele za istraživanje objektiva za fotoaparate. Drugi je koristio naše modele da uradi nešto što je, čini se, bio testni zadatak za članove Komunističke partije Kine.

Spamouflage je jedna od najintenzivnije istraživanih operacija utjecaja na svijetu otkako je prvi put javno opisana 2019.⁠(otvara se u novom prozoru) Vrlo rijetko je zabilježeno da su njene aktivnosti doprle do autentične publike.

Čini se da upotreba sadržaja generiranog umjetnom inteligencijom nije promijenila tu dinamiku. Među blogovima, člancima i računima na društvenim mrežama koje smo obuhvatili istragom nijedan nije privukao velik broj interakcija ili praćenja stvarnih ljudi. U nekim slučajevima dostupni pokazatelji upućuju na to da su njihove objave pregledali samo članovi našeg istražnog tima.

Prema skali Breakout⁠(otvara se u novom prozoru) za procjenu utjecaja operacija utjecaja, koja ih rangira od 1 (najniže) do 6 (najviše), ovu bismo operaciju svrstali u kategoriju 2. Obilježava je objavljivanje na brojnim platformama, ali nema dokaza da su je značajno pojačavali ljudi izvan mreže.

Utvrđeno je da je s ovom kampanjom povezana sljedeća domena.

• revealscum.com