„Spamouflage” művelet: Kínához köthető befolyásolási tevékenység

Ez az esettanulmány eredetileg az OpenAI 2024. májusi⁠(új ablakban nyílik meg) jelentésében jelent meg.

Letiltottunk néhány fiókot, amelyek a „Spamouflage”⁠(új ablakban nyílik meg) néven ismert, Kínából indított művelethez kapcsolódtak. A Meta⁠(új ablakban nyílik meg) szerint a művelet „a kínai rendvédelmi szervekhez köthető személyeknek” tulajdonítható. A művelet közösségi médiában végzett tevékenységének egy részét az FBI⁠(új ablakban nyílik meg) a kínai Közbiztonsági Minisztérium egyik egységének tulajdonította.

A hálózat világszerte célzott közönségeket, különösen a kínai diaszpóra tagjait és a kínai kormány bírálóit. Főként kínai, kisebb mértékben pedig angol, japán és koreai nyelvű tartalmat hozott létre.

A hálózat a modelljeinket kódhibák elhárítására, a közösségi média elemzésével kapcsolatos tanácsadásra, hírek és aktuális események kutatására, valamint később blogfórumokon és közösségi médiában közzétett tartalmak létrehozására használta.

A hálózat például 2023-ban a modelljeinkkel javította a revealscum.com webhely WordPress-témáját beállító kód hibáit. A webhely kínai nyelvű bírálatokat és személyes adatokat tett közzé a kínai diaszpóra azon tagjairól, akik bírálták a kínai kormányt. A webhely „árulóknak” nevezte ezeket a bírálókat. Maga a tartalom nem a modelljeinkkel készült.

A kampány a modelljeinkkel olyan tartalmakat is létrehozott, amelyeket később közösségimédia-platformokon és fórumokon tettek közzé. A művelet például 2023 végén olyan cikkeket készített, amelyek azzal vádolták Japánt, hogy a fukusimai erőmű szennyvizének kibocsátásával károsítja a tengeri környezetet. A cikkeket többek között a Medium, a Blogspot és az ameblo.jp platformokon azonosítottuk.

2024 áprilisában a kampány angol nyelvű hozzászólássorozatban bírálta Cai Xia kínai ellenzékit. Azonosítottunk egy X-fiókot, amely közzétette az első hozzászólást, valamint más fiókok egy csoportját, amelyek válaszként tették közzé a többi hozzászólást. Nem láttuk, hogy valódi fiókok válaszoltak volna ezekre.

A kampány nyílt forrású kutatásra is használta a modelljeinket: például azt vizsgálta, hogyan lehet fejlesztői fiókot igényelni a közösségi médiában, illetve összefoglalókat kért a kínai kormány bírálóinak közösségimédia-bejegyzéseiről.

Úgy tűnik, a hálózat teljes kibocsátásának csak kis részét alkotta a mesterséges intelligencia használata. Az általunk azonosított, a modelljeinkkel létrehozott tartalmakat közzétevő X- és Medium-fiókok közül például sok nagyobb mennyiségben tett közzé látszólag kézzel készített angol és kínai tartalmat is – erre utalt többek között a természetellenes angol nyelvhasználat. Ezt a tartalmat az MI által létrehozott hozzászólások előtt és után is közzétették.

A kampány által létrehozott tartalom jelentős része kínai nyelvű volt. A témák a kínai kormány nemzetközi rendészeti együttműködésének méltatásától az amerikai őslakosokkal szembeni visszaélések bírálatáig terjedtek. Egyes tartalmak az amerikai kormányt és a Microsoftot bírálták azért, mert leleplezték a „Volt Typhoon” néven ismert kínai hackercsoport tevékenységét.

Más tartalmak angol nyelven készültek. Ezek jellemzően a kínai kormány ismert bírálóit támadták, például Richard Gere színészt és Tibet-aktivistát, valamint Cai Xia ellenzékit. Néhány, 2023 végén angol, japán, kínai, koreai és orosz nyelven készített cikk azzal vádolta Japánt, hogy a fukusimai atomerőműből⁠(új ablakban nyílik meg) kibocsátott vízzel szennyezi a Csendes-óceánt – ez régóta visszatérő témája a kínai befolyásolási műveleteknek.

A tevékenység egyik kisebb csoportja pozitív, kínai nyelvű hozzászólásokat készített a kínai közbiztonsági miniszter üzbegisztáni látogatásáról. Nem ismert, hogy a Spamouflage korábban foglalkozott volna ezzel a témával. Ez annak fényében érdekes, hogy az FBI korábbi megállapítása⁠(új ablakban nyílik meg) szerint a művelet közösségi médiában végzett korábbi tevékenységének egy része a kínai Közbiztonsági Minisztériumhoz köthető.

Úgy tűnik, a hálózat egyes tevékenységei az operátorok személyes érdeklődését tükrözték. Az egyik operátor például fényképezőgép-objektívek kutatására használta a modelljeinket. Egy másik operátor a modelljeink segítségével oldott meg egy feladatot, amely feltehetően a Kínai Kommunista Párt tagjainak szánt teszt része volt.

A Spamouflage a világ egyik legalaposabban kutatott befolyásolási művelete, amióta 2019-ben először nyilvánosan ismertették⁠(új ablakban nyílik meg). Tevékenységéből mindeddig csak nagyon kevés jutott el bizonyíthatóan valódi közönséghez.

Úgy tűnik, az MI által létrehozott tartalom használata nem változtatott ezen a dinamikán. A vizsgálatunk során azonosított blogok, cikkek és közösségimédia-fiókok egyike sem ért el valódi emberektől sok interakciót vagy követést. Egyes esetekben a rendelkezésre álló mutatók szerint bejegyzéseiket kizárólag a vizsgálócsoportunk tekintette meg.

A befolyásolási műveletek hatását 1-től (legalacsonyabb) 6-ig (legmagasabb) értékelő Breakout Scale⁠(új ablakban nyílik meg) alapján ezt 2. kategóriájú műveletnek minősítenénk: számos platformon tett közzé tartalmakat, de nincs bizonyíték arra, hogy a hálózaton kívüli személyek jelentősen felerősítették volna azokat.

A következő domaint azonosítottuk a kampányhoz kapcsolódóként.

• revealscum.com