Операција „Spamouflage“: активности утицаја повезане с Кином

Ова студија случаја првобитно је објављена у извештају компаније OpenAI за мај 2024.⁠(отвара се у новом прозору)

Забранили смо мањи број налога повезаних са операцијом пореклом из Кине познатом као „Spamouflage“⁠(отвара се у новом прозору). Компанија Meta⁠(отвара се у новом прозору) приписала је ову операцију „појединцима повезаним с кинеским органима реда“. Део активности ове операције на друштвеним мрежама FBI⁠(отвара се у новом прозору) је приписао јединици у оквиру кинеског Министарства јавне безбедности.

Ова мрежа је циљала публику широм света, посебно припаднике кинеске дијаспоре и критичаре кинеске владе. Углавном је генерисала садржај на кинеском, а у мањој мери на енглеском, јапанском и корејском језику.

Мрежа је користила наше моделе за отклањање грешака у коду, тражење савета о анализи друштвених мрежа, истраживање вести и актуелних догађаја и генерисање садржаја који је потом објављиван на блоговима, форумима и друштвеним мрежама.

На пример, мрежа је 2023. користила наше моделе за отклањање грешака у коду којим се подешава WordPress тема за веб-сајт revealscum.com. На овом веб-сајту објављиване су критике на кинеском језику и лични подаци о припадницима кинеске дијаспоре који су критиковали кинеску владу. Ове критичаре називао је „издајницима“. Сам садржај није генерисан помоћу наших модела.

Ова кампања је користила наше моделе и за прављење садржаја који је потом објављиван на платформама друштвених мрежа и форумима. На пример, крајем 2023. операција је генерисала чланке у којима је Јапан оптужен да испуштањем отпадне воде из електране Фукушима наноси штету морској животној средини. Те чланке смо пронашли на платформама као што су Medium, Blogspot и ameblo.jp.

У априлу 2024. кампања је објавила низ коментара на енглеском у којима је критикована кинеска дисиденткиња Цај Сја. Пронашли смо један налог на платформи X који је објавио првобитни коментар и групу других налога који су остале коментаре објавили као одговоре. Нисмо видели да им је одговорио иједан прави налог.

Кампања је наше моделе користила и за истраживање јавно доступних извора, рецимо за прикупљање информација о томе како отворити програмерске налоге на друштвеним мрежама или за прављење сажетака објава критичара кинеске владе.

Изгледа да је садржај направљен помоћу вештачке интелигенције чинио само мањи део укупног садржаја ове мреже. На пример, многи налози на платформама X и Medium за које смо утврдили да објављују садржај генерисан помоћу наших модела објављивали су још више садржаја који је по свему судећи ручно написан на енглеском и кинеском (што, између осталог, показује неприродна употреба енглеског језика). Тај садржај су објављивали и пре и после коментара генерисаних помоћу вештачке интелигенције.

Велики део садржаја који је ова кампања генерисала био је на кинеском језику. Теме су се кретале од похвала међународној сарадњи кинеске владе у спровођењу закона до критика злостављања староседелаца у Сједињеним Државама. У неким садржајима критиковани су америчка влада и Microsoft због разоткривања активности кинеске хакерске групе познате као „Volt Typhoon“.

Други садржаји били су на енглеском језику. У њима су обично критиковани истакнути критичари кинеске владе, попут глумца и активисте за Тибет Ричарда Гира и дисиденткиње Цај Сја. У неколико чланака генерисаних крајем 2023. на енглеском, јапанском, кинеском, корејском и руском језику, Јапан је оптужен да испуштањем воде из нуклеарне електране Фукушима⁠(отвара се у новом прозору) загађује воде Тихог океана — што је дугогодишња тема кинеских операција утицаја.

Једна мала група активности била је усмерена на генерисање позитивних коментара на кинеском о посети кинеског министра јавне безбедности Узбекистану. Није познато да се Spamouflage раније бавио овом темом; она је занимљива у светлу тога што је FBI приписао⁠(отвара се у новом прозору) део ранијих активности ове операције на друштвеним мрежама кинеском Министарству јавне безбедности.

Изгледа да су неке активности мреже одражавале лична интересовања оператера. На пример, један оператер је користио наше моделе за истраживање објектива за фотоапарате. Други је помоћу наших модела урадио нешто што је по свему судећи био тестни задатак за чланове Комунистичке партије Кине.

Spamouflage је једна од најинтензивније истраживаних операција утицаја на свету откако је први пут јавно описана 2019.⁠(отвара се у новом прозору) Веома ретко је пријављивано да су њене активности допрле до стварне публике.

Изгледа да употреба садржаја генерисаног помоћу вештачке интелигенције није променила ту динамику. Међу блоговима, чланцима и налозима на друштвеним мрежама које смо открили током истраге, ниједан није остварио велики број интеракција нити стекао много стварних пратилаца. У неким случајевима, доступни показатељи упућују на то да је њихове објаве прегледао једино наш истражни тим.

Користећи скалу продора⁠(отвара се у новом прозору) за процену утицаја операција утицаја, која их оцењује од 1 (најниже) до 6 (највише), ову операцију бисмо сврстали у категорију 2: објављивала је садржај на многим платформама, али нема доказа да су га знатно шириле особе изван мреже.

Утврдили смо да је следећи домен повезан са овом кампањом.

• revealscum.com