Операція «Spamouflage»: пов’язана з Китаєм діяльність із впливу

Це дослідження випадку вперше опубліковано у звіті OpenAI за травень 2024 року⁠(відкривається у новому вікні).

Ми заблокували невелику кількість облікових записів, пов’язаних з операцією китайського походження, відомою як «Spamouflage»⁠(відкривається у новому вікні). За оцінкою Meta⁠(відкривається у новому вікні), цю операцію проводили «особи, пов’язані з правоохоронними органами Китаю». ФБР⁠(відкривається у новому вікні) пов’язало частину активності цієї операції в соціальних мережах із підрозділом Міністерства громадської безпеки Китаю.

Ця мережа була націлена на аудиторію в усьому світі, особливо на представників китайської діаспори та критиків уряду Китаю. Вона створювала вміст переважно китайською, а меншою мірою — англійською, японською та корейською мовами.

Мережа використовувала наші моделі для налагодження коду, отримання порад щодо аналізу соціальних мереж, дослідження новин і поточних подій, а також створення вмісту для подальшої публікації на форумах, у блогах і соціальних мережах.

Наприклад, у 2023 році мережа використовувала наші моделі для налагодження коду, який налаштовував тему WordPress для сайту revealscum.com. На цьому сайті китайською мовою публікували критику та особисту інформацію про представників китайської діаспори, які критикували уряд Китаю. Сайт називав цих критиків «зрадниками». Сам вміст не створювали за допомогою наших моделей.

Ця кампанія також використовувала наші моделі для створення вмісту, який згодом публікували в соціальних мережах і на форумах. Наприклад, наприкінці 2023 року учасники операції створили статті, у яких звинувачували Японію в завданні шкоди морському середовищу через скидання стічних вод з атомної електростанції «Фукусіма». Ми виявили ці статті на платформах Medium, Blogspot і ameblo.jp.

У квітні 2024 року в межах кампанії опублікували серію англомовних коментарів із критикою китайської дисидентки Цай Ся. Ми виявили один обліковий запис у X, який опублікував початковий коментар, і групу інших облікових записів, які розмістили решту коментарів як відповіді. Ми не побачили жодних відповідей від справжніх облікових записів.

Учасники кампанії також використовували наші моделі для дослідження відкритих джерел: наприклад, з’ясовували, як отримати облікові записи розробників у соціальних мережах, або просили узагальнити дописи критиків уряду Китаю.

Схоже, що вміст, створений мережею за допомогою штучного інтелекту, становив лише незначну частину її загальної продукції. Наприклад, багато виявлених нами облікових записів у X і Medium, які публікували створений нашими моделями вміст, розміщували значно більше матеріалів, імовірно написаних вручну англійською та китайською мовами (про це, зокрема, свідчило неприродне вживання англійської). Вони публікували цей вміст як до, так і після розміщення коментарів, створених за допомогою ШІ.

Значну частину вмісту в межах цієї кампанії створено китайською мовою. Теми варіювалися від схвалення міжнародної співпраці уряду Китаю у сфері правопорядку до критики утисків корінних американців у США. У деяких матеріалах уряд США та Microsoft критикували за викриття діяльності китайського хакерського угруповання, відомого як «Volt Typhoon».

Інші матеріали були англійською мовою. Зазвичай у них критикували відомих опонентів уряду Китаю, як-от актора й активіста на підтримку Тибету Річарда Гіра та дисидентку Цай Ся. У кількох статтях, створених наприкінці 2023 року англійською, японською, китайською, корейською та російською мовами, Японію звинувачували в забрудненні вод Тихого океану скидами з атомної електростанції «Фукусіма»⁠(відкривається у новому вікні) — це давня тема китайських операцій впливу.

Одна невелика група активності була зосереджена на створенні схвальних коментарів китайською мовою про візит міністра громадської безпеки Китаю до Узбекистану. Раніше Spamouflage, наскільки відомо, цієї теми не порушувала. Вона становить інтерес з огляду на те, що ФБР пов’язало⁠(відкривається у новому вікні) частину попередньої активності цієї операції в соціальних мережах із Міністерством громадської безпеки Китаю.

Схоже, що частина активності мережі відображала особисті інтереси операторів. Наприклад, один оператор використовував наші моделі для пошуку інформації про об’єктиви камер. Інший використовував наші моделі для виконання завдання, яке, схоже, було тестом для членів Комуністичної партії Китаю.

Spamouflage є однією з найбільш ретельно досліджених у світі операцій впливу відтоді, як її уперше публічно описали у 2019 році⁠(відкривається у новому вікні). Майже немає повідомлень про те, що її активність коли-небудь охоплювала справжню аудиторію.

Використання вмісту, створеного за допомогою ШІ, схоже, не змінило цієї динаміки. Жоден із блогів, статей та облікових записів у соціальних мережах, які ми виявили під час розслідування, не отримав великої кількості взаємодій чи підписок від реальних людей. У деяких випадках наявні показники свідчать, що дописи переглядали лише члени нашої слідчої групи.

Оцінюючи вплив операцій впливу за шкалою Breakout⁠(відкривається у новому вікні) від 1 (найнижчий рівень) до 6 (найвищий), ми віднесли б цю операцію до категорії 2: активне розміщення матеріалів на багатьох платформах, але без доказів їх значного поширення людьми поза мережею.

Ми виявили такий домен, пов’язаний із цією кампанією.

• revealscum.com