Операция Spamouflage: связанная с Китаем кампания влияния

Изначально этот разбор был опубликован в майском отчете OpenAI за 2024 год⁠(открывается в новом окне).

Мы заблокировали небольшое число аккаунтов, связанных с китайской операцией, известной как Spamouflage⁠(открывается в новом окне). По данным Meta⁠(открывается в новом окне), эту операцию проводили «лица, связанные с правоохранительными органами Китая». Часть активности этой операции в социальных сетях ФБР⁠(открывается в новом окне) связало с одним из подразделений Министерства общественной безопасности Китая.

Эта сеть была нацелена на аудиторию по всему миру, особенно на представителей китайской диаспоры и критиков правительства Китая. Материалы создавались преимущественно на китайском и, в меньшей степени, на английском, японском и корейском языках.

Сеть использовала наши модели для отладки кода, получения рекомендаций по анализу социальных сетей, изучения новостей и текущих событий, а также создания материалов, которые затем публиковались на форумах, в блогах и социальных сетях.

Например, в 2023 году сеть использовала наши модели для отладки кода, который настраивал тему WordPress для сайта revealscum.com. На этом сайте на китайском языке публиковались критические материалы и персональные данные представителей китайской диаспоры, выступавших с критикой правительства Китая. Сайт называл этих критиков «предателями». Сами материалы создавались без использования наших моделей.

Кроме того, в рамках этой кампании наши модели использовались для создания материалов, которые затем размещались в социальных сетях и на форумах. Например, в конце 2023 года участники операции создавали статьи, в которых Японию обвиняли в нанесении ущерба морской среде из-за сброса сточных вод с АЭС «Фукусима». Мы обнаружили эти статьи на различных платформах, включая Medium, Blogspot и ameblo.jp.

В апреле 2024 года в рамках кампании была опубликована серия комментариев на английском языке с критикой китайской диссидентки Цай Ся. Мы выявили один аккаунт в X, опубликовавший первый комментарий, и группу других аккаунтов, которые разместили остальные комментарии в качестве ответов. Мы не обнаружили ответов от реальных аккаунтов.

Участники кампании также использовали наши модели для поиска информации в открытых источниках: например, выясняли, как получить аккаунты разработчиков в социальных сетях, или запрашивали краткое содержание публикаций критиков правительства Китая.

По всей видимости, материалы, созданные с помощью искусственного интеллекта, составляли лишь небольшую долю всей продукции сети. Например, многие выявленные нами аккаунты в X и Medium, публиковавшие материалы, созданные нашими моделями, размещали гораздо больше материалов на английском и китайском языках, которые, по всей видимости, создавались вручную (на это, в частности, указывал неестественный английский язык). Такие материалы публиковались как до, так и после комментариев, созданных ИИ.

Значительная часть материалов этой кампании создавалась на китайском языке. Темы варьировались от похвалы международному сотрудничеству китайских правоохранительных органов до критики нарушений прав коренных американцев в США. В некоторых материалах правительство США и Microsoft критиковались за разоблачение деятельности китайской хакерской группировки, известной как Volt Typhoon.

Другие материалы были на английском языке. Как правило, в них критиковались известные противники правительства Китая, например актер и активист движения за Тибет Ричард Гир и диссидентка Цай Ся. В нескольких статьях, созданных в конце 2023 года на английском, японском, китайском, корейском и русском языках, Японию обвиняли в загрязнении вод Тихого океана сбросами с АЭС «Фукусима»⁠(открывается в новом окне) — эта тема давно используется в китайских операциях влияния.

Одна небольшая группа участников создавала положительные комментарии на китайском языке о визите министра общественной безопасности Китая в Узбекистан. Ранее Spamouflage, насколько известно, эту тему не затрагивала. Она представляет интерес в свете того, что ФБР связало⁠(открывается в новом окне) часть предыдущей активности этой операции в социальных сетях с Министерством общественной безопасности Китая.

По всей видимости, некоторые действия сети отражали личные интересы операторов. Например, один оператор использовал наши модели для изучения объективов фотокамер. Другой использовал наши модели для выполнения задания, которое, по всей видимости, было проверочной работой для членов Коммунистической партии Китая.

С момента первого публичного описания в 2019 году⁠(открывается в новом окне) Spamouflage стала одной из наиболее активно исследуемых операций влияния в мире. При этом сообщений о том, что ее материалы охватывали реальную аудиторию, было крайне мало.

Использование материалов, созданных ИИ, по всей видимости, не изменило эту ситуацию. Ни один из блогов, статей и аккаунтов в социальных сетях, выявленных нами в ходе расследования, не привлек значительного внимания или большого числа реальных подписчиков. В некоторых случаях доступные показатели свидетельствуют, что публикации просматривали только участники нашей следственной группы.

Если оценивать воздействие операций влияния по шкале Breakout⁠(открывается в новом окне) от 1 (минимум) до 6 (максимум), мы бы отнесли эту операцию к категории 2: материалы размещались на множестве платформ, но нет свидетельств их существенного распространения людьми, не связанными с сетью.

Мы выявили следующий домен, связанный с этой кампанией.

• revealscum.com