Операция «Дядюшка Спам»: влияние с целью поляризации в США
OpenAI заблокировала связанные с Китаем аккаунты, которые использовали ИИ для создания политического контента о США и изучения людей, движений и интернет-сообществ.
Это исследование было впервые опубликовано в отчёте OpenAI за июнь 2025 года(открывается в новом окне).
Субъект
Получив сведения от коллег из Meta, мы заблокировали ряд аккаунтов ChatGPT, связанных с операцией влияния китайского происхождения(открывается в новом окне). В рамках операции создавался поляризующий контент для социальных сетей, представлявший противоположные позиции по спорным вопросам политической повестки США, включая тексты и созданные ИИ изображения профилей для таких платформ, как X и Bluesky.
Поведение
Сеть использовала наши модели для решения различных задач, главным образом для создания комментариев в социальных сетях с поддержкой или критикой тарифов. Владельцы аккаунтов спрашивали у наших моделей, в какое время лучше публиковать материалы, чтобы добиться максимального отклика аудитории, что указывает на продуманную тактику увеличения охвата.
Два твита, тексты которых этот злоумышленник создал с помощью наших моделей, представляя противоположные позиции в споре о тарифах.
Во-вторых, аккаунты применяли наши возможности генерации изображений для создания стилизованных логотипов, которые затем использовались как изображения профилей вымышленных персонажей в социальных сетях. В частности, владельцы аккаунтов стремились создавать образы американских ветеранов, критикующих нынешнюю администрацию США.
Аккаунт в Bluesky, публиковавший созданный этой сетью контент. Логотип «Ветераны за справедливость» был создан с помощью наших моделей.
Наконец, владельцы аккаунтов регулярно запрашивали код и способы извлечения персональных данных — профилей пользователей, списков подписчиков и других сведений — из таких социальных платформ, как X и Bluesky, с помощью Tweepy, Nitter и публичного API Bluesky. Кроме того, аккаунты обращались к нашим моделям за рекомендациями по анализу данных профилей для выявления личных характеристик и связей с организациями — возможно, чтобы классифицировать людей или делать выводы об их связях и качествах.
Ответы моделей
С помощью аккаунтов создавался поляризующий контент по широкому кругу вопросов политической повестки США, нередко в рамках одних и тех же рабочих сеансов. Судя по всему, в соответствии с известными методиками операций влияния эта деятельность была направлена на использование уже существующих политических разногласий, а не на продвижение конкретной идеологической позиции. Из-за объёма контента и ориентации на американскую аудиторию мы назвали эту операцию «Дядюшка Спам».
Твиты с текстами, созданными нашими моделями и опубликованными от имени вымышленных персонажей.
Влияние
По шкале охвата(открывается в новом окне) операций влияния мы относим эту деятельность к категории 2: активность на нескольких платформах без заметного распространения или с минимальным откликом. Публикации созданного нашими моделями контента в социальных сетях почти не вызывали отклика у реальных пользователей. Большинство публикаций этой сети в X почти или совсем не получали отметок «Нравится» и репостов; лишь несколько публикаций вызвали некоторый отклик. У некоторых аккаунтов в социальных сетях были тысячи подписчиков, однако мы не смогли оценить их подлинность, а большое число подписчиков, по всей видимости, не обеспечивало отклика на публикации.