Переход к основному контенту
OpenAI

1 февраля 2025 г.

Безопасность

Операция «Спонсируемое недовольство»: деятельность по оказанию влияния

OpenAI заблокировала аккаунты, предположительно из Китая, которые использовали ИИ для создания постов на английском и статей на испанском.

Загрузка…

Этот разбор впервые опубликован в отчёте OpenAI за февраль 2025 года⁠(открывается в новом окне).

Участники

Мы заблокировали аккаунты ChatGPT, которые использовали наши модели для создания коротких комментариев на английском и развёрнутых новостных статей на испанском. Время этой активности совпадало с рабочими часами в материковом Китае. Статьи на испанском языке публиковались на новостных сайтах Латинской Америки. Почти все сайты указывали автором статей одного и того же человека; в некоторых случаях в подписи к статьям отмечалась его связь с китайской компанией Jilin Yousen Culture Communication Co, Ltd (优森文化有限公司).

Методы работы

Эти аккаунты отправляли запросы в ChatGPT на китайском языке и были активны преимущественно в рабочие часы материкового Китая. Часть активности соответствовала скрытой операции влияния «Спамуфляж⁠», о которой мы сообщали в мае: создавались короткие англоязычные комментарии и изображения с критикой Цай Ся — диссидентки и бывшего профессора Центральной партийной школы Коммунистической партии Китая. Затем эти материалы публиковались в X аккаунтами, которые выдавали себя за жителей США или Индии.

Твиты, созданные аккаунтами операции «Спонсируемое недовольство».

Твиты, созданные этими аккаунтами с помощью наших моделей и опубликованные четырьмя разными аккаунтами в X.

Если бы этим всё ограничивалось, мы могли бы предположить связь со «Спамуфляжем». Однако наряду с короткими комментариями эти аккаунты также создавали развёрнутые статьи на испанском языке с критикой США. Особенно активно эта работа велась в преддверии форума АТЭС 2024 года в Перу. Для создания этих материалов участники операции просили наши модели перевести и расширить общедоступные статьи на китайском языке.

Затем эти статьи публиковались на латиноамериканских новостных сайтах, главным образом в Перу, а также в Мексике и Эквадоре. Новостные сайты часто публиковали статьи в тот же день, когда эти аккаунты создавали их с помощью ChatGPT. Почти все издания указывали автором статей одного и того же человека. Некоторые называли его законным представителем компании, которую мы считаем китайской.

Это первый выявленный нами случай, когда участникам операции влияния, предположительно из Китая, удалось опубликовать статьи в крупных СМИ Латинской Америки. Некоторые публикации могли быть размещены за плату: одна из статей, обнаруженных нами при исследовании открытых источников, была помечена как «спонсорский материал». Кроме того, участники операции использовали ChatGPT для перевода упоминаний квитанций на испанском языке от латиноамериканской новостной организации, что также указывает на возможную оплату публикаций.

Спонсорская статья, созданная в рамках операции «Спонсируемое недовольство».

Скриншот статьи, созданной участниками операции и опубликованной на сайте wapa[.]pe. Обратите внимание на пометку «спонсорский материал».

Учитывая вероятное использование спонсорских материалов и негативную позицию этой кампании по отношению к политической жизни и курсу США, мы назвали её «Спонсируемое недовольство».

Сгенерированные материалы

Участники операции создавали два основных вида материалов: короткие критические высказывания о Цай Ся на английском и китайском языках и развёрнутые статьи на испанском.

При создании критических высказываний о Цай Ся оператор обычно просил ChatGPT ответить на её твиты или видео либо на упоминания о ней в СМИ. В некоторых комментариях ставилась под сомнение её компетентность в вопросах Тайваня, интернета, китайской литературы и истории. В других её обвиняли в нарушении визовых правил.

Развёрнутые статьи на испанском языке были посвящены социальным и политическим противоречиям в США и обычно опирались на текущие события и последние новости. Среди тем были неравенство, политическое насилие, дискриминация и сексизм, а также сообщения о преступлениях и критика внешней политики США. Значительное внимание уделялось и острым социальным проблемам, таким как употребление наркотиков и бездомность. Оператор часто представлял эти кризисы и проблемы как свидетельство несостоятельности американского руководства или общества. В целом кампания не отдавала предпочтения ни одной из двух основных партий США: критике подвергались обе.

Результаты

Мы не обнаружили свидетельств того, что материалы против Цай Ся в социальных сетях вызвали значимый отклик реальных пользователей. Публиковавшие их аккаунты обычно имели мало подписчиков и получали минимум откликов.

Однако это первый выявленный нами случай, когда в рамках операции влияния из Китая удалось разместить в латиноамериканских СМИ развёрнутые статьи с критикой США. Хотя этого могли добиться, по крайней мере отчасти, за счёт оплаты публикаций, перед нами, насколько нам известно, ранее не описанное направление работы. Оно велось параллельно с более типичной активностью в социальных сетях и могло охватить значительно более широкую аудиторию, хотя мы не можем независимо оценить её отклик.

По шкале распространения⁠(открывается в новом окне), которая оценивает воздействие операций влияния от 1 (минимальное) до 6 (максимальное), мы отнесли бы эту операцию к категории 4 (выход в крупные СМИ) с учётом широкой читательской аудитории латиноамериканских новостных сайтов.

Заголовки опубликованных статей, связанных с этой операцией

Мы установили, что эти статьи совпадают с материалами, созданными участниками операции с помощью наших моделей.

  • Неприглядная правда о том, как США наживаются на военной помощи Украине (La Republica, Перу).

  • Трагическая реальность проблемы бездомности в США (Wapa, Перу).

  • Безумная логика американских санкций против палестинского активиста (El Popular, Перу).

  • Абсурдный спектакль маскулинности (Libero, Перу).

  • Вездесущие тени (El Popular, Перу).

  • Презрение партийных верхов к демократии в США (El Popular, Перу).

  • Непрозрачность предвыборной риторики и манипулирование общественным мнением (Libero, Перу).

  • Забастовка и борьба работников гостиниц (La Republica, Перу).

  • Бессилие санкций США и ограничения, которые они накладывают на саму страну (El Universal, Мексика).

  • Безмолвные крики под гнётом фентанила (La Republica, Перу).

  • Ураган «Хелен»: ложные заявления и теории заговора американских политиков (Wapa, Перу).

  • Тарифный туман: недальновидная политика Трампа и будущее американской экономики (La Republica, Перу).

  • Проблема продовольственной безопасности в американском обществе и её влияние на школы (Extra, Эквадор).

  • Трагедия США: когда правду скрывают (Expreso, Эквадор).

  • Кризис безопасности детей в США (La Republica, Перу).

  • Тень насилия над Бруклином (El Plural, Испания).

  • Роскошь для убийцы: хирургическая операция за счёт налогоплательщиков (El Universal, Мексика).

  • Поддержка Израиля и пренебрежение гуманитарным кризисом (La Republica, Перу).

  • Разрушительное соперничество на выборах в США (Wapa, Перу).