Операция «A2Z»: многоязычная деятельность по оказанию влияния

Это исследование было впервые опубликовано в октябрьском отчёте OpenAI за 2024 год⁠(открывается в новом окне).

Мы заблокировали ранее не выявленную группу аккаунтов, которые использовали наш API для создания комментариев с их последующей публикацией в X и Facebook. Во многих комментариях хвалили Азербайджан или защищали его репутацию в сфере прав человека, однако операция затрагивала и множество других тем, что может указывать на её коммерческий характер. Поскольку эта сеть часто восхваляла Азербайджан и пыталась применять ИИ на разных этапах операции, мы назвали её «A2Z».

Подобно русскоязычной операции в Telegram, которую мы разоблачили в мае и назвали «Bad Grammar», эта операция использовала наши модели для публикации комментариев в социальных сетях. С помощью ИИ организаторы управляли фальшивыми персонажами в социальных сетях, создавали биографии, анализировали публикации и комментарии, составляли ответы на многих языках и вычитывали их. Затем ответы публиковались в X или Facebook. Большинство материалов представляли собой короткие комментарии, но встречались и стилизованные изображения. Они часто были оформлены в стиле плакатов 1930-х годов и, судя по всему, предназначались скорее для привлечения внимания и реакций, чем для введения в заблуждение. Однако типичные публикации с такими стилизованными изображениями получали лишь по 0–5 реакций.

Использование ИИ позволяло одновременно управлять множеством аккаунтов в социальных сетях: мы выявили около 150 связанных с этой деятельностью аккаунтов в X и Facebook и подозревали существование дополнительных аккаунтов. Кроме того, организаторы операции иногда вступали в обсуждения с реальными людьми в интернете. Иногда мы наблюдали короткие беседы реальных людей с фальшивыми аккаунтами, ответы которых создавались с помощью наших моделей.

До появления ИИ операция такого масштаба, вероятно, потребовала бы большой команды троллей со всеми сопутствующими расходами и рисками утечки информации. Однако зависимость от ИИ также сделала эту операцию необычайно уязвимой для наших мер противодействия. Поскольку ИИ применялся на множестве звеньев цепочки атаки, наши меры одновременно разорвали многие из них. После того как в начале июня мы пресекли эту деятельность, выявленные нами аккаунты операции в социальных сетях прекратили публикации на весь период выборов в ЕС, Великобритании и Франции. Некоторые из них возобновили публикации в конце августа. Небольшое число их публикаций содержало признаки того, что они, вероятно, были созданы ИИ. Материалы с такими признаками были созданы не нашими моделями.

В рамках этой кампании создавались короткие комментарии на самые разные политические темы. Главной темой была похвала правительству Азербайджана и его роли во внутренней, региональной и международной политике — например, в укреплении единства стран Центральной Азии или проведении Конференции ООН по изменению климата. Англоязычные и италоязычные аккаунты хвалили роль Азербайджана как поставщика энергоресурсов в Европу — иногда в ответ на критику положения с правами человека в стране.

Другие направления деятельности касались преимуществ и развития ИИ, финансовых рынков, экологических проблем, криптовалют и технологий в целом. Одна группа аккаунтов была посвящена Объединённым Арабским Эмиратам, которые представлялись стабильным направлением для инвестиций — нередко в противовес утверждениям о политической нестабильности в США.

Некоторые фальшивые персонажи освещали политику Европы или США. Идеологическая направленность этой деятельности различалась в зависимости от региона. Например, один посвящённый США аккаунт в X выдавал себя за либеральный и критиковал бывшего президента США Трампа, а некоторые франкоязычные аккаунты в Facebook критиковали президента Макрона и поддерживали партию «Национальное объединение» (RN). Иногда критика касалась внутренних проблем и использовалась для доказательства того, что соответствующей стране не следует вмешиваться в международные вопросы, включая вторжение России в Украину.

Эта операция проявляла высокую активность в Facebook и X и, вероятно, охватывала сотни аккаунтов. Некоторые её аккаунты в X имели синюю галочку платной верификации. Среди примерно 150 аккаунтов на обеих платформах, вошедших в нашу выборку, мы не обнаружили ни одного со значительным числом подписчиков: у крупнейшего выявленного нами аккаунта в X было 222 подписчика, типичные показатели составляли от 15 до чуть более 20, а публикации в X обычно получали менее десяти реакций. Аналогичным образом, максимальное число реакций на публикацию в Facebook, зафиксированное в ходе расследования, составило 36, а типичный показатель находился в диапазоне от 0 до 5. Тем не менее мы выявили несколько случаев, когда публикации операции получали ответы от реальных людей. Эти ответы не всегда были положительными: порой реальные люди возражали фальшивым аккаунтам. Но такие случаи показывают хотя бы некоторую способность вовлекать аудиторию на разных платформах, на разных языках и в обсуждение разных тем.

По шкале Breakout Scale, которая оценивает воздействие операций влияния от 1 (минимальное) до 6 (максимальное), мы отнесли бы эту операцию к верхней границе второй категории с риском перехода в третью: она публиковала материалы на нескольких платформах, и были некоторые свидетельства взаимодействия реальных людей с её контентом. Однако после того, как мы лишили участников операции доступа к нашим моделям и поделились информацией с коллегами по отрасли, выявленные нами аккаунты в социальных сетях замолчали на много недель. Таким образом, эта операция показывает, что ИИ расширяет возможности организаторов, но зависимость от модели ИИ одновременно повышает их уязвимость для мер противодействия.