«Плохая грамматика»: связанная с Россией активность в комментариях Telegram

Изначально этот разбор был опубликован в отчете OpenAI за май 2024 года⁠(открывается в новом окне).

Мы заблокировали ранее неизвестную сеть аккаунтов, которая с помощью наших моделей создавала комментарии для последующей публикации в Telegram. Мы связали эту деятельность с лицами из России. Учитывая ориентацию на Telegram, регулярную публикацию текстов на неграмотном английском и неспособность привлечь аудиторию, мы назвали эту сеть «Плохая грамматика».

Эта сеть распространяла материалы на русском и английском среди аудитории в России, Украине, США, Молдове и странах Балтии.

С помощью наших моделей и аккаунтов в Telegram сеть организовала конвейер массовой публикации комментариев. Сначала операторы использовали наши модели для отладки кода, который, по всей видимости, предназначался для автоматизации публикаций в Telegram. Затем они создавали комментарии на русском и английском в ответ на конкретные публикации в Telegram. Наконец, для публикации этих комментариев они, по всей видимости, использовали не менее двенадцати аккаунтов Telegram.

Для комментариев на английском операторы с помощью наших моделей имитировали голоса нескольких вымышленных персонажей из разных демографических групп, представлявших оба края политического спектра США. Для текстов на русском они предпочитали более тематические инструкции, меньше привязанные к конкретным персонажам.

Сеть преимущественно комментировала публикации небольшого числа Telegram-каналов. Чаще всего упоминался пророссийский канал @Slavyangrad, за ним следовали англоязычные @police_frequency и @SGTNewsNetwork. (Последний выдает себя за консервативного американского ветерана, однако в ноябре Meta сообщила⁠(открывается в новом окне), что на самом деле канал появился в Иране.) Согласно выборке данных за февраль, сеть пыталась создавать ответы для этих трех каналов вдвое чаще, чем для десяти следующих по числу упоминаний каналов вместе взятых.

В рамках этой кампании создавались короткие комментарии на несколько политических тем. Основными темами публикаций в Telegram как на английском, так и на русском были война в Украине, политическая ситуация в Молдове и странах Балтии, а также политика США.

В типичных русскоязычных комментариях в Telegram президентов Украины и Молдовы обвиняли в коррупции, отсутствии поддержки народа и предательстве собственного населения ради западного «вмешательства». Англоязычные комментарии в Telegram были посвящены таким темам, как иммиграция, экономические трудности и главные новости дня. В этих комментариях текущие события часто использовались как аргумент против поддержки Украины со стороны США.

Иногда одну публикацию комментировали сразу несколько персонажей, высказывая противоречащие друг другу точки зрения. Такой «двуликий» подход, при котором участники выдают себя за сторонников обеих позиций, уже наблюдался в российских операциях и может указывать на стремление привлечь определенную аудиторию или усилить раскол.

После теракта в Москве 22 марта и задержания четырех граждан Таджикистана кампания начала использовать новую группу аккаунтов Telegram, ориентированную на Таджикистан. В опубликованных комментариях звучали призывы к единству таджиков и россиян и соблюдению российских законов.

Массовая публикация комментариев была распространенным приемом информационных операций еще до появления генеративного ИИ. Хотя «Плохая грамматика» применяла новый способ создания комментариев, ее система распространения не смогла привлечь внимание аудитории.

Лишь немногие комментарии получили отметки «Нравится» или ответы. Комментарии сети обычно составляли лишь небольшую долю всех ответов на каждую публикацию — то есть не заглушали другие точки зрения, если именно это было целью.

Иногда сеть использовала наши модели для создания текстов, похожих на личные сообщения, возможно адресованные другому пользователю Telegram. Однако из созданных текстов следует, что сеть переписывалась с криптовалютным мошенником.

Если оценивать влияние информационной операции по шкале распространения⁠(открывается в новом окне) от 1 (минимум) до 6 (максимум), мы отнесли бы ее к категории 1: публикации велись на одной платформе, а признаков заметного распространения материалов людьми за пределами сети не выявлено.