Операция «Размытый фокус»: социальная инженерия и операции влияния

Этот разбор впервые опубликован в отчете OpenAI за июнь 2025 года⁠(открывается в новом окне).

Мы заблокировали небольшую сеть аккаунтов ChatGPT, которые использовали наши модели для создания публикаций в соцсетях, анализа наборов данных и перевода с китайского на английский писем и сообщений, похожих на попытки социальной инженерии. Запросы к нашим моделям с этих аккаунтов поступали на китайском языке, преимущественно в рабочие часы по времени материкового Китая.

Они создавали сообщения якобы от сотрудников трех организаций, занимающихся геополитикой: «Новостной объектив», «Яркая медиаволна Европы» и «Группа перспективного консалтинга» (VAG). Кроме того, эти аккаунты ChatGPT генерировали тексты, совпадавшие с публикациями и описаниями профилей в X, связанных с тремя указанными организациями. В других запросах злоумышленники описывали эти организации как прикрытие для сбора и анализа разведывательной информации. Отталкиваясь от этих названий, мы назвали операцию «Размытый фокус».

В рамках операции ChatGPT использовался по четырем основным направлениям. Во-первых, эти аккаунты преимущественно использовали наши модели для создания публикаций в соцсетях и биографий вымышленных интернет-персонажей, которые, по всей видимости, были частью скрытой операции влияния. Публикации распространялись через аккаунты X, владельцы которых выдавали себя за журналистов и геополитических аналитиков.

Во-вторых, с этих аккаунтов редактировали и переводили письма сенатору США о выдвижении кандидата на должность в администрации. Мы не можем независимо подтвердить, было ли отправлено хотя бы одно из этих писем.

В-третьих, с этих аккаунтов задавали ряд базовых вопросов об инструментах для атак на компьютерные сети и эксплуатации уязвимостей. Наши модели давали лишь общие объяснения их применения и возможностей. В отличие от запросов киберзлоумышленников, о которых мы рассказываем далее в отчете, эти вопросы были простыми и указывали на низкий уровень компетентности.

Наконец, пользователи регулярно запрашивали перевод с китайского на английский сообщений, которые, по всей видимости, предназначались для установления контакта с неизвестными собеседниками и последующего выведывания у них информации. Некоторые из этих сообщений публиковались в соцсетях в виде ответов журналистам и исследователям. Другие были похожи на личные сообщения и не обнаруживались при поиске в интернете.

По всей видимости, главной целью этой сети был сбор разведывательной информации под видом специалистов, работающих в Европе или Турции. В созданных и опубликованных в интернете материалах организаторы описывали «Новостной объектив» как независимую европейскую организацию, специализирующуюся на аналитике и освещении событий. Однако они также утверждали, что на самом деле этот бренд служил прикрытием для сбора, анализа и распространения разведывательной информации.

Согласно сайту, указанному в описаниях профилей в соцсетях, «Группа перспективного консалтинга» находится в Турции и оказывает профессиональные консультационные услуги по вопросам геополитики. Организаторы использовали наши модели для перевода с китайского на английский инструкций, в которых утверждалось, что VAG Group ищет информацию об экономической и финансовой политике США и готова платить за интервью 2000 долларов в час. Они также переводили предложения заплатить за секретные документы.

У сайта VAG Group есть турецкая и английская версии. На странице «Свяжитесь с нами» в английской версии в меню видны китайские иероглифы со значением «свяжитесь с нами» (聯絡). Это был единственный текст на китайском языке на всем домене.

Часть материалов этой сети напоминала рекламу услуг по проведению более масштабных операций влияния. Согласно утверждениям, которые мы не можем независимо проверить, в ходе операции использовались машинное обучение, обработка естественного языка и автоматизированный сбор данных для выявления влиятельных авторов и тем в соцсетях.

Связанные с этой деятельностью аккаунты в соцсетях не вызвали заметного отклика у реальных пользователей. Значительное число подписчиков — 17 000 — было только у аккаунта «Новостной объектив» в X. Однако он был создан в ноябре 2014 года под другим именем, публиковал твиты в течение трех дней, а затем бездействовал до середины 2024 года. Это типично для взломанных аккаунтов, которые затем используют в иных целях, поэтому число его подписчиков следует оценивать с осторожностью.

По шкале распространения⁠(открывается в новом окне), используемой для оценки операций влияния, мы бы отнесли публичную часть этой операции к нижней границе категории 2: активность на нескольких платформах, но мало свидетельств того, что реальные люди подхватывали или широко распространяли ее материалы. Имеющихся данных недостаточно, чтобы оценить результаты социальной инженерии и других скрытых действий в рамках этой операции.