Операція «Глузливий огляд»: діяльність впливу китайського походження
OpenAI заблокувала облікові записи, які за допомогою ШІ створювали дописи з критикою тайванського інфлюенсера в соцмережах і на пов’язані зі США теми.
Це тематичне дослідження вперше опубліковано у звіті OpenAI за червень 2025 року(відкривається у новому вікні).
Суб’єкт
Ми заблокували облікові записи ChatGPT, які, за нашими даними, використовували наші моделі для масового створення дописів у соцмережах, характерних для прихованої операції впливу. Під час розслідування ми також помітили, що ці облікові записи готували внутрішні оцінки ефективності роботи.
Власники цих облікових записів переважно надсилали запити китайською мовою й зосереджувалися на політичних і геополітичних темах, важливих для Китаю. Один користувач зазначив у запиті, що працює в китайському відомстві пропаганди, однак ми не маємо незалежних доказів, які б підтверджували це твердження.
Поведінка
Заблоковані нами облікові записи використовувалися у двох основних напрямах роботи. Найактивнішим напрямом було створення коротких коментарів для соцмереж англійською та китайською мовами, а також кількох коментарів мовою урду. Ми виявили багато таких коментарів у TikTok і X, а частину додаткових матеріалів — на Reddit, Facebook і різних вебсайтах.
За типовою схемою спочатку публікували коментар з «основного» облікового запису, часто, вочевидь, створеного лише для цієї публікації, а потім інші облікові записи залишали низку відповідей. Схоже, така поведінка мала створити хибне враження природної взаємодії користувачів із матеріалами.
Пов’язаний із цією діяльністю допис у TikTok під назвою «Закриття #USAID — це лише #ПОЧАТОК!». Назву каналу, текст субтитрів до відео й усі коментарі, видимі на цьому знімку екрана, ця мережа створила за допомогою ChatGPT.
У TikTok облікові записи коментаторів мали імена різними мовами й абетками, часто не пов’язаними з мовою опублікованого ними контенту. Наприклад, обліковий запис із корейським ім’ям опублікував коментар мовою урду, а облікові записи з тайськими та єврейськими іменами — створені цією мережею коментарі англійською. У X облікові записи коментаторів зазвичай використовували мультяшні зображення профілю, а їхні імена в деяких випадках були пов’язані з криптовалютою.
Твіт і відповіді на нього, створені цією мережею за допомогою ChatGPT.
У Facebook мережа була менш активною. Її діяльність переважно полягала у створенні назв і зображень профілю для двох сторінок, що видавали себе за новинні видання. Жодна зі сторінок не мала підписників чи вподобань, і на кожній було лише по кілька дописів.
Допис у Facebook із відео, яке ми визначили як імовірно пов’язане з цією операцією.
Іноді мережа створювала довші дописи китайською або англійською мовою. Один такий допис ми виявили на Reddit, а ще два — на різних вебфорумах. Другий напрям полягав у використанні ChatGPT для створення документів, які, схоже, були внутрішніми правилами або оцінками ефективності роботи.
Результати генерації
Створений цим суб’єктом загрози контент для соцмереж охоплював низку тем, тісно пов’язаних із геостратегічними інтересами Китаю.
Частина контенту стосувалася Тайваню й була спрямована проти «Зворотного фронту»(відкривається у новому вікні) («逆統戰») — присвяченої Тайваню відео- та настільної гри, сюжет якої змальовує опір Комуністичній партії Китаю. Мережа створила десятки критичних коментарів про гру китайською мовою, а потім — розлогу статтю, у якій стверджувалося, що гра викликала масове обурення. Це була найприкметніша діяльність операції, тому ми назвали її «Глузливий огляд».
Інший контент англійською та урду був спрямований проти пакистанської активістки Махранг Балоч, яка публічно критикувала інвестиції Китаю в Белуджистані(відкривається у новому вікні). Пов’язані з мережею обліковий запис TikTok і сторінка Facebook опублікували відео з неправдивим звинуваченням, нібито Балоч знімалася в порнографічному фільмі. Потім учасники операції створили сотні коротких коментарів обома мовами, щоб імітувати масову взаємодію користувачів із матеріалами.
Обурені коментарі під відео Махранг Балоч у TikTok.
Остання група матеріалів стосувалася закриття Агентства США з міжнародного розвитку (USAID): мережа створювала короткі коментарі, які схвалювали або критикували це рішення. Ці коментарі публікували в TikTok і X.
Твіти, що пов’язують питання допомоги з питанням мит і були створені цією мережею за допомогою ChatGPT.
Зрештою суб’єкти загрози використали наші моделі для створення матеріалів, які, схоже, були внутрішніми документами. Серед них — докладне есе в стилі офіційного документа органів громадської безпеки й оцінка ефективності роботи з описом кроків зі створення та проведення операції.
Вплив
Схоже, ця операція лише починалася, коли ми припинили використання в ній наших моделей. Жодна зі сторінок у Facebook не мала підписників. На Reddit один допис отримав 44 голоси «за», а два інші були заблоковані або видалені із сабредітів, у яких їх опублікували.
Знімок допису облікового запису Reddit, який ми визначили як частину цієї мережі; видно, що фільтри платформи видалили допис.
Рівень взаємодії в X і TikTok був неоднаковим: два відео в TikTok разом набрали 25 000 вподобань, а твіти основного облікового запису операції зазвичай отримували близько 10 000 переглядів кожен. Однак багато коментарів під цими дописами ця мережа створила за допомогою ChatGPT, що свідчить принаймні про частково несправжню взаємодію. Тому до всіх показників взаємодії слід ставитися обережно.
За шкалою поширення(відкривається у новому вікні) для оцінювання впливу інформаційних операцій ми оцінили б цю операцію на нижній межі категорії 3, якби показники взаємодії в X і TikTok були справжніми. Ми знизили б цю оцінку, якби з’явилося більше доказів на користь гіпотези, що більшість уподобань і переглядів, як і більшість коментарів, були несправжніми.