Операція «A2Z»: багатомовна діяльність із впливу

Це тематичне дослідження вперше було опубліковано у звіті OpenAI за жовтень 2024 року⁠(відкривається у новому вікні).

Ми заблокували раніше не описану групу акаунтів, які використовували наш API для створення коментарів, що потім публікувалися в X і Facebook. Багато з цих коментарів вихваляли Азербайджан або захищали його репутацію у сфері прав людини, однак операція також охоплювала чимало інших тем, що може свідчити про її комерційний характер. З огляду на те, як часто ця мережа вихваляла Азербайджан і як намагалася застосовувати ШІ на різних етапах операції, ми назвали її «A2Z».

Як і викрита нами в травні російськомовна операція в Telegram, яку ми назвали «Bad Grammar», ця операція використовувала наші моделі для коментування в соціальних мережах. За допомогою ШІ учасники операції керували фальшивими образами в соцмережах, створювали біографії, аналізували публікації та коментарі, складали відповіді багатьма мовами й вичитували їх. Потім ці відповіді публікували в X або Facebook. Більшість контенту становили короткі коментарі, але серед нього також були стилізовані зображення. Вони часто наслідували стиль плакатів 1930-х років, тож, імовірно, мали привертати увагу та заохочувати взаємодію, а не вводити в оману. Проте типові публікації з такими стилізованими зображеннями отримували лише 0–5 взаємодій кожна.

Завдяки ШІ учасники операції могли одночасно керувати багатьма акаунтами в соцмережах: ми виявили близько 150 акаунтів у X і Facebook, пов’язаних із цією діяльністю, та підозрюємо існування інших. Це також давало учасникам операції змогу час від часу долучатися до обговорень із реальними людьми в інтернеті. Іноді ми спостерігали короткі розмови між реальними людьми та фальшивими акаунтами, відповіді яких створювалися за допомогою наших моделей.

До появи ШІ операція такого масштабу, ймовірно, потребувала б великої команди тролів, а отже, значних витрат і ризику витоку інформації. Утім, залежність цієї операції від ШІ також зробила її надзвичайно вразливою до наших протидій. Оскільки ШІ застосовувався на багатьох ланках ланцюга атаки, наше втручання одночасно розірвало чимало з них. Після того як на початку червня ми припинили цю діяльність, визначені нами акаунти операції в соцмережах не публікували дописів упродовж виборчих періодів у ЄС, Великій Британії та Франції. Деякі з них відновили публікації наприкінці серпня. Невелика кількість їхніх публікацій мала ознаки того, що їх, імовірно, створив ШІ. Контент із такими ознаками походив не від наших моделей.

У межах цієї кампанії створювали короткі коментарі на різноманітні політичні теми. Найпомітнішою темою було вихваляння уряду Азербайджану та його ролі у внутрішній, регіональній і міжнародній політиці — наприклад, у сприянні єдності країн Центральної Азії або проведенні Конференції ООН зі зміни клімату. Англомовні та італомовні акаунти вихваляли роль Азербайджану як постачальника енергоносіїв до Європи — іноді у відповідь на критику дотримання азербайджанським урядом прав людини.

Інші напрями діяльності стосувалися переваг і розвитку ШІ, фінансових ринків, екологічних питань, криптовалют і технологій загалом. Одна група зосередилася на Об’єднаних Арабських Еміратах, зображаючи їх стабільним місцем для інвестицій і часто протиставляючи твердженням про політичну нестабільність у США.

Деякі фальшиві образи зосереджувалися на політиці в Європі чи США. Ідеологічна спрямованість цієї діяльності різнилася залежно від регіону. Наприклад, один орієнтований на США акаунт у X видавав себе за ліберала й критикував колишнього президента США Трампа, тоді як деякі франкомовні акаунти у Facebook критикували президента Макрона та підтримували партію «Національне об’єднання» (RN). Іноді ця критика зосереджувалася на внутрішніх проблемах, щоб довести, що відповідна країна не повинна втручатися в міжнародні питання, зокрема в ситуацію, пов’язану з вторгненням Росії в Україну.

Ця операція була дуже активною у Facebook і X та, ймовірно, охоплювала сотні акаунтів. У X деякі її акаунти мали синю позначку платної верифікації. Серед приблизно 150 акаунтів на обох платформах, які ми дослідили, жоден не мав значної кількості підписників: найбільша виявлена нами під час розслідування аудиторія в X становила 222 підписники, типовіші показники коливалися від приблизно 15 до трохи більш ніж 20, а звичайні публікації в X отримували менш ніж 10 взаємодій. Так само найбільша кількість реакцій на публікацію у Facebook, яку ми спостерігали під час розслідування, становила 36, а типовий діапазон — 0–5. Утім, ми виявили кілька випадків, коли публікації операції отримували відповіді від реальних людей. Ці відповіді не завжди були схвальними, а іноді реальні люди заперечували фальшивим акаунтам. Проте це свідчить принаймні про певну здатність залучати аудиторію на різних платформах, різними мовами й на різні теми.

За шкалою Breakout Scale, яка оцінює вплив інформаційних операцій від 1 (найнижчий) до 6 (найвищий), ми віднесли б цю операцію до верхньої межі другої категорії з ризиком переходу до третьої: вона активно публікувала матеріали на кількох платформах, і були певні докази взаємодії реальних людей із її контентом. Проте після того, як ми заборонили учасникам цієї операції користуватися нашими моделями й поділилися інформацією з колегами в галузі, виявлені нами акаунти в соцмережах замовкли на багато тижнів. Отже, ця операція демонструє як розширені можливості, які ШІ надає операторам, так і підвищену вразливість до протидії, спричинену їхньою залежністю від моделі ШІ.