Операція «Нульовий Зенон»: пов’язана з Ізраїлем діяльність із впливу
OpenAI заблокувала облікові записи, пов’язані з раніше не висвітленою операцією ізраїльського походження «Нульовий Зенон», яка застосовувала ШІ для створення матеріалів проти ХАМАСу, Катару й БДП та на підтримку Ізраїлю й Гістадруту.
Цей аналіз випадку вперше опубліковано у звіті OpenAI за травень 2024 року(відкривається у новому вікні).
Суб’єкт
Ми заблокували групу керованих з Ізраїлю облікових записів, які використовували для створення та редагування матеріалів у межах операції впливу, що охоплювала X, Facebook, Instagram, вебсайти та YouTube. Мережею керувала ізраїльська компанія з управління політичними кампаніями STOIC. На честь засновника стоїчної філософської школи й з огляду на низький рівень взаємодії, який мала ця мережа, ми назвали її «Нульовий Зенон».
Поведінка
Ця операція поширювала англомовні матеріали та матеріали івритом серед аудиторій у Канаді, США й Ізраїлі. На початку травня вона також почала поширювати англомовні матеріали серед аудиторії в Індії. Схоже, вона також готувалася провести інформаційну кампанію, спрямовану на аудиторію в Гані.
У межах операції наші моделі використовували для створення вебстатей і коментарів для соцмереж, які потім публікували на різних платформах, зокрема в Instagram, Facebook і X.

Англомовні коментарі, створені цією мережею та опубліковані в Instagram. І оригінальну публікацію, і відповіді створено в межах цієї кампанії.
У межах операції наші моделі також використовували для створення вигаданих персонажів і біографій для соцмереж на основі таких параметрів, як вік, стать і місце перебування, а також для пошуку інформації про людей в Ізраїлі, які публічно коментували діяльність ізраїльської профспілки «Гістадрут». У відповідь на ці запити наші моделі відмовилися надавати особисту інформацію.
Створені цією мережею матеріали публікували на різних платформах соціальних мереж. Під час дослідження відкритих джерел Лабораторія цифрових криміналістичних досліджень Атлантичної ради(відкривається у новому вікні) виявила деякі матеріали цієї мережі у Facebook, Instagram і X. Після блокування відповідних облікових записів учасники операції придбали нові. Інші матеріали з’явилися на чотирьох вебсайтах, які видавали себе за групи активістів, зосереджені на конфлікті в Газі та ширших питаннях відносин між юдеями й мусульманами: uc4canada.com, the-good-samaritan.com, ufnews.io та nonagenda.com.
У деяких випадках ми виявляли, що фальшиві облікові записи цієї операції коментували її ж дописи в соцмережах — імовірно, щоб створити враження активної взаємодії з аудиторією.

Публікація в X від облікового запису, пов’язаного з діяльністю, яку вперше виявила DFRLab, разом із відповідями. Усі показані на цьому зображенні відповіді створено в межах цієї кампанії.
Багато облікових записів у соцмережах, які публікували матеріали цієї мережі, використовували зображення профілю, імовірно створені за допомогою давнішого типу штучного інтелекту — генеративно-змагальних мереж (GAN). Такі зображення можна легко завантажити з інтернету. Попри легкість створення таких зображень, ми виявили в цій мережі кілька облікових записів у соцмережах, які використовували одне й те саме зображення. Іноді два чи більше облікових записів з однаковим зображенням профілю відповідали на ту саму публікацію в соцмережі.

Зображення профілів облікових записів у X, які публікували коментарі, створені цією мережею. Зображення має візуальні ознаки, характерні для генерації за допомогою GAN.
Матеріали
Ця операція складалася з низки тематичних кампаній, більшість із яких були опосередковано пов’язані з конфліктом у Газі та ширшим питанням відносин між юдеями й мусульманами. У травні ми припинили частину діяльності, зосередженої на виборах в Індії, менш ніж за 24 години після її початку.
Лютневе дослідження відкритих джерел(відкривається у новому вікні) описувало, як ця мережа критикувала Близькосхідне агентство ООН для допомоги палестинським біженцям (БАПОР). У березневому звіті DFRLab(відкривається у новому вікні) було висвітлено матеріали, присвячені Канаді, у яких критикували тих, кого в дописах кампанії називали «радикальними ісламістами». Ще одна група матеріалів була присвячена університетам США й звинувачувала пропалестинських протестувальників у пропагуванні антисемітизму й тероризму. Четверта група матеріалів була присвячена Катару, а його інвестиції у США зображувалися як загроза американському способу життя. П’ята група створювала дописи для соцмереж івритом. У них зазвичай вихваляли профспілкову організацію «Гістадрут» та її керівництво. Зрештою, у травні мережа почала створювати коментарі про Індію, у яких критикувала правлячу партію БДП і вихваляла опозиційну партію «Індійський національний конгрес».
Іноді мережа, схоже, переводила свої облікові записи з однієї теми на іншу. Наприклад, записи, які раніше публікували матеріали про Канаду, починали висвітлювати США, Індію, Гістадрут або кілька цих тем одночасно.

Три коментарі в X від облікового запису, який неодноразово публікував матеріали цієї кампанії, 1–4 травня 2024 року. Найраніша публікація (внизу), схоже, була спробою створити правдоподібний образ користувача. Друга публікація присвячена Канаді й містить допис з основного облікового запису цієї мережі, орієнтованого на Канаду. Третя присвячена Індії.
Деякі створені цією мережею матеріали публікували в соцмережах у відповідь на дописи відомих західних діячів з обох боків політичного спектра. Ці відповіді зазвичай не мали жодного стосунку до оригінальної публікації. Наприклад, коментар про те, що Катар «скуповує» Америку, опублікували у відповідь на допис про музичні вподобання колишнього президента Трампа.

Угорі — публікація Лори Інгрем про музичні вподобання президента Трампа. Унизу — публікація з коментарем, створеним цією мережею. Зверніть увагу на різницю в показниках взаємодії з оригінальною публікацією та відповіддю.
Оцінка впливу
Діяльність «Нульового Зенона», схоже, майже не викликала взаємодії, крім активності власних несправжніх облікових записів мережі. (Meta й X уже заблокували багато облікових записів, тому поточні показники взаємодії можуть не відображати повної картини.)
Якщо оцінювати вплив інформаційної операції за шкалою виходу за межі мережі(відкривається у новому вікні) від 1 (найнижчий рівень) до 6 (найвищий рівень), ми віднесли б цю операцію до категорії 2: матеріали публікували на кількох платформах і вебсайтах, але доказів їх значного поширення людьми поза мережею немає.

Канал YouTube, пов’язаний із кампанією цієї операції, орієнтованою на Канаду. Станом на 25 квітня 2024 року на ньому було опубліковано одне відео, яке не мало жодного перегляду.
Індикатори
Ми визначили, що з кампаніями «Нульового Зенона» пов’язані такі домени.
nonagenda.com
the-good-samaritan.com
uc4canada.com
ufnews.io