Операция „Zero Zeno“: свързана с Израел дейност за влияние

Този казус първоначално е публикуван в доклада на OpenAI от май 2024 г.⁠(отваря се в нов прозорец).

Забранихме група профили, управлявани от Израел, които се използваха за генериране и редактиране на съдържание за операция за влияние, обхващаща X, Facebook, Instagram, уебсайтове и YouTube. Мрежата се управляваше от STOIC — израелска фирма за управление на политически кампании. В чест на основателя на стоическата философска школа и като отражение на ниската ангажираност, която мрежата привлече, я нарекохме „Zero Zeno“.

Тази операция беше насочена към аудитории в Канада, Съединените щати и Израел със съдържание на английски и иврит. В началото на май тя започна да се насочва към аудитории в Индия със съдържание на английски език. Изглежда също, че се е подготвяла да проведе кампания за влияние, насочена към аудитории в Гана.

Операцията използваше нашите модели за генериране на уеб статии и коментари в социалните мрежи, които след това бяха публикувани в множество платформи, най-вече Instagram, Facebook и X.

Операцията използваше моделите ни и за създаване на измислени самоличности и биографии за социалните мрежи въз основа на променливи като възраст, пол и местоположение, както и за проучване на хора в Израел, коментирали публично израелския профсъюз Хистадрут. Нашите модели отказаха да предоставят лична информация в отговор на тези подкани.

Съдържание, генерирано от тази мрежа, беше публикувано в множество социални платформи. Проучване на открити източници от Лабораторията за цифрови криминалистични изследвания към Атлантическия съвет⁠(отваря се в нов прозорец) откри част от съдържанието ѝ във Facebook, Instagram и X; когато тези профили бяха деактивирани, операцията придоби нови. Друго съдържание се появи в четири уебсайта, представящи се за активистки групи, насочени към конфликта в Газа и по-широките въпроси за отношенията между хора от юдейско и мюсюлманско вероизповедание: uc4canada.com, the-good-samaritan.com, ufnews.io и nonagenda.com.

В някои случаи установихме, че фалшиви профили на тази операция коментират публикации в социалните мрежи, направени от самата операция, вероятно в опит да създадат впечатление за ангажираност на аудиторията.

Много от профилите в социалните мрежи, които публикуваха съдържанието на тази мрежа, използваха профилни снимки, които изглежда са създадени чрез по-ранен вид изкуствен интелект: генеративни състезателни мрежи (GAN). Такива изображения могат лесно да бъдат изтеглени от интернет. Въпреки че тези изображения се създават лесно, открихме множество профили на тази мрежа в социалните платформи, които използваха една и съща снимка. Понякога два или повече профила с една и съща профилна снимка отговаряха на една и съща публикация в социалните мрежи.

Тази операция беше разделена на няколко тематични кампании, повечето от които бяха косвено свързани с конфликта в Газа и с по-широкия въпрос за отношенията между хора от юдейско и мюсюлманско вероизповедание. През май прекъснахме част от дейността, насочена към изборите в Индия, по-малко от 24 часа след началото ѝ.

Проучване на открити източници от февруари⁠(отваря се в нов прозорец) описва как тази мрежа критикува Агенцията на ООН за подпомагане на палестинските бежанци, UNRWA. Докладът на DFRLab от март⁠(отваря се в нов прозорец) открои съдържание, насочено към Канада, което критикуваше хора, описани в публикациите на кампанията като „радикални ислямисти“. Друга група беше насочена към университети в Съединените щати и обвиняваше пропалестински протестиращи, че насърчават антисемитизма и тероризма. Четвърта група беше насочена към Катар и представяше инвестициите му в САЩ като заплаха за американския начин на живот. Пета група генерираше публикации на иврит за социалните мрежи. Те обикновено възхваляваха профсъюзната организация Хистадрут и нейното ръководство. Накрая, през май мрежата започна да генерира коментари, насочени към Индия, които критикуваха управляващата партия BJP и възхваляваха опозиционната партия Индийски национален конгрес.

Понякога изглежда, че мрежата е пренасочвала профилите си от една тема към друга — например профили, които преди са публикували за Канада, са се преориентирали към САЩ, Индия или Хистадрут, а понякога и към повече от една от тези теми.

Част от съдържанието, създадено от тази мрежа, беше публикувано в социалните платформи като отговор до видни западни личности от двете страни на политическия спектър. Тези отговори обикновено нямаха никаква връзка с първоначалната публикация. Например коментар за това как Катар „изкупува“ Америка беше публикуван в отговор на публикация за музикалните предпочитания на бившия президент Тръмп.

Изглежда, че дейността на Zero Zeno е привлякла малка или никаква ангажираност, освен от собствените ѝ неавтентични профили. (Много профили вече са деактивирани от Meta и X, така че текущите показатели за ангажираност може да не представят пълната картина.)

Ако използваме скалата Breakout⁠(отваря се в нов прозорец) за оценка на въздействието на операциите за влияние, която ги оценява от 1 (най-ниско) до 6 (най-високо), бихме определили тази операция като категория 2: тя се характеризира с публикации в множество платформи и уебсайтове, но няма доказателства, че е била значително разпространявана от хора извън мрежата.

Установихме, че следните домейни са свързани с кампаниите на Zero Zeno.

• nonagenda.com

• the-good-samaritan.com

• uc4canada.com

• ufnews.io