Operation »Zero Zeno«: Israel-tilknyttet påvirkningsaktivitet

Denne casestudie blev oprindeligt offentliggjort i OpenAI's rapport fra maj 2024⁠(åbner i et nyt vindue).

Vi udelukkede en gruppe konti, der blev drevet fra Israel og brugt til at generere og redigere indhold til en påvirkningsoperation på X, Facebook, Instagram, websites og YouTube. Netværket blev drevet af STOIC, et israelsk firma, der administrerer politiske kampagner. Som en hyldest til grundlæggeren af den stoiske filosofiske skole og med henvisning til det lave engagement, netværket opnåede, har vi givet det navnet »Zero Zeno«.

Denne operation målrettede engelsksproget og hebraisksproget indhold mod målgrupper i Canada, USA og Israel. I begyndelsen af maj begyndte den at målrette engelsksproget indhold mod målgrupper i Indien. Den ser også ud til at have forberedt en påvirkningskampagne rettet mod målgrupper i Ghana.

Operationen brugte vores modeller til at generere webartikler og kommentarer til sociale medier, som derefter blev slået op på flere platforme, især Instagram, Facebook og X.

Operationen brugte også vores modeller til at skabe fiktive personaer og biografier til sociale medier ud fra variabler som alder, køn og sted samt til at undersøge personer i Israel, der offentligt kommenterede den israelske fagforening Histadrut. Vores modeller afviste at udlevere personoplysninger som svar på disse prompts.

Indhold genereret af dette netværk blev slået op på flere sociale medieplatforme. Undersøgelser baseret på åbne kilder foretaget af Atlantic Councils Digital Forensic Research Lab⁠(åbner i et nyt vindue) identificerede noget af netværkets indhold på Facebook, Instagram og X. Da disse konti blev deaktiveret, anskaffede operationen sig nye. Andet indhold blev vist på fire websites, der udgav sig for at være aktivistgrupper med fokus på konflikten i Gaza og bredere spørgsmål om forholdet mellem personer med jødisk og muslimsk tro: uc4canada.com, the-good-samaritan.com, ufnews.io og nonagenda.com.

I nogle tilfælde fandt vi operationens falske konti blandt kommentarerne til opslag på sociale medier, som operationen selv havde lavet, sandsynligvis for at give indtryk af engagement fra brugerne.

Mange af de konti på sociale medier, som slog netværkets indhold op, brugte profilbilleder, der ser ud til at være skabt med en tidligere type kunstig intelligens: generative adversarial networks (GAN). Sådanne billeder kan nemt downloades fra internettet. Selvom disse billeder er nemme at skabe, fandt vi flere konti på sociale medier i netværket, som brugte det samme billede. Nogle gange svarede to eller flere konti med samme profilbillede på det samme opslag på sociale medier.

Operationen var opdelt i en række tematiske kampagner, hvoraf de fleste havde en løs forbindelse til konflikten i Gaza og det bredere spørgsmål om forholdet mellem personer med jødisk og muslimsk tro. I maj afbrød vi aktivitet rettet mod det indiske valg mindre end 24 timer efter, at den var begyndt.

Undersøgelser baseret på åbne kilder fra februar⁠(åbner i et nyt vindue) beskrev, hvordan netværket kritiserede FN's hjælpeorganisation i Palæstina, UNRWA. DFRLabs rapport fra marts⁠(åbner i et nyt vindue) fremhævede indhold med fokus på Canada, som kritiserede dem, kampagnens opslag omtalte som »radikale islamister« i landet. En anden gruppe fokuserede på universiteter i USA og beskyldte propalæstinensiske demonstranter for at fremme antisemitisme og terrorisme. En fjerde gruppe fokuserede på Qatar og fremstillede landets investeringer i USA som en trussel mod den amerikanske livsstil. En femte gruppe genererede opslag på hebraisk til sociale medier. De roste typisk fagforeningen Histadrut og dens ledelse. Endelig begyndte netværket i maj at generere kommentarer med fokus på Indien, som kritiserede regeringspartiet BJP og roste oppositionspartiet Kongrespartiet.

Nogle gange ser netværket ud til at have skiftet sine konti fra ét emne til et andet. Konti, der tidligere havde skrevet om Canada, skiftede eksempelvis fokus til USA, Indien eller Histadrut – eller flere af disse.

Noget af det indhold, netværket skabte, blev slået op på sociale medier som svar til prominente vestlige personer på begge sider af det politiske spektrum. Disse svar havde som regel ingen forbindelse til det oprindelige opslag. En kommentar om, at Qatar var ved at »opkøbe« USA, blev eksempelvis slået op som svar på et opslag om tidligere præsident Trumps musiksmag.

Zero Zenos aktivitet ser ud til at have opnået meget lidt eller intet engagement bortset fra netværkets egne uautentiske konti. (Mange konti er allerede blevet deaktiveret af Meta og X, så de aktuelle engagementstal viser muligvis ikke hele billedet.)

Med Breakout Scale⁠(åbner i et nyt vindue), der vurderer påvirkningsoperationers gennemslagskraft på en skala fra 1 (lavest) til 6 (højest), vurderer vi dette som en kategori 2-operation. Den er kendetegnet ved opslag på flere platforme og websites, men der er ingen tegn på, at personer uden for netværket har øget dens udbredelse væsentligt.

Vi identificerede følgende domæner som værende forbundet med Zero Zenos kampagner.

• nonagenda.com

• the-good-samaritan.com

• uc4canada.com

• ufnews.io