Operation ”Zero Zeno”: Israelkopplad påverkansaktivitet

Den här fallstudien publicerades ursprungligen i OpenAI:s rapport från maj 2024⁠(öppnas i ett nytt fönster).

Vi stängde av en grupp konton som drevs från Israel och användes för att generera och redigera innehåll åt en påverkansoperation som omfattade X, Facebook, Instagram, webbplatser och YouTube. Nätverket drevs av STOIC, ett israeliskt företag som arbetar med ledning av politiska kampanjer. För att hedra grundaren av den stoiska filosofiska skolan och spegla det låga engagemang som nätverket väckte har vi gett det smeknamnet ”Zero Zeno”.

Operationen riktade engelskt och hebreiskt innehåll till målgrupper i Kanada, USA och Israel. I början av maj började den rikta engelskspråkigt innehåll till målgrupper i Indien. Den verkar också ha förberett en påverkanskampanj riktad till målgrupper i Ghana.

Operationen använde våra modeller för att generera webbartiklar och kommentarer för sociala medier, vilka sedan publicerades på flera plattformar, framför allt Instagram, Facebook och X.

Operationen använde också våra modeller för att skapa fiktiva personer och profiltexter för sociala medier utifrån variabler som ålder, kön och plats samt för att kartlägga personer i Israel som offentligt kommenterade den israeliska fackliga organisationen Histadrut. Våra modeller vägrade att lämna ut personuppgifter som svar på dessa promptar.

Innehåll som genererats av detta nätverk publicerades på flera sociala medieplattformar. Öppna efterforskningar av Atlantic Councils Digital Forensic Research Lab⁠(öppnas i ett nytt fönster) identifierade en del av nätverkets innehåll på Facebook, Instagram och X. När dessa konton stängdes av skaffade operationen nya. Annat innehåll förekom på fyra webbplatser som utgav sig för att representera aktivistgrupper inriktade på Gazakonflikten och bredare frågor om relationerna mellan personer med judisk respektive muslimsk tro: uc4canada.com, the-good-samaritan.com, ufnews.io och nonagenda.com.

I vissa fall såg vi hur operationens falska konton kommenterade inlägg i sociala medier som operationen själv hade publicerat, sannolikt för att ge sken av publikengagemang.

Många av de konton i sociala medier som publicerade nätverkets innehåll använde profilbilder som verkar ha skapats med en äldre typ av artificiell intelligens: generativa motståndarnätverk (GAN). Sådana bilder kan enkelt laddas ned från internet. Trots att bilderna är enkla att skapa identifierade vi flera konton i nätverket som använde samma bild. Ibland svarade två eller flera konton med samma profilbild på samma inlägg i sociala medier.

Operationen var uppdelad i flera kampanjer med olika teman. De flesta hade en lös koppling till Gazakonflikten och den bredare frågan om relationerna mellan personer med judisk respektive muslimsk tro. I maj stoppade vi viss aktivitet med inriktning på det indiska valet mindre än 24 timmar efter att den inletts.

Öppna efterforskningar i februari⁠(öppnas i ett nytt fönster) beskrev hur nätverket kritiserade FN:s hjälporganisation för Palestinaflyktingar, UNRWA. DFRLabs rapport i mars⁠(öppnas i ett nytt fönster) lyfte fram innehåll med fokus på Kanada som kritiserade personer som kampanjens inlägg beskrev som ”radikala islamister” i landet. Ytterligare en grupp fokuserade på universitet i USA och anklagade propalestinska demonstranter för att främja antisemitism och terrorism. En fjärde grupp fokuserade på Qatar och framställde landets investeringar i USA som ett hot mot den amerikanska livsstilen. En femte grupp genererade inlägg på hebreiska för sociala medier. Dessa hyllade vanligtvis den fackliga organisationen Histadrut och dess ledning. I maj började nätverket slutligen generera kommentarer som fokuserade på Indien, kritiserade det styrande BJP och hyllade oppositionspartiet Kongresspartiet.

Ibland verkar nätverket ha bytt ämne för sina konton. Konton som tidigare hade publicerat innehåll om Kanada kunde exempelvis övergå till USA, Indien eller Histadrut, eller till flera av dessa.

En del av innehållet som nätverket skapade publicerades i sociala medier som svar till framstående västerländska personer från båda sidor av det politiska spektrumet. Dessa svar hade i allmänhet ingen koppling till det ursprungliga inlägget. En kommentar om att Qatar ”köper upp” USA publicerades exempelvis som svar på ett inlägg om den tidigare presidenten Trumps musiksmak.

Zero Zenos aktivitet verkar ha väckt lite eller inget engagemang, bortsett från nätverkets egna falska konton. (Många konton har redan stängts av av Meta och X, så dagens engagemangssiffror ger kanske inte hela bilden.)

Med hjälp av Breakout Scale⁠(öppnas i ett nytt fönster), som bedömer påverkansoperationers genomslag på en skala från 1 (lägst) till 6 (högst), bedömer vi detta som en operation i kategori 2. Den kännetecknas av publicering på flera plattformar och webbplatser, men det finns inga belägg för att den fått någon betydande spridning av personer utanför nätverket.

Vi identifierade följande domäner som kopplade till Zero Zenos kampanjer.

• nonagenda.com

• the-good-samaritan.com

• uc4canada.com

• ufnews.io