Operacija „Zero Zeno“: aktivnosti utjecaja povezane s Izraelom

Ova studija slučaja prvobitno je objavljena u izvještaju kompanije OpenAI za maj 2024.⁠(otvara se u novom prozoru) godine.

Zabranili smo grupu naloga kojima se upravljalo iz Izraela, a koji su korišteni za generiranje i uređivanje sadržaja za operaciju utjecaja na X-u, Facebooku, Instagramu, web-stranicama i YouTubeu. Mrežom je upravljao STOIC, izraelska kompanija za vođenje političkih kampanja. U čast osnivača stoičke filozofske škole i zbog slabog odziva koji je mreža ostvarila, dali smo joj nadimak „Zero Zeno“.

Ova operacija sadržajem na engleskom i hebrejskom jeziku ciljala je publiku u Kanadi, Sjedinjenim Američkim Državama i Izraelu. Početkom maja počela je sadržajem na engleskom jeziku ciljati publiku u Indiji. Čini se i da se pripremala za pokretanje kampanje utjecaja usmjerene na publiku u Gani.

Operacija je koristila naše modele za generiranje web-članaka i komentara na društvenim mrežama, koji su zatim objavljivani na više platformi, naročito na Instagramu, Facebooku i X-u.

Operacija je naše modele koristila i za stvaranje izmišljenih persona i biografija za društvene mreže na osnovu varijabli poput dobi, spola i lokacije te za istraživanje osoba u Izraelu koje su javno komentirale izraelski sindikat Histadrut. Naši modeli odbili su pružiti lične podatke kao odgovor na ove upite.

Sadržaj koji je generirala ova mreža objavljivan je na više platformi društvenih mreža. Istraživanje otvorenih izvora koje je proveo Laboratorij za digitalna forenzička istraživanja Atlantskog vijeća⁠(otvara se u novom prozoru) identificiralo je dio njenog sadržaja na Facebooku, Instagramu i X-u; nakon gašenja tih naloga operacija je nabavila nove. Drugi sadržaj pojavio se na četiri web-stranice koje su se predstavljale kao aktivističke grupe usmjerene na sukob u Gazi i šira pitanja odnosa između pripadnika jevrejske i muslimanske vjere: uc4canada.com, the-good-samaritan.com, ufnews.io i nonagenda.com.

U nekim slučajevima otkrili smo da lažni nalozi ove operacije komentiraju objave na društvenim mrežama koje je sama operacija postavila, vjerovatno kako bi stvorili dojam interakcije publike.

Mnogi nalozi na društvenim mrežama koji su objavljivali sadržaj ove mreže koristili su profilne slike koje su, čini se, izrađene ranijom vrstom umjetne inteligencije: generativnim suparničkim mrežama (GAN). Takve slike mogu se lako preuzeti s interneta. Iako je takve slike lako napraviti, identificirali smo više naloga ove mreže na društvenim mrežama koji su koristili istu sliku. Ponekad bi dva ili više naloga s istom profilnom slikom odgovorila na istu objavu na društvenim mrežama.

Ova operacija bila je podijeljena na niz tematskih kampanja, od kojih je većina bila labavo povezana sa sukobom u Gazi i širim pitanjem odnosa između pripadnika jevrejske i muslimanske vjere. U maju smo prekinuli neke aktivnosti usmjerene na izbore u Indiji manje od 24 sata nakon što su počele.

Istraživanje otvorenih izvora iz februara⁠(otvara se u novom prozoru) opisalo je kako ova mreža kritizira UN-ovu agenciju za pomoć Palestini, UNRWA-u. Martovski izvještaj DFRLaba⁠(otvara se u novom prozoru) istaknuo je sadržaj usmjeren na Kanadu koji je kritizirao osobe koje su objave kampanje opisivale kao tamošnje „radikalne islamiste“. Još jedna grupa bila je usmjerena na univerzitete u Sjedinjenim Američkim Državama i optuživala propalestinske demonstrante za promoviranje antisemitizma i terorizma. Četvrta grupa bila je usmjerena na Katar i prikazivala njegova ulaganja u SAD kao prijetnju američkom načinu života. Peta grupa generirala je objave na društvenim mrežama na hebrejskom jeziku. One su obično hvalile sindikalnu organizaciju Histadrut i njeno rukovodstvo. Konačno, mreža je u maju počela generirati komentare usmjerene na Indiju, u kojima je kritizirala vladajuću stranku BJP i hvalila opozicijsku Kongresnu stranku.

Čini se da je mreža ponekad preusmjeravala svoje naloge s jedne teme na drugu — naprimjer, nalozi koji su ranije objavljivali o Kanadi preusmjerili su se na SAD, Indiju ili Histadrut, ili na više tih tema.

Dio sadržaja koji je stvorila ova mreža objavljen je na društvenim mrežama kao odgovor istaknutim zapadnim ličnostima s obje strane političkog spektra. Ti odgovori uglavnom nisu imali nikakve veze s izvornom objavom. Naprimjer, komentar o tome kako Katar „kupuje“ Ameriku objavljen je kao odgovor na objavu o muzičkim preferencijama bivšeg predsjednika Trumpa.

Čini se da aktivnosti mreže Zero Zeno gotovo da nisu izazvale nikakve interakcije osim onih s vlastitih lažnih naloga. (Meta i X već su ugasili mnoge naloge, pa trenutni podaci o interakcijama možda ne prikazuju potpunu sliku.)

Koristeći Breakout Scale⁠(otvara se u novom prozoru) za procjenu utjecaja operacija utjecaja, koja ih ocjenjuje na skali od 1 (najniže) do 6 (najviše), ovu bismo operaciju ocijenili kategorijom 2: obilježena je objavljivanjem na više platformi i web-stranica, ali nema dokaza da su je značajno širile osobe izvan mreže.

Utvrđeno je da su sljedeće domene povezane s kampanjama mreže Zero Zeno.

• nonagenda.com

• the-good-samaritan.com

• uc4canada.com

• ufnews.io