Liwati menyang isi utama
OpenAI

1 Mei 2024

Kaslametan

Operasi “Zero Zeno”: aktivitas pengaruh sing ana gandhèngané karo Israel

OpenAI mblokir akun sing ana gandhèngané karo operasi asal Israel sing durung tau dilapuraké lan dijenengi “Zero Zeno”, sing nganggo AI kanggo nggawé konten anti-Hamas, anti-Qatar, pro-Israel, anti-BJP, lan pro-Histadrut.

Lagi dimuat…

Studi kasus iki wiwitané diterbitaké ing laporan OpenAI Mei 2024⁠(mbukak ing jendhela anyar).

Pelaku

Kita mblokir saklompok akun sing dioperasèkaké saka Israel lan digunakaké kanggo nggawé lan nyunting konten kanggo operasi pengaruh ing X, Facebook, Instagram, situs web, lan YouTube. Jaringan iki dioperasèkaké déning STOIC, perusahaan pengelola kampanye politik ing Israel. Kanggo ngurmati pangadeg aliran filsafat Stoik lan nggambaraké sithiké interaksi sing dipikolehi jaringan iki, kita mènèhi jejuluk “Zero Zeno”.

Prilaku

Operasi iki nyasar pamirsa ing Kanada, Amerika Serikat, lan Israel nganggo konten basa Inggris lan Ibrani. Ing awal Mei, operasi iki wiwit nyasar pamirsa ing India nganggo konten basa Inggris. Operasi iki uga katon lagi nyiapaké kampanye IO sing nyasar pamirsa ing Ghana.

Operasi iki nggunakake modèl kita kanggo nggawé artikel web lan komentar médhia sosial, sing banjur dikirim ing akèh platform, mligi Instagram, Facebook, lan X.

Komentar basa Inggris gawéan jaringan iki sing dikirim ing Instagram. Kiriman asli lan wangsulané padha-padha digawé déning kampanye iki.

Komentar basa Inggris gawéan jaringan iki sing dikirim ing Instagram. Kiriman asli lan wangsulané padha-padha digawé déning kampanye iki.

Operasi iki uga nggunakake modèl kita kanggo nggawé persona fiktif lan biodata médhia sosial adhedhasar variabel kayata umur, jender, lan lokasi, uga nliti wong-wong ing Israel sing menehi komentar umum babagan serikat buruh Histadrut ing Israel. Modèl kita nolak mènèhi informasi pribadhi kanggo nanggapi panjaluk kasebut.

Konten gawéan jaringan iki dikirim ing akèh platform médhia sosial. Riset sumber kabuka déning Digital Forensic Research Lab duwèké Atlantic Council⁠(mbukak ing jendhela anyar) nemokaké sawetara kontené ing Facebook, Instagram, lan X; nalika akun-akun kasebut dipatèni, operasi iki éntuk akun anyar. Konten liyané muncul ing patang situs web sing nyamar dadi klompok aktivis kanthi fokus marang konflik Gaza lan masalah hubungan sing luwih jembar antarané wong Yahudi lan Muslim: uc4canada.com, the-good-samaritan.com, ufnews.io, lan nonagenda.com.

Ing sawetara kasus, kita nemokaké akun palsu operasi iki menehi komentar ing kiriman médhia sosial sing digawé déning operasi kasebut dhéwé, kamungkinan kanggo nuwuhaké kesan yèn pamirsa padha melu sesambungan.

Kiriman ing X saka akun sing ana gandhèngané karo aktivitas sing sepisanan diidentifikasi déning DFRLab, bebarengan karo wangsulané. Kabèh wangsulan ing gambar iki digawé déning kampanye iki.

Kiriman ing X saka akun sing ana gandhèngané karo aktivitas sing sepisanan diidentifikasi déning DFRLab, bebarengan karo wangsulané. Kabèh wangsulan ing gambar iki digawé déning kampanye iki.

Akèh akun médhia sosial sing ngirim konten jaringan iki nggunakake foto profil sing katon digawé nganggo jinis kacerdhasan gawéan sing luwih lawas: generative adversarial networks (GAN). Gambar kaya mangkono gampang diundhuh saka internet. Sanajan gambar kasebut gampang digawé, kita nemokaké akèh akun médhia sosial ing jaringan iki sing nggunakake gambar sing padha. Kadhang kala, loro utawa luwih akun kanthi foto profil sing padha nanggapi kiriman médhia sosial sing padha.

Foto profil akun X sing ngirim komentar gawéan jaringan iki. Foto kasebut nuduhake ciri visual sing cocog karo gawéan GAN.

Foto profil akun X sing ngirim komentar gawéan jaringan iki. Foto kasebut nuduhake ciri visual sing cocog karo gawéan GAN.

Konten

Operasi iki dipérang dadi sawetara kampanye adhedhasar topik. Akèh-akèhé ana gandhèngané kanthi ora langsung karo konflik Gaza lan masalah hubungan sing luwih jembar antarané wong Yahudi lan Muslim. Ing Mei, kita ngendhegaké sawetara aktivitas sing fokus marang pemilu India kurang saka 24 jam sawisé diwiwiti.

Riset sumber kabuka ing Februari⁠(mbukak ing jendhela anyar) njlèntrèhaké yèn jaringan iki ngritik badan bantuan PBB ing Palestina, UNRWA. Laporan DFRLab ing Maret⁠(mbukak ing jendhela anyar) nyorot konten sing fokus marang Kanada lan ngritik pihak sing disebut “Islamis radikal” déning kiriman kampanye kasebut. Klompok liyané fokus marang universitas ing Amerika Serikat lan nudhuh para demonstran pro-Palestina nyengkuyung antisemitisme lan terorisme. Klompok kapapat fokus marang Qatar lan nggambaraké investasi Qatar ing AS minangka ancaman tumrap cara urip wong Amerika. Klompok kalima nggawé kiriman médhia sosial nganggo basa Ibrani. Kiriman kasebut lumrahé ngalembana organisasi serikat buruh Histadrut lan pimpinanné. Pungkasané, ing Mei, jaringan iki wiwit nggawé komentar sing fokus marang India, ngritik partai BJP sing lagi mrentah, lan ngalembana partai oposisi Kongres.

Kadhang kala, jaringan iki katon ngowahi fokus akun-akuné saka siji topik menyang topik liyané—umpamané, akun sing sadurungé ngirim babagan Kanada banjur ngalih fokus menyang AS, India, Histadrut, utawa luwih saka siji topik kasebut.

Telung komentar ing X saka akun sing bola-bali ngirim konten gawéan kampanye iki, 1–4 Mei 2024. Kiriman paling awal (ngisor) katon minangka upaya mbangun persona. Kiriman kapindho fokus marang Kanada lan nyakup kiriman saka akun utama jaringan iki sing nyasar Kanada. Kiriman katelu fokus marang India.

Telung komentar ing X saka akun sing bola-bali ngirim konten gawéan kampanye iki, 1–4 Mei 2024. Kiriman paling awal (ngisor) katon minangka upaya mbangun persona. Kiriman kapindho fokus marang Kanada lan nyakup kiriman saka akun utama jaringan iki sing nyasar Kanada. Kiriman katelu fokus marang India.

Sawetara konten gawéan jaringan iki dikirim ing médhia sosial minangka wangsulan marang tokoh Kulon kondhang saka loro kubu spektrum politik. Wangsulan kasebut umumé ora ana gandhèngané karo kiriman asli. Contoné, komentar babagan Qatar sing “tuku habis” Amerika dikirim kanggo nanggapi kiriman babagan musik sing disenengi mantan Présidhèn Trump.

Ndhuwur, kiriman Laura Ingraham babagan musik sing disenengi Présidhèn Trump. Ngisor, kiriman sing ngemot komentar gawéan jaringan iki. Gatèkna bédané angka interaksi antarané kiriman asli lan wangsulan.

Ndhuwur, kiriman Laura Ingraham babagan musik sing disenengi Présidhèn Trump. Ngisor, kiriman sing ngemot komentar gawéan jaringan iki. Gatèkna bédané angka interaksi antarané kiriman asli lan wangsulan.

Pambiji dampak

Aktivitas Zero Zeno katon mung éntuk sithik interaksi, utawa malah ora ana babar pisan, kajaba saka akun-akun palsuné dhéwé. (Akèh akun wis dipatèni déning Meta lan X, mula angka interaksi saiki bisa uga ora nggambaraké kahanan kanthi pepak.)

Kanthi nggunakake Breakout Scale⁠(mbukak ing jendhela anyar) kanggo mbiji dampak IO saka skala 1 (paling endhek) nganti 6 (paling dhuwur), kita mbiji iki minangka operasi Kategori 2, kanthi aktivitas kiriman ing akèh platform lan situs web, nanging ora ana bukti yèn konten kasebut disebaraké kanthi signifikan déning wong njaba jaringan.

Kanal YouTube sing ana gandhèngané karo kampanye operasi iki sing nyasar Kanada. Nganti 25 April 2024, kanal iki wis ngirim siji video sing durung tau ditonton.

Kanal YouTube sing ana gandhèngané karo kampanye operasi iki sing nyasar Kanada. Nganti 25 April 2024, kanal iki wis ngirim siji video sing durung tau ditonton.

Indikator

Kita ngenali domain-domain ing ngisor iki minangka domain sing ana gandhèngané karo kampanye Zero Zeno.

  • nonagenda.com

  • the-good-samaritan.com

  • uc4canada.com

  • ufnews.io