Operasi “Zero Zeno”: Aktiviti pengaruh yang dikaitkan dengan Israel
OpenAI menyekat akaun yang dikaitkan dengan operasi dari Israel yang tidak pernah dilaporkan sebelum ini dan kami gelar “Zero Zeno”, yang menggunakan AI untuk menjana kandungan anti-Hamas, anti-Qatar, pro-Israel, anti-BJP dan pro-Histadrut.
Kajian kes ini pada asalnya diterbitkan dalam laporan OpenAI Mei 2024(dibuka dalam tetingkap baru).
Pelaku
Kami menyekat sekumpulan akaun yang dikendalikan dari Israel dan digunakan untuk menjana serta menyunting kandungan bagi operasi pengaruh yang merangkumi X, Facebook, Instagram, laman web dan YouTube. Rangkaian itu dikendalikan oleh STOIC, sebuah firma pengurusan kempen politik di Israel. Bersempena dengan pengasas aliran falsafah Stoik dan bagi menggambarkan tahap interaksi rendah yang diterima rangkaian itu, kami menggelarnya “Zero Zeno”.
Tingkah laku
Operasi ini menyasarkan khalayak di Kanada, Amerika Syarikat dan Israel dengan kandungan dalam bahasa Inggeris dan Ibrani. Pada awal Mei, operasi ini mula menyasarkan khalayak di India dengan kandungan berbahasa Inggeris. Operasi ini juga nampaknya sedang membuat persediaan untuk menjalankan kempen operasi pengaruh yang menyasarkan khalayak di Ghana.
Operasi ini menggunakan model kami untuk menjana artikel web dan komen media sosial yang kemudiannya disiarkan merentas berbilang platform, terutamanya Instagram, Facebook dan X.

Komen berbahasa Inggeris yang dijana oleh rangkaian ini dan disiarkan di Instagram. Siaran asal dan balasannya dijana oleh kempen ini.
Operasi ini turut menggunakan model kami untuk mencipta persona dan biografi rekaan bagi media sosial berdasarkan pemboleh ubah tertentu seperti umur, jantina dan lokasi, serta menjalankan penyelidikan tentang individu di Israel yang mengulas secara terbuka mengenai kesatuan sekerja Histadrut di Israel. Model kami enggan memberikan maklumat peribadi sebagai respons kepada gesaan ini.
Kandungan yang dijana oleh rangkaian ini disiarkan merentas berbilang platform media sosial. Penyelidikan sumber terbuka oleh Makmal Penyelidikan Forensik Digital Atlantic Council(dibuka dalam tetingkap baru) mengenal pasti sebahagian kandungannya di Facebook, Instagram dan X; apabila akaun tersebut dinyahaktifkan, operasi itu memperoleh akaun baharu. Kandungan lain muncul di empat laman web yang menyamar sebagai kumpulan aktivis yang memfokuskan konflik Gaza dan isu hubungan yang lebih luas antara penganut agama Yahudi dengan Islam: uc4canada.com, the-good-samaritan.com, ufnews.io dan nonagenda.com.
Dalam sesetengah kes, kami mengenal pasti akaun palsu operasi ini mengulas siaran media sosial yang dibuat oleh operasi itu sendiri, berkemungkinan untuk mewujudkan gambaran bahawa khalayak berinteraksi dengannya.

Siaran di X oleh akaun yang dikaitkan dengan aktiviti yang mula-mula dikenal pasti oleh DFRLab, berserta balasannya. Semua balasan dalam imej ini dijana oleh kempen ini.
Kebanyakan akaun media sosial yang menyiarkan kandungan rangkaian ini menggunakan gambar profil yang nampaknya dicipta dengan jenis kecerdasan buatan terdahulu: rangkaian adversarial generatif (GAN). Imej sedemikian boleh dimuat turun dengan mudah daripada internet. Walaupun imej ini mudah dicipta, kami mengenal pasti beberapa akaun media sosial dalam rangkaian ini yang menggunakan gambar yang sama. Ada kalanya, dua atau lebih akaun dengan gambar profil yang sama membalas siaran media sosial yang sama.

Gambar profil akaun X yang menyiarkan komen yang dijana oleh rangkaian ini. Gambar tersebut mempunyai petunjuk visual yang selaras dengan penjanaan GAN.
Kandungan
Operasi ini dibahagikan kepada beberapa kempen bertema, yang kebanyakannya berkaitan secara longgar dengan konflik Gaza dan persoalan lebih luas tentang hubungan antara penganut agama Yahudi dengan Islam. Pada Mei, kami menggagalkan sebahagian aktiviti yang memfokuskan pilihan raya India dalam tempoh kurang daripada 24 jam selepas aktiviti itu bermula.
Penyelidikan sumber terbuka pada Februari(dibuka dalam tetingkap baru) melaporkan bahawa rangkaian ini mengkritik agensi bantuan PBB di Palestin, UNRWA. Laporan DFRLab pada Mac(dibuka dalam tetingkap baru) mengetengahkan kandungan yang memfokuskan Kanada dan mengkritik golongan yang digambarkan oleh siaran kempen itu sebagai “Islamis radikal” di negara tersebut. Satu lagi kelompok memfokuskan universiti di Amerika Syarikat dan menuduh penunjuk perasaan pro-Palestin menggalakkan antisemitisme dan keganasan. Kelompok keempat memfokuskan Qatar dan menggambarkan pelaburannya di AS sebagai ancaman terhadap cara hidup rakyat Amerika. Kelompok kelima menjana siaran media sosial dalam bahasa Ibrani. Siaran ini lazimnya memuji pertubuhan kesatuan sekerja Histadrut dan barisan pimpinannya. Akhirnya, pada Mei, rangkaian itu mula menjana komen yang memfokuskan India, mengkritik parti pemerintah BJP dan memuji parti pembangkang Kongres.
Ada kalanya, rangkaian itu nampaknya mengalihkan akaunnya daripada satu topik kepada topik lain—contohnya, akaun yang sebelum ini menyiarkan kandungan tentang Kanada beralih tumpuan kepada AS, India atau Histadrut, atau lebih daripada satu daripadanya.

Tiga komen di X oleh akaun yang berulang kali menyiarkan kandungan yang dijana oleh kempen ini, 1–4 Mei 2024. Siaran terawal (di bawah) nampaknya merupakan cubaan membina persona. Siaran kedua memfokuskan Kanada dan membenamkan siaran daripada akaun utama rangkaian ini yang menyasarkan Kanada. Siaran ketiga memfokuskan India.
Sebahagian kandungan yang dicipta oleh rangkaian ini disiarkan di media sosial sebagai balasan kepada tokoh terkemuka Barat daripada kedua-dua belah spektrum politik. Balasan ini secara umumnya tiada kaitan dengan siaran asal. Sebagai contoh, satu komen tentang Qatar yang “memborong” Amerika disiarkan sebagai balasan kepada siaran tentang pilihan muzik bekas Presiden Trump.

Di atas, siaran Laura Ingraham tentang pilihan muzik Presiden Trump. Di bawah, siaran yang mengandungi komen yang dijana oleh rangkaian ini. Perhatikan perbezaan angka interaksi antara siaran asal dengan balasannya.
Penilaian impak
Aktiviti Zero Zeno nampaknya menerima sedikit interaksi atau langsung tiada, selain daripada akaun tidak tulennya sendiri. (Banyak akaun telah dinyahaktifkan oleh Meta dan X, jadi angka interaksi semasa mungkin tidak memberikan gambaran yang lengkap.)
Dengan menggunakan Skala Breakout(dibuka dalam tetingkap baru) untuk menilai impak operasi pengaruh, yang memberikan penarafan pada skala 1 (terendah) hingga 6 (tertinggi), kami menilai operasi ini sebagai Kategori 2, yang dicirikan oleh aktiviti penyiaran di berbilang platform dan laman web, tetapi tanpa bukti bahawa kandungannya diperluas dengan ketara oleh individu di luar rangkaian.

Saluran YouTube yang dikaitkan dengan kempen operasi ini yang menyasarkan Kanada. Setakat 25 April 2024, saluran itu telah menyiarkan satu video yang belum menerima sebarang tontonan.
Petunjuk
Kami mengenal pasti domain berikut sebagai berkaitan dengan kempen Zero Zeno.
nonagenda.com
the-good-samaritan.com
uc4canada.com
ufnews.io