Melumpuhkan operasi “penyamaran” berbantukan AI

Sepanjang dua setengah tahun lalu, kami telah melaporkan tentang pelbagai cara yang digunakan dalam percubaan pelaku ancaman menggunakan model kami untuk menjalankan serangan siber, operasi pengaruh terselindung (IO), penipuan dan pelanggaran lain terhadap Dasar Penggunaan kami. Kami menerbitkan laporan ini untuk memaklumkan pengawal selia, rakan industri dan masyarakat umum tentang pemerhatian kami terhadap cara pelaku ancaman cuba memanfaatkan AI, serta mendedahkan kelemahan yang cuba mereka eksploitasi.

Baru-baru ini kami menyekat dua IO—satu dari Rusia dan satu dari Iran—yang menggunakan model kami bersama teknik dan teknologi yang lebih tradisional untuk menyokong entiti “penyamaran” yang canggih. Mereka menggunakan entiti itu untuk menyampaikan mesej geopolitik berkaitan konflik kepada khalayak sasaran sambil menyembunyikan sumber sebenar mesej tersebut. Operasi Iran menggunakan tujuh persona “wartawan” untuk menawarkan artikel panjang kepada saluran media dalam talian kecil dan sederhana di seluruh dunia; operasi Rusia pula kelihatan telah memperalat individu yang tidak menyedari tujuan sebenar mereka di Amerika Latin untuk mengendalikan sebuah “badan pemikir” di lapangan.

Kedua-dua operasi mempunyai pelbagai dimensi, dengan mencuba bermacam-macam taktik untuk mencapai matlamat mereka. Selain artikel panjang, operasi Iran menjana kelompok komen media sosial, umumnya tentang topik berkaitan perang AS-Iran. Selain mengawal “badan pemikir” itu, operasi Rusia mencipta dokumen “bocor” palsu dan skrip audio; kami mengenal pasti sebahagiannya sedang disebarkan dalam talian. Kedua-dua operasi juga banyak menggunakan AI untuk merangka laporan dalaman (bagi operasi Rusia, inilah kegunaan utamanya); dalam kedua-dua kes, mereka menggunakan kaedah yang meragukan atau jelas menipu untuk membesar-besarkan keberkesanan operator.

Perkara paling ketara tentang operasi ini ialah persamaannya yang rapat dengan operasi pengaruh kompleks pada zaman sebelum AI, tetapi dengan penggunaan AI untuk memudahkan sebahagian aliran kerja. Persona wartawan yang dikendalikan oleh operasi Iran mempunyai persamaan dengan wartawan palsu “Alice⁠(dibuka dalam tetingkap baru) Donovan⁠(dibuka dalam tetingkap baru)”, identiti penyamaran perisikan tentera Rusia yang artikelnya diterbitkan oleh pelbagai saluran media Barat pada 2016–17. Pada 2020, individu yang dikaitkan dengan aktiviti terdahulu Agensi Penyelidikan Internet Rusia mengendalikan saluran “berita” palsu bernama “PeaceData⁠(dibuka dalam tetingkap baru)”, yang memperalat wartawan di seluruh dunia untuk menulis baginya tanpa mengetahui tujuan sebenar saluran itu.

Operasi ini juga luar biasa dari segi potensi jangkauannya. Dengan menggunakan Skala Penembusan⁠(dibuka dalam tetingkap baru) IO, yang menilai IO pada skala 1 (terendah) hingga 6 (tertinggi), kami menilai operasi berasal dari Rusia itu sebagai Kategori 5. Inilah operasi Kategori 5 pertama yang kami lumpuhkan sejak kami mula membuat laporan. Operasi berasal dari Iran mencapai Kategori 4. Kedua-duanya berjaya menempatkan kandungan mereka (yang bukan semuanya dijana oleh model kami) dalam saluran media arus perdana, bukan sekadar menyiarkannya di media sosial. Ini selaras dengan pola yang kami perhatikan dalam 30 operasi pengaruh terselindung yang kami dedahkan sepanjang dua setengah tahun lalu: operasi yang cuba menempatkan kandungan dalam saluran media sebenar, dan bukannya bergantung pada penyebaran melalui akaun media sosial palsu, cenderung mempunyai potensi jangkauan dan kesan paling tinggi.

Matriks 30 IO yang kami dedahkan sejak awal 2024, dinilai mengikut kaedah penyebaran utama (media sosial, laman web kendalian operasi, penerbitan luar) dan skor Skala Penembusan. Operasi yang menggunakan lebih daripada satu kaedah penyebaran, seperti mengendalikan laman web dan mempromosikannya di media sosial, dikelaskan mengikut kaedah yang kelihatan menjadi teras operasi.

AI boleh meningkatkan skala, kecekapan, kefasihan bahasa dan keupayaan penyuntingan operasi penyamaran seperti ini. Para operator boleh menggunakan kelebihan ini untuk mengeksploitasi mangsa yang tidak mengesyaki apa-apa, seperti pekerja atau editor, dan menyusupkan kandungan mereka kepada khalayak yang tidak tahu siapa dalangnya atau apakah motif mereka. Operasi ini turut menunjukkan betapa kompleks dan canggihnya penggunaan persona serta entiti palsu oleh pelaku ancaman untuk mencapai matlamat mereka. Memahami kelemahan yang dieksploitasi oleh pelaku ancaman dalam usaha ini, serta cara kelemahan itu boleh membantu mereka meraih khalayak dan meluaskan jangkauan, amat penting untuk mengekalkan pertahanan yang kukuh dalam organisasi.

Namun, sifat terselindung operasi penyamaran ini juga menjadikannya amat terdedah kepada kesan pendedahan yang bertanggungjawab. Kedua-dua “Alice Donovan” dan “PeaceData” menghentikan aktiviti mereka selepas didedahkan. Itulah sebabnya matlamat kami melaporkan operasi penyamaran ini adalah untuk memudahkan penyelidikan dan tindakan lanjut bagi melumpuhkannya—serta menyukarkan operasi itu diteruskan.

Pelaku berasal dari Rusia yang menjalankan kempen pengaruh di seluruh Amerika Latin.

Kami menyekat sekumpulan akaun ChatGPT yang berasal dari Rusia. Mereka menggunakan ChatGPT untuk pelbagai tugas berkaitan operasi pengaruh terselindung yang menyasarkan negara-negara di seluruh Amerika Latin. Sebahagian besar aktiviti ini kelihatan bertujuan merosakkan reputasi Ukraine di rantau itu, tetapi ada juga yang kelihatan bertujuan mempengaruhi hasil politik tempatan, khususnya di Argentina dan Bolivia. Kebanyakan operator menggunakan prom bahasa Rusia; seorang menggunakan bahasa Sepanyol, tetapi tetap kelihatan berada di Rusia. Kami telah berkongsi maklumat tentang kes ini dengan pihak berkuasa berkaitan.

Para operator menggunakan ChatGPT untuk tiga tugas utama: menulis laporan dalaman tentang aktiviti mereka (serta aktiviti orang lain yang munasabah untuk didakwa sebagai hasil usaha mereka), mencipta kandungan untuk operasi mereka, dan merangka laporan prestasi sebuah badan di Amerika Latin yang menggelar dirinya “platform penyelidikan”, bernama Social Research Center (SRC). Mereka kelihatan mengawal SRC melalui persona palsu bernama “Mia Clark”; mengambil ilham daripada nama itu, kami menamakan operasi ini “Dark Clark”. Oleh sebab kami tidak membenarkan akses kepada model kami dari Rusia, mereka menggunakan VPN untuk menyambung kepada perkhidmatan kami.

Dalam laporan dalaman, para operator mendakwa telah menyebarkan cerita palsu di seluruh Amerika Latin untuk memburukkan Ukraine atau pemimpin tempatan. Sebahagian bahan palsu ini dikaitkan oleh penyelidik⁠(dibuka dalam tetingkap baru) sumber terbuka⁠(dibuka dalam tetingkap baru) dengan entiti Rusia yang dikenali sebagai “Politology” atau “La Compania”, yang dilaporkan sebagai pengganti Kumpulan Wagner dan entiti lain yang diasaskan oleh oligarki Rusia Yevgeniy Prigozhin. Para operator juga meminta model kami menterjemah atau menjelaskan laporan awam tentang Politology dan Wagner, jauh lebih kerap berbanding pertanyaan tentang mana-mana rangkaian lain yang berasal dari Rusia.

Operasi ini luar biasa dalam dua aspek. Pertama, operasi ini kelihatan berjaya memperalat individu di Amerika Latin untuk bekerja bagi SRC. Laporan operator Rusia tentang SRC menyebut keputusan mengenai perkara seperti skala gaji, pengambilan dan pemecatan pekerja, menunjukkan bahawa mereka mengawal entiti itu, bukan bekerjasama dengannya. Bukti yang ada menunjukkan bahawa pekerja SRC di Amerika Latin tidak sedar bahawa mereka bekerja untuk kumpulan Rusia. Tidak seperti sebuah lagi “badan pemikir” berkaitan Rusia yang kami dedahkan baru-baru ini, SRC kelihatan menghasilkan kebanyakan kandungan aslinya melalui kakitangan yang diperalat. Ini merupakan percubaan paling kompleks untuk mengendalikan identiti penyamaran yang telah kami lumpuhkan sepanjang dua setengah tahun lalu.

Kedua, beberapa bukti sumber terbuka menunjukkan bahawa bahan palsu Dark Clark tersebar cukup luas sehingga mencetuskan semakan fakta⁠(dibuka dalam tetingkap baru) dan penafian rasmi⁠(dibuka dalam tetingkap baru), menandakan tahap penembusan yang melebihi mana-mana operasi pengaruh yang kami lumpuhkan dalam dua tahun lalu. Satu bahan palsu yang didakwa telah disebarkan oleh operasi itu di Peru malah memburukkan ketegangan awam antara Ukraine dengan Poland.

Kegunaan utama ChatGPT bagi para operator ialah merangka dan mengemas kini laporan dalaman kepada pihak atasan yang tidak diketahui identitinya. Laporan berkala ini menerangkan usaha menjalankan kempen pengaruh terselindung di seluruh Amerika Latin. Laporan itu merangkumi tiga bidang kerja utama: usaha memburukkan Ukraine dan menjejaskan pengambilan anggota Angkatan Tentera Ukraine; usaha mencampuri politik dalaman negara tertentu, khususnya Bolivia dan Argentina; serta pengurusan SRC. Dalam kebanyakan kes, kami tidak melihat pelaku ancaman menggunakan model kami untuk mencipta kandungan kempen, sebaliknya hanya untuk melaporkannya (beberapa pengecualian diterangkan di bawah⁠).

Laporan itu sarat dengan butiran taktikal, yang menjelaskan cara operasi tersebut cuba memburukkan Ukraine dan beberapa pemimpin negara, khususnya presiden Argentina, Bolivia dan Ecuador. Ada laporan yang menerangkan usaha memperdaya penduduk tempatan untuk menjalankan aktiviti yang boleh dijadikan alat serangan oleh operator; yang lain menerangkan bahan “bocor” palsu yang didakwa telah mereka sebarkan.

Dalam dua kes, bukti mengaitkan para operator dengan laporan awam tentang “Politology”. Para operator melaporkan bahawa pada 2024, mereka menjalankan dua kempen yang menyasarkan Presiden Argentina Javier Milei. Pertama, mereka mengatakan bahawa mereka menyebarkan laporan palsu kononnya Milei telah membeli kolar Cartier bertatahkan permata untuk anjing-anjingnya. Kedua, mereka mendakwa membayar individu tempatan untuk membuat grafiti anti-Milei di Buenos Aires. Berdasarkan dokumen bocor, kedua-dua dakwaan ini telah dikaitkan⁠(dibuka dalam tetingkap baru) secara terbuka⁠(dibuka dalam tetingkap baru) dengan “Politology” dan “La Compania”.

Banyak lagi bahan palsu sebelum ini belum pernah dikaitkan dengan operasi pengaruh (IO) Rusia. Contohnya, para operator mendakwa bahawa pada Mei 2026, mereka mencipta alamat e-mel palsu yang kononnya milik Direktorat Pendidikan Wilayah di Lima, Peru. Mereka menggunakannya untuk mengarahkan sekolah di daerah itu mengadakan acara khusus tentang Ukraine sempena Hari Kepelbagaian Budaya dan Bahasa kebangsaan (21 Mei). E-mel tersebut mengandungi arahan jelas untuk menyebut, antara lain, Stepan Bandera, tokoh nasionalis Ukraine abad ke-20 yang kontroversial. Beliau dianggap oleh sesetengah rakyat Ukraine sebagai tokoh kemerdekaan, tetapi dikaitkan di Rusia dan Poland dengan fasisme, kerjasama dengan musuh semasa perang dan kekejaman. Menurut para operator, beberapa sekolah membalas e-mel palsu itu dengan mengesahkan bahawa mereka telah mengadakan acara tersebut, malah menyertakan gambar.

Para operator kemudian mendakwa telah menyusupkan berita tentang acara itu ke dalam media di Peru dan Poland, bersama dakwaan bahawa Ukraine sedang “mengeksport” ideologi ultranasionalis, sekali gus mencetuskan kemarahan. Carian sumber terbuka menemukan berita yang sepadan dengan dakwaan ini dalam akhbar⁠(dibuka dalam tetingkap baru) Peru⁠(dibuka dalam tetingkap baru) dan⁠(dibuka dalam tetingkap baru) Poland⁠(dibuka dalam tetingkap baru), serta sebuah penerbitan berbahasa Inggeris di Hungary⁠(dibuka dalam tetingkap baru) (sebahagian artikel itu telah dipadamkan sejak itu). Beberapa⁠(dibuka dalam tetingkap baru) artikel⁠(dibuka dalam tetingkap baru) menyertakan reaksi seorang Ahli Parlimen Eropah dari Poland yang mencadangkan agar individu yang menunjukkan “sikap anti-Poland” diisytiharkan sebagai orang yang tidak dialu-alukan di Poland. Oleh itu, bahan palsu Rusia tersebut memanfaatkan dan pada masa yang sama memburukkan ketegangan sejarah antara rakyat Ukraine dengan rakyat Poland.

Begitu juga pada Jun, para operator mendakwa mereka menggunakan alamat e-mel palsu lain untuk memperdaya sekolah di Ecuador agar mengadakan upacara ikrar taat setia kepada Presiden Daniel Noboa dan Erik Prince, bekas ketua kontraktor tentera swasta Blackwater. Para operator mendakwa insiden itu mencetuskan kemarahan di Ecuador dan mendesak kerajaan untuk menafikan maklumat palsu tersebut, lalu meluaskan penyebarannya ke seluruh negara. Sekali lagi, penyelidikan sumber terbuka menemukan liputan⁠(dibuka dalam tetingkap baru) media⁠(dibuka dalam tetingkap baru) dalam akhbar⁠(dibuka dalam tetingkap baru) Ecuador⁠(dibuka dalam tetingkap baru) yang sangat menyerupai dakwaan ini, malah turut menemukan sanggahan terperinci⁠(dibuka dalam tetingkap baru) oleh Menteri Pendidikan Ecuador.

Para operator menggunakan pelbagai teknik untuk mengukuhkan cerita palsu mereka. Menurut laporan dalaman mereka, mereka menyebarkan dua bahan palsu yang berbeza dengan menyasarkan Ecuador pada Mac. Satu daripadanya menggunakan audio palsu yang dikatakan rakaman konsul Ukraine di Ecuador, yang kononnya mengandungi kenyataan beliau yang menghina rakyat Ecuador. Siasatan sumber terbuka kami menemukan satu hantaran di TikTok yang sepadan tepat dengan dakwaan ini; hantaran itu kelihatan hanya menerima interaksi yang terhad. Satu lagi menggambarkan klip video palsu yang disebarkan di X dan TikTok menggunakan logo saluran berita sebenar, dengan dakwaan bahawa kerajaan Noboa sedang merekrut pemuda untuk berperang di Ukraine. Penyemak fakta⁠(dibuka dalam tetingkap baru) di Ecuador melaporkan kempen yang sepadan dengan gambaran ini pada awal April.

Video TikTok yang disiarkan pada 8 April 2026, dengan audio palsu yang didakwa dihasilkan oleh operasi ini dan dikatakan rakaman Konsul Ukraine.

Satu lagi laporan dalaman menerangkan bahan palsu yang mereka sebarkan di Bolivia pada akhir Mei, ketika protes antikerajaan memuncak. Para operator menyatakan dengan jelas bahawa matlamat kempen ini adalah untuk memburukkan krisis yang berkaitan dengan protes tersebut. Kempen itu menggunakan rakaman audio palsu seorang pekerja syarikat air milik negara, EPSAS, yang mengatakan bahawa kerajaan akan memutuskan bekalan air ke ibu kota pentadbiran, La Paz, dan mengisytiharkan darurat. Penyelidikan sumber terbuka kami menemukan sanggahan⁠(dibuka dalam tetingkap baru) terhadap dakwaan yang sepadan dan penafian rasmi⁠(dibuka dalam tetingkap baru) daripada EPSAS.

Laporan dalaman lain merangkumi bahan palsu yang penyebarannya tidak dapat kami sahkan melalui sumber terbuka, mungkin kerana bahan tersebut sudah diturunkan atau gagal tersebar. Contohnya, para operator mendakwa telah menyebarkan cerita pada Januari bahawa seorang pempengaruh dan peragawati Brazil telah diperdagangkan ke Ukraine oleh wakil Kedutaan Ukraine, lalu dibunuh di Kyiv. Pada Jun, mereka mendakwa telah menyebarkan satu lagi klip audio palsu di Bolivia, kali ini kononnya daripada seorang kakitangan Bank Pusat Bolivia, yang memberi amaran bahawa bank itu akan mengehadkan pengeluaran tunai. Mereka juga mendakwa telah menyebarkan surat palsu daripada agensi hidrokarbon negara itu, yang memberi amaran tentang sekatan jualan bahan api kepada kereta persendirian.

Dalam laporan lain, para operator meminta model kami membantu mengenal pasti insiden di negara sasaran yang boleh mereka dakwa sebagai hasil usaha mereka, walaupun mereka tidak terlibat. Contohnya di Argentina, para operator mendakwa bahawa Menteri Luar Argentina telah memetik bahan operasi mereka dalam mesyuarat jawatankuasa Pertubuhan Bangsa-Bangsa Bersatu mengenai Kepulauan Falkland / Malvinas. Para operator mengaku merekalah yang menyebarkan hujah bahawa prinsip penentuan nasib sendiri tidak terpakai kepada kepulauan itu, dan bahawa UK mengekalkan kehadiran tentera yang tidak seimbang di sana. Sebenarnya, kedua-dua hujah telah menjadi sebahagian daripada pendirian rasmi Argentina selama bertahun-tahun⁠(dibuka dalam tetingkap baru) lamanya⁠(dibuka dalam tetingkap baru). Begitu juga pada Jun, media Brazil melaporkan⁠(dibuka dalam tetingkap baru) kes seorang warga Brazil yang pergi ke Ukraine untuk menyertai tentera, ditawan oleh tentera Rusia, kemudian membuat kenyataan di televisyen bahawa beliau telah diperdaya untuk berperang. Para operator yang menggunakan ChatGPT cuba mendakwa bahawa laporan ini mengulangi mesej operasi mereka; sebenarnya, laporan itu memetik video tawanan itu sendiri⁠(dibuka dalam tetingkap baru). Ini menunjukkan percubaan para operator untuk menjalankan operasi pengaruh yang menyasarkan majikan mereka sendiri, bukannya khalayak luar.

Beberapa laporan operator merujuk kepada sebuah badan yang menggelar dirinya “platform penyelidikan” bernama Social Research Center (dalam bahasa Rusia, Центр социологических исследований). Menurut laman web SRC, pusat itu memfokuskan diaspora India di Amerika Latin serta hubungan antara India dengan negara-negara di rantau tersebut.

Laporan dalaman menunjukkan bahawa para operator mengawal badan pemikir itu, bukan sekadar bekerjasama dengannya. Contohnya, mereka merujuk kepada keputusan pengambilan dan pemecatan pekerja, skala gaji, rancangan perjawatan serta projek penyelidikan yang sedang berjalan. Yang penting, laporan itu turut menyatakan bahawa para operator telah mencipta persona palsu bernama “Mia Clark” untuk mengendalikan aktiviti media sosial operasi tersebut dan berhubung dengan kakitangan di lapangan di Amerika Latin. Bukti yang ada menunjukkan bahawa pekerja di lapangan ini tidak tahu bahawa mereka bekerja untuk operasi Rusia, dan menjalankan tugas penyelidikan dengan niat baik. Penggunaan perantara yang tidak menyedari peranan sebenar mereka ini sangat menyerupai operasi Rusia terdahulu yang turut dikaitkan dengan rangkaian Prigozhin, “PeaceData”, yang didedahkan⁠(dibuka dalam tetingkap baru) oleh Meta pada 2020.

Berdasarkan laporan operator Rusia, kakitangan mereka di lapangan di Amerika Latin menemu bual pakar dan pengulas di seluruh rantau itu, kemudian merangka kertas penyelidikan berdasarkan dapatan mereka. Topiknya merangkumi analisis umum pendapat awam tentang kumpulan BRICS hingga perbandingan terperinci ekonomi Brazil di bawah presiden Jair Bolsonaro dan Luiz Inácio Lula da Silva. Kadangkala, operator Rusia merangka laporan status projek penyelidikan sebelum hasilnya diterbitkan, menunjukkan penglibatan rapat dalam proses penghasilannya. Kami mengenal pasti jauh lebih daripada 60 artikel di laman web SRC, yang sebahagian besarnya kelihatan seperti karya asli. Ini membezakan Dark Clark daripada operasi berasal dari Rusia yang kami dedahkan baru-baru ini, yang turut menggunakan badan pemikir sebagai penyamaran tetapi memplagiat kebanyakan kandungannya. Hal ini menunjukkan niat untuk membina entiti penyamaran yang lebih berkekalan, dengan rangkaian hubungan di seluruh Amerika Latin.

Untuk mempromosikan hasil kerja SRC, operator Rusia mendakwa telah cuba membina rangkaian aset media sosial. Menurut laporan mereka, aktiviti media sosial ini menghadapi masalah apabila operator di pelbagai tempat di dunia cuba mengakses akaun yang sama, sehingga menyebabkan sekatan akaun. Jejaknya dapat dilihat dalam rekod sumber terbuka: contohnya, tetapan ketelusan akaun utama SRC di X menunjukkan lokasi di Jerman (mungkin akibat penggunaan VPN) tetapi sambungan melalui App Store Persekutuan Rusia, manakala tetapan ketelusan salah satu akaun Instagramnya menunjukkan lokasi pentadbir di Venezuela. Tiada satu pun daripada tiga akaun Facebook berjenama SRC yang kami kenal pasti mempunyai pengikut yang cukup untuk mengaktifkan tetapan lokasi pentadbir.

Kiri, akaun X yang dikaitkan dengan Social Research Center. Perhatikan tetapan ketelusan yang menunjukkan akaun disambungkan melalui gedung aplikasi Persekutuan Rusia. Kanan, akaun Instagram SRC: perhatikan lokasi di Venezuela.

Para operator melaporkan masalah khusus di LinkedIn. Mereka mengakui mencipta akaun palsu untuk mewakili SRC, tetapi kemudian sukar membina rangkaian untuknya. Menurut laporan mereka, penyelesaiannya ialah mencipta lebih banyak akaun palsu untuk mengikuti akaun pertama dan menjadikannya kelihatan lebih meyakinkan. Setakat 17 Ogos, akaun LinkedIn dengan penjenamaan Social Research Center yang sama mempunyai 961 pengikut dan mendakwa mempunyai 200–500 kakitangan, tetapi hanya menyenaraikan dua pekerja.

Kadangkala, selain menggunakan AI untuk mengemas kini laporan, para operator meminta model kami membantu merancang dan menghasilkan teks untuk operasi mereka: contohnya, meminta bantuan memastikan bahan palsu mereka menggunakan loghat, kosa kata dan gaya institusi yang betul bagi negara yang berbeza. Ini hanya sebahagian kecil daripada keseluruhan beban kerja, mungkin kerana operasi itu kelihatan mempunyai sekurang-kurangnya seorang penutur asli bahasa Sepanyol dari Amerika Latin, maka kurang memerlukan bantuan bahasa daripada AI.

Contohnya, pada satu ketika, seorang operator berbahasa Rusia meminta model membantu merangka surat dalam bahasa Rusia yang akan mengaitkan konsul kehormat Ukraine ke Panama dengan rasuah. Operator berbahasa Sepanyol kemudian meminta model menterjemahkan surat itu ke dalam bahasa Sepanyol dan menjana skrip audio untuk mengiringinya. Foto yang sepadan dengan teks surat itu, bersama suara latar yang sepadan dengan skrip operator, disiarkan di TikTok oleh akaun yang mengaku sebagai saluran berita tetapi menggunakan logo TVN Noticias⁠(dibuka dalam tetingkap baru) dari Panama. Saluran TikTok itu hanya mempunyai seorang pengikut dan berhenti membuat hantaran selepas menyebarkan bahan palsu ini.

Hantaran TikTok yang menunjukkan surat dengan teks yang dijana oleh operasi ini, bersama skrip suara latar yang turut dijana oleh operasi tersebut.

Pada kesempatan lain, operator berbahasa Sepanyol di Rusia memberikan skrip bahasa Rusia kepada model yang mendakwa Noboa telah menghina golongan miskin di Ecuador, lalu meminta model menterjemahkannya ke dalam bahasa Sepanyol Ecuador. Dalam kejadian ketiga, pada Mac, pengguna yang sama meminta model menyemak pruf draf kontrak bahasa Sepanyol antara syarikat bernama “International Security Solutions FZE” dengan seorang individu di Ecuador, yang kononnya bertujuan menyediakan perkhidmatan infrastruktur di Ukraine. Soalan pengguna itu tertumpu pada cara memperbaik bahasa dan susun atur, termasuk bertanya perkataan mana yang perlu ditebalkan.

Prom pengguna tentang kontrak itu berakhir setelah teks dimuktamadkan. Namun, penyelidikan sumber terbuka menunjukkan bahawa gambar “kontrak” itu kemudiannya disebarkan di media sosial⁠(dibuka dalam tetingkap baru). Gambar itu digunakan untuk mengukuhkan dakwaan bahawa kerajaan Noboa telah bekerjasama dengan sebuah syarikat penyamaran untuk memperdaya rakyat Ecuador agar menyertai tentera Ukraine. Bahan palsu itu tersebar cukup luas sehingga mencetuskan semakan fakta⁠(dibuka dalam tetingkap baru) pada awal April: penyemak fakta menyimpulkan bahawa syarikat itu “tidak tersenarai dalam daftar Badan Penyelia Syarikat, Sekuriti dan Insurans Ecuador”.

Kesan operasi ini memerlukan penilaian yang sangat teliti. Seperti yang dinyatakan di atas, salah satu pendekatan utama para operator ialah mengaku bertanggungjawab atas aktiviti yang tiada kaitan dengan operasi mereka. Oleh itu, dakwaan mereka sendiri tentang kesan operasi dalam laporan dalaman tidak boleh diterima begitu sahaja. Begitu juga, beberapa cerita palsu yang mereka dakwa telah disebarkan tidak ditemukan dalam penyelidikan sumber terbuka, mungkin kerana cerita itu disebarkan melalui saluran bukan awam, sudah diturunkan atau sebenarnya tidak disiarkan.

Namun, bukti sumber terbuka membolehkan kami mengesahkan sebahagian dakwaan mereka. Sebahagian bahan palsu yang didakwa telah disebarkan oleh operasi itu kemudiannya dilaporkan oleh penyemak fakta dan disangkal oleh kerajaan, menunjukkan bahawa penyebarannya cukup luas sehingga memerlukan respons. Dalam kes lain, kami dapat mengenal pasti kandungan dalam talian yang sangat sepadan dengan kandungan yang dijana oleh operasi ini. Yang paling ketara, dakwaan operasi itu bahawa mereka telah memperdaya sebuah sekolah di Peru agar mengadakan acara yang menampilkan Bandera kemudiannya dilaporkan di Amerika Latin dan Eropah, serta kelihatan telah mendorong ulasan daripada sekurang-kurangnya seorang Ahli Parlimen Eropah dari Poland.

Dengan menggunakan Skala Penembusan⁠(dibuka dalam tetingkap baru) IO, yang menilai IO pada skala 1 (terendah) hingga 6 (tertinggi), kami menilai operasi ini sebagai Kategori 5, dengan bukti yang menunjukkan bahawa operasi ini telah mendorong ulasan terbuka oleh ahli politik di beberapa negara. Inilah operasi Kategori 5 pertama yang kami lumpuhkan sejak kami mula membuat laporan.

Operasi berasal dari Iran yang menyusupkan artikel panjang atas nama penulis palsu ke dalam saluran berita dalam talian.

Kami menyekat sekumpulan akaun ChatGPT yang berasal dari Iran. Mereka menggunakan prom bahasa Parsi dan menjana kandungan dalam bahasa Parsi serta Inggeris. Para pelaku menyembunyikan lokasi mereka dengan menggunakan VPN untuk mengakses ChatGPT.

Operasi ini menggunakan model kami untuk memperkemas artikel panjang dan cadangan artikel kepada editor, menjana komen media sosial serta memperkemas laporan dalaman. Para operator menggunakan tujuh nama penulis berbeza untuk menawarkan artikel mereka, maka kami menamakan kempen ini “Bogus Bylines”. Artikel panjang itu memfokuskan konflik AS-Iran. Kebanyakan komen juga membincangkan konflik itu; sebilangan kecil membincangkan politik AS, lazimnya dalam konteks konflik yang lebih luas.

Kesan yang kelihatan daripada bidang kerja utama mereka sangat berbeza. Kami mengenal pasti hampir 100 artikel yang diterbitkan atau diedarkan secara sindikasi atas nama penulis operasi itu di kira-kira sedozen saluran media dalam talian di seluruh dunia. Saluran media ini bersaiz kecil hingga sederhana, dan umumnya memfokuskan hal ehwal antarabangsa, geopolitik serta peristiwa di Timur Tengah. Sebaliknya, tiada komen media sosial yang kelihatan berjaya meraih interaksi besar dari segi tanda suka, perkongsian atau balasan lanjut. Malah, laporan dalaman operator menggunakan pengiraan yang mengelirukan untuk mengukur kesan media sosial mereka, mungkin bagi membesar-besarkan keberkesanan operator pada pandangan pihak lain.

Aktiviti keseluruhan kelihatan selaras dengan entiti komersial yang menjalankan kempen pengaruh berbayar, tetapi kami tidak dapat mengenal pasti pihak tertentu yang terlibat. Kami telah berkongsi maklumat tentang kes ini dengan pihak berkuasa berkaitan.

Aktiviti operasi ini yang paling luas jangkauannya ialah meminta ChatGPT menyemak dan memperkemas artikel panjang berbahasa Inggeris tentang geopolitik konflik AS-Iran. Prom yang biasa digunakan meminta model menilai draf berbahasa Inggeris berdasarkan kriteria penyerahan artikel bagi saluran media dalam talian tertentu, dan mencadangkan suntingan untuk memastikan pematuhan. Selepas meluluskan suntingan, para operator meminta model menjana e-mel yang boleh digunakan untuk menawarkan artikel itu kepada editor saluran media dalam talian berkenaan.

Mesej tawaran ini dirangka menggunakan tujuh nama penulis palsu: Ervin B. Hoskins, Noah Lamington, Sophia Gonzalez, Michael Harrison, Ericka Feusier, Jenny Williams dan Alice Johnson. Menurut biografi yang disiarkan dalam talian bersama beberapa artikel ini, setiap persona mengaku sebagai wartawan Barat (biasanya warga Amerika, walaupun biografi persona Noah Lamington mendakwa berada di New Zealand), lazimnya dengan tumpuan pada politik antarabangsa, Timur Tengah, hak asasi manusia atau konflik. Bagi salah satu persona, “Michael Harrison”, para operator meminta model menulis biografi itu sendiri. (Sebagai catatan, pada Mac, Meta melumpuhkan⁠(dibuka dalam tetingkap baru) satu IO Iran yang turut menggunakan persona wartawan “Michael Harrison”.)

Sesetengah persona ini disokong oleh akaun di pelbagai platform media sosial untuk mengukuhkan identiti mereka. Persona Michael Harrison, contohnya, disokong oleh akaun di Medium, X dan Facebook. Persona Ervin B. Hoskins mempunyai akaun di X, Facebook, Instagram dan Threads. Biografi persona ini mendakwa dirinya “seorang penulis bebas Amerika”, tetapi tetapan ketelusan media sosial menunjukkan akaun-akaunnya berada di Iran.

Atas, biografi Instagram persona Ervin Hoskins. Bawah kiri, maklumat ketelusan akaun X, menunjukkan penggunaan aplikasi Android Asia Barat. Bawah kanan, maklumat ketelusan akaun Instagram, menunjukkan lokasi di Iran. Meta menyekat akaun Instagram itu pada Ogos.

Dengan teknik siasatan sumber terbuka, kami mengenal pasti hampir 100 artikel yang diterbitkan atas salah satu nama penulis operator, merentas lebih sedozen penerbitan yang berbeza. Penerbitan ini umumnya memfokuskan hal ehwal antarabangsa, geopolitik dan peristiwa di Timur Tengah, kadangkala dari sudut pandang antiperang atau progresif. Artikel terawal yang kami kenal pasti diterbitkan pada Julai 2025, dan yang terkini pada Oktober 2026. Kekerapan penerbitan artikel meningkat dengan ketara selepas konflik AS-Iran tercetus.

Garis masa artikel, mengikut penulis dan tema, Julai 2025—September 2026. Perhatikan kepadatan penerbitan tentang hubungan AS-Iran mulai Mac 2026.

Contoh tajuk artikel yang diterbitkan atas nama penulis yang dikaitkan dengan operasi ini antara Februari hingga Julai 2026 dalam pelbagai saluran media dalam talian.

Sekurang-kurangnya beberapa artikel itu kemudian dipromosikan oleh akaun media sosial saluran media berkenaan, yang berpotensi memberi operator Iran jalan untuk menjangkau khalayak yang tidak dapat mereka capai dengan cara lain.

Selain artikel, pelaku ancaman meminta ChatGPT menjana kelompok komen tentang topik geopolitik atau politik dalam bahasa Inggeris atau Parsi. Pendekatan biasa mereka ialah memasukkan teks atau tangkapan skrin hantaran media sosial, kemudian meminta model menyediakan satu set balasan yang selaras dengan fokus keseluruhan mereka. Balasan ini kemudian disiarkan dalam talian, selalunya dalam sela masa beberapa minit antara satu sama lain. Laporan dalaman operator menyebut penyiaran oleh manusia dan secara automatik; kami tiada bukti yang menunjukkan bahawa automasi ini dilakukan dengan bantuan model kami.

Ciapan dalam bahasa Inggeris, kiri, dan Parsi, kanan, yang dijana oleh operasi ini dan disiarkan pada Julai. Komen berbahasa Inggeris membalas ciapan bahasa Inggeris yang memberi amaran bahawa AS sedang bersiap untuk melancarkan “serangan besar-besaran” terhadap Iran. Semua komen dalam imej ini disiarkan dalam tempoh 10 minit. Komen berbahasa Parsi membalas ciapan bahasa Parsi tentang serangan AS ke atas Iran, dan disiarkan dalam tempoh 13 minit.

Sebahagian aktiviti komen berkelompok ini melibatkan penjanaan balasan kepada hantaran media sosial tentang artikel berita operasi itu sendiri. Dalam hal ini, para operator memasukkan tangkapan skrin hantaran yang mempromosikan artikel mereka, kemudian menjana komen yang memuji atau menyokongnya, mungkin untuk menjadikan artikel itu kelihatan lebih popular.

Hantaran Facebook oleh halaman berita tempatan AS yang berkongsi artikel hasil operasi ini, serta komen pada hantaran itu yang turut dijana oleh operasi ini.

Kebanyakan kelompok komen memfokuskan konflik antara Iran, Amerika Syarikat dan Israel secara lebih umum. Pengguna meminta komen tentang topik seperti serangan peluru berpandu, gencatan senjata dan percaturan diplomatik, dengan menetapkan agar hasilnya menggambarkan AS sebagai penceroboh, Israel sebagai sekutu AS yang tidak boleh diharapkan, dan Iran sebagai mangsa yang melawan serta berdaya tahan. Para operator menjana amat banyak balasan kepada hantaran rangkaian satelit yang berpangkalan di UK, Iran International—pengkritik rejim Iran—dengan menghasilkan lebih dua dozen kelompok balasan bernada bermusuhan dalam bahasa Parsi. Sebilangan kecil kelompok itu menjana balasan kepada hantaran media sosial tentang isu politik AS, lazimnya juga dalam konteks konflik yang lebih luas.

Komen Instagram yang dijana oleh operasi ini sebagai balasan kepada hantaran tentang politik AS.

Kami mengenal pasti sebilangan kecil balasan ini disiarkan dalam talian; jauh lebih banyak tidak ditemukan dalam carian sumber terbuka kami, mungkin kerana balasan itu tidak disiarkan atau disiarkan oleh akaun yang sudah diturunkan. (Contohnya, tiga persona wartawan—Ericka Feusier, Alice Johnson dan Jenny Williams—menyenaraikan nama pengguna akaun X dalam biografi yang diterbitkan: semuanya telah digantung setakat Ogos 2026.) Sesetengah akaun yang menyiarkan komen dalam talian menggunakan nama yang kelihatan seperti nama Barat, tetapi menunjukkan lokasi akaun di Iran.

Tetapan ketelusan akaun Instagram yang membuat komen seperti dalam ilustrasi di atas, menunjukkan bahawa akaun itu berada di Iran.

Apabila kami menemukan balasan ini disiarkan, bilangannya lazimnya hanya sebahagian kecil daripada keseluruhan komen pada hantaran berkenaan, menunjukkan bahawa suara operator tidak dominan berbanding respons tulen. Balasan itu juga tidak kelihatan meraih interaksi yang besar: malah, banyak tanda suka pada balasan operasi itu datang daripada akaun yang turut dikaitkan dengan operasi tersebut. Kami telah berkongsi maklumat tentang kes ini dengan rakan industri, yang paling sesuai untuk memberikan penilaian menyeluruh tentang interaksi.

Percubaan menjadikan aktiviti mereka kelihatan lebih popular tidak terhad kepada hantaran untuk tatapan umum. Selain menjana kandungan, para operator kadangkala meminta ChatGPT memperkemas dokumen yang kelihatan seperti laporan dalaman tentang kempen media sosial mereka. Lazimnya, mereka memberikan satu siri statistik kepada model dan memintanya mengubah statistik itu menjadi pembentangan yang kemas.

Ini bukan operasi pertama yang kami lumpuhkan yang menggunakan AI untuk menulis penilaian kendiri⁠(dibuka dalam tetingkap baru) mereka sendiri⁠(dibuka dalam tetingkap baru). Perkara paling ketara tentang usaha operator Iran menilai prestasi sendiri ialah kaedah yang mereka gunakan. Metrik “kesan” utama mereka ialah jumlah tontonan pada hantaran yang mereka balas (bukan jumlah tontonan pada balasan itu sendiri), yang dikira sebelum dan pada suatu masa yang tidak dinyatakan selepas balasan disiarkan. Pengiraan ini tidak mengambil kira tontonan yang mungkin berpunca daripada faktor lain, seperti populariti hantaran asal atau komen lain. Oleh itu, angka kesan operasi tersebut dibesar-besarkan dengan ketara, menunjukkan bahawa para operator sama ada tidak tahu cara yang lebih berkesan untuk mengiranya atau memilih untuk tidak menggunakannya.

Sebenarnya, berdasarkan bukti daripada pemerhatian sumber terbuka, dua bidang kerja utama operasi ini kelihatan mempunyai tahap kemungkinan kesan yang sangat berbeza.

Balasan media sosial yang dapat kami kenal pasti umumnya meraih jumlah tanda suka, tontonan dan komen yang rendah (dalam angka satu atau dua digit). Seperti yang dinyatakan di atas, balasan itu lazimnya hanya sebahagian kecil daripada keseluruhan komen pada hantaran berkenaan. Dengan menggunakan Skala Penembusan⁠(dibuka dalam tetingkap baru) IO, yang menilai IO pada skala 1 (terendah) hingga 6 (tertinggi), kami menilai bahagian operasi ini sebagai Kategori 2, dengan komen di pelbagai platform tetapi sedikit tanda bahawa kandungannya tersebar lebih jauh atau mampu mendominasi balasan.

Sebaliknya, persona wartawan berjaya mendapatkan penerbitan artikel mereka dalam pelbagai saluran media, yang sesetengahnya mempunyai ramai pengikut: contohnya, salah satu saluran media dalam talian yang menerbitkan artikel operasi ini mempunyai hampir 2 juta pengikut di Facebook, hampir 355,000 di X dan lebih 544,000 di Instagram setakat Ogos 2026. Kami menilai bahagian operasi ini sebagai Kategori 4, berdasarkan kejayaannya menembusi beberapa saluran media secara konsisten.