Operasi “Hentikan Berita”: Aktiviti pengaruh berulang
OpenAI menyekat akaun yang dikaitkan dengan operasi dari Rusia yang kami gelar “Hentikan Berita”, yang menggunakan AI untuk menjana kandungan pengaruh berulang bagi menyasarkan Afrika dan UK.
Kajian kes ini pada asalnya diterbitkan dalam laporan Oktober 2025(dibuka dalam tetingkap baru) OpenAI.
Pelaku
Kami menyekat sekumpulan akaun yang cuba menggunakan model kami untuk menjana kandungan bagi operasi pengaruh terselindung yang kami laporkan pada Oktober 2024 sebagai “Hentikan Berita”. Aktiviti ini berasal dari Rusia dan kelihatan selaras dengan operasi yang dikendalikan oleh sebuah syarikat pemasaran. Siasatan kami mengenal pasti usaha pelaku ini untuk menggunakan alat AI syarikat lain bagi menjana video yang kemudiannya disiarkan di YouTube dan TikTok. Kami tidak dapat mengesahkan secara bebas model yang akhirnya mereka gunakan.
Tingkah laku
Seperti aktiviti yang kami hentikan pada Oktober 2024, operasi ini terutamanya menggunakan model kami untuk menjana kandungan yang kemudiannya disiarkan di media sosial dan beberapa laman web yang menyamar sebagai saluran berita sama di Afrika dan UK yang kami laporkan tahun lalu.
Walaupun aktiviti ini kelihatan seperti percubaan untuk meneruskan operasi terdahulu selepas tindakan kami dan pihak lain dalam industri, kami mengenal pasti beberapa perbezaan ketara. Pertama, kadar penjanaan imej jauh lebih rendah. Seperti yang kami nyatakan ketika itu, aktiviti asal Hentikan Berita menggunakan imej pada kadar yang luar biasa tinggi, manakala aktiviti terkini lebih berfokus pada penjanaan teks dan jarang menggunakan penjanaan imej. Hal ini selaras dengan penilaian agensi digital Perancis, VIGINUM, bahawa “sejak laporan Meta dan OpenAI diterbitkan, penggunaan imej janaan AI telah merosot secara mendadak”.
Kedua, operasi itu turut menggunakan ChatGPT untuk menjana skrip dan perihalan bagi video pendek bergaya berita. Lazimnya, pengendali akan memasukkan teks panjang dalam bahasa Rusia dan meminta skrip video dijana daripadanya. Mereka kemudian meminta model menterjemahkan teks itu ke dalam bahasa Perancis. Ketiga, mereka meminta model menjana perihalan yang dioptimumkan untuk SEO dan tanda pagar.
Sebahagian skrip ini digunakan dalam video di saluran YouTube yang dikaitkan dengan laman web operasi Hentikan Berita yang berfokus pada Afrika, newstop[.]africa. Skrip lain digunakan di saluran YouTube dan TikTok yang tidak menggunakan jenama “Hentikan Berita”. Saluran ini menampilkan individu janaan AI yang membaca berita. Dalam kebanyakan kes, klip ringkas pembaca berita diselang-selikan dengan rakaman video peristiwa di Afrika atau yang berkaitan dengannya. Klip pembaca berita itu nampaknya tidak dijana menggunakan model kami; kami tidak dapat mengesahkan secara bebas perkhidmatan yang digunakan. Penampilan pembaca berita itu berubah sepanjang 2025, seperti yang ditunjukkan dalam tangkap layar video TikTok di bawah.
Dari kiri ke kanan, pembaca berita janaan AI yang memuji Rusia pada Januari 2025, awal Jun 2025 dan akhir Jun 2025, daripada akaun TikTok operasi tersebut.
Dalam kes yang paling rumit, pengendali menggunakan model kami untuk menjana prom video yang nampaknya bertujuan digunakan dengan model AI lain. Dalam senario ini, mereka mula-mula menjana skrip video dalam bahasa Rusia, kemudian memecahkannya kepada petikan dua ayat dan meminta ChatGPT menjana prom video bagi setiap petikan. Selepas prom video dihasilkan, pengendali meminta model menterjemahkan keseluruhan skrip ke dalam bahasa Perancis.
Dari kiri ke kanan: tiga tangkap layar daripada video TikTok yang memuji “Kor Afrika” Rusia. Pengendali menggunakan ChatGPT untuk menjana skrip audio dalam bahasa Rusia, memecahkannya kepada petikan dua ayat, kemudian menjana prom video bagi setiap petikan untuk model lain. Imej di atas sepadan dengan prom video tersebut. Kami tidak dapat mengesahkan secara bebas perkhidmatan yang digunakan untuk menghasilkan video itu. Perlu diperhatikan bahawa kapsyen dalam imej di sebelah kanan mengandungi kesalahan tatabahasa (“ces” dan bukannya “ses”) yang tiada dalam terjemahan bahasa Perancis yang diberikan oleh ChatGPT. Ini menunjukkan bahawa kapsyen itu ditranskripsikan daripada audio dan tidak disemak pruf oleh seseorang yang mahir berbahasa Perancis.
Hasil
Aktiviti operasi ini terbahagi kepada tiga kategori utama. Pertama, operasi itu menjana kandungan berbahasa Perancis yang mengkritik peranan Perancis dan Amerika Syarikat di Afrika serta memuji peranan Rusia di sana. Kedua, operasi itu menjana kandungan berbahasa Inggeris yang mengkritik Ukraine dan penyokong antarabangsanya. Ada kalanya, pengendali turut menjana imej untuk mengiringi kandungan teks mereka. Dalam keadaan yang jarang berlaku, mereka meminta ChatGPT menjana artikel promosi dan teks iklan Google untuk jenama berita utama mereka, “Newstop Africa”. Daripada hanya berfokus pada Newstop Africa, sebahagian artikel promosi ini meletakkan jenama Newstop bersama saluran berita yang sah, mungkin untuk menjadikannya kelihatan lebih berwibawa melalui perkaitan tersebut.
Tweet oleh akaun X utama operasi tersebut yang berfokus pada Afrika. Imej itu dijana menggunakan model kami.
Kumpulan aktiviti ketiga melibatkan penjanaan bahan promosi untuk beberapa syarikat komersial di Rusia. Ini termasuk menjana iklan untuk perjudian dalam talian tanpa lesen. Gabungan pelbagai jenis penjanaan kandungan seperti ini selaras dengan kegiatan syarikat komersial yang menawarkan operasi pengaruh terselindung sambil menjalankan pengiklanan lebih konvensional, dan sepadan dengan aktiviti yang kami laporkan tahun lalu.
Kesan
Walaupun operasi ini semakin berfokus pada kandungan video pendek dan menggunakan pelbagai alat AI dengan lebih rumit, kandungan yang disiarkan nampaknya hanya meraih jumlah tontonan atau khalayak yang terhad. Akaun X utama “Newstop Africa” hanya mempunyai 172 pengikut setakat Ogos 2025 dan, menurut fungsi “Tweet teratas” X, jumlah tertinggi siaran semula bagi mana-mana hantarannya hanyalah empat.
Saluran YouTube dan TikTok yang menampilkan pembaca berita AI masing-masing mempunyai kira-kira 1,900 pengikut; saluran TikTok itu merekodkan 5,855 tanda suka, atau purata 105 tanda suka bagi setiap satu daripada 56 video yang disiarkannya. Video paling banyak ditonton merekodkan 63,300 tontonan, manakala video paling kurang ditonton hanya 87. Saluran YouTube itu mencatatkan kira-kira 255,000 tontonan bagi 50 video, atau purata 5,100 tontonan setiap video, tetapi kami tidak menemui bukti bahawa video ini dikongsi semula, dipetik dalam media atau meraih perhatian lebih meluas dengan cara lain.
Penilaian asal kami terhadap operasi ini dalam laporan Oktober 2024 ialah operasi tersebut mencapai Kategori 3 pada Skala Penembusan, sebahagian besarnya berdasarkan beberapa “perkongsian maklumat” yang kelihatan telah diwujudkan dengan laman web yang berpangkalan di UK. Namun, penyelidikan susulan oleh VIGINUM dan penyelidik sumber terbuka menunjukkan bahawa “perkongsian” ini berkemungkinan rekaan dan “mengeksploitasi kelemahan teknikal pada laman luar tersebut” untuk menambahkan kandungan tanpa pengetahuan pentadbirnya. Atas dasar ini, penilaian semasa kami ialah aktiviti operasi ini lebih sesuai diletakkan dalam Kategori 2, iaitu aktiviti merentas beberapa platform internet tetapi tanpa penembusan ketara ke dalam komuniti tulen.