“Tata Bahasa Buruk”: aktivitas komentar Telegram terkait Rusia

Studi kasus ini awalnya diterbitkan dalam laporan OpenAI Mei 2024⁠(terbuka di jendela baru).

Kami memblokir jaringan akun yang sebelumnya belum pernah dilaporkan karena menggunakan model kami untuk membuat komentar yang kemudian diposting di Telegram. Kami mengaitkan aktivitas ini dengan sejumlah individu dari Rusia. Karena jaringan ini berfokus pada Telegram, berulang kali memposting teks bahasa Inggris yang tidak sesuai tata bahasa, dan kesulitan membangun audiens, kami menjulukinya “Tata Bahasa Buruk”.

Jaringan ini menyasar audiens di Rusia, Ukraina, Amerika Serikat, Moldova, dan negara-negara Baltik dengan konten berbahasa Rusia dan Inggris.

Jaringan ini menggunakan model kami dan akun Telegram untuk membangun alur spam komentar. Pertama, para operator menggunakan model kami untuk men-debug kode yang tampaknya dirancang guna mengotomatiskan postingan di Telegram. Kemudian, mereka membuat komentar berbahasa Rusia dan Inggris sebagai balasan atas postingan Telegram tertentu. Terakhir, mereka tampaknya menggunakan sedikitnya dua belas akun Telegram untuk memposting komentar tersebut.

Dalam bahasa Inggris, para operator menggunakan model kami untuk membuat komentar dengan gaya sejumlah persona palsu dari berbagai kelompok demografi di kedua sisi spektrum politik Amerika Serikat. Dalam bahasa Rusia, mereka lebih menyukai instruksi yang bersifat tematis dan tidak terlalu berbasis persona.

Jaringan ini terutama mengomentari postingan dari sejumlah kecil kanal Telegram. Kanal yang paling sering disebut adalah kanal pro-Rusia @Slavyangrad, disusul @police_frequency dan @SGTNewsNetwork yang berbahasa Inggris. (Kanal terakhir mengaku sebagai veteran Amerika yang konservatif, tetapi pada November, Meta melaporkan⁠(terbuka di jendela baru) bahwa kanal tersebut sebenarnya berasal dari Iran.) Dalam sampel aktivitas bulan Februari, jaringan ini mencoba membuat balasan untuk ketiga kanal tersebut dua kali lebih sering daripada gabungan 10 kanal lain yang paling sering disebut berikutnya.

Kampanye ini membuat komentar singkat yang berfokus pada beberapa tema politik. Baik dalam bahasa Inggris maupun Rusia, topik utama yang dipostingnya di Telegram adalah perang di Ukraina, situasi politik di Moldova dan negara-negara Baltik, serta politik di Amerika Serikat.

Komentar berbahasa Rusia yang umum dijumpai di Telegram menuduh presiden Ukraina dan Moldova melakukan korupsi, tidak mendapat dukungan rakyat, serta mengkhianati rakyat mereka sendiri demi “campur tangan” Barat. Komentar berbahasa Inggris di Telegram berfokus pada topik seperti imigrasi, kesulitan ekonomi, dan berita terkini hari itu. Komentar-komentar ini sering memanfaatkan konteks peristiwa terkini untuk menyatakan bahwa Amerika Serikat seharusnya tidak mendukung Ukraina.

Terkadang, lebih dari satu persona mengomentari postingan yang sama dengan sudut pandang yang saling bertentangan. Pendekatan “bermuka dua” dengan berpura-pura menjadi suara dari kedua kubu ini pernah diamati dalam operasi Rusia sebelumnya dan mungkin menunjukkan keinginan untuk menarik audiens tertentu atau memicu perpecahan.

Setelah serangan teroris di Moskwa pada 22 Maret dan penahanan empat warga negara Tajikistan, kampanye ini mulai menggunakan kelompok baru akun Telegram yang berfokus pada Tajikistan. Komentar yang dipostingnya menyerukan persatuan antara warga Tajik dan Rusia, serta penghormatan terhadap hukum Rusia.

Spam komentar sudah menjadi teknik yang umum digunakan dalam operasi pengaruh sebelum hadirnya AI generatif. Meskipun Tata Bahasa Buruk menggunakan teknik baru untuk membuat komentarnya, sistem distribusinya kesulitan menarik interaksi.

Hanya sedikit sekali komentarnya yang mendapatkan tanda suka atau balasan. Komentar jaringan ini biasanya hanya mencakup sebagian kecil balasan pada setiap postingan—artinya, komentar tersebut tidak menenggelamkan pandangan lain, jika memang itu tujuannya.

Sesekali, jaringan ini menggunakan model kami untuk membuat teks yang tampaknya merupakan pesan pribadi, mungkin dengan pengguna Telegram lain. Namun, teks yang dibuat menunjukkan bahwa jaringan tersebut sedang mengobrol dengan penipu mata uang kripto.

Dengan menggunakan Skala Breakout⁠(terbuka di jendela baru) untuk menilai dampak operasi pengaruh pada skala 1 (terendah) hingga 6 (tertinggi), kami menilai aktivitas ini termasuk Kategori 1, yang ditandai dengan aktivitas posting di satu platform tanpa bukti amplifikasi signifikan oleh orang-orang di luar jaringan.