“Tatabahasa Buruk”: Aktiviti komen Telegram yang dikaitkan dengan Rusia

Kajian kes ini pada asalnya diterbitkan dalam laporan OpenAI pada Mei 2024⁠(dibuka dalam tetingkap baru).

Kami menyekat rangkaian akaun yang sebelum ini tidak dilaporkan kerana menggunakan model kami untuk mencipta komen yang kemudiannya disiarkan di Telegram. Kami mengaitkan aktiviti ini dengan individu dari Rusia. Memandangkan tumpuannya pada Telegram, penyiaran berulang kali dalam bahasa Inggeris yang tidak gramatis dan kesukarannya membina khalayak, kami menggelar rangkaian ini “Tatabahasa Buruk”.

Rangkaian ini menyasarkan khalayak di Rusia, Ukraine, Amerika Syarikat, Moldova dan negara-negara Baltik dengan kandungan dalam bahasa Rusia dan Inggeris.

Rangkaian ini menggunakan model kami dan akaun Telegram untuk menyediakan saluran penyebaran komen spam. Mula-mula, pengendali menggunakan model kami untuk menyahpepijat kod yang nampaknya direka bentuk bagi mengautomasikan penyiaran di Telegram. Kemudian, mereka menjana komen dalam bahasa Rusia dan Inggeris sebagai balasan kepada hantaran Telegram tertentu. Akhir sekali, mereka nampaknya menggunakan sekurang-kurangnya 12 akaun Telegram untuk menyiarkan komen tersebut.

Dalam bahasa Inggeris, pengendali menggunakan model kami untuk menjana komen dengan suara beberapa persona palsu daripada latar demografi berbeza di kedua-dua belah spektrum politik Amerika Syarikat. Dalam bahasa Rusia, mereka lebih mengutamakan arahan bertema yang kurang berasaskan persona.

Rangkaian ini terutamanya mengulas hantaran daripada sebilangan kecil saluran Telegram. Saluran yang paling kerap disebut ialah saluran pro-Rusia @Slavyangrad, diikuti oleh saluran berbahasa Inggeris @police_frequency dan @SGTNewsNetwork. (Saluran terakhir itu menyamar sebagai veteran konservatif Amerika, tetapi pada bulan November, Meta melaporkan⁠(dibuka dalam tetingkap baru) bahawa saluran itu sebenarnya berasal dari Iran.) Dalam sampel aktiviti pada bulan Februari, rangkaian ini cuba menjana balasan kepada ketiga-tiga saluran tersebut dua kali lebih kerap berbanding 10 saluran lain yang paling kerap disebut, secara keseluruhan.

Kempen ini menjana komen ringkas yang tertumpu pada beberapa tema politik. Dalam bahasa Inggeris dan Rusia, topik utama yang disiarkan di Telegram ialah perang di Ukraine, situasi politik di Moldova dan negara-negara Baltik, serta politik di Amerika Syarikat.

Komen lazim berbahasa Rusia di Telegram menuduh presiden Ukraine dan Moldova melakukan rasuah, tidak mendapat sokongan rakyat dan mengkhianati rakyat sendiri demi “campur tangan” Barat. Komen berbahasa Inggeris di Telegram tertumpu pada topik seperti imigresen, kesukaran ekonomi dan berita tergempar pada hari berkenaan. Komen ini sering menggunakan konteks peristiwa semasa untuk berhujah bahawa Amerika Syarikat tidak sepatutnya menyokong Ukraine.

Kadangkala, lebih daripada satu persona mengulas hantaran yang sama dan memberikan pandangan yang bercanggah. Pendekatan “bermuka dua” dengan menyamar sebagai suara kedua-dua pihak ini pernah diperhatikan dalam operasi Rusia dan mungkin menunjukkan hasrat untuk menarik khalayak tertentu atau mencetuskan perpecahan.

Selepas serangan pengganas di Moscow pada 22 Mac dan penahanan empat warga Tajik, kempen ini mula menggunakan kelompok baharu akaun Telegram yang tertumpu pada Tajikistan. Komen yang disiarkannya menyeru perpaduan antara rakyat Tajik dengan Rusia serta penghormatan terhadap undang-undang Rusia.

Penyebaran komen spam sudah menjadi teknik yang lazim digunakan oleh operasi pengaruh (IO) sebelum kemunculan AI generatif. Walaupun Tatabahasa Buruk menggunakan teknik baharu untuk menjana komennya, sistem pengedarannya sukar menarik interaksi.

Amat sedikit komennya menerima tanda suka atau balasan. Komen rangkaian ini lazimnya hanya membentuk sebahagian kecil daripada balasan kepada mana-mana hantaran—bermakna ia tidak menenggelamkan pandangan lain, sekiranya itu matlamatnya.

Kadangkala, rangkaian ini menggunakan model kami untuk menjana teks yang kelihatan seperti mesej peribadi, mungkin dengan pengguna Telegram lain, tetapi teks yang dijana menunjukkan bahawa rangkaian ini sedang berbual dengan penipu mata wang kripto.

Dengan menggunakan Skala Breakout⁠(dibuka dalam tetingkap baru) untuk menilai impak operasi pengaruh (IO), yang memberikan penarafan pada skala 1 (terendah) hingga 6 (tertinggi), kami menilai aktiviti ini sebagai Kategori 1, yang dicirikan oleh aktiviti penyiaran pada satu platform tanpa bukti penguatan ketara oleh individu di luar rangkaian.