“Tata Basa Ala”: Aktivitas komentar Telegram sing gegandhèngan karo Rusia

Studi kasus iki wiwitané diterbitaké ing laporan OpenAI Mei 2024⁠(mbukak ing jendhela anyar).

Kita mblokir jaringan akun sing sadurungé durung dilapuraké amarga nggunakake model kita kanggo nggawe komentar sing banjur dikirim ing Telegram. Aktivitas iki kita gayutaké karo wong-wong saka Rusia. Amarga fokus ing Telegram, bola-bali ngirim tulisan basa Inggris kanthi tata basa sing salah, lan kangèlan narik pamirsa, jaringan iki kita jenengi “Tata Basa Ala”.

Jaringan iki ngarahaké isi basa Rusia lan Inggris marang pamirsa ing Rusia, Ukraina, Amerika Serikat, Moldova, lan Negara-negara Baltik.

Jaringan iki nggunakake model kita lan akun Telegram kanggo nggawe alur spam komentar. Kaping pisan, operator nggunakake model kita kanggo mbeneraké kode sing katon dirancang kanggo ngotomatisasi kiriman ing Telegram. Banjur, operator nggawe komentar basa Rusia lan Inggris kanggo nanggapi kiriman Telegram tartamtu. Pungkasané, operator katon nggunakake paling ora rolas akun Telegram kanggo ngirim komentar kasebut.

Ing basa Inggris, operator nggunakake model kita kanggo nggawe komentar kanthi swara sawetara persona palsu saka manéka kelompok demografi ing loro sisi spektrum politik Amerika Serikat. Ing basa Rusia, operator luwih milih instruksi adhedhasar tema tinimbang persona.

Jaringan iki utamané menehi komentar ing kiriman saka sawetara kanal Telegram. Kanal sing paling kerep disebut yaiku @Slavyangrad sing prorusia, banjur @police_frequency lan @SGTNewsNetwork sing nganggo basa Inggris. (Sing pungkasan ngaku dadi veteran Amerika konservatif, nanging ing November, Meta nglaporaké⁠(mbukak ing jendhela anyar) yèn sejatiné kanal kuwi asalé saka Iran.) Ing sampel aktivitas sasi Februari, jaringan iki nyoba nggawe tanggapan kanggo telung kanal kasebut kaping pindho luwih kerep tinimbang gabungan 10 kanal liya sing paling kerep disebut sabanjuré.

Kampanye iki nggawe komentar cekak sing fokus ing sawetara tema politik. Ing basa Inggris lan Rusia, topik utama kirimané ing Telegram yaiku perang ing Ukraina, kahanan politik ing Moldova lan Negara-negara Baltik, sarta politik ing Amerika Serikat.

Komentar Telegram basa Rusia lumrahé nuduh présidhèn Ukraina lan Moldova nindakake korupsi, ora didhukung rakyat, lan ngianati rakyaté dhéwé kanggo “campur tangan” Kulon. Komentar Telegram basa Inggris fokus ing topik kayata imigrasi, kangèlan ekonomi, lan pawarta paling anyar dina iku. Komentar iki kerep nggunakake prastawa paling anyar kanggo mbantah dhukungan Amerika Serikat marang Ukraina.

Kadhang kala, luwih saka siji persona menehi komentar ing kiriman sing padha kanthi sudut pandang sing bertentangan. Cara “rai loro” kanthi nyamar dadi swara saka loro pihak iki tau ditemokaké ing operasi Rusia sadurungé, lan bisa nuduhaké pepénginan kanggo narik pamirsa tartamtu utawa nyulut perpecahan.

Sawisé serangan teroris ing Moskwa tanggal 22 Maret lan penahanan patang warga Tajikistan, kampanye iki wiwit nggunakake klompok anyar akun Telegram sing fokus ing Tajikistan. Komentar sing dikirim ngajak wong Tajik lan Rusia supaya rukun, uga ngajèni hukum Rusia.

Spam komentar wis dadi teknik sing umum digunakaké IO sadurungé anané AI generatif. Sanajan Tata Basa Ala nggunakake teknik anyar kanggo nggawe komentar, sistem panyebarané kangèlan narik interaksi.

Mung sithik banget komentaré sing éntuk seneng utawa tanggapan. Komentar jaringan iki lumrahé mung dadi sapérangan cilik saka kabèh tanggapan ing saben kiriman—tegesé ora nutupi panemu liya, yèn kuwi pancèn tujuané.

Kadhang kala, jaringan iki nggunakake model kita kanggo nggawe tulisan sing katon kaya pesen pribadi, bisa uga karo pangguna Telegram liya. Nanging, tulisan sing digawe nuduhaké yèn jaringan kasebut lagi ngobrol karo penipu mata uang kripto.

Kanthi nggunakake Skala Breakout⁠(mbukak ing jendhela anyar) kanggo mbiji dampak IO, kanthi biji saka 1 (paling asor) nganti 6 (paling dhuwur), aktivitas iki kita biji mlebu Kategori 1, sing ditandhani aktivitas kiriman ing siji platform tanpa bukti panyebaran signifikan déning wong saka njaba jaringan.