“Bozuk Dilbilgisi”: Rusya bağlantılı Telegram yorum faaliyeti
OpenAI, “Bozuk Dilbilgisi” adını verdiğimiz, yapay zekâyla Ukrayna, Moldova, Baltık ülkeleri ve ABD siyaseti hakkında İngilizce ve Rusça Telegram yorumları üreten, daha önce bildirilmemiş Rusya kaynaklı bir operasyonla bağlantılı hesapları yasakladı.
Bu vaka çalışması ilk olarak OpenAI'ın Mayıs 2024(yeni bir pencerede açılır) raporunda yayımlandı.
Aktör
Modellerimizi kullanarak yorumlar oluşturan ve ardından bunları Telegram'da yayımlayan, daha önce bildirilmemiş bir hesap ağını yasakladık. Bu faaliyeti Rusya'daki kişilerle ilişkilendirdik. Telegram'a odaklanması, dilbilgisi bozuk İngilizce gönderileri tekrar tekrar yayımlaması ve takipçi kitlesi oluşturmakta zorlanması nedeniyle bu ağa “Bozuk Dilbilgisi” adını verdik.
Davranış
Bu ağ, Rusça ve İngilizce içeriklerle Rusya, Ukrayna, Amerika Birleşik Devletleri, Moldova ve Baltık ülkelerindeki kitleleri hedef aldı.
Ağ, yorum spam'i için bir iş akışı oluşturmak üzere modellerimizi ve Telegram hesaplarını kullandı. Operatörler önce, Telegram'da gönderi yayımlamayı otomatikleştirmek için tasarlandığı anlaşılan kodda hata ayıklamak üzere modellerimizi kullandı. Ardından belirli Telegram gönderilerine yanıt olarak Rusça ve İngilizce yorumlar oluşturdular. Son olarak bu yorumları yayımlamak için en az bir düzine Telegram hesabı kullandıkları anlaşılıyor.
Bu ağın ürettiği bir metinle eşleşen herkese açık Telegram yorumu. Söz konusu hesap, bu ağın çıktısıyla eşleşen yorumları tekrar tekrar yayımladı.
Operatörler, İngilizce yorumlar oluştururken modellerimizi kullanarak ABD'deki siyasi yelpazenin iki tarafında yer alan farklı demografik gruplara mensup çeşitli sahte kişiliklerin ağzından yazdı. Rusçada ise kişiliklere daha az dayanan, daha tematik talimatları tercih ettiler.
Ağ, ağırlıklı olarak az sayıdaki Telegram kanalının gönderilerine yorum yaptı. En çok adı geçen kanal Rusya yanlısı @Slavyangrad olurken onu İngilizce yayın yapan @police_frequency ve @SGTNewsNetwork izledi. (Sonuncusu kendisini muhafazakâr bir Amerikalı gazi olarak tanıtıyor ancak kasım ayında Meta, kanalın aslında İran kaynaklı olduğunu bildirdi(yeni bir pencerede açılır).) Şubat ayındaki faaliyetlerden alınan bir örnekte ağ, bu üç kanala yanıt üretmeyi, sonraki en çok adı geçen 10 kanalın toplamına kıyasla iki kat daha sık denedi.
İçerik
Bu kampanya, birkaç siyasi temaya odaklanan kısa yorumlar üretti. Telegram'da hem İngilizce hem de Rusça paylaşımlarının başlıca konuları Ukrayna'daki savaş, Moldova ve Baltık ülkelerindeki siyasi durum ile Amerika Birleşik Devletleri siyaseti oldu.
Telegram'daki tipik Rusça yorumlar, Ukrayna ve Moldova cumhurbaşkanlarını yolsuzlukla, halk desteğinden yoksun olmakla ve Batı'nın “müdahalesi” uğruna kendi halklarına ihanet etmekle suçladı. Telegram'daki İngilizce yorumlar göç, ekonomik sıkıntılar ve günün son dakika haberleri gibi konulara odaklandı. Bu yorumlar, Amerika Birleşik Devletleri'nin Ukrayna'yı desteklememesi gerektiğini savunmak için sık sık güncel olaylardan yararlandı.
Bu ağın ürettiği bir metinle eşleşen herkese açık Telegram yorumu. Söz konusu hesap, modellerimiz kullanılarak üretilen içerikle eşleşen yorumları tekrar tekrar yayımladı.
Bazen aynı gönderiye birden fazla sahte kişilik, birbiriyle çelişen görüşler içeren yorumlar yaptı. Her iki tarafın da sesiymiş gibi davranan bu “iki yüzlü” yaklaşım, Rusya operasyonlarında daha önce de gözlemlendi. Bu yaklaşım belirli kitleleri çekme veya ayrışmayı körükleme isteğine işaret ediyor olabilir.
Bu ağın ürettiği metinlerle eşleşen herkese açık Telegram yorumları. Söz konusu hesaplar, modellerimiz kullanılarak üretilen içerikle eşleşen yorumları tekrar tekrar yayımladı.
22 Mart'ta Moskova'da düzenlenen terör saldırısı ve dört Tacikistan vatandaşının gözaltına alınmasının ardından kampanya, Tacikistan'a odaklanan yeni bir Telegram hesabı kümesi kullanmaya başladı. Yayımlanan yorumlarda Tacikler ile Ruslar arasında birlik olunması ve Rus hukukuna saygı gösterilmesi çağrısı yapıldı.
Etki değerlendirmesi
Yorum spam'i, üretken yapay zekânın ortaya çıkmasından önce de etki operasyonlarının yaygın bir tekniğiydi. Bozuk Dilbilgisi, yorumlarını üretmek için yeni bir teknik kullansa da dağıtım sistemi etkileşim çekmekte zorlandı.
Yorumlarının çok azı beğeni veya yanıt aldı. Ağın yorumları genellikle herhangi bir gönderiye verilen yanıtların küçük bir bölümünü oluşturuyordu; dolayısıyla amaç buysa bile diğer görüşleri bastıramadı.
Ağ zaman zaman modellerimizi, muhtemelen başka bir Telegram kullanıcısıyla yapılan özel mesajlaşmalar için de kullandı. Ancak üretilen metinler, ağın bir kripto para dolandırıcısıyla sohbet ettiğini düşündürüyor.
Etki operasyonlarının etkisini en düşük 1 ile en yüksek 6 arasında derecelendiren Yayılım Ölçeği(yeni bir pencerede açılır) ile değerlendirdiğimizde bu faaliyeti Kategori 1'e yerleştiriyoruz. Bu kategori, tek bir platformdaki paylaşım faaliyetiyle ve ağ dışındaki kişilerce kayda değer biçimde yaygınlaştırıldığına dair kanıt bulunmamasıyla tanımlanır.