“Spamouflage” Operasyonu: Çin bağlantılı etki faaliyeti

Bu vaka çalışması ilk olarak OpenAI’ın Mayıs 2024⁠(yeni bir pencerede açılır) raporunda yayımlandı.

Çin kaynaklı ve “Spamouflage”⁠(yeni bir pencerede açılır) olarak bilinen operasyonla bağlantılı az sayıda hesabı yasakladık. Meta⁠(yeni bir pencerede açılır), bu operasyonu “Çin kolluk kuvvetleriyle bağlantılı kişilere” atfetti. FBI⁠(yeni bir pencerede açılır), bu operasyonun sosyal medyadaki faaliyetlerinin bir bölümünü Çin Kamu Güvenliği Bakanlığı bünyesindeki bir birime atfetti.

Bu ağ, başta Çin diasporasının üyeleri ve Çin hükümetini eleştirenler olmak üzere dünya genelindeki kitleleri hedef aldı. Ağırlıklı olarak Çince, daha sınırlı ölçüde ise İngilizce, Japonca ve Korece içerik üretti.

Ağ; kodlarda hata ayıklamak, sosyal medya analizi konusunda tavsiye almak, haberleri ve güncel olayları araştırmak ve daha sonra blog forumları ile sosyal medyada yayımlanan içerikler oluşturmak için modellerimizi kullandı.

Örneğin ağ, 2023’te revealscum.com adlı web sitesinin WordPress temasını ayarlayan koddaki hataları ayıklamak için modellerimizi kullandı. Bu web sitesi, Çin hükümetini eleştiren Çin diasporası üyelerine yönelik Çince eleştiriler ve bu kişilerin özel bilgilerini yayımladı. Bu kişileri “hain” olarak nitelendirdi. İçeriğin kendisi modellerimiz kullanılarak oluşturulmadı.

Bu kampanya, daha sonra sosyal medya platformlarında ve forumlarda yayımlanan içerikler oluşturmak için de modellerimizi kullandı. Örneğin operasyon, 2023’ün sonlarında Japonya’yı Fukuşima nükleer santralinden atık su boşaltarak deniz çevresine zarar vermekle suçlayan makaleler oluşturdu. Bu makaleleri Medium, Blogspot ve ameblo.jp dâhil çeşitli platformlarda tespit ettik.

Kampanya, Nisan 2024’te Çinli muhalif Cai Xia’yı eleştiren bir dizi İngilizce yorum yayımladı. İlk yorumu yayımlayan bir X hesabı ile diğer yorumları yanıt olarak paylaşan bir hesap kümesi tespit ettik. Bunlara yanıt veren gerçek bir hesap görmedik.

Kampanya ayrıca sosyal medyada geliştirici hesabına nasıl başvurulacağını öğrenmek veya Çin hükümetini eleştirenlerin sosyal medya gönderilerinin özetlerini istemek gibi açık kaynak araştırmaları yürütmek için modellerimizi kullandı.

Yapay zekâ kullanımının, ağın toplam üretiminin yalnızca küçük bir bölümünü oluşturduğu anlaşılıyor. Örneğin modellerimizle oluşturulan içerikleri yayımladığını belirlediğimiz X ve Medium hesaplarının çoğu, İngilizce ve Çince olarak elle hazırlanmış gibi görünen çok daha fazla içerik paylaştı. Bu durum, örneğin doğal olmayan İngilizce kullanımlarından anlaşılıyordu. Bu içerikleri, yapay zekâ tarafından oluşturulan yorumları paylaşmadan hem önce hem de sonra yayımladılar.

Bu kampanyanın oluşturduğu içeriklerin çoğu Çinceydi. Konular, Çin hükümetinin uluslararası kolluk kuvvetleriyle iş birliğini övmekten ABD’de Yerli Amerikalılara yönelik ihlalleri eleştirmeye kadar uzanıyordu. Bazı içerikler, “Volt Typhoon” olarak bilinen Çinli bilgisayar korsanı grubunun faaliyetlerini açığa çıkardıkları için ABD hükümetini ve Microsoft’u eleştiriyordu.

Diğer içerikler ise İngilizceydi. Bu içerikler genellikle aktör ve Tibet aktivisti Richard Gere ile muhalif Cai Xia gibi Çin hükümetinin önde gelen eleştirmenlerini hedef alıyordu. 2023’ün sonlarında İngilizce, Japonca, Çince, Korece ve Rusça oluşturulan birkaç makale, Japonya’yı Fukuşima nükleer santralinden⁠(yeni bir pencerede açılır) yapılan boşaltımla Pasifik sularını kirletmekle suçladı. Bu, Çin’in etki operasyonlarında uzun süredir işlenen bir temadır.

Küçük bir faaliyet kümesi, Çin Kamu Güvenliği Bakanı’nın Özbekistan ziyaretine ilişkin Çince olumlu yorumlar oluşturmaya odaklandı. Spamouflage’ın daha önce ele aldığı bilinen bir tema olmayan bu konu, operasyonun geçmişteki bazı sosyal medya faaliyetlerini Çin Kamu Güvenliği Bakanlığı’na bağlayan FBI değerlendirmesi⁠(yeni bir pencerede açılır) ışığında dikkat çekicidir.

Ağın bazı faaliyetleri, operatörlerin kişisel ilgi alanlarını yansıtıyor gibi görünüyor. Örneğin bir operatör, fotoğraf makinesi lenslerini araştırmak için modellerimizi kullandı. Başka bir operatör ise Çin Komünist Partisi üyelerine yönelik bir sınav ödevi gibi görünen çalışmayı tamamlamak için modellerimizi kullandı.

Spamouflage, ilk kez 2019’da kamuoyuna açıklanmasından⁠(yeni bir pencerede açılır) bu yana dünyada en yoğun araştırılan etki operasyonlarından biri oldu. Faaliyetlerinin gerçek kitlelere ulaştığına ilişkin çok az bildirim bulunuyor.

Yapay zekâyla oluşturulan içeriklerin kullanılması bu dinamiği değiştirmiş görünmüyor. Araştırmamız kapsamında tespit ettiğimiz blog, makale ve sosyal medya hesaplarının hiçbiri gerçek kişilerden yüksek sayıda etkileşim veya takipçi kazanmadı. Bazı durumlarda mevcut göstergeler, gönderileri yalnızca araştırma ekibimizin görüntülediğini ortaya koyuyor.

Etki operasyonlarını 1’den (en düşük) 6’ya (en yüksek) kadar derecelendiren Breakout Ölçeği⁠(yeni bir pencerede açılır) ile değerlendirdiğimizde bunu Kategori 2 bir operasyon olarak sınıflandırıyoruz: Çok sayıda platformda paylaşım yapılmış olsa da içeriğin ağ dışındaki kişilerce kayda değer ölçüde yaygınlaştırıldığına dair kanıt yok.

Aşağıdaki alan adının bu kampanyayla bağlantılı olduğunu tespit ettik.

• revealscum.com