“Alaycı İnceleme” Operasyonu: Çin kaynaklı etki faaliyeti
OpenAI, Tayvanlı bir sosyal medya fenomenini ve ABD ile ilgili konuları eleştiren gönderiler üretmek için yapay zekâ kullanan hesapları yasakladı.
Bu vaka çalışması ilk olarak OpenAI'ın Haziran 2025(yeni bir pencerede açılır) raporunda yayımlandı.
Aktör
Modellerimizi gizli bir etki operasyonunun faaliyetleriyle tutarlı sosyal medya gönderilerini toplu olarak oluşturmak için kullandığını tespit ettiğimiz ChatGPT hesaplarını yasakladık. İncelememiz sırasında bu hesapların kurum içi performans değerlendirmeleri hazırladığını da gözlemledik.
Bu hesaplar promptlarını ağırlıklı olarak Çince verdi ve Çin'i ilgilendiren siyasi ve jeopolitik konulara odaklandı. Bir kullanıcı, bir promptta Çin Propaganda Departmanında çalıştığını belirtti; ancak bu iddiayı doğrulayacak bağımsız kanıtımız bulunmuyor.
Davranış
Yasakladığımız hesaplar iki ana çalışma alanında faaliyet gösterdi. En yoğun çalışma alanı, çoğu İngilizce ve Çince, bir kısmı da Urduca olan kısa sosyal medya yorumları oluşturmaktı. Bu yorumların çoğunun TikTok ve X'te yayımlandığını, ayrıca Reddit, Facebook ve çeşitli internet sitelerinde de bazı içeriklerin yer aldığını belirledik.
Tipik düzende, çoğu zaman yalnızca söz konusu gönderi için açıldığı anlaşılan bir “ana” hesaptan ilk yorum paylaşılıyor, ardından diğer hesaplardan bir dizi yanıt geliyordu. Bu davranışın, etkileşimin organik olduğu yönünde sahte bir izlenim yaratmak üzere tasarlandığı anlaşılıyordu.
Bu faaliyetle bağlantılı, “#USAID'yi kapatmak sadece bir #BAŞLANGIÇ!” başlıklı TikTok gönderisi. Kanalın adı, videonun altyazıları ve bu ekran görüntüsünde görünen tüm yorumlar, bu ağ tarafından ChatGPT kullanılarak oluşturuldu.
TikTok'ta yorum yapan hesaplar, genellikle paylaştıkları içeriğin diliyle ilgisiz olan çeşitli dil ve alfabelerde kullanıcı adları kullanıyordu. Örneğin Korece adı olan bir hesap Urduca yorum paylaşırken, Tayca ve İbranice adları olan hesaplar bu ağ tarafından oluşturulan İngilizce yorumlar paylaştı. X'te yorum yapan hesaplar genellikle çizgi karakterlerden oluşan profil görselleri kullanıyor, bazıları ise kripto parayla ilişkili adlar taşıyordu.
Tamamı bu ağ tarafından ChatGPT kullanılarak oluşturulan bir tweet ve ona verilen yanıtlar.
Ağ, Facebook'ta daha az aktifti. Faaliyetleri ağırlıklı olarak haber kuruluşu gibi görünen iki Sayfa için ad ve profil resmi oluşturmaktan ibaretti. İki Sayfanın da takipçisi veya beğenisi yoktu ve her birinde yalnızca birkaç gönderi bulunuyordu.
Bu operasyonla bağlantılı olabileceğini belirlediğimiz bir videonun paylaşıldığı Facebook gönderisi.
Ağ zaman zaman Çince veya İngilizce daha uzun gönderiler de oluşturdu. Bu tür gönderilerden birini Reddit'te, ikisini de çeşitli internet forumlarında tespit ettik. İkinci çalışma alanında ChatGPT, kurum içi politika veya performans değerlendirme belgesi olduğu anlaşılan içerikler oluşturmak için kullanıldı.
Çıktılar
Bu tehdit aktörünün oluşturduğu sosyal medya içerikleri, tamamı Çin'in jeostratejik çıkarlarıyla yakından bağlantılı çeşitli konuları kapsıyordu.
Bazı içerikler Tayvan'a odaklanıyor ve özellikle Çin Komünist Partisine karşı direnişi konu alan Tayvan merkezli video ve masa oyunu “Ters Cephe”yi(yeni bir pencerede açılır) (“逆統戰”) hedef alıyordu. Ağ, oyun hakkında Çince onlarca eleştirel yorum oluşturdu ve ardından oyunun geniş çaplı tepki topladığını iddia eden uzun bir makale yayımladı. Bu, operasyonun en ayırt edici faaliyetiydi; bu nedenle operasyona “Alaycı İnceleme” adını verdik.
İngilizce ve Urduca diğer içerikler ise Çin'in Belucistan'daki yatırımlarını açıkça eleştiren(yeni bir pencerede açılır) Pakistanlı aktivist Mahrang Baloch'u hedef aldı. Ağla bağlantılı bir TikTok hesabı ve Facebook Sayfası, Baloch'u bir pornografik filmde rol almakla asılsız biçimde suçlayan bir video yayımladı. Operasyon daha sonra geniş çaplı etkileşim izlenimi yaratmak için her iki dilde yüzlerce kısa yorum oluşturdu.
Mahrang Baloch'un TikTok videosuna gelen şaşkınlık ifadeleri içeren yorumlar.
Son içerik grubu, ABD Uluslararası Kalkınma Ajansının (USAID) kapatılmasına odaklanıyor ve bu kararı öven ya da eleştiren kısa yorumlardan oluşuyordu. Bu yorumlar TikTok ve X'te paylaşıldı.
Bu ağın ChatGPT kullanarak oluşturduğu, yardım meselesiyle gümrük vergileri meselesi arasında bağlantı kuran tweetler.
Son olarak tehdit aktörleri, resmî bir kamu güvenliği belgesi üslubunda yazılmış ayrıntılı bir yazı ile operasyonu kurmak ve yürütmek için atılan adımları anlatan bir performans değerlendirmesi dâhil olmak üzere kurum içi belge olduğu anlaşılan içerikler oluşturmak için modellerimizi kullandı.
Etki
Modellerimizin bu operasyonda kullanılmasını engellediğimiz sırada operasyonun henüz başlangıç aşamasında olduğu anlaşılıyor. İki Facebook Sayfasının da takipçisi yoktu. Reddit'te bir gönderi 44 olumlu oy alırken diğer iki gönderi, paylaşıldıkları subreddit'lerde engellendi veya kaldırıldı.
Bu ağın parçası olduğunu belirlediğimiz bir Reddit hesabının, platformun filtreleri tarafından kaldırıldığını gösteren gönderisinin ekran görüntüsü.
X ve TikTok'taki etkileşim daha değişkendi: İki TikTok videosu toplam 25.000 beğeni alırken operasyonun ana hesabından atılan tweetlerin her biri genellikle yaklaşık 10.000 kez görüntülendi. Ancak bu gönderilerdeki yorumların çoğu ağ tarafından ChatGPT kullanılarak oluşturulmuştu; bu da etkileşimin en azından bir kısmının gerçek olmadığını gösteriyor. Bu nedenle tüm etkileşim verileri ihtiyatla değerlendirilmelidir.
Etki operasyonlarının etkisini ölçen Yayılım Ölçeği(yeni bir pencerede açılır)ne göre, X ve TikTok'taki etkileşim verileri gerçekse bu operasyonu Kategori 3'ün alt sınırında değerlendirirdik. Beğeni ve görüntülemelerin çoğunun da yorumların çoğu gibi gerçek olmadığı varsayımını destekleyen yeni kanıtlar ortaya çıkarsa bu değerlendirmeyi düşürürdük.