“Spam Amca” Operasyonu: ABD’de kutuplaştırıcı etki faaliyeti
OpenAI, ABD siyasetiyle ilgili içerik üretmek ve kişileri, hareketleri ve çevrimiçi toplulukları araştırmak için yapay zekâ kullanan Çin kaynaklı hesapları yasakladı.
Bu vaka çalışması ilk olarak OpenAI’ın Haziran 2025(yeni bir pencerede açılır) raporunda yayımlandı.
Aktör
Meta’daki meslektaşlarımızdan aldığımız bilgi üzerine, Çin kaynaklı bir etki operasyonuyla(yeni bir pencerede açılır) bağlantılı bazı ChatGPT hesaplarını yasakladık. Operasyon; X ve Bluesky gibi platformlarda metinler ve yapay zekâyla oluşturulmuş profil görselleri dâhil olmak üzere, ABD’deki siyasi tartışmalarda ayrışmaya yol açan konuların her iki tarafını da destekleyen kutuplaştırıcı sosyal medya içerikleri üretti.
Davranış
Ağ, modellerimizi çeşitli görevlerde kullandı; bunların başında gümrük tarifelerini destekleyen veya eleştiren sosyal medya yorumları üretmek geliyordu. Hesaplar, kitle etkileşimini en üst düzeye çıkarmak için modellerimize en uygun paylaşım saatlerini sordu. Bu da planlı yaygınlaştırma taktiklerine işaret ediyordu.
Bu tehdit aktörünün modellerimizi kullanarak metinlerini oluşturduğu ve gümrük tarifeleri tartışmasının karşıt taraflarını destekleyen iki tweet.
İkinci olarak hesaplar, görsel oluşturma yeteneklerimizi kullanarak stilize logolar üretti; ardından bu logoları sosyal platformlardaki kurgusal kimlikleri destekleyen profil resimleri olarak kullandı. Hesaplar özellikle mevcut ABD yönetimini eleştiren Amerikalı gazilerden oluşan kurgusal kimlikler yaratmaya odaklandı.
Bu ağın ürettiği içerikleri paylaşan Bluesky hesabı. “Adalet İçin Gaziler” logosu modellerimiz kullanılarak oluşturuldu.
Son olarak hesaplar; Tweepy, Nitter ve Bluesky’ın herkese açık API’si gibi araçlarla X ve Bluesky gibi sosyal platformlardan kullanıcı profilleri, takipçi listeleri ve diğer ayrıntılar dâhil kişisel verileri çıkarmaya yönelik kod ve yöntemleri sürekli olarak talep etti. Ayrıca hesaplar, profil verilerini kişisel özellikler ve kurumsal bağlantılar açısından analiz etmek üzere modellerimizden yönlendirme aldı. Bu analizler, kişileri sınıflandırmak veya bağlantılarıyla özellikleri hakkında çıkarım yapmak için kullanılabilirdi.
Çıktılar
Hesaplar, çoğu zaman aynı operasyon oturumlarında ABD’deki siyasi tartışmaların farklı kesimlerine yönelik kutuplaştırıcı içerikler üretti. Etki operasyonlarında kullanıldığı bilinen yöntemlerle uyumlu olan bu yaklaşım, belirli bir ideolojik görüşü desteklemekten çok mevcut siyasi ayrışmalardan yararlanmak üzere tasarlanmış gibi görünüyor. İçerik hacmi ve Amerikan kamuoyuna yönelik mesajlara odaklanılması nedeniyle bu operasyona “Spam Amca” adını verdik.
Kurgusal kimlikler tarafından paylaşılan ve metinleri modellerimizle oluşturulan tweetler.
Etki
Etki operasyonlarının etkisini ölçen Yayılım Ölçeği’ne(yeni bir pencerede açılır) göre bunu Kategori 2 olarak değerlendiriyoruz: Birden fazla platformda faaliyet var ancak yayılım yok veya etkileşim asgari düzeyde. Modellerimizle üretilen içerikleri paylaşan sosyal medya hesapları çok az gerçek kullanıcı etkileşimi aldı. Bu ağın X’te yayımladığı gönderilerin çoğu ya hiç beğeni ve yeniden paylaşım almadı ya da çok az aldı; yalnızca birkaç gönderi bir miktar etkileşim gördü. Bazı sosyal medya hesaplarının binlerce takipçisi vardı ancak bu takipçilerin gerçek olup olmadığını değerlendiremedik. Ayrıca takipçi sayılarının gönderi etkileşimine yansımadığı görüldü.