“A2Z” Operasyonu: Çok dilli etki faaliyeti

Bu vaka çalışması ilk olarak OpenAI'ın Ekim 2024⁠(yeni bir pencerede açılır) raporunda yayımlandı.

API'mizi kullanarak yorumlar oluşturan ve bunları daha sonra X ile Facebook'ta paylaşan, daha önce bildirilmemiş bir hesap kümesini yasakladık. Bu yorumların çoğu Azerbaycan'ı övüyor veya ülkenin insan hakları sicilini savunuyordu; ancak faaliyet çok çeşitli başka konulara da odaklanıyordu. Bu durum, operasyonun ticari amaçla yürütülmüş olabileceğine işaret ediyor. Azerbaycan'ı sık sık övmesi ve operasyonun birden fazla aşamasında yapay zekâ kullanmaya çalışması nedeniyle bu ağa “A2Z” adını verdik.

Mayıs ayında açığa çıkardığımız ve “Kötü Dil Bilgisi” adını verdiğimiz Rusça Telegram operasyonu gibi bu operasyon da sosyal medyada yorum yapabilmek için modellerimizi kullandı. Sahte sosyal medya kimliklerini yönetmek, biyografiler oluşturmak, gönderi ve yorumları analiz etmek, birçok dilde yanıt taslakları hazırlamak ve bunları düzeltmek için yapay zekâdan yararlandı. Yanıtlar daha sonra X veya Facebook'ta paylaşıldı. İçeriklerin çoğu kısa yorumlardan oluşuyordu ancak stilize görseller de kullanılıyordu. Bu görsellerde çoğunlukla 1930'ların afiş tarzı kullanılıyordu; dolayısıyla insanları aldatmaktan çok dikkat ve etkileşim çekmek için tasarlanmış görünüyorlardı. Ancak bu stilize görselleri içeren tipik gönderilerin her biri yalnızca 0–5 etkileşim aldı.

Yapay zekâ kullanımı, operasyonun aynı anda çok sayıda sosyal medya hesabını yönetmesini sağladı: X ve Facebook'ta bu faaliyetle eşleşen yaklaşık 150 hesap belirledik; ayrıca başka hesaplardan da şüpheleniyoruz. Bu sayede operasyon zaman zaman internetteki gerçek kişilerle yorum dizilerinde etkileşime de girebildi. Zaman zaman gerçek kişilerle sahte hesaplar arasında, sahte hesapların yanıtlarının modellerimiz kullanılarak üretildiği kısa konuşmalar gözlemledik.

Yapay zekâ öncesinde bu ölçekte bir operasyon muhtemelen büyük bir trol ekibi ile böyle bir girişimin beraberinde getirdiği tüm maliyetleri ve sızıntı risklerini gerektirirdi. Ancak bu operasyonun yapay zekâya bağımlılığı, müdahalemize karşı onu olağan dışı ölçüde savunmasız da bıraktı. Saldırı zincirinin pek çok halkasında yapay zekâdan yararlandığı için müdahalemiz zincirin birçok halkasını aynı anda kopardı. Haziran başında bu faaliyete müdahale etmemizin ardından, operasyonun parçası olduğunu belirlediğimiz sosyal medya hesapları AB, Birleşik Krallık ve Fransa'daki seçim dönemleri boyunca paylaşım yapmayı bıraktı. Bazıları ağustos sonunda yeniden paylaşım yapmaya başladı. Gönderilerinin küçük bir kısmında bunların muhtemelen yapay zekâ tarafından üretildiğine ilişkin işaretler vardı. Bu işaretleri taşıyan içerikler modellerimizden gelmedi.

Bu kampanya, çok çeşitli siyasi temalara odaklanan kısa yorumlar üretti. Bunların en belirgini, Azerbaycan hükûmetine ve ülkenin iç, bölgesel ve uluslararası siyasetteki rolüne yönelik övgülerdi. Örneğin Orta Asya ülkeleri arasındaki birliğin desteklenmesi veya BM İklim Değişikliği Konferansı'na ev sahipliği yapılması övülüyordu. İngilizce ve İtalyanca yayın yapan hesaplar, bazen Azerbaycan hükûmetinin insan hakları siciline yönelik eleştirilere yanıt olarak, ülkenin Avrupa'ya enerji tedarikindeki rolünü övdü.

Faaliyetin diğer kolları yapay zekânın faydaları ve gelişimi, finans piyasaları, ekolojik sorunlar, kripto paralar ve genel olarak teknolojiye odaklandı. Bir küme, Birleşik Arap Emirlikleri'ne odaklanarak ülkeyi istikrarlı bir yatırım merkezi olarak gösteriyor ve bunu sık sık ABD'deki siyasi istikrarsızlık iddialarıyla karşılaştırıyordu.

Bazı sahte kimlikler Avrupa veya ABD siyasetine odaklanıyordu. Bu faaliyetin ideolojisi bölgeden bölgeye değişiyordu. Örneğin ABD'ye odaklanan bir X hesabı kendisini liberal olarak tanıtıp eski ABD Başkanı Trump'ı eleştirirken, Fransızca paylaşım yapan bazı Facebook hesapları Cumhurbaşkanı Macron'u eleştiriyor ve Ulusal Birlik (RN) partisini destekliyordu. Bu eleştiriler bazen, söz konusu ülkenin Rusya'nın Ukrayna'yı işgali dâhil uluslararası meselelere müdahale etmemesi gerektiğini savunmak için iç sorunlara odaklanıyordu.

Bu operasyon, muhtemelen yüzlerce hesapla Facebook ve X'te son derece etkindi. X'teki bazı hesaplarında ücretli doğrulamayı gösteren mavi onay işareti vardı. İki platformdan örneklediğimiz yaklaşık 150 hesap arasında kayda değer sayıda takipçisi olan hiçbir hesap belirlemedik: araştırmamız sırasında X'te tespit ettiğimiz en yüksek takipçi sayısı 222 idi; daha tipik rakamlar 15–22 civarındaydı ve X'teki tipik gönderiler tek haneli sayıda etkileşim alıyordu. Benzer şekilde, araştırmamız sırasında bir Facebook gönderisinde gözlemlediğimiz en yüksek tepki sayısı 36 iken daha tipik rakamlar 0–5 aralığındaydı. Ancak operasyonun gönderilerinin gerçek kişilerden yanıt aldığı bazı durumlar da belirledik. Bu yanıtlar her zaman olumlu değildi ve bazen gerçek kişiler sahte hesaplara karşı çıkıyordu. Yine de bunlar, operasyonun birden fazla platformda, dilde ve konuda kitlelerle en azından bir ölçüde etkileşim kurabildiğini gösteriyor.

Etki operasyonlarını 1'den (en düşük) 6'ya (en yüksek) kadar derecelendiren Breakout Ölçeği'ni kullanarak yaptığımız değerlendirmede, bu operasyonu Üçüncü Kategori'ye sıçrama riski taşıyan İkinci Kategori'nin en üst seviyesinde görüyoruz: birden fazla platformda paylaşım faaliyeti yürüttü ve gerçek kişilerin içerikleriyle etkileşime girdiğine dair bazı kanıtlar vardı. Ancak operasyonun modellerimizi kullanmasını yasaklayıp sektörümüzdeki diğer kuruluşlarla bilgi paylaştıktan sonra belirlediğimiz sosyal medya hesapları haftalarca sessiz kaldı. Dolayısıyla bu operasyon, yapay zekâ kullanımının operatörlere kazandırabileceği kapasite artışının yanı sıra bir yapay zekâ modeline bağımlılığın müdahaleye karşı yarattığı savunmasızlığı da ortaya koyuyor.