Operasi “A2Z”: Aktivitas pengaruh multibahasa

Studi kasus ini pertama kali diterbitkan dalam laporan OpenAI Oktober 2024⁠(terbuka di jendela baru).

Kami memblokir sekelompok akun yang belum pernah dilaporkan sebelumnya karena menggunakan API kami untuk membuat komentar yang kemudian diposting di X dan Facebook. Banyak komentar tersebut memuji Azerbaijan atau membela rekam jejak hak asasi manusianya, tetapi operasi ini juga membahas beragam topik lain, yang mungkin menunjukkan bahwa operasi tersebut dijalankan secara komersial. Karena seringnya operasi ini memuji Azerbaijan dan upayanya menggunakan AI dalam berbagai tahap operasi, kami menjuluki jaringan ini “A2Z”.

Seperti operasi Telegram berbahasa Rusia yang kami ungkap pada Mei dan kami juluki “Bad Grammar”, operasi ini menggunakan model kami untuk membuat komentar di media sosial. Operasi ini memanfaatkan AI untuk mengelola persona media sosial palsu, membuat biodata, menganalisis postingan dan komentar, menyusun balasan dalam banyak bahasa, serta mengoreksinya. Balasan tersebut kemudian diposting di X atau Facebook. Sebagian besar kontennya berupa komentar singkat, tetapi ada juga gambar dengan gaya tertentu. Gambar-gambar ini sering menggunakan gaya poster era 1930-an. Karena itu, gambar tersebut tampaknya dirancang untuk menarik perhatian dan interaksi, bukan untuk menipu. Namun, postingan biasa yang memuat gambar bergaya tersebut hanya menerima 0–5 interaksi per postingan.

Penggunaan AI memungkinkan operasi ini mengelola banyak akun media sosial sekaligus: kami mengidentifikasi sekitar 150 akun di X dan Facebook yang sesuai dengan aktivitas ini, dan masih ada akun lain yang dicurigai. Hal ini juga memungkinkan operasi tersebut sesekali berinteraksi dengan orang sungguhan dalam utas komentar di internet. Sesekali, kami mengamati percakapan singkat antara orang sungguhan dan akun palsu, dengan balasan akun palsu dibuat menggunakan model kami.

Sebelum adanya AI, operasi sebesar ini kemungkinan memerlukan tim troll yang besar, beserta seluruh biaya dan risiko kebocoran yang menyertai upaya semacam itu. Namun, ketergantungan operasi ini pada AI juga membuatnya luar biasa rentan terhadap upaya penindakan kami. Karena memanfaatkan AI di begitu banyak mata rantai dalam rantai serangannya, penindakan kami memutus banyak mata rantai sekaligus. Setelah kami menghentikan aktivitas ini pada awal Juni, akun media sosial yang kami identifikasi sebagai bagian dari operasi tersebut berhenti memposting selama periode pemilu di Uni Eropa, Inggris, dan Prancis. Sebagian kembali memposting pada akhir Agustus. Sejumlah kecil postingan mereka menunjukkan tanda-tanda bahwa konten tersebut kemungkinan dibuat oleh AI. Konten yang menunjukkan tanda-tanda tersebut tidak berasal dari model kami.

Kampanye ini membuat komentar singkat yang membahas beragam tema politik. Tema yang paling menonjol adalah pujian terhadap pemerintah Azerbaijan dan perannya dalam politik domestik, regional, serta internasional—misalnya, mendorong persatuan antarnegara Asia Tengah atau menjadi tuan rumah Konferensi Perubahan Iklim PBB. Akun berbahasa Inggris dan Italia memuji peran Azerbaijan sebagai pemasok energi bagi Eropa—terkadang sebagai tanggapan atas kritik terhadap rekam jejak hak asasi manusia pemerintah Azerbaijan.

Rangkaian aktivitas lainnya berfokus pada manfaat dan perkembangan AI, pasar keuangan, masalah lingkungan, mata uang kripto, serta teknologi secara umum. Salah satu kelompok berfokus pada Uni Emirat Arab dan menggambarkannya sebagai tujuan investasi yang stabil, sering kali dengan membandingkannya dengan klaim tentang ketidakstabilan politik di Amerika Serikat.

Beberapa persona palsu berfokus pada politik di Eropa atau Amerika Serikat. Ideologi aktivitas ini berbeda-beda di setiap wilayah. Misalnya, satu akun X yang berfokus pada Amerika Serikat menyamar sebagai seorang liberal dan mengkritik mantan Presiden AS Trump, sementara beberapa akun Facebook yang memposting dalam bahasa Prancis mengkritik Presiden Macron dan mendukung partai National Rally (RN). Terkadang, kritik ini berfokus pada masalah domestik untuk menyatakan bahwa negara yang bersangkutan tidak seharusnya mencampuri persoalan internasional, termasuk invasi Rusia ke Ukraina.

Operasi ini sangat aktif di Facebook dan X, kemungkinan dengan ratusan akun. Di X, beberapa akunnya memiliki tanda centang biru dari verifikasi berbayar. Dari sekitar 150 akun yang kami jadikan sampel di kedua platform, kami tidak menemukan akun dengan jumlah pengikut yang signifikan: akun X dengan pengikut terbanyak yang kami temukan selama penyelidikan memiliki 222 pengikut, jumlah yang lebih umum berkisar antara belasan hingga awal dua puluhan, dan postingan biasa di X menerima interaksi satu digit. Demikian pula, jumlah reaksi tertinggi terhadap sebuah postingan Facebook yang kami amati selama penyelidikan adalah 36, sementara jumlah yang lebih umum berkisar antara 0–5. Namun, kami menemukan beberapa kejadian ketika postingan operasi tersebut menarik balasan dari orang sungguhan. Balasan ini tidak selalu positif dan terkadang mencakup orang sungguhan yang membantah akun palsu tersebut. Namun, hal itu menunjukkan setidaknya ada kemampuan untuk melibatkan audiens di berbagai platform, dalam berbagai bahasa, dan mengenai berbagai topik.

Dengan menggunakan Breakout Scale untuk menilai dampak operasi pengaruh, yang memberikan peringkat dari 1 (terendah) hingga 6 (tertinggi), kami menilai operasi ini berada di batas atas Kategori Dua, dengan risiko berkembang menjadi Kategori Tiga: operasi ini ditandai oleh aktivitas posting di berbagai platform, disertai sejumlah bukti bahwa orang sungguhan berinteraksi dengan kontennya. Namun, setelah kami melarang operasi ini menggunakan model kami dan membagikan informasi kepada rekan-rekan industri, akun media sosial yang telah kami identifikasi tidak lagi aktif selama berminggu-minggu. Dengan demikian, operasi ini menyoroti peningkatan kemampuan yang dapat diberikan oleh penggunaan AI kepada para operator, sekaligus meningkatnya kerentanan terhadap penindakan akibat ketergantungan mereka pada model AI.