Operasi “A2Z”: Aktiviti pengaruh berbilang bahasa

Kajian kes ini pada asalnya diterbitkan dalam laporan OpenAI Oktober 2024⁠(dibuka dalam tetingkap baru).

Kami menyekat satu kelompok akaun yang belum pernah dilaporkan sebelum ini kerana menggunakan API kami untuk menghasilkan komen yang kemudiannya disiarkan di X dan Facebook. Kebanyakan komen ini memuji Azerbaijan atau mempertahankan rekod hak asasi manusianya, tetapi operasi ini turut menumpukan pada pelbagai topik lain, yang mungkin menunjukkan bahawa ia dijalankan secara komersial. Memandangkan operasi ini kerap memuji Azerbaijan dan cuba menggunakan AI dalam pelbagai fasa operasinya, kami menamakan rangkaian ini “A2Z”.

Seperti operasi Telegram berbahasa Rusia yang kami dedahkan pada Mei dan namakan “Tatabahasa Buruk”, operasi ini menggunakan model kami untuk menghasilkan komen di media sosial. Operasi ini memanfaatkan AI untuk mengurus persona media sosial palsu, menjana biografi, menganalisis hantaran dan komen, merangka balasan dalam pelbagai bahasa serta menyemaknya. Balasan tersebut kemudiannya disiarkan di X atau Facebook. Kebanyakan kandungannya berupa komen ringkas, tetapi turut merangkumi imej bergaya. Imej ini sering menggunakan gaya poster era 1930-an; oleh itu, imej tersebut kelihatan direka untuk menarik perhatian dan interaksi, bukannya untuk memperdaya. Walau bagaimanapun, hantaran biasa dengan imej bergaya ini hanya menerima 0–5 interaksi setiap satu.

Penggunaan AI ini membolehkan operasi tersebut mengurus banyak akaun media sosial serentak: kami mengenal pasti sekitar 150 akaun di X dan Facebook yang sepadan dengan aktiviti ini, di samping lebih banyak akaun yang disyaki. Ini juga membolehkan operasi tersebut sesekali berinteraksi dengan individu sebenar dalam utas komen di internet. Kadangkala, kami memerhatikan perbualan ringkas antara individu sebenar dengan akaun palsu, yang balasannya dijana menggunakan model kami.

Operasi pada skala ini sebelum kewujudan AI mungkin memerlukan pasukan pembuat kacau yang besar, berserta segala kos dan risiko kebocoran yang berkaitan dengan usaha sedemikian. Namun, kebergantungan operasi ini pada AI juga menjadikannya sangat mudah terjejas akibat tindakan gangguan kami. Oleh sebab AI dimanfaatkan pada begitu banyak peringkat dalam rantaian serangan, tindakan kami melumpuhkan banyak peringkat dalam rantaian itu serentak. Selepas kami mengganggu aktiviti ini pada awal Jun, akaun media sosial yang dikenal pasti sebagai sebahagian daripada operasi ini berhenti membuat hantaran sepanjang tempoh pilihan raya di EU, UK dan Perancis. Sesetengahnya kembali membuat hantaran pada akhir Ogos. Sebilangan kecil hantaran mereka menunjukkan petanda bahawa kandungan itu mungkin dijana oleh AI. Kandungan yang menunjukkan petanda tersebut tidak dihasilkan oleh model kami.

Kempen ini menghasilkan komen ringkas yang menumpukan pada pelbagai tema politik. Tema paling ketara ialah pujian terhadap kerajaan Azerbaijan dan peranannya dalam politik domestik, serantau dan antarabangsa—contohnya, menggalakkan perpaduan antara negara Asia Tengah atau menjadi tuan rumah Persidangan Perubahan Iklim PBB. Akaun berbahasa Inggeris dan Itali memuji peranan Azerbaijan sebagai pembekal tenaga kepada Eropah—kadangkala sebagai respons terhadap kritikan tentang rekod hak asasi manusia kerajaan Azerbaijan.

Jalur aktiviti lain menumpukan pada manfaat dan perkembangan AI, pasaran kewangan, isu ekologi, mata wang kripto dan teknologi secara lebih luas. Satu kelompok menumpukan pada Emiriah Arab Bersatu dan menggambarkannya sebagai destinasi pelaburan yang stabil, sering kali dengan membandingkannya dengan dakwaan ketidakstabilan politik di Amerika Syarikat.

Sesetengah persona palsu menumpukan pada politik di Eropah atau Amerika Syarikat. Ideologi aktiviti ini berbeza-beza mengikut rantau. Contohnya, satu akaun X yang menumpukan pada Amerika Syarikat menyamar sebagai golongan liberal dan mengkritik bekas Presiden AS Trump, manakala sesetengah akaun Facebook yang membuat hantaran dalam bahasa Perancis mengkritik Presiden Macron dan menyokong parti National Rally (RN). Kadangkala, kritikan ini menumpukan pada isu domestik untuk menghujahkan bahawa negara berkenaan tidak sepatutnya campur tangan dalam isu antarabangsa, termasuk pencerobohan Rusia ke atas Ukraine.

Operasi ini sangat aktif di Facebook dan X, dengan kemungkinan ratusan akaun terlibat. Di X, sesetengah akaunnya mempunyai tanda semak biru pengesahan berbayar. Daripada kira-kira 150 akaun yang kami jadikan sampel merentas kedua-dua platform, kami tidak menemukan satu pun dengan bilangan pengikut yang besar: jumlah pengikut terbesar di X yang kami kenal pasti semasa siasatan ialah 222, angka lazimnya sekitar belasan hingga awal dua puluhan, dan hantaran biasa di X menerima interaksi satu digit. Begitu juga, jumlah reaksi tertinggi terhadap hantaran Facebook yang kami perhatikan semasa siasatan ialah 36, manakala angka lazimnya antara 0–5. Namun, kami mengenal pasti beberapa kejadian apabila hantaran operasi ini menarik balasan daripada individu sebenar. Balasan ini tidak selalunya positif dan kadangkala melibatkan individu sebenar yang menyangkal akaun palsu tersebut, tetapi ini menunjukkan sekurang-kurangnya sedikit keupayaan untuk berinteraksi dengan khalayak merentas pelbagai platform, bahasa dan topik.

Dengan menggunakan Skala Breakout untuk menilai impak operasi pengaruh, yang memberikan penarafan pada skala 1 (terendah) hingga 6 (tertinggi), kami menilai operasi ini berada pada tahap tertinggi Kategori Dua, dengan risiko meningkat kepada Kategori Tiga: operasi ini dicirikan oleh aktiviti hantaran di pelbagai platform, dengan beberapa bukti bahawa individu sebenar berinteraksi dengan kandungannya. Namun, selepas kami menyekat operasi ini daripada menggunakan model kami dan berkongsi maklumat dengan rakan industri, akaun media sosial yang kami kenal pasti tidak lagi aktif selama beberapa minggu. Oleh itu, operasi ini menyerlahkan peningkatan keupayaan yang dapat diberikan oleh penggunaan AI kepada pengendali, tetapi juga peningkatan kerentanan terhadap gangguan akibat kebergantungan mereka pada model AI.