Mengganggu kempen pengaruh terselindung baharu dari Rusia

Misi kami adalah untuk memastikan kecerdasan am buatan memberikan manfaat kepada seluruh umat manusia. Kami menjayakan misi ini dengan menggunakan inovasi kami untuk membina alat AI yang membantu orang ramai menyelesaikan masalah sukar. Ini termasuk membina alat yang membolehkan kami mengesan, menyiasat, mengganggu dan mendedahkan operasi pengaruh terselindung (IO): percubaan memperdaya untuk memanipulasi pendapat umum atau mempengaruhi hasil politik tanpa mendedahkan identiti atau niat sebenar pihak di sebaliknya.

Baru-baru ini, kami menyekat sekumpulan akaun ChatGPT yang berasal dari Rusia dan digunakan untuk mempromosikan International Burke Institute (IBI), satu “komuniti pakar” yang mendakwa berpangkalan di Israel. Siasatan yang bermula dengan hantaran media sosial janaan AI membawa kami kepada operasi pengaruh yang jauh lebih luas, berteraskan laman web yang mengandungi karya akademik yang disalin dan disalahkaitkan, indeks “kedaulatan” yang menggambarkan Rusia secara positif, serta usaha menyembunyikan asal usul operatornya dari Rusia. Walaupun kempen itu didapati hanya mencapai khalayak yang agak kecil, pembinaannya yang rumit membezakannya daripada operasi⁠(dibuka dalam tetingkap baru) pengaruh⁠(dibuka dalam tetingkap baru) berkaitan Rusia⁠(dibuka dalam tetingkap baru) lain yang telah kami ganggu⁠(dibuka dalam tetingkap baru) sejak perang di Ukraine bermula. Laporan ini menerangkan cara operasi tersebut dijalankan, peranan ChatGPT dalamnya dan tindakan kami untuk mengganggunya.

Kami menyekat sekumpulan akaun ChatGPT yang berkemungkinan besar berasal dari Rusia. Operator memberikan gesaan dalam bahasa Rusia untuk menjana komen media sosial yang diterbitkan di Substack, Telegram, X, Facebook dan LinkedIn. Kebanyakan komen yang dijana adalah dalam bahasa Inggeris, dan operator mengarahkan ChatGPT supaya menyembunyikan sebarang petunjuk bahasa bahawa mereka orang Rusia. Oleh sebab kami tidak membenarkan akses kepada model kami dari Rusia, mereka menggunakan VPN untuk mengakses platform kami.

Sebahagian besar kandungan yang dijana bertujuan mempromosikan satu “komuniti pakar” yang dikenali sebagai International Burke Institute (IBI). Jenama IBI dikaitkan dengan sebuah laman web yang didaftarkan pada Februari 2025. Laman itu mendakwa bahawa institut tersebut berpangkalan di Israel. Artikel yang diterbitkan di laman itu tidak dijana menggunakan model kami. Banyak daripadanya disalin daripada penulisan akademik sebenar, kadangkala dengan atribusi palsu. Sesetengahnya kelihatan dirangka oleh penutur bahasa Slavik dan diterjemahkan oleh mesin. Contohnya, tangkapan skrin di bawah daripada laman web IBI menggunakan ungkapan janggal yang paling munasabah dijelaskan sebagai terjemahan mesin secara harfiah daripada bahasa Slavik.

Setakat yang kami ketahui, ini ialah kempen pengaruh terselindung yang baharu dan belum pernah dilaporkan. Ciri paling ketaranya ialah pewujudan “indeks kedaulatan” yang dipromosikan oleh “badan pemikir” berkenaan untuk memuji Rusia dan memburukkan negara-negara Barat. Ini kali pertama kami mengganggu operasi pengaruh berkaitan Rusia yang dilaksanakan dengan begitu rumit.

Kegunaan utama ChatGPT dalam operasi ini adalah untuk menjana hantaran media sosial yang mempromosikan artikel di laman web IBI. Kami mengenal pasti hantaran ini di X, LinkedIn, Facebook, Substack dan Telegram. Sesetengahnya diterbitkan oleh akaun yang menggunakan nama dan logo IBI, manakala yang lain kelihatan seperti datang daripada pengguna biasa (kemungkinan besar tidak tulen) yang aktiviti utamanya ialah menyiarkan artikel IBI.

Selain hantaran proaktif ini, operator turut menjana balasan kepada hantaran pengguna Substack sebenar tentang pelbagai topik. Balasan ini lazimnya mengandungi permintaan untuk mengikuti saluran IBI dan diterbitkan di Substack melalui akaun IBI.

Selain menjana kandungan tentang IBI, salah seorang operator menjana hantaran berbahasa Jerman yang diterbitkan di saluran Telegram bernama “Lahme Ente” (“pemimpin yang hilang kuasa”). Hantaran ini sering mengkritik Ukraine, EU dan kerajaan Jerman, serta menyokong hubungan yang lebih baik dengan Rusia.

Seorang operator kedua, selain menghasilkan kandungan berkaitan IBI, menjana logo untuk sedozen saluran Telegram (termasuk Lahme Ente) yang tertumpu pada Jerman, AS, Perancis, Poland dan Türkiye. Sesetengah saluran ini adakalanya menyiarkan kandungan tentang IBI atau berkongsi hantaran IBI sendiri. Operator kedua itu juga berulang kali meminta ringkasan berbahasa Rusia tentang aktiviti saluran tersebut. Salah satu saluran yang tertumpu pada AS dan menyamar sebagai media Amerika memaparkan biodata yang mengandungi beberapa petunjuk penggunaan bahasa oleh penutur bukan asli.

Teras operasi ini ialah International Burke Institute (IBI), walaupun aktiviti yang kami ganggu tertumpu pada kandungan media sosial yang mempromosikan atau memaut ke laman web tersebut, bukannya kandungan yang dihoskan secara langsung di laman web itu.

Laman tersebut dipaparkan sebagai satu “komuniti pakar” dengan alamat jalan di Israel. Setakat 17 Julai, laman web itu menyatakan mempunyai pelbagai pakar bertaraf dunia, termasuk tokoh terkemuka seperti Francis Fukuyama dan Noam Chomsky, serta menerbitkan pelbagai hasil penyelidikan. Walau bagaimanapun, semakan satu sampel dengan 36 artikel yang dihubungkan dengan pakar di laman web IBI dan diterbitkan antara September 2025 hingga Mei 2026 mendapati bahawa 34 daripadanya disalin dari tempat lain di internet.

Sesetengah artikel ini sudah berusia bertahun-tahun; manakala artikel lain dikaitkan dengan penulis yang salah. Contohnya, satu artikel tentang Koridor Ekonomi China-Pakistan didapati telah disalin daripada artikel asal Cambridge University Press, tetapi dikaitkan secara salah kepada seorang profesor di Universiti Nottingham yang pakar dalam politik Asia Selatan.

Satu lagi artikel tentang tadbir urus migrasi didapati telah disalin daripada Migration Policy Institute, tetapi dikaitkan secara salah kepada seorang profesor sains makanan dari Australia. Tingkah laku ini menunjukkan adanya usaha untuk menjadikan laman web IBI kelihatan lebih sah dengan memuatkannya dengan kandungan tulen, sambil mengaburkan sumber sebenar kandungan tersebut.

Selain daripada artikel ini, laman web IBI juga memuatkan laporan tentang pelbagai negara dan kedaulatan masing-masing, seperti yang diukur oleh indeks institut itu. Laporan ini tidak dijana menggunakan model kami. Sesetengah laporan ini dikemukakan sebagai perbandingan antara dua negara. Laporan lain memberikan tumpuan kepada negara-negara tertentu, khususnya negara yang mengkritik perang Rusia terhadap Ukraine seperti Perancis dan Jerman, serta Kesatuan Eropah. Operasi itu mempromosikan naratif yang serupa tentang Amerika Syarikat. Laporan-laporan ini biasanya bersifat kritikal, malah cenderung kepada polemik; antaranya termasuk:

• Perancis⁠(dibuka dalam tetingkap baru): “Sepuluh tahun Macronisme menghasilkan tepat seperti hasil yang pasti telah dijangkakan oleh seorang pengurus yang datang ke Istana Élysée dari Rothschild Bank: Perancis dibuka seperti peti besi yang menyimpan modal bersejarah, dan kini dijual sedikit demi sedikit”.
• AS⁠(dibuka dalam tetingkap baru): “Trump tiba [di Beijing] dengan indeks kedaulatan No. 1 di dunia dan pulang setelah mengambil beberapa langkah yang [...] boleh disifatkan sebagai pengurangan autonomi secara sukarela”.
• Jerman⁠(dibuka dalam tetingkap baru): “Jerman memerlukan dasar perindustrian yang melindungi pekerjaan, bukan sekadar harga saham. Negara itu memerlukan perbincangan yang jujur tentang identiti, tanpa pantang larang dan histeria. Negara itu memerlukan kedaulatan ketenteraan sebenar, bukannya kebergantungan pada pangkalan Amerika. Dan negara itu memerlukan ahli politik yang kesetiaan utamanya adalah kepada rakyat Jerman, bukannya kepada lembaga pengarah korporat di New York”.
• EU⁠(dibuka dalam tetingkap baru): “Slovakia lwn. Itali: Paradoks Kedaulatan Negara Tebusan dalam Kesatuan ‘Besar’”

Walaupun kandungan media sosial yang mempromosikan IBI dijana oleh pengguna ChatGPT di Rusia yang berusaha keras menyembunyikan asal usul mereka, dan sebahagian besar kandungan di laman web IBI didapati telah disalin dari tempat lain, beberapa jejak dalam talian menunjukkan segelintir individu sebenar di Israel mungkin turut mewakili IBI dalam penyerahan artikel dan di persidangan. Kami tidak dapat menentukan hubungan antara individu ini, IBI dan operator di Rusia.

Kesan langsung operasi itu didapati terhad: hantaran media sosial biasa hanya menerima sedikit tontonan, manakala akaun rasmi IBI mempunyai bilangan pelanggan yang rendah. Saluran Telegram operasi itu kelihatan menarik lebih ramai pelanggan, dengan setiap saluran umumnya mempunyai 10,000 hingga 20,000 pengikut. Berdasarkan Skala Breakout⁠(dibuka dalam tetingkap baru) Brookings untuk menilai kesan operasi ini, kami menilainya pada tahap rendah Kategori Tiga (berbilang platform, dengan beberapa petunjuk penyebaran kepada khalayak sebenar).

Namun, kepentingan operasi itu bukan terletak pada khalayak yang dicapainya, tetapi pada infrastruktur yang telah dibina. Walaupun pelaku hanya menggunakan ChatGPT untuk menghasilkan hantaran promosi secara berasingan, hantaran itu mengarahkan pembaca kepada sebuah institusi yang kelihatan berwibawa, lengkap dengan pakar yang didakwa, karya akademik yang diterbitkan semula dan indeks risiko proprietari yang didakwa miliknya. Ini menunjukkan cara pelaku pengaruh boleh menggunakan AI sebagai alat sokongan dalam usaha lebih luas untuk mewujudkan gambaran kewibawaan, menyembunyikan sumber naratif yang disukai dan membina aset yang boleh diperluas dari semasa ke semasa. Ini juga menunjukkan bagaimana penggunaan AI sebagai sokongan oleh mereka boleh menyebabkan operasi yang lebih luas terbongkar.