Operasi “Paman Spam”: aktivitas operasi pengaruh yang memicu polarisasi di AS
OpenAI memblokir akun asal Tiongkok yang menggunakan AI untuk membuat konten politik AS serta meneliti orang, gerakan, dan komunitas daring.
Studi kasus ini pertama kali diterbitkan dalam laporan OpenAI Juni 2025(terbuka di jendela baru).
Pelaku
Kami memblokir sejumlah akun ChatGPT yang terkait dengan operasi pengaruh asal Tiongkok(terbuka di jendela baru) setelah menerima informasi dari rekan-rekan kami di Meta. Operasi tersebut menghasilkan konten media sosial yang memicu polarisasi dengan mendukung kedua kubu dalam berbagai isu kontroversial di ranah politik AS, termasuk teks dan gambar profil buatan AI di platform seperti X dan Bluesky.
Perilaku
Jaringan tersebut menggunakan model kami untuk berbagai tugas, terutama membuat komentar media sosial yang mendukung atau mengkritik tarif. Akun-akun tersebut meminta model kami menentukan waktu unggah terbaik untuk memaksimalkan interaksi audiens, yang mengindikasikan taktik amplifikasi terencana.
Dua twit berisi teks yang dibuat pelaku ancaman ini menggunakan model kami untuk mendukung kedua kubu dalam perdebatan mengenai tarif.
Kedua, akun-akun tersebut menggunakan kemampuan pembuatan gambar kami untuk membuat logo bergaya yang kemudian dijadikan foto profil guna mendukung persona fiktif di berbagai platform sosial. Secara khusus, akun-akun tersebut berfokus menciptakan persona veteran AS yang kritis terhadap pemerintahan AS saat ini.
Akun di Bluesky yang mengunggah konten buatan jaringan ini. Logo “Veteran untuk Keadilan” dibuat menggunakan model kami.
Terakhir, akun-akun tersebut terus meminta kode dan metode untuk mengekstrak data pribadi dari platform sosial seperti X dan Bluesky—termasuk profil pengguna, daftar pengikut, dan informasi lainnya—menggunakan alat seperti Tweepy, Nitter, dan API publik Bluesky. Selain itu, akun-akun tersebut menggunakan model kami untuk memperoleh panduan dalam menganalisis data profil guna mengidentifikasi karakteristik pribadi dan afiliasi organisasi, yang berpotensi digunakan untuk mengategorikan individu atau menyimpulkan hubungan dan atribut mereka.
Hasil
Akun-akun tersebut menghasilkan konten pemicu polarisasi yang mencakup berbagai isu politik AS, sering kali dalam sesi operasi yang sama. Selaras dengan metode yang diketahui digunakan dalam operasi pengaruh, aktivitas ini tampaknya dirancang untuk mengeksploitasi perpecahan politik yang ada, bukan untuk mempromosikan pandangan ideologis tertentu. Banyaknya konten dan fokus pada pesan yang menyasar publik Amerika membuat kami menjuluki operasi ini “Paman Spam”.
Twit berisi teks buatan model kami yang diunggah oleh persona fiktif.
Dampak
Dengan menggunakan Skala Breakout(terbuka di jendela baru) untuk mengukur dampak operasi pengaruh, kami menilai aktivitas ini masuk Kategori 2: berlangsung di beberapa platform, tetapi tidak menyebar luas atau hanya memperoleh sedikit interaksi. Akun media sosial yang mengunggah konten buatan model kami hanya memperoleh sedikit interaksi autentik. Sebagian besar unggahan X yang diterbitkan jaringan ini hanya memperoleh sedikit atau sama sekali tidak memperoleh suka maupun unggahan ulang; hanya beberapa unggahan yang mendapat interaksi. Beberapa akun media sosial memiliki ribuan pengikut, tetapi kami tidak dapat menilai keaslian pengikut tersebut, dan banyaknya pengikut tampaknya tidak menghasilkan interaksi pada unggahan.