Operasi “Pak Cik Spam”: Aktiviti pengaruh yang memecahbelahkan AS

Kajian kes ini pada asalnya diterbitkan dalam laporan OpenAI pada Jun 2025⁠(dibuka dalam tetingkap baru).

Kami menyekat beberapa akaun ChatGPT yang dikaitkan dengan operasi pengaruh dari China⁠(dibuka dalam tetingkap baru) susulan maklumat daripada rakan setara kami di Meta. Operasi itu menghasilkan kandungan media sosial yang memecahbelahkan dengan menyokong kedua-dua pihak dalam isu kontroversi dalam wacana politik AS, termasuk teks dan imej profil janaan AI pada platform seperti X dan Bluesky.

Rangkaian itu menggunakan model kami untuk pelbagai tugas, terutamanya menghasilkan komen media sosial yang menyokong atau mengkritik tarif. Akaun tersebut meminta model kami menentukan waktu terbaik untuk membuat hantaran bagi memaksimumkan interaksi khalayak, yang menunjukkan penggunaan taktik penguatan terancang.

Kedua, akaun tersebut menggunakan keupayaan penjanaan imej kami untuk menghasilkan logo bergaya yang kemudiannya dijadikan gambar profil bagi menyokong persona rekaan di pelbagai platform sosial. Secara khusus, akaun tersebut menumpukan pada pembentukan persona veteran AS yang mengkritik pentadbiran AS semasa.

Akhir sekali, akaun tersebut berulang kali meminta kod dan kaedah untuk mengekstrak data peribadi seperti profil pengguna, senarai pengikut dan butiran lain daripada platform sosial seperti X dan Bluesky menggunakan alat seperti Tweepy, Nitter dan API awam Bluesky. Selain itu, akaun tersebut menggunakan model kami untuk mendapatkan panduan bagi menganalisis data profil tentang ciri peribadi dan hubungan dengan organisasi, yang mungkin bertujuan mengkategorikan individu atau membuat kesimpulan tentang perkaitan dan sifat mereka.

Akaun tersebut menghasilkan kandungan yang memecahbelahkan merentasi wacana politik AS, sering kali dalam sesi operasi yang sama. Selaras dengan kaedah operasi pengaruh yang diketahui, kegiatan ini berkemungkinan dirancang untuk mengeksploitasi perpecahan politik sedia ada dan bukannya mempromosikan pendirian ideologi tertentu. Jumlah kandungan dan tumpuannya pada mesej untuk khalayak Amerika mendorong kami menamakan operasi ini “Pak Cik Spam”.

Berdasarkan Skala Penembusan⁠(dibuka dalam tetingkap baru) untuk mengukur kesan operasi pengaruh, kami menilainya sebagai Kategori 2: aktiviti di berbilang platform, tanpa penembusan atau dengan interaksi minimum. Akaun media sosial yang menyiarkan kandungan janaan model kami menerima sedikit interaksi tulen. Kebanyakan hantaran X yang diterbitkan oleh rangkaian ini menerima sedikit atau langsung tiada tanda suka atau siaran semula, manakala hanya beberapa hantaran menerima sedikit interaksi. Sesetengah akaun media sosial mempunyai ribuan pengikut, tetapi kami tidak dapat menilai ketulenan pengikut tersebut dan jumlah pengikut itu tidak kelihatan menghasilkan interaksi dengan hantaran.