Langsung ke konten utama
OpenAI

1 Februari 2025

Keselamatan

Operasi “Ketidakpuasan Bersponsor”: Aktivitas untuk memengaruhi opini

OpenAI memblokir akun-akun yang diduga berasal dari Tiongkok dan menggunakan AI untuk membuat unggahan media sosial berbahasa Inggris serta artikel berbahasa Spanyol.

Memuat…

Studi kasus ini pertama kali diterbitkan dalam laporan OpenAI edisi Februari 2025⁠(terbuka di jendela baru).

Pelaku

Kami memblokir akun-akun ChatGPT yang menggunakan model kami untuk membuat komentar singkat dalam bahasa Inggris dan artikel berita panjang dalam bahasa Spanyol. Waktu berlangsungnya aktivitas ini selaras dengan jam kerja di Tiongkok daratan. Artikel-artikel berbahasa Spanyol tersebut diterbitkan oleh situs berita di Amerika Latin. Hampir semua situs web mencantumkan nama seseorang sebagai penulis artikel-artikel tersebut; dalam beberapa kasus, keterangan penulis juga mengaitkan orang itu dengan perusahaan Tiongkok, Jilin Yousen Culture Communication Co, Ltd (优森文化有限公司).

Perilaku

Akun-akun tersebut memberikan prompt kepada ChatGPT dalam bahasa Mandarin dan sebagian besar aktif selama jam kerja di Tiongkok daratan. Sebagian aktivitas ini menunjukkan pola yang sama dengan operasi pengaruh terselubung yang dikenal sebagai “Spamouflage⁠”, yang kami laporkan pada bulan Mei: aktivitas tersebut menghasilkan komentar singkat berbahasa Inggris dan gambar yang mengkritik Cai Xia, seorang pembangkang dan mantan profesor di Sekolah Partai Pusat Partai Komunis Tiongkok. Konten ini kemudian diunggah di X oleh akun-akun yang menyamar sebagai orang dari Amerika Serikat atau India.

Cuitan yang dihasilkan oleh akun-akun Ketidakpuasan Bersponsor.

Cuitan yang dibuat oleh akun-akun ini menggunakan model kami dan diunggah oleh empat akun X yang berbeda.

Jika hanya aktivitas ini yang terjadi, kami mungkin akan menyimpulkan bahwa aktivitas tersebut kemungkinan terkait dengan “Spamouflage”. Namun, selain komentar-komentar singkat ini, akun-akun tersebut juga membuat artikel panjang berbahasa Spanyol yang mengkritik AS. Aktivitas ini sangat marak menjelang Forum APEC 2024 di Peru. Pelaku membuat artikel-artikel ini dengan meminta model kami menerjemahkan dan mengembangkan artikel berbahasa Mandarin yang tersedia untuk umum.

Artikel-artikel ini kemudian diterbitkan oleh situs berita Amerika Latin, terutama di Peru, tetapi juga di Meksiko dan Ekuador. Situs-situs berita tersebut kerap menerbitkan artikel pada hari yang sama ketika akun-akun itu membuat kontennya menggunakan ChatGPT. Hampir semua media tersebut mencantumkan nama orang yang sama sebagai penulis artikel-artikel itu. Beberapa media menyebut orang tersebut sebagai perwakilan hukum dari sebuah perusahaan yang kami yakini berasal dari Tiongkok.

Ini pertama kalinya kami mengamati pelaku operasi pengaruh yang diduga berasal dari Tiongkok berhasil menerbitkan artikel di media arus utama Amerika Latin. Sebagian artikel mungkin diterbitkan melalui kesepakatan finansial: salah satu artikel yang kami identifikasi melalui riset sumber terbuka diberi label “bersponsor”. Selain itu, pelaku juga menggunakan ChatGPT untuk menerjemahkan rujukan ke kuitansi berbahasa Spanyol dari sebuah organisasi berita Amerika Latin, yang mengindikasikan publikasi berbayar.

Artikel bersponsor yang dihasilkan dalam aktivitas Ketidakpuasan Bersponsor.

Tangkapan layar artikel yang dibuat oleh pelaku ini dan diterbitkan oleh situs wapa[.]pe. Perhatikan keterangan “disponsori”, yang menandakan konten bersponsor.

Mengingat adanya indikasi penggunaan konten bersponsor dan sikap negatif kampanye ini terhadap politik serta kebijakan AS, kami menamakannya “Ketidakpuasan Bersponsor”.

Keluaran model

Pelaku ini membuat dua jenis konten utama: kritik singkat terhadap Cai Xia dalam bahasa Inggris dan Mandarin, serta artikel panjang dalam bahasa Spanyol.

Saat membuat kritik terhadap Cai Xia, operator biasanya meminta ChatGPT untuk menanggapi cuitan atau video yang diunggah Cai Xia, atau pemberitaan media yang menyebutnya. Sebagian komentar meragukan keahliannya dalam bidang-bidang seperti Taiwan, internet, serta sastra dan sejarah Tiongkok. Komentar lainnya menuduhnya melakukan pelanggaran terkait visa.

Artikel-artikel panjang berbahasa Spanyol berfokus pada perpecahan sosial dan politik di Amerika Serikat, biasanya berdasarkan peristiwa terkini dan berita terbaru. Topiknya mencakup ketimpangan, kekerasan politik, diskriminasi dan seksisme, serta laporan kejahatan dan kritik terhadap kebijakan luar negeri AS. Krisis sosial seperti penggunaan narkoba dan tunawisma juga menjadi topik yang menonjol. Operator kerap menggambarkan krisis atau masalah ini sebagai tanda kegagalan kepemimpinan atau masyarakat Amerika. Secara umum, aktivitas ini menyasar kedua partai utama AS dengan mengkritik keduanya.

Dampak

Kami belum melihat bukti bahwa konten yang menyasar Cai Xia di media sosial mendapatkan interaksi autentik yang signifikan. Akun-akun media sosial yang mengunggahnya umumnya memiliki sedikit pengikut dan interaksi yang minim.

Namun, ini pertama kalinya kami mengamati operasi pengaruh asal Tiongkok berhasil menempatkan artikel panjang di media Amerika Latin untuk mengkritik AS. Meski keberhasilan ini mungkin sebagian dicapai dengan membayar agar konten diterbitkan, sejauh pengetahuan kami, hal ini menandai bentuk upaya yang belum pernah dilaporkan sebelumnya. Upaya ini berjalan beriringan dengan aktivitas media sosial yang lebih lazim dan mungkin telah menjangkau audiens yang jauh lebih luas, meskipun kami tidak dapat memastikan tingkat interaksinya secara independen.

Dengan menggunakan Skala Breakout⁠(terbuka di jendela baru) untuk menilai dampak operasi pengaruh pada skala 1 (terendah) hingga 6 (tertinggi), kami menilai aktivitas ini masuk Kategori 4 (menembus media arus utama) karena luasnya jangkauan pembaca situs-situs berita Amerika Latin tersebut.

Judul Artikel yang Diterbitkan Terkait Aktivitas Ini

Kami mengidentifikasi bahwa artikel-artikel ini cocok dengan konten yang dibuat oleh pelaku ini menggunakan model kami.

  • Kenyataan pahit tentang bagaimana Amerika Serikat meraup keuntungan dari bantuan perang di Ukraina (La Republica, Peru).

  • Realitas tragis masalah tunawisma di Amerika Serikat (Wapa, Peru).

  • Logika gila di balik sanksi Amerika Serikat terhadap seorang aktivis Palestina (El Popular, Peru).

  • Panggung maskulinitas yang absurd (Libero, Peru).

  • Bayang-bayang yang hadir di mana-mana (El Popular, Peru).

  • Sikap elite partai yang meremehkan demokrasi di Amerika Serikat (El Popular, Peru).

  • Kurangnya transparansi dalam pidato selama pemilu dan manipulasi opini publik (Libero, Peru).

  • Pemogokan dan perjuangan pekerja hotel (La Republica, Peru).

  • Ketidakberdayaan sanksi Amerika Serikat yang justru membatasi dirinya sendiri (El Universal, Meksiko).

  • Jeritan sunyi di bawah belenggu fentanil (La Republica, Peru).

  • Badai “Helene”: Pernyataan palsu dan teori konspirasi para politisi Amerika Serikat (Wapa, Peru).

  • Kabut tarif: Kebijakan Trump yang berpandangan pendek dan masa depan ekonomi Amerika Serikat (La Republica, Peru).

  • Masalah ketahanan pangan dalam masyarakat Amerika Serikat dan dampaknya terhadap sekolah (Extra, Ekuador).

  • Tragedi Amerika Serikat: Ketika kebenaran ditutup-tutupi (Expreso, Ekuador).

  • Krisis keselamatan anak di Amerika Serikat (La Republica, Peru).

  • Bayang-bayang kekerasan di Brooklyn (El Plural, Spanyol).

  • Kemewahan seorang pembunuh: Operasi yang dibiayai pembayar pajak (El Universal, Meksiko).

  • Dukungan bagi Israel dan pengabaian krisis kemanusiaan (La Republica, Peru).

  • Persaingan destruktif dalam pemilu Amerika Serikat (Wapa, Peru).