Liwati menyang isi utama
OpenAI

1 Februari 2025

Keselamatan

Operasi “Rasa Ora Marem sing Disponsori”: Kegiyatan kanggo menehi pengaruh

OpenAI mblokir akun-akun sing kamungkinan saka Tiongkok lan nggunakake AI kanggo nggawe kiriman media sosial basa Inggris lan artikel basa Spanyol.

Lagi dimuat…

Studi kasus iki sepisanan diterbitake ing laporan OpenAI Februari 2025⁠(mbukak ing jendhela anyar).

Pelaku

Kita mblokir akun-akun ChatGPT sing nggunakake model kita kanggo nggawe komentar cekak basa Inggris lan artikel warta dawa basa Spanyol. Wektu lumakune kegiyatan iki cocog karo jam kerja ing Tiongkok dharatan. Artikel-artikel basa Spanyol kasebut diterbitake dening situs warta ing Amerika Latin. Meh kabeh situs web kasebut nyantumake jeneng sawijining wong minangka panulis artikel; ing sawetara kasus, katrangan panulis ing artikel kasebut nggandhengake wong mau karo perusahaan Tiongkok, Jilin Yousen Culture Communication Co, Ltd (优森文化有限公司).

Tumindak

Akun-akun kasebut menehi prentah marang ChatGPT nganggo basa Tionghoa lan umume aktif nalika jam kerja ing Tiongkok dharatan. Sawetara kegiyatan cocog karo operasi pengaruh sing didhelikake lan dikenal minangka “Spamouflage⁠”, sing kita laporake ing wulan Mei: operasi iki nggawe komentar cekak basa Inggris lan gambar sing ngritik Cai Xia, sawijining panentang pamarentah lan mantan profesor ing Sekolah Partai Pusat duweke Partai Komunis Tiongkok. Konten iki banjur dikirim ing X dening akun-akun sing nyamar dadi wong saka Amerika Serikat utawa India.

Tweet sing digawe dening akun-akun Rasa Ora Marem sing Disponsori.

Tweet sing digawe dening akun-akun iki nganggo model kita, banjur dikirim dening papat akun X sing beda-beda.

Yen mung iki kegiyatane, kita bisa wae nyimpulake yen kegiyatan iki kamungkinan ana gandhengane karo “Spamouflage”. Nanging, saliyane komentar cekak kasebut, akun-akun iki uga nggawe artikel dawa basa Spanyol sing ngritik AS. Kegiyatan iki katon saya akeh nalika nyedhaki Forum APEC 2024 ing Peru. Pelaku nggawe artikel-artikel iki kanthi njaluk model kita nerjemahake lan ngembangake artikel basa Tionghoa sing bisa diakses umum.

Artikel-artikel iki banjur diterbitake dening situs warta Amerika Latin, utamane ing Peru, nanging uga ing Meksiko lan Ekuador. Situs-situs warta kasebut kerep nerbitake artikel ing dina sing padha karo nalika akun-akun kasebut nggawe kontene nganggo ChatGPT. Meh kabeh media sing nerbitake artikel kasebut nyantumake wong sing padha minangka panulise. Sawetara media nyebut wong kasebut minangka wakil sah saka perusahaan sing kita yakini minangka perusahaan Tiongkok.

Iki sepisanan kita weruh pelaku operasi pengaruh sing kamungkinan saka Tiongkok kasil nerbitake artikel ing media utama Amerika Latin. Sawetara artikel bisa uga diterbitake amarga ana kesepakatan pambayaran: Salah sawijining artikel sing kita temokake liwat riset sumber terbuka diwenehi tandha “disponsori”. Kajaba iku, pelaku uga nggunakake ChatGPT kanggo nerjemahake katrangan ngenani kuitansi basa Spanyol saka organisasi warta Amerika Latin, sing nuduhake anane penerbitan kanthi mbayar.

Artikel sing disponsori lan digawe liwat kegiyatan Rasa Ora Marem sing Disponsori.

Tangkapan layar artikel sing digawe pelaku iki lan diterbitake dening situs web wapa[.]pe. Gatekna tandha “disponsori”, sing nuduhake yen iki konten sponsor.

Amarga katon nggunakake konten sing disponsori lan kampanye iki nduweni sikap negatif marang politik lan kabijakan AS, kita menehi jeneng “Rasa Ora Marem sing Disponsori”.

Asil sing Digawe Model

Pelaku iki nggawe rong jinis konten utama: kritik cekak marang Cai Xia nganggo basa Inggris lan Tionghoa, lan artikel dawa nganggo basa Spanyol.

Nalika nggawe kritik marang Cai Xia, operator biasane njaluk ChatGPT nanggapi tweet utawa video sing dikirim dening Cai Xia, utawa pawarta media sing nyebut dheweke. Sawetara komentar mangu-mangu marang keahliane ing babagan Taiwan, internet, sarta sastra lan sejarah Tiongkok. Komentar liyane nudhuh dheweke nindakake pelanggaran visa.

Artikel dawa basa Spanyol kasebut fokus ing perpecahan sosial lan politik ing Amerika Serikat, biasane adhedhasar kedadeyan saiki lan warta paling anyar. Topike kalebu kesenjangan, kekerasan politik, diskriminasi lan seksisme, uga laporan tindak kriminal lan kritik marang kabijakan luar negeri AS. Krisis sosial kayata panggunaan narkoba lan kahanan wong tanpa omah uga dadi topik utama. Operator kerep nggambarake krisis utawa masalah kasebut minangka pratandha gagale kepemimpinan utawa masyarakat ing Amerika. Umume, kegiyatan iki ngritik loro-lorone partai utama AS, ora mung salah sijine.

Dampak

Kita durung weruh bukti yen konten ing media sosial sing ngarah marang Cai Xia entuk akeh interaksi asli. Akun-akun media sosial sing ngirim konten kasebut biasane mung nduweni sethithik pandherek lan arang entuk interaksi.

Nanging, iki sepisanan kita weruh operasi pengaruh saka Tiongkok kasil nyisipake artikel dawa ing media Amerika Latin kanggo ngritik AS. Sanajan kasil iki bisa uga paling ora sapérangan amarga mbayar supaya kontene diterbitake, saweruhe kita, iki nuduhake upaya sing durung nate dilaporake sadurunge. Upaya iki lumaku bebarengan karo kegiyatan media sosial sing luwih umum lan bisa uga nggayuh pamirsa sing luwih akeh, sanajan kita ora bisa mesthekake interaksine kanthi mandhiri.

Kanthi nggunakake Skala Jangkauan Pengaruh⁠(mbukak ing jendhela anyar) kanggo mbiji dampak operasi pengaruh, sing menehi biji saka 1 (paling endhek) nganti 6 (paling dhuwur), kita bakal nggolongake iki ing Kategori 4 (kasil mlebu media utama) amarga akehe pamaca situs warta Amerika Latin kasebut.

Irah-irahan Artikel sing Wis Diterbitake lan Gegayutan karo Kegiyatan Iki

Kita nemokake yen artikel-artikel iki cocog karo konten sing digawe pelaku iki nganggo model kita.

  • Kasunyatan pait babagan carane Amerika Serikat entuk bathi saka bantuan kanggo perang ing Ukraina (La Republica, Peru).

  • Kasunyatan tragis saka masalah wong tanpa omah ing Amerika Serikat (Wapa, Peru).

  • Logika edan ing sanksi Amerika marang sawijining aktivis Palestina (El Popular, Peru).

  • Panggung maskulinitas sing ora mlebu nalar (Libero, Peru).

  • Ayang-ayang ing endi-endi (El Popular, Peru).

  • Para petinggi partai sing nyepelekake demokrasi ing Amerika Serikat (El Popular, Peru).

  • Kurange keterbukaan ing pidato nalika pemilu lan manipulasi panemu umum (Libero, Peru).

  • Mogok lan perjuwangane buruh hotel (La Republica, Peru).

  • Sanksi Amerika Serikat sing ora duwe daya lan malah mbatesi awake dhewe (El Universal, Meksiko).

  • Jerit tanpa swara ing sangisore cengkereman fentanil (La Republica, Peru).

  • Badai “Helene”: Pratelan palsu lan teori konspirasi saka politisi Amerika (Wapa, Peru).

  • Pedhut tarif: Kabijakan Trump sing mung mikir jangka cendhak lan mangsa ngarepe ekonomi Amerika (La Republica, Peru).

  • Masalah ketahanan pangan ing masyarakat Amerika lan dampake tumrap sekolah (Extra, Ekuador).

  • Tragedi Amerika Serikat: Nalika kasunyatan ditutupi (Expreso, Ekuador).

  • Krisis kaslametan bocah ing Amerika Serikat (La Republica, Peru).

  • Ayang-ayang kekerasan ing Brooklyn (El Plural, Spanyol).

  • Kamukten kanggo sawijining tukang mateni: Operasi bedhah sing dibayar nganggo dhuwit wajib pajak (El Universal, Meksiko).

  • Dhukungan marang Israel lan sikap nyepelekake krisis kamanungsan (La Republica, Peru).

  • Persaingan sing ngrusak ing pemilu Amerika Serikat (Wapa, Peru).