Operasi “Paklik Spam”: aktivitas pengaruh polarisasi AS
OpenAI nglarang akun asal Tiongkok sing nggunakake AI kanggo nggawe konten politik AS lan nliti wong, gerakan, lan komunitas online.
Studi kasus iki wiwitane diterbitake ing laporan OpenAI Juni 2025(mbukak ing jendhela anyar).
Pelaku
Kita nglarang sawetara akun ChatGPT sing gegandhengan karo operasi pengaruh asal Tiongkok(mbukak ing jendhela anyar) sawise nampa informasi saka mitra kita ing Meta. Operasi kasebut nggawe konten media sosial sing nyebabake polarisasi lan nyengkuyung loro-lorone ing topik-topik sing mecah belah wacana politik AS, kalebu teks lan gambar profil gawean AI ing platform kaya X lan Bluesky.
Prilaku
Jaringan kasebut nggunakake model kita kanggo macem-macem tugas, utamane nggawe komentar media sosial sing nyengkuyung utawa ngritik tarif. Akun-akun kasebut takon marang model kita babagan wektu paling apik kanggo ngunggah konten supaya interaksi pamirsa maksimal, sing nuduhake taktik penguatan sing wis dietung.
Rong cuitan kanthi teks sing digawe pelaku ancaman iki nggunakake model kita, saben-saben nyengkuyung sisih sing beda ing debat babagan tarif.
Kapindho, akun-akun kasebut nggunakake kemampuan generasi gambar kita kanggo nggawe logo kanthi gaya tartamtu, sing banjur digunakake minangka gambar profil kanggo ndhukung persona rekaan ing macem-macem platform sosial. Mligine, akun-akun kasebut fokus nggawe persona veteran AS sing ngritik pamrentahan AS saiki.
Akun ing Bluesky sing ngunggah konten gawean jaringan iki. Logo “Veteran kanggo Keadilan” digawe nggunakake model kita.
Pungkasan, akun-akun kasebut ajeg njaluk kode lan cara kanggo njupuk data pribadhi, kayata profil pangguna, dhaptar pandherek, lan rincian liyane, saka platform sosial kaya X lan Bluesky kanthi piranti kaya Tweepy, Nitter, lan API publik Bluesky. Kajaba iku, akun-akun kasebut nggunakake model kita kanggo njaluk pandhuan nganalisis data profil adhedhasar ciri pribadhi lan afiliasi organisasi, sing bisa digunakake kanggo nggolongake wong utawa nyimpulake sesambungan lan atribut.
Asil
Akun-akun kasebut ngasilake konten sing nyebabake polarisasi ing saindhenging wacana politik AS, lan kerep ditindakake ing sesi operasi sing padha. Selaras karo metodologi operasi pengaruh sing wis dingerteni, iki katon dirancang kanggo manfaatake perpecahan politik sing wis ana, dudu kanggo nyengkuyung pandangan ideologi tartamtu. Akehe konten lan fokus marang pesen kanggo warga Amerika ndadekake kita njenengi operasi iki “Paklik Spam”.
Cuitan kanthi teks gawean model kita sing diunggah dening persona rekaan.
Dampak
Adhedhasar Skala Terobosan(mbukak ing jendhela anyar) kanggo dampak IO, kita mbiji iki minangka Kategori 2: aktivitas ing pirang-pirang platform, ora nyebar luas utawa mung entuk interaksi sithik. Akun media sosial sing ngunggah konten gawean model kita mung entuk sithik interaksi asli. Umume unggahan X sing diterbitake jaringan iki mung entuk sithik utawa ora entuk seneng lan unggahan ulang, lan mung sawetara unggahan sing entuk interaksi. Sawetara akun media sosial nduweni ewonan pandherek, nanging kita ora bisa mbiji keasliane pandherek kasebut, lan cacahe pandherek kaya-kaya ora ngasilake interaksi ing unggahan.