Ngganggu operasi pengaruh Iran sing rahasia
Kita mblokir akun-akun sing ana gandhengané karo operasi pengaruh Iran sing nggunakake ChatGPT kanggo nggawe konten babagan macem-macem topik, kalebu kampanye presiden A.S. Kita ora ndeleng pratandha manawa konten iki tekan pamirsa sing migunani.
OpenAI nduweni komitmen kanggo nyegah penyalahgunaan lan nambah transparansi babagan konten sing digawe AI. Iki kalebu upaya kita kanggo ndeteksi lan mandhegake operasi pengaruh rahasia (IO), sing nyoba ngamanipulasi opini publik utawa mengaruhi asil politik nalika ndhelikake identitas sejati utawa niyat para pelaku ing baliké. Iki luwih penting maneh ing konteks akehé pemilu sing dianakake ing 2024. Kita wis ngembangake upaya ing wilayah iki sajrone taun iki, kalebu kanthi nggunakke model AI kita dhewe kanggo luwih apik ndeteksi lan mangerteni penyalahgunaan.
Minggu iki kita ngenali lan nutup klaster akun ChatGPT sing nggawe konten kanggo operasi pengaruh Iran sing rahasia sing diidentifikasi minangka Storm-2035(mbukak ing jendhela anyar). Kita wis nglarang akun-akun iki nggunakake layanan kita, lan kita terus ngawasi ana oraé upaya liyane kanggo nglanggar kabijakan kita. Operasi iki nggunakake ChatGPT kanggo nggawe konten sing fokus marang sawetara topik—kalebu komentar babagan calon saka loro kubu ing pemilu presiden A.S.—sing banjur disebar liwat akun media sosial lan situs web.
Kaya operasi pengaruh rahasia sing kita laporake ing Mei, operasi iki katon ora kasil nggayuh keterlibatan pamirsa sing migunani. Mayoritas kiriman media sosial sing kita identifikasi mung nampa sithik utawa ora ana like, bagikan, utawa komentar. Kita uga ora nemokake pratandha manawa artikel-artikel web iki dibagikake ing media sosial. Nggunakake Breakout Scale(mbukak ing jendhela anyar) saka Brookings, sing netepake dampak IO rahasia ing skala 1 (paling endhek) nganti 6 (paling dhuwur), operasi iki ana ing sisih endhek Kategori 2 (aktivitas ing pirang-pirang platform, nanging ora ana bukti manawa wong nyata nanggapi utawa nyebarake kontené kanthi amba). Investigasi kita oleh manfaat saka informasi babagan operasi iki sing diterbitake Microsoft minggu kepungkur.(mbukak ing jendhela anyar)
Investigasi kita mbukak manawa operasi iki nggunakake ChatGPT kanggo rong tujuan: nggawe artikel dawa lan komentar media sosial sing luwih cekak. Alur kerja pisanan ngasilake artikel babagan politik A.S. lan kedadeyan global, diterbitake ing limang situs web sing nyamar dadi media warta progresif lan konservatif. Alur kerja kapindho nggawe komentar cekak ing basa Inggris lan Spanyol, sing diunggah ing media sosial. Kita ngenali selusin akun ing X lan siji ing Instagram sing melu ing operasi iki. Sawetara akun X nyamar dadi progresif, lan liyane dadi konservatif. Dheweke nggawe sawetara komentar iki kanthi njaluk model kita nulis ulang komentar sing wis diunggah pangguna media sosial liyane.
Operasi iki nggawe konten babagan sawetara topik: utamane konflik ing Gaza, kehadiran Israel ing Olimpiade, lan pemilu presiden A.S.—lan kanthi tingkat sing luwih cilik politik ing Venezuela, hak komunitas Latinx ing A.S. (ing basa Spanyol lan Inggris), lan kamardikan Skotlandia. Dheweke nyelani konten politiké nganggo komentar babagan fashion lan kaendahan, bisa uga supaya katon luwih asli utawa minangka upaya kanggo mbangun pengikut.
Sanajan operasi iki ora ngasilake keterlibatan pamirsa sing migunani, kita tetep nanggapi kanthi serius saben upaya kanggo nggunakake layanan kita ing operasi pengaruh manca. Mula, minangka bagean saka upaya kita kanggo ndhukung komunitas sing luwih amba supaya bisa ngganggu kegiatan iki sawise mbusak akun-akun kasebut saka layanan kita, kita wis nuduhake intelijen ancaman marang para pemangku kepentingan ing pamrentah, kampanye, lan industri. OpenAI tetep darmabakti kanggo mbukak lan nyuda jinis penyalahgunaan iki ing skala gedhe liwat kemitraan karo industri, masyarakat sipil, lan pamrentah, lan kanthi nggunakke kekuwatan AI generatif supaya dadi pengganda daya ing upaya kita. Kita bakal terus nerbitake temuan kaya iki kanggo ningkatake nuduhake informasi lan praktik paling apik.
Judhul loro artikel sing digawe dening operasi iki lan diterbitake ing loro situs webé. Kita ora ndeleng bukti manawa artikel-artikel iki disebarake kanthi amba ing media sosial.
Kiriman babagan calon pemilu A.S. sing digawe dening operasi iki, diunggah dening rong akun beda ing X. Kiriman-kiriman iki entuk keterlibatan sithik nganti ora ana.
Kiriman babagan kaendahan sing digawe dening operasi iki ing basa Inggris lan Spanyol, diunggah dening rong akun beda ing X. Gambar-gambar iki dijalanke liwat pengklasifikasi DALL·E 3 kita, sing ngenali manawa gambar-gambar iki dudu asil saka layanan kita. Kiriman-kiriman iki entuk keterlibatan sithik nganti ora ana.
Domain sing nyambung karo kegiatan iki:
- niothinker[.]com
- savannahtime[.]com
- evenpolitics[.]com
- teorator[.]com
- westlandsun[.]com