Operasi penipuan: Jaringan penipuan online

Studi kasus iki wiwitane diterbitake ing laporan OpenAI Oktober 2025⁠(mbukak ing jendhela anyar).

Jaringan sing kaya-kaya asale saka Kamboja, Myanmar, lan Nigeria nyalahgunakake ChatGPT kanggo upaya ngapusi wong kanthi online.

Kita nduweni tekad kanggo ngenali, nyegah, lan ngendhegake upaya nyalahgunakake model kita kanggo tujuan sing mbebayani. Salah sijine yaiku penipuan. Kita ndeteksi lan mblokir pelaku ala sing nyoba nyalahgunakake model kita kanggo ngapusi lan ngrugekake wong. Sajrone telung sasi kepungkur, kita wis ngendhegake jaringan penipuan sing kaya-kaya asale saka Kamboja, Myanmar, lan Nigeria. Minangka pratandha yen AI bisa mbantu nglawan penipuan, nalika nyelidiki pola penyalahgunaan iki, kita uga weruh akeh wong nggunakake model kita kanggo mbantu ngenali penipuan. Laporan iki ngrembug loro-lorone panggunaan kasebut.

Penyalahgunaan model kita kanggo ndhukung penipuan maneka warna, wiwit saka pelaku tunggal sing nyoba ngapusi nganti operasi gedhe lan terus-terusan sing kaya-kaya ana gandhengane karo kelompok kriminal terorganisasi. Ora preduli saka ngendi asal lan kepiye taktik pase, kegiatan sing ana gandhengane karo penipuan sing wis kita endhegake biasane ngetutake pola umum: ping (ngubungi wong sing durung dikenal), zing (nyoba nuwuhake semangat utawa panik), lan sting (njupuk dhuwit utawa informasi aji).

Para penipu iki miwiti kanthi nyebar konten, sing digawe AI utawa dudu, ing layanan olahpesen lan internet, kalebu liwat iklan media sosial. Banjur, dheweke nyoba nggawe sapa wae sing mangsuli dadi semangat marang peluang gedhe utawa wedi bakal rugi finansial ing wektu cedhak, banjur nggunakake emosi kasebut kanggo ngyakinake target supaya masrahake dhuwit utawa informasi sensitif.

Kita uga wis ngamati akeh kasus nalika model kita kaya-kaya mbantu nglindhungi wong saka penipuan. Kita nemokake bukti yen wong nggunakake ChatGPT kanggo mbantu ngenali lan nyingkiri penipuan online nganti mayuta-yuta kaping saben sasi. Ing saben operasi penipuan ing laporan iki, model kita mbantu wong ngenali penipuan kanthi bener lan menehi saran babagan langkah keamanan sing cocog. Prakiraan kita saiki nuduhake yen ChatGPT digunakake kanggo ngenali penipuan nganti ping telu luwih kerep tinimbang digunakake kanggo nindakake penipuan.

Conto penyelidik OpenAI nempelake gambar layar pesen SMS penipuan sing ditampa menyang ChatGPT lan kasil nggunakake model kanggo ngenali pesen kasebut minangka penipuan. Ing kasus iki, pelaku ancaman nyoba nyamar dadi perekrut TikTok.

Wiwit laporan pungkasan, kita wis nguwatake kemampuan kanggo ndeteksi lan ngendhegake penipuan. Kita wis ngendhegake jaringan penipuan liyane sing kaya-kaya asale saka Kamboja, Myanmar, lan Nigeria. Kanthi tumindak sadurunge, penindakan iki mbantu kita ngenali tren anyar ing pirang-pirang operasi penipuan saka negara sing beda-beda.

Akèh-akèhé kegiatan penipuan sing kita endhegake mung nambahake AI menyang cara penipuan sing wis ana, dudu nggawe cara anyar sing adhedhasar AI. Kabeh operasi penipuan sing kita kenali lan blokir taun iki utamane nggunakake AI minangka piranti kanggo nggedhekake skala lan ningkatake efisiensi. Biasane, model kita digunakake kanggo nerjemahake, nulis pesen, lan nggawe konten media sosial.

Contone, bubar kita mblokir operasi penipuan sing kaya-kaya asale saka Kamboja lan Nigeria. Operasi kasebut nyamar dadi “perusahaan investasi” kanggo ngapusi korban ing pirang-pirang negara. Para penipu nggawe situs web lan iklan online kanggo promosi perusahaan palsu kasebut, banjur nggunakake akun media sosial sing kaya-kaya ora asli lan nyamar dadi ahli dagang kanggo ngajak wong gabung menyang grup olahpesen pribadi. Kanthi nawakake peluang bathi gedhe tanpa risiko, para pelaku ancaman banjur mbujuk calon korban supaya mbayar menyang platform dagang rekaan. Ing kabeh penipuan kasebut, para penipu utamane nggunakake model kita kanggo nggawe lan nerjemahake korespondensi, nggawe konten kanggo situs web lan akun media sosial, lan nindakake riset dhasar.

Ing kasus liyane, kita mblokir pusat penipuan sing kemungkinan gedhe dumunung ing Myanmar. Pusat iki nggunakake model kita kanggo nggawe konten skema penipuan lan nindakake tugas bisnis saben dina. Tugas kasebut kalebu ngatur jadwal, ngrancang pengumuman internal, nemtokake panggonan meja lan asrama, lan ngatur akun finansial. Sawetara operator takon babagan paukuman pidana tumrap wong sing kejiret nindakake penipuan online.

Ora kabeh penipu sing kita endhegake nggunakake model kita kanthi cara utawa tingkat kerumitan sing padha. Akèh-akèhé interaksi penipu karo ChatGPT mung ngemot tugas sing prasaja, kayata nerjemahake, nanging sawetara operasi penipuan luwih ambisius lan rumit.

Contone, salah siji operasi penipuan sing kaya-kaya asale saka Kamboja nggunakake model kita kanggo nggawe biografi rinci tumrap ahli investasi palsu lan karyawan rekaan saka perusahaan dagang palsu. Banjur, para penipu njaluk ChatGPT nulis pesen media sosial nganggo gaya basa paraga-paraga kasebut. Para pelaku ancaman kerep ngetik pesen sing kaya-kaya ditampa saka target menyang model kita, banjur njaluk model nerusake pacelathon minangka tokoh palsu kasebut.

Operasi penipuan kapindho, sing uga kaya-kaya asale saka Kamboja, wiwit kanthi nggunakake model kita kanggo nggawe pesen SMS tanpa kontak sadurunge sing banjur dikirim massal menyang nomer telpon AS. Salah siji pesen kasebut dikirim menyang penyelidik OpenAI, padha karo kasus sing dilapurake ing wulan Juni. Pesen SMS kasebut ngemot undhangan kanggo gabung menyang grup WhatsApp, sing banjur diblokir, kanthi jeneng sing memper perusahaan investasi resmi.

Miturut rerangken pesen WhatsApp sing dikirim menyang penyelidik OpenAI, yen calon target gabung menyang salah siji grup kasebut, dheweke bakal langsung weruh “pacelathon” antarane enem akun sing kabeh ngrembug investasi. Salah siji akun nyamar dadi “ahli investasi”, dene liyane nyamar dadi investor kanthi tingkat kapercayan lan pengalaman sing beda-beda. Saben bagean pacelathon iki digawe dening para penipu, sing nerjemahake kabeh sekaligus saka basa Cina—kaya-kaya kanggo menehi kesan anane grup aktif sing kebak pedagang sregep lan sukses. Pungkasane, “ahli investasi” kasebut bakal menehi saran supaya target uga nyoba nandur modal.

Ing kasus kapisah, operasi penipuan investasi sing kemungkinan gedhe asale saka Nigeria njaluk model menehi pandhuan langkah demi langkah kanggo nggunakake iklan media sosial guna nggayuh wong sugih ing Amerika Latin, nyamarke lokasi, lan nyingkiri watesan platform media sosial. Kanggo nindakake iki, dheweke ngarahake model menyang syarat layanan umum platform lan njaluk model mriksa apa rancangan konten iklan wis tundhuk marang syarat kasebut.

Para penipu, mligine pusat penipuan gedhe, terus-terusan nyoba. Asring banget, tanggapane marang penindakan yaiku nyoba miwiti maneh kegiatan sing nglanggar aturan, kanthi ngowahi sawetara unsur tumindake, kaya-kaya kanggo nyingkiri deteksi sabanjure. Iki salah siji alesan pentinge nuduhake wawasan babagan kegiatan sing terus owah ing saindenging industri. Contone, OpenAI lan Meta padha-padha nuduhake informasi babagan pelaku ancaman sing ndhukung penyelidikan lan penindakan luwih lanjut.

Mbokmenawa kanggo nanggapi penindakan utawa guneman online sing luwih amba babagan tandha-tandha panggunaan AI, kita wis weruh para penipu nyoba ndhelikake panggunaan AI ing konten online lan komunikasi karo target. Iki kalebu operasi penipuan sing kaya-kaya asale saka Kamboja sing mrentah model supaya mbusak tandha pisah dawa saka asil.

Ing sawijining kasus, para penipu nyoba nerangake penindakan gedhe marang aset media sosiale kanthi nggawe alesan kenapa aset kasebut diblokir. Iki ana gandhengane karo pusat penipuan sing kaya-kaya asale saka Kamboja lan beroperasi liwat SMS lan WhatsApp, kaya sing diterangake ing ndhuwur. Sawise WhatsApp mblokir “grup investasi” sing ana gandhengane karo operasi kasebut, para operator wiwit nggawe pesen sing ngakoni yen grup kasebut dilapurake kanthi ora bener dening saingan, kaya-kaya kanggo menehi alesan tumrap pemblokiran kasebut.

Gambar layar pesen WhatsApp sing dikirim operasi penipuan sing ana gandhengane karo Kamboja menyang penyelidik OpenAI sawise ditindak dening WhatsApp.