Operasi penipuan: Jaringan penipuan daring

Studi kasus ini pertama kali diterbitkan dalam laporan OpenAI Oktober 2025⁠(terbuka di jendela baru).

Jaringan yang kemungkinan berasal dari Kamboja, Myanmar, dan Nigeria menyalahgunakan ChatGPT dalam upaya yang tampaknya bertujuan menipu orang secara daring.

Kami berkomitmen untuk mengidentifikasi, mencegah, dan menghentikan upaya penyalahgunaan model kami untuk tujuan berbahaya. Penyalahgunaan tersebut mencakup penipuan, dan kami mendeteksi serta memblokir pelaku jahat yang mencoba menyalahgunakan model kami untuk memperdaya dan menipu orang. Dalam tiga bulan terakhir, kami telah menghentikan jaringan penipuan yang kemungkinan berasal dari Kamboja, Myanmar, dan Nigeria. Sebagai gambaran tentang peran AI dalam memerangi penipuan, saat menyelidiki pola penyalahgunaan ini kami juga melihat banyak orang menggunakan model kami untuk membantu mengenali penipuan. Laporan ini membahas kedua jenis penggunaan tersebut.

Penyalahgunaan model kami untuk mendukung penipuan dilakukan mulai dari pelaku tunggal hingga operasi berskala besar dan berkelanjutan yang kemungkinan terkait dengan kelompok kejahatan terorganisasi. Terlepas dari asal dan taktik spesifiknya, aktivitas penipuan yang kami hentikan biasanya mengikuti pola umum: pancingan (menghubungi orang tanpa diminta), pemicu (mencoba membangkitkan antusiasme atau kepanikan), lalu pemerasan (mengambil uang atau informasi berharga).

Para penipu ini memulai dengan menyebarkan konten, baik buatan AI maupun bukan, melalui layanan perpesanan dan internet, termasuk dengan memasang iklan di media sosial. Mereka kemudian mencoba membuat siapa pun yang merespons merasa antusias terhadap peluang menguntungkan atau takut akan kerugian finansial yang segera terjadi, lalu memanfaatkan emosi itu untuk meyakinkan target agar menyerahkan uang atau informasi sensitif.

Kami juga mengamati banyak kasus ketika model kami kemungkinan membantu melindungi orang dari penipuan. Kami menemukan bukti bahwa orang menggunakan ChatGPT untuk membantu mengenali dan menghindari penipuan daring jutaan kali setiap bulan. Dalam setiap operasi penipuan di laporan ini, kami melihat model membantu orang mengenali penipuan dengan tepat dan menyarankan langkah keselamatan yang sesuai. Perkiraan kami saat ini menunjukkan bahwa ChatGPT digunakan untuk mengenali penipuan hingga tiga kali lebih sering daripada digunakan untuk melakukan penipuan.

Contoh penyelidik OpenAI yang menempelkan tangkapan layar pesan SMS penipuan yang diterimanya ke ChatGPT dan berhasil menggunakan model untuk mengenalinya sebagai penipuan. Dalam kasus ini, pelaku ancaman mencoba menyamar sebagai perekrut TikTok.

Sejak laporan terakhir, kami telah memperkuat kemampuan untuk mendeteksi dan menghentikan penipuan. Kami telah menghentikan jaringan penipuan lain yang tampaknya berasal dari Kamboja, Myanmar, dan Nigeria. Bersama tindakan kami sebelumnya, penindakan ini membantu kami mengenali sejumlah tren baru di berbagai operasi penipuan dari beragam negara.

Sebagian besar aktivitas penipuan yang kami hentikan berfokus pada pemanfaatan AI dalam modus penipuan yang sudah ada, bukan menciptakan modus baru yang dibangun berdasarkan AI. Semua operasi penipuan yang kami identifikasi dan blokir tahun ini terutama menggunakan AI sebagai alat untuk memperluas skala dan meningkatkan efisiensi. Penggunaan tersebut biasanya mencakup pemakaian model kami untuk menerjemahkan, menulis pesan, dan membuat konten media sosial.

Misalnya, baru-baru ini kami memblokir operasi penipuan yang kemungkinan berasal dari Kamboja dan Nigeria serta menyamar sebagai “perusahaan investasi” untuk menipu korban di beberapa negara. Para penipu membuat situs web dan iklan daring untuk mempromosikan perusahaan palsu tersebut. Mereka juga menggunakan akun media sosial yang kemungkinan tidak autentik dan menyamar sebagai pakar perdagangan untuk mengundang orang bergabung ke grup perpesanan privat. Dengan menjanjikan peluang penghasilan besar tanpa risiko, para pelaku ancaman kemudian berusaha membujuk calon korban agar menyetorkan uang ke platform perdagangan fiktif. Dalam seluruh kasus tersebut, para penipu terutama menggunakan model kami untuk membuat dan menerjemahkan korespondensi, membuat konten bagi situs web dan akun media sosial mereka, serta melakukan riset dasar.

Dalam kasus lain, kami memblokir sebuah pusat penipuan yang hampir pasti berlokasi di Myanmar dan menggunakan model kami untuk membuat konten bagi skema penipuannya sekaligus menjalankan tugas bisnis sehari-hari. Tugas tersebut mencakup mengatur jadwal, menyusun pengumuman internal, menetapkan pembagian meja kerja dan asrama, serta mengelola rekening keuangan. Sejumlah operator menanyakan ancaman pidana bagi orang yang tertangkap melakukan penipuan daring.

Tidak semua penipu yang kami hentikan menggunakan model kami dengan cara atau tingkat kerumitan yang sama. Sebagian besar interaksi penipu dengan ChatGPT melibatkan tugas yang relatif sederhana seperti penerjemahan, tetapi beberapa operasi penipuan lebih ambisius dan rumit.

Misalnya, satu operasi penipuan yang kemungkinan berasal dari Kamboja dan kami hentikan menggunakan model kami untuk membuat biografi terperinci bagi pakar investasi palsu dan karyawan fiktif dari perusahaan perdagangan palsu. Para penipu kemudian meminta ChatGPT menulis pesan media sosial dengan gaya bicara tokoh-tokoh tersebut. Para pelaku ancaman sering memasukkan pesan yang tampaknya mereka terima dari target ke model kami, lalu meminta model melanjutkan percakapan sebagai persona palsu tersebut.

Operasi penipuan kedua, yang juga kemungkinan berasal dari Kamboja, memulai kegiatannya dengan menggunakan model kami untuk membuat SMS penawaran tanpa diminta yang dikirim secara massal ke nomor telepon di AS. Salah satu pesan ini dikirim kepada penyelidik OpenAI, serupa dengan kasus yang kami laporkan pada Juni. SMS ini berisi undangan untuk bergabung ke grup WhatsApp—yang kemudian diblokir—dengan nama menyerupai perusahaan investasi yang sah.

Berdasarkan serangkaian pesan WhatsApp yang dikirim kepada penyelidik OpenAI, jika calon target bergabung ke salah satu grup ini, mereka akan segera menyaksikan “percakapan” antara sekitar enam akun berbeda yang semuanya membahas investasi. Salah satu akun menyamar sebagai “pakar investasi”, sedangkan akun lainnya menyamar sebagai investor dengan tingkat kepercayaan diri dan pengalaman yang beragam. Seluruh bagian percakapan ini dibuat oleh para penipu, yang menerjemahkannya sekaligus dari bahasa Mandarin—kemungkinan untuk memberi kesan adanya kelompok ramai berisi pedagang yang antusias dan sukses. Pada akhirnya, “pakar investasi” tersebut akan menyarankan agar target ikut mencoba berinvestasi.

Dalam kasus terpisah, operasi penipuan investasi yang hampir pasti berasal dari Nigeria meminta panduan langkah demi langkah dari model tentang cara menggunakan iklan media sosial untuk menjangkau orang kaya di Amerika Latin, menyamarkan lokasi mereka, dan menghindari pembatasan platform media sosial. Untuk itu, mereka mengarahkan model ke ketentuan layanan publik milik suatu platform dan memintanya meninjau kepatuhan konten iklan yang diusulkan.

Para penipu, khususnya pusat penipuan berskala besar, tidak mudah menyerah. Sering kali, mereka merespons penindakan dengan mencoba memulai kembali aktivitas yang melanggar aturan sembari mengubah beberapa unsur perilaku, kemungkinan untuk menghindari deteksi lebih lanjut. Inilah salah satu alasan pentingnya berbagi wawasan lintas industri tentang aktivitas mereka yang terus berkembang, seperti ketika OpenAI dan Meta masing-masing membagikan informasi mengenai pelaku ancaman yang membantu penyelidikan dan penindakan lebih lanjut.

Mungkin sebagai respons terhadap penindakan atau perbincangan daring yang lebih luas mengenai tanda-tanda penggunaan AI, kami melihat penipu mencoba menyamarkan penggunaan AI dalam konten daring dan komunikasi dengan target. Ini mencakup operasi penipuan yang kemungkinan berasal dari Kamboja dan memerintahkan model untuk menghapus tanda pisah panjang dari hasilnya.

Dalam satu kasus, para penipu mencoba menjelaskan penindakan besar-besaran terhadap aset media sosial mereka dengan mengarang alasan atas pemblokiran tersebut. Kasus ini berkaitan dengan pusat penipuan yang kemungkinan berasal dari Kamboja dan beroperasi melalui SMS serta WhatsApp, seperti dijelaskan di atas. Setelah WhatsApp memblokir “grup investasi” yang terkait dengan operasi tersebut, para operator mulai membuat pesan yang mengklaim bahwa grup-grup itu telah dilaporkan secara palsu oleh pesaing, kemungkinan untuk mencari dalih atas pemblokiran tersebut.

Tangkapan layar pesan WhatsApp yang dikirim oleh operasi penipuan terkait Kamboja kepada penyelidik OpenAI setelah penindakan oleh WhatsApp.