Operasi penipuan: Rangkaian penipuan dalam talian

Kajian kes ini pada asalnya diterbitkan dalam laporan OpenAI Oktober 2025⁠(dibuka dalam tetingkap baru).

Rangkaian yang berkemungkinan berasal dari Kemboja, Myanmar dan Nigeria menyalahgunakan ChatGPT dalam kegiatan yang kelihatan seperti percubaan untuk menipu orang ramai dalam talian.

Kami komited untuk mengenal pasti, mencegah dan menghalang percubaan menyalahgunakan model kami bagi tujuan yang memudaratkan. Penyalahgunaan ini termasuk penipuan, yang kami tangani dengan mengesan dan menyekat pelaku berniat jahat yang cuba menyalahgunakan model kami untuk memperdaya dan menipu orang ramai. Dalam tempoh tiga bulan yang lalu, kami telah menumpaskan rangkaian penipuan yang berkemungkinan berasal dari Kemboja, Myanmar dan Nigeria. Sebagai petunjuk tentang peranan AI dalam memerangi penipuan, ketika menyiasat corak penyalahgunaan ini, kami juga mendapati ramai orang menggunakan model kami untuk membantu mereka mengenal pasti penipuan. Laporan ini membincangkan kedua-dua kes penggunaan tersebut.

Penyalahgunaan model kami untuk menyokong penipuan merangkumi pelaku individu yang cuba menipu hinggalah operasi berskala besar dan berterusan yang berkemungkinan berkaitan dengan kumpulan jenayah terancang. Tanpa mengira asal usul dan taktik khusus mereka, kegiatan berkaitan penipuan yang kami tumpaskan lazimnya mengikut pola yang sama, yang kami anggap sebagai ping (hubungan awal tanpa diminta), zing (cuba membangkitkan keterujaan atau panik) dan sting (mendapatkan wang atau maklumat berharga).

Penipu ini bermula dengan menyebarkan kandungan, sama ada dijana oleh AI atau tidak, merentasi perkhidmatan pemesejan dan internet, termasuk melalui iklan media sosial. Mereka kemudian cuba membangkitkan keterujaan terhadap peluang lumayan atau ketakutan akan kerugian kewangan yang bakal berlaku dalam diri sesiapa yang membalas, lalu memanfaatkan emosi itu untuk meyakinkan sasaran supaya menyerahkan wang atau maklumat sensitif.

Kami juga memerhatikan banyak kes yang menunjukkan model kami berkemungkinan membantu melindungi orang ramai daripada penipuan. Kami telah melihat bukti bahawa orang ramai menggunakan ChatGPT untuk membantu mereka mengenal pasti dan mengelakkan penipuan dalam talian berjuta-juta kali setiap bulan; dalam setiap operasi penipuan dalam laporan ini, kami mendapati model membantu orang ramai mengenal pasti penipuan dengan betul dan menasihati mereka tentang langkah keselamatan yang sewajarnya. Anggaran semasa kami menunjukkan bahawa ChatGPT digunakan untuk mengenal pasti penipuan sehingga tiga kali lebih kerap berbanding penggunaannya untuk melakukan penipuan.

Contoh penyiasat OpenAI menampal tangkapan skrin mesej SMS penipuan yang diterimanya ke dalam ChatGPT dan berjaya menggunakan model tersebut untuk mengenal pasti mesej itu sebagai penipuan. Dalam kejadian ini, pelaku ancaman cuba menyamar sebagai perekrut TikTok.

Sejak laporan terakhir kami, kami telah memperkukuh keupayaan sendiri untuk mengesan dan menumpaskan penipuan. Kami telah menumpaskan beberapa lagi rangkaian penipuan yang kelihatan berasal dari Kemboja, Myanmar dan Nigeria. Bersama-sama tindakan terdahulu, penumpasan ini membolehkan kami mengenal pasti beberapa trend baharu merentasi pelbagai operasi penipuan dari negara yang berbeza.

Sebahagian besar kegiatan penipuan yang kami tumpaskan tertumpu pada penerapan AI dalam modus operandi penipuan sedia ada, bukannya mencipta modus operandi baharu yang dibina berasaskan AI. Semua operasi penipuan yang kami kenal pasti dan sekat tahun ini menggunakan AI terutamanya sebagai alat untuk meningkatkan skala dan kecekapan. Ini lazimnya termasuk menggunakan model kami untuk menterjemah, menulis mesej dan menghasilkan kandungan media sosial.

Sebagai contoh, baru-baru ini kami menyekat operasi penipuan yang berkemungkinan berasal dari Kemboja dan Nigeria, yang menyamar sebagai “firma pelaburan” dalam percubaan menipu mangsa di beberapa negara. Penipu mencipta laman web dan iklan dalam talian untuk mempromosikan firma palsu tersebut, serta menggunakan akaun media sosial yang berkemungkinan tidak tulen dan menyamar sebagai pakar perdagangan untuk mengundang orang ramai menyertai kumpulan pemesejan peribadi. Dengan menjanjikan peluang pendapatan lumayan tanpa risiko, pelaku ancaman kemudian cuba memancing bakal mangsa supaya membuat pembayaran ke dalam platform perdagangan rekaan. Dalam semua penipuan tersebut, penipu menggunakan model kami terutamanya untuk menjana dan menterjemah surat-menyurat, mencipta kandungan bagi laman web dan akaun media sosial mereka, serta menjalankan penyelidikan asas.

Dalam kes lain, kami menyekat sebuah pusat penipuan yang besar kemungkinan terletak di Myanmar dan menggunakan model kami untuk menjana kandungan bagi skim penipuannya serta menjalankan tugas perniagaan harian. Ini termasuk menyusun jadual, merangka pengumuman dalaman, menetapkan peruntukan meja dan asrama, serta mengurus akaun kewangan. Sesetengah pengendali bertanya tentang hukuman jenayah bagi mereka yang ditangkap melakukan penipuan dalam talian.

Tidak semua penipu yang kami tumpaskan menggunakan model kami dengan cara atau tahap kerumitan yang sama. Sebahagian besar interaksi penipu dengan ChatGPT melibatkan tugas yang agak mudah seperti penterjemahan, tetapi sesetengah operasi penipuan lebih bercita-cita tinggi dan rumit.

Sebagai contoh, satu operasi penipuan yang berkemungkinan berasal dari Kemboja dan kami tumpaskan menggunakan model kami untuk menghasilkan biografi terperinci bagi pakar pelaburan palsu dan pekerja rekaan di firma perdagangan palsu. Penipu kemudian meminta ChatGPT menulis mesej media sosial mengikut gaya watak-watak tersebut. Pelaku ancaman sering memasukkan ke dalam model kami mesej yang kelihatan diterima daripada sasaran mereka, lalu meminta model meneruskan perbualan sebagai persona palsu itu.

Operasi penipuan kedua, yang juga berkemungkinan berasal dari Kemboja, bermula dengan menggunakan model kami untuk menjana mesej SMS tanpa diminta yang dihantar secara pukal ke nombor telefon di A.S. Salah satu mesej ini dihantar kepada penyiasat OpenAI, serupa dengan kes yang kami laporkan pada bulan Jun. Mesej SMS ini mengandungi undangan untuk menyertai kumpulan WhatsApp yang kemudiannya disekat dan menggunakan nama yang menyerupai sebuah firma pelaburan sah.

Berdasarkan beberapa mesej WhatsApp yang dihantar kepada penyiasat OpenAI, jika bakal sasaran menyertai salah satu kumpulan ini, mereka akan segera menyaksikan “perbualan” antara enam akaun berlainan yang semuanya membincangkan pelaburan. Salah satu akaun menyamar sebagai “pakar pelaburan”, manakala akaun lain menyamar sebagai pelabur dengan tahap keyakinan dan pengalaman yang berbeza-beza. Setiap bahagian perbualan ini dijana oleh penipu, yang menterjemahkannya sekaligus daripada bahasa Cina—berkemungkinan untuk mewujudkan gambaran sebuah kumpulan meriah yang dipenuhi pedagang bersemangat dan berjaya. Akhirnya, “pakar pelaburan” itu akan mencadangkan agar sasaran turut mencuba membuat pelaburan.

Secara berasingan, satu operasi penipuan pelaburan yang besar kemungkinan berasal dari Nigeria meminta model memberikan panduan langkah demi langkah tentang cara menggunakan iklan media sosial untuk mendekati golongan kaya di Amerika Latin, menyembunyikan lokasi mereka dan mengelakkan sekatan platform media sosial. Ini melibatkan tindakan mengarahkan model kepada syarat perkhidmatan awam sesebuah platform dan memintanya menyemak sama ada kandungan iklan yang dicadangkan mematuhi syarat tersebut.

Penipu, terutamanya pusat penipuan berskala besar, tidak mudah berputus asa. Selalunya, mereka bertindak balas terhadap penumpasan dengan cuba memulakan semula kegiatan yang melanggar peraturan sambil mengubah beberapa unsur tingkah laku, berkemungkinan untuk mengelakkan pengesanan selanjutnya. Inilah salah satu sebab pentingnya berkongsi cerapan tentang kegiatan mereka yang terus berubah dengan pihak lain dalam industri, seperti ketika OpenAI dan Meta masing-masing berkongsi maklumat tentang pelaku ancaman yang menyumbang kepada siasatan dan tindakan penguatkuasaan selanjutnya.

Kemungkinan sebagai tindak balas terhadap penumpasan atau perbincangan dalam talian yang lebih meluas tentang petanda yang boleh mendedahkan penggunaan AI, kami mendapati penipu cuba menyamarkan penggunaan AI dalam kandungan dalam talian dan komunikasi dengan sasaran. Ini termasuk operasi penipuan yang berkemungkinan berasal dari Kemboja mengarahkan model supaya membuang tanda pisah panjang daripada output.

Dalam satu kes, penipu cuba menjelaskan penumpasan besar-besaran aset media sosial mereka dengan mereka-reka alasan tentang sebab mereka disekat. Hal ini melibatkan pusat penipuan yang berkemungkinan berasal dari Kemboja dan beroperasi melalui SMS serta WhatsApp, seperti yang diterangkan di atas. Selepas WhatsApp menyekat “kumpulan pelaburan” yang dikaitkan dengan operasi tersebut, pengendalinya mula menjana mesej yang mendakwa kumpulan itu telah dilaporkan secara palsu oleh pesaing, berkemungkinan untuk memberi alasan bagi sekatan tersebut.

Tangkapan skrin mesej WhatsApp yang dihantar oleh operasi penipuan berkaitan Kemboja kepada penyiasat OpenAI susulan tindakan penumpasan WhatsApp.