Operasi “Saksi Palsu”: Khidmat palsu untuk mendapatkan semula wang dengan menyamar sebagai pihak berkuasa
OpenAI menyekat akaun yang berkemungkinan besar berasal dari Kemboja dan menggunakan AI untuk menyamar sebagai penyedia khidmat mendapatkan semula wang, firma guaman dan pihak berkuasa bagi menyasarkan mangsa penipuan.
Kajian kes ini pada asalnya diterbitkan dalam laporan OpenAI pada Februari 2026(dibuka dalam tetingkap baru) tentang usaha membanteras penggunaan AI untuk tujuan jahat.
Pelaku
Kami menyekat sekumpulan akaun ChatGPT yang menggunakan model kami untuk menyamar sebagai firma guaman rekaan, peguam sebenar serta pihak penguatkuasaan undang-undang A.S. dalam skim penipuan yang menyasarkan mangsa penipuan dengan tawaran mendapatkan semula wang mereka. Aktiviti ini berkemungkinan besar berasal dari Kemboja dan selaras dengan laporan terkini yang tersedia kepada umum tentang operasi penipuan jenayah yang diketuai warga China di negara itu.
Tingkah laku
Akaun-akaun tersebut menggunakan ChatGPT untuk menyokong operasi penipuan yang menawarkan khidmat mendapatkan semula wang yang lesap akibat penipuan. Operasi ini berteraskan firma guaman palsu dan penyamaran sebagai entiti yang dipercayai, seperti peguam sebenar dan Pusat Aduan Jenayah Internet (IC3) FBI.
1. Hubungan awal: Penipu menggunakan ChatGPT untuk mencipta kandungan yang kononnya datang daripada sekurang-kurangnya enam firma guaman palsu. Sebahagian kandungan ini kemudian disiarkan melalui akaun media sosial dan iklan dalam talian yang mempromosikan khidmat rekaan untuk mendapatkan semula wang mangsa penipuan. Pelbagai petunjuk daripada sumber terbuka menunjukkan bahawa firma-firma itu palsu, termasuk ketiadaan bukti lesen daripada badan peguam negeri, penggunaan domain web yang tidak sepadan, butiran hubungan dengan alamat yang nampaknya tidak wujud, serta arahan untuk menghubungi peguam melalui aplikasi pemesejan.
Penipu menggunakan model kami untuk menjana kandungan media sosial yang mempromosikan khidmat palsu bagi mendapatkan semula wang mangsa penipuan.
2. Membina kepercayaan: Penipu cuba meraih kepercayaan sasaran dengan menjana komen yang meniru nada dan profesionalisme peguam yang pakar dalam membantu mangsa penipuan mendapatkan semula wang yang hilang. Mereka menjana kandungan yang kononnya datang daripada individu beridentiti peguam. Kami mengenal pasti beberapa identiti ini di pelbagai laman web, dengan gambar profil yang nampaknya diambil daripada media sosial atau dijana menggunakan AI. Dalam sesetengah kes, penipu menggunakan semula identiti “peguam” yang sama di beberapa firma yang kononnya firma guaman. Salah satu laman web yang kami kenal pasti menyamar sebagai IC3.
Butiran hubungan yang disiarkan di pelbagai laman web penipuan ini mengarahkan pengunjung ke aplikasi pemesejan peribadi, seperti Telegram. Dalam mesej kepada sasaran yang didraf menggunakan ChatGPT, penipu mendakwa secara palsu bahawa mereka beroperasi di bawah pengawasan Mahkamah Jenayah Antarabangsa dan menyatakan bahawa tiada yuran akan dikenakan sehingga semua wang mangsa berjaya diperoleh semula.
3. Mengambil wang: Penipu cuba mendapatkan wang daripada sasaran dengan meminta yuran dan deposit sebelum sebarang wang “diperoleh semula”. Ini termasuk mengarahkan sasaran membayar “yuran perkhidmatan” sebanyak 15% sebelum menerima wang yang kononnya telah diperoleh semula, meminta deposit untuk mengaktifkan akaun dan mengenakan “yuran perundingan”. Mesej penipu kepada sasaran yang didraf menggunakan ChatGPT termasuk arahan untuk membuat bayaran dalam mata wang kripto dan memberikan tangkap layar pengesahan transaksi sebagai bukti pembayaran.
Laman web yang menyamar sebagai unit IC3 FBI dan dikaitkan dengan penipuan ini. Mengklik “buat aduan” membawa pengunjung ke akaun Telegram penyamar.
Pelaksanaan
Operasi ini menggunakan model kami untuk menyokong pelbagai bahagian aliran kerjanya, seperti menjana kandungan promosi untuk media sosial dan mesej pendekatan awal kepada sasaran yang belum pernah berhubung dengan mereka. Namun, penipu paling kerap menggunakan ChatGPT untuk menterjemah mesej kepada dan daripada sasaran di aplikasi pemesejan peribadi, termasuk meminta balasan ditulis dalam “bahasa Inggeris Amerika” atau dengan gaya seorang peguam.
Sebahagian akaun penipuan juga menggunakan model kami untuk mencipta bahan yang mengelirukan bagi meningkatkan kredibiliti mereka. Ini termasuk rekod pendaftaran peguam dan kad keahlian badan peguam yang palsu, serta perjanjian kerahsiaan palsu untuk menghalang mangsa daripada mendapatkan bantuan luar.
Kad keahlian Persatuan Peguam Negeri New York palsu yang dijana menggunakan model kami. Maklumat tertentu ditutup oleh penyiasat OpenAI.
Impak
Penilaian impak perlu dibuat dengan berhati-hati kerana salah satu sumber bukti utama ialah input yang diberikan oleh penipu sendiri. Input tersebut menunjukkan bahawa penipu mungkin telah memperdaya mangsa individu sehingga mengalami kerugian beribu-ribu dolar, tetapi kami tidak dapat mengesahkan dakwaan itu secara bebas. FBI dan sekurang-kurangnya sebuah firma guaman yang identitinya digunakan dalam penyamaran telah mengeluarkan amaran awam tentang penipuan ini. Pegawai FBI memberi amaran bahawa operasi ini menyasarkan golongan yang mudah terdedah kepada penipuan, khususnya warga emas, dengan mengeksploitasi keadaan emosi mangsa penipuan serta keinginan mereka untuk segera mendapatkan semula wang yang hilang.
Dasar OpenAI melarang keras penggunaan output daripada alat kami untuk penipuan atau scam. Kami komited untuk bekerjasama dengan rakan industri dan pihak berkuasa bagi memahami bagaimana AI mempengaruhi tingkah laku pihak berniat jahat serta membanteras secara aktif kegiatan penipuan yang menyalahgunakan perkhidmatan kami.