Penipuan bermodus asmara: alur kerja pig butchering berbantuan AI
OpenAI memblokir akun yang diduga berasal dari Kamboja dan menggunakan AI untuk menerjemahkan serta membuat percakapan penipuan asmara dan investasi.
Studi kasus ini awalnya diterbitkan dalam laporan OpenAI Februari 2025(terbuka di jendela baru).
Pelaku
Kami memblokir sekelompok akun ChatGPT yang menerjemahkan dan membuat komentar singkat dalam bahasa Jepang, Mandarin, dan Inggris. Aktivitas ini tampaknya berasal dari Kamboja dan sesuai dengan pola penipuan asmara dan investasi (juga dikenal sebagai “pig butchering”). Meta baru-baru ini mengidentifikasi aktivitas terkait(terbuka di jendela baru) di platformnya yang tampaknya berasal dari kompleks penipuan yang baru didirikan di Kamboja.
Perilaku
Jaringan ini menggunakan model kami untuk menerjemahkan dan membuat komentar singkat. Bahasa utama para pelaku tampaknya adalah bahasa Mandarin. Output dihasilkan dalam beragam bahasa, terutama bahasa Jepang dan Mandarin, tetapi juga bahasa Inggris.
Para pelaku menggunakan model kami untuk dua aktivitas utama. Pertama, mereka membuat komentar yang diposting secara publik di platform media sosial, termasuk Facebook, X, dan Instagram. Setiap akun media sosial biasanya menampilkan satu atau beberapa foto profil perempuan muda. Menurut penilaian kami, setidaknya sebagian foto tersebut disalin dari model atau pemengaruh sungguhan, bukan dibuat oleh AI.
Sebagian besar komentar yang dibuat diposting sebagai balasan atas unggahan media sosial orang sungguhan. Sebagian unggahan yang mereka balas sudah berusia berbulan-bulan atau bertahun-tahun. Operasi ini biasanya menyasar pria yang profil publiknya menunjukkan bahwa mereka berusia di atas 40 tahun dan sering kali bekerja di bidang medis. Operasi ini kerap membalas unggahan tentang golf, yang mengindikasikan strategi penargetan secara sengaja. Sesekali, para penipu memposting tentang isu politik atau peristiwa terkini.
Komentar Facebook yang dibuat pelaku ini menggunakan model kami, lalu diposting sebagai balasan atas komentar tentang golf dari seseorang yang tampaknya tidak terkait dengan operasi ini. Foto profil akun penipuan tersebut disalin dari seorang pemengaruh mode dan kecantikan asal AS. Postingan aslinya sudah berusia lebih dari sebulan ketika akun penipuan itu mengirimkan komentar.
Komentar yang dibuat oleh model kami dan diposting oleh akun terverifikasi di X sebagai balasan atas twit dari akun yang tampaknya tidak terkait dengan penipuan ini. Foto profil akun tersebut disalin dari pemengaruh mode dan kecantikan asal AS yang sama. Twit aslinya sudah berusia hampir enam bulan.
Kedua, dan lebih sering, para pelaku membuat komentar singkat yang menyerupai bagian dari percakapan daring. Biasanya, mereka menerjemahkan komentar dari bahasa Mandarin ke bahasa sasaran (Jepang atau Inggris), atau dari bahasa sasaran kembali ke bahasa Mandarin. Hal ini sesuai dengan pola penggunaan model oleh penipu, terutama untuk menerjemahkan percakapan yang sedang berlangsung.
Terkadang, akun tersebut meminta model membuat balasan dengan gaya tertentu, misalnya seperti perempuan muda yang genit. Terkadang, detail biografi yang lengkap diberikan untuk memandu jawaban model, termasuk nama, latar belakang pendidikan, pekerjaan, lokasi, dan hobi persona palsu tersebut. Biografi ini biasanya mencantumkan bahwa persona palsu tersebut mencoba-coba investasi daring.
Para penipu tampaknya menggunakan banyak alat dan platform berbeda untuk berinteraksi dengan target mereka. Penyelidikan kami menemukan bukti bahwa mereka menggunakan berbagai alat, termasuk LINE, WhatsApp, X, Facebook, Instagram, sejumlah layanan perpesanan lain, fitur “Sembunyikan Email Saya” dari Apple(terbuka di jendela baru), serta platform mata uang kripto dan valuta asing.
Output
Berdasarkan visibilitas khusus yang kami miliki atas aktivitas ini, para penipu tampaknya mengikuti alur kerja umum untuk membawa target dari tahap interaksi menuju investasi palsu:
Interaksi publik: Penipu mengomentari unggahan media sosial milik target. Komentar ini sering diakhiri dengan pertanyaan seperti, “Apa pendapat Anda tentang [subjek]?,” kemungkinan untuk meningkatkan peluang terjadinya interaksi. Dalam beberapa kasus, mereka mengomentari politik, tetapi lebih sering membahas golf.
Kemungkinan pesan langsung: Penipu kemudian membuat komentar singkat dengan gaya percakapan. Meskipun kami tidak memiliki visibilitas penuh mengenai cara dan tempat komentar tersebut digunakan, isinya sesuai dengan situasi ketika penipu dan target mulai saling bertukar pesan langsung.
Perpesanan aman: Tak lama kemudian, sering kali dalam beberapa hari, penipu membuat pesan yang menyarankan agar percakapan dipindahkan ke aplikasi perpesanan yang lebih aman. Terkadang, alasannya adalah penipu tidak memercayai media sosial. Di lain waktu, mereka memberikan alasan praktis, misalnya akan pergi ke tempat yang tidak memiliki akses ke media sosial.
Pendekatan romantis: Penipu menulis dan menerjemahkan pesan yang semakin mesra dan intim. Jika target meminta foto “perempuan” yang sedang mengobrol dengan mereka, penipu akan mencari-cari alasan.
Pendekatan finansial: Penipu menulis dan menerjemahkan pesan yang membanggakan perolehan uang dalam jumlah besar melalui investasi daring dalam valuta asing, mata uang kripto, atau emas. Hal ini sering diklaim sebagai hasil mengikuti saran kerabat yang bekerja di bidang keuangan. Penipu kemudian mendesak target untuk mulai berinvestasi dengan cara yang sama dan menawarkan bantuan untuk memandu mereka menjalani prosesnya.
Penipuan: Penipu menulis dan menerjemahkan pesan untuk meyakinkan korban agar mentransfer uang ke aplikasi perdagangan, serta menyemangati mereka dengan membesar-besarkan keuntungan yang diperoleh. Setiap kali korban mencoba menarik “keuntungan”, penipu akan memberikan alasan, misalnya bahwa ada biaya yang harus dibayar.
Pola aktivitas ini sesuai dengan laporan yang tersedia untuk umum(terbuka di jendela baru) tentang cara kerja penipuan semacam ini.
Dampak
Aktivitas ini tampaknya mencakup banyak upaya awal yang buntu dan gagal. Sebagian percakapan yang diproses para penipu melalui model kami berakhir ketika target menyebut aktivitas tersebut sebagai penipuan atau meminta penipu untuk tidak mengganggu mereka. Kami juga menemukan unggahan penipu di media sosial yang sama sekali tidak mendapatkan interaksi.
Namun, sejumlah percakapan menyebut transaksi individual bernilai ribuan dolar atau nilai setara dalam mata uang lain. Mengingat cara para pelaku ini menggunakan model kami, kami tidak dapat melihat apakah transaksi keuangan tersebut benar-benar dilakukan. Namun, rujukan dalam percakapan menunjukkan bahwa setidaknya dalam beberapa kasus, penipu berhasil memperdaya target mereka.
Kebijakan OpenAI secara tegas melarang penggunaan output dari alat kami untuk melakukan penipuan. Kami berkomitmen bekerja sama dengan mitra industri dan pihak berwenang untuk memahami penggunaan AI dalam perilaku berbahaya serta secara aktif menghentikan aktivitas penipuan yang menyalahgunakan layanan kami. Sejalan dengan komitmen ini, kami telah membagikan informasi tentang jaringan penipuan yang kami hentikan kepada mitra industri dan pihak berwenang terkait.