Operasi “Salah Nomor”: penipuan tugas berbantuan AI
OpenAI memblokir akun yang kemungkinan berasal dari Kamboja dan menggunakan AI untuk mendukung alur kerja penipuan yang menyasar orang-orang di Inggris Raya.
Studi kasus ini awalnya diterbitkan dalam laporan OpenAI Juni 2025(terbuka di jendela baru).
Pelaku
Kami memblokir akun ChatGPT yang membuat pesan singkat bergaya perekrutan dalam bahasa Inggris, Spanyol, Swahili, Kinyarwanda, Jerman, dan Kreol Haiti. Pesan tersebut menawarkan gaji tinggi kepada penerima untuk tugas sepele, seperti menyukai postingan media sosial, serta mendorong mereka untuk merekrut orang lain. Operasi ini tampak sangat terpusat dan kemungkinan berasal dari Kamboja.
Dengan alat penerjemahan berbasis AI, kami dapat dengan cepat menyelidiki dan menghentikan penggunaan layanan OpenAI oleh kampanye ini.
Perilaku
Sebagian besar komentar jaringan ini berkaitan dengan tugas penerjemahan. Mereka menggunakan ChatGPT untuk menerjemahkan kalimat percakapan antara bahasa Mandarin dan beberapa bahasa lain, terutama bahasa Inggris, Spanyol, Kinyarwanda, Swahili, Jerman, dan Kreol Haiti. Tugas-tugas ini biasanya dilakukan secara bergantian: menerjemahkan pesan masuk ke bahasa Mandarin, lalu menerjemahkan balasan dari bahasa Mandarin kembali ke bahasa asal.
Sebagian pesan ini menyerupai iklan lowongan yang dikirim tanpa kontak sebelumnya, dengan tawaran upah per jam yang tinggi untuk pekerjaan minimal. Salah satu pesan semacam itu disebarkan melalui SMS ke sejumlah nomor ponsel Inggris Raya yang tampaknya dipilih secara acak. Salah satunya milik penyelidik OpenAI. Kami menamai operasi ini “Salah Nomor” berdasarkan SMS pertamanya.
SMS yang dibuat menggunakan ChatGPT dan dikirim secara acak kepada penyelidik OpenAI.
Para pelaku ancaman tampaknya mengandalkan beberapa platform perpesanan. SMS awal mengarahkan penerima untuk berinteraksi melalui WhatsApp. Orang yang merespons kemudian diarahkan kepada seorang “mentor” di Telegram. Sejumlah aktivitas juga menyebut aplikasi perpesanan BonChat. Pesan awal yang bersifat pengantar melalui saluran-saluran ini tampaknya tidak dibuat menggunakan model kami. Pesan tersebut merupakan pesan rutin yang kemungkinan digunakan dalam setiap percakapan.
Pesan WhatsApp yang dikirim sebagai tindak lanjut atas SMS tersebut. Pesan ini tampaknya tidak dibuat oleh model kami.
Banyak tugas penerjemahan melibatkan komunikasi yang diklaim berasal dari perwakilan perusahaan yang disebut sebagai “pemberi kerja”. Nama perusahaan yang sama berulang kali muncul dalam berbagai percakapan ChatGPT yang termasuk dalam cakupan penyelidikan ini. Perusahaan tersebut mencakup Hyesung Advertising(terbuka di jendela baru) dan Lightning Shared Scooter Co (LSSC)(terbuka di jendela baru). Laporan publik mengidentifikasi Hyesung dan LSSC sebagai skema tugas yang diduga menipu. Meskipun kami belum memverifikasi secara independen sifat entitas-entitas ini, penyelidikan kami menemukan bahwa pesan yang konon berasal dari mereka dibuat oleh pengguna ChatGPT berbahasa Mandarin yang kemungkinan beroperasi dari Kamboja.
Hasil
Perusahaan yang diklaim diwakili oleh jaringan ini bergerak di berbagai industri, mulai dari perdagangan saham dan penyewaan skuter hingga penjualan tanda suka di media sosial. Salah satu tanda bahaya yang jelas adalah tawaran pembayaran lebih dari $5 untuk satu tanda suka di TikTok. Sebagai perbandingan, peninjauan manual kami atas lokapasar daring menunjukkan bahwa sejumlah penjual tanda suka media sosial mengenakan biaya kurang dari $10 untuk 1.000 tanda suka.
Dengan menggabungkan indikator di luar platform dan pengamatan internal, kami mengidentifikasi pola alur kerja yang berulang. Untuk memperluas pemahaman tentang taktik ini dan mempermudah pengelompokannya, kami menyebut pola ini sebagai: pancingan (kontak awal), pemantik (membangkitkan antusiasme), dan jerat (menguras uang):
Pancingan (kontak awal): Jaringan ini membuat konten untuk menghubungi orang tanpa interaksi sebelumnya, biasanya dengan menawarkan upah luar biasa tinggi untuk pekerjaan minimal atau menjanjikan imbal hasil tinggi dari investasi pasar saham. Tawaran ini mencakup bayaran tinggi untuk tugas sederhana, seperti menyukai postingan media sosial, atau peluang investasi yang menguntungkan.
Pemantik (membangkitkan antusiasme): Jaringan ini menerjemahkan percakapan yang kemungkinan berlangsung antara operator dan “karyawan” mereka. Percakapan tersebut mencakup perincian teknis tentang tugas, tetapi sering diselingi pesan motivasi mengenai penghasilan dan potensi bonus.
Jerat (menguras uang): Jaringan ini membuat dan/atau mengirim konten yang mendesak “karyawan” atau “investor” untuk menyetorkan uang demi membuka imbalan yang lebih besar. Caranya beragam, termasuk meminta “deposit” awal, membeli mata uang kripto, dan membayar “biaya penanganan”.
Contoh pesan penawaran tanpa kontak sebelumnya yang dibuat menggunakan ChatGPT dan disebarkan oleh jaringan ini. Pesan tersebut dikirim secara bersamaan ke delapan nomor telepon, dan tak satu pun tersimpan dalam daftar kontak penerima. Seorang penerima segera meninggalkan grup.
Pesan Telegram dari jaringan tersebut kepada calon korban, yang mengarahkannya untuk membeli mata uang kripto senilai £20 dan mentransfernya kepada pedagang yang tidak disebutkan namanya.
Laporan publik(terbuka di jendela baru) menunjukkan bahwa sejumlah perusahaan ini beroperasi dengan membebankan biaya pendaftaran yang besar kepada anggota baru, lalu menggunakan sebagian dana tersebut untuk membayar “karyawan” lama secukupnya agar mereka tetap terlibat. Struktur ini merupakan ciri khas penipuan tugas(terbuka di jendela baru).
Dampak
Sulit mengukur jangkauan sebenarnya dari jaringan ini karena keterbatasan visibilitas kami. Namun, laporan di luar platform(terbuka di jendela baru) dan percakapan berisi tuntutan pengembalian dana dari “karyawan” menunjukkan bahwa setidaknya beberapa orang telah membayar pihak yang mengaku sebagai pemberi kerja tersebut. Kami juga mengamati pengguna asli yang membela perusahaan-perusahaan tersebut di media sosial, yang menunjukkan adanya keterlibatan nyata hingga tingkat tertentu.