عملیات «طعمهٔ قرار عاشقانه»: کلاهبرداری با کمک هوش مصنوعی از جویندگان عشق

این مطالعهٔ موردی نخستین بار در گزارش فوریهٔ ۲۰۲۶⁠(در یک پنجره جدید باز می‌شود) OpenAI دربارهٔ مختل‌کردن استفاده‌های مخرب از هوش مصنوعی منتشر شد.

ما مجموعه‌ای از حساب‌های ChatGPT و دسترسی یک مشتری API را مسدود کردیم که از مدل‌های ما برای اجرای کلاهبرداری نیمه‌خودکار عاشقانه و وظیفه‌ای استفاده می‌کردند و احتمالاً هر ماه از صدها قربانی کلاهبرداری می‌کردند. به احتمال بسیار زیاد، منشأ این فعالیت کامبوج بوده است و با گزارش‌های⁠(در یک پنجره جدید باز می‌شود) عمومی اخیر دربارهٔ عملیات مجرمانهٔ کلاهبرداری به رهبری چینی‌ها در این کشور هم‌خوانی دارد. در مواردی محدود، برخی کاربران خود را کارکنان مراکز کلاهبرداری در کامبوج معرفی کرده بودند؛ مثلاً هنگام درخواست مشاورهٔ مالیاتی از مدل، شغل خود را «کلاهبردار» اعلام کرده بودند.

این شبکه از ChatGPT و دسترسی به مدل‌های ما از طریق API برای اجرای یک کلاهبرداری گسترده و نیمه‌خودکار، با ترکیبی از روش‌های عاشقانه و وظیفه‌ای، استفاده می‌کرد. روند کار ساختاریافته و الگوی عملیاتی آن یادآور برنامه‌های فروش مبتنی بر تماس با مشتریان بالقوه بدون آشنایی قبلی بود.

۱. جلب توجه: در مرحلهٔ نخست جذب مخاطب، این عملیات از حساب‌های ChatGPT خود برای تولید متن‌های تبلیغاتیِ یک سرویس لوکس دوست‌یابی و همراهی به نام «باشگاه عاشقانه» استفاده می‌کرد. سپس این متن‌ها به‌صورت تبلیغات پولی در شبکه‌های اجتماعی منتشر می‌شدند. کلاهبرداران با استفاده از کلیدواژه‌های تبلیغاتی مانند «گلف»، «قایق‌های تفریحی لوکس» و «غذاخوری مجلل»، مردان اندونزیاییِ علاقه‌مند به محتوای سبک زندگی لوکس را هدف می‌گرفتند. این تبلیغات حاوی پیوندهایی به یک چت‌بات هوش مصنوعی بودند که به آن دستور داده شده بود نقش مسئول پذیرشی عشوه‌گر را بازی کند. این مسئول پذیرشِ ظاهری از افراد هدف می‌خواست از فهرستی شامل انواع زنان و روابط، گزینه‌ای را انتخاب کنند؛ سپس آن‌ها را با یک نشانی اینترنتیِ رهگیری و کد پرومو به تلگرام هدایت می‌کرد.

۲. برانگیختن احساسات: پس از انتقال افراد به تلگرام، این عملیات از ترکیبی از اپراتورهای انسانیِ مجهز به ChatGPT و فرایندهای خودکار مبتنی بر API استفاده می‌کرد. شخصیت‌های ساختگیِ مسئول پذیرش، گفتگو را با زبانی هرچه عاشقانه‌تر و صریح‌تر از نظر جنسی ادامه می‌دادند و سپس به افراد هدف پیشنهاد می‌کردند به پلتفرم‌های دوست‌یابی آنلاین با نام‌های «کد عشق» و «کنش جنسی» بپیوندند. این پلتفرم پروفایل‌هایی از «دختران آمادهٔ آشنایی» ادعایی و جریانی از اعلان‌های تولیدشده با هوش مصنوعی را نمایش می‌داد که در آن‌ها به مشتریان خیالی برای تکمیل «مأموریت‌ها»، فعال‌کردن پاداش‌ها و بردن جوایز تبریک گفته می‌شد.

پس از جلب اعتماد، شخصیت ساختگیِ مسئول پذیرش، گفتگو را به یک «راهنما» واگذار می‌کرد. راهنما از ChatGPT برای تولید و ترجمهٔ پیام‌هایی استفاده می‌کرد که با سوءاستفاده از احساسات، افراد هدف را برای تکمیل مجموعه‌ای از «وظایف» یا «مأموریت‌ها» تحت فشار می‌گذاشتند. هر وظیفهٔ بعدی مستلزم پرداخت مبلغ بیشتری از طریق انتقال بانکی یا کیف پول دیجیتال بود؛ مانند خرید «کارت ویژه»، حمایت از «دختر منتخب» در یک مسابقه یا پرداخت بیعانهٔ هتل. تصویر یک مسئول پذیرش جعلی برای پلتفرم دوست‌یابی «کد عشق» که یک کلاهبردار با استفاده از ChatGPT ساخته است.

۳. گرفتن پول: در مرحلهٔ نهایی، کلاهبرداران با جعل هزینه‌های اضافی مانند «تسویهٔ خسارت» یا «سپردهٔ احراز هویت»، تلاش می‌کردند مبلغ بزرگ‌تری دریافت کنند که آن را «ضربهٔ نهایی» می‌نامیدند. بر اساس پیام‌هایی که کلاهبرداران در ChatGPT چسبانده بودند، به‌محض آنکه قربانی بیشترین مبلغ ممکن را می‌فرستاد، او را در تلگرام مسدود و پرونده را مختومه می‌کردند. نسخه‌ای از نامه‌ای که یک کلاهبردار با ChatGPT به اشتراک گذاشته است: در نامه به قربانی گفته می‌شود برای رفع خطایی ساختگی در پردازش داده‌های سامانهٔ کد عشق باید ۲۰٬۵۰۰٬۰۰۰ روپیه (۱۲٬۰۰۰ دلار) بپردازد، اما یک «پاداش» ۳۵ درصدی به مبلغ ۳۹٬۸۶۰٬۰۰۰ روپیه دریافت خواهد کرد. بخش‌هایی از متن را محققان OpenAI پوشانده‌اند.

این عملیات علاوه بر کلاهبرداری عاشقانه، از مدل‌های ما برای کمک به امور اجرایی روزمرهٔ خود نیز استفاده می‌کرد. از جمله، از ChatGPT برای انجام کارهای فنی، مانند یکپارچه‌سازی APIِ OpenAI یا به‌روزرسانی وب‌سایت سرویس جعلی دوست‌یابی، راهنمایی می‌خواستند؛ همچنین برای تحلیل حساب‌های مالی و تهیهٔ گزارش‌های روزانه‌ای که در آن‌ها به هر فرد هدف مبلغی برای «ضربهٔ نهایی» اختصاص داده می‌شد. این مبلغ را کلاهبرداران محاسبه می‌کردند و برآوردی بود از پولی که قصد داشتند در آخرین مرحله از او بگیرند.

در موارد دیگر، کلاهبرداران از ChatGPT می‌خواستند پیام‌های میان سرپرستان چینی‌زبان و کارکنان اندونزیایی‌زبانِ مرکز کلاهبرداری را ترجمه کند و عملکرد بخش‌هایی با نام‌های «جذب مشتریان بالقوه»، «تیم پذیرش» و «تیم سرپرستی» را پیگیری کند.

ارزیابی میزان اثرگذاری این شبکه نیازمند احتیاط است. منبع اصلی شواهد ما، مطالبی است که خود کلاهبرداران وارد کرده‌اند. این مطالب حاکی از آن است که کلاهبرداران ممکن است هم‌زمان با صدها نفر در تعامل بوده و روزانه هزاران دلار درآمد کسب می‌کرده‌اند. بااین‌حال، نمی‌توانیم صحت این ادعاها را به‌طور مستقل تأیید کنیم.

سیاست‌های OpenAI استفاده از خروجی ابزارهای ما برای تقلب یا کلاهبرداری را به‌شدت ممنوع می‌کند. ما متعهدیم با همتایان خود در صنعت و مراجع ذی‌صلاح همکاری کنیم تا دریابیم هوش مصنوعی چگونه بر رفتارهای مخرب اثر می‌گذارد و فعالانه فعالیت‌های کلاهبردارانه‌ای را که از خدمات ما سوءاستفاده می‌کنند، مختل کنیم.