کلاهبرداری طعمه‌گذاری عاشقانه: فرایندهای «پرواربندی خوک» با کمک هوش مصنوعی

این مطالعه موردی نخستین بار در گزارش فوریه ۲۰۲۵⁠(در یک پنجره جدید باز می‌شود) OpenAI منتشر شد.

ما مجموعه‌ای از حساب‌های ChatGPT را مسدود کردیم که نظرهای کوتاه را به زبان‌های ژاپنی، چینی و انگلیسی ترجمه و تولید می‌کردند. به نظر می‌رسد این فعالیت از کامبوج سرچشمه گرفته و با الگوی کلاهبرداری عاشقانه و سرمایه‌گذاری، موسوم به «پرواربندی خوک»، مطابقت داشته است. متا به‌تازگی فعالیت مرتبطی را شناسایی کرده است⁠(در یک پنجره جدید باز می‌شود) که ظاهراً در پلتفرم این شرکت از یک مجتمع تازه‌تأسیس کلاهبرداری در کامبوج سرچشمه می‌گرفت.

این شبکه از مدل‌های ما برای ترجمه و تولید نظرهای کوتاه استفاده می‌کرد. به نظر می‌رسد زبان اصلی این عوامل چینی بوده است. خروجی‌ها به زبان‌های گوناگونی بودند؛ به‌ویژه ژاپنی و چینی، و همچنین انگلیسی.

این عوامل از مدل‌های ما برای دو فعالیت اصلی استفاده می‌کردند. نخست، نظرهایی تولید می‌کردند که به‌صورت عمومی در پلتفرم‌های رسانه اجتماعی، از جمله فیسبوک، X و اینستاگرام، منتشر می‌شد. هر حساب رسانه اجتماعی معمولاً یک یا چند تصویر نمایه از زنی جوان داشت. ارزیابی ما این است که دست‌کم برخی از این تصاویر به‌جای تولید با هوش مصنوعی، از مدل‌ها یا اینفلوئنسرهای واقعی کپی شده بودند.

بیشتر نظرهای تولیدشده در پاسخ به پست‌های افراد واقعی در رسانه‌های اجتماعی منتشر می‌شدند. برخی از پست‌هایی که گردانندگان به آن‌ها پاسخ می‌دادند، چند ماه یا چند سال قدمت داشتند. این عملیات معمولاً مردانی را هدف می‌گرفت که نمایه عمومی‌شان نشان می‌داد بیش از ۴۰ سال دارند و اغلب در حرفه‌های پزشکی مشغول‌اند. این عملیات بارها به پست‌های مربوط به گلف پاسخ می‌داد که نشان‌دهنده راهبردی هدفمند بود. گاهی نیز کلاهبرداران درباره مسائل سیاسی یا رویدادهای روز مطلب منتشر می‌کردند.

دوم و رایج‌تر اینکه گردانندگان نظرهای کوتاهی تولید می‌کردند که شبیه بخش‌هایی از یک گفت‌وگوی آنلاین بود. این کار معمولاً شامل ترجمه نظرها از چینی به زبان مقصد، یعنی ژاپنی یا انگلیسی، یا برگرداندن آن‌ها از زبان مقصد به چینی بود. این الگو با استفاده کلاهبرداران از مدل، عمدتاً برای ترجمه گفت‌وگوهای جاری، مطابقت دارد.

گاهی حساب‌ها از مدل می‌خواستند پاسخی با لحن مشخص، مثلاً لحن زنی جوان و عشوه‌گر، تولید کند. گاهی برای هدایت پاسخ‌های مدل، جزئیات گسترده‌ای از زندگی‌نامه شخصیت جعلی، از جمله نام، سوابق تحصیلی، شغل، محل زندگی و سرگرمی‌های او، ارائه می‌شد. این زندگی‌نامه‌ها معمولاً اشاره می‌کردند که شخصیت جعلی دستی هم در سرمایه‌گذاری آنلاین دارد.

به نظر می‌رسد کلاهبرداران برای برقراری ارتباط با اهداف خود از شمار زیادی ابزار و پلتفرم مختلف استفاده کرده‌اند. تحقیقات ما شواهدی یافت که نشان می‌داد آن‌ها از ابزارهایی مانند LINE، واتس‌اپ، X، فیسبوک، اینستاگرام، انواع دیگر خدمات پیام‌رسان، قابلیت «مخفی کردن ایمیل من» اپل⁠(در یک پنجره جدید باز می‌شود) و پلتفرم‌های رمزارز و معاملات ارز خارجی استفاده می‌کردند.

بر اساس دید محدودی که به این فعالیت داشتیم، به نظر می‌رسد کلاهبرداران برای هدایت اهداف خود از تعامل اولیه به سرمایه‌گذاری متقلبانه، فرایند رایج زیر را دنبال می‌کردند:

1. تعامل عمومی: کلاهبرداران زیر پست‌های رسانه اجتماعی فرد هدف نظر می‌گذاشتند. این نظرها اغلب با پرسشی مانند «نظر شما درباره [موضوع] چیست؟» پایان می‌یافتند؛ احتمالاً برای افزایش شانس برقراری تعامل. در چند مورد درباره سیاست نظر می‌دادند، اما بیشتر اوقات موضوع صحبتشان گلف بود.

2. پیام‌رسانی مستقیم احتمالی: سپس کلاهبرداران نظرهای کوتاه و محاوره‌ای تولید می‌کردند. هرچند دید کاملی نداریم که این نظرها چگونه و کجا به کار گرفته شده‌اند، محتوای آن‌ها با وضعیتی مطابقت داشت که در آن کلاهبردار و فرد هدف تبادل پیام‌های مستقیم را آغاز کرده بودند.

3. پیام‌رسان امن: خیلی زود و اغلب ظرف چند روز، کلاهبرداران پیام‌هایی تولید می‌کردند که پیشنهاد انتقال گفت‌وگو به یک برنامه پیام‌رسان امن‌تر را می‌داد. گاهی دلیلش را بی‌اعتمادی کلاهبردار به رسانه‌های اجتماعی عنوان می‌کردند و گاهی هم بهانه‌ای عملی می‌آوردند؛ مثلاً اینکه قرار است به جایی بروند که به رسانه‌های اجتماعی دسترسی ندارند.

4. برقراری رابطه عاشقانه: کلاهبرداران پیام‌هایی می‌نوشتند و ترجمه می‌کردند که به‌تدریج صمیمانه‌تر و عاشقانه‌تر می‌شدند. اگر افراد هدف عکس «زنی» را می‌خواستند که با او گفت‌وگو می‌کردند، کلاهبرداران بهانه می‌آوردند.

5. زمینه‌سازی مالی: کلاهبرداران پیام‌هایی می‌نوشتند و ترجمه می‌کردند که در آن‌ها ادعا می‌شد از سرمایه‌گذاری آنلاین در ارز خارجی، رمزارز یا طلا پول هنگفتی به دست آورده‌اند. این موفقیت اغلب نتیجه پیروی از توصیه یکی از بستگان شاغل در حوزه مالی معرفی می‌شد. کلاهبردار فرد هدف را ترغیب می‌کرد به همان شیوه سرمایه‌گذاری را آغاز کند و پیشنهاد می‌داد در این فرایند راهنمایی‌اش کند.

6. کلاهبرداری: کلاهبرداران پیام‌هایی می‌نوشتند و ترجمه می‌کردند تا قربانی را به انتقال پول به یک برنامه معاملاتی متقاعد کنند و با بزرگ‌نمایی سودی که ظاهراً به دست می‌آورد، او را تشویق می‌کردند. هر بار که قربانی می‌کوشید «سود» خود را برداشت کند، کلاهبردار بهانه‌ای می‌آورد؛ مثلاً اینکه ابتدا باید کارمزدی پرداخت شود.

این الگوی فعالیت با گزارش‌های عمومی موجود⁠(در یک پنجره جدید باز می‌شود) درباره شیوه معمول عملکرد چنین کلاهبرداری‌هایی مطابقت دارد.

به نظر می‌رسد این فعالیت با تلاش‌های نافرجام و شکست‌های بسیاری همراه بوده است. برخی از گفت‌وگوهایی که کلاهبرداران با مدل‌های ما پردازش کرده بودند، زمانی پایان یافت که فرد هدف فعالیت را کلاهبرداری خواند یا از کلاهبردار خواست او را به حال خود بگذارد. همچنین پست‌هایی از کلاهبرداران در رسانه‌های اجتماعی شناسایی کردیم که هیچ تعاملی دریافت نکرده بودند.

بااین‌حال، در برخی گفت‌وگوها برای مبلغ تراکنش‌های منفرد به چندین هزار دلار یا معادل آن در ارزهای دیگر اشاره شده بود. با توجه به نوع استفاده این گردانندگان از مدل‌های ما، نمی‌دانیم آیا این تراکنش‌های مالی واقعاً انجام شده‌اند یا نه؛ اما اشاره‌های موجود در گفت‌وگوها نشان می‌دهد که کلاهبرداران دست‌کم در برخی موارد موفق به فریب مالی اهداف خود شده‌اند.

سیاست‌های OpenAI استفاده از خروجی ابزارهای ما برای تقلب یا کلاهبرداری را اکیداً ممنوع می‌کند. ما متعهدیم با همتایان صنعت و نهادهای مسئول همکاری کنیم تا نحوه استفاده از هوش مصنوعی در رفتارهای مخرب را بهتر بشناسیم و فعالیت‌های کلاهبردارانه‌ای را که از خدمات ما سوءاستفاده می‌کنند، فعالانه مختل کنیم. در راستای این تعهد، اطلاعات مربوط به شبکه‌های کلاهبرداری مختل‌شده را با همتایان صنعت و نهادهای مسئول در میان گذاشته‌ایم.