تعطيل عملية احتيال إجرامية مقرها كمبوديا
عطّلت OpenAI عملية احتيال مقرها كمبوديا استخدمت ChatGPT لدعم مخططات استثمار وعلاقات عاطفية ومقامرة وانتحال شخصيات.
مقدمة
في وقت سابق من هذا العام، عطّلنا عملية احتيال مقرها كمبوديا استخدمت ChatGPT لدعم مخططات استثمار وعلاقات عاطفية ومقامرة وانتحال صفة جهات إنفاذ القانون. بدأنا التحقيق في هذا النشاط بعد تلقّي معلومة من نظرائنا في WhatsApp، ومنذ ذلك الحين شاركنا مؤشرات إضافية على التهديد مع شركاء القطاع والسلطات المعنية.
تُظهر العملية حقيقة مهمة بشأن شبكات الاحتيال الحديثة: نادرًا ما تحصر الجماعات الإجرامية المنظمة نشاطها في نوع واحد من الاحتيال. بل تستغل، وفق ما تتيحه الفرص، أي روايات وشخصيات وأساليب ترى أنها الأقدر على خداع الضحايا. نلاحظ بانتظام في تحقيقاتنا انتقال الجهات الفاعلة بين أنواع الاحتيال، أو جمعها عدة أساليب احتيالية ضمن عملية واحدة.
أنشأ بعض مستخدمي الشبكة أيضًا محتوى يوحي بوجود صلات بالاتجار بالبشر والإكراه على ارتكاب الجرائم. تتوافق هذه الملاحظات مع تقارير(يفتح في نافذة جديدة) عامة موسعة تصف(يفتح في نافذة جديدة) جماعات الجريمة المنظمة في جنوب شرق آسيا التي تستقطب العمال بوعود بوظائف مشروعة، ثم توقعهم في أنظمة من عبودية الدَّين والإكراه. ومع أننا لا نستطيع التحقق بصورة مستقلة من ظروف كل فرد معني، فإن هذا النشاط يذكّرنا بأن منفّذي عمليات الاحتيال قد يكونون هم أنفسهم ضحايا للاستغلال.
الجهة الفاعلة
حظرنا شبكة منسّقة من حسابات ChatGPT يُرجّح بشدة أنها نشأت في كمبوديا، وكانت تعمل على الأرجح في مدينة بويبت أو محيطها، وهي مدينة في مقاطعة بانتي مينتشي ربطتها تقارير عامة(يفتح في نافذة جديدة) مرارًا(يفتح في نافذة جديدة) بمجمّعات الاحتيال الإلكتروني وعمليات الاتجار بالبشر(يفتح في نافذة جديدة).
استخدمت الشبكة نماذجنا لإنشاء شخصيات زائفة على الإنترنت ودعم تشغيلها، وإنشاء الرسائل المرسلة إلى المستهدفين بالاحتيال وترجمتها، وإعداد محتوى ترويجي لمخططاتها الاحتيالية، والمساعدة في العمليات اليومية.
وكما حدث في شبكات احتيال سابقة(يفتح في نافذة جديدة) عطّلناها، استخدمت مجموعة فرعية من المستخدمين ChatGPT أيضًا لأعمال إدارية، منها صياغة إعلانات داخلية، وترجمة الرسائل بين الموظفين، وتوثيق مسائل بدا أنها تتعلق بالتوظيف ووضع الهجرة وظروف العمل وتأديب الموظفين.
السلوك
نفّذت الشبكة عدة أنواع من الاحتيال في وقت واحد، وكثيرًا ما مزجت عناصر من مخططات مختلفة. فعلى سبيل المثال، استخدم المشغّلون هويات مخصّصة للتعارف لبناء الثقة قبل طرح فرص استثمارية احتيالية تشمل العملات المشفرة والتداول الفوري في الذهب. وأجرى مستخدمون آخرون محادثات عاطفية مطوّلة مع المستهدفين باستخدام هويات مختلقة، أو انتحلوا صفة ممثلي منصات مقامرة إلكترونية تعرض مكافآت وأرباحًا زائفة، أو صفة جهات إنفاذ القانون لإبلاغ المستهدفين بضرورة دفع غرامات لارتكابهم جرائم خطيرة.
احتيال: صورة مخصّصة لتحسين الظهور في محركات البحث، وتتناول عملية احتيال إجرامية.
كما أوضحنا في(يفتح في نافذة جديدة) تقارير(يفتح في نافذة جديدة) سابقة(يفتح في نافذة جديدة)، اتبع المحتالون نمطًا شائعًا في تفاعلاتهم مع المستهدفين، نسمّيه جسّ النبض (بدء التواصل)، ثم إثارة المشاعر، ثم توجيه الضربة (انتزاع المال).
جسّ النبض: استخدمت الشبكة ChatGPT لترجمة المحادثات مع المستهدفين وإنشائها على منصات مراسلة مثل WhatsApp وTelegram. أنشأ المحتالون أيضًا محتوى لوسائل التواصل الاجتماعي، وبحثوا عن مواد لملفات المواعدة لدعم شخصياتهم الزائفة.
إثارة المشاعر: اعتمدت رسائل المحتالين كثيرًا على الضغط العاطفي وأساليب بناء الثقة. ومن أمثلة ذلك وعود بعوائد مضمونة واستثمارات «بلا مخاطر»، وعبارات عاطفية، وتعليمات بإبقاء المحادثات سرية، وطلبات عاجلة لاتخاذ إجراء قبل انتهاء صلاحية مكافآت وهمية.
توجيه الضربة: طلب المحتالون من الضحايا إيداع أموال للحصول على مكافآت مزعومة، ودفع رسوم تفعيل، وتسوية غرامات وهمية، ثم تقديم لقطات شاشة للتحويلات أو معلومات الحسابات إثباتًا للدفع.

واجهة زائفة لتداول العملات المشفرة أنشأها محتال في الشبكة باستخدام ChatGPT.

صورة مولّدة بالذكاء الاصطناعي أنشأها محتال في الشبكة للترويج لمخطط استثماري زائف.
مؤشرات الاتجار بالبشر
إلى جانب الاحتيال، أنشأ بعض المستخدمين محتوى يوحي بالمشاركة في أنشطة أخرى مخالفة نرصدها ونعطّلها، مثل الاتجار بالبشر أو العمل القسري. وشمل ذلك إنشاء إعلانات على وسائل التواصل الاجتماعي عن وظائف «دردشة» في بويبت، تعد بتوفير رحلات جوية وسكن ووجبات وتأشيرات وتصاريح عمل.
وبدا أن أنشطة أخرى تتعلق بإدارة العمال داخل العملية. احتفظ المستخدمون بسجلات لديون الموظفين، والاقتطاعات من الرواتب، والغرامات التأديبية، وسداد القروض، وترجموا مناقشات عن أوضاع الموظفين من حيث الهجرة، وتصاريح العمل، وتجاوز مدة الإقامة المسموح بها، وحوافز التوظيف.
وأشارت بعض المحادثات أيضًا إلى ما بدا أنه احتجاز، ومحاولات هروب، ومسؤولية جنائية محتملة لأشخاص جرى الاتجار بهم وإجبارهم على العمل في عمليات احتيال. ورغم أن هذه المحادثات لا تتيح لنا تحديد ظروف أي فرد بعينه، فإنها تتوافق مع تقارير(يفتح في نافذة جديدة) عامة موسعة تصف(يفتح في نافذة جديدة) أنشطة جماعات الجريمة المنظمة في جنوب شرق آسيا.


صور مولّدة بالذكاء الاصطناعي أنشأها محتالون في الشبكة للإعلان عن وظائف في كمبوديا على وسائل التواصل الاجتماعي. حجبت OpenAI أجزاءً من الصور.
التأثير
حظرنا حسابات ChatGPT المرتبطة بهذه العملية، وشاركنا المؤشرات ذات الصلة مع شركاء القطاع والسلطات المعنية، واتخذنا خطوات لتصعيب استعادة هذه الجهات إمكانية الوصول إلى منتجاتنا وخدماتنا.
لا يزال الحجم الكامل للخسائر المالية المرتبطة بالشبكة مجهولًا، لكن استنادًا إلى مراسلات المحتالين أنفسهم، ربما تفاعلت العملية مع مئات المستهدفين عبر أنواع متعددة من الاحتيال. أشارت محادثات المستخدمين إلى خسارة ضحايا فرادى آلاف الدولارات، لكننا لا نستطيع التحقق من هذه الادعاءات بصورة مستقلة.
وعلى نطاق أوسع، تؤكد هذه الحالة اتجاهين. أولًا، يمكن أن تكون شبكات الاحتيال المنظمة شديدة التنوع، فتشغّل عدة مخططات احتيالية في آن واحد بدلًا من الاقتصار على نوع واحد. ثانيًا، غالبًا ما تتداخل الحدود بين الاحتيال الإلكتروني والجريمة المنظمة والاتجار بالبشر. لذلك، يتطلب التعطيل الفعّال استهداف أنشطة الاحتيال الموجّهة إلى الضحايا، وكذلك المنظمات الإجرامية التي تدبّرها وتربح منها.