احتيال الاستدراج العاطفي: آليات «ذبح الخنازير» المدعومة بالذكاء الاصطناعي
حظرت OpenAI حسابات بدا أنها تنطلق من كمبوديا وتستخدم الذكاء الاصطناعي لترجمة وإنشاء محادثات احتيال عاطفي واستثماري.
نُشرت دراسة الحالة هذه في الأصل ضمن تقرير OpenAI الصادر في فبراير 2025(يفتح في نافذة جديدة).
الجهة الفاعلة
حظرنا مجموعة من حسابات ChatGPT كانت تترجم تعليقات قصيرة وتنشئها باليابانية والصينية والإنجليزية. يبدو أن هذا النشاط انطلق من كمبوديا، واتسق مع أساليب الاحتيال العاطفي والاستثماري (المعروف أيضًا باسم «ذبح الخنازير»). رصدت Meta مؤخرًا نشاطًا ذا صلة(يفتح في نافذة جديدة) على منصتها، بدا أنه صادر عن مجمّع احتيالي أُنشئ حديثًا في كمبوديا.
السلوك
استخدمت هذه الشبكة نماذجنا لترجمة تعليقات قصيرة وإنشائها. يبدو أن اللغة الأساسية للجهات الفاعلة كانت الصينية. كانت المخرجات بلغات عدة، أبرزها اليابانية والصينية، إضافة إلى الإنجليزية.
استخدمت الجهات الفاعلة نماذجنا في نشاطين رئيسيين. أولًا، كانوا ينشئون تعليقات تُنشر علنًا على منصات التواصل الاجتماعي، ومنها Facebook وX وInstagram. كان كل حساب على وسائل التواصل الاجتماعي يعرض عادةً صورة واحدة أو أكثر لامرأة شابة. ونقدّر أن بعض هذه الصور على الأقل نُسخ من عارضات أزياء أو مؤثرات حقيقيات، بدلًا من إنشائه بالذكاء الاصطناعي.
نُشر معظم التعليقات المنشأة ردًا على منشورات لأشخاص حقيقيين على وسائل التواصل الاجتماعي. كان قد مضى على بعض المنشورات التي ردّ عليها المشغّلون أشهر أو سنوات. استهدفت هذه العملية عادةً رجالًا توحي ملفاتهم العامة بأن أعمارهم تتجاوز 40 عامًا، وغالبًا ما كانوا يعملون في المهن الطبية. كثيرًا ما ردّت العملية على منشورات عن الغولف، ما يشير إلى استراتيجية استهداف متعمّدة. وفي بعض الأحيان، كان المحتالون ينشرون عن قضايا سياسية أو أحداث جارية.
تعليق على Facebook أنشأته هذه الجهة باستخدام نماذجنا، ردًا على تعليق عن الغولف كتبه شخص لا يبدو مرتبطًا بهذه العملية. نُسخت صورة الملف الشخصي لحساب الاحتيال من مؤثرة أمريكية في مجالَي الأزياء والجمال. وكان قد مضى أكثر من شهر على المنشور الأصلي حين علّق عليه حساب الاحتيال.
تعليق أنشأته نماذجنا ونشره حساب موثّق على X ردًا على منشور لحساب لا يبدو مرتبطًا بعملية الاحتيال هذه. نُسخت صورة الملف الشخصي للحساب من مؤثرة أمريكية في مجالَي الأزياء والجمال. وكان المنشور الأصلي قد نُشر قبل نحو ستة أشهر.
ثانيًا، وبوتيرة أكبر، كان المشغّلون ينشئون تعليقات قصيرة تشبه أجزاءً من محادثة عبر الإنترنت. كان ذلك يتمثل عادةً في ترجمة التعليقات من الصينية إلى اللغة المستهدفة (اليابانية أو الإنجليزية)، أو من اللغة المستهدفة إلى الصينية. ويتسق هذا مع استخدام المحتالين للنموذج أساسًا لترجمة المحادثات الجارية.
وأحيانًا، كانت الحسابات تطلب من النموذج إنشاء رد بنبرة معينة، مثل نبرة شابة مغازلة. وكانت تُقدَّم أحيانًا تفاصيل موسّعة عن السيرة الذاتية لتوجيه إجابات النموذج، تشمل اسم الشخصية المزيفة وخلفيتها التعليمية ووظيفتها وموقعها وهواياتها. وكانت هذه السير تتضمن عادةً أن الشخصية المزيفة تخوض أحيانًا في الاستثمار عبر الإنترنت.
يبدو أن المحتالين استخدموا عددًا كبيرًا من الأدوات والمنصات المختلفة للتواصل مع أهدافهم. كشف تحقيقنا أدلة على استخدامهم أدوات شملت LINE وWhatsApp وX وFacebook وInstagram ومجموعة من خدمات المراسلة الأخرى، وميزة «إخفاء بريدي الإلكتروني» من Apple(يفتح في نافذة جديدة)، ومنصات العملات المشفرة وتداول العملات الأجنبية.
المخرجات
استنادًا إلى نطاق رؤيتنا المحدود لهذا النشاط، يبدو أن المحتالين اتبعوا آلية عمل شائعة لنقل أهدافهم من مرحلة التفاعل إلى الاستثمار الاحتيالي:
التفاعل العلني: كان المحتالون يعلّقون على منشورات الهدف في وسائل التواصل الاجتماعي. وكثيرًا ما كانت هذه التعليقات تنتهي بسؤال مثل: «ما رأيك في [الموضوع]؟»، بهدف زيادة احتمالية التفاعل على الأرجح. وفي حالات قليلة، علّقوا على السياسة، لكنهم تحدثوا في معظم الأحيان عن الغولف.
الانتقال المرجّح إلى الرسائل المباشرة: كان المحتالون ينشئون بعد ذلك تعليقات قصيرة بأسلوب حواري. مع أننا لا نملك رؤية كاملة لكيفية استخدام هذه التعليقات أو أماكن نشرها، فإنها اتسقت مع سيناريو يبدأ فيه المحتال والهدف بتبادل رسائل مباشرة.
المراسلة الآمنة: بعد وقت قصير جدًا، وغالبًا في غضون أيام، كان المحتالون ينشئون رسائل تقترح الانتقال إلى تطبيق مراسلة أكثر أمانًا. وكانوا يبررون ذلك أحيانًا بأن المحتال لا يثق بوسائل التواصل الاجتماعي، وفي أحيان أخرى بعذر عملي، مثل الادعاء بأنه على وشك الذهاب إلى مكان لن يتمكن فيه من الوصول إليها.
التقارب العاطفي: كان المحتالون يكتبون ويترجمون رسائل تزداد مودةً وحميميةً تدريجيًا. إذا طلب الأهداف صورًا لـ«المرأة» التي يتحدثون معها، كان المحتالون يختلقون الأعذار.
الاستدراج المالي: كان المحتالون يكتبون ويترجمون رسائل يتباهون فيها بجني مبلغ كبير من الاستثمار عبر الإنترنت في العملات الأجنبية أو العملات المشفرة أو الذهب. وكثيرًا ما كانوا يعرضون ذلك بوصفه نتيجة اتباع نصيحة قريب يعمل في القطاع المالي. ثم كان المحتال يحث الهدف على بدء الاستثمار بالطريقة نفسها، ويعرض إرشاده خلال العملية.
الاحتيال: كان المحتالون يكتبون ويترجمون رسائل تحاول إقناع الضحية بتحويل أموال إلى تطبيق للتداول، ويشجعونها بالمبالغة في الحديث عن حجم الأرباح التي تحققها. وكلما حاولت الضحية سحب «أرباحها»، كان المحتال يقدّم عذرًا، مثل ضرورة دفع رسوم.
يتوافق هذا النمط من النشاط مع تقارير متاحة للعامة(يفتح في نافذة جديدة) حول الأسلوب المعتاد لعمل هذا النوع من الاحتيال.
التأثير
يبدو أن هذا النشاط تضمن محاولات أولية فاشلة وإخفاقات كثيرة. انتهت بعض المحادثات التي عالجها المحتالون عبر نماذجنا بكشف الهدف أن النشاط احتيالي، أو بمطالبته المحتال بتركه وشأنه. ورصدنا أيضًا منشورات للمحتالين على وسائل التواصل الاجتماعي لم تتلقَّ أي تفاعل على الإطلاق.
لكن بعض المحادثات أشارت إلى مبالغ بآلاف الدولارات، أو ما يعادلها بعملات أخرى، بوصفها قيمة معاملات فردية. نظرًا إلى طبيعة استخدام هؤلاء المشغّلين لنماذجنا، لا يمكننا معرفة ما إذا كانت هذه المعاملات المالية قد نُفذت، لكن الإشارات الواردة في المحادثات توحي بأن المحتالين نجحوا، في بعض الحالات على الأقل، في الاحتيال على أهدافهم.
تحظر سياسات OpenAI حظرًا صارمًا استخدام مخرجات أدواتنا في الاحتيال أو عمليات النصب. نلتزم بالتعاون مع نظرائنا في القطاع والسلطات لفهم كيفية استخدام الذكاء الاصطناعي في السلوكيات العدائية، والعمل بفاعلية على تعطيل أنشطة الاحتيال التي تسيء استخدام خدماتنا. وانسجامًا مع هذا الالتزام، شاركنا معلومات عن شبكات الاحتيال التي عطّلناها مع نظرائنا في القطاع والسلطات المختصة.