تخطي إلى المحتوى الرئيسي
OpenAI

1 يونيو 2025

السلامة

عملية «الرقم الخطأ»: احتيال مهام بمساعدة الذكاء الاصطناعي

حظرت OpenAI حسابات يُرجّح أنها نشأت في كمبوديا واستخدمت الذكاء الاصطناعي لدعم آليات احتيال تستهدف أشخاصًا في المملكة المتحدة.

جاري التحميل...

نُشرت دراسة الحالة هذه في الأصل ضمن تقرير OpenAI الصادر في يونيو 2025⁠(يفتح في نافذة جديدة).

الجهة الفاعلة

حظرنا حسابات على ChatGPT كانت تنشئ رسائل قصيرة بأسلوب إعلانات التوظيف بالإنجليزية والإسبانية والسواحيلية والكينيارواندية والألمانية والكريولية الهايتية. عرضت هذه الرسائل على المستلمين رواتب مرتفعة مقابل مهام بسيطة، مثل الإعجاب بمنشورات على وسائل التواصل الاجتماعي، وشجعتهم على استقطاب آخرين. بدت العملية شديدة المركزية، ويُرجّح أنها نشأت في كمبوديا.

وبفضل أدوات الترجمة المدعومة بالذكاء الاصطناعي، تمكّنا سريعًا من التحقيق في استخدام الحملة لخدمات OpenAI وتعطيله.

السلوك

تعلقت معظم تعليقات الشبكة بمهام ترجمة. استخدم أفراد الشبكة ChatGPT لترجمة عبارات حوارية بين الصينية وعدة لغات أخرى، أبرزها الإنجليزية والإسبانية والكينيارواندية والسواحيلية والألمانية والكريولية الهايتية. وكانت هذه المهام تتناوب عادةً بين ترجمة رسالة واردة إلى الصينية، ثم ترجمة الرد من الصينية إلى اللغة الأصلية.

وشابه بعض هذه الرسائل إعلانات وظائف تُرسل عشوائيًا، تعرض أجرًا مرتفعًا بالساعة مقابل قدر ضئيل من العمل. وُزعت إحدى هذه الرسائل عبر الرسائل النصية القصيرة على مجموعة تبدو عشوائية من أرقام الهواتف المحمولة في المملكة المتحدة، وكان أحدها يخص محققًا لدى OpenAI. أطلقنا على هذه العملية اسم «الرقم الخطأ»، تيمنًا بالرسالة النصية القصيرة الأولى.

رسالة نصية قصيرة أُرسلت إلى أحد محققي OpenAI.

رسالة نصية قصيرة أُنشئت باستخدام ChatGPT وأُرسلت عشوائيًا إلى أحد محققي OpenAI.

بدا أن الجهات المنفذة للتهديد تعتمد على منصات مراسلة متعددة. وجّهت الرسالة النصية القصيرة الأولى المستلمين إلى التواصل عبر WhatsApp، ثم أُحيل من استجاب منهم إلى «مرشد» على Telegram. كما أشارت بعض الأنشطة إلى تطبيق المراسلة BonChat. ولا يبدو أن الرسائل التمهيدية الأولى عبر هذه القنوات أُنشئت باستخدام نماذجنا. فقد كانت رسائل نمطية يُرجّح استخدامها في كل محادثة.

رسالة متابعة عبر WhatsApp من عملية «الرقم الخطأ».

رسالة عبر WhatsApp أُرسلت لمتابعة الرسالة النصية القصيرة. ولا يبدو أن هذه الرسالة أُنشئت باستخدام نماذجنا.

تضمنت كثير من مهام الترجمة مراسلات زُعم أنها صادرة عن ممثلين لشركات يُفترض أنها «جهات توظيف». وتكررت أسماء الشركات نفسها في العديد من محادثات ChatGPT المشمولة بهذا التحقيق. وشملت هذه الشركات Hyesung Advertising⁠(يفتح في نافذة جديدة) وLightning Shared Scooter Co (LSSC)⁠(يفتح في نافذة جديدة). وصفت تقارير علنية Hyesung وLSSC بأنهما مخططان مزعومان للاحتيال عبر المهام. ورغم أننا لم نتحقق بصورة مستقلة من طبيعة هاتين الجهتين، وجد تحقيقنا أن الرسائل التي يُزعم أنها صادرة عنهما أنشأها مستخدمون ناطقون بالصينية على ChatGPT، يُرجّح أنهم كانوا يعملون من كمبوديا.

المخرجات

امتدت الشركات التي زعمت هذه الشبكة تمثيلها عبر طيف واسع من القطاعات، من تداول الأسهم وتأجير الدراجات الكهربائية إلى بيع الإعجابات على وسائل التواصل الاجتماعي. وكان من أبرز مؤشرات الخطر عرض أكثر من 5 دولارات مقابل إعجاب واحد على TikTok؛ في المقابل، أظهرت مراجعتنا اليدوية للأسواق الإلكترونية أن بعض بائعي الإعجابات على وسائل التواصل الاجتماعي يتقاضون أقل من 10 دولارات مقابل 1,000 إعجاب.

ومن خلال الجمع بين المؤشرات خارج منصاتنا وملاحظاتنا الداخلية، حددنا نمطًا متكررًا لسير العمل. ولتوسيع نطاق فهم هذا الأسلوب وتبسيط تصنيفه، نصف هذا النمط بالمراحل التالية: الطُعم (التواصل غير المرغوب فيه)، والتحفيز (إثارة الحماس)، واللدغة (انتزاع المال):

  1. الطُعم (التواصل غير المرغوب فيه): تنشئ الشبكة محتوى مخصصًا للتواصل مع أشخاص من دون سابق معرفة، وعادةً ما تعرض أجورًا مرتفعة على نحو غير معتاد مقابل عمل بسيط، أو تعد بعوائد كبيرة من استثمارات سوق الأسهم. وتشمل هذه العروض أجرًا مرتفعًا مقابل مهام بسيطة، مثل الإعجاب بمنشورات على وسائل التواصل الاجتماعي، أو فرصًا استثمارية مجزية.

  2. التحفيز (إثارة الحماس): تترجم الشبكة محادثات يُرجّح أنها تدور بين Operator و«موظفيه». وتتضمن هذه المحادثات تفاصيل تنظيمية عن المهام، لكنها كثيرًا ما تتخللها رسائل تحفيزية عن الأرباح والمكافآت المحتملة.

  3. اللدغة (انتزاع المال): تنشئ الشبكة و/أو ترسل محتوى يضغط على «الموظف» أو «المستثمر» لدفع المال من أجل الحصول على مكافآت أكبر. ويتخذ ذلك عدة أشكال، منها «إيداع» أولي وشراء عملات مشفّرة ودفع «رسوم معالجة».

رسالة تواصل غير مرغوب فيها، أُنشئت باستخدام ChatGPT ووزعتها عملية «الرقم الخطأ».

مثال لرسالة تواصل غير مرغوب فيها، أُنشئت باستخدام ChatGPT ووزعتها هذه الشبكة. أُرسلت الرسالة في الوقت نفسه إلى ثمانية أرقام هاتفية، لم يكن أي منها ضمن جهات اتصال المستلمين. وغادر أحد المستلمين المجموعة فورًا.

رسالة عبر Telegram تطلب من ضحية محتملة شراء عملات مشفّرة.

رسالة عبر Telegram من الشبكة إلى ضحية محتملة، تطلب منها شراء عملات مشفّرة بقيمة 20 جنيهًا إسترلينيًا وتحويلها إلى تاجر لم يُذكر اسمه.

تشير تقارير علنية⁠(يفتح في نافذة جديدة) إلى أن بعض هذه الشركات كانت تفرض على المنضمين الجدد رسوم اشتراك كبيرة، ثم تستخدم جزءًا منها لدفع مبالغ تكفي بالكاد لإبقاء «الموظفين» الحاليين منخرطين. وهذه البنية سمة مميزة لعمليات الاحتيال عبر المهام⁠(يفتح في نافذة جديدة).

التأثير

يصعب قياس النطاق الحقيقي لهذه الشبكة نظرًا إلى محدودية ما يمكننا رصده. ومع ذلك، تشير تقارير من خارج منصاتنا⁠(يفتح في نافذة جديدة) ومحادثات طالب فيها «موظفون» باسترداد أموالهم إلى أن بعض الأشخاص على الأقل دفعوا أموالًا لجهات التوظيف المزعومة هذه. كما رصدنا مستخدمين حقيقيين يدافعون عن الشركات على وسائل التواصل الاجتماعي، ما يشير إلى وجود قدر من التفاعل الفعلي معها.