تخطي إلى المحتوى الرئيسي
OpenAI

1 يونيو 2025

السلامة

عملية «التركيز الضبابي»: أنشطة الهندسة الاجتماعية والتأثير

حظرت OpenAI حسابات تستخدم الذكاء الاصطناعي في الهندسة الاجتماعية، وأبحاث تتعلق بالمراقبة، وأنشطة تأثير تستهدف المنتقدين.

جاري التحميل...

نُشرت دراسة الحالة هذه لأول مرة في تقرير OpenAI الصادر في يونيو 2025⁠(يفتح في نافذة جديدة).

الجهة الفاعلة

حظرنا شبكة صغيرة من حسابات ChatGPT استخدمت نماذجنا لإنشاء منشورات على وسائل التواصل الاجتماعي، وتحليل مجموعات بيانات، وترجمة رسائل بريد إلكتروني ورسائل أخرى من الصينية إلى الإنجليزية بدت كمحاولات للهندسة الاجتماعية. كانت الحسابات توجّه طلباتها إلى نماذجنا باللغة الصينية، وتركّز نشاطها خلال ساعات العمل في البر الرئيسي للصين.

أنشأت هذه الحسابات رسائل زعمت أنها صادرة عن موظفين في ثلاث جهات معنية بالشؤون الجيوسياسية: «فوكس لينز نيوز»، و«برايت ويف ميديا أوروبا»، و«فيجنري أدفايزري غروب» (VAG). كذلك أنشأت حسابات ChatGPT نصوصًا تطابقت مع منشورات ونبذات تعريفية لحسابات على منصة X مرتبطة بهذه الجهات الثلاث. وفي سياقات منفصلة، وصفت الجهات الخبيثة هذه الكيانات بأنها واجهات لجمع المعلومات الاستخباراتية وتحليلها. واستنادًا إلى هذه الأسماء، أطلقنا على هذه العملية اسم «التركيز الضبابي».

السلوك

استخدمت العملية ChatGPT لدعم أربعة مسارات عمل رئيسية. أولًا، استخدمت الحسابات نماذجنا في الغالب لإنشاء منشورات على وسائل التواصل الاجتماعي ونبذات تعريفية لشخصيات على الإنترنت بدت جزءًا من عملية تأثير سرية. نشرت هذا المحتوى حسابات على منصة X انتحلت صفات صحفيين ومحللين للشؤون الجيوسياسية.

تغريدة أنشأتها هذه الجهة الخبيثة باستخدام ChatGPT ونشرتها عبر حساب على منصة X اعتاد نشر محتواها.

تغريدة أنشأتها هذه الجهة الخبيثة باستخدام ChatGPT ونشرتها عبر حساب على منصة X اعتاد نشر محتواها.

ثانيًا، نقّحت الحسابات مراسلات موجّهة إلى عضو في مجلس الشيوخ الأمريكي وترجمتها، وكانت تتعلق بترشيح مسؤول في الإدارة الأمريكية. ولا يمكننا التأكد بصورة مستقلة مما إذا كانت أي من هذه المراسلات قد أُرسلت بالفعل.

ثالثًا، طرحت الحسابات سلسلة من الأسئلة الأساسية عن أدوات مهاجمة شبكات الحاسوب واستغلالها، ولم تقدّم نماذجنا ردًا عليها سوى شروحات عامة عن استخداماتها وقدراتها. افتقرت هذه الأسئلة إلى مستوى التقدم التقني لدى الجهات السيبرانية التي نتناولها لاحقًا في هذا التقرير، وهي توحي بمستوى متدنٍ من الخبرة.

أخيرًا، طلب المستخدمون بانتظام ترجمة رسائل من الصينية إلى الإنجليزية بدت مصممة للتواصل مع أشخاص مجهولي الهوية، وصولًا إلى استخلاص معلومات منهم. نُشرت بعض هذه الرسائل على وسائل التواصل الاجتماعي في صورة ردود على صحفيين وباحثين. وبدت رسائل أخرى كرسائل خاصة، ولم تظهر في عمليات البحث على الإنترنت.

محاولة تواصل دون معرفة مسبقة، عبر رسالة علنية إلى باحث على منصة X من حساب مرتبط بهذه العملية.

محاولة تواصل دون معرفة مسبقة، عبر رسالة علنية إلى باحث على منصة X من حساب مرتبط بهذه العملية.

المخرجات

بدا أن الهدف الأساسي لهذه الشبكة هو جمع المعلومات الاستخباراتية عبر انتحال هويات مهنيين مقيمين في أوروبا أو تركيا. في المحتوى الذي أنشأه القائمون على العملية ونشروه على الإنترنت، وصفوا «فوكس لينز نيوز» بأنها جهة مستقلة مقرها أوروبا ومتخصصة في التحليل وإعداد التقارير. لكنهم زعموا أيضًا أن هذه الهوية كانت في الواقع غطاءً لتسهيل جمع المعلومات الاستخباراتية وتحليلها ونشرها.

بحسب الموقع الإلكتروني الذي ورد رابطه في النبذات التعريفية على وسائل التواصل الاجتماعي، يقع مقر فيجنري أدفايزري غروب في تركيا، وهي متخصصة في تقديم خدمات استشارية مهنية في الشؤون الجيوسياسية. استخدم القائمون على العملية نماذجنا لترجمة تعليمات من الصينية إلى الإنجليزية تزعم أن مجموعة VAG تسعى للحصول على معلومات عن السياسات الاقتصادية والمالية الأمريكية، وأنها مستعدة لدفع 2,000 دولار عن كل ساعة من مقابلة. كما ترجموا عروضًا لدفع أموال مقابل وثائق سرية.

يتوفر موقع مجموعة VAG بنسختين، تركية وإنجليزية. وفي صفحة «اتصل بنا» بالنسخة الإنجليزية، تظهر الأحرف الصينية لعبارة «اتصل بنا» (聯絡) في القائمة. وكان هذا النص الصيني الوحيد على النطاق بأكمله.

لقطة شاشة لصفحة «اتصل بنا» على موقع مجموعة VAG، تظهر فيها الأحرف الصينية لعبارة «اتصل بنا» (聯絡) في القائمة المنسدلة.

لقطة شاشة لصفحة «اتصل بنا» على موقع مجموعة VAG، تظهر فيها الأحرف الصينية لعبارة «اتصل بنا» (聯絡) في القائمة المنسدلة.

بدا بعض محتوى هذه الشبكة كمواد تسويقية لعمليات تأثير أوسع نطاقًا. ووفقًا لادعاءات لا يمكننا التحقق منها بصورة مستقلة، استخدمت العملية تعلّم الآلة ومعالجة اللغة الطبيعية والاستخراج الآلي للبيانات لتحديد الشخصيات والموضوعات المؤثرة على وسائل التواصل الاجتماعي.

الأثر

لم تحظَ حسابات التواصل الاجتماعي المرتبطة بهذا النشاط بتفاعل حقيقي يُذكر على الإنترنت. وحده حساب فوكس لينز نيوز على منصة X كان لديه عدد كبير من المتابعين، بلغ 17,000 متابع؛ إلا أن الحساب أُنشئ في نوفمبر 2014 باسم مختلف، ونشر تغريدات لثلاثة أيام، ثم توقف عن النشر حتى منتصف عام 2024. وهذا نمط معتاد في الحسابات التي تُخترق ويُعاد توظيفها، لذا ينبغي التعامل بحذر مع أعداد متابعيه.

باستخدام مقياس الانتشار⁠(يفتح في نافذة جديدة) لقياس أثر عمليات التأثير، نقيّم الجزء الظاهر للجمهور من هذه العملية بأنه يقع عند الحد الأدنى من الفئة الثانية: نشاط على منصات متعددة، لكن مع أدلة قليلة على أن أشخاصًا حقيقيين تفاعلوا مع محتواه أو شاركوه على نطاق واسع. لا تتوفر أدلة كافية لتقييم أثر أنشطة الهندسة الاجتماعية وغيرها من الأنشطة السرية لهذه العملية.