تخطي إلى المحتوى الرئيسي
OpenAI

1 مايو 2024

السلامة

عملية «دوبلغانغر»: نشاط تأثير روسي يستهدف أوكرانيا

حظرت OpenAI حسابات مرتبطة بعملية «دوبلغانغر» الروسية، استخدمت الذكاء الاصطناعي لإنشاء تعليقات مناهضة لأوكرانيا على وسائل التواصل الاجتماعي، وترجمات، ونصوص لمواقع إلكترونية بلغات عدة.

جاري التحميل...

نُشرت دراسة الحالة هذه في الأصل ضمن تقرير OpenAI الصادر في مايو 2024⁠(يفتح في نافذة جديدة).

الجهة الفاعلة

حظرنا أربع مجموعات من الحسابات التي استخدمت نماذجنا وارتبطت بأشخاص يعملون لصالح عملية التأثير الروسية المعروفة باسم «دوبلغانغر»⁠(يفتح في نافذة جديدة). اتبعت كل مجموعة تكتيكات وتقنيات وإجراءات (TTPs) مختلفة، بما يتفق مع عملية تتألف من فرق وظيفية متعددة.

السلوك

استهدف هذا النشاط جمهورًا في أوروبا وأمريكا الشمالية، وركز على إنشاء محتوى للمواقع الإلكترونية ووسائل التواصل الاجتماعي.

أنشأت المجموعة الأولى من الحسابات تعليقات نصية قصيرة بالإنجليزية والفرنسية والألمانية والإيطالية والبولندية. نُشرت هذه التعليقات على 9GAG وX إلى جانب صور ميم ومقاطع فيديو وروابط لا يبدو أنها أُنشئت باستخدام نماذجنا. نُسخت بعض صور الميم من أنحاء الإنترنت، ويبدو أن عمرها كان عدة سنوات.

على 9GAG، كانت الحسابات التي تنشر محتوى هذه الحملة تستخدم عادةً صورًا لمشاهير أو قطط في ملفاتها الشخصية. نشرت هذه الحسابات صور الميم ومقاطع الفيديو في قنوات متنوعة، منها قناة «عشوائي» وقنوات مخصصة للحيوانات الأليفة والرياضة والفكاهة، بل وللعلاقات والمواعدة.

تعليق عن أوكرانيا وفيديو عن غزة، نشرهما على قناة «المركبات الآلية» في 9GAG حسابٌ كرر نشر محتوى أنشأته هذه الحملة. أُنشئت الإشارة إلى أوكرانيا والحدود الأمريكية باستخدام نماذجنا. كان الفيديو تجميعًا لمقاطع إخبارية. حصل المنشور على 11 صوتًا مؤيدًا و93 صوتًا معارضًا.

تعليق عن أوكرانيا وفيديو عن غزة، نشرهما على قناة «المركبات الآلية» في 9GAG حسابٌ كرر نشر محتوى أنشأته هذه الحملة. أُنشئت الإشارة إلى أوكرانيا والحدود الأمريكية باستخدام نماذجنا. كان الفيديو تجميعًا لمقاطع إخبارية. وحصل المنشور على 11 صوتًا مؤيدًا و93 صوتًا معارضًا.

في كل مرة كانت الحملة تنشر صورة ميم أو مقطع فيديو على 9GAG، كانت ثلاثة إلى خمسة حسابات ترد، عادةً برسائل بسيطة مثل «هههههه» أو «لول». لم يتفاعل أي من هذه الحسابات قط إلا مع محتوى هذه الحملة، وقد أُنشئ معظمها في التاريخ نفسه. غالبًا ما أثار هذا السلوك تعليقات ناقدة من مستخدمين آخرين، وصف كثير منهم الحسابات بأنها «روبوتات».

تعليقات على الفيديو الموضح أعلاه. أُنشئت الحسابات الثلاثة السفلية، وهي أول من علّق، في أواخر أبريل 2024، وكررت نشر منشورات هذه الحملة أو التصويت لها أو التعليق عليها دون غيرها. أُنشئت الحسابات الثلاثة العلوية، التي كشفت زيف المحتوى، قبل مدة تتراوح بين عام وعشرة أعوام، وأظهرت نشاطًا متنوعًا للغاية.

تعليقات على الفيديو الموضح أعلاه. أُنشئت الحسابات الثلاثة السفلية، وهي أول من علّق، في أواخر أبريل 2024، وكررت نشر منشورات هذه الحملة أو التصويت لها أو التعليق عليها دون غيرها. أما الحسابات الثلاثة العلوية، التي كشفت زيف المحتوى، فأُنشئت قبل مدة تتراوح بين عام وعشرة أعوام، وأظهرت نشاطًا متنوعًا للغاية.

على X، نُشرت تعليقات الحملة عبر حسابات لم ينشر كل منها عادةً سوى منشور أو منشورين. كانت التعليقات تُرفق عادةً برابط يبدو عشوائيًا، مثل «solarpanelfor.sale». كانت هذه الروابط تعيد التوجيه إلى مجموعة من المواقع الإلكترونية التي نُسبت مرارًا إلى دوبلغانغر. كانت المواقع مقيدة جغرافيًا، بحيث لا يستطيع عرضها إلا من يملكون عنوان IP في البلد المستهدف. لكن يبدو أن المشغلين ارتكبوا خطأً جعل بعض المقالات الإنجليزية والألمانية والبولندية متاحة للعرض فقط من عنوان IP فرنسي.

منشور على X يتضمن تعليقًا أُنشئ باستخدام نماذجنا. وترجمة التعليق: «فعل صادم! يجب ألا ترتبط السياسة بالعنف أبدًا. نحن بحاجة إلى الحوار، لا العنف». يعيد الرابط المرفق التوجيه إلى النسخة الألمانية من موقع rrn.media الذي يحمل علامة دوبلغانغر التجارية. لكن حتى 20 مايو، لم يكن بالإمكان عرضه إلا من عنوان IP فرنسي.

منشور على X يتضمن تعليقًا أُنشئ باستخدام نماذجنا. وترجمة التعليق: «فعل صادم! يجب ألا ترتبط السياسة بالعنف أبدًا. نحن بحاجة إلى الحوار، لا العنف». يعيد الرابط المرفق التوجيه إلى النسخة الألمانية من موقع rrn.media الذي يحمل علامة دوبلغانغر التجارية. لكن حتى 20 مايو، لم يكن بالإمكان عرضه إلا من عنوان IP فرنسي.

استخدمت هذه المجموعة للوصول إلى نماذجنا خدمة مرتبطة بشركات في روسيا وجمهورية التشيك، في محاولة على الأرجح لتجنب اكتشافها. استهدفت هذه الخدمة تمكين الأشخاص في روسيا من الالتفاف على سياسة الوصول الخاصة بالبلدان المدعومة⁠(يفتح في نافذة جديدة) لدينا. عطّلنا وصول هذه الخدمة إلى واجهة API.

ترجمت المجموعة الثانية مقالات من الروسية إلى الإنجليزية والفرنسية، ويبدو أن النصوص الروسية كانت مؤلفات أصلية. نُشر كثير من هذه المقالات لاحقًا على موقع نُسب مرارًا إلى دوبلغانغر، وهو rrn.media. وأنشأت المجموعة نفسها تعليقات قصيرة حول مقالاتها ظهرت لاحقًا على وسائل التواصل الاجتماعي.

منشور على X أُنشئ باستخدام نماذجنا، مرفق برابط لمقال على rrn.media.

منشور على X أُنشئ باستخدام نماذجنا، مرفق برابط لمقال على rrn.media.

استُخدمت المجموعة الثالثة لإنشاء مقالات بالفرنسية وتدقيقها وتصحيحها. ثم نُشرت المقالات على موقع نُسب هو الآخر إلى دوبلغانغر، وهو franceeteu.today.

عملت المجموعة الأخيرة باللغة الألمانية. استوردت محتوى من موقع دوبلغانغر، grenzezank.com، واستخدمته لإنشاء منشورات قصيرة لمجموعة وصفحة على Facebook تحملان اسم الموقع.

المحتوى

ركز معظم المحتوى الذي نشرته هذه الحملة عبر الإنترنت على الحرب في أوكرانيا. صوّر المحتوى أوكرانيا والولايات المتحدة وحلف الناتو والاتحاد الأوروبي بصورة سلبية، وروسيا بصورة إيجابية. زعمت التعليقات المعتادة أن روسيا شريك اقتصادي مهم للدول الأوروبية، وأن القادة الغربيين الذين ينتقدونها بعيدون عن اهتمامات ناخبيهم، وأن أوكرانيا ضعيفة وفاسدة و/أو على وشك الهزيمة.

في بعض الحالات، حاول القائمون على دوبلغانغر دفع نماذجنا إلى إنشاء صور كرتونية لسياسيين أوروبيين بارزين ومنتقدين لروسيا. رفضت نماذجنا هذه الطلبات.

تقييم التأثير

لا يبدو أن أيًا من حملات دوبلغانغر التي رصدناها حظيت بتفاعل إيجابي كبير من جمهور حقيقي.

على 9GAG، تلقت المنشورات المعتادة من 5 إلى 10 أصوات مؤيدة، معظمها من حسابات نشرت أيضًا محتوى هذه الحملة، ومن 15 إلى 200 صوت معارض. على X، حصدت المنشورات المعتادة نحو 1,000 مشاركة، من دون أي ردود أو إعجابات. هذا التفاوت الكبير يشير إلى تضخيم زائف للتفاعل. تلقى أحد المنشورات ثلاثة ردود، وصفته جميعها بأنه زائف.

رد على X على منشور لدوبلغانغر.

رد على X على منشور لدوبلغانغر.

باستخدام مقياس الانتشار⁠(يفتح في نافذة جديدة) لتقييم تأثير عمليات التأثير، الذي يصنفها من 1 (الأدنى) إلى 6 (الأعلى)، نُقيّم النشاط المرتبط باستخدام نماذجنا ضمن الفئة 2؛ إذ اتسم بالنشر على منصات متعددة، من دون تحقيق انتشار أو تفاعل جماهيري ملحوظ على أي منها.