عملية «A2Z»: نشاط تأثير متعدد اللغات

نُشرت دراسة الحالة هذه أصلًا في تقرير OpenAI الصادر في أكتوبر 2024⁠(يفتح في نافذة جديدة).

حظرنا مجموعة من الحسابات لم يسبق الإبلاغ عنها، كانت تستخدم واجهة API الخاصة بنا لإنشاء تعليقات تُنشر بعد ذلك على X وFacebook. أشادت تعليقات كثيرة منها بأذربيجان أو دافعت عن سجلها في حقوق الإنسان، لكن النشاط تناول أيضًا طيفًا واسعًا من الموضوعات الأخرى، ما قد يشير إلى عملية تُدار لأغراض تجارية. نظرًا إلى كثرة إشادتها بأذربيجان ومحاولتها استخدام الذكاء الاصطناعي في مراحل متعددة من العملية، أطلقنا على هذه الشبكة اسم «A2Z».

على غرار عملية Telegram الناطقة بالروسية التي كشفناها في مايو وأطلقنا عليها اسم «Bad Grammar»، استخدمت هذه العملية نماذجنا لنشر تعليقات على وسائل التواصل الاجتماعي. استخدمت الذكاء الاصطناعي لإدارة شخصيات مزيفة على وسائل التواصل الاجتماعي، وإنشاء نبذات تعريفية، وتحليل المنشورات والتعليقات، وصياغة الردود بلغات عديدة، ومراجعتها لغويًا. ثم نُشرت الردود على X أو Facebook. كان معظم المحتوى في صورة تعليقات قصيرة، لكنه شمل أيضًا صورًا ذات طابع فني مميز. وكثيرًا ما استُخدم فيها أسلوب ملصقات ثلاثينيات القرن العشرين، لذا يبدو أنها صُممت لجذب الانتباه والتفاعل لا للخداع. ومع ذلك، لم تحصد المنشورات المعتادة التي تضمنت هذه الصور سوى 0–5 تفاعلات لكل منها.

أتاح استخدام الذكاء الاصطناعي للعملية إدارة عدة حسابات على وسائل التواصل الاجتماعي في وقت واحد؛ إذ حددنا نحو 150 حسابًا على X وFacebook تتطابق مع هذا النشاط، إضافة إلى حسابات أخرى مشتبه بها. كما أتاح للعملية أحيانًا المشاركة في سلاسل تعليقات مع أشخاص حقيقيين على الإنترنت. ورصدنا أحيانًا محادثات قصيرة بين أشخاص حقيقيين والحسابات المزيفة، كانت ردود الحسابات المزيفة فيها تُنشأ باستخدام نماذجنا.

كان تنفيذ عملية بهذا الحجم قبل ظهور الذكاء الاصطناعي سيتطلب على الأرجح فريقًا كبيرًا من المتصيدين، بكل ما يرتبط بذلك من تكاليف ومخاطر تسريب. لكن اعتماد هذه العملية على الذكاء الاصطناعي جعلها أيضًا عرضة على نحو غير معتاد لإجراءاتنا الرامية إلى تعطيلها. ولأنها استخدمت الذكاء الاصطناعي في حلقات كثيرة من سلسلة الهجوم، أدى تصدينا لها إلى قطع عدة حلقات في آن واحد. بعد تعطيلنا هذا النشاط في أوائل يونيو، توقفت حسابات وسائل التواصل الاجتماعي التي حددناها بوصفها جزءًا من العملية عن النشر طوال فترات الانتخابات في الاتحاد الأوروبي والمملكة المتحدة وفرنسا. استأنف بعضها النشر في أواخر أغسطس. ظهرت في عدد قليل من منشوراتها مؤشرات على أنها أُنشئت على الأرجح بالذكاء الاصطناعي. ولم يكن المحتوى الذي ظهرت فيه هذه المؤشرات صادرًا عن نماذجنا.

أنشأت هذه الحملة تعليقات قصيرة تناولت طيفًا واسعًا من الموضوعات السياسية. وكان أبرزها الإشادة بحكومة أذربيجان ودورها في السياسة الداخلية والإقليمية والدولية، مثل تعزيز الوحدة بين دول آسيا الوسطى أو استضافة مؤتمر الأمم المتحدة بشأن تغير المناخ. أشادت حسابات بالإنجليزية والإيطالية بدور أذربيجان مورّدًا للطاقة إلى أوروبا، وأحيانًا ردًا على انتقادات لسجل الحكومة الأذربيجانية في حقوق الإنسان.

وركزت مسارات أخرى من النشاط على فوائد الذكاء الاصطناعي وتطوره، والأسواق المالية، والقضايا البيئية، والعملات المشفرة، والتقنية عمومًا. ركزت إحدى المجموعات على الإمارات العربية المتحدة، وصورتها وجهة مستقرة للاستثمار، وكثيرًا ما قارنت ذلك بمزاعم عن عدم الاستقرار السياسي في الولايات المتحدة.

ركزت بعض الشخصيات المزيفة على السياسة في أوروبا أو الولايات المتحدة. اختلف التوجه الأيديولوجي لهذا النشاط من منطقة إلى أخرى. فمثلًا، انتحل حساب على X يركز على الولايات المتحدة شخصية ليبرالية وانتقد الرئيس الأمريكي السابق ترامب، في حين انتقدت بعض حسابات Facebook الناطقة بالفرنسية الرئيس ماكرون وأيدت حزب التجمع الوطني (RN). وأحيانًا ركز هذا النقد على قضايا داخلية للقول إن البلد المعني ينبغي ألا يتدخل في القضايا الدولية، ومنها الغزو الروسي لأوكرانيا.

نشطت هذه العملية بكثافة على Facebook وX، ويُرجح أنها استخدمت مئات الحسابات. حملت بعض حساباتها على X علامة التحقق الزرقاء المدفوعة. من بين نحو 150 حسابًا أخذنا منها عينات على المنصتين، لم نجد أي حساب يملك عددًا كبيرًا من المتابعين؛ فأكبر عدد رصدناه على X خلال تحقيقنا بلغ 222 متابعًا، بينما تراوحت الأعداد المعتادة بين منتصف العشرات وأوائل العشرينات، وكانت منشورات X المعتادة تحصد تفاعلات من رقم واحد. وبالمثل، بلغ أكبر عدد من التفاعلات مع منشور على Facebook رصدناه خلال تحقيقنا 36، بينما تراوحت الأعداد المعتادة بين 0 و5. ومع ذلك، رصدنا بعض الحالات التي جذبت فيها منشورات العملية ردودًا من أشخاص حقيقيين. ولم تكن هذه الردود إيجابية دائمًا، بل تضمنت أحيانًا أشخاصًا حقيقيين يناقضون الحسابات المزيفة، لكنها تُظهر قدرة ما على جذب الجمهور عبر منصات ولغات وموضوعات متعددة.

وباستخدام مقياس الانتشار لتقييم أثر عمليات التأثير، الذي يصنفها من 1 (الأدنى) إلى 6 (الأعلى)، نضع هذه العملية عند الحد الأعلى من الفئة الثانية، مع خطر انتقالها إلى الفئة الثالثة؛ إذ اتسمت بالنشر على منصات متعددة، مع وجود بعض الأدلة على تفاعل أشخاص حقيقيين مع محتواها. لكن بعد حظرنا هذه العملية من استخدام نماذجنا ومشاركة المعلومات مع نظرائنا في القطاع، لزمت حسابات وسائل التواصل الاجتماعي التي حددناها الصمت لأسابيع عدة. وهكذا، تبرز هذه العملية القدرات المتزايدة التي يمنحها استخدام الذكاء الاصطناعي للمشغّلين، وكذلك ازدياد قابلية عملياتهم للتعطيل نتيجة اعتمادهم على نموذج ذكاء اصطناعي.