إساءة استخدام مرتبطة بجمهورية الصين الشعبية: أنشطة المراقبة والتأثير

نُشرت دراسة الحالة هذه في الأصل في تقرير OpenAI الصادر في أكتوبر 2025⁠(يفتح في نافذة جديدة).

أفراد يرتبطون على ما يبدو بجهات حكومية في جمهورية الصين الشعبية، ويستخدمون ChatGPT للمساعدة في التطوير وإعداد الملفات التعريفية وأداء المهام البيروقراطية.

كما أوضحنا في مارس في مذكرتنا المقدمة إلى مكتب سياسات العلوم والتكنولوجيا بشأن خطة العمل الأمريكية للذكاء الاصطناعي، نرى أن ضمان استفادة أكبر عدد ممكن من الأشخاص من الذكاء الاصطناعي يتطلب تمكينه من خلال قواعد منطقية تهدف إلى حماية الناس من الأضرار الفعلية، وبناء ذكاء اصطناعي ديمقراطي. ونقصد بالذكاء الاصطناعي الديمقراطي ذلك الذي تصوغه المبادئ الديمقراطية التي لطالما دافعت عنها الولايات المتحدة. ويشمل ذلك منع الأنظمة الاستبدادية من استخدام أدوات الذكاء الاصطناعي لتعزيز سلطتها والسيطرة على مواطنيها.

إن استثماراتنا في اكتشاف محاولات الأنظمة الاستبدادية لإساءة استخدام إمكانات ChatGPT وتعطيلها لا تحمي الناس الآن فحسب، بل تقدم أيضًا رؤى مهمة حول كيفية إساءة تلك الأنظمة استخدام الإمكانات المستقبلية. يناقش هذا القسم مجموعة من هذه النتائج المتعلقة بأفراد يُحتمل ارتباطهم بمثل هذه الأنظمة، مع التركيز على جمهورية الصين الشعبية.

كما كتبنا في يونيو، تحرز جمهورية الصين الشعبية تقدمًا حقيقيًا في تطوير نسختها الاستبدادية من الذكاء الاصطناعي. يسلط تعطيلنا لحسابات ChatGPT التي استخدمها أفراد يرتبطون على ما يبدو بجهات حكومية صينية بعض الضوء على الوضع الراهن لاستخدام الذكاء الاصطناعي في هذه البيئة الاستبدادية. بدا أن بعض جوانب هذا الاستخدام تهدف إلى دعم المراقبة واسعة النطاق لحركة البيانات عبر الإنترنت أو حركة الأشخاص خارجه، ما يؤكد أهمية مواصلة اهتمامنا باحتمالات إساءة الأنظمة الاستبدادية استخدام الذكاء الاصطناعي في هذا المجال. وبدا أن جوانب أخرى من هذا الاستخدام تهدف إلى إعداد ملفات تعريفية أكثر تعمقًا. حظرنا الحسابات المرتبطة بهذا النشاط، ونشارك ما توصلنا إليه في هذا التقرير.

تستند هذه الدراسة إلى عينة من الأنشطة المخالفة التي اكتشفناها وعطّلناها وحظرناها. وكان ذلك النشاط متسقًا مع استخدام أفراد لخدمة ChatGPT، وليس مع اعتماد مؤسسي واسع النطاق لنماذجنا. ومن ثم، فهي لا تقدم سوى لمحة محدودة عن استخدام نماذج الذكاء الاصطناعي المختلفة في هذا السياق.

بدا أن بعض الحسابات التي حظرناها تحاول استخدام ChatGPT لتطوير أدوات للمراقبة واسعة النطاق من خلال تحليل مجموعات بيانات، غالبًا ما جُمعت من منصات تواصل اجتماعي غربية أو صينية. أوردنا في فبراير حالة من هذا النوع، كانت تهدف إلى تصميم أداة مدعومة بالذكاء الاصطناعي لرصد منصات التواصل الاجتماعي، وزعم مشغلوها أنها مخصصة لقوات الأمن الصينية. عادةً ما طلب هؤلاء المستخدمون من ChatGPT المساعدة في تصميم مثل هذه الأدوات أو إعداد مواد ترويجية عنها، لكنهم لم يطلبوا منه تنفيذ المراقبة.

على سبيل المثال، حظرنا مؤخرًا مستخدمًا ربما كان يستعين بشبكة افتراضية خاصة للوصول إلى خدماتنا من الصين، وقد طلب من ChatGPT المساعدة في إعداد مواد ترويجية وخطط لمشروع أداة لرصد منصات التواصل الاجتماعي، زُعم أنها مخصصة لعميل حكومي. وُصفت الأداة بأنها «مسبار» لوسائل التواصل الاجتماعي (探针)، يُزعم أنه قادر على فحص Twitter/X وFacebook وInstagram وReddit وTikTok وYouTube بحثًا عما وصفه المستخدم بخطاب متطرف ومحتوى عرقي وديني وسياسي. لم يستخدم المستخدم نموذجنا لإجراء المراقبة الفعلية لمنصات التواصل الاجتماعي. ولا يمكننا التحقق بصورة مستقلة مما إذا كانت جهة حكومية صينية قد استخدمت هذه الأداة.

وبالمثل، حظرنا مستخدمًا ثانيًا يُرجح ارتباطه بجهة حكومية، وكان قد طلب من ChatGPT المساعدة في كتابة مقترح لما وصفه بأنه «نموذج إنذار بتدفق أفراد ذوي صلة بالأويغور وعالي الخطورة» (高危涉维吾尔关注人员流入预警模型). وصف المقترح أداة تحلل حجوزات وسائل النقل وتقارنها بسجلات الشرطة لتوفير إنذار مبكر بتحركات أشخاص أثناء السفر صُنّفوا ضمن فئة «ذوي الصلة بالأويغور وعالي الخطورة»، وهي فئة لم تُعرّف على نحو آخر. لم يطلب المستخدم من نموذجنا المساعدة في بناء أداة كهذه، بل اقتصر طلبه على إعداد مقترح عام؛ لذلك لا يمكننا التأكد بصورة مستقلة من التقنية التي كان ينوي استخدامها أو مما إذا كانت جهة حكومية صينية قد استخدمت مثل هذه الأداة.

حظرنا أيضًا مستخدمين بدا أنهم مرتبطون بجهات حكومية صينية، ويحاولون استخدام ChatGPT لإعداد ملفات تعريفية أكثر تخصيصًا واستهدافًا وإجراء أبحاث عبر الإنترنت.

على سبيل المثال، طلب أحد المستخدمين من ChatGPT تحديد مصادر تمويل حساب على X كان ينتقد الحكومة الصينية. وطلب مستخدم ثانٍ من ChatGPT تحديد هوية منظمي عريضة في منغوليا. في كلتا الحالتين، لم تقدم نماذجنا سوى معلومات متاحة للعامة، ولم تتضمن تفاصيل حساسة مثل مصادر التمويل أو هويات منظمي العريضة.

استخدم بعض هذا النشاط نماذجنا كأداة للبحث مفتوح المصدر، على نحو يشبه استخدام مستخدمين سابقين لمحركات البحث أو البحث في منصات التواصل الاجتماعي. على سبيل المثال، طلب مستخدم ثالث من ChatGPT تحديد أبرز الأخبار العاجلة اليومية ذات الصلة بالصين وتلخيصها، بما في ذلك موضوعات حساسة مثل ذكرى مذبحة ساحة تيانانمن عام 1989 وعيد ميلاد الدالاي لاما.