OpenAI وHugging Face تتعاونان لمعالجة حادثة أمنية أثناء تقييم النماذج
نجري مراجعة شاملة بالتعاون مع مستشارين خارجيين وتحت إشراف لجنة السلامة والأمن. وبمجرد اكتمال المراجعة، سننشر خلال الأسابيع المقبلة تقريرًا فنيًا يتضمن ما توصلنا إليه من دروس واستنتاجات.
تحديث بتاريخ 28 يوليو 2026:
- لم يشارك أي نموذج مخطط لإصداره قريبًا في استغلال Hugging Face. أما نموذج ما قبل الإصدار المذكور في منشور مدونتنا، فهو نموذج أولي بحثي مخصص للاستخدام الداخلي فقط، ولم يكن معدًّا قط للإصدار العام. وعقب الحادثة، عطّلنا النموذج وشفّرناه وقيّدنا وصول فرق البحث إليه.
- لم توفّر بيئة تقييم ExploitGym للنماذج وصولًا مباشرًا إلى الإنترنت. وللحصول على هذا الوصول، اكتشفت النماذج ثغرة يوم الصفر غير معروفة سابقًا في Artifactory(يفتح في نافذة جديدة)، واستغلتها، وهو وكيل تخزين مؤقت لسجل الحزم. وقد أفصحنا للمورّد عن هذه الثغرة، إلى جانب ثغرات أخرى في Artifactory اكتشفتها نماذجنا في إطار مراجعتنا.
- نواصل التعاون مع Hugging Face مع استمرار مراجعتنا، بما في ذلك المساهمة في تقريرهم اللاحق(يفتح في نافذة جديدة) للحادثة. كما أضفناهم إلى برنامج الوصول الموثوق للأمن السيبراني.
- استنادًا إلى ما توصلت إليه مراجعتنا حتى الآن، لم نرصد أي نشاط آخر يضاهي من حيث الخطورة أو النطاق ما شاركناه بشأن Hugging Face، والذي تضمن اختراقًا على مستوى المنصة.
- في إطار مراجعتنا المستمرة لاختراق Hugging Face وللنشاط الأوسع الصادر عن نماذجنا، رصدنا عددًا محدودًا من الحالات التي اكتشفت فيها النماذج بيانات اعتماد مكشوفة علنًا على مستوى الحساب واستخدمتها في خدمات أخرى متاحة للجمهور. ويشمل ذلك أربعة حسابات موزعة على أربع خدمات ضمن حادثة Hugging Face، بالإضافة إلى عدد قليل من الحسابات التي جرى الوصول إليها ضمن تقييمات أخرى. استُخدم أحد هذه الحسابات الأربعة كوسيط لإرسال البيانات ومسار مرحلي، بينما استُخدم حساب آخر لتخزين البيانات. أما الحسابان المتبقيان، فقد وصلت إليهما النماذج بصلاحية القراءة فقط، ولم يُستخدما للمساعدة في اختراق Hugging Face. وسنواصل إخطار مالكي الخدمات مباشرة، ولم نرصد أي دليل على تأثير أوسع نطاقًا في هذه الجهات المزودة للخدمات أو في حسابات أخرى على خدماتها.
- استخدمت النماذج أيضًا مجموعة من الخدمات المتاحة علنًا، بما في ذلك مواقع لصق الشيفرات البرمجية، وخدمات التقاط الطلبات، وخدمات لقطات الشاشة، وأدوات ويب أخرى. ولم يقع في هذه الحالات أي اختراق على مستوى المنصة أو الحساب.
- نتعامل بجدية مع مسؤوليتنا عن تحديد المخاطر الناشئة عن أنظمة الذكاء الاصطناعي المتزايدة القدرات والاستعداد لها. وبمجرد أن نكمل مراجعتنا، سنراجع الأمر مع لجنة السلامة والأمن والمجموعة الاستشارية للسلامة ضمن إطار الجاهزية الخاص بنا.
الأسبوع الماضي، كشفت Hugging Face عن نوع جديد من الحوادث الأمنية(يفتح في نافذة جديدة) بعدما رصدت واحتوت وكيلًا للذكاء الاصطناعي اخترق بنيتها التحتية، وهو أمر نتوقع أن يصبح أكثر شيوعًا مع انتشار نماذج تزداد قدرة على العمليات السيبرانية. بعد التحقيق، نعلم الآن أن هذه الحادثة بالذات نتجت عن مزيج من نماذج OpenAI — بما فيها GPT‑5.6 Sol ونموذج ما قبل الإصدار أكثر قدرة — وقد خُفّضت فيها جميعًا استجابات الرفض المتعلقة بالأمن السيبراني لأغراض التقييم، أثناء اختبارها داخليًا على معيار قياس(يفتح في نافذة جديدة) للقدرات السيبرانية.
نعدّ هذه الحادثة حادثة سيبرانية غير مسبوقة تنطوي على قدرات سيبرانية على أحدث مستوى، ونتعامل معها وفقًا لذلك. نشارك في هذه المرحلة نتائج أولية لمساعدة المدافعين على فهم ما حدث، ولمساعدتهم على معايرة تصورهم لما أصبحت النماذج قادرة عليه الآن. سنواصل إجراء تحقيق شامل إلى جانب Hugging Face، وسنشارك مزيدًا من التفاصيل حول الثغرات والحادثة والنتائج عند اكتمال تحقيقنا.
وقعت هذه الحادثة أثناء تقييم داخلي يدفع النماذج إلى السعي لاستغلال متقدم عبر مسارات هجوم معقدة، بهدف قياس قدراتها السيبرانية. نقدّر القدرات السيبرانية القصوى بتشغيل هذا التقييم من دون مصنفات الإنتاج المستخدمة لمنع النماذج من متابعة نشاط سيبراني عالي المخاطر. تُشغّل معايير القياس لدينا في بيئة شديدة العزل، مع تقييد الوصول إلى الشبكة بحيث يقتصر على القدرة على تثبيت الحزم عبر برمجية خارجية مستضافة داخليًا تعمل كوسيط وذاكرة تخزين مؤقت لسجلات الحزم.
حددت النماذج ثغرات وربطتها عبر بيئة البحث في OpenAI وبنية Hugging Face الإنتاجية للحصول على حلول الاختبار مباشرة من قاعدة بيانات الإنتاج لدى Hugging Face. تشير كل الأدلة إلى أن النماذج كانت شديدة التركيز على إيجاد حل لـ ExploitGym، وبذلت جهودًا استثنائية لتحقيق هدف اختباري محدود نسبيًا.
أثناء عمل نماذجنا في بيئة الاختبار المعزولة لدينا، أنفقت قدرًا كبيرًا من حوسبة الاستدلال لإيجاد طريقة للحصول على وصول مفتوح إلى الإنترنت، سعيًا إلى حل مسألة التقييم. للحصول على الوصول، حددت النماذج واستغلت ثغرة يوم الصفر (أفصحنا عنها الآن بمسؤولية للمورّد) في وسيط التخزين المؤقت لسجل الحزم. وبهذا الوصول، نفذت نماذجنا سلسلة من إجراءات تصعيد الامتيازات والحركة الجانبية في بيئة الاختبار البحثية لدينا، إلى أن وصلت إلى عُقدة لديها وصول إلى الإنترنت.
بعد الحصول على وصول إلى الإنترنت، استنتجت النماذج أن Hugging Face قد تستضيف نماذج ومجموعات بيانات وحلولًا لـ ExploitGym. وبناءً على ذلك، بحث النموذج ونجح في العثور على طرق للوصول إلى معلومات سرية يمكنه استخدامها للغش في التقييم. في أحد الأمثلة، ربط النموذج عدة نواقل هجوم، بما في ذلك استخدام بيانات اعتماد مسروقة وثغرات يوم الصفر للعثور على مسار لتنفيذ التعليمات البرمجية عن بُعد على خوادم Hugging Face. اكتشف فريق الأمن في OpenAI هذا النشاط الشاذ داخليًا.
رصد فريق الأمن والوكلاء لدى Hugging Face النشاط وأوقفوه على بنيتهم التحتية، وكانوا قد بدأوا بالفعل الاحتواء وإعادة بناء تسلسل الأحداث لأغراض التحقيق الجنائي الرقمي باستخدام نماذجهم المفتوحة المصدر عندما تواصلت فرقنا. نعمل معهم بنشاط لمواصلة التحقيق في الحادثة. نحن ممتنون لتعاون Hugging Face السريع والوثيق في التحقيق والمعالجة.
- في إطار التحقيق، نطبق ضوابط صارمة على إعدادات البنية التحتية، ولو كان ذلك على حساب سرعة البحث، إلى حين تصحيح الثغرات. كما نطلع لجنة السلامة والأمن لدينا بانتظام على هذه الضوابط وتأثيرها.
- نعمل مع Hugging Face لإجراء تحقيق جنائي رقمي في الحادثة.
- أفصحنا بمسؤولية عن ثغرة يوم الصفر المحددة في برمجية خارجية مستضافة داخليًا، ونعمل معهم على تصحيحها.
- أدخلنا Hugging Face في برنامج الوصول الموثوق، وندعم فرقهم في استخدام قدرات نماذجنا بسرعة لتحسين دفاعاتهم.
- نحسن الحمايات المحيطة بالتدريب والتقييمات المستقبلية ونضيف حمايات أقوى. نشرنا هذا الأسبوع تدوينة حول تحسين السلامة والمواءمة في عصر النماذج ذات الأفق الزمني الطويل. لم تُفعّل وسائل حماية النشر هذه عمدًا أثناء هذا التقييم، لأنه كان يهدف إلى اختبار الثغرات السيبرانية. تشير هذه الحادثة إلى الحاجة إلى مزيد من تعزيز مواءمة نموذجنا، والحمايات السيبرانية أثناء التقييم، والمراقبة خلال الاختبارات الداخلية.
كما شاركنا مؤخرًا، يسرّع الذكاء الاصطناعي اكتشاف الثغرات واستغلالها. الدرس الأساسي من هذه الحادثة هو أن أمن النماذج وسلامتها يجب أن يواكبا القدرات التي تتقدم بسرعة. نعزز ممارسات الاحتواء والمراقبة وضوابط الوصول والتقييم المستخدمة أثناء تطوير النماذج.
يُظهر تقييم UK AISI أن نماذج مثل GPT‑5.6 Sol باتت أكثر قدرة على مواصلة عمليات سيبرانية معقدة ومتعددة الخطوات عبر آفاق زمنية طويلة. وتشير هذه الحادثة إلى أن هذه القدرات النظرية تنطبق فعلًا في بيئات العالم الحقيقي.
وتوضح الحادثة أيضًا أن النماذج المتقدمة قادرة على اكتشاف مسارات هجوم جديدة واستغلالها في أنظمة العالم الحقيقي من دون الوصول إلى الشفرة المصدرية. وتبرز أن القدرات السيبرانية المتقدمة يجب أن تُطوّر بالتوازي مع وسائل حماية وأدوات دفاعية أقوى.
نعتقد أن النماذج ذات القدرات السيبرانية المتقدمة يجب أن تساعد فرق الأمن على العثور على نقاط الضعف قبل المهاجمين، وفهم كيف يمكن ربط الثغرات معًا، ومعالجتها بسرعة الآلة. نستخدم هذه القدرات لمواصلة تعزيز الحمايات حول إعدادات البنية التحتية وبيئات تقييم النماذج؛ وسنشارك نتائجنا وأفضل الممارسات كلما تعلّمنا المزيد. نشجع المدافعين الآخرين على التقدم للحصول على وصول موثوق وتجربة هذه النماذج الآن لتحويل هذه القدرات إلى وقاية أفضل، وكشف أسرع، واستجابة أكثر فاعلية للحوادث.
"نحن ممتنون للتعاون مع OpenAI بشأن هذا الموضوع وغيره. وتؤكد هذه الحادثة، التي قد تكون الأولى من نوعها، قناعةً راسخة لدينا منذ زمن: لن يتحقق أمن الذكاء الاصطناعي بجهود شركة واحدة تعمل في الخفاء، بل سيتحقق في العلن، وبالتعاون، ومن خلال إتاحة الذكاء الاصطناعي على نطاق واسع لكل جهة مدافعة، أينما كانت."
