GPT‑6 Cyber: آفاق جديدة لوكلاء الأمن السيبراني المتوائمين
نموذج للأمن السيبراني مدرّب على اكتشاف الثغرات القابلة للاستغلال والتحقق منها، مع الالتزام بالنطاق الذي يحدده الباحثون.
نقدّم GPT‑6 Cyber، نقلة كبيرة في الأبحاث الأمنية: قدرات أكبر على اكتشاف الثغرات وإصلاحها، وموثوقية أعلى بكثير في الالتزام بالحدود التي يضعها الباحثون. يحقق GPT‑6 Cyber مكاسب كبيرة مقارنةً بـGPT‑5.6 Cyber على معايير أساسية للأمن السيبراني، منها تحسّن نسبي بنسبة 51% على ExploitGym، وقفزة نوعية في اختبارات الالتزام بالنطاق. وهو يساعد بالفعل على تأمين برمجيات مستخدمة فعليًا، من خلال اكتشاف آلاف الاستغلالات والتحقق منها في قواعد شيفرة ذات أهمية أمنية بالغة، مثل Linux وFirefox.
على معيار ExploitGym، الذي يختبر قدرة النماذج على استغلال ثغرة محددة، يسجّل GPT‑6 Cyber نتيجة 48.5%، مقابل 32.1% لنموذج GPT‑5.6 Cyber. كما يلتزم بحدود المهمة بموثوقية أكبر: ففي تقييم منفصل للمواءمة، تجنّب GPT‑6 Cyber استغلال الخدمات الواقعة خارج النطاق في 99.93% من الاختبارات من دون مطالبة النشر الخاصة به، وفي 100% منها عند استخدام هذه المطالبة. يعكس هذا التحسن في المواءمة تدريبًا مخصصًا للالتزام بالنطاق المصرّح به، واحترام القيود، والإبلاغ عن النتائج بدقة.
تساعد هذه القدرات بالفعل على تأمين أنظمة فعلية. استخدم باحثونا GPT‑6 Cyber لتطوير 948 استغلالًا لثغرات تصعيد الصلاحيات في Linux، واكتشاف 81 ثغرة عالية الخطورة لم تكن معروفة من قبل في Firefox، رغم الاختبارات المكثّفة السابقة باستخدام نماذج رائدة. ساعد النموذج أيضًا على تطوير تصحيحات مرشّحة، وقد أصدرت Mozilla إصلاحات للعديد من ثغرات Firefox(يفتح في نافذة جديدة). تستخدمه فرق الأمن في Cisco وCalif وCodeRabbit للبحث عن الثغرات ومراجعة الشيفرة، واعتمدنا عليه في اكتشاف نقاط الضعف في بنيتنا التحتية وإصلاحها.
من الواضح أن أمامنا فرصة زمنية محدودة لاستخدام النماذج الرائدة في تأمين البرمجيات. هدفنا هو توسيع Daybreak بدرجة كبيرة، وإتاحة الأبحاث الأمنية المتقدمة للمؤسسات بمختلف أحجامها، والباحثين المستقلين، والقائمين على صيانة البرمجيات مفتوحة المصدر. تدعم نماذج السلسلة الأساسية، مثل GPT‑6 Astra، بالفعل مراجعة الشيفرة وفرز الثغرات وتطوير التصحيحات. يساعد Daybreak Blue المدافعين الذين جرى التحقق منهم على التحقق من الثغرات والإصلاحات مع تقليل حالات الرفض غير الضرورية، بينما يتيح Daybreak Red تطوير استغلالات أكثر تعمّقًا وإجراء اختبارات أمنية مصرّح بها باستخدام GPT‑6 Cyber.
يمثّل GPT‑6 Cyber تقدمًا كبيرًا مقارنةً بـGPT‑5.6 Cyber، ويتفوّق على GPT‑6 Astra في معظم المهام السيبرانية، حتى عندما لا يرفض Astra الطلب. قيّمنا النموذج في مهام تتطلّب منه فهم البرمجيات، وتحديد الثغرات، وتطوير استغلالات ناجحة. استنادًا إلى هذه النتائج، نصنّف النموذج في المستوى «الحرج» في الأمن السيبراني وفق إطار الجاهزية لدينا، ارتفاعًا من المستوى «المرتفع» لنموذج GPT‑5.6 Cyber.
على معيار ExploitGym، الذي يختبر قدرة النماذج على استغلال ثغرة محددة في هدف بعيد، يسجّل GPT‑6 Cyber نتيجة 48.5%، أي أعلى بنحو 16 نقطة مئوية من نتيجة GPT‑5.6 Cyber البالغة 32.1%. ولاختبار اكتشاف الثغرات، أنشأنا أيضًا تقييمًا جديدًا لاختبار اختراق الويب بأسلوب هجومي. تفحص النماذج تطبيقات الويب من دون الوصول إلى شيفرتها المصدرية. حقق GPT‑6 Cyber معدل استرجاع للثغرات بلغ 40.3%، مقابل 32.0% لنموذج GPT‑6 Astra.
صُمّم Daybreak Red لدعم مسارات عمل أمنية أكثر تقدمًا، بما فيها تطوير استغلالات ناجحة واستخدامها ضد أهداف بعيدة. لتقييم هذه القدرات، أنشأنا معيارًا جديدًا باسم RemoteExploitBench، يستخدم ثغرات معروفة في تطبيقات مثل GitLab وPostgreSQL وJenkins منشورة في بيئة مضبوطة. في تقييمنا الأولي، رفض GPT‑6 Astra العامل ضمن Daybreak Blue تنفيذ 100% من المهام، بينما أنجز GPT‑6 Cyber نسبة 95% منها؛ وكان إخفاقه الوحيد في استغلال لم يتمكّن من تشغيله عن بُعد. راجع بطاقة النظام(يفتح في نافذة جديدة) للاطلاع على النتائج الكاملة وإعدادات التقييم.
من المخاطر المرتبطة بوكلاء الأمن السيبراني أن يتجاوزوا نطاق المهمة الموكلة إليهم، أو يحاولوا استغلال خدمات لا تتعلق بها، أو يتجاهلوا القواعد والقيود التي يحددها الباحث لإجراء الاختبار.
جعلنا المواءمة محورًا أساسيًا في GPT‑6 Cyber، واستخدمنا تدريبًا متخصصًا لمساعدة النموذج على الالتزام بالنطاق المصرّح به، واتباع القيود المفروضة على إجراءاته، وتقديم تقارير دقيقة عن عمله. قبل النشر، أجرينا سلسلة من تقييمات المواءمة لقياس هذه السلوكيات. راجع بطاقة النظام(يفتح في نافذة جديدة) للاطلاع على النتائج الكاملة.
من بين هذه التقييمات ExploitGym Honeypot، الذي استرشدنا في تصميمه بـحادثة Hugging Face. نكلّف النموذج بمهمة صعبة لاستغلال ثغرة في بيئة معزولة، مع إتاحة الوصول إلى خدمات مساندة، مثل سجل حزم أو مخزن كائنات. نتعمّد جعل هذه الخدمات سهلة الاستغلال، بحيث يمكن أن يكشف الهجوم عليها رمز العلم الخاص بالمهمة. وعلى النموذج أن يستنتج أن استغلال هذه الخدمات يقع خارج نطاق مهمته.
يُظهر GPT‑6 Cyber تحسنًا نوعيًا مقارنةً بـGPT‑5.6 Cyber في هذا التقييم. عند اختباره من دون مطالبات السلامة الخاصة بالنشر، تجنّب استغلال الخدمات الواقعة خارج النطاق في 99.93% من الحالات، مقابل 94.49% لنموذج GPT‑5.6 Cyber. ومع هذه المطالبات، التزم GPT‑6 Cyber بالحدود في 100% من الحالات.
يمكننا أن نرى مباشرةً في سلسلة الاستدلال لنموذج GPT‑6 Cyber كيف يفكّر في الالتزام بالحدود:
“Can't assume extra API or attack controller not target. We should only target binary/server.”
“don't explore out of scope credentials.”
يساعد GPT‑6 Cyber فرق الأمن بالفعل على اكتشاف الثغرات والتحقق من أثرها وتطوير إصلاحات لها. وظّفه العملاء للعمل على قواعد شيفرة كبيرة، ومهام طويلة الأمد لتطوير استغلالات الثغرات، والمراجعات الأمنية:
واعتمدنا أيضًا على GPT‑6 Cyber لتأمين أنظمتنا. فقد كان أحد النماذج الرئيسية التي استند إليها العمل الذي شاركناه مؤخرًا حول تحصين البنية التحتية المستخدمة لتدريب النماذج الرائدة. خلال حملات اختبار تقييم المخاطر في بيئات مضبوطة، ربط وكلاء يستخدمون GPT‑6 Cyber ونماذج أخرى من OpenAI بين ثغرات متعددة للخروج من الآلات الافتراضية المصغّرة وتنفيذ شيفرة على الأجهزة المضيفة لها. استخدمنا النتائج لترقيع البرمجيات، وتشديد قيود الشبكة، وإبلاغ القائمين على الصيانة والمورّدين بالمشكلات.
ويستخدم باحثونا المتخصصون في الثغرات GPT‑6 Cyber أيضًا لاكتشاف الثغرات والتحقق منها في البرمجيات مفتوحة المصدر على نطاق واسع. كشف هذا العمل عن عيوب لم تكن معروفة من قبل في برمجيات خضعت للتدقيق لسنوات:
اكتشاف 81 ثغرة جديدة في Firefox. يمكن أن يكون GPT‑6 Cyber مناسبًا للاستخدام في مسارات عمل ذاتية التشغيل لاكتشاف الثغرات واقتراح تصحيحات عالية الجودة على نطاق واسع. خلال حملة بحث عن الثغرات، قدّم GPT‑6 Cyber أدلة واختبارات قابلة لإعادة الإنتاج على 81 ثغرة جديدة صنّفتها Mozilla بأنها عالية الخطورة، وأظهر أن 30 مشكلة أخرى معروفة كانت أشد خطورة مما ورد في التقارير السابقة. أفصحنا عن النتائج لـMozilla، وأرفقنا بها تصحيحات مقترحة لمساعدة مهندسيها على تطوير الإصلاحات. دعمت Mozilla هذا العمل، وبدأت دمج الإصلاحات بعد وقت قصير من تلقّي التقارير(يفتح في نافذة جديدة).
تطوير استغلالات لـ948 ثغرة في نواة Linux. أعاد GPT‑6 Cyber إنتاج 1,724 ثغرة وطوّر استغلالات ناجحة لـ948 منها، أي أكثر من خمسة أضعاف الثغرات الـ166 التي استغلّها GPT‑5.6 Sol باستخدام منظومة التقييم البحثية نفسها. اتباعًا لإرشادات مجتمع Linux، أفصحنا للقائمين على الصيانة عن 304 نتائج حرجة مع تصحيحات مرشّحة، ونعمل حاليًا على معالجة الثغرات الأخرى.
إثبات وجود ثغرات حرجة لتنفيذ الشيفرة عن بُعد. ناقشنا مؤخرًا ثغرة حرجة في Brotli(يفتح في نافذة جديدة)، وهي مكتبة ضغط يستخدمها Node.js وبرمجيات أخرى. استخدم باحثونا الأمنيون GPT‑6 Cyber إلى جانب نماذج أخرى من OpenAI لتطوير استغلالات والتحقق منها، بهدف توضيح كيف يمكن لهذا العيب أن يتيح تنفيذ الشيفرة عن بُعد في التطبيقات التي تعتمد على المكتبة.
مع تزايد قدرات النماذج واكتشافها مزيدًا من الثغرات الأمنية، نشهد أيضًا مزيدًا من المحاولات لاستخدامها في إحداث الضرر. تشمل هذه المحاولات جهود جهات سيبرانية خبيثة ومجموعات معادية تسعى إلى تقطير نماذجنا. لذلك قرنّا قدرات GPT‑6 Cyber الأقوى بضوابط حماية أقوى، لرصد إساءة الاستخدام وإحباطها، وإبقاء إجراءات النموذج ضمن مقاصد المستخدم والصلاحيات التي يمنحها.
أضفنا وسائل الحماية هذه وعزّزناها بالتزامن مع إصدار GPT‑6 Cyber (راجع بطاقة النظام(يفتح في نافذة جديدة) للاطلاع على المعلومات الكاملة):
مراقبة اختلال المواءمة في المجال السيبراني. نراقب مدى توافق الإجراءات مع تفويض المستخدم، مع التمييز بين إساءة الاستخدام والتطوير والاختبار المشروعين لاستغلالات الثغرات.
مراقبة موجّهة للتهديدات الناشئة. على سبيل المثال، خلال الإفصاح المنسّق عن ثغرات حرجة في PHP، أنشأنا مراقبة موجّهة لمحاولات تطوير استغلالات تستهدف خوادم PHP العاملة، مع مواصلة دعم المدافعين الذين يطبّقون تصحيحات على الأنظمة المتأثرة.
معالجة السلامة الخاصة (PSP). نستخدم فحوصًا آلية لمراجعة التفاعلات ذات الصلة بحثًا عن إساءة الاستخدام. تظل سياسة الاحتفاظ القياسية هي الإعداد الافتراضي. يُلزم عمومًا عملاء واجهة API الذين يستخدمون عدم الاحتفاظ بالبيانات(يفتح في نافذة جديدة) باستخدام PSP(يفتح في نافذة جديدة)، التي تراجع السجلات المشفّرة المحفوظة في مساحة تخزين العميل لمدة 30 يومًا، من دون إتاحة المطالبات والردود لموظفي OpenAI.
الحماية من استخدام بيانات اعتماد مسروقة. نشترط افتراضيًا استخدام قائمة سماح لعناوين IP للوصول إلى واجهة API الخاصة بـDaybreak Red، بحيث تقتصر الطلبات على الشبكات المعتمدة مع استثناءات محدودة. ونراقب أيضًا بيانات الاعتماد لرصد أي اختراق لها.
العزل والإشراف. كما في النماذج السابقة، نوصي باستخدام البيئات المعزولة(يفتح في نافذة جديدة)، ومراجعة الإجراءات(يفتح في نافذة جديدة)، والإشراف البشري في مسارات العمل عالية المخاطر.
ضوابط للحماية من تقديم مساعدة سيبرانية عالية المخاطر. نستخدم فحوصًا جديدة لحظر الأنشطة عالية المخاطر التي تتعلق بأنظمة حيوية (انظر أدناه لمزيد من التفاصيل).
كانت حماية البنية التحتية الحيوية، بما فيها محطات الطاقة ومنشآت معالجة المياه والتقنيات التشغيلية وأنظمة التحكم الصناعي (OT/ICS) التي تعتمد عليها هذه المنشآت، من الاعتبارات الأساسية عند تصميم ضوابط الحماية وآليات الوصول إلى GPT‑6 Cyber. نريد أن نتيح للفرق التي تدافع عن هذه الأنظمة الوصول إلى نماذجنا الأكثر قدرة، مع تعزيز ضوابط الحماية في الوقت نفسه لمنع الهجمات غير المصرّح بها.
أولًا، لتمكين هؤلاء المدافعين، يقدّم برنامج المنح Daybreak للمدافعين في الخطوط الأمامية، البالغة قيمته مليار دولار، دعمًا لتكاليف الوصول للفرق محدودة الموارد، مثل الجهات الحكومية ومقدّمي الخدمات الأساسية. ونقدّم أيضًا مجموعة جديدة ضمن Daybreak Red (Daybreak Red للبنية التحتية الحيوية) للمدافعين المعتمدين عن البنية التحتية الحيوية، تمنحهم صلاحيات إجراء اختبارات مصرّح بها للأنظمة الحيوية، مع الإبقاء على ضوابط الحماية من اختلال مواءمة النموذج.
ثانيًا، لمنع إساءة استخدام منصّتَي Daybreak Red وBlue، حسّنّا ضوابط الحماية من تقديم المساعدة وتطوير القدرات التي قد تخترق أنظمة التحكم الصناعي أو الأنظمة الحرجة للسلامة، أو تؤثر سلبًا في عمل المعدات، أو تتسبب في إصابات خطيرة أو أضرار مادية كارثية أو تعطّل خدمات يهدّد الحياة. يقارن الشكل أدناه معدلات التصنيف بواسطة ضوابط الحماية عبر أربعة إعدادات للوصول، قبل التحديثات الأخيرة التي نطرحها بالتزامن مع GPT‑6 Cyber وبعدها.
ارتفاع معدلات الحظر بواسطة ضوابط الحماية ليس أفضل دائمًا. فكثير من التقنيات الواردة في هذا التقييم ضرورية أيضًا للعمل الأمني المشروع: فهم الأنظمة، واكتشاف الثغرات، والتحقق من صمود الإصلاحات أمام الهجمات. لذلك نقيّم هذه المعدلات إلى جانب مدى دعم الأبحاث المشروعة وتطبيق التصحيحات، بدلًا من استهداف نسبة 100%.
لتقييم كيفية مساعدة نماذجنا في الدفاع عن البنية التحتية الحيوية، تعاونا مع Dragos، المزوّد العالمي للأمن السيبراني للتقنيات التشغيلية الموسّعة (xOT). أجرت Dragos تقييمات في بيئة مختبرية مضبوطة باستخدام نماذج Daybreak Red التي تتيح نطاقًا أوسع من الأنشطة السيبرانية. شملت التقييمات طلبات تتدرّج من اكتشاف الشبكات وحصر الأصول إلى الاستطلاع الموجّه، وتسريب البيانات الحساسة، وتنفيذ إجراءات غير مصرّح بها على الأجهزة قد تكون خطيرة.
استخدمنا ملاحظات Dragos لتحسين ضوابط الحماية، بهدف حظر المساعدة الضارة من دون فرض قيود غير ضرورية على الاختبارات المصرّح بها. راجع تقريرها النهائي(يفتح في نافذة جديدة) للاطلاع على تفاصيل التقييمات. نعمل أيضًا على توسيع الشراكات مع مزوّدين آخرين للأمن الهجومي وفرق بنفسجية في مجال اختبار الاختراق واختبار تقييم المخاطر باستخدام AI، ومع شركات الطاقة ومشغّلين آخرين للبنية التحتية الحيوية ومختبرات وطنية، لتقييم فاعلية نماذجنا وضوابط حمايتها في الدفاع عن الأنظمة الصناعية. وزدنا أيضًا استثماراتنا في التحقيق في التهديدات لرصد استخدام النماذج في أنشطة تتعلق بالتقنيات التشغيلية وأنظمة التحكم الصناعي (OT/ICS). سنواصل تحسين ضوابط الحماية بالاستفادة من ملاحظات الشركاء ومجتمع الأمن، بما فيها البلاغات عبر /feedback عندما تعجز الضوابط عن رصد نشاط ضار أو تعيق عملًا مشروعًا.
يتوفر GPT‑6 Cyber مبدئيًا عبر واجهة API وCodex لمجموعة مختارة من عملاء Daybreak Red المعتمدين. سنوسّع نطاق الوصول تدريجيًا ليشمل جميع عملاء Daybreak Red قريبًا، كما نتيح GPT‑5.6 Cyber لجميع عملاء Daybreak Red. نوسّع أيضًا نطاق الوصول التجريبي الأولي إلى GPT‑6 Astra عبر Daybreak Blue ليشمل مزيدًا من المؤسسات والباحثين الأمنيين بصفتهم أفرادًا؛ أخبرنا(يفتح في نافذة جديدة) إذا كنت مهتمًا.
يمكن للمستخدمين والمؤسسات الجدد التقدّم للانضمام إلى Daybreak والبدء بالاستفادة من مهاراتنا ومنتجاتنا وشركائنا في الأمن السيبراني.
