كيف تبني Block أمنًا بالذكاء الاصطناعي بتقنيات OpenAI

في Block، الشركة المطوّرة لخدمات Square وCash App وAfterpay، يستعين فريق الأمن بمنظومة OpenAI Defense Factory، حيث يتولى الذكاء الاصطناعي اكتشاف الثغرات ورصدها والاستجابة لها على نطاق يعجز أي فريق بشري عن مجاراته. بفضل أنظمة الذكاء الاصطناعي، ومنها OpenAI Daybreak، تنجز Block في ساعات قليلة أعمالًا كانت تستغرق أسابيع.

يركّز فريق الأمن في Block على تبنّي الذكاء الاصطناعي بمسؤولية في مختلف مسارات العمل، سواء في توليد الشيفرة البرمجية أو العمليات الأمنية. يقول جيمس نيتسهايم، رئيس أمن المعلومات: «جوهر الأمر هو أن يكون لديك زميل جديد في الفريق يساعدك على توسيع نطاق عملك». «هذا يختلف عن الأتمتة التقليدية التي كانت تتطلب منك تحديد كل خطوة على حدة. يمكنك أن تطرح عليه مشكلة خاصة بعملك يشوبها الغموض، ثم تتعاونا على حلّها».

كانت مهام مثل مراجعة خلل برمجي أو تحليل سجل تستغرق أيامًا أو أسابيع. أما الآن، فينجز الفريق هذه المهام في وقت أقصر بكثير، مع استمرار التحقق البشري من كل نتيجة.

فعند ضبط آليات الرصد مثلًا، يُحتفظ بالأدلة الخام الناتجة عن الاستعلامات في كل تحقيق. وبذلك يستطيع الفريق الآن إعادة اختبار تعديل مقترح على آليات الرصد باستخدام بيانات قياس من بيئة الإنتاج تغطي سبعة أشهر، في أقل من ساعة. كان هذا العمل يتطلب إعادة الاستعلام يدويًا عن مئات الحالات السابقة، لذا نادرًا ما كان يُنفَّذ فعليًا بسبب الوقت الطويل الذي يستغرقه.

وأصبح الفريق أيضًا أكثر دقة في اختيار النموذج المناسب لكل مهمة. ويقول: «كنا نستخدم أحدث نموذج، لكن ذلك لم يعد ضروريًا». «لقد تعلّمنا من التجربة كيف نختار نماذج مختلفة لمهام مختلفة». وتعتمد منظومة التقييم الأمني لدى Block على Daybreak للمساعدة في توجيه المهام إلى النموذج المناسب، وتتضمن آليات تتيح للبشر تولّي المهام أو للوكلاء التحقق من عمل بعضهم بعضًا. يقيّم الفريق هذه الأنظمة باستمرار وفق معايير داخلية وأدائها في الواقع، ويعدّل نهجه عند الحاجة، بما في ذلك إحالة العمل إلى المراجعة البشرية حين يكون ذلك هو الخيار المسؤول.

أدى نظام الفرز الآلي إلى إنجاز مزيد من العمل بوتيرة أسرع. شهد فريق الأمن في Block تحسّنًا بنسبة 50% في إنتاجية الفرز، وزيادة بنسبة 50% في جمع المعلومات الاستخباراتية والتحقيقات، واكتسب قدرة جديدة كليًا على التعقّب الذاتي للتهديدات. يقول نيتسهايم: «ينجز النظام كل ربع سنة تحقيقات تعادل نحو 1,100 ساعة من عمل المحللين، لأن كل تنبيه يخضع الآن لتحقيق شامل ومتعمّق يشمل جميع العناصر المرتبطة به. يتعامل نظامنا مع كل تنبيه وكأنه التنبيه الوحيد الذي تلقّيناه في ذلك اليوم».

ترصد أدوات الفحص التقليدية كل ثغرة بمعزل عن غيرها، لكن فريق الأمن في Block يستطيع الذهاب إلى أبعد من ذلك بكثير مع Daybreak. يساعد النموذج على وضع فرضيات حول أنماط الهجمات وربط سلسلة منها لتشكيل مسار اختراق كامل من البداية إلى النهاية، كاشفًا ثغرات ربما كانت موجودة منذ سنوات.

في إحدى الحالات، بدا تنبيه صادر عن حاسوب محمول واحد، عند النظر إليه منفردًا، وكأنه مخالفة بسيطة للسياسات. لكن أثناء مراجعة الأقران، تتبّع النموذج مؤشرًا ورد عرضًا في الأدلة، وربطه بسجلات الهوية لدى Block، فكشف مجموعة أكبر بكثير من المشكلات. «تحوّل تنبيه روتيني واحد على جهاز طرفي إلى إحباط حملة هجومية. لا توجد أداة منفردة تُجري هذا الربط. لا تظهر الإشارة إلا عند الجمع بين سجلات منتجين»، كما يقول جيمس.

ومن الأمثلة الأخرى على مساعدة Daybreak تمرين حديث لاختبار تقييم المخاطر. تلقّى النموذج بعض التلميحات عن نظام داخلي، فربط مراحل هجوم كامل في نحو ساعتين: حقن SQL، وتصعيد الصلاحيات، وترسيخ موطئ قدم، وحصر بيانات الاعتماد، ثم الانتقال إلى أنظمة أخرى. عادةً ما يستغرق هذا العمل عدة أيام من مختص بشري في اختبار تقييم المخاطر. في تمارين حديثة لاختبار تقييم المخاطر، استغرق الانتقال من تقديم وصف عام لثغرة إلى اقتراح تصحيح آليًا 18 دقيقة.

لا تتحقق قيمة اكتشاف الثغرات إلا بالقدرة على إصلاحها. يشرح نيتسهايم العملية التي يتبعها فريقه مع كل مشكلة مكتشفة: تحديد موضعها في الشيفرة البرمجية ومعرفة المسؤول عنها، ثم الانتقال إلى المعالجة. «تقترح تصحيحًا، وتتأكد من قابلية استغلال الثغرة، ثم تتحقق من إصلاحها، مع إشراف بشري يوجّه العملية وينشر التعديلات على الشيفرة».

رغم كفاءة الوكلاء التقنية، فإنهم لا يملكون معرفة بسياق المؤسسة أو بمبررات القرارات السابقة. يوفّر البشر هذا السياق والتوجّه الاستراتيجي، وهنا يأتي دور فريقه في إجراء المراجعة البشرية. يقول نيتسهايم إنه مع ثبوت سلامة تقدير الذكاء الاصطناعي عمليًا، «سنرفع تدريجيًا مستوى المخاطر التي نسمح له بالتعامل معها، لنستخدمه في أنظمة أكثر حساسية».

• أقل من ساعة لإعادة اختبار تعديل مقترح على الرصد باستخدام بيانات قياس تغطي سبعة أشهر.

• 18 دقيقة من تقديم وصف عام لثغرة إلى اقتراح تصحيح آليًا في تمارين حديثة لاختبار تقييم المخاطر.

• توفير نحو 600 ساعة من وقت المحللين كل ربع سنة، كانت تُخصَّص لفرز التنبيهات الكاذبة.

• إنجاز تحقيقات تعادل نحو 1,100 ساعة من عمل المحللين كل ربع سنة.

• تحسّن بنسبة 50% في إنتاجية الفرز.

• زيادة بنسبة 50% في جمع المعلومات الاستخباراتية والتحقيقات.

أسهم العمل في مجال الرصد والاستجابة وحده في توفير نحو 600 ساعة من وقت المحللين كل ربع سنة، كانت تُخصَّص لفرز التنبيهات الكاذبة. وبفضل هذا الوقت المتاح، يخصّص الفريق الآن وقتًا أطول لتحقيقات أكثر تعمّقًا ولتطوير مزيد من الأتمتة بمسؤولية.

مع تسارع وتيرة الهجمات واستمرار تقدّم نماذج الذكاء الاصطناعي، يرى نيتسهايم فرصة للحدّ من نشوء الثغرات أصلًا. ومن شأن ذلك أن يتيح لفرق الأمن تقليل الوقت الذي تقضيه في التصحيح، وتخصيص مزيد منه للعمل الوقائي والاستراتيجي.

ويقول: «تُرجّح OpenAI كفّة المدافعين بإتاحة هذه القدرات المتقدمة للجميع». «كانت هذه القدرات عادةً حكرًا على شركات التقنية الكبرى والحكومات. أما الآن، فبإمكان الجميع، بما في ذلك جهات البنية التحتية الحيوية والمدارس والشركات الصغيرة، البدء في استخدام هذه التقنية للدفاع عن شبكاتهم».