الحوكمة الديمقراطية للذكاء الاصطناعي الرائد، الجزء الثاني: تمكين فرق الدفاع السيبراني
يغيّر الذكاء الاصطناعي سرعة عمليات الأمن السيبراني ونطاقها واقتصادياتها. يمكنه مساعدة فرق الدفاع السيبراني على اكتشاف الثغرات وإصلاحها، ورصد الاختراقات، والتصدي للهجمات، لكن القدرات نفسها قد تمنح الجهات الخبيثة أدوات إضافية وتُنشئ مخاطر جديدة حين تتجاوز أنظمة الذكاء الاصطناعي الحدود المرسومة لها. أمامنا الآن فرصة محدودة لدعم فرق الدفاع السيبراني: إتاحة الذكاء الاصطناعي المتقدم لهذه الفرق وتعزيز وسائل الحماية قبل أن تصبح القدرات الهجومية السيبرانية المتقدمة متاحة على نطاق واسع.
ننشر اليوم خطة لتمكين فرق الدفاع السيبراني، استكمالًا لخطة عملنا السابقة للأمن السيبراني وخطتنا لسلامة الذكاء الاصطناعي الرائد(يفتح في نافذة جديدة). تؤكد خبرتنا مع حالات عدم المواءمة والحوادث الأمنية التي شملت نماذجنا الحاجة إلى ضمانات ومساءلة أقوى على مستوى القطاع بأكمله. واستنادًا إلى هذه الدروس، تطرح الخطة مقترحات محددة للحكومات والقطاع في ثلاثة مجالات:
تعزيز سلامة الذكاء الاصطناعي المتقدم وأمنه: تحديد مسؤوليات أوضح لتأمين نماذج الذكاء الاصطناعي الرائدة ووكلائه، ورصد السلوك الخطير، والحفاظ على ضوابط موثوقة لإيقاف العمليات الخاضعة لسيطرة كل مؤسسة.
تحديث الأمن السيبراني لعصر الذكاء: تزويد فرق الدفاع السيبراني بأدوات متقدمة وتدريب ودعم تقني؛ ومعالجة مواطن الضعف المزمنة في الأمن السيبراني؛ والاستثمار في تأمين الخدمات الأساسية واستبدال الأنظمة المتقادمة.
بناء مؤسسات عامة قادرة على الصمود والتكيف: تعزيز التقييمات الحكومية والتقييمات التقنية المستقلة، ووضع متطلبات موحّدة للإبلاغ عن الحوادث، وتحسين التنسيق في الاستجابة والتعافي.
تتحمل مختبرات الذكاء الاصطناعي مسؤولية معالجة المخاطر التي تُنشئها أنظمتها والمساهمة في تعزيز دفاعات المجتمع. ويجب أيضًا أن تمتلك الحكومات الخبرات والموارد والصلاحيات اللازمة لحماية الناس مع تقدّم هذه القدرات. نشجّع صنّاع السياسات على التحرك الآن، بإرساء الضمانات والتعلّم من التجربة وتعزيز المتطلبات مع تطوّر التكنولوجيا.
اقرأ الخطة الكاملة هنا(يفتح في نافذة جديدة).
