تعزيز الرقابة الديمقراطية في مجال الأمن القومي

يغيّر الذكاء الاصطناعي طريقة حماية الحكومات الديمقراطية لشعوبها. فهو يمكن أن يساعد في وقف الهجمات السيبرانية، وتأمين البنية التحتية الحيوية، واكتشاف التهديدات مبكرًا، ومنح الموظفين الحكوميين صورة أوضح في الأزمات. وعند استخدام هذه الأدوات على نحو سليم، يمكنها تعزيز الأمن القومي.

تساعد الرقابة الديمقراطية في ضمان خضوع استخدامات السلطة العامة للمساءلة أمام من تخدمهم. ومع تسريع الذكاء الاصطناعي لعمل الأمن القومي وتعزيز قدراته، تحتاج المؤسسات المسؤولة عن الرقابة عليه أيضًا إلى مواكبة هذا التطور. يمكن للذكاء الاصطناعي أن يتصرف بسرعة وعلى نطاق واسع استنادًا إلى سياق ناقص أو قديم، أو أهداف مضبوطة على نحو خاطئ، أو افتراضات غير متسقة، ما يزيد صعوبة اكتشاف الأخطاء يدويًا قبل انتشارها. تكتسب الرقابة أهمية خاصة عند استخدام الذكاء الاصطناعي في الأمن القومي، لأن القرارات قد تستلزم السرية وقد تترتب عليها عواقب بالغة الخطورة.

استرشادًا بـمبادئنا للأمن القومي، نتعامل مع عمليات نشر الذكاء الاصطناعي في هذا المجال بتدابير حماية، وحكم بشري فعّال، ورقابة مناسبة، لا سيما في البيئات بالغة الخطورة. وتجعل هذه المبادئ أيضًا من مساعدة المؤسسات المكلّفة بالرقابة على بناء قدرتها لمتابعة استخدام الذكاء الاصطناعي بسرعة وعلى نطاق واسع أولويةً لنا.

تتمتع المؤسسات الحكومية بالفعل بصلاحيات ومسؤوليات راسخة للرقابة على أنشطة الأمن القومي. وعندما يسهم الذكاء الاصطناعي في تلك الأنشطة، قد يلزم تطوير أساليب الرقابة. تتطلب الرقابة التقليدية عملًا كثيفًا، وتغدو شبه مستحيلة عندما تُكلّف فرق صغيرة تستخدم أساليب تعود إلى عصر الورق بمراجعة أنظمة تعمل بسرعة الآلة.

تؤمن OpenAI بأن الأنظمة الأعلى قدرةً تتطلب رقابة أقوى، ونطبّق هذا المبدأ على أنفسنا. بموجب إطار الجاهزية لدينا، تخضع النماذج المتقدمة لمراجعة دقيقة قبل نشرها لفهم قدراتها وتحديد مدى كفاية تدابير الحماية. ويستمر هذا التدقيق بعد النشر من خلال المراقبة المتواصلة ومراجعة الحوادث، وتسترشد بما نتعلمه تدابير حماية أقوى وعمليات تطوير النماذج مستقبلًا.

لا تضطلع OpenAI بدور رقابي على الحكومة، ولا ينبغي لها ذلك. فهذه المسؤولية تقع على عاتق المسؤولين المنتخبين والمؤسسات العامة المنشأة لهذا الغرض. وبدلًا من ذلك، يمكننا دعم مؤسسات الرقابة بتقنياتنا في أثناء تنفيذ اختصاصاتها القائمة.

ستوجّه ثلاثة مبادئ هذا العمل.

أولًا، ينبغي للذكاء الاصطناعي أن يعزز الحكم البشري والمؤسسي، لا أن يحل محله. فالقرارات المتعلقة بمدى قانونية سلوك الحكومة وملاءمته واتساقه مع القواعد والسياسات المعمول بها هي من اختصاص الجهات المخوّلة وهيئات الرقابة المنشأة قانونًا.

ثانيًا، ينبغي أن يكون استخدام الحكومة للذكاء الاصطناعي قابلًا للتتبع والفهم من جانب جهات الرقابة المخوّلة. ويجب أن يتمكن المراجعون من فهم إسهام الذكاء الاصطناعي في القرار، مع حماية المعلومات المصنفة والخصوصية والحساسة أمنيًا.

ثالثًا، ينبغي استخدام الذكاء الاصطناعي لتمكين مؤسسات الرقابة الديمقراطية. لا يمكن توسيع نطاق الرقابة اليدوية على استخدام الذكاء الاصطناعي في الحكومة. ومع اعتماد الذكاء الاصطناعي في الأمن القومي وغيره من الأعمال الحكومية بالغة الخطورة، ينبغي لهيئات الرقابة أيضًا استخدامه بمسؤولية ووضوح ووفقًا لاختصاصاتها.

نعتزم خلال العام المقبل دفع هذه المبادرة قدمًا بالطرق الآتية:

• سنعمل مع المسؤولين المخوّلين لتحديد فرص عملية يمكن فيها لأدوات الذكاء الاصطناعي أو الدعم التقني زيادة فاعلية الرقابة.

• سنقدم لهيئات الرقابة الحكومية الديمقراطية دعمًا بقيمة 5 ملايين دولار يشمل التدريب والدعم التقني ورصيد استخدام OpenAI، دعمًا لاعتماد أدوات الذكاء الاصطناعي وتقييمها بمسؤولية.

• سنعمل مع مؤسسات الرقابة على تجربة أدوات تساعد المراجعين المخوّلين في فحص السجلات المحيطة بالقرارات الحكومية المدعومة بالذكاء الاصطناعي، بما يشمل المدخلات والمخرجات ذات الصلة واستخدام الأدوات، لفهم تأثير الذكاء الاصطناعي في النتائج بصورة أفضل. ستكون الأدوات قابلة للتشغيل البيني أو مستقلة عن أي نموذج حيثما أمكن. ستحتفظ المؤسسات المشاركة، لا OpenAI، بالسيطرة على الأدلة والمخرجات والنتائج، ولن تظل متاحة إلا للمسؤولين الحكوميين المخوّلين.

• سنتعاون مع المجتمع المدني والخبراء التقنيين حتى تسهم وجهات نظرهم في طريقة تطوير OpenAI لهذه الأدوات وتعاملها مع المسؤوليات المصاحبة لها.

يمكن للذكاء الاصطناعي أن يركّز السلطة، أو أن يساعد المؤسسات الديمقراطية في ممارستها ومراقبتها بفاعلية أكبر. لن تحدد التكنولوجيا وحدها أي مستقبل سنبلغه، لكن الخيارات التي تتخذها المؤسسات البشرية والشركات الآن ستفعل ذلك.

سنقيّم تقدم هذه المبادرة بناءً على مدى تحسن قدرة المراجعين المخوّلين على الوفاء بالتزاماتهم، ومدى توافر أسباب أقوى لدى الجمهور للثقة بأن أنظمة الذكاء الاصطناعي الحكومية تُستخدم على النحو المنشود.

ومع تطور استخدام الحكومة للذكاء الاصطناعي، ستواصل OpenAI دعم المؤسسات المسؤولة عن الرقابة عليه.