اتفاقيتنا مع وزارة الحرب

توصلنا يوم أمس إلى اتفاق مع البنتاغون لنشر أنظمة ذكاء اصطناعي متقدمة في بيئات مصنفة سرية، وقد طلبنا منهم إتاحة هذا الإطار أيضًا لجميع شركات الذكاء الاصطناعي.

نعتقد أن اتفاقيتنا تتضمن ضوابط حماية أكثر من أي اتفاقية سابقة لعمليات نشر الذكاء الاصطناعي المصنّف سريًا، بما في ذلك اتفاقية Anthropic، وإليكم السبب.

لدينا ثلاثة خطوط حمراء رئيسية توجه عملنا مع وزارة الدفاع (DoW)، هي مبادئ تشترك فيها عمومًا عدة مختبرات رائدة في المجال:

• عدم استخدام تقنيات OpenAI في المراقبة الداخلية واسعة النطاق.
• عدم استخدام تقنيات OpenAI لتوجيه أنظمة الأسلحة ذاتية التشغيل. 
• عدم استخدام تقنيات OpenAI لاتخاذ قرارات آلية عالية المخاطر (مثل أنظمة “الائتمان الاجتماعي”).

خفّضت مختبرات ذكاء اصطناعي أخرى ضوابط السلامة لديها أو أزالت بعضها، واعتمدت أساسًا على سياسات الاستخدام باعتبارها خط الدفاع الرئيسي في سياقات تتعلق بالأمن القومي. أما نحن، فنرى أن نهجنا يوفّر حماية أفضل ضد أي استخدام غير مقبول.

وفي إطار اتفاقنا، نحمي خطوطنا الحمراء من خلال مقاربة أوسع ومتعددة المستويات. فنحتفظ بالتحكم الكامل في منظومة السلامة الخاصة بنا، وننشر تقنياتنا عبر بيئات سحابية، ويظل موظفو OpenAI الحاصلون على التصاريح الأمنية جزءًا من العملية، كما نعتمد على ضمانات تعاقدية قوية. ويأتي كل ذلك إضافةً إلى الحماية الراسخة التي يوفّرها القانون الأمريكي. 

وعلى مستوى أوسع، نؤمن إيمانًا راسخًا بالديمقراطية. ونظرًا لأهمية هذه التكنولوجيا، نعتقد أن المسار السليم يتطلب تعاونًا وثيقًا بين جهود تطوير الذكاء الاصطناعي والعملية الديمقراطية. كما نُدرك أن تقنياتنا قد تُدخل مخاطر جديدة إلى العالم، ولذلك نحرص على أن يمتلك من يتولّون الدفاع عن الولايات المتحدة أفضل الأدوات المتاحة.

تشمل اتفاقيتنا ما يلي:

1. هيكلية النشر. يعتمد هذا النشر على السحابة فقط، ويستند إلى منظومة سلامة نشغّلها بأنفسنا، تتضمن هذه المبادئ وغيرها. نحن لا نوفر لوزارة الحرب نماذج تعمل دون ضوابط (“guardrails off”) أو نماذج غير مدرّبة على السلامة، كما أننا لا ننشر نماذجنا على أجهزة طرفية قد تُستخدم في سياقات تنطوي على مخاطر، مثل الأسلحة الفتاكة ذاتية التشغيل. 

ومن خلال هذه الهيكلية، يمكننا التحقق بشكل مستقل من عدم تجاوز خطوطنا الحمراء، بما في ذلك تشغيل أدوات التصنيف وتحديثها بصورة مستمرة.

2. عقدنا. فيما يلي الصياغة ذات الصلة:

يجوز لوزارة الحرب استخدام نظام الذكاء الاصطناعي في جميع الأغراض المشروعة، بما يتوافق مع القوانين المعمول بها، والمتطلبات التشغيلية، وبروتوكولات السلامة والرقابة الراسخة. ولن يُستخدم النظام لتوجيه الأسلحة ذاتية التشغيل بصورة مستقلة في أي حالة يقتضي فيها القانون أو اللوائح أو سياسات الوزارة إشرافًا بشريًا، كما لن يُستخدم لاتخاذ قرارات عالية المخاطر تتطلب موافقة صانع قرار بشري بموجب السلطات ذاتها. وبموجب توجيه وزارة الدفاع رقم 3000.09 (الصادر بتاريخ 25 يناير 2023)، يخضع أي استخدام للذكاء الاصطناعي في الأنظمة الذاتية أو شبه الذاتية لعمليات تحقق واعتماد واختبار صارمة، لضمان أدائه كما هو مقصود في بيئات واقعية قبل نشره.

أما فيما يتعلق بالأنشطة الاستخباراتية، فإن أي تعامل مع المعلومات الخاصة سيخضع للتعديل الرابع من الدستور الأمريكي، وقانون الأمن القومي لعام 1947، وقانون الاستخبارات والمراقبة الأجنبية لعام 1978، والأمر التنفيذي 12333، إضافة إلى توجيهات وزارة الدفاع ذات الصلة التي تشترط غرضًا استخباراتيًا أجنبيًا محددًا. ولن يُستخدم النظام للمراقبة غير المقيّدة لمعلومات خاصة تخص أشخاصًا داخل الولايات المتحدة بما يخالف هذه الأطر القانونية. كما لن يُستخدم في أنشطة إنفاذ القانون داخل البلاد إلا في الحدود التي يجيزها قانون Posse Comitatus وغيره من القوانين السارية.

3. إشراك خبراء الذكاء الاصطناعي. سيشارك مهندسو OpenAI الحاصلون على التصاريح الأمنية في دعم الجهات الحكومية ميدانيًا، مع بقاء باحثي السلامة والمواءمة، ممن يحملون تصاريح مماثلة، ضمن حلقة العمل لضمان الالتزام المستمر بالمعايير المتفق عليها. 

لماذا تقومون بذلك؟ 

أولًا، نعتقد أن الجيش الأمريكي بحاجة فعلًا إلى نماذج ذكاء اصطناعي قوية تدعم مهمته، لا سيما في ظل التهديدات المتزايدة من خصوم محتملين يدمجون تقنيات الذكاء الاصطناعي بشكل متزايد في أنظمتهم. ومع ذلك، لم نسارع في البداية إلى توقيع عقد لنشر الأنظمة في بيئات مصنّفة سريًا، لأننا لم نكن نرى أن ضوابطنا وأنظمتنا جاهزة بعد. ومنذ ذلك الحين، عملنا بجد لضمان أن أي نشر في بيئات مصنّفة يمكن أن يتم ضمن أطر حماية واضحة تضمن عدم تجاوز الخطوط الحمراء. 

وقد كنا — وما زلنا — غير مستعدين لإزالة ضوابط تقنية أساسية بهدف تحسين الأداء في أعمال تتعلق بالأمن القومي. فهذا ليس النهج الصحيح لدعم الجيش الأمريكي. 

ثانيًا، أردنا أيضًا تهدئة التوتر بين وزارة الحرب ومختبرات الذكاء الاصطناعي في الولايات المتحدة. فالمستقبل الإيجابي يتطلب تعاونًا حقيقيًا وعميقًا بين الحكومة ومختبرات الذكاء الاصطناعي. وفي إطار اتفاقنا، طلبنا أن تُتاح الشروط نفسها لجميع مختبرات الذكاء الاصطناعي، وأن تسعى الحكومة بشكل خاص إلى تسوية الأمور مع Anthropic؛ إذ إن الوضع الحالي لا يمثل بداية موفّقة للمرحلة التالية من التعاون بين الحكومة ومختبرات الذكاء الاصطناعي.

لماذا تمكنتم من التوصل إلى اتفاق بينما لم تتمكن Anthropic من ذلك؟ هل وقعتم على اتفاق لم يوافقوا عليه؟

استنادًا إلى ما نعرفه، نؤمن بأن عقدنا يوفّر ضمانات أفضل وتدابير وقائية أكثر مسؤولية من الاتفاقيات السابقة، بما في ذلك عقد Anthropic الأصلي. ونعتقد أن خطوطنا الحمراء أكثر قابلية للتنفيذ هنا لأن النشر يقتصر على السحابة فقط (وليس على الأجهزة الطرفية)، ويحافظ على تشغيل منظومة السلامة لدينا بالطريقة التي نراها الأفضل، ويُبقي موظفي OpenAI المصرّح لهم ضمن دائرة الاطلاع والإشراف.

ولا نعلم سبب عدم تمكن Anthropic من التوصل إلى هذا الاتفاق، ونأمل أن يعيدوا النظر فيه، وكذلك أن تنظر فيه مختبرات أخرى.

هل تعتقدون أنه ينبغي تصنيف Anthropic على أنها 'مخاطر في سلسلة التوريد'؟

لا، وقد أوضحنا موقفنا في هذا الشأن للحكومة.

هل يتيح هذا الاتفاق لوزارة الحرب استخدام نماذج OpenAI لتشغيل أسلحة ذاتية؟ 

لا. استنادًا إلى منظومة السلامة لدينا، واعتماد النشر عبر السحابة فقط، وصياغة العقد، والقوانين واللوائح والسياسات المعمول بها، نحن واثقون من أن ذلك لا يمكن أن يحدث. كما سيبقى موظفو OpenAI ضمن حلقة الإشراف لتوفير مستوى إضافي من الطمأنينة.  

هل يتيح هذا الاتفاق لوزارة الحرب استخدام نماذج OpenAI لإجراء مراقبة جماعية على أشخاص داخل الولايات المتحدة؟

لا. استنادًا إلى منظومة السلامة لدينا، وصياغة العقد، والقوانين القائمة التي تقيّد بشدة المراقبة الداخلية من قبل وزارة الحرب، نحن واثقون من أن ذلك لا يمكن أن يحدث. كما سيبقى موظفو OpenAI ضمن حلقة الإشراف لتوفير مستوى إضافي من الطمأنينة.  

هل يتعين عليكم نشر النماذج دون منظومة سلامة؟

لا. نحن نحتفظ بالتحكم الكامل في منظومة السلامة التي ننشرها، ولن ننشر أي نظام دون ضوابط أمان واضحة. وإضافة إلى ذلك، سيبقى باحثو السلامة والمواءمة لدينا ضمن حلقة الإشراف للمساهمة في تحسين الأنظمة مع مرور الوقت. صحيح أن بعض مختبرات الذكاء الاصطناعي الأخرى خفّضت ضوابط النماذج واعتمدت أساسًا على سياسات الاستخدام كخط دفاع رئيسي، لكننا نرى أن نهجنا متعدد المستويات يوفّر حماية أقوى ضد أي استخدام غير مقبول.

ماذا يحدث إذا انتهكت الحكومة شروط العقد؟

كما هو الحال في أي عقد، يمكننا إنهاؤه إذا أخلّ الطرف المقابل بشروطه. ومع ذلك، لا نتوقع حدوث ذلك.

ماذا لو غيّرت الحكومة القوانين أو سياسات وزارة الحرب القائمة؟

ينص عقدنا صراحةً على القوانين والسياسات المتعلقة بالمراقبة والأسلحة ذاتية التشغيل كما هي قائمة اليوم. وبذلك، حتى لو تغيّرت هذه القوانين أو السياسات مستقبلًا، يظل استخدام أنظمتنا ملزمًا بالمعايير الحالية المنعكسة في الاتفاق. 

كيف تردّون على الحجج التي طرحتها Anthropic في منشور مدونتها⁠(يفتح في نافذة جديدة) حول مناقشاتها مع وزارة الحرب؟

في منشورها، أشارت Anthropic إلى خطين أحمرين لديها (ونحن نتبنى الخطين نفسيهما، إضافة إلى خط ثالث يتعلق باتخاذ قرارات آلية عالية المخاطر)، وبيّنت أنها لا تعتقد أن هذه الخطوط كانت ستُصان في العقود التي اطلعت عليها آنذاك. أما نحن، فنرى أن هذه الخطوط الحمراء نفسها مصونة في عقدنا، وذلك للأسباب التالية:

• المراقبة الداخلية واسعة النطاق. كان واضحًا لنا من تواصلنا مع وزارة الحرب أنها تعتبر هذا النوع من المراقبة غير قانوني، ولم تكن تعتزم استخدام أنظمتنا لهذا الغرض. وقد حرصنا على أن يُذكر صراحةً في عقدنا أن هذا الاستخدام غير مشمول بالاستخدامات المشروعة.
• الأسلحة ذاتية التشغيل بالكامل. إن نطاق النشر السحابي المحدد في عقدنا لا يسمح بتشغيل أسلحة ذاتية بالكامل، إذ إن ذلك يتطلب نشرًا على أجهزة طرفية، وهو ما لا يتضمنه الاتفاق. 

وإضافة إلى هذه الضمانات، يتضمن عقدنا طبقات حماية إضافية، تشمل منظومة السلامة لدينا ومشاركة خبراء OpenAI التقنيين ضمن حلقة الإشراف.