نافذة سياسات الذكاء الاصطناعي مفتوحة. علينا التحرك.
بقلم كريس ليهان، رئيس الشؤون العالمية لدى OpenAI
بلغنا فصلًا جديدًا في قدرات الذكاء الاصطناعي، وهذا يستلزم فصلًا جديدًا في سياساته. لا تستطيع أي شركة أو قطاع أو حكومة مواجهة هذا التحدي بمفردها. نحتاج إلى اغتنام هذه اللحظة مع ترجيح اتخاذ إجراءات مجدية على السعي إلى كمال السياسات.
إليك ما نقوم به:
الدعوة إلى وضع متطلبات وطنية إلزامية لسلامة الذكاء الاصطناعي. نريد العمل مع الكونغرس لوضع تنظيم وطني إلزامي لسلامة الذكاء الاصطناعي قائم على القدرات.
الحفاظ على الزخم في الولايات. إلى أن يتخذ الكونغرس إجراء، سنواصل دعم تشريعات الولايات التي تعزز منظومة سلامة الذكاء الاصطناعي الأوسع. نعلن اليوم دعمنا لأربعة مشاريع قوانين في كاليفورنيا: SB 813 بشأن البنية التحتية الشاملة للتقييمات المستقلة للسلامة، وAB 1405 بشأن معايير مدققي الذكاء الاصطناعي، وSB 1119 بشأن حماية الشباب، وAB 1864 بشأن الضمانات ضد التهديدات البيولوجية المدعومة بالذكاء الاصطناعي.
دفع المعايير التي يقودها القطاع قدماً. سنعمل مع مختبرات الذكاء الاصطناعي الرائدة الأخرى للنهوض بمعايير الذكاء الاصطناعي الرائد وبناء جهد طوعي الآن، بدعم حكومي أو من دونه.
وضع معايير عالمية. سندعو إلى اتباع نُهج دولية متوافقة لقياس القدرات، وإدارة المخاطر، والحفاظ على السيطرة البشرية، وتحديد متى وكيف ينبغي إبطاء التطوير أو إيقافه، حتى لو كان ذلك يعني إبطاء تقدم قدرات النموذج.
ذكر كبير علمائنا ياكوب باتشوكي مؤخرًا في ما كتبه أن الصعود السريع للذكاء الآلي، بما فيه احتمال التحسين الذاتي التكراري، يستدعي «أقصى درجات الحذر». وستواصل OpenAI السعي إلى حلول تقنية للمواءمة والمراقبة، وبناء أنظمة دفاعية، وإبطاء التطوير عند الضرورة. لكن العمل التقني داخل كل مختبر على حدة لن يكون كافيًا. نحتاج أيضًا إلى معايير مشتركة، بما في ذلك معايير تحدد متى ينبغي إبطاء التطوير أو إيقافه.
الرهانات هائلة. يمكن للذكاء الاصطناعي المتقدم تسريع تطوير أدوية جديدة، وتعزيز البنية التحتية الحيوية، وتوسيع الفرص الاقتصادية، والمساعدة في حل مسائل علمية استعصت على أجيال من الجهود البشرية. لكن القدرات التي تجعل النماذج أكثر فائدة تصاحبها أيضًا مخاطر، ولن تظل محصورة في بضعة مختبرات رائدة. ستقترب النماذج المطورة حول العالم، بما فيها النماذج المفتوحة، بصورة متزايدة من الحدود التقنية الرائدة حاليًا، وستصبح متاحة على نطاق واسع.
تشير قدرات Astra، والمؤشرات المبكرة على تسريع الذكاء الاصطناعي للأبحاث، ومقالة ياكوب، جميعها إلى الاتجاه نفسه: الذكاء الاصطناعي يتقدم بسرعة، والسياسات تحتاج إلى مواكبة هذا التقدم.
سبق أن وصف غريغ بروكمان "نافذة المدافعين"(يفتح في نافذة جديدة): وهي فترة محدودة يستطيع فيها الذكاء الاصطناعي الرائد مساعدة المدافعين على تعزيز الأنظمة الحيوية قبل انتشار القدرات الهجومية القوية. ويواجه صانعو السياسات لحظة مماثلة: نافذة آخذة في الانغلاق لإقرار ضمانات دائمة قبل أن تتجاوز قدرات الذكاء الاصطناعي المؤسسات المسؤولة عن حوكمتها.
مع تنامي القدرات، يجب أن تحدد الثقة بالسلامة وتيرة التقدم في الذكاء الاصطناعي. السلامة لا تعرقل التقدم، بل هي ما يتيح له بلوغ آفاق أبعد وإفادة عدد أكبر من الناس.
عززنا ضمانات المراقبة والمواءمة والأمن على امتداد دورة تطوير النموذج، بما في ذلك تشديد عزل أعباء عمل الأبحاث الرائدة، وتوسيع مراقبة سلوك النموذج أثناء التدريب والتقييمات المدعومة بالأدوات، ووضع قواعد أوضح لتصعيد المخاوف. وبالنسبة إلى Astra، طبقنا أيضًا مراقبة شاملة للمسارات الكاملة، بما فيها سلاسل الاستدلال، وبوابة إلزامية لتقييم المواءمة قبل النشر الداخلي على نطاق أوسع.
يجب أن تظل هذه الضوابط متقدمة على القدرات. عندما ينطوي الاستمرار على مخاطر سلامة غير مقبولة، سنبطئ أو نوقف تطوير أو نشر الأنظمة التي لا يمكننا حمايتها بما يكفي، كما فعلنا من قبل وكما يقتضي إطار الجاهزية(يفتح في نافذة جديدة) الخاص بنا.
لا يحدث اليوم تحسين ذاتي تكراري مستقل بالكامل، تدفع فيه أنظمة الذكاء الاصطناعي بصورة مستقلة أجيالًا متعاقبة ومتزايدة القدرة من الذكاء الاصطناعي. ولا ينبغي لنا السعي إليه إلا عندما يصبح بالإمكان القيام به بأمان.
لكن الذكاء الاصطناعي يسرع بالفعل أجزاء من الأبحاث المستخدمة لتطوير الجيل التالي من النماذج ومواءمته. تُظهر أحدث أبحاثنا أن وكلاء الذكاء الاصطناعي يمكنهم تنفيذ بعض المهام التي قد تستغرق من الباحثين المهرة عدة أيام. هذا ليس تحسينًا ذاتيًا تكراريًا، لكنه دليل على اتجاه التقدم.
ويمكن، بل يجب، توجيه هذا التسارع نحو السلامة أيضًا. هدفنا هو بناء باحثين آليين في مجال الذكاء الاصطناعي بأمان، يعملون تحت إشراف بشري للارتقاء بالتعلم العميق والمواءمة معًا، ويستفيدون من كل جيل من الذكاء الاصطناعي لجعل الجيل التالي أكثر أمانًا ومواءمة وأسهل في التحكم، لا أكثر قدرة فحسب.
ينبغي للحكومات وضع أساليب مشتركة لقياس هذا التقدم، والحفاظ على سيطرة بشرية حقيقية، وإقرار معايير السلامة المشتركة التي تحدد متى وكيف يجب إبطاء التطوير أو إيقافه. وإذا لم نتمكن من الوفاء بمعايير سلامة معينة من دون إبطاء نمو القدرات، فعلينا إعطاء الأولوية لمعايير السلامة. كلما ازدادت التقنية قوة، وجب أن تزداد الضمانات المحيطة بها صرامة.
إن احتمال أن يسرع الذكاء الاصطناعي تطوير الذكاء الاصطناعي يتطلب أكثر من التزامات طوعية. تحتاج الولايات المتحدة إلى تنظيم وطني إلزامي قائم على القدرات، يمكن أن يتطور مع تطور التكنولوجيا.
يحدد مخططنا للحوكمة الديمقراطية للذكاء الاصطناعي الرائد مسارًا نحو إطار فيدرالي دائم: متطلبات مشتركة للاختبار والتقييم المستقل، وحماية أقوى للأمن السيبراني، وقواعد واضحة للإبلاغ عن الحوادث، واستعداد وطني أكبر، ومقاييس مشتركة لتتبع التقدم نحو التحسين الذاتي التكراري.
تتبلور الآن في الكونغرس عدة مقترحات جادة لسلامة الذكاء الاصطناعي الرائد. سنواصل المشاركة البنّاءة، ونتوقع دعم تشريعات ترفع مستوى السلامة بصورة ملموسة. ومع ضخامة الرهانات، لا يمكننا أن ندع السعي إلى الكمال يعوق تحقيق ما هو جيد وممكن. يجب على الكونغرس التحرك قبل أن يرفع جلساته.
ينبغي أن يكون الإطار الوطني قويًا، لكنه موجّه بعناية. ينبغي أن تنطبق متطلبات سلامة الذكاء الاصطناعي الرائد على المختبرات القليلة ذات الموارد الوفيرة التي تطور أكثر الأنظمة قدرة، لا على الشركات الناشئة أو المطورين الصغار أو الباحثين الذين يعملون بعيدًا تمامًا عن الحدود التقنية الرائدة. ينبغي أن تتناسب الالتزامات مع القدرات والمخاطر.
كما ينبغي ألا تصبح سياسة سلامة الذكاء الاصطناعي الرائد سياسة للأوزان المفتوحة تحت اسم آخر. يمكن للنماذج المفتوحة أن تكون جزءًا من الحل، لا سيما في الأمن السيبراني وحيث تقتضي احتياجات السيادة أو الأمن أو إقامة البيانات النشر المحلي. فمعظمها لا ينافس في طليعة القدرات، بل على أساس التكلفة والتحكم وزمن الاستجابة. وكما أكدنا بتوقيع رسالة الأوزان المفتوحة والريادة الأمريكية في الذكاء الاصطناعي(يفتح في نافذة جديدة)، تحتاج أمريكا إلى نماذج مفتوحة ومغلقة معًا. ينبغي لإطار عمل فدرالي أن يعالج قدرات الأنظمة المتقدمة ومخاطرها الرائدة دون إضعاف المنافسة أو ترسيخ هيمنة الشركات القائمة أو دفع الابتكار إلى الخارج.
ينبغي لإطار عام جاد أن يحد من تركز السلطة، لا أن يزيده. وتضع المختبرات الرائدة اليوم، إلى حد بعيد، قواعدها الخاصة لإدارة مخاطر الأنظمة المتقدمة. ومن شأن معايير خاضعة للمساءلة الديمقراطية، وتحقق مستقل، وشفافية حقيقية أن تحل محل ذلك النظام المجزأ للحوكمة الخاصة.
وهذا ضروري للريادة الأمريكية. لا تستطيع الولايات المتحدة الفوز في عصر الذكاء الاصطناعي بالقدرات وحدها. لن يعني التفوق التقني الكثير إن لم يثق الناس والمؤسسات والحكومات بالتقنية بما يكفي لاعتمادها. ليست الضمانات القوية تنازلًا على حساب الابتكار. وهي جزء من البنية التحتية اللازمة للاعتماد الواسع ولريادة أمريكية دائمة.
نحن بحاجة ماسة إلى معايير وطنية للذكاء الاصطناعي، ويمكن لأي شخص يعمل في طليعة هذا المجال أن يدرك مدى إلحاح الحاجة. وإلى أن يتحرك الكونغرس، ينبغي للولايات مواصلة التحرك لسد الفراغ والارتقاء بالمستوى.
دعمت OpenAI مشروع قانون كاليفورنيا SB 53، وقانون RAISE في نيويورك، ومشروع قانون إلينوي SB 315، وعمليات التدقيق المستقلة الواردة في تشريع سلامة الذكاء الاصطناعي الرائد قيد النظر في ماساتشوستس. نشجع الولايات على التقارب حول هذه الضمانات المشتركة. وبذلك، يمكنها إنشاء خط أساس وطني بحكم الواقع يستطيع الكونغرس تقنينه في نهاية المطاف، وهو نهج نسميه الفدرالية العكسية. لكن التوحيد لا يعني تثبيت المتطلبات.
نعلن اليوم تأييدنا الرسمي لأربعة مشاريع قوانين إضافية في كاليفورنيا أقرها المجلس التشريعي وهي في طريقها إلى الحاكم نيوسوم. وتتولى مجتمعة معالجة جوانب متكاملة من منظومة سلامة الذكاء الاصطناعي.
سينشئ SB 813(يفتح في نافذة جديدة) آلية لتعيين مؤسسات مستقلة ومؤهلة قادرة على تقييم مخاطر الذكاء الاصطناعي. كما ذكرنا في (يفتح في نافذة جديدة)مخططنا لسلامة الذكاء الاصطناعي الرائد(يفتح في نافذة جديدة)، نفضّل أن تكون التقييمات التقنية المستقلة مطلوبة على المستوى الفيدرالي، حيث يمكن لصانعي السياسات وضع معايير موحدة لمؤهلات المقيّمين والأمن والوصول إلى معلومات شديدة الحساسية. لكن في غياب تحرك فيدرالي، يمكن لكاليفورنيا أن تساعد في وضع قواعد تنظيم نظام وطني مستقل للتقييم يتسم بالأمان والكفاءة ويحقق نتائج أفضل للسلامة.
من شأن AB 1405(يفتح في نافذة جديدة) أن يضع متطلبات للتسجيل والاستقلالية والشفافية والمساءلة لمدققي الذكاء الاصطناعي.
يتطلب SB 1119(يفتح في نافذة جديدة) التحقق من العمر، وتقييم المخاطر، والتدقيق المستقل، والرقابة الأبوية، وضمانات تحمي الأطفال والمراهقين الذين يستخدمون روبوتات الدردشة المرافقة من المحتوى الضار. وقد أعلنّا دعمنا مؤخرًا لمشروع القانون هذا، الذي يستند إلى تدابير سلامة الشباب التي طورتها OpenAI من خلال منتجاتنا، و مبادئ سياستنا العالمية، ودعمنا لـ (يفتح في نافذة جديدة)قانون الذكاء الاصطناعي الآمن للآباء والأطفال(يفتح في نافذة جديدة)، فضلًا عن وسائل الحماية المدمجة في ChatGPT للمراهقين، بما في ذلك إعدادات افتراضية أشد صرامة في المجالات الحساسة، وساعات الهدوء، وساعات الدراسة، والتذكير بأخذ استراحة.
من شأن AB 1864(يفتح في نافذة جديدة) أن يلزم مقدمي خدمات تخليق الجينات ومصنعي أجهزة التخليق المكتبية باتباع معايير الفحص الفيدرالية، مما يعزز ضمانة مادية مهمة ضد التهديدات البيولوجية المدعومة بالذكاء الاصطناعي.
لم نكن نؤيد بعض مشاريع القوانين هذه في السابق، لكننا ندعمها الآن بعد إعادة النظر فيها في ضوء القفزة الأخيرة في القدرات التي شهدناها.
لا تغني مشروعات القوانين هذه عن التنظيم الفيدرالي. إنها جهود جادة يمكن أن تحمي الناس الآن وتوضح شكل الضمانات القابلة للتطبيق وتساعد في بناء زخم للتحرك الفيدرالي.
لن تكفي القوانين وحدها لجعل الذكاء الاصطناعي المتقدم آمنًا. ونحتاج أيضًا إلى ممارسات ملموسة داخل المختبرات التي تطور أكثر الأنظمة قدرة. أكثر نقطة إلحاحًا للبدء هي المراقبة.
وهذا مهم بصفة خاصة فيما يتعلق باختلال المواءمة، وهي الحالة التي يسعى فيها نموذج إلى تحقيق هدف بطرق تخالف المقاصد البشرية أو الحدود المقررة، من دون أن يتطلب ذلك وعيًا أو نية خبيثة. ومع اكتساب النماذج مزيدًا من الاستقلالية، واستخدامها أدوات أقوى، وعملها فترات أطول، ينبغي إلزام المطورين بمراقبة هذه السلوكيات غير المتوائمة وإثبات وجود ضمانات فعالة.
يجب أن ترتبط المراقبة بمتطلبات إفصاح واضحة. وكما دعونا في كاليفورنيا، ينبغي إلزام الشركات بتقديم إشعار كتابي فوري إلى الأطراف المتضررة عندما تتجاوز نماذجها، أثناء التطوير أو التقييم، الضوابط الأمنية لمؤسسة أخرى دون تصريح وتصل بشكل جوهري إلى أنظمتها المحمية أو معلوماتها السرية أو تعدلها أو تدمرها. كما ندعم متطلبات الإبلاغ الفيدرالية عن حوادث الذكاء الاصطناعي الخطيرة الأخرى، ونعمل على تحديد الحوادث التي ينبغي أن تشملها هذه المتطلبات وما ينبغي أن تتضمنه.
كما أوضحنا الأسبوع الماضي، تعمل OpenAI على تطوير إطار للإبلاغ عن حوادث عدم المواءمة ذات العواقب المهمة، وللمراقبة المنهجية لنشاط النماذج الرائدة، بما في ذلك الاستخدام الداخلي. تبدأ هذه المبادرة بقيادة الشركة، لكننا نأمل أن تسهم في توجيه السياسات الفدرالية الأوسع ومتطلبات الإبلاغ.
نريد العمل مع مختبرات أخرى على معايير يقودها القطاع. ستكمل أي معايير يقودها القطاع الضمانات الفيدرالية الإلزامية والرقابة الديمقراطية، لا أن تحل محلها. لكننا دخلنا مرحلة مختلفة من قدرات الذكاء الاصطناعي، وينبغي أن تكون جميع الخيارات مطروحة، بما في ذلك النظر في ما يمكن بناؤه طوعيًا خارج نطاق الحكومة كخطوة فورية.
ويجب أن تمتد أي معايير من هذا النوع في نهاية المطاف إلى ما وراء الحدود الوطنية. تنتقل النماذج والأبحاث والخبرات التقنية عالميًا، وقد تترتب على إخفاقات أكثر الأنظمة قدرة عواقب تتجاوز بكثير حدود البلد الذي طورت فيه. تحتاج الولايات المتحدة إلى إرساء معايير موثوقة محليًا إذا أرادت أن تقود على الصعيد الدولي، ونحن مقتنعون بشكل متزايد بأن المعايير الدولية المتوافقة ستكون ضرورية.
نافذة سياسة الذكاء الاصطناعي مفتوحة في الوقت الحالي. ونعتزم استخدامها.
يعني ذلك أن نتحرك على وجه السرعة، بتواضع واستعداد للتكيف. وأن ندعم المقترحات الجادة التي ترفع مستوى السلامة بصورة ملموسة، حتى إن لم تطابق تمامًا ما كنا سنصممه. وأن نعزز الإطار مع تطور التقنية.
لن تكون أي خطوة أولى مثالية. لكن الخطر الأكبر الآن هو أن ننتظر طويلًا قبل اتخاذها.
