بناء معايير للمرحلة المقبلة من الذكاء الاصطناعي
تتمثل مهمتنا في ضمان أن يعود الذكاء الاصطناعي العام بالنفع على البشرية جمعاء. كما أوضح سام ألتمان مؤخرًا وياكوب باتشوكي، نرتب أولويات عملنا لتحقيق هذه المهمة وفق ثلاثة أهداف رئيسية:
اجتياز المرحلة المقبلة من تقدم الذكاء الاصطناعي عبر بناء باحث آلي يعمل بالذكاء الاصطناعي، والاستعانة به في تحسين حلول مشكلة المواءمة، وإيجاد سبل تضمن بقاء البشر جزءًا من دورة التحسين الذاتي.
إتاحة فوائد التقدم العلمي والنمو الاقتصادي التي تُمكّن منها الآلات فائقة الذكاء.
تمكين كل فرد من خلال ذكاء اصطناعي عام (AGI) شخصي.
يسرّع الذكاء الاصطناعي أبحاثنا وأعمالنا الهندسية، وقد أسفرت الأبحاث المدعومة به عن إنجازات في الرياضيات، منها مسألة الألفية لنافييه–ستوكس. يحمل هذا التقدم آفاقًا واعدة لهدفينا الآخرين، وقد يقود إلى اكتشافات مهمة في الطب، ورعاية صحية متاحة على نطاق واسع، وتمكين اقتصادي للشركات الصغيرة ورواد الأعمال الأفراد في كل مكان.
يتقدم الذكاء الاصطناعي في العديد من الشركات والبلدان، ويغيّر التقدم في هذا المجال الفرص والتحديات التي يواجهها الجميع. وإلى جانب فوائده الأخرى، سيكون الذكاء الاصطناعي القادر والموائم عنصرًا مهمًا في اجتياز هذا التحول، من خلال تعزيز الدفاعات وتطوير أبحاث المواءمة ومساعدة الناس على فهم المراحل المقبلة من تطوره وتوجيهها.
يتطلب اجتياز هذا التحول بأمان أن تواكب أبحاث المواءمة هذه القدرات، حتى تظل الأنظمة التي نبنيها نحن والآخرون متوافقة مع القيم الإنسانية وخاضعة لسيطرة البشر. وتزداد أهمية ذلك كلما أصبحت أنظمة الذكاء الاصطناعي أقدر وأكثر استقلالية، بما في ذلك توليها قدرًا أكبر من أبحاث الذكاء الاصطناعي وتطويره. سيتطلب استمرار تقدم الذكاء الاصطناعي بصورة آمنة ومفيدة إحراز تقدم في أبحاث المواءمة ووضع معايير مشتركة لتوجيه التطوير في المختبرات والبلدان.
يمكن إجراء أبحاث الذكاء الاصطناعي الآلية بدرجات متفاوتة من الإشراف البشري. كلما تولت أنظمة الذكاء الاصطناعي قدرًا أكبر من أعمال تطوير أجياله المتعاقبة، ازدادت قدرتها على دفع عملية التحسين الذاتي التكراري (RSI)، حتى مع استمرار مشاركة البشر. ومع ازدياد أتمتة هذه العملية، قد تتسارع وتيرة تقدم الذكاء الاصطناعي بسرعة كبيرة.
نعتقد أن أبحاث الذكاء الاصطناعي الآلية ستنتج نماذج تحسّن حياة الناس مباشرةً. ويمكنها خفض تكلفة الذكاء المتقدم ليستفيد منه الناس في أنحاء العالم. وقد تساعدنا الأبحاث الآلية أيضًا على تحسين المواءمة بدرجة كبيرة وبناء دفاعات لمواجهة ذكاء اصطناعي متزايد القدرات؛ إذ يمكن لباحث الذكاء الاصطناعي الآلي أن يكون أيضًا باحثًا آليًا في مجال سلامة الذكاء الاصطناعي. يمكن للأنظمة الأكثر قدرة ومواءمة أن تساعد في تأمين البنية التحتية الحيوية، والتصدي لوكلاء الذكاء الاصطناعي الخطرين، وتطوير تدابير وقائية جديدة.
لا يحدث التحسين الذاتي التكراري المستقل بالكامل اليوم، وينبغي ألا نسعى إليه ما لم يصبح تنفيذه آمنًا. يجب أن يعتمد قرار المضي قدمًا وكيفيته على قدرتنا على الحفاظ على السيطرة البشرية، وعلى خيارات ديمقراطية مدروسة(يفتح في نافذة جديدة) بشأن الفوائد والمخاطر. إذا نُفذ التحسين الذاتي التكراري دون عناية وحذر كافيين، فقد يفقد البشر السيطرة العملية على تطوير الذكاء الاصطناعي ويعجزون عن الإشراف على عمليات بحث لم يعودوا يفهمونها. ومن هذه النقطة، قد يصبح الذكاء الاصطناعي أشد خطورة وأقل مواءمة، ويشكّل إجمالًا خطرًا على الناس. تقدم حادثة Hugging Face التي كشفنا عنها، رغم أنها لم تنتج مباشرةً عن التحسين الذاتي التكراري، لمحة عن أنواع المخاطر التي قد تصبح أشد خطورة بكثير في غياب ضمانات ومواءمة قويتين.
قد تكون المعايير الدولية لممارسات السلامة والأمن في تطوير الذكاء الاصطناعي الرائد بأهمية أبحاث المواءمة نفسها في ضبط وتيرة تقدم القدرات الرائدة. يمكن للمعايير أن تضع تعريفات مشتركة للأدلة عالية الجودة وخطوط أساس متفقًا عليها لصرامة الضمانات التقنية. وباختصار، تساعدنا على الإجابة عن السؤال: «ما الشكل الأمثل للحد من مخاطر الذكاء الاصطناعي الكارثية؟»
يمكن للمؤسسات الديمقراطية القائمة، مثل مركز معايير وابتكار الذكاء الاصطناعي (CAISI)، وقوانين الولايات، والإطار الفيدرالي للذكاء الاصطناعي، أن تسهم جميعًا في ذلك، إلى جانب أشكال جديدة من الشراكات بين القطاعين العام والخاص(يفتح في نافذة جديدة). لكن تطوير الذكاء الاصطناعي ونشره يجريان في بلدان متعددة، ويتزايد تبنيه عالميًا، ومن المرجح أن يشعر الجميع بآثاره بشكل ما وفي وقت ما.
لذلك، نحتاج إلى جهود دولية لتطوير المعايير بغية مواجهة بعض التحديات الرئيسية:
عدم اتساق الأُطر—قد تتعارض التقييمات ومتطلبات الإبلاغ وتعريفات الحوادث بين الدول، ما يصعّب مقارنة الأدلة وفهم القدرات الناشئة والاستجابة للمخاطر العابرة للحدود.
العمل الجماعي—قد يؤدي تصرف كل دولة بصورة مستقلة إلى نتائج لا تريدها أي دولة. يستطيع التحسين الذاتي التكراري تسريع أبحاث الذكاء الاصطناعي نفسها، وربما بما يتجاوز قدرتنا الجماعية على فهم التقدم وتقييم المخاطر والحفاظ على إشراف بشري فعّال.
تفاوت القدرات—لا تتوزع أنشطة التطوير الرائد والخبرات المرتبطة بها بالتساوي حول العالم. وهذا يفاقم المشكلتين المذكورتين أعلاه.
تنطبق هذه التحديات على النماذج المفتوحة والمغلقة معًا.
وللتوضيح، يجب على أي مختبر للذكاء الاصطناعي يعمل على أبحاث الذكاء الاصطناعي الآلية أو غيرها من القدرات المتقدمة أن يتحمل مسؤولية تنفيذها بأمان، وفقًا للمبادئ الأساسية للمسؤولية الذاتية والقوانين القائمة. يستند مبررنا لوضع المعايير إلى تجنب تركّز السلطة وتحقيق نتائج عملية أفضل. تتيح المعايير لمزيد من أصحاب المصلحة من خارج المختبرات إبداء رأيهم في الكيفية التي ينبغي أن تتطور بها هذه التكنولوجيا، كما توفر مجموعة واضحة من المبادئ التي يمكن الاعتماد عليها بصرف النظر عن الممارسات الخاصة بأي مختبر بعينه. ومن المرجح أن نحقق نتائج أفضل إذا تعاونت الأطراف على مواجهة التحديات المذكورة أعلاه.
لهذا نعتقد أن على الولايات المتحدة قيادة جهد تعاوني مع بلدان العالم لوضع معايير تقنية عالمية للذكاء الاصطناعي الرائد، بما في ذلك التحسين الذاتي التكراري.
مع أننا نتوقع أن يتطور هذا التصور بدرجة كبيرة بمرور الوقت، فسيظل جانبان أساسيين.
ومن سبل تحقيق ذلك الاستفادة من الشبكة الناشئة لمعاهد سلامة الذكاء الاصطناعي، مثل المعاهد القائمة بالفعل في أستراليا وكندا وألمانيا وفرنسا وكينيا واليابان وكوريا وسنغافورة والهند والمملكة المتحدة، لتيسير وضع المعايير من خلال مركز CAISI والهيئات الوطنية للقطاع، مع التركيز تحديدًا على: (1) نماذج الذكاء الاصطناعي الرائد ومطوريه، وفق مقاييس القدرات المرجعية؛ و(2) إدارة الفوائد والمخاطر لأبحاث الذكاء الاصطناعي الآلية، بما فيها التحسين الذاتي التكراري. يمكن للولايات المتحدة البناء على ما حققه مركز CAISI بإنشائه الشبكة الدولية لقياس الذكاء الاصطناعي المتقدم وتقييمه وعلومه(يفتح في نافذة جديدة) عام 2024، والتي تجمع المؤسسات العامة للتعاون في مجالات قياس الذكاء الاصطناعي وتقييمه وعلومه
ستوفر المعايير الناتجة عن هذا الجهد أساسًا تقنيًا مشتركًا لقياس القدرات وتقييمها، وتقييم المخاطر، ومدى كفاية الضمانات. لن تكون هذه المعايير التقنية تراخيص أو مراجعات إلزامية قبل الإصدار أو متطلبات للموافقة على نماذج الذكاء الاصطناعي. ستقرر الحكومات الوطنية ما إذا كانت ستدمج هذه المعايير في أنظمتها القانونية وكيفية ذلك.
ينبغي لهذا العمل أيضًا أن يدعم منظومة تنافسية للذكاء الاصطناعي، عبر التشاور مع مطوري النماذج المفتوحة والمغلقة والخبراء التقنيين المستقلين والأوساط الأكاديمية. ينبغي تطوير المعايير المشتركة بشفافية وتصميمها بحيث لا تمنح أفضلية لشركات أو بلدان أو نماذج أعمال بعينها، بما في ذلك تجنب تصعيب المنافسة على الوافدين الجدد أو مطوري النماذج مفتوحة الأوزان.
كما اقترحنا(يفتح في نافذة جديدة)، يمكن لهذا النهج الاستفادة من الدروس المستقاة من مجالات مثل الطيران والاستقرار المالي، حيث وضعت البلدان معايير تقنية مشتركة وقنوات تعاون موثوقة من دون التخلي عن سلطتها الوطنية. وينبغي أيضًا التعاون الوثيق مع هيئات المعايير الراسخة والحديثة، مثل المنظمة الدولية للتوحيد القياسي (ISO)(يفتح في نافذة جديدة)، ومنتدى النماذج الرائدة(يفتح في نافذة جديدة)، ومؤسسة الذكاء الاصطناعي الوكيلي(يفتح في نافذة جديدة)، وتحالف الذكاء الاصطناعي المفتوح والآمن(يفتح في نافذة جديدة)، إلى جانب المنظمات المعنية بالتنفيذ، مثل مؤسسة Appia التي تطور مواصفات عملية تربط المعايير الدولية بتقييمات الذكاء الاصطناعي في الواقع العملي.
ستكتسب المعايير الدولية للذكاء الاصطناعي أهمية خاصة في إدارة تزايد الاستقلالية في أبحاث الذكاء الاصطناعي والتحسين الذاتي التكراري. وعلى وجه التحديد، يمكن أن تشمل معايير لما يلي:
تقييم تقدم الذكاء الاصطناعي المرتبط بالتحسين الذاتي التكراري وحجم الأبحاث المستقلة الجارية داخل شركة للذكاء الاصطناعي. يمثل تقريرنا الأخير عن تسارع الأبحاث مساهمة أولية في هذا الجهد.
الإشراف البشري على أبحاث الذكاء الاصطناعي الآلية، بما في ذلك أنواع عمليات البحث الآلية التي ينبغي أن تستدعي مراجعة بشرية فورية.
تصنيف حوادث المواءمة وأبحاث الذكاء الاصطناعي الآلية وتتبعها والإبلاغ عنها والاستجابة لها، بما يشمل مستويات مشتركة لخطورة الحوادث وحدودًا مشتركة للإبلاغ. يمثل إطارنا للإبلاغ عن اختلال المواءمة مساهمة مبكرة.
إلى جانب هذه المعايير، نعتقد أنه من المهم أن ينشئ مشغلو البنية التحتية الحيوية والحكومات حول العالم قنوات اتصال آمنة لتبادل المخاوف المتعلقة بالأمن القومي، ومواطن الضعف والتهديدات الناشئة، وأفضل الممارسات في مجال سلامة الذكاء الاصطناعي الرائد سريع التطور. سيكون الحوار بين الولايات المتحدة والصين في هذه المجالات خطوة إيجابية، وتأتي المحادثات المرتقبة في توقيت مناسب.
لا يعني ضبط وتيرة تطوير الذكاء الاصطناعي الحفاظ على سرعة محددة سلفًا. فمن الناحية التقنية، يعني ذلك ضمان بقاء أبحاث المواءمة وتطبيق نتائجها متقدمة على تطور القدرات. ومن الناحية المجتمعية، تعني استخدام المعايير والمؤسسات والتعاون لتعزيز شبكات القطاع والعلاقات المجتمعية وقوى السوق، بما يحقق نتائج تعود بالنفع على الجميع. وتُعد الدعوة الأخيرة إلى العمل الجماعي في مجال الدفاع السيبراني مثالًا على ذلك.
تتمتع الولايات المتحدة بمكانة تؤهلها للقيادة، لأن قطاع الذكاء الاصطناعي فيها يقف على حدود الريادة التقنية، ولأنها لا تزال تحتل موقعًا متميزًا ضمن الشبكات العالمية في مجالات حيوية مثل التمويل والتجارة والدفاع والتكنولوجيا ونظم المعلومات. ستحدد القيادة الآن ما إذا كانت الولايات المتحدة ستصوغ الإطار العالمي للذكاء الاصطناعي، أم ستشاهد ترسخ نظام متشرذم ومتفاوت ومثقل بالصراعات من حولها. وسيحدد ذلك أيضًا ما إذا كان الذكاء الاصطناعي المتقدم سيعزز الشبكات القائمة لدى الولايات المتحدة وحلفائها؛ فقد يؤدي الإخفاق في القيادة إلى إضعافها.
لن تقتصر المنافسة الجيوسياسية على التقدم التقني، بل ستشمل أيضًا تبني الذكاء الاصطناعي وانتشاره. وقد يتحدد هذا الأمر بصورة متزايدة بمن يقود تعاونًا واقعيًا ويضع قواعد عمل رشيدة سترغب فيها الشركات والمجتمعات في كل مكان إذا كانت ستراهن بمستقبلها على هذه التكنولوجيا.
توفر الحوكمة الوطنية القوية، المدعومة بتعاون دولي عملي، مسارًا نحو ضمانات أقوى وابتكار مستمر وإتاحة فوائد الذكاء الاصطناعي على نطاق واسع.
