بناء معايير مشتركة لـ AI المتقدم
يمكن للنماذج المتزايدة القدرة أن تعزّز الدفاع السيبراني، وتسرّع الاكتشاف العلمي، وتوسّع الوصول إلى الخبرات. لكنها قد تخلق أيضًا مخاطر على السلامة والأمن إذا أُسيء فهم قدراتها، أو كانت ضماناتها غير كافية، أو افتقرت الحكومات إلى المعلومات اللازمة للاستجابة. ولتحقيق الفوائد بأمان وثقة، ستحتاج المجتمعات إلى مؤسسات تمتلك القدرة التقنية والحوكمية على تقييم الأنظمة المتزايدة القدرة وتأمينها وحوكمتها.
وهذا أحد الأسباب التي دفعت OpenAI إلى المساعدة في تأسيس مؤسسة Appia(يفتح في نافذة جديدة) التي تستضيفها مؤسسة Linux. ستطوّر Appia مواصفات مفتوحة ومعيارية تهدف إلى ترجمة المعايير الدولية والأطر الراسخة إلى معايير تقييم عملية عبر سلسلة قيمة AI. ويمكن لعملها أن يساعد في تطوير طبقة ثقة حاسمة مفقودة، تتيح لأطراف ثالثة التحقق من الامتثال للمعايير، وإنتاج أدلة أوضح وأكثر قابلية لإعادة الاستخدام عندما تطوّر مؤسسات مختلفة النماذج والبنية التحتية والتطبيقات. ومن خلال هذا العمل، ستساعد Appia في إنشاء لغة تقنية مشتركة تتيح للمؤسسات الوطنية والدولية الوثوق بعمل بعضها بعضًا.
نرى في هذا الجهد خطوة تالية مهمة ضمن عمل أوسع لتعزيز المؤسسات والمعايير وممارسات التقييم اللازمة لأنظمة AI المتقدمة.
يقدّم مخططنا الأخير للحوكمة الديمقراطية للنماذج المتقدمة من AI خارطة طريق لهذا العمل. ويدعو إلى إطار أمريكي دائم، وتعزيز مركز معايير AI والابتكار (CAISI)، واستراتيجية أوسع للمرونة على مستوى الحكومة. كما يقرّ بأن مخاطر النماذج المتقدمة ذات نطاق دولي. ينبغي للدول أن تعمل معًا لتطوير أطر سلامة متوافقة، وقنوات موثوقة لتبادل نتائج المخاطر، واستجابات منسّقة للحوادث.
ينبغي أن يعزّز كلٌّ من القدرة الوطنية والتعاون الدولي الآخر. يمكن لمؤسسات قوية مثل CAISI أن تطوّر الخبرة التقنية، وتقيّم أنظمة النماذج المتقدمة، وتدعم منظومة تقييم مستقلة. ويمكن لشبكة من المؤسسات الوطنية القادرة أن ترسي بعد ذلك أساليب مشتركة، وتعترف بالأدلة الموثوقة، وتمنح الحكومات الفهم التقني المشترك اللازم للعمل معًا.
تحتل المعايير موقعًا محوريًا في هذا الجهد، ويجب أن تستند إلى ممارسات تقييم موثوقة وصرامة تقنية. في دليلنا المشترك للتقييمات الموثوقة التي تجريها أطراف ثالثة، أوضحنا ما ينبغي لتقييمات النماذج المتقدمة أن تفصح عنه بصورة متزايدة: النظام الذي خضع للاختبار، وإمكان وصوله إلى الأدوات وبيئة التقييم، والأساليب المستخدمة لاستثارة القدرات، والموارد المتاحة، والفحوص التي أُجريت للتحقق من النتائج. كما وضعنا هذه المبادئ موضع التنفيذ عبر شراكات اختبار مع CAISI في الولايات المتحدة وAISI في المملكة المتحدة، حيث أدّى عملهما في تقييمات قدرات النماذج المتقدمة وضمانات منع إساءة الاستخدام البيولوجي إلى تحسينات ملموسة في أنظمتنا. ويؤدي هذا العمل وظيفة مهمة تتمثل في إرساء أساس لممارسات يمكن توحيدها للتحقق من الأداء بطريقة قابلة للمقارنة.
تكمّل هذه الممارسات البنية الأوسع للسلامة لدى OpenAI. يشكّل إطار الجاهزية لدينا الأساس للطريقة التي نحدّد بها نهجنا ونجعله قابلاً للتطبيق في إدارة أخطر المخاطر الناشئة عن أنظمة AI المتقدمة، بما في ذلك ممارساتنا الداخلية. يطبّق إطار حوكمة النماذج المتقدمة الأجزاء ذات الصلة من ذلك النهج في وثيقة حوكمة عامة تركّز على التزامات تنظيمية محددة، تشمل تقييم المخاطر، والإبلاغ عن النماذج، وضوابط الأمن، والاستجابة للحوادث، وإدماج آراء الخبراء الخارجيين. ومعًا، تساعد هذه الوثائق على تحويل الالتزامات العامة إلى ممارسات تشغيلية قابلة للتحقق والتحسين.
يركّز عمل Appia على التحدي التالي: جعل هذه الممارسات قابلة للتشغيل البيني بين المؤسسات والولايات القضائية وسلسلة التوريد.
تسهم OpenAI بالفعل في منظومة أوسع من المعايير وجهود ما قبل التقييس. نشارك في اللجنة الفنية المشتركة 1، اللجنة الفرعية 42 المعنية بالذكاء الاصطناعي، التابعة للمنظمة الدولية للتوحيد القياسي واللجنة الكهروتقنية الدولية(يفتح في نافذة جديدة) وائتلاف الذكاء الاصطناعي بقيادة المعهد الوطني للمعايير والتكنولوجيا(يفتح في نافذة جديدة)؛ وساعدنا في تأسيس منتدى النماذج المتقدمة ومؤسسة الذكاء الاصطناعي الوكيلي(يفتح في نافذة جديدة) التابعة لمؤسسة Linux؛ ونشارك في ائتلاف الذكاء الاصطناعي الآمن(يفتح في نافذة جديدة)؛ ونشغل عضوية اللجنة التوجيهية في ائتلاف مصدر المحتوى وأصالته(يفتح في نافذة جديدة)؛ وننخرط في عمليات فريق مهام هندسة الإنترنت(يفتح في نافذة جديدة) وتحالف الهوية السريعة عبر الإنترنت(يفتح في نافذة جديدة) لدفع المعايير التقنية القابلة للتشغيل البيني.
وعبر هذه المنتديات، بما في ذلك الآن من خلال Appia، يتمثل هدفنا في تحويل الدروس المستفادة من تطوير النماذج المتقدمة إلى ممارسات مفتوحة ذات أساس تقني يمكن للحكومات والشركات والمقيّمين المستقلين استخدامها عبر الولايات القضائية.
