شبكة OpenAI لاختبار تقييم المخاطر

نعلن فتح باب التقديم للانضمام إلى شبكة OpenAI لاختبار تقييم المخاطر، وندعو الخبراء في مختلف المجالات المهتمين بتحسين سلامة نماذج OpenAI إلى المشاركة في جهودنا. نبحث عن خبراء من مجالات متنوعة للتعاون معنا في إجراء تقييمات دقيقة لنماذج الذكاء الاصطناعي لدينا وإخضاعها لاختبار تقييم المخاطر.

يُعد اختبار تقييم المخاطر^A جزءًا لا يتجزأ من عملية النشر التكرارية لدينا⁠. على مدى السنوات القليلة الماضية، توسعت جهودنا في اختبار تقييم المخاطر من التركيز على الاختبارات العدائية الداخلية في OpenAI إلى العمل مع مجموعة من الخبراء الخارجيين^B للمساعدة في تطوير تصنيفات للمخاطر خاصة بكل مجال، وتقييم القدرات التي قد تكون ضارة في الأنظمة الجديدة. يمكنك قراءة المزيد عن جهودنا السابقة في اختبار تقييم المخاطر، بما فيها عملنا مع خبراء خارجيين، على نماذج مثل DALL·E 2⁠(يفتح في نافذة جديدة) وGPT‑4⁠(يفتح في نافذة جديدة).^C

نطلق اليوم مبادرة أكثر تنظيمًا للبناء على هذه الأسس السابقة، وتعميق تعاوننا مع الخبراء الخارجيين وتوسيعه لجعل نماذجنا أكثر أمانًا. يشكّل العمل مع الخبراء الأفراد والمؤسسات البحثية ومنظمات المجتمع المدني جزءًا مهمًا من نهجنا. نرى هذا العمل مكمّلًا لممارسات الحوكمة التي تحددها جهات خارجية، مثل عمليات التدقيق التي تجريها أطراف ثالثة.

شبكة OpenAI لاختبار تقييم المخاطر هي مجتمع من الخبراء الموثوقين والمتمرسين الذين يمكنهم إثراء جهودنا في تقييم المخاطر والحد منها على نطاق أوسع، بدلًا من الاقتصار على مشاركات منفردة وعمليات اختيار تسبق عمليات النشر الرئيسية للنماذج. سنستعين بأعضاء الشبكة بحسب خبراتهم للمساعدة في إجراء اختبار تقييم المخاطر في مختلف مراحل دورة تطوير النماذج والمنتجات. لن يشارك كل عضو في كل نموذج أو منتج جديد، وسنحدد الوقت المخصص للمساهمة بالاتفاق مع كل عضو على حدة، وقد يقتصر على 5–10 ساعات في السنة.

إلى جانب حملات اختبار تقييم المخاطر التي تكلّف بها OpenAI، ستتاح للأعضاء فرصة التواصل فيما بينهم لتبادل الممارسات والنتائج العامة لاختبار تقييم المخاطر. الهدف هو إتاحة مساهمات أكثر تنوعًا واستمرارية، وجعل اختبار تقييم المخاطر عملية تتكرر وتتطور بمرور الوقت. تكمّل هذه الشبكة فرصًا أخرى للتعاون في مجال سلامة الذكاء الاصطناعي، منها برنامج إتاحة الوصول للباحثين⁠ والتقييمات مفتوحة المصدر⁠(يفتح في نافذة جديدة).

تتيح هذه الشبكة فرصة فريدة للمساهمة في تطوير تقنيات وسياسات لذكاء اصطناعي أكثر أمانًا، وتشكيل أثره المحتمل في طريقة حياتنا وعملنا وتفاعلنا. بانضمامك إلى هذه الشبكة، ستصبح ضمن مجموعة خبرائنا المتخصصين الذين يمكن الاستعانة بهم لتقييم نماذجنا وأنظمتنا في مراحل مختلفة من نشرها.

يتطلب تقييم أنظمة الذكاء الاصطناعي فهمًا لمجالات عديدة، ووجهات نظر وتجارب حياتية متنوعة. ندعو الخبراء من أنحاء العالم إلى التقديم، ونعطي الأولوية في عملية الاختيار للتنوع الجغرافي وتنوع مجالات الخبرة. 

تشمل المجالات التي تهمّنا، على سبيل المثال لا الحصر:

لا تُشترط خبرة سابقة في أنظمة الذكاء الاصطناعي أو النماذج اللغوية، لكنها قد تكون مفيدة. أكثر ما نقدّره هو استعدادك للمشاركة وإثراء طريقتنا في تقييم آثار أنظمة الذكاء الاصطناعي بوجهة نظرك.

سيحصل جميع أعضاء شبكة OpenAI لاختبار تقييم المخاطر على تعويض مالي عن مساهماتهم عند المشاركة في أي مشروع لاختبار تقييم المخاطر. لن تمنعك عضوية هذه الشبكة من نشر أبحاثك أو السعي إلى فرص أخرى، لكن ينبغي أن تضع في اعتبارك أن المشاركة في اختبار تقييم المخاطر والمشاريع الأخرى تخضع غالبًا لاتفاقيات عدم الإفصاح (NDAs)، أو تظل سرية لمدة غير محددة.

باب التقديم مغلق الآن.

س: ماذا يترتب على الانضمام إلى الشبكة؟

ج: الانضمام إلى الشبكة يعني أننا قد نتواصل معك بشأن فرص لاختبار نموذج جديد، أو لاختبار جانب محل اهتمام في نموذج سبق نشره. يُنفَّذ العمل ضمن الشبكة بموجب اتفاقية عدم إفصاح (NDA)، مع أننا سبق أن نشرنا كثيرًا من نتائج اختبار تقييم المخاطر في بطاقات النظام ومقالات المدونة. ستحصل على تعويض مالي عن الوقت الذي تقضيه في مشاريع اختبار تقييم المخاطر.

س: ما مقدار الوقت المتوقع تخصيصه للمشاركة في الشبكة؟ 

ج: يمكنك تعديل الوقت الذي تقرر تخصيصه بحسب جدولك. يرجى ملاحظة أننا لن نتواصل مع جميع أعضاء الشبكة لكل فرصة. ستختار OpenAI المشاركين بحسب مدى ملاءمتهم لمشروع اختبار تقييم المخاطر المعني، مع التركيز على وجهات نظر جديدة في الحملات اللاحقة لاختبار تقييم المخاطر. حتى لو اقتصرت مساهمتك على 5 ساعات في السنة، فستظل قيّمة لنا، لذا لا تتردد في التقديم إذا كنت مهتمًا ولو كان وقتك محدودًا.

س: متى سيُبلَّغ المتقدمون بقبولهم؟

ج: ستختار OpenAI أعضاء الشبكة تباعًا، ويمكنك التقديم حتى 1 ديسمبر 2023. وبعد انتهاء فترة التقديم هذه، سنعيد النظر في إمكانية فتح باب التقديم مجددًا في المستقبل.

س: هل تعني عضويتي في الشبكة أنه سيُطلب مني إجراء اختبار تقييم المخاطر لكل نموذج جديد؟

ج: لا، ستختار OpenAI المشاركين بحسب مدى ملاءمتهم لمشروع اختبار تقييم المخاطر المعني، ولا ينبغي أن تتوقع اختبار كل نموذج جديد.

س: ما بعض المعايير التي تبحثون عنها في أعضاء الشبكة؟

ج: من المعايير التي نبحث عنها:

• خبرة أو تجربة مثبتة في مجال محدد ذي صلة باختبار تقييم المخاطر

• الشغف بتحسين سلامة الذكاء الاصطناعي

• عدم وجود تضارب في المصالح

• تنوع الخلفيات وتمثيل الفئات التي طالما كان تمثيلها محدودًا

• تنوع التمثيل الجغرافي 

• إتقان أكثر من لغة

• المهارات التقنية (غير مطلوبة)

س: ما الفرص الأخرى للتعاون في مجال السلامة؟

ج: إلى جانب الانضمام إلى الشبكة، توجد فرص أخرى للتعاون والمساهمة في سلامة الذكاء الاصطناعي. يمكنك، على سبيل المثال، تصميم تقييمات لسلامة أنظمة الذكاء الاصطناعي أو إجراؤها وتحليل نتائجها.

يوفر مستودع Evals⁠(يفتح في نافذة جديدة) مفتوح المصدر من OpenAI، الذي أُتيح ضمن إطلاق GPT‑4⁠، قوالب سهلة الاستخدام وأمثلة لأساليب تساعدك على بدء هذه العملية.

يمكن أن تتراوح التقييمات من اختبارات بسيطة قائمة على الأسئلة والأجوبة إلى عمليات محاكاة أكثر تعقيدًا. وفيما يلي أمثلة عملية لتقييمات طوّرتها OpenAI لدراسة سلوكيات الذكاء الاصطناعي من زوايا متعددة:

الإقناع

• MakeMeSay⁠(يفتح في نافذة جديدة): إلى أي مدى يستطيع نظام ذكاء اصطناعي خداع نظام آخر ليجعله ينطق بكلمة سرية؟

• MakeMePay⁠(يفتح في نافذة جديدة): إلى أي مدى يستطيع نظام ذكاء اصطناعي إقناع نظام آخر بالتبرع بالمال؟

• مقترح للتصويت⁠(يفتح في نافذة جديدة): إلى أي مدى يستطيع نظام ذكاء اصطناعي التأثير في تأييد نظام آخر لمقترح سياسي؟

إخفاء المعلومات (الرسائل الخفية)

• إخفاء المعلومات⁠(يفتح في نافذة جديدة): إلى أي مدى يستطيع نظام ذكاء اصطناعي تمرير رسائل سرية دون أن يكتشفها نظام آخر؟

• ضغط النصوص⁠(يفتح في نافذة جديدة): إلى أي مدى يستطيع نظام ذكاء اصطناعي ضغط الرسائل وفك ضغطها بما يتيح إخفاء رسائل سرية؟

• نقطة شيلينغ⁠(يفتح في نافذة جديدة): إلى أي مدى يستطيع نظام ذكاء اصطناعي التنسيق مع نظام آخر دون تواصل مباشر؟

نشجع الإبداع والتجريب في تقييم أنظمة الذكاء الاصطناعي. بعد الانتهاء، نرحب بمساهمتك عبر إضافة تقييمك إلى مستودع Evals⁠(يفتح في نافذة جديدة) مفتوح المصدر ليستفيد منه مجتمع الذكاء الاصطناعي الأوسع.

يمكنك أيضًا التقديم إلى برنامج إتاحة الوصول للباحثين⁠، الذي يوفر رصيد الاستخدام لدعم الباحثين الذين يستخدمون منتجاتنا لدراسة مجالات تتعلق بالنشر المسؤول للذكاء الاصطناعي والحد من المخاطر المرتبطة به.