مع ازدياد ذكاء نماذجنا واتساع أثر الإجراءات التي تتخذها في العالم، تزداد أهمية أن تتجاوز مجرد تفسير التعليمات المحددة التي تتلقاها. تحتاج النماذج أيضًا إلى فهم مقاصد البشر وقيمهم، حتى تتمكن من التصرف بحكمة في المواقف التي لا تتناولها تعليماتها صراحةً، مع الالتزام بمقاصد البشر والبقاء تحت إشرافهم.
نحدّث اليوم مواصفات النموذج(يفتح في نافذة جديدة)، وهي وثيقتنا المتاحة للجمهور التي تصف السلوك الذي نريده لنماذجنا. يعيد التحديث تنظيم إرشادات الوثيقة حول خمس قيم أساسية: الالتزام بمقاصد البشر، وتقليل الضرر، والصدق والشفافية، واستقلالية البشر، والعناية. يعكس ذلك أحد أهداف عملنا على المواءمة مع القيم: أن تفهم النماذج القيم البشرية وتطبّقها في مواقف غير مألوفة، مع الالتزام بمقاصد البشر. إلى جانب توضيح المبادئ القائمة، تضيف المراجعة إرشادات بشأن السياق والإشراف والاستقلالية، وتعدّل بعض القواعد السلوكية الافتراضية، وتستغني عن كثير من الإرشادات الأسلوبية التفصيلية.
تعبّر القيم الخمس المذكورة أعلاه عن التزامات عامة تتجلى بالفعل في مختلف أجزاء مواصفات النموذج: خدمة غايات البشر، والتحلي بالصدق، وتقليل الضرر، واحترام حرية الناس في تكوين آرائهم الخاصة، وأخذ ظروفهم على محمل الجد. يساعد جمع هذه الالتزامات معًا على توضيح أسباب السلوك الذي تطلبه المواصفات من النماذج، ويساعدنا على صياغة إرشادات أوضح في المواضع التي لم يُعبَّر فيها عن تلك الالتزامات بالقدر الكافي. يمثل هذا التحديث خطوة أخرى في عملنا على تحسين المواصفات بالاستناد إلى الأبحاث، والخبرة في نشر النماذج، وملاحظات الجمهور حول المواصفات وسلوك النماذج، والنقاشات مع المستخدمين والخبراء من خارج الشركة.
نريد أن يعود AI بالنفع على عالم يضم أشخاصًا تختلف احتياجاتهم وقيمهم وآمالهم للمستقبل.
يشكّل الالتزام بمقاصد البشر أساس هذا النهج: فهم ما يهم الناس ومساعدتهم على السعي إليه. تضع OpenAI المواصفات، وتحدد الحدود، وتدرّب النماذج على احترامها؛ ويوجّه المطوّرون التطبيقات ضمن تلك الحدود؛ ويوجّه المستخدمون عمل النموذج في إطار تلك الضوابط. ينبغي لنماذجنا أن تعزّز قدرة الناس على رسم مسار حياتهم بأنفسهم، بمساعدتهم على فهم العالم، واكتشاف الإمكانات، والسعي إلى الأهداف التي يختارونها، مع أخذ أثر تلك المساعدة على الآخرين على محمل الجد. تنتظم المواصفات حول الالتزام بمقاصد البشر والقيم الأربع الأخرى، وهي ترشد نماذجنا إلى كيفية التعامل مع بعض أهم المفاضلات التي تواجهها. ولا يُقصد بهذه القيم أن تحيط بجميع القيم البشرية التي ينبغي لنماذجنا احترامها ومساعدة الناس على تحقيقها.
يعني الالتزام بمقاصد البشر تجاوز اتباع التعليمات حرفيًا إلى فهم عميق لما تقصده OpenAI والمطوّرون والمستخدمون وما يقدّرونه، والتصرف بحكمة حين يكون هذا الفهم غير مكتمل. ويعني أيضًا إدراك أن معتقدات الناس وقيمهم قد تتغير، ومساعدتهم على التأمل والنمو بطرق يرتضونها، من دون توجيههم خفيةً أو تجاوز اختياراتهم. فعند مساعدة شخص على مقارنة عروض عمل، مثلًا، قد يستند النموذج إلى أولويات سبق أن شاركها، مثل انتظام ساعات العمل، مع توضيح هذه الافتراضات وتسهيل تصحيحها.
تتمثل رسالتنا في ضمان أن يعود الذكاء الاصطناعي العام بالنفع على البشرية جمعاء. ويتطلب ذلك النظر ليس فقط إلى مقاصد الشخص الآنية، بل أيضًا إلى مصالحه على المدى الأبعد والآثار على الآخرين. وتنص القيم الأربع الأخرى صراحةً على هذه الاعتبارات:
يعني تقليل الضرر احترام حدود صارمة للسلامة ومراعاة العواقب التي يمكن توقعها لإجراءات النموذج.
يعني الصدق والشفافية التحلي بالصدق بشأن ما يعرفه النموذج وما يفعله وما لا يتيقن منه، حتى يتمكن الناس من فهم استدلاله وعمله وتقييمهما.
يعني دعم استقلالية البشر تعزيز قدرة الناس على الفهم والاختيار والتصرف بأنفسهم.
تعني العناية مراعاة ظروف المتأثرين، واتباع الأعراف الاجتماعية والمهنية ذات الصلة، وإنجاز عمل يمكن للناس الاعتماد عليه.
تحوّل المواصفات هذه القيم إلى إرشادات عملية، وتضع حدودًا صارمة حيثما يلزم لحماية الناس والمجتمع. أما في غير ذلك، فتأتي الإرشادات في معظمها على هيئة قواعد افتراضية يمكن للمستخدمين والمطوّرين تجاوزها.
بالتوازي مع هذا التحديث لمواصفات النموذج، نعمل على استكشاف أساليب تدريب جديدة لمساعدة نماذجنا على تعلّم هذه القيم الأساسية وفهم المبادئ السلوكية المحددة في المواصفات واتباعها على نحو أفضل. والهدف هو بناء فهم لأهمية تلك المبادئ وكيفية تطبيقها في مواقف جديدة: لفعل الصواب للأسباب الصحيحة. نريد لهذا الفهم أن يدعم حسن التقدير في القرارات ذات العواقب المهمة، والعناية في القرارات اليومية التي يمكن أن تتراكم آثارها لتُحدث فوائد مستدامة للناس والمجتمع(يفتح في نافذة جديدة). سنشارك نتائج هذا العمل التدريبي والدروس المستفادة منه في تحديثات مقبلة.
ساعدتنا إعادة التنظيم هذه أيضًا على تحديد المواضع التي تحتاج إلى إرشادات إضافية، ووضع مبادئ جديدة لتلبية تلك الحاجة، ومراجعة الإرشادات القائمة أو إلغائها بحسب الحاجة.
ينطلق القسم الجديد المتعلق بالالتزام بمقاصد البشر من فكرة أن الأساس هو ما يقدّره الناس، وأن التعليمات عادةً ما تكون أوضح المؤشرات إلى تلك القيم وأهمها. يستند هذا النهج إلى إطار «ألعاب المساعدة» في تناول المواءمة (انظر بحثًا مبكرًا(يفتح في نافذة جديدة) وعرضًا عامًا لاحقًا(يفتح في نافذة جديدة)). يتضمن القسم نسخة محدّثة من التسلسل الهرمي للتعليمات(يفتح في نافذة جديدة)، توضح أيّ التعليمات يُطبَّق وكيف تُحل التعارضات بينها. ويشرح قسم فرعي جديد بعنوان مراعاة السياق بعناية(يفتح في نافذة جديدة) كيف ينبغي للمحادثات والذكريات وغيرها من القرائن السياقية أن تسهم في فهم النموذج لمقاصد الناس وتفضيلاتهم.
أضفنا أيضًا قواعد افتراضية بشأن دعم استقلالية البشر(يفتح في نافذة جديدة) واتباع الأعراف الاجتماعية ذات الصلة(يفتح في نافذة جديدة)، ووسّعنا الإرشادات القائمة بشأن ضبط الآثار الجانبية والإفصاح عنها(يفتح في نافذة جديدة). تعبّر هذه المبادئ عن طرق إضافية، غالبًا ما تكون دقيقة لكنها مهمة، ينبغي أن تتجلى بها القيم الأخرى في سلوك النموذج: مراعاة آثار العمل على الآخرين، وتعزيز قدرات المستخدمين، وإنجاز عمل يمكن للناس الاعتماد عليه، مع احترام أهداف المستخدم وتعليماته.
وفي الوقت نفسه، نستغني عن معظم الإرشادات الأسلوبية التفصيلية في المواصفات. ينبغي أن يتكيّف الأسلوب مع تفضيلات الناس، سواء على المستوى العام، أو ضمن اللغات والثقافات المختلفة، أو على مستوى كل فرد، مع الاستدلال على تلك التفضيلات بملاحظات المستخدمين والسياق. تحتفظ المواصفات بقواعد افتراضية أكثر رسوخًا، مثل تناول الأسئلة بموضوعية(يفتح في نافذة جديدة). يمكن للمستخدمين والمطوّرين أن يطلبوا صراحةً من النموذج تبنّي منظور معين، لكن ينبغي ألا يستنتج النموذج هذا التفضيل لمجرد اعتقاده أنه ما يريدون سماعه.
وأخيرًا، تعبيرًا عن التنوع المتزايد في حالات استخدام نماذجنا وبيئات نشرها، أصبحنا نشير إلى النموذج في المواصفات باسم «GPT» بدلًا من «المساعد».
يمثل هذا التحديث خطوة أولى نحو توضيح القيم والمبررات التي تستند إليها المواصفات، مع تنامي قدرات النماذج. تصف مواصفات النموذج السلوك الذي نعمل على تحقيقه؛ ولا تعكسه نماذجنا بالكامل بعد. سنواصل تحسين المواصفات والنماذج معًا، مستفيدين مما نتعلمه من الأبحاث والاستخدام الفعلي والملاحظات.
نريد أن نعرف أيّ أجزاء المواصفات تجدونها مقنعة، وأين تختلفون مع التوازن الذي تحققه، وما الذي تغفله أو تتركه غير واضح. يمكن لملاحظاتكم حول القيم والمفاضلات والصياغات المحددة أن تساعدنا على تحسينها. ندعوكم إلى قراءة مواصفات النموذج المحدّثة(يفتح في نافذة جديدة) ومشاركة آرائكم(يفتح في نافذة جديدة).
