تحديث مواصفات النماذج لدينا لتضمين تدابير حماية المراهقين
بإرشادٍ نيّرٍ من إرشادات المتخصصين ورؤاهم، ترسم "معايير حماية المستخدمين دون سن الثامنة عشرة" الجديدة إطارًا منهجيًا يحدد كيفية قيام ChatGPT بمساندة المراهقين عبر التزام النموذج بسلوكياتٍ آمنةٍ تتناغم مع مقتضيات مراحلهم العمرية.
نُعلن اليوم عن تحديثٍ شاملٍ لمواصفات النماذج؛ وهي الإطار المرجعي للقواعد والقيم والتوقعات السلوكية التي تُوجه نماذج الذكاء الاصطناعي الخاصة بنا، لا سيما عند مواجهة تحدياتٍ معقدةٍ أو مواقف عالية الخطورة. ويأتي هذا التحديث بإضافة معايير حماية المستخدمين دون سن الثامنة عشرة(يفتح في نافذة جديدة) الجديدة؛ إيمانًا منا بأن سلوك النموذج يمثل عنصرًا حاسمًا في تجربةٍ المستخدمين وتفاعلهم مع الذكاء الاصطناعي، لا سيما وأن للمراهقين احتياجاتٍ نمائيةً تختلف اختلافًا جوهريًا عن احتياجات البالغين.
تُرسي معايير حماية المستخدمين دون سن الثامنة عشرة أطرًا واضحةً تضمن تقديم ChatGPT تجربةً آمنةً وملائمةً للفئة العمرية للمراهقين (13-17 عامًا). ويعطي هذا النهج، المستند إلى أسس علم النفس النمائي، أولويةً قصوى لمبادئ الوقاية والشفافية والتدخل المبكر. وفي إطار تطوير هذه المعايير، حرصنا على عرضها عرضًا مسبقًا على نخبةٍ من الخبراء الخارجيين، بما في ذلك "الجمعية الأمريكية لعلم النفس"؛ لضمان صياغة سياساتٍ رصينةٍ تُعزز نهجنا تعزيزًا فعالًا ومسؤولًا.
بينما يستمر تطبيق معايير مواصفات النموذج على البالغين والمراهقين معًا، يفسر هذا التحديث الجديد كيفية مواءمة تلك المعايير لتناسب ظروف المراهقين مواءمةً دقيقةً؛ لا سيما عندما تصبح متطلبات الأمان الخاصة بمن هم دون سن الرشد أكثر بروزًا، وتتخذ طابعًا حيويًا يتطلب تدقيقًا وإحكامًا.
ترتكز معايير حماية المستخدمين دون سن الثامنة عشرة على أربعة التزامات إرشادية:
- وضع سلامة المراهقين في المقام الأول، حتى لو تعارضت مع أهداف أخرى
- تكثيف سبل الدعم الواقعي والملموس من خلال التشجيع على بناء علاقات شخصية والاعتماد على الموارد الموثوقة
- التعامل مع المراهقين حسب خصائصهم العمرية، فلا تتحدث إليهم بنبرةٍ استعلائيةٍ أو تعاملهم معاملةً تماثل البالغين
- الالتزام بالشفافية والوضوح عبر رسم أطرٍ وتوقعاتٍ محددةٍ
تماشيًا مع المخطط الإرشادي لسلامة المراهقين، وجهت هذه المعايير مسار عملنا توجيهًا دقيقًا حتى الآن؛ بما يشمل تدابير حماية المحتوى المفروضة على المستخدمين المسجلين دون سن الثامنة عشرة، وتفعيل أدوات رقابة الوالدين. وفي هذا السياق، اتخذنا تدابير احترازيةً تجعل النموذج أكثر حذرًا وتحفظًا عند التطرق لمجالاتٍ عالية الخطورة؛ ومنها إيذاء النفس والانتحار، وتمثيل الأدوار الرومانسية أو الجنسية، والمحتوى الفاضح، والأنشطة والمواد الخطرة، وهيئة الجسم، واضطرابات الأكل، إضافةً إلى طلبات كتمان الأسرار المتعلقة بسلوكياتٍ غير آمنةٍ.
تتبنى "الجمعية الأمريكية لعلم النفس" موقفًا حازمًا وراسخًا إزاء ضرورة حماية المراهقين؛ باعتبارها الجهة التي تولت مراجعة المسودة الأولية لمعايير حماية المستخدمين دون سن الثامنة عشرة مراجعةً دقيقةً، وأثرتها بتصوراتٍ جوهريةٍ لضمان سلامة الأجيال الناشئة:
"تُهيب 'الجمعية الأمريكية لعلم النفس' (APA) بمطوري أنظمة الذكاء الاصطناعي إرساء تدابير وقائيةٍ تراعي مقتضيات المراحل النمائية لمستخدمي منتجاتهم من الشباب مراعاةً تامةً، مع تبني نهجٍ أكثر تحفظًا وحمايةً حيال المستخدمين الأصغر سنًا. إن إمكانية استفادة الأطفال والمراهقين من أدوات الذكاء الاصطناعي تظل رهينةً بموازنتها بالتفاعل الإنساني الحي موازنةً دقيقةً؛ نظرًا لأهميته القصوى في تشكيل التطور الاجتماعي والنفسي والسلوكي، بل والبيولوجي أيضًا. كما تشدد الجمعية على ضرورة إخضاع تجارب الشباب الصغار لإشرافٍ دقيقٍ وحوارٍ بناءٍ مع راشدين موثوقين؛ تمكينًا للشباب من نقد محتوى روبوتات الدردشة نقدًا واعيًا، وبناء مهارات التفكير الحر لديهم بناءً سليمًا."
يوضح هذا التحديث أيضًا بروتوكولات استجابة المساعد فور رصد تهديداتٍ تمس أمن المراهقين؛ وبموجب ذلك، سيواجه المراهقون ضوابط مشددةً، وتُقدم لهم خياراتٌ بديلةٌ تضمن سلامتهم، مع توجيههم توجيهًا مباشرًا للحصول على الدعم من جهاتٍ ومصادر موثوقةٍ في واقعهم الفعلي حينما تنجرف الحوارات نحو مساراتٍ عالية الخطورة. أما في حالات الخطر الداهم، فيتم إرشاد المراهقين إرشادًا حازمًا بضرورة التواصل الفوري مع هيئات الطوارئ المحلية أو مراكز التدخل عند الأزمات.
وعلى غرار كافة مواصفات النماذج، تُجسد "معايير حماية المستخدمين دون سن الثامنة عشرة" المعايير السلوكية التي نطمح أن يلتزم بها النموذج التزامًا راسخًا. وسنواصل تحسين هذه القواعد وتطويرها باستمرار في ضوء ما يستجد من دراسات بحثية جديدة وآراء الخبراء المتخصصين واستنادًا إلى خبرات الاستخدام الفعلي.
بالتزامن مع تحديث مواصفات النموذج، اعتمدنا نهجًا شاملًا متعدد الأبعاد لتعزيز تدابير أمان المراهقين في منصة ChatGPT؛ ويشمل هذا النهج ضوابط الحماية للمنتجات، وآليات دعم العائلات، والاستشارات المتخصصة من قبل الخبراء.
منذ تطبيق أدوات رقابة الوالدين(يفتح في نافذة جديدة)، عملنا على توسيع نطاق تدابير الحماية لتشمل منتجاتنا الحديثة؛ بما في ذلك الدردشات الجماعية، ومتصفح ChatGPT Atlas، وتطبيق Sora. وتمنح هذه التحديثات أولياء الأمور قدرةً أكبر على ضبط تجربة استخدام ChatGPT للمراهقين وتشكيلها بما يلبي احتياجاتهم، مع التزامنا بتوفير خدماتٍ ومزايا إضافيةٍ جديدة.
انطلاقًا من إرشادات الخبراء، نؤكّد على ضرورة تعزيز الحوار المستمر بين أولياء الأمور وأبنائهم المراهقين لترسيخ أسس الاستخدام الواعي والمسؤول للذكاء الاصطناعي في رحاب الأسرة. وتجسيدًا لهذا الدور، قمنا بإثراء "مركز موارد الآباء(يفتح في نافذة جديدة)" بمجموعةٍ من المواد التعليمية المرجعية التي خضعت لتمحيصٍ دقيقٍ من قبل متخصصين؛ ومن أبرزها "دليل العائلة لمساعدة المراهقين على استخدام الذكاء الاصطناعي بمسؤولية(يفتح في نافذة جديدة)"، إلى جانب نصائح للآباء(يفتح في نافذة جديدة) تعينهم على إدارة نقاشاتٍ مثمرةٍ حول هذه التقنيات. وقد حظيت هذه الموارد بتدقيقٍ واعٍ من منظمة ConnectSafely وأعضاء مجلس الخبراء الاستشاري للصحة والذكاء الاصطناعي، مع التزامنا التام بمواصلة تزويد هذا المركز بمزيدٍ من المصادر بشكل دوري. وفي سياقٍ متصلٍ، نعمل على غرس عاداتٍ رقميةٍ صحيةٍ داخل التطبيق مباشرةً، من خلال خاصية "التذكير بالاستراحة" أثناء الجلسات المطولة؛ سعيًا لضمان قضاء وقتٍ متزنٍ ومدروسٍ مع ChatGPT.
يرتكز نهجنا في حماية المراهقين على تكامل الجهود والمشاركة الفعالة مع نخبٍ من المتخصصين في شتى المجالات؛ ففي شهر أكتوبر، أسسنا "مجلس الخبراء الاستشاري للصحة والذكاء الاصطناعي" ليتولى تقديم الرؤى الاستشارية ورسم معايير التفاعل الصحي مع الذكاء الاصطناعي لكافة الفئات العمرية. وقد أثمرت هذه الجهود عن بلورة إرشاداتٍ نوعيةٍ لأدوات رقابة الوالدين وتطوير نظام تنبيهات أولياء الأمور. وعلاوةً على ذلك، نستقطب الخبرات الطبية التخصصية عبر "الشبكة العالمية للأطباء" لدعم أبحاث الأمان وتقييم سلوكيات النماذج؛ لا سيما في تعزيز قدرة ChatGPT على رصد علامات الاضطراب النفسي وتوجيه المستخدمين نحو المساعدة المتخصصة حسب الضرورة. وقد تم ترسيخ هذه القواعد السلوكية في إصدار GPT‑5.2، مع إتاحة سبل دعمٍ واقعيةٍ عبر توفير أرقام استغاثةٍ محليةٍ في منصتي ChatGPT وSora بالتعاون مع ThroughLine(يفتح في نافذة جديدة).
شرعنا بالفعل في المراحل التمهيدية لتشغيل نموذجٍ لتقدير العمر(يفتح في نافذة جديدة) ضمن اشتراكات ChatGPT للأفراد؛ الأمر الذي سيمكننا من تفعيل بروتوكولات حماية المراهقين تفعيلًا ذاتيًا بمجرد ترجيح أن الحساب يخص مستخدمًا قاصرًا. وفي حال ساورنا أدنى شكٍ تجاه عمر المستخدم أو رصدنا نقصًا في البيانات المتاحة، فسنعمد إلى تحويل الحساب تلقائيًا إلى "تجربة المستخدمين دون سن الثامنة عشرة"؛ مع توفير سبل تتيح للمستخدمين الراشدين إثبات هويتهم العمرية لاستعادة المزايا الكاملة.
إن جهودنا الرامية إلى تعزيز مستويات أمان المراهقين تمثل مسارًا لا يتوقف؛ حيث سنواصل تحسين أدوات رقابة الوالدين وتطوير قدرات النماذج، مع إتاحة المزيد من الموارد المعرفية لأولياء الأمور. كما نؤكد على استمرار تعاوننا الوثيق مع الهيئات والباحثين والشركاء من أهل الاختصاص؛ وفي مقدمتهم "المجلس الاستشاري للصحة" و"الشبكة العالمية للأطباء".
إننا نجدد التزامنا الراسخ بتقديم تدابير حماية صلبة للمراهقين، مع العمل الدؤوب على الارتقاء بها وتحسينها باستمرار؛ سعيًا منا لتوفير أقصى درجات الدعم الممكن للمراهقين وعائلاتهم.
