تعزيز سلامة الشباب والفرص عبر القيادة العالمية

يمكن أن يكون الذكاء الاصطناعي أداة قوية للشباب. يمكنه مساعدة الطلاب على فهم مفهوم صعب، أو ممارسة لغة جديدة، أو الاستعداد لمقابلة عمل، أو استكشاف أفكار إبداعية، أو تعلم مهارة جديدة. كما أن انتشار حركة محو الأمية في أنحاء العالم في منتصف القرن العشرين تطلب توزيع النصوص المطبوعة على نطاق واسع وإتاحة الوصول إلى معلمين مدرَّبين، فإن توفير الوصول اليوم إلى ذكاء اصطناعي آمن سيفتح فرصًا جديدة للتعلم المخصص، ويساعد على تقليل الحواجز أمام الفئات المحرومة، ويزيد جاهزية القوى العاملة.

نظرًا إلى أن الفوائد المحتملة كبيرة جدًا، فمن الضروري أن يتمكن الشباب من الوصول إلى الذكاء الاصطناعي بطرق آمنة ومناسبة لأعمارهم وداعمة لنموهم الصحي. ولا ينبغي أن تقع هذه المسؤولية بالدرجة الأولى على عاتق الآباء أو الشباب أنفسهم. تقع على الشركات، بما في ذلك OpenAI، مسؤولية بناء منتجات مزودة افتراضيًا بضمانات حماية مناسبة، مع تمكين الأسر بالأدوات والمعلومات اللازمة لتوجيه كيفية استخدام الذكاء الاصطناعي.

عندما يجتمع رؤساء الدول في قمة قادة مجموعة السبع في إيفيان بفرنسا في وقت لاحق من هذا الشهر، ستكون سلامة الشباب في مجال الذكاء الاصطناعي محورًا رئيسيًا. ستنضم OpenAI إلى المناقشات بشأن تعزيز التعاون في سلامة الشباب، وكيف يمكننا العمل معًا لرفع معايير القطاع، ودعوة OpenAI الجديدة إلى إنشاء معهد دولي لسلامة الشباب.

تمثل قمة قادة مجموعة السبع فرصة نادرة للتنسيق العالمي بشأن سلامة الشباب. لكن وجود معهد مخصص سيوفر الاستمرارية والمتابعة اللازمتين بعد قمة واحدة، بما يساعد الحكومات والباحثين والمجتمع المدني والقطاع على مواصلة العمل معًا لتبادل الأدلة، وتطوير الإرشادات، ورفع المعايير بمرور الوقت.

هناك عدة طرق موثوقة لتحقيق ذلك: من خلال معهد دولي جديد، أو بمنح معهد وطني قائم أو مستحدث للذكاء الاصطناعي تفويضًا عالميًا لمشاركة الأبحاث والأدلة والإرشادات مع الشركاء حول العالم. الأهم هو الوظيفة التي يؤديها. تحتاج سلامة الشباب في مجال الذكاء الاصطناعي إلى اهتمام مستمر، وأدلة موثوقة، وإرشادات عملية تواكب التكنولوجيا.

يمكن لمثل هذا المعهد أن يبني على مبادرات ناشئة مثل معهد سلامة الشباب في مجال الذكاء الاصطناعي التابع لـ Common Sense Media، بدعم من مؤسسة OpenAI، فضلًا عن التعاونات العملية مع المعلمين، بما في ذلك عمل OpenAI مع الاتحاد الأمريكي للمعلمين⁠. وينبغي له أيضًا الاستفادة من عمليات النشر في العالم الحقيقي، مثل طرح ChatGPT وطنيًا في مدارس إستونيا، حيث تعمل OpenAI مع باحثين من ستانفورد وإستونيا لدراسة الأثر وتوجيه استخدام أكثر أمانًا وفاعلية في التعلم.

ترحب OpenAI بفرصة العمل مع الحكومة الفرنسية، وحكومات مجموعة السبع الأخرى، والشركاء في المجتمع المدني والأوساط الأكاديمية والقطاع على هذا العمل الحيوي، ولرفع المعايير العالمية في سلامة الشباب.

نعتقد أن أطر سلامة الشباب القوية في مجال الذكاء الاصطناعي، بما في ذلك أي اتفاق محتمل يتم التوصل إليه في اجتماعات مجموعة السبع، ينبغي أن تسترشد بالمبادئ التي نعرضها هنا.

1. ينبغي للشركات أن تعرف متى يكون المستخدم قاصرًا وأن تطبق وسائل حماية مناسبة للعمر. وهذا يعني إلزام المزوّدين باستخدام وسائل مثل التقدير الفعّال للعمر مع الحفاظ على الخصوصية للتمييز بين القُصّر والبالغين، واعتماد ضمانات حماية افتراضية عندما يتعذر تحديد عمر المستخدم. ومن دون هذا الأساس، قد تفشل حتى أكثر وسائل حماية الشباب حسنًا في النية في الوصول إلى الشباب الذين صُممت لحمايتهم.
2. ينبغي للشركات أن تقيّم بانتظام المخاطر والفوائد للشباب، وأن تتخذ خطوات لمعالجتها—قبل وقوع الضرر. وهذا يعني إلزام المزوّدين بإكمال تقييمات سنوية لمخاطر سلامة الشباب وتنفيذ ضمانات حماية متناسبة بناءً على المخاطر التي يحددونها. وينبغي أن تراعي هذه التقييمات المخاطر التي تواجه الشباب استنادًا إلى مرحلة نموهم، والأدلة التجريبية من الاستخدام الفعلي، والأبحاث أو الإرشادات التنظيمية ذات الصلة. كما ينبغي أن تنظر التقييمات ليس فقط في الأضرار المحتملة، بل أيضًا فيما إذا كان الذكاء الاصطناعي يدعم نتائج إيجابية مثل التعلم والإبداع وتنمية المهارات والوصول إلى الفرص.
3. ينبغي أن تتوفر للآباء والأوصياء أدوات رقابة سهلة الوصول والاستخدام لمساعدتهم على توجيه تجارب أطفالهم، مع دعم الاستقلالية المناسبة للعمر. وينبغي أن تشمل هذه الأدوات إدارة الإعدادات الرئيسية، بما في ذلك الذاكرة واستخدام البيانات والحدود الزمنية. وينبغي الترويج النشط لأدوات الرقابة الأبوية حتى يعرف الآباء بوجودها ويفهموا كيفية استخدامها.
4. تستحق الأسر معلومات واضحة ومفهومة عن كيفية حماية الشركات للمستخدمين الصغار، ومعلومات مفيدة عن فوائد ومخاطر استخدام الشباب للذكاء الاصطناعي. وينبغي للشركات نشر سياسات سلامة تشرح ضمانات الحماية المتاحة لحماية الشباب، وأدوات الآباء المتوفرة، وكيف تُحدَّث وسائل الحماية مع تطور المخاطر. تعزز هذه الشفافية الثقة وتساعد الآباء على اتخاذ خيارات مستنيرة.
5. ينبغي أن تكون لدى الشركات بروتوكولات واضحة لمعالجة حالات السلامة الخطيرة، بما في ذلك إيذاء النفس والاستغلال والاستدراج والمحتوى الاستغلالي الجنسي والتفاعلات الأخرى عالية المخاطر. وينبغي أن يشمل ذلك الدعم داخل الخدمة، والإحالة إلى الموارد المناسبة، وإشعارات الوالدين في الوقت المناسب عند الاقتضاء. وينبغي للشركات أيضًا تصميم أنظمتها لمنعها من إنشاء محتوى غير آمن أو غير مناسب نمائيًا للأطفال، بما في ذلك المواد الجنسية أو العنيفة الصريحة.  
6. ينبغي تصميم أنظمة الذكاء الاصطناعي التي يستخدمها الشباب لدعم التعلم والنمو والعلاقات في العالم الحقيقي—لا لاستبدالها. ينبغي أن يكون الذكاء الاصطناعي أداة تساعد الشباب على التعلم والإبداع وبناء المهارات والاستعداد للمستقبل. وفي الوقت نفسه، ينبغي للشركات وضع حدود واضحة في المجالات التي يعتمد فيها النمو الصحي على الحكم البشري، والعلاقات في العالم الحقيقي، والدعم المهني.
7. ينبغي حماية المعلومات الشخصية للقُصّر. وهذا يعني حظر الإعلانات الموجهة إلى الشباب التي تنتهك الخصوصية، ومنع الشركات من بيع المعلومات الشخصية.
8. ينبغي لأطر سلامة الشباب أن تعزز الفرص والوعي والحماية. ينبغي أن يتمكن الشباب من الوصول إلى أدوات ذكاء اصطناعي تدعم التعلم والإبداع وتنمية المهارات وفرص المستقبل، مع تزويدهم بالمعرفة ومهارات التفكير النقدي اللازمة لاستخدام الذكاء الاصطناعي بأمان ومسؤولية. ويشمل ذلك تعزيز الوعي بالذكاء الاصطناعي ومساعدة الشباب على فهم فرص أنظمة الذكاء الاصطناعي وحدودها، حتى يتمكنوا من التفاعل بثقة ومسؤولية في الفضاءات الرقمية.
9. تُعد آليات المساءلة القوية، بما في ذلك عمليات التدقيق المستقلة، ضرورية لضمان أن تكون هذه الحمايات فعّالة عمليًا. ينبغي أن تستند عمليات التدقيق إلى مجموعة من المعايير المشتركة التي تتيح إجراء تدقيقات قابلة للتشغيل البيني عبر الولايات القضائية. ينبغي أن تتضمن الأطر التشريعية تدابير للرقابة والإنفاذ تتيح للحكومات تقييم ما إذا كانت الشركات تنفذ بفاعلية ضمانات سلامة الشباب، وتخفف المخاطر المحددة، وتمتثل لالتزامات سلامة الشباب والخصوصية.

تنعكس هذه المبادئ في كيفية بنائنا وتشغيلنا لـ ChatGPT، من سلوك النموذج وتصميم المنتج إلى مساهمات الخبراء والدعم في العالم الحقيقي. لقد عززنا ضمانات الحماية للمستخدمين دون سن 18 عامًا، وأطلقنا الرقابة الأبوية⁠ مع إشعارات استباقية، وأنظمة متقدمة للتنبؤ بالعمر⁠ حتى يتمكن ChatGPT من تطبيق حمايات أقوى عندما يُحتمل أن يكون شخص ما دون سن 18 عامًا. وتتضمن مواصفات النموذج لدينا، التي توضح كيف ينبغي أن تتصرف نماذجنا، أيضًا مبادئ مخصصة للمستخدمين دون سن 18 عامًا⁠(يفتح في نافذة جديدة)، مع إعطاء الأولوية لسلامة المراهقين، والتجارب المناسبة للعمر، والدعم في العالم الحقيقي، والتوقعات الواضحة. عمليًا، يعني ذلك حواجز حماية أقوى حول إيذاء النفس والأنشطة الخطرة والمحتوى الصريح وصورة الجسد والسرية، إلى جانب التشجيع على طلب دعم موثوق خارج الإنترنت أو موارد الأزمات عند الحاجة. عندما يكون العمر غير مؤكد، نعتمد افتراضيًا ضمانات حماية أقوى.

يمكن للذكاء الاصطناعي المصمم بضمانات حماية قوية والمقدم بإرشادات واضحة، وبدعم من الأسر والمعلمين، أن يساعد الشباب على الاستفادة بأمان من أدوات توسع التعلم والإبداع والفرص. يمكن للذكاء الاصطناعي مساعدة الطلاب على فهم المفاهيم الصعبة، وممارسة اللغات، وتحسين كتابتهم، وتعلم البرمجة، وتنظيم الأبحاث، واستكشاف الأفكار الإبداعية، والاستعداد لوظائف تتغير بالفعل. من خلال التعليم للدول⁠، تعمل OpenAI مع الحكومات والمعلمين على عمليات نشر تستند إلى الأبحاث، وأدوات تعلم محلية، وتدريب للمعلمين، حتى يستند اعتماد الذكاء الاصطناعي إلى الأدلة واحتياجات الفصول الدراسية الحقيقية. يدعم هذا العمل بالفعل جهود التعليم الوطنية مع دولنا الشريكة، بما في ذلك إستونيا⁠ واليونان⁠ وسنغافورة⁠.

إضافةً إلى المشاركة في قمة القادة، سننقل منتدى OpenAI⁠(يفتح في نافذة جديدة) إلى باريس لعقد حوار عملي حول كيفية تحويل الحكومات والباحثين والمجتمع المدني والمعلمين والقطاع للأهداف المشتركة لسلامة الشباب إلى ضمانات ومعايير وممارسات تنفيذ ملموسة. ستنضم سفيرة فرنسا للذكاء الاصطناعي والشؤون الرقمية، كلارا شاباز، إلى كريس ليهان، كبير مسؤولي الشؤون العالمية في OpenAI، وقادة سلامة الشباب من iRaise/Everyone.AI، وخبراء آخرين، في نقاش حول كيفية استفادة الشباب من الذكاء الاصطناعي مع تقليل المخاطر.