OpenAI تدعم مشروع قانون كاليفورنيا لتعزيز سلامة الشباب في مجال الذكاء الاصطناعي
بقلم آن أوليري، نائبة الرئيس للسياسات العالمية
تدعم OpenAI مشروع قانون مجلس شيوخ كاليفورنيا رقم 1119، الذي يضع ضمانات فعّالة لكيفية استخدام الشباب للذكاء الاصطناعي، مع الحفاظ على إمكانية وصولهم إلى أدوات تساعدهم على التعلم والإبداع والاستعداد للمستقبل. يأتي هذا الدعم استكمالًا للالتزام الذي تعهّد به سام ألتمان، الشريك المؤسس والرئيس التنفيذي لـOpenAI، العام الماضي عند توضيح مبادئ الشركة بشأن المراهقين.
في ظل غياب تحرك فيدرالي، تملك كاليفورنيا فرصة لوضع معيار قوي لسلامة الشباب في مجال الذكاء الاصطناعي.
في رسالتنا إلى الحاكم نيوسوم(يفتح في نافذة جديدة)، نشيد بقيادته، إلى جانب السيناتور ستيف باديلا وعضوتَي الجمعية التشريعية بافي ويكس وريبيكا باور كاهان والهيئة التشريعية لولاية كاليفورنيا، في هذه القضية المهمة. يستند مشروع القانون 1119 إلى تدابير سلامة الشباب التي دعمتها OpenAI من خلال منتجاتنا ومبادئ سياساتنا العالمية وجهودنا في كاليفورنيا وعملنا على قانون الذكاء الاصطناعي الآمن للآباء والأطفال. نشجع الحاكم نيوسوم على توقيع مشروع القانون ليصبح قانونًا نافذًا.
المراهقون هم أول جيل ينشأ مع الذكاء الاصطناعي. يلجأ نحو تسعة من كل عشرة مراهقين يستخدمون ChatGPT إليه أسبوعيًا للتعلم أو الحصول على المعلومات أو تنمية المهارات أو تعزيز الإنتاجية. وتأتي هذه الفرصة بمسؤولية واضحة: ينبغي أن تُصمَّم تجارب المراهقين بما يلائم احتياجاتهم النمائية المميزة، مع توفير حماية افتراضية قوية وفرص مناسبة للتعلم والإبداع والاستكشاف.
ويجسّد منتجنا الجديد ChatGPT للمراهقين هذا النهج. وقد صُمم لمساعدة المستخدمين دون سن 18 عامًا على التعلم والتفكير النقدي والبناء، مع تشجيع الاستخدام الصحي وتوفير ضمانات مدمجة ومنح الآباء أدوات تحكم إضافية. إذا قدّر نظامنا أن عمر شخص ما دون 18 عامًا، أو ذكر أن عمره بين 13 و17 عامًا، فسيُنقل تلقائيًا إلى ChatGPT للمراهقين. تُعد هذه الحماية جزءًا من التجربة الأساسية، وليست إعدادات اختيارية يمكن للمستخدمين تعطيلها.
وبصورة أعم، نؤمن بأن المراهقين يمكنهم الاستفادة من الذكاء الاصطناعي من دون التضحية بالسلامة، وهو هدف يقع في صميم مشروع القانون 1119.
يجمع مشروع القانون 1119 بين الحماية القوية واستمرار الوصول إلى أدوات الذكاء الاصطناعي المفيدة. ندعم بقوة هذه المتطلبات الأساسية:
- تحديد عمر المستخدم؛
- تحديد مخاطر السلامة ومعالجتها قبل إتاحة المنتج للشباب؛
- الخضوع لعمليات تدقيق مستقلة؛
- حماية الشباب من المحتوى الضار، بما في ذلك إيذاء النفس والمحتوى القائم على الاستغلال الجنسي وغيرها من التفاعلات عالية الخطورة؛
- تزويد الآباء بأدوات لتوجيه استخدام أطفالهم والحد منه؛
- ربط الشباب بموارد دعم الأزمات عند ظهور مخاطر جسيمة على السلامة؛ و
- الحد من الإعلانات الموجّهة وحماية المعلومات الشخصية للشباب.
ينبغي تطبيق هذه الحماية تلقائيًا على المستخدمين الذين تتراوح أعمارهم بين 13 و17 عامًا. سيجمع هذا التشريع بين المساءلة الفعّالة وضمانات تساعد على حماية الشباب أثناء استخدامهم للذكاء الاصطناعي.
كما يقرّ مشروع القانون 1119، على نحو مناسب، بأن الذكاء الاصطناعي ليس من وسائل التواصل الاجتماعي. يضع مشروع القانون تدابير حماية مصممة لمساعدة الشباب على استخدام الذكاء الاصطناعي للتعلم والإبداع والاستكشاف. عند تطوير هذا الإطار، سعى صانعو السياسات إلى الحفاظ على الوصول إلى الميزات التعليمية والضرورية للسلامة، بما فيها الاستخدام المسؤول لميزة الذاكرة في ChatGPT، مع تعزيز تجارب أكثر أمانًا وملاءمة لأعمار المراهقين.
يتضمن ChatGPT للمراهقين مجموعة من الميزات المصممة خصيصًا لمساعدتهم على التعلم، مثل الاختبارات القصيرة والعروض المرئية التعليمية ووضع الدراسة، وقد طُورت بالتعاون مع تربويين وخبراء تعلم لإرشاد الطلاب خلال المسائل خطوة بخطوة. تهدف هذه الأدوات إلى ترسيخ الفهم ودعم عادات تعلم أفضل. تساعد الميزات التي تستفيد من سياق المحادثات السابقة، ومنها الذاكرة، على تطبيق الضمانات باستمرار ورصد الأنماط المقلقة وتقديم دعم تعليمي أكثر فائدة بمرور الوقت.
كما يساعد السياق أدوات السلامة والتعلم هذه على العمل باتساق أكبر بمرور الوقت. من خلال ميزات مثل الذاكرة، يستطيع ChatGPT الاحتفاظ بالمعلومات والتفضيلات ذات الصلة من المحادثات السابقة، ما يتيح للمراهقين مواصلة مشاريع التعلم طويلة الأمد من دون البدء من جديد. ويمكن لهذا الاستمرار أيضًا أن يساعد على تجنب تعزيز الأنماط الضارة ودعم استجابات أكثر فعالية عندما يحتاج شاب إلى مساعدة أو موارد إضافية.
الموازنة بين السلامة والتعلم ليست أمرًا جديدًا علينا. خلال العام الماضي، أضفنا الرقابة الأبوية وتقدير العمر ومخطط سلامة المراهقين ومبادئ من هم دون 18 عامًا إلى مواصفات النموذج—وهي القواعد التي توجه السلوك المنشود من نماذجنا—لوضع معايير جديدة لكيفية تفاعلها مع الشباب. وتحظر هذه القواعد الانخراط في علاقات عاطفية، وتشجيع الاعتماد العاطفي، والادعاء بأن ChatGPT إنسان أو كائن واعٍ. كما نوفر الرقابة الأبوية التي تتيح للعائلات إدارة الإعدادات الأساسية لمراهقيها وتلقي إشعارات في الحالات عالية الخطورة.
يضع مشروع القانون 1119 إطارًا قويًا لسلامة الشباب في مجال الذكاء الاصطناعي بولاية كاليفورنيا. يمكن لمواصلة الدراسة والتعاون خلال التنفيذ أن تساعد على تحسين الأحكام الأساسية والحفاظ على فعالية الإطار مع تطور التقنية. تتطلع OpenAI إلى دعم هذا العمل ومواصلة بناء تجارب ذكاء اصطناعي تتعامل مع المراهقين بما يلائم أعمارهم، من خلال حماية تلقائية أقوى وفرص حقيقية للتعلم والنمو.
