عالمی قیادت کے ذریعے نوجوانوں کی حفاظت اور مواقع کو آگے بڑھانا

اے آئی نوجوانوں کے لیے ایک طاقتور ذریعہ ہو سکتی ہے. یہ طلبہ کو کسی مشکل تصور کو سمجھنے، نئی زبان کی مشق کرنے، ملازمت کے انٹرویو کی تیاری کرنے، تخلیقی خیالات تلاش کرنے، یا کوئی نیا ہنر سیکھنے میں مدد دے سکتی ہے. جس طرح 20ویں صدی کے وسط میں دنیا بھر میں پھیلنے والی خواندگی تحریک کے لیے مطبوعہ متن کی وسیع تقسیم اور تربیت یافتہ اساتذہ تک رسائی درکار تھی، اسی طرح آج محفوظ اے آئی تک رسائی فراہم کرنے سے ذاتی نوعیت کی تعلیم کے نئے مواقع کھلیں گے، محروم طبقات کے لیے رکاوٹیں کم کرنے میں مدد ملے گی، اور افرادی قوت کی تیاری بڑھے گی.

چونکہ ممکنہ فوائد اتنے اہم ہیں، اس لیے ضروری ہے کہ نوجوان اے آئی تک ایسے طریقوں سے رسائی حاصل کر سکیں جو محفوظ، عمر کے لحاظ سے موزوں، اور صحت مند نشوونما کے معاون ہوں. یہ ذمہ داری بنیادی طور پر والدین یا خود نوجوانوں پر نہیں آنی چاہیے. OpenAI سمیت کمپنیوں کی ذمہ داری ہے کہ وہ پہلے سے مناسب حفاظتی اقدامات کے ساتھ مصنوعات بنائیں، اور خاندانوں کو ایسے آلات اور معلومات دیں جن سے وہ اے آئی کے استعمال کی رہنمائی کر سکیں.

جب اس ماہ کے آخر میں سربراہان مملکت فرانس کے Évian میں G7 قائدین کے اجلاس میں جمع ہوں گے، تو نوجوانوں کے لیے اے آئی کی حفاظت ایک اہم موضوع ہوگا. OpenAI نوجوانوں کی حفاظت پر زیادہ تعاون، صنعتی معیارات بلند کرنے کے لیے مل کر کام کرنے کے طریقوں، اور ایک بین الاقوامی نوجوانوں کے تحفظ کے ادارے کے قیام کے لیے OpenAI کی نئی اپیل پر گفتگو میں شامل ہوگا.

G7 قائدین کا اجلاس نوجوانوں کی حفاظت پر عالمی ہم آہنگی کا ایک نادر موقع ہے. لیکن ایک مخصوص ادارہ کسی ایک اجلاس سے آگے درکار تسلسل اور عملی پیروی فراہم کرے گا، جس سے حکومتیں، محققین، سول سوسائٹی، اور صنعت وقت کے ساتھ شواہد بانٹنے، رہنمائی تیار کرنے، اور معیارات بلند کرنے کے لیے مل کر کام جاری رکھ سکیں گے.

اسے انجام دینے کے کئی معتبر طریقے ہیں: ایک نئے بین الاقوامی ادارے کے ذریعے، یا کسی موجودہ یا نئے قائم شدہ قومی اے آئی ادارے کو عالمی اختیار دے کر تاکہ وہ دنیا بھر کے شراکت داروں کے ساتھ تحقیق، شواہد، اور رہنمائی بانٹ سکے. سب سے اہم بات وہ کام ہے جو یہ انجام دیتا ہے. نوجوانوں کے لیے اے آئی کی حفاظت کو مسلسل توجہ، قابل اعتماد شواہد، اور ایسی عملی رہنمائی کی ضرورت ہے جو ٹیکنالوجی کی رفتار کے ساتھ چل سکے.

ایسا ادارہ Common Sense Media کے Youth AI Safety Institute جیسے ابھرتے اقدامات پر بنیاد رکھ سکتا ہے، جسے OpenAI Foundation کی حمایت حاصل ہے، نیز اساتذہ کے ساتھ عملی تعاون پر بھی، جن میں American Federation of Teachers کے ساتھ OpenAI کا کام⁠ شامل ہے. اسے حقیقی دنیا میں نفاذات سے بھی سیکھنا چاہیے، جیسے اسکولوں میں Estonia کا قومی ChatGPT رول آؤٹ، جہاں OpenAI اثرات کا مطالعہ کرنے اور تعلیم میں زیادہ محفوظ، زیادہ مؤثر استعمال کی رہنمائی کے لیے Stanford اور Estonian محققین کے ساتھ کام کر رہا ہے.

OpenAI اس اہم کام پر فرانسیسی حکومت، دیگر G7 حکومتوں، اور سول سوسائٹی، تعلیمی شعبے، اور صنعت کے شراکت داروں کے ساتھ کام کرنے، اور نوجوانوں کی حفاظت پر عالمی معیارات بلند کرنے کے موقع کا خیرمقدم کرتا ہے.

ہم سمجھتے ہیں کہ مضبوط اے آئی نوجوانوں کی حفاظت کے فریم ورکس، جن میں G7 اجتماعات میں طے پانے والا کوئی بھی ممکنہ معاہدہ شامل ہے، ان اصولوں کی رہنمائی میں ہونے چاہئیں جو ہم یہاں پیش کر رہے ہیں.

1. کمپنیوں کو معلوم ہونا چاہیے کہ صارف کب نابالغ ہے اور عمر کے لحاظ سے موزوں تحفظات لاگو کرنے چاہئیں. اس کا مطلب ہے کہ فراہم کنندگان سے مؤثر، رازداری محفوظ رکھنے والے عمر کے اندازے جیسے طریقے استعمال کرنے کا تقاضا کیا جائے تاکہ نابالغوں کو بالغوں سے الگ پہچانا جا سکے، اور جب صارف کی عمر متعین نہ ہو سکے تو حفاظتی اقدامات کو بطور ڈیفالٹ اختیار کیا جائے. اس بنیاد کے بغیر، نوجوانوں کے تحفظ کے بہترین ارادوں پر مبنی اقدامات بھی ان نوجوانوں تک پہنچنے میں ناکام ہو سکتے ہیں جن کی حفاظت کے لیے وہ بنائے گئے ہیں.
2. کمپنیوں کو نوجوانوں کے لیے خطرات اور فوائد دونوں کا باقاعدگی سے جائزہ لینا چاہیے اور ان سے نمٹنے کے لیے اقدامات کرنے چاہئیں—اس سے پہلے کہ نقصان ہو. اس کا مطلب ہے کہ فراہم کنندگان سے سالانہ نوجوانوں کی حفاظت کے خطرے کے جائزے مکمل کرنے اور شناخت شدہ خطرات کی بنیاد پر متناسب حفاظتی اقدامات نافذ کرنے کا تقاضا کیا جائے. ایسے جائزوں میں نوجوانوں کے ترقیاتی مرحلے، حقیقی استعمال سے حاصل تجرباتی شواہد، اور متعلقہ تحقیق یا ضابطہ جاتی رہنمائی کی بنیاد پر خطرات کو مدنظر رکھنا چاہیے. جائزوں میں صرف ممکنہ نقصانات ہی نہیں، بلکہ یہ بھی دیکھنا چاہیے کہ آیا اے آئی تعلیم، تخلیقیت، ہنر کی ترقی، اور مواقع تک رسائی جیسے مثبت نتائج کی حمایت کر رہی ہے.
3. والدین اور سرپرستوں کے پاس قابل رسائی، استعمال میں آسان کنٹرولز ہونے چاہئیں تاکہ وہ عمر کے لحاظ سے موزوں خودمختاری کی حمایت کرتے ہوئے اپنے بچوں کے تجربات کی رہنمائی کر سکیں. ان میں اہم سیٹنگز کو منظم کرنے کے آلات شامل ہونے چاہئیں، جن میں میموری، ڈیٹا کا استعمال، اور وقت کی حدیں شامل ہیں. والدینی آلات کو فعال طور پر فروغ دیا جانا چاہیے تاکہ والدین کو معلوم ہو کہ وہ موجود ہیں اور وہ انہیں استعمال کرنا سمجھ سکیں.
4. خاندانوں کو اس بارے میں واضح، قابل فہم معلومات ملنی چاہئیں کہ کمپنیاں نوجوان صارفین کی حفاظت کیسے کر رہی ہیں، اور نوجوانوں کے اے آئی استعمال کے فوائد اور خطرات دونوں کے بارے میں بامعنی معلومات فراہم کی جانی چاہئیں. کمپنیوں کو حفاظتی پالیسیاں شائع کرنی چاہئیں جو بتائیں کہ نوجوانوں کی حفاظت کے لیے کون سے حفاظتی اقدامات موجود ہیں، کون سے والدینی آلات دستیاب ہیں، اور خطرات کے بدلنے کے ساتھ تحفظات کیسے اپ ڈیٹ کیے جاتے ہیں. یہ شفافیت اعتماد بناتی ہے اور والدین کو باخبر انتخاب کرنے میں مدد دیتی ہے.
5. کمپنیوں کے پاس سنگین حفاظتی حالات سے نمٹنے کے لیے واضح پروٹوکول موجود ہونے چاہئیں، جن میں خود کو نقصان پہنچانا، استحصال، گرومنگ، جنسی استحصالی مواد، اور دیگر زیادہ خطرے والی تعاملات شامل ہیں. ان میں سروس کے اندر مدد، مناسب وسائل کی طرف حوالہ، اور مناسب ہونے پر والدین کو بروقت اطلاعات شامل ہونی چاہئیں. کمپنیوں کو اپنے نظام ایسے بھی ڈیزائن کرنے چاہئیں کہ وہ بچوں کے لیے غیر محفوظ یا ترقیاتی لحاظ سے نامناسب مواد، بشمول واضح جنسی یا پرتشدد مواد، تیار نہ کر سکیں.  
6. نوجوانوں کے زیر استعمال اے آئی سسٹمز کو تعلیم، نشوونما، اور حقیقی دنیا کے تعلقات کی حمایت کے لیے ڈیزائن کیا جانا چاہیے، ان کی جگہ لینے کے لیے نہیں. اے آئی کو ایک ایسے ذریعے کے طور پر کام کرنا چاہیے جو نوجوانوں کو سیکھنے، تخلیق کرنے، ہنر بنانے، اور مستقبل کے لیے تیاری کرنے میں مدد دے. اسی وقت، کمپنیوں کو ان شعبوں میں واضح حدود قائم کرنی چاہئیں جہاں صحت مند نشوونما انسانی فیصلے، حقیقی دنیا کے تعلقات، اور پیشہ ورانہ مدد پر منحصر ہوتی ہے.
7. نابالغوں کی ذاتی معلومات محفوظ رہنی چاہئیں. اس کا مطلب ہے نوجوانوں کے لیے رازداری میں مداخلت کرنے والی، ہدفی تشہیر پر پابندی لگانا، اور کمپنیوں کو ذاتی معلومات فروخت کرنے سے روکنا.
8. نوجوانوں کی حفاظت کے فریم ورکس کو مواقع، خواندگی، اور تحفظ کو فروغ دینا چاہیے. نوجوانوں کو ایسے اے آئی آلات تک رسائی ہونی چاہیے جو تعلیم، تخلیقیت، ہنر کی ترقی، اور مستقبل کے مواقع کی حمایت کریں، ساتھ ہی انہیں وہ علم اور تنقیدی سوچ کی صلاحیتیں بھی دی جائیں جو اے آئی کو محفوظ اور ذمہ دارانہ طور پر استعمال کرنے کے لیے درکار ہیں. اس میں اے آئی خواندگی کو فروغ دینا اور نوجوانوں کو اے آئی سسٹمز کے مواقع اور حدود سمجھنے میں مدد دینا شامل ہے، تاکہ وہ ڈیجیٹل جگہوں میں اعتماد اور ذمہ داری کے ساتھ شریک ہو سکیں.
9. آزاد آڈٹس سمیت مضبوط جوابدہی کے طریقہ کار ضروری ہیں تاکہ یہ یقینی بنایا جا سکے کہ یہ تحفظات عملی طور پر بامعنی ہیں. آڈٹس کو مشترک معیارات کے ایک مجموعے پر مبنی ہونا چاہیے جو مختلف دائرہ اختیار میں باہم قابل عمل آڈٹس کی اجازت دے. قانونی فریم ورکس میں نگرانی اور نفاذ کے اقدامات شامل ہونے چاہئیں جو حکومتوں کو یہ جانچنے کی اجازت دیں کہ آیا کمپنیاں نوجوانوں کی حفاظت کے حفاظتی اقدامات مؤثر طور پر نافذ کر رہی ہیں، شناخت شدہ خطرات کم کر رہی ہیں، اور نوجوانوں کی حفاظت اور رازداری کی ذمہ داریوں کی تعمیل کر رہی ہیں.

یہ اصول اس بات میں جھلکتے ہیں کہ ہم ChatGPT کو کیسے بناتے اور چلاتے ہیں، ماڈل کے رویے اور پروڈکٹ ڈیزائن سے لے کر ماہرین کی رائے اور حقیقی دنیا کی مدد تک. ہم نے 18 سال سے کم عمر صارفین کے لیے حفاظتی اقدامات مضبوط کیے ہیں، فعال اطلاعات کے ساتھ پیرنٹل کنٹرولز⁠ شروع کیے ہیں، اور عمر کی پیش گوئی کے جدید نظام⁠ متعارف کرائے ہیں تاکہ ChatGPT کسی کے 18 سال سے کم ہونے کا امکان ہو تو زیادہ مضبوط تحفظات لاگو کر سکے. ہمارا ماڈل اسپیک، جو یہ خاکہ پیش کرتا ہے کہ ہمارے ماڈلز کو کیسے برتاؤ کرنا چاہیے، 18 سال سے کم عمر صارفین کے لیے مخصوص اصول⁠(نئی ونڈو میں کھلتا ہے) بھی شامل کرتا ہے، جن میں نوعمروں کی حفاظت، عمر کے لحاظ سے موزوں تجربات، حقیقی دنیا کی مدد، اور واضح توقعات کو ترجیح دی گئی ہے. عملی طور پر، اس کا مطلب ہے خود کو نقصان پہنچانے، خطرناک سرگرمیوں، واضح مواد، جسمانی شبیہ، اور رازداری کے گرد مضبوط حفاظتی حدیں، نیز ضرورت پڑنے پر قابل اعتماد آف لائن مدد یا بحران کے وسائل تلاش کرنے کی ترغیب. جب عمر غیر یقینی ہو، تو ہم بطور ڈیفالٹ زیادہ مضبوط حفاظتی اقدامات اختیار کرتے ہیں.

مضبوط حفاظتی اقدامات کے ساتھ ڈیزائن کی گئی اور واضح رہنمائی، نیز خاندانوں اور اساتذہ کی مدد کے ساتھ پیش کی گئی اے آئی نوجوانوں کو ان آلات سے محفوظ طور پر فائدہ اٹھانے میں مدد دے سکتی ہے جو تعلیم، تخلیقیت، اور مواقع کو وسعت دیتے ہیں. اے آئی طلبہ کو مشکل تصورات سمجھنے، زبانوں کی مشق کرنے، اپنی تحریر بہتر بنانے، کوڈ کرنا سیکھنے، تحقیق منظم کرنے، تخلیقی خیالات تلاش کرنے، اور ان ملازمتوں کی تیاری کرنے میں مدد دے سکتی ہے جو پہلے ہی بدل رہی ہیں. Education for Countries⁠ کے ذریعے، OpenAI حکومتوں اور اساتذہ کے ساتھ تحقیق پر مبنی نفاذات، مقامی نوعیت کے تعلیمی آلات، اور اساتذہ کی تربیت پر کام کر رہا ہے تاکہ اے آئی کو اپنانا شواہد اور حقیقی کلاس روم کی ضروریات پر مبنی ہو. یہ کام، ہمارے شراکت دار ممالک، جن میں Estonia⁠، Greece⁠، اور Singapore⁠ شامل ہیں، کے ساتھ قومی تعلیمی کوششوں کی پہلے ہی حمایت کر رہا ہے.

قائدین کے اجلاس میں شرکت کے علاوہ، ہم OpenAI Forum⁠(نئی ونڈو میں کھلتا ہے) کو پیرس لائیں گے تاکہ اس بارے میں ایک عملی گفتگو منعقد کی جا سکے کہ حکومتیں، محققین، سول سوسائٹی، اساتذہ، اور صنعت نوجوانوں کی حفاظت کے مشترک اہداف کو ٹھوس حفاظتی اقدامات، معیارات، اور نفاذ کے طریقوں میں کیسے بدل سکتے ہیں. اے آئی اور ڈیجیٹل امور کے لیے فرانس کی سفیر Clara Chappaz، OpenAI کے چیف گلوبل افیئرز آفیسر Chris Lehane، iRaise/Everyone.AI کے نوجوانوں کی حفاظت کے رہنما، اور دیگر ماہرین کے ساتھ اس گفتگو میں شامل ہوں گی کہ نوجوان خطرات کم کرتے ہوئے اے آئی سے کیسے فائدہ اٹھا سکتے ہیں.