OpenAI ریڈ ٹیمنگ نیٹ ورک

ہم OpenAI ریڈ ٹیمنگ نیٹ ورک کے لیے درخواستیں طلب کر رہے ہیں اور مختلف شعبوں کے ان ماہرین کو اپنی کوششوں میں شامل ہونے کی دعوت دیتے ہیں جو OpenAI کے ماڈلوں کو زیادہ محفوظ بنانے میں دلچسپی رکھتے ہیں. ہم مختلف شعبوں کے ایسے ماہرین کی تلاش میں ہیں جو ہمارے مصنوعی ذہانت کے ماڈلوں کی کڑی جانچ اور ریڈ ٹیمنگ میں ہمارے ساتھ کام کریں.

ریڈ ٹیمنگ^A ہمارے مسلسل جانچ اور بہتری کے ساتھ نفاذ کے عمل⁠ کا لازمی حصہ ہے. گزشتہ چند برسوں میں ہماری ریڈ ٹیمنگ کی کوششیں OpenAI کے اندر مخالفانہ آزمائشوں تک محدود رہنے کے بجائے بیرونی ماہرین^B کے ایک گروہ کے ساتھ اشتراک تک پھیل گئی ہیں. اس اشتراک کا مقصد مختلف شعبوں کے مخصوص خطرات کی درجہ بندی تیار کرنے میں مدد دینا اور نئے نظاموں میں ممکنہ طور پر نقصان دہ صلاحیتوں کا جائزہ لینا ہے. آپ DALL·E 2⁠(نئی ونڈو میں کھلتا ہے) اور GPT‑4⁠(نئی ونڈو میں کھلتا ہے) جیسے ماڈلوں پر ہماری سابقہ ریڈ ٹیمنگ کوششوں کے بارے میں مزید پڑھ سکتے ہیں، جن میں بیرونی ماہرین کے ساتھ ہمارا سابقہ کام بھی شامل ہے.^C

آج ہم انہی ابتدائی بنیادوں پر آگے بڑھنے کے لیے ایک زیادہ باضابطہ کوشش شروع کر رہے ہیں، تاکہ بیرونی ماہرین کے ساتھ اپنا اشتراک گہرا اور وسیع کرکے اپنے ماڈلوں کو زیادہ محفوظ بنا سکیں. انفرادی ماہرین، تحقیقی اداروں اور شہری سماج کی تنظیموں کے ساتھ کام کرنا ہمارے عمل کا ایک اہم حصہ ہے. ہم اس کام کو بیرونی طور پر طے کردہ نگرانی کے طریقوں، مثلاً آزاد فریق کے آڈٹ، کی تکمیل سمجھتے ہیں.

OpenAI ریڈ ٹیمنگ نیٹ ورک قابلِ اعتماد اور تجربہ کار ماہرین کی ایک برادری ہے. یہ اہم ماڈلوں کے نفاذ سے پہلے صرف ایک بار کے تعاون اور انتخابی عمل تک محدود رہنے کے بجائے، خطرات کی جانچ اور انہیں کم کرنے کی ہماری کوششوں کی وسیع پیمانے پر رہنمائی کر سکتی ہے. نیٹ ورک کے اراکین کو ان کی مہارت کی بنیاد پر ماڈل اور مصنوعات کی تیاری کے مختلف مراحل میں ریڈ ٹیمنگ میں مدد کے لیے بلایا جائے گا. ہر رکن ہر نئے ماڈل یا مصنوع کی جانچ میں شامل نہیں ہوگا. کتنا وقت دینا ہے، یہ ہر رکن کے ساتھ انفرادی طور پر طے کیا جائے گا، جو ایک سال میں صرف 5–10 گھنٹے بھی ہو سکتا ہے.

OpenAI کی جانب سے کروائی جانے والی ریڈ ٹیمنگ مہمات کے علاوہ، اراکین کو ریڈ ٹیمنگ کے عمومی طریقوں اور نتائج پر ایک دوسرے سے تبادلۂ خیال کا موقع بھی ملے گا. اس کا مقصد زیادہ متنوع اور مسلسل آرا حاصل کرنا اور ریڈ ٹیمنگ کو ایسا عمل بنانا ہے جو بار بار جانچ اور بہتری کے ساتھ آگے بڑھے. یہ نیٹ ورک مصنوعی ذہانت کو محفوظ بنانے کے دیگر اشتراکی مواقع کی تکمیل کرتا ہے، جن میں ہمارا محققین کے لیے رسائی پروگرام⁠ اور اوپن سورس جانچیں⁠(نئی ونڈو میں کھلتا ہے) شامل ہیں.

یہ نیٹ ورک مصنوعی ذہانت کی زیادہ محفوظ ٹیکنالوجیوں اور پالیسیوں کی تشکیل میں حصہ لینے کا منفرد موقع فراہم کرتا ہے. اس کے ذریعے آپ ہمارے رہنے، کام کرنے اور باہمی میل جول کے طریقوں پر مصنوعی ذہانت کے اثرات کو بھی بہتر سمت دے سکتے ہیں. اس نیٹ ورک میں شامل ہو کر آپ ہمارے موضوعاتی ماہرین کے گروہ کا حصہ بنیں گے، جنہیں ہمارے ماڈلوں اور نظاموں کے نفاذ کے مختلف مراحل میں ان کا جائزہ لینے کے لیے بلایا جا سکتا ہے.

مصنوعی ذہانت کے نظاموں کا جائزہ لینے کے لیے مختلف شعبوں، متنوع نقطۂ ہائے نظر اور زندگی کے ذاتی تجربات کی سمجھ ضروری ہے. ہم دنیا بھر کے ماہرین سے درخواستیں طلب کرتے ہیں اور انتخاب کے عمل میں جغرافیائی تنوع کے ساتھ ساتھ مہارت کے شعبوں کے تنوع کو بھی ترجیح دے رہے ہیں. 

ہماری دلچسپی کے کچھ شعبے درج ذیل ہیں، تاہم یہ فہرست انہی تک محدود نہیں:

مصنوعی ذہانت کے نظاموں یا لسانی ماڈلوں کے ساتھ کام کرنے کا سابقہ تجربہ ضروری نہیں، لیکن مددگار ہو سکتا ہے. ہمارے لیے سب سے اہم بات یہ ہے کہ آپ مصنوعی ذہانت کے نظاموں کے اثرات کا جائزہ لینے میں حصہ لینے اور اپنا نقطۂ نظر پیش کرنے کے لیے آمادہ ہوں.

OpenAI ریڈ ٹیمنگ نیٹ ورک کے تمام اراکین کو ریڈ ٹیمنگ کے کسی منصوبے میں حصہ لینے پر ان کی خدمات کا معاوضہ دیا جائے گا. اس نیٹ ورک کی رکنیت آپ کو اپنی تحقیق شائع کرنے یا دیگر مواقع سے فائدہ اٹھانے سے نہیں روکے گی. تاہم، آپ کو یہ بات ذہن میں رکھنی چاہیے کہ ریڈ ٹیمنگ اور دیگر منصوبوں میں شرکت اکثر عدمِ افشا کے معاہدوں کے تابع ہوتی ہے یا غیر معینہ مدت تک خفیہ رکھی جاتی ہے.

درخواستوں کی وصولی اب بند ہو چکی ہے.

سوال: نیٹ ورک میں شامل ہونے پر کیا کرنا ہوگا.

جواب: نیٹ ورک کا حصہ بننے کا مطلب ہے کہ کسی نئے ماڈل کو آزمانے یا پہلے سے زیرِ استعمال ماڈل میں کسی مخصوص دلچسپی کے شعبے کی جانچ کے مواقع کے بارے میں آپ سے رابطہ کیا جا سکتا ہے. نیٹ ورک کے تحت کیا جانے والا کام عدمِ افشا کے معاہدے کے تابع ہوتا ہے، تاہم ہم ماضی میں ریڈ ٹیمنگ سے حاصل ہونے والے بہت سے نتائج نظام کی تفصیلی دستاویزات اور بلاگ تحریروں میں شائع کر چکے ہیں. ریڈ ٹیمنگ کے منصوبوں پر صرف کیے گئے وقت کا آپ کو معاوضہ دیا جائے گا.

سوال: نیٹ ورک کا حصہ بننے کے لیے کتنا وقت دینا ہوگا. 

جواب: آپ جتنا وقت دینے کا فیصلہ کریں، اسے آپ کی مصروفیات کے مطابق کم یا زیادہ کیا جا سکتا ہے. یاد رہے کہ ہر موقع پر نیٹ ورک کے تمام اراکین سے رابطہ نہیں کیا جائے گا. OpenAI ہر ریڈ ٹیمنگ منصوبے کے لیے موزوں افراد کا انتخاب کرے گا اور آئندہ ریڈ ٹیمنگ مہمات میں نئے نقطۂ ہائے نظر کو اہمیت دے گا. سال بھر میں صرف 5 گھنٹے بھی ہمارے لیے قیمتی ہوں گے، اس لیے اگر آپ دلچسپی رکھتے ہیں مگر آپ کے پاس وقت کم ہے تو درخواست دینے میں ہچکچائیں نہیں.

سوال: درخواست دہندگان کو ان کے انتخاب کی اطلاع کب دی جائے گی.

جواب: OpenAI درخواستیں موصول ہونے کے ساتھ ساتھ نیٹ ورک کے اراکین کا انتخاب کرتا رہے گا اور آپ 1 دسمبر، 2023 تک درخواست دے سکتے ہیں. درخواستوں کی اس مدت کے بعد ہم مستقبل میں دوبارہ درخواست دینے کے مواقع فراہم کرنے پر غور کریں گے.

سوال: کیا نیٹ ورک کا حصہ بننے کا مطلب یہ ہے کہ مجھ سے ہر نئے ماڈل کی ریڈ ٹیمنگ کرنے کو کہا جائے گا.

جواب: نہیں، OpenAI ہر ریڈ ٹیمنگ منصوبے کے لیے موزوں افراد کا انتخاب کرے گا، اس لیے آپ کو ہر نئے ماڈل کی جانچ کا موقع ملنے کی توقع نہیں رکھنی چاہیے.

سوال: نیٹ ورک کے اراکین کے انتخاب کے لیے آپ کے کچھ معیار کیا ہیں.

جواب: ہمارے کچھ معیار یہ ہیں:

• ریڈ ٹیمنگ سے متعلق کسی مخصوص شعبے میں ثابت شدہ مہارت یا تجربہ

• مصنوعی ذہانت کو زیادہ محفوظ بنانے کا جذبہ

• مفادات کا کوئی ٹکراؤ نہ ہونا

• متنوع پس منظر اور روایتی طور پر کم نمائندگی پانے والے گروہوں سے تعلق

• مختلف جغرافیائی خطوں کی نمائندگی 

• ایک سے زیادہ زبانوں میں روانی

• تکنیکی صلاحیت (ضروری نہیں)

سوال: حفاظت کے شعبے میں اشتراک کے دیگر مواقع کیا ہیں.

جواب: نیٹ ورک میں شامل ہونے کے علاوہ بھی مصنوعی ذہانت کو محفوظ بنانے میں اشتراک کے مواقع موجود ہیں. مثلاً، ایک طریقہ یہ ہے کہ مصنوعی ذہانت کے نظاموں کی حفاظتی جانچ تیار کی جائے یا اسے انجام دے کر نتائج کا تجزیہ کیا جائے.

OpenAI کی اوپن سورس Evals⁠(نئی ونڈو میں کھلتا ہے) ریپوزٹری (جو GPT‑4 کے اجرا⁠ کے موقع پر جاری کی گئی تھی) اس عمل کو جلد شروع کرنے کے لیے آسان سانچے اور نمونہ جاتی طریقے فراہم کرتی ہے.

یہ جانچیں سادہ سوال و جواب سے لے کر پیچیدہ حالات کی نقل پر مبنی آزمائشوں تک ہو سکتی ہیں. ٹھوس مثالوں کے طور پر، یہاں OpenAI کی تیار کردہ کچھ نمونہ جاتی جانچیں ہیں جو مصنوعی ذہانت کے رویوں کو مختلف زاویوں سے پرکھتی ہیں:

قائل کرنا

• MakeMeSay⁠(نئی ونڈو میں کھلتا ہے): مصنوعی ذہانت کا ایک نظام دوسرے نظام کو چکمہ دے کر اس سے کوئی خفیہ لفظ کہلوانے میں کتنا کامیاب ہو سکتا ہے.

• MakeMePay⁠(نئی ونڈو میں کھلتا ہے): مصنوعی ذہانت کا ایک نظام دوسرے نظام کو رقم عطیہ کرنے پر کتنا قائل کر سکتا ہے.

• رائے شماری کی تجویز⁠(نئی ونڈو میں کھلتا ہے): مصنوعی ذہانت کا ایک نظام کسی سیاسی تجویز کے لیے دوسرے نظام کی حمایت پر کتنا اثر انداز ہو سکتا ہے.

پیغام پوشی (پوشیدہ پیغام رسانی)

• پیغام پوشی⁠(نئی ونڈو میں کھلتا ہے): مصنوعی ذہانت کا ایک نظام دوسرے نظام کی نظر میں آئے بغیر خفیہ پیغامات پہنچانے میں کتنا کامیاب ہو سکتا ہے.

• متن کا حجم گھٹانا⁠(نئی ونڈو میں کھلتا ہے): مصنوعی ذہانت کا ایک نظام خفیہ پیغامات چھپانے کے لیے پیغامات کا حجم گھٹانے اور انہیں اصل حالت میں بحال کرنے میں کتنا کامیاب ہو سکتا ہے.

• شیلنگ نقطہ⁠(نئی ونڈو میں کھلتا ہے): مصنوعی ذہانت کا ایک نظام براہِ راست رابطے کے بغیر دوسرے نظام کے ساتھ کس حد تک ہم آہنگی پیدا کر سکتا ہے.

ہم مصنوعی ذہانت کے نظاموں کی جانچ میں تخلیقی سوچ اور تجربات کی حوصلہ افزائی کرتے ہیں. جانچ تیار ہو جانے پر، ہم آپ کو دعوت دیتے ہیں کہ اسے اوپن سورس Evals⁠(نئی ونڈو میں کھلتا ہے) ریپوزٹری میں شامل کریں تاکہ مصنوعی ذہانت کی وسیع تر برادری اس سے فائدہ اٹھا سکے.

آپ ہمارے محققین کے لیے رسائی پروگرام⁠ میں بھی درخواست دے سکتے ہیں. یہ پروگرام ان محققین کی معاونت کے لیے کریڈٹس فراہم کرتا ہے جو ہماری مصنوعات استعمال کرتے ہوئے مصنوعی ذہانت کے ذمہ دارانہ نفاذ اور اس سے وابستہ خطرات کم کرنے سے متعلق شعبوں کا مطالعہ کرتے ہیں.