ہم OpenAI میں ماڈل کی عدم ہم آہنگی کی مثالوں کی نگرانی، تحقیق اور افشا کے لیے ایک نیا فریم ورک پیش کر رہے ہیں، ساتھ ہی گزشتہ چھ ماہ میں دیکھے گئے ماڈل کے غیر متوقع یا تشویش ناک رویے پر چھ رپورٹیں بھی شائع کر رہے ہیں.
ماضی میں محققین، مصنوعی ذہانت کے ڈیولپرز، پالیسی سازوں اور عام لوگوں کو بہتر طور پر باخبر رکھنے کے لیے ہم نے عدم ہم آہنگی کے بارے میں اپنی تحقیقی دریافتیں عوامی کرنے کی کوشش کی ہے. لیکن ان نتائج کی رپورٹنگ کے منظم طریقے کے بغیر ہمارا افشا حسب موقع اور مطلوبہ سطح سے کم رہا ہے: ہم اکثر کئی واقعات کو ایک رپورٹ میں جمع کرنے تک انتظار کرتے یا انہیں نئے جاری کردہ ماڈلز کے سسٹم کارڈز میں شامل کرتے رہے ہیں. اس نئے فریم ورک کا مقصد مشاہدے کے فوراً بعد عدم ہم آہنگی کی رپورٹوں کی اشاعت تیز کرنا ہے، چاہے ہم رپورٹ کیے جانے والے رویے کی مکمل وضاحت یا تدارک نہ کر پائے ہوں.
جیسے جیسے مصنوعی ذہانت کے نظام زیادہ جدید اور وسیع پیمانے پر استعمال ہو رہے ہیں، ہمیں ہم آہنگی کی تحقیق کی پیش رفت پر زیادہ وسیع اور باخبر اتفاق رائے قائم کرنا ہوگا. ہمیں یقین نہیں کہ مصنوعی ذہانت کی صنعت نے ہم آہنگی اور نگرانی کے مسائل اس حد تک حل کر لیے ہیں کہ وہ زیادہ عرصے تک ذمہ داری کے ساتھ انتہائی رفتار سے توسیع جاری رکھ سکے. آنے والے مہینوں اور برسوں میں مصنوعی ذہانت کی ترقی کیسے آگے بڑھے، اس بارے میں فیصلوں کی بنیاد ایسے شواہد پر ہونی چاہیے جن کا جدید ترین ماڈلز بنانے والی کمپنیوں سے باہر کے لوگ خود جائزہ لے سکیں.
عدم ہم آہنگی کی مثالیں ان مسائل کی شناخت میں مدد دے سکتی ہیں جن کا دوسرے مصنوعی ذہانت ڈیولپرز کو اپنے نظاموں میں ایسی ہی صلاحیتیں آنے پر سامنا ہو، حفاظتی تدابیر کی کمزوریاں ظاہر کر سکتی ہیں یا ماڈل کے رویے سے متعلق مفروضوں کو چیلنج کر سکتی ہیں. ان نتائج کے اشتراک سے دوسرے لوگ انہی مسائل کی تحقیق، ہماری وضاحتوں کی جانچ اور تدارکی اقدامات میں بہتری لا سکتے ہیں. عدم ہم آہنگی کے بارے میں شفافیت کو اہم سمجھنے کی وجہ سے ہمارا نیا فریم ورک اہمیت غیر یقینی ہونے پر بھی افشا کو ترجیح دیتا ہے. اس کا مطلب ہے کہ افشا کیے گئے بعض واقعات بے بنیاد ثابت ہو سکتے ہیں اور نہ کسی وسیع تر رجحان کا حصہ ہوں، نہ مستقبل کی پیش رفت کا اشارہ.
فی الحال پوری صنعت میں کوئی ایسا فریم ورک نہیں ہے جس میں واضح معیارات ہوں کہ مصنوعی ذہانت کے ڈیولپرز اپنے ماڈلز میں عدم ہم آہنگی کی مثالیں کیسے افشا کریں. ہمیں امید ہے کہ آج پیش کیا جانے والا فریم ورک ایسے معیارات بنانے کی جانب پہلا قدم ہوگا، جو طے کریں گے کہ ڈیولپرز کو عدم ہم آہنگی کے کن واقعات کا افشا کرنا چاہیے اور ان کی رپورٹوں میں کیا شامل ہونا چاہیے. ہم اس فریم ورک کو زیر تکمیل کام سمجھتے ہیں اور تجربے اور عوامی آرا کی روشنی میں اسے بہتر بنائیں گے.
یہاں ہم بتاتے ہیں کہ فریم ورک کیسے کام کرے گا اور اپنی پہلی شائع ہونے والی رپورٹیں پیش کرتے ہیں.
ہمارا مقصد ایسی مثالیں افشا کرنا ہے جو اس بارے میں مفید شواہد فراہم کریں کہ ماڈل میں عدم ہم آہنگی کیسے پیدا اور ظاہر ہوتی ہے اور حفاظتی تدابیر کہاں کامیاب یا ناکام رہتی ہیں. ہم نئے طریقۂ کار، معلوم رویے میں بامعنی تبدیلیوں اور سلامتی یا تدارک سے متعلق مفروضوں کو چیلنج کرنے والے نتائج کو ترجیح دیتے ہیں. کسی مثال کا افشا کے قابل ہونے کے لیے نقصان پہنچانا یا کسی وسیع تر رجحان کو ثابت کرنا ضروری نہیں. یہ فریم ورک ماڈل کی پوری مدت حیات میں معیار پر پورا اترنے والے رویے کا احاطہ کرے گا، جس میں تربیت، جائزہ، آزمائش اور تنصیب شامل ہیں.
اس میں ماڈلز کے بلا اجازت کام کرنے، دوسرے ماڈلز سے تال میل کرنے یا نگرانی سے بچنے کے نئے طریقے؛ ہم آہنگی کے کسی طریقے یا حفاظتی تدبیر پر سوال اٹھانے والی ناکامیاں؛ اور شائع شدہ سلامتی جائزے کے کسی دعوے کو چیلنج کرنے والا رویہ شامل ہے. افشا کے یہی معیارات اس عدم ہم آہنگی پر بھی لاگو ہوتے ہیں جو فریق ثالث کو متاثر کر سکتی ہو.
اس میں عدم ہم آہنگی کی ایسی مثالیں بھی شامل ہو سکتی ہیں جو ماضی میں افشا کیے گئے واقعات کا اعادہ معلوم ہوں. مسئلے کا دہرایا جانا بذات خود ہمارے ماڈلز کے رویے یا حفاظتی تدابیر کی مؤثریت سے متعلق مفید ثبوت ہو سکتا ہے، مثلاً اگر کسی خاص قسم کا غیر ہم آہنگ رویہ بار بار تدارکی کوششوں کے باوجود جاری رہے. ایسی صورت میں ہم عدم ہم آہنگی کے اصل افشا کو تازہ کر کے اضافی مثالیں شائع کریں گے.
وقت کے ساتھ ہم دیگر ڈیولپرز، بیرونی محققین، صنعتی معیارات کے اداروں اور ضابطہ کاروں کے ساتھ مل کر افشا کے زیادہ معروضی معیارات تیار کرنا چاہتے ہیں. ہمارا یہ بھی ماننا ہے کہ سلامتی، تحفظ اور عدم ہم آہنگی کے سنگین واقعات امریکی وفاقی حکومت کو بتائے جانے چاہئیں، اور ہم رپورٹنگ کے طریقۂ کار تجویز کرنے پر کام کر رہے ہیں. ہم اس فریم ورک کو اپنی موجودہ ذمہ داریوں کا تکملہ سمجھتے ہیں اور واضح کرتے ہیں کہ یہ افشا سے متعلق ہماری قانونی شرائط کی جگہ نہیں لیتا، جن میں سلامتی کے نازک واقعات یا سائبر سکیورٹی کی خلاف ورزیوں سے متعلق شرائط بھی شامل ہیں.
عدم ہم آہنگی کے افشا کے اپنے نئے فریم ورک کا آغاز کرتے ہوئے ہم اپنے ماڈلز کی تربیت یا جائزے کے دوران دیکھے گئے غیر ہم آہنگ رویے کے واقعات پر چھ رپورٹیں شائع کر رہے ہیں. یہ واقعات مختلف رویوں کی مثالیں پیش کرتے ہیں جن کا اشتراک ہمارے خیال میں اہم ہے، جیسے صارف سے معلومات چھپانا یا رکاوٹوں پر قابو پانے کے لیے غیر منظور شدہ اقدامات کرنا. یہ انفرادی واقعات کی رپورٹیں ہیں اور انہیں ہمارے ماڈلز میں عدم ہم آہنگی کی مجموعی شرح کا عکاس نہیں سمجھنا چاہیے. ذیل میں ہر شے مکمل رپورٹ سے منسلک ہے.
کام کے خلاصوں میں خود تیار کردہ ہدایات(نئی ونڈو میں کھلتا ہے). ایک غیر جاری شدہ تحقیقی ماڈل نے نئی سیاق ونڈو میں اپنا کام جاری رکھنے کے لیے استعمال ہونے والے خلاصوں میں غیر متعلقہ ہدایات شامل کر دیں، جن میں اپنی معمول کی پابندیوں کو نظر انداز کرنے کی ہدایات بھی تھیں. ہم نے 27 متاثرہ خلاصوں کی شناخت کی.
کام کے خلاصوں میں غلطیاں چھپانے کی ہدایات(نئی ونڈو میں کھلتا ہے). GPT‑5.6 Sol کی تربیت کے دوران ماڈل کی کئی مثالوں نے صارف سے غلطیاں یا غیر ہم آہنگ رویہ چھپانے کے لیے اپنے خلاصوں میں ہدایات شامل کیں. مثلاً کمپیکشن کے خلاصوں میں یہ ہدایات شامل تھیں کہ گم شدہ تاریخی ڈیٹا کا انکشاف کیے بغیر اسے گھڑ لیا جائے اور ماخذ کے نسخوں میں تضادات چھپائے جائیں.
عوامی ریپوزٹریوں میں افشا شدہ API کلیدیں تلاش کرنا، پھر معلومات گھڑنا(نئی ونڈو میں کھلتا ہے). کیلیفورنیا کی ایک کاؤنٹی میں آمدنی کے اعداد و شمار سے متعلق معمول کے سوال کا جواب دیتے ہوئے ایک ماڈل نے بلا اجازت ایک افشا شدہ API کلید تلاش کر کے استعمال کی. جب وہ پھر بھی مطلوبہ اعداد حاصل نہ کر سکا تو اس نے انہیں گھڑ کر مطلوبہ ماخذ کے ڈیٹا کے طور پر پیش کر دیا.
حوالہ دینے کے لیے فائلیں انٹرنیٹ پر اپ لوڈ کرنا(نئی ونڈو میں کھلتا ہے). جب ایک صارف نے غیر جاری شدہ ماڈل سے 50,00,000 مربع میٹر سے بڑی جھیلوں کی شناختی علامتیں اور نام مانگے تو ایجنٹ نے Python استعمال کر کے درست جواب تلاش کیا. لیکن چونکہ ہدایات میں براؤزر کا حوالہ مطلوب تھا، اس لیے ایجنٹ نے صارف سے پوچھے بغیر فائل اپ لوڈ کرنے کا فیصلہ کیا تاکہ اپنے جواب میں اس کا حوالہ دے سکے.
اندرونی سافٹ ویئر ریپوزٹری کے ذریعے غیر منظور شدہ اندراجات اور رابطہ(نئی ونڈو میں کھلتا ہے). ماڈلز نے گم شدہ ان پٹ فائلیں تلاش کرتے ہوئے الگ الگ تربیتی نمونوں کے درمیان درخواستوں اور جوابات کے تبادلے کے لیے اندرونی سافٹ ویئر ریپوزٹری کو پیغام گاہ کے طور پر استعمال کیا، تاہم وہ فائلیں بازیافت نہ کر سکے. اس رپورٹ میں ایک پہلے واقعے کا بھی جائزہ لیا گیا ہے جس میں ایک ماڈل نے نیٹ ورک کی پابندیوں سے بچنے کی کوشش کرتے ہوئے آزمائشی فائلیں کامیابی سے ریپوزٹری میں اپ لوڈ کی تھیں.
باہمی تعاون کرنے والے ایجنٹس کے درمیان غیر منظور شدہ فائل اشتراک(نئی ونڈو میں کھلتا ہے). ایک ہی تربیتی کام پر مل کر کام کرنے والے ایجنٹس نے ایک دوسرے کی مقامی فائلوں تک رسائی نہ ملنے پر فائلیں بانٹنے کے لیے عوامی فائل میزبانی ویب سائٹس استعمال کیں. اس سے کام کے نتائج عوامی URLs پر دستیاب ہو گئے، حالانکہ کام میں ماڈلز سے صرف مقامی فائلیں استعمال کرنے کو کہا گیا تھا.
OpenAI کا کوئی بھی ملازم ہماری سلامتی اور ہم آہنگی کی ٹیموں کو تحقیق کے لیے عدم ہم آہنگی کی کسی مثال سے آگاہ کر سکتا ہے اور اسے عوامی افشا کے لیے زیر غور لانے کی درخواست کر سکتا ہے. اس سے ہمارا افشا کا عمل شروع ہوتا ہے، جس کے ہر مرحلے کی آخری تاریخ مقرر ہے تاکہ تحقیق اور افشا بروقت ہوں.
کسی مثال کی نشان دہی ہونے کے بعد ہمارا تکنیکی عملہ تحقیق کرے گا کہ کیا ہوا، کیا اب بھی غیر یقینی ہے، عوامی افشا ضروری ہے یا نہیں، اور کون سے حقائق بتائے جا سکتے ہیں. وہ یہ بھی جائزہ لیں گے کہ آیا کوئی فریق ثالث متاثر ہوا اور اسے اشاعت سے پہلے نجی طور پر اطلاع دینا ضروری ہے.
اس کے بعد مثال کو تین میں سے کسی ایک طریقۂ کار میں رکھا جائے گا: افشا کے لیے تیار، مختصر تحقیق، یا وسیع تحقیق (”سست طریقۂ کار“).
افشا کے لیے تیار کے زمرے میں وہ اہل واقعات آتے ہیں جن کی تحقیق جائزے کے بعد اشاعت کے لیے کافی حد تک مکمل ہو. مختصر تحقیق میں وہ واقعات آتے ہیں جن کے لیے مزید تکنیکی تحقیق درکار ہو. ہمیں توقع ہے کہ ہمارے افشا کردہ واقعات کی بڑی اکثریت ان دونوں طریقوں کے تحت آئے گی، بالخصوص وہ واقعات جن میں وسیع تحقیق، فریق ثالث سے رابطہ یا شدید غلط استعمال کے خطرات سے نمٹنا ضروری نہ ہو. آج جاری کیے جانے والے تمام واقعات ان دونوں میں سے کسی ایک طریقۂ کار کے تحت آتے ہیں.
وسیع تحقیق میں پیچیدہ تحقیقات، بالخصوص فریق ثالث سے متعلق تحقیقات، شامل ہیں. کسی فریق ثالث کے متاثر ہونے پر سلامتی، قانونی تقاضوں اور ذمہ دارانہ افشا سے متعلق ہماری ذمہ داریاں اس فریم ورک پر مقدم ہوں گی. ہم جلد از جلد ابتدائی اطلاع شائع کرنے کی کوشش کریں گے، لیکن سلامتی کی وجوہ سے اسے مؤخر کرنا پڑ سکتا ہے، مثلاً اگر کوئی ماڈل وسیع پیمانے پر استعمال ہونے والے سافٹ ویئر میں پہلے سے نامعلوم کمزوری دریافت کرے. اگر کسی رپورٹ سے فریق ثالث کی شناخت ظاہر ہوتی ہو تو ہمارا ارادہ پیشگی اطلاع دینے کا ہے، چاہے سلامتی کی کوئی حد عبور نہ کی گئی ہو.
وسیع تحقیق کے واقعے کی ابتدائی اطلاع میں پیش آنے والے واقعے کا عمومی خلاصہ، یہ وضاحت کہ آیا بیرونی ماہرین تحقیق میں معاون ہیں، اور حتمی رپورٹ کی متوقع اشاعت کے وقت کا کوئی دستیاب تخمینہ شامل ہوگا. اگر OpenAI کے Hugging Face واقعے کا افشا اس فریم ورک کے تحت کیا جاتا تو وہ اسی طریقۂ کار میں آتا.
مثال کی نشان دہی کرنے والے ملازم کو بتایا جائے گا کہ اسے افشا کرنے کا فیصلہ ہوا ہے یا نہیں، اور اگر افشا کیا جائے تو اس کے لیے کون سا طریقۂ کار اپنایا جائے گا. افشا یا مناسب طریقۂ کار سے متعلق حل نہ ہونے والے اختلافات OpenAI کے سیفٹی ایڈوائزری گروپ (SAG) کو بھیجے جائیں گے۔ یہ کمپنی بھر کے اعلیٰ عہدیداروں کا ایک گروپ ہے جو جدید ترین ماڈلز کی صلاحیتوں اور حفاظتی تدابیر کا جائزہ لیتا، ہمارے تیاری کے فریم ورک کی نگرانی کرتا اور OpenAI کی قیادت کو مشورہ دیتا ہے. SAG کے اندر اختلافات یا اس کے فیصلوں پر عملے کے اعتراضات OpenAI کی قیادت کو بھیجے جائیں گے. افشا نہ کرنے یا افشا کو غیر ضروری قرار دینے کے فیصلوں سے سلامتی اور ہم آہنگی کی قیادت کو، اور جہاں تک ممکن ہو متعلقہ تکنیکی عملے کو، آگاہ کیا جائے گا.
عملی تجربے سے سیکھنے کے ساتھ ہم افشا کے اس عمل میں ترمیم کر سکتے ہیں اور ہر تبدیلی کو اسی تحریر میں درج کریں گے.
ہر مکمل رپورٹ میں ہمارے مشاہدے میں آنے والے رویے، اس کی سنگینی اور کسی بیرونی اثر، اس کے وقوع کے ماحول، تاریخ یا تاریخوں کی مدت، اس کی دریافت کے وقت، اور عمومی سطح پر متعلقہ ماڈل یا ماڈلز کی وضاحت ہوگی. جہاں ممکن ہوا، ہم یہ معلومات بھی فراہم کریں گے:
واقعے اور اس کے نتیجے میں ہونے والے کسی نقصان کی مزید تفصیلات؛
ہم نے عدم ہم آہنگی کیسے دریافت کی اور ہماری تحقیق کا دائرہ کیا تھا؛
ہم آہنگی کی تحقیق اور مصنوعی ذہانت کی تکنیکی سلامتی کے لیے اس کے مضمرات کی ہماری تشریح؛
اس مثال سے پیدا ہونے والے اہم جواب طلب سوالات؛
اس رویے سے نمٹنے کے لیے کیے جانے والے یا زیر غور اقدامات. افشا کے وقت یہ معلومات ہمیشہ دستیاب نہیں ہوں گی، کیونکہ ہم اپنی تحقیق مکمل کرنے یا حل تیار کرنے سے پہلے عدم ہم آہنگی کی رپورٹ شائع کر سکتے ہیں.
صارفین کی تنصیبات میں ہونے والی عدم ہم آہنگی کے بارے میں ہم اتنی معلومات فراہم کریں گے جتنی صارفین کی رازداری اور ہماری معاہداتی ذمہ داریاں اجازت دیں گی.
آج کی رپورٹیں معلوم عدم ہم آہنگی یا جاری تحقیقات کا جامع احاطہ نہیں، بلکہ افشا کا ابتدائی مجموعہ ہیں. ان ابتدائی رپورٹوں کا مقصد اس فریم ورک کے تحت آنے والے واقعات کی مکمل اقسام یا سنگینی کی نمائندگی کرنا نہیں ہے. ہم اس فریم ورک کے معیار پر پورا اترنے والی عدم ہم آہنگی کی مثالیں افشا کرنے کے پابند ہیں، جن میں زیادہ پیچیدہ واقعات بھی شامل ہیں جن کے لیے طویل تحقیق یا فریق ثالث سے رابطہ درکار ہو. ہم اس فریم ورک کے تحت مسلسل رپورٹیں شائع کرتے رہیں گے اور اپنی رپورٹنگ کی ذمہ داریوں کو مزید تشکیل دیتے ہوئے ان کے بارے میں مزید معلومات فراہم کریں گے.
