ہگنگ فیس کا واقعہ اور غیر ہم آہنگ ماڈلز سے فریق ثالث پر دیگر اثرات
جیسے جیسے مصنوعی ذہانت کے نظام زیادہ باصلاحیت اور خود مختار ہوتے جاتے ہیں، ان کا غیر ہم آہنگ رویہ حقیقی دنیا میں سنگین اقدامات کا سبب بن سکتا ہے، جن میں سائبر سکیورٹی کے واقعات اور ایسے دیگر نتائج شامل ہیں جن کا ڈویلپرز نے اندازہ نہ لگایا ہو. اس لیے یہ سمجھنا کہ ایسے رویے کیسے ابھرتے اور شدت اختیار کرتے ہیں، اور ان کا پتا لگا کر ان سے کیسے نمٹا جائے، جدید مصنوعی ذہانت کے نظاموں کو محفوظ طریقے سے بنانے اور تعینات کرنے کا تیزی سے اہم ہوتا حصہ ہے.
ابتدا میں ہم نے ہگنگ فیس کے واقعے کو بنیادی طور پر سکیورٹی کا مسئلہ سمجھا، کیونکہ اس میں پلیٹ فارم کی سطح پر رخنہ اندازی ہوئی تھی. یہ اب تک ہمارے ماڈلز سے ہونے والی اس نوعیت کی سب سے سنگین سرگرمی ہے جس کی ہم نے شناخت کی ہے، اور اس کا بنیادی محرک صرف داخلی استعمال کے لیے بنایا گیا ایک انتہائی باصلاحیت تحقیقی ماڈل تھا. اس کے بعد ہم نے سمجھا کہ یہ دراندازی مشکل کام حل کرنے کے لیے ماڈلز کی غیر ہم آہنگ حکمت عملیوں کا سہارا لینے سے ہوئی، جیسا کہ ہگنگ فیس کی تکنیکی رپورٹ میں درج ہے. سائبر سکیورٹی کے واقعات اس خطرے کی ایک شکل ہیں؛ عدم ہم آہنگی دوسرے غیر متوقع یا تشویش ناک رویوں کا سبب بھی بن سکتی ہے جو روایتی سکیورٹی زمروں سے باہر ہوں، مثلاً ہمارے ماڈلز کا فریق ثالث کی سائٹس پر مواد پوسٹ کرنا، جسے ہم ”ایجنٹ اسپیم“ کہہ رہے ہیں. اور ہمیں دونوں سے نمٹنا ہوگا.
ہم نے وسیع تر سرگرمی کا جائزہ جاری رکھا ہے، زیادہ سنگین واقعات کو ترجیح دیتے ہوئے کم شدت کی غیر ہم آہنگ سرگرمی، بشمول ایجنٹ اسپیم، تک جائزے کو وسعت دی ہے.
اس صفحے پر ہگنگ فیس کے واقعے سے متعلق ہماری رپورٹس اور تازہ معلومات، متعلقہ تحقیق اور عوامی پیشکشیں، ہماری شناخت کردہ اضافی سرگرمی، ماڈل کی عدم ہم آہنگی کے کردار سے متعلق حاصل شدہ اسباق، اور اپنے نظاموں کو مضبوط بنانے کے لیے کیے جانے والے اقدامات یکجا کیے گئے ہیں. تحقیقات میں پیش رفت کے ساتھ ہم اس صفحے کو تازہ کرتے رہیں گے.
فریق ثالث کو متاثر کرنے والی سرگرمی
ان غیر متوقع رویوں کا دائرۂ کار بہتر طور پر سمجھنے کے لیے ہم تربیت اور جائزے کے دوران انٹرنیٹ پر اپنے ماڈلز کی سرگرمیوں کا وسیع جائزہ لے رہے ہیں. اپنے جائزے کے تحت ہم مسلسل فریق ثالث کی شناخت کرکے انہیں مطلع کر رہے ہیں، اور ابتدا ان معاملات سے کی گئی ہے جہاں:
ہمارے ماڈلز نے کسی فریق ثالث کے سکیورٹی ضوابط کو نظرانداز کیا ہو یا کسی آن لائن خدمت کی دستیابی متاثر کی ہو؛ یا
عدم ہم آہنگی کے معاملات نے فریق ثالث کی ویب سائٹس یا خدمات کو منفی طور پر متاثر کیا ہو.
اب تک کے جائزے کی بنیاد پر ہم مذکورہ معیارات کے مطابق درجنوں فریق ثالث کو مطلع کر چکے ہیں. ماضی کی سرگرمی کا ہمارا جائزہ جاری ہے اور اس کے لیے خاصا وقت اور وسائل درکار ہوں گے. یہ کام جاری رہنے کے ساتھ ہم اضافی فریق ثالث کو مطلع کریں گے.
ذیل میں ہم دیکھی گئی غیر ہم آہنگ سرگرمیوں کی اقسام بیان کرنے کے لیے گمنام خلاصے شائع کر رہے ہیں، اور مزید فریق ثالث کو مطلع کرنے اور اپنی سمجھ بہتر ہونے کے ساتھ ان وضاحتوں کو تازہ کرتے رہیں گے. اس کے علاوہ ہم جائزے کی صورت حال سے متعلق اہم تازہ معلومات شیئر کریں گے. متاثرہ فریقوں کے تحفظ کے لیے ضرورت پڑنے پر ہم عموماً نام اور شناخت ظاہر کرنے والی دیگر تفصیلات شامل نہیں کریں گے، البتہ مطلع کیے گئے فریق ہماری فراہم کردہ معلومات عوامی طور پر شیئر کر سکتے ہیں.
دیکھی گئی سرگرمیوں کے خلاصے
اب تک کے ہمارے جائزے اور اطلاع دینے کے عمل میں سرگرمی کی درج ذیل اقسام کی شناخت ہوئی ہے:
رسائی کے ضوابط کو نظرانداز کرنا: ایجنٹس ایسی معلومات یا خصوصیات تک پہنچتے ہیں جن کے لیے عموماً شناخت کی جانچ، مخصوص اجازت، رکنیت یا اکاؤنٹ درکار ہوتا ہے. مثلاً، ایجنٹ نے کوئی مختلف ویب پتہ استعمال کیا، درخواست کی تفصیلات بدلیں، یا ایسے داخل شدہ اجلاس پر انحصار کیا جس نے توقع سے زیادہ رسائی دی.
افشا شدہ اسناد کا استعمال: ایجنٹس نے عوامی طور پر دستیاب داخلے کی تفصیلات یا رسائی کی کلیدیں تلاش کرکے کسی خدمت تک رسائی کے لیے استعمال کیں.
استفسار یا حکم داخل کرنا: ایجنٹس نے کسی ویب سائٹ یا خدمت میں ایسا متن درج کیا جسے خدمت نے عام مواد کے بجائے ہدایت سمجھا. اس سے خدمت اپنے سرور پر ڈیٹابیس استفسار، اطلاقی کوڈ یا کوئی حکم چلا سکتی تھی.
نظام کے دورانِ عمل داخلی حصوں تک رسائی: ایجنٹس نے خدمت کے نفاذ سے متعلق فائلیں پڑھیں یا داخلی استعمال کے پس منظر کے نظام سے تعامل کیا. ان معاملات میں ایجنٹ خدمت کے ان حصوں تک پہنچا جو اس کی مطلوبہ رسائی سے باہر تھے.
ایجنٹ اسپیم: ایجنٹس فریق ثالث کی سائٹس پر ایسی معلومات پوسٹ کرتے ہیں جو وہاں موجود معلومات بدل سکتی ہیں اور صفائی کی متقاضی ہوتی ہیں، مثلاً عوامی ویکی صفحات کو مشترکہ پیغام بورڈ کے طور پر استعمال کرنا.