اہم سائبر صلاحیتوں کی اگلی حد سے نمٹنا

سائبر سکیورٹی تیزی سے بدل رہی ہے، کیونکہ ماڈلز کی بڑھتی صلاحیتیں سائبر دفاع کو مضبوط بھی بنا سکتی ہیں اور حملوں کو بے مثال رفتار اور پیمانے پر ممکن بھی کر سکتی ہیں.

گزشتہ چند دنوں میں ہمارے آئندہ ماڈلز میں سے ایک، Astra، کے تازہ ترین داخلی جائزوں سے ایجنٹک کوڈنگ اور سائبر سکیورٹی میں نمایاں پیش رفت کا پتا چلتا ہے. ان نتائج اور ماہرین کے جائزوں کی بنیاد پر ہم گزشتہ رات اس نتیجے پر پہنچے کہ اپنے تیاری کے فریم ورک⁠(نئی ونڈو میں کھلتا ہے) کے تحت انتہائی اہم سائبر صلاحیتوں کے امکان کو رد نہیں کیا جا سکتا.

ہم یہ معلومات اس لیے فراہم کر رہے ہیں کیونکہ ہمارا ماننا ہے کہ صلاحیتوں میں اس ممکنہ تبدیلی کے بارے میں عوام اور تحفظ و سلامتی سے وابستہ برادریوں کے سامنے شفاف رہنا اہم ہے.

ہم نے اپنا تیاری کا فریم ورک پہلی بار دسمبر 2023 میں شائع کیا تھا، جب ماڈلز حیاتیاتی، کیمیائی، سائبر سکیورٹی اور مصنوعی ذہانت کی خود کو بہتر بنانے کی صلاحیتوں کی اس سطح تک پہنچنے سے بہت دور تھے. ہم نے اسے اس لیے بنایا تاکہ صلاحیتوں میں پیش رفت کی نشان دہی کرنے اور ان کے سامنے آنے پر کمپنی کے اقدامات کی منصوبہ بندی کرنے کے لیے ہمیں رہنمائی مل سکے. GPT‑5.6‑Sol سمیت گزشتہ ماڈلز کا جدید ترین سائبر صلاحیتوں کے لیے جائزہ لیا گیا تھا اور انہیں انتہائی اہم کے بجائے ہائی حد پر قرار دیا گیا تھا.

ہمارے تیاری کے فریم ورک کے تحت کوئی ماڈل سائبر سکیورٹی کی انتہائی اہم حد تک اس وقت پہنچتا ہے جب وہ انسانی مداخلت کے بغیر حقیقی دنیا کے بہت سے مضبوط تحفظ والے اہم نظاموں میں ہر شدت کی کارآمد زیرو ڈے خامیوں کی نشان دہی اور تیاری کر سکے، یا صرف ایک اعلیٰ سطحی مطلوبہ ہدف دیے جانے پر مضبوط تحفظ والے اہداف کے خلاف سائبر حملوں کی نئی حکمت عملیاں ابتدا سے انتہا تک وضع کرکے ان پر عمل کر سکے. 

ہم اس ماڈل کے معیاراتی تجربات اور جائزے جاری رکھے ہوئے ہیں، تاہم ابتدائی جائزوں میں اس کی کارکردگی اتنی مضبوط ہے کہ فی الحال انتہائی اہم سطح کی صلاحیت کے امکان کو رد نہیں کیا جا سکتا. Astra ایک آئندہ ماڈل ہے اور Hugging Face سے ناجائز فائدہ اٹھانے میں شامل نہیں تھا. 

اسی لیے ہم نے اپنے حفاظتی اقدامات اور سلامتی کے ضابطوں کی مضبوطی کی جانچ وسیع کر دی ہے، تاکہ وہ ان صلاحیتوں کی تنصیب کے لیے موزوں ہوں. اس ماڈل کی مزید تیاری محفوظ اور سلامتی کے تقاضوں کے مطابق جاری رکھنے کے لیے ہم نے داخلی طور پر درج ذیل اقدامات بھی کیے ہیں: 

• ہم زیادہ صلاحیت والے ماڈلز اور متعلقہ سرگرمیوں کے لیے سخت سلامتی ضابطے نافذ کر رہے ہیں، جن میں الگ تھلگ آزمائشی ماحول، نیٹ ورک اور آلات تک محدود رسائی، ماڈل کے وزن کے لیے بہتر تحفظ اور خفیہ کاری، اضافی نگرانی اور نشان دہی کی صلاحیتیں، اور محفوظ محدود ماحول میں عمل درآمد شامل ہیں.
• ہم Astra سے متعلق وہ داخلی سرگرمیاں روک رہے ہیں جو ابھی تک ان مضبوط سلامتی ضابطوں کے تقاضے پورے نہیں کرتیں.
• ہم نے تربیت اور جائزے سمیت Astra کے تمام ایجنٹک اطلاقات میں خطرناک اقدامات اور عدم مطابقت کی جامع نگرانی نافذ کر دی ہے. نگرانی کے نظام ماڈل کے خیالات کے سلسلے کا جائزہ لیتے ہیں اور زیادہ خطرے والی سرگرمی کا معائنہ کرکے اسے روکنے کے لیے سلامتی کا ردعمل شروع کرتے ہیں.
• ہم اس ماڈل کی صلاحیتوں کی جانچ کے لیے متعلقہ سرکاری اداروں اور مصنوعی ذہانت کے تحفظ کی منتخب تنظیموں کے ساتھ کام کریں گے.
• زیادہ خطرے والے جائزوں اور کاموں کو محفوظ طریقے سے چلانے کے لیے ہم فریق ثالث آزمائشی شراکت داروں کو تجویز کردہ سلامتی ضابطے فراہم کریں گے. 

یہ فریم ورک صلاحیتوں میں ہونے والی دیگر تبدیلیوں کے دوران بھی ہماری رہنمائی کر چکا ہے. جون 2025 میں، جب ہمارے ماڈلز تیاری کے فریم ورک کے تحت حیاتیات کی ہائی صلاحیت کی حد کے قریب پہنچے، تو ہم نے حفاظتی اقدامات مضبوط کرنے، جانچ وسیع کرنے، بیرونی ماہرین کے ساتھ کام کرنے اور اضافی سلامتی ضابطے نافذ کرنے کے لیے اپنے اقدامات کی تفصیل پیش کی. ہم یہاں بھی اسی اصول پر عمل کر رہے ہیں.

ہمارا ماننا ہے کہ جدید سائبر صلاحیتوں والے ماڈلز کو حملہ آوروں سے پہلے کمزوریوں کی نشان دہی اور ان کے ازالے میں دفاع کرنے والوں کی مدد کرنی چاہیے. ہم حکومتوں، تحفظ کے اداروں اور شہری معاشرے کے ساتھ مل کر یہ یقینی بنانے کے لیے پُرعزم ہیں کہ Astra جیسے ماڈلز اور ان کے بعد آنے والے ماڈلز کی جدید ترین صلاحیتوں کو ذمہ داری سے اور پوری انسانیت کے وسیع تر فائدے کے لیے استعمال کیا جائے.