AI کی پالیسی ونڈو کھلی ہے. ہمیں عمل کرنے کی ضرورت ہے.

ہم AI کی صلاحیتوں کے ایک نئے دور میں داخل ہو گئے ہیں اور اس کے لیے AI کی پالیسی کا نیا دور بھی درکار ہے. کوئی کمپنی، صنعت یا حکومت تنہا اس چیلنج کا مقابلہ نہیں کر سکتی. ہمیں پالیسی کو بے عیب بنانے کے بجائے بامعنی اقدام کو ترجیح دیتے ہوئے اس مرحلے کا سامنا کرنا ہوگا.

ہم یہ کر رہے ہیں:ف

1. لازمی قومی AI حفاظتی تقاضوں کے لیے کوشش. ہم لازمی، صلاحیت پر مبنی قومی AI حفاظتی ضابطے پر کانگریس کے ساتھ کام کرنا چاہتے ہیں.

2. ریاستوں میں رفتار برقرار رکھنا. جب تک کانگریس کارروائی نہیں کرتی، ہم ریاستی قانون سازی کی حمایت جاری رکھیں گے جو وسیع تر AI حفاظتی ماحولیاتی نظام کو مضبوط بناتی ہے. آج، ہم کیلیفورنیا کے چار بلوں کی حمایت کا اعلان کر رہے ہیں: آزاد حفاظتی جائزوں کے مجموعی ڈھانچے سے متعلق SB 813، AI آڈیٹر کے معیارات سے متعلق AB 1405، نوجوانوں کے تحفظات سے متعلق SB 1119 اور AI سے فعال حیاتیاتی خطرات کے خلاف حفاظتی اقدامات سے متعلق AB 1864.

3. صنعت کی قیادت میں معیارات کو آگے بڑھانا. ہم دیگر فرنٹیئر لیبز کے ساتھ مل کر فرنٹیئر AI کے معیارات کو آگے بڑھانے کے لیے کام کریں گے اور حکومتی حمایت کے ساتھ یا اس کے بغیر، اب ایک رضاکارانہ کوشش تشکیل دیں گے.

4. عالمی معیارات کی تشکیل. ہم صلاحیتوں کی پیمائش، خطرات کا نظم کرنے، انسانی کنٹرول برقرار رکھنے اور یہ طے کرنے کے لیے کہ ترقی کب اور کیسے سست یا بند ہونی چاہیے، باہم مطابقت رکھنے والے بین الاقوامی طریقۂ کار کی وکالت کریں گے، چاہے اس کا مطلب ماڈل کی صلاحیتوں کی پیش رفت کو سست کرنا ہی کیوں نہ ہو.

ہمارے چیف سائنس داں یاکوب پاہوتسکی نے حال ہی میں لکھا⁠ کہ مشینی ذہانت کا تیز عروج، بشمول تکراری خود بہتری کے امکان، ”انتہائی احتیاط“ کا تقاضا کرتا ہے. OpenAI ہم آہنگی اور نگرانی کے تکنیکی حل، دفاعی نظاموں کی تیاری اور ضرورت پڑنے پر ترقی سست کرنے کی کوشش جاری رکھے گا. لیکن انفرادی تجربہ گاہوں کے اندر تکنیکی کام کافی نہیں ہوگا. ہمیں مشترکہ معیارات بھی درکار ہیں، جن میں یہ طے کرنا شامل ہے کہ ترقی کب سست یا بند کی جائے.

بہت کچھ داؤ پر لگا ہے. جدید AI نئی ادویات⁠ کی تیاری کا عمل تیز کر سکتی، اہم بنیادی ڈھانچے⁠ کو مضبوط بنا سکتی، معاشی مواقع⁠ بڑھا سکتی اور ان سائنسی مسائل⁠ کو حل کرنے میں مدد دے سکتی ہے جو انسانی کوششوں کی کئی جنریشنز کے باوجود حل نہیں ہوئے. لیکن ماڈلز کو زیادہ مفید بنانے والی صلاحیتیں خطرات بھی لاتی ہیں اور وہ چند فرنٹیئر تجربہ گاہوں تک محدود نہیں رہیں گی. دنیا بھر میں تیار کیے جانے والے ماڈلز، بشمول اوپن ماڈلز، آج کی فرنٹیئر سطح کے قریب پہنچتے جائیں گے اور وسیع پیمانے پر دستیاب ہوں گے.

Astra کی صلاحیتیں، AI کے ذریعے تحقیق میں تیزی کے ابتدائی ثبوت اور یاکوب کا مضمون سب ایک ہی سمت کی طرف اشارہ کرتے ہیں: AI تیزی سے آگے بڑھ رہی ہے اور پالیسی کو بھی اس کے ساتھ آگے بڑھنے کی ضرورت ہے.

گریگ بروک مین نے "ڈیفینڈرز کے لیے دستیاب موقع" کا ذکر کیا ہے⁠(نئی ونڈو میں کھلتا ہے): ایک محدود مدت جس میں فرنٹیئر AI طاقتور جارحانہ صلاحیتوں کے عام ہونے سے پہلے ڈیفینڈرز کو اہم نظام مضبوط بنانے میں مدد دے سکتا ہے. پالیسی ساز بھی ایسے ہی لمحے سے دوچار ہیں: AI کی صلاحیتیں اپنے نگران اداروں سے آگے نکل جائیں، اس سے پہلے پائیدار حفاظتی اقدامات قائم کرنے کا موقع تیزی سے ختم ہو رہا ہے.

جیسے جیسے صلاحیتیں بڑھتی ہیں، حفاظت پر اعتماد کو AI کی پیش رفت کی رفتار تیزی سے طے کرنی چاہیے. حفاظت ترقی کی راہ میں رکاوٹ نہیں؛ بلکہ یہی ترقی کو مزید آگے بڑھنے اور زیادہ لوگوں کو فائدہ پہنچانے کے قابل بناتی ہے.

ہم نے ماڈل کی تیاری کے پورے دور میں نگرانی، ہم آہنگی اور سکیورٹی کے تحفظات مضبوط کیے ہیں، جن میں فرنٹیئر تحقیق کے کاموں کی زیادہ مضبوط علیحدگی، ٹولز سے فعال تربیت اور جائزوں کے دوران ماڈل کے رویّے کی وسیع تر نگرانی اور خدشات کو کب اعلیٰ سطح تک پہنچانا ہے، اس بارے میں زیادہ واضح اصول شامل ہیں. Astra کے لیے ہم نے مکمل سلسلوں، جن میں چین-آف-تھاٹ شامل ہیں، کی جامع نگرانی اور وسیع تر اندرونی تعیناتی سے پہلے لازمی ہم آہنگی-جانچ کا مرحلہ بھی متعارف کرایا ہے.

ان حفاظتی اقدامات کو صلاحیتوں سے آگے رہنا چاہیے. جب آگے بڑھنے سے ناقابلِ قبول حفاظتی خطرہ پیدا ہو، تو ہم ایسے نظاموں کی ترقی یا تعیناتی کو سست یا روک دیں گے جن کی ہم کافی حد تک حفاظت نہیں کر سکتے، جیسا کہ ہم پہلے کر چکے ہیں اور جیسا کہ ہمارے تیاری کے فریم ورک⁠(نئی ونڈو میں کھلتا ہے) کے تحت ضروری ہے.

مکمل خود مختار تکراری خود اصلاح—جس میں AI سسٹمز خود ہی مسلسل زیادہ باصلاحیت AI کی نئی جنریشنز تیار کریں—آج نہیں ہو رہی. ہمیں اسے تب تک اختیار نہیں کرنا چاہیے جب تک یہ محفوظ طریقے سے ممکن نہ ہو.

تاہم، AI پہلے ہی ماڈلز کی اگلی جنریشن تیار کرنے اور اسے انسانی مقاصد سے ہم آہنگ کرنے والی تحقیق کے بعض حصوں کو تیز کر رہی ہے. ہماری تازہ تحقیق⁠ سے ظاہر ہوتا ہے کہ AI ایجنٹس کچھ ایسے کام انجام دے سکتے ہیں جن میں ماہر محققین کو کئی دن لگتے ہیں. یہ تکراری خود بہتری نہیں، لیکن یہ پیش رفت کی سمت کا ثبوت ہے.

اس تیزی کا رخ حفاظت کی جانب بھی کیا جا سکتا ہے اور ایسا کرنا ضروری ہے. ہمارا مقصد انسانی نگرانی میں کام کرنے والے خودکار AI محققین کو محفوظ طریقے سے بنانا ہے، جو ڈیپ لرننگ اور ہم آہنگی دونوں کو آگے بڑھائیں—اور AI کی ہر جنریشن کی مدد سے اگلی جنریشن کو محض زیادہ باصلاحیت نہیں بلکہ زیادہ محفوظ، زیادہ ہم آہنگ اور زیادہ قابلِ قابو بنائیں.

حکومتوں کو اس پیش رفت کی پیمائش کے مشترکہ طریقے وضع کرنے، بامعنی انسانی اختیار برقرار رکھنے اور یہ طے کرنے کے لیے مشترکہ حفاظتی معیار قائم کرنے چاہییں کہ ترقی کب اور کیسے سست یا بند کی جائے. اگر صلاحیتوں کی ترقی کو سست کیے بغیر ہم مخصوص حفاظتی معیارات پر پورا نہیں اتر سکتے، تو ہمیں مؤخر الذکر کے بجائے سابق الذکر کو ترجیح دینی چاہیے. ٹیکنالوجی جتنی طاقتور ہوتی جائے، اس کے گرد حفاظتی انتظامات بھی اتنے ہی مضبوط ہونے چاہییں.

AI کے ذریعے تیز ہونے والی AI ترقی کے امکان کے لیے محض رضاکارانہ وعدوں سے بڑھ کر اقدامات درکار ہیں. ریاستہائے متحدہ کو صلاحیت پر مبنی لازمی قومی ضابطہ کاری درکار ہے، جو ٹیکنالوجی کے ساتھ ساتھ ترقی کر سکے.

ہمارا فرنٹیئر AI کی جمہوری حکمرانی کا خاکہ⁠ ایک پائیدار وفاقی فریم ورک کی جانب راستہ پیش کرتا ہے: مشترکہ جانچ اور آزادانہ جائزے کے تقاضے، مضبوط تر سائبر سیکیورٹی تحفظات، واقعات کی رپورٹنگ کے واضح اصول، قومی سطح پر زیادہ تیاری اور بازگشتی خود بہتری کی جانب پیش رفت پر نظر رکھنے کے لیے مشترکہ پیمانے.

کانگریس میں فرنٹیئر نظاموں کی حفاظت سے متعلق کئی سنجیدہ تجاویز اب شکل اختیار کر رہی ہیں. ہم تعمیری انداز میں شرکت جاری رکھیں گے اور ایسی قانون سازی کی حمایت کی توقع رکھتے ہیں جو حفاظتی معیار کو نمایاں طور پر بلند کرے. جب داؤ اتنے ہائی ہوں تو ہم کامل کو اچھے کی راہ میں رکاوٹ نہیں بننے دے سکتے. کانگریس کو اپنا اجلاس ختم ہونے سے پہلے کارروائی کرنی چاہیے.

ایک قومی فریم ورک مضبوط مگر احتیاط سے ہدفی ہونا چاہیے. فرنٹیئر نظاموں کی حفاظت سے متعلق تقاضوں کا اطلاق سب سے زیادہ صلاحیت والے نظام تیار کرنے والی چند وسائل سے مالامال تجربہ گاہوں پر ہونا چاہیے—نہ کہ نوآموز کمپنیوں، چھوٹے ڈویلپرز یا ایسے محققین پر جو فرنٹیئر سطح سے بہت دور کام کر رہے ہیں. ذمہ داریاں صلاحیتوں اور خطرات کے متناسب ہونی چاہییں.

نہ ہی فرنٹیئر نظاموں کی حفاظتی پالیسی کسی دوسرے نام سے کھلے اوزان کی پالیسی بننی چاہیے. اوپن ماڈلز حل کا حصہ ہو سکتے ہیں، خاص طور پر سائبر سیکیورٹی میں اور وہاں جہاں خودمختاری، سیکیورٹی یا ڈیٹا ریزیڈنسی کی ضروریات مقامی تنصیب کے حق میں ہوں. ان میں سے بیشتر فرنٹیئر سطح پر نہیں بلکہ لاگت، اختیار اور تاخیر کے معاملے میں مقابلہ کرتے ہیں. جیسا کہ ہم نے کھلے اوزان اور AI میں امریکی قیادت کے خط⁠(نئی ونڈو میں کھلتا ہے) پر دستخط کرتے ہوئے تصدیق کی، امریکہ کو کھلے اور بند دونوں ماڈلز کی ضرورت ہے. ایک وفاقی فریم ورک کو مسابقت کمزور کیے، موجودہ غالب اداروں کو مزید مضبوط کیے، یا اختراع کو بیرون ملک دھکیلے بغیر فرنٹیئر صلاحیتوں اور خطرات سے نمٹنا چاہیے.

ایک سنجیدہ عوامی فریم ورک کو طاقت کا ارتکاز بڑھانے کے بجائے کم کرنا چاہیے. آج فرنٹیئر تجربہ گاہیں بڑے پیمانے پر اپنے فرنٹیئر رسک سے نمٹنے کے اصول خود طے کرتی ہیں. جمہوری جواب دہی والے معیارات، آزادانہ تصدیق اور بامعنی شفافیت نجی حکمرانی کے اس منتشر نظام کی جگہ لیں گے.

یہ امریکی قیادت کے لیے ناگزیر ہے. امریکہ صرف صلاحیت کے بل پر AI کا دور نہیں جیت سکتا. تکنیکی طور پر آگے ہونے کی اہمیت بہت کم رہ جائے گی اگر لوگوں، اداروں اور حکومتوں کو ٹیکنالوجی اپنانے کے لیے اس پر کافی اعتماد نہ ہو. مضبوط حفاظتی اقدامات اختراع کے خلاف کوئی رعایت نہیں ہیں. یہ وسیع پیمانے پر اپنانے کے لیے درکار بنیادی ڈھانچے کا حصہ ہیں—اور دیرپا امریکی قیادت کے لیے بھی.

ہمیں AI کے لیے قومی معیارات کی شدید ضرورت ہے اور فرنٹیئر شعبے میں کام کرنے والا ہر شخص اس فوری ضرورت کو دیکھ سکتا ہے. جب تک کانگریس کارروائی نہیں کرتی، ریاستوں کو اس خلا کو پُر کرنے اور معیار بلند کرنے کے لیے اقدامات جاری رکھنے چاہییں.

OpenAI نے کیلیفورنیا کے SB 53، نیویارک کے RAISE Act، ایلینوائے کے SB 315، نیز میساچوسٹس میں زیر غور فرنٹیئر سیفٹی کی قانون سازی میں آزادانہ آڈٹس کی حمایت کی ہے. ہم ریاستوں کی حوصلہ افزائی کرتے ہیں کہ وہ ان مشترکہ تحفظات پر متفق ہوں. ایسا کرتے ہوئے، وہ عملاً ایک قومی بنیادی معیار تشکیل دے سکتی ہیں جسے کانگریس بالآخر قانون کی شکل دے سکے—اس طریقے کو ہم ⁠معکوس وفاقیت⁠ کہتے ہیں. لیکن ہم آہنگی کا مطلب تقاضوں کو اپنی جگہ منجمد کر دینا نہیں ہے.

آج ہم باضابطہ طور پر کیلیفورنیا کے مزید چار بلوں کی حمایت کر رہے ہیں جو قانون ساز مجلس سے منظور ہو چکے ہیں اور گورنر نیوسوم کے پاس جا رہے ہیں. یہ مل کر AI سیفٹی کے ماحولیاتی نظام کے باہم تکمیلی حصوں کا احاطہ کرتے ہیں.

SB 813⁠(نئی ونڈو میں کھلتا ہے) اہل، آزاد تنظیموں کو نامزد کرنے کا ایک عمل قائم کرے گا جو AI کے خطرات کا جائزہ لینے کی صلاحیت رکھتی ہوں. جیسا کہ ہم اپنے ⁠(نئی ونڈو میں کھلتا ہے)فرنٹیئر نظاموں کی حفاظت کے خاکے⁠(نئی ونڈو میں کھلتا ہے) میں بیان کر چکے ہیں، ہم ترجیح دیتے ہیں کہ آزاد تکنیکی جائزے وفاقی سطح پر لازمی ہوں، جہاں پالیسی ساز جائزہ کاروں کی اہلیت، سکیورٹی اور انتہائی حساس معلومات تک رسائی کے لیے یکساں معیارات قائم کر سکیں. تاہم، وفاقی اقدام نہ ہونے کی صورت میں، کیلیفورنیا ایک محفوظ، خاطر خواہ باصلاحیت اور بہتر حفاظتی نتائج دینے والے قومی آزادانہ جائزہ ڈھانچے کے اصول طے کرنے میں مدد کر سکتا ہے.

AB 1405⁠(نئی ونڈو میں کھلتا ہے) AI کے آڈیٹرز کے لیے اندراج، آزادی، شفافیت اور جواب دہی کے تقاضے قائم کرے گا.

SB 1119⁠(نئی ونڈو میں کھلتا ہے) ساتھی چیٹ بوٹس استعمال کرنے والے بچوں اور نوعمروں کے لیے عمر کی تصدیق، خطرات کے جائزے، آزادانہ آڈٹس، پیرنٹل کنٹرولز اور نقصان دہ مواد کے خلاف حفاظتی اقدامات لازم قرار دے گا. ہم نے حال ہی میں اس بل کے لیے اپنی حمایت کا اظہار کیا⁠ ہے، جو نوجوانوں کی حفاظت کے ان اقدامات پر استوار ہے جنہیں OpenAI نے اپنی مصنوعات، ⁠عالمی پالیسی اصولوں⁠ اور ⁠(نئی ونڈو میں کھلتا ہے)والدین اور بچوں کے لیے محفوظ AI کے قانون⁠(نئی ونڈو میں کھلتا ہے) کی حمایت کے ذریعے آگے بڑھایا ہے، نیز ChatGPT برائے نوعمروں میں شامل تحفظات، بشمول حساس شعبوں میں زیادہ مضبوط طے شدہ ترتیبات، خاموش اوقات، مطالعے کے اوقات اور وقفے کی یاد دہانیاں.

AB 1864⁠(نئی ونڈو میں کھلتا ہے) جین کی ترکیب فراہم کرنے والوں اور میز پر رکھے جانے والے ترکیبی آلات کے سازندوں کو وفاقی جانچ کے معیارات پر عمل کرنے کا پابند کرے گا، جس سے AI سے تقویت یافتہ حیاتیاتی خطرات کے خلاف ایک اہم طبعی تحفظ مضبوط ہوگا.

ان میں سے بعض بلوں کی ہم نے ماضی میں توثیق نہیں کی تھی، لیکن اب ہم ان صلاحیتوں میں حالیہ اضافے کو دیکھتے ہوئے دوبارہ غور کرنے کے بعد ان کی حمایت کر رہے ہیں.

یہ بل وفاقی ضابطہ کاری کا متبادل نہیں ہیں. یہ سنجیدہ کوششیں ہیں جو ابھی لوگوں کی حفاظت کر سکتی ہیں، یہ دکھا سکتی ہیں کہ قابلِ عمل حفاظتی اقدامات کیسے ہوتے ہیں اور وفاقی کارروائی کے لیے رفتار پیدا کرنے میں مدد دے سکتی ہیں.

صرف قوانین جدید AI کو محفوظ نہیں بنائیں گے. ہمیں سب سے زیادہ قابل نظام تیار کرنے والی لیبارٹریوں کے اندر بھی ٹھوس طریقہ کار کی ضرورت ہے. سب سے فوری آغاز نگرانی سے ہونا چاہیے.

یہ عدم ہم آہنگی کے لیے خاص طور پر اہم ہے—یعنی جب کوئی ماڈل شعور یا بدنیتی کے بغیر کسی مقصد کو ایسے طریقوں سے حاصل کرنے کی کوشش کرے جو انسانی ارادے یا طے شدہ حدود کی خلاف ورزی کریں. جیسے جیسے ماڈلز زیادہ خود مختار ہوتے ہیں، زیادہ طاقتور ٹولز استعمال کرتے ہیں اور طویل عرصے تک کام کرتے ہیں، ڈویلپرز سے تقاضا کیا جانا چاہیے کہ وہ ان عدم ہم آہنگ رویوں کی نگرانی کریں اور مؤثر حفاظتی تدابیر کی موجودگی ثابت کریں.

نگرانی کو افشا کے واضح تقاضوں سے منسلک ہونا چاہیے. جیسا کہ ہم نے کیلیفورنیا میں تجویز کیا، کمپنیوں پر لازم ہونا چاہیے کہ وہ متاثرہ فریقوں کو پرومپٹ تحریری اطلاع دیں جب ان کے ماڈلز تیاری یا جانچ کے دوران، بغیر اجازت کسی دوسری تنظیم کے سکیورٹی کنٹرولز کو نظرانداز کریں اور اس تنظیم کے محفوظ نظاموں یا خفیہ معلومات تک نمایاں طور پر رسائی حاصل کریں، ان میں تبدیلی کریں یا انہیں تباہ کریں. ہم دیگر سنگین AI واقعات کے لیے وفاقی رپورٹنگ کے تقاضوں کی بھی حمایت کرتے ہیں اور یہ طے کرنے پر کام کر رہے ہیں کہ کن واقعات کا احاطہ ہونا چاہیے اور ان تقاضوں میں کیا شامل ہونا چاہیے.

جیسا کہ ہم نے گزشتہ ہفتے بتایا، OpenAI عدم ہم آہنگی کے اہم واقعات کی اطلاع دینے اور فرنٹیئر ماڈلز کی سرگرمی، بشمول اندرونی استعمال، کی منظم نگرانی کے لیے ایک فریم ورک تیار کر رہا ہے. یہ ابتدا میں کمپنی کی زیر قیادت کوشش ہے، لیکن ہمیں امید ہے کہ اس سے وسیع تر وفاقی پالیسی اور رپورٹنگ کے تقاضوں کی تشکیل میں مدد مل سکتی ہے.

ہم صنعت کی قیادت میں بننے والے معیارات پر دیگر لیبز کے ساتھ کام کرنا چاہتے ہیں. صنعت کی قیادت میں بننے والے کوئی بھی معیارات لازمی وفاقی حفاظتی اقدامات اور جمہوری نگرانی کی تکمیل کریں گے، ان کی جگہ نہیں لیں گے. لیکن ہم AI صلاحیتوں کے ایک مختلف مرحلے میں داخل ہو چکے ہیں اور ہر چیز پر غور ہونا چاہیے—جس میں اس بات پر غور کرنا بھی شامل ہے کہ فوری اقدام کے طور پر حکومت سے باہر رضاکارانہ طور پر کیا بنایا جا سکتا ہے.

ایسے تمام معیارات کو بالآخر قومی سرحدوں سے آگے بھی پھیلنا چاہیے. ماڈلز، تحقیق اور تکنیکی مہارت عالمی سطح پر منتقل ہوتے ہیں اور سب سے زیادہ صلاحیت رکھنے والے نظاموں سے متعلق ناکامیوں کے نتائج اس ملک سے کہیں آگے تک ہو سکتے ہیں جہاں انہیں تیار کیا جاتا ہے. اگر امریکہ کو بین الاقوامی سطح پر قیادت کرنی ہے تو اسے اندرونِ ملک قابلِ اعتماد معیارات قائم کرنے ہوں گے—اور ہمیں اس بات کا یقین بڑھتا جا رہا ہے کہ ہم آہنگ بین الاقوامی معیارات ضروری ہوں گے.

AI کی پالیسی ونڈو فی الحال کھلی ہے. ہم اسے استعمال کرنے کا ارادہ رکھتے ہیں.

اس کا مطلب ہے فوریت، انکساری اور خود کو ڈھالنے کی آمادگی کے ساتھ عمل کرنا. اس کا مطلب ان سنجیدہ تجاویز کی حمایت کرنا ہے جو حفاظتی معیار کو نمایاں طور پر بلند کریں، خواہ وہ بالکل ویسی نہ ہوں جیسی ہم نے تیار کی ہوتیں. اور اس کا مطلب ٹیکنالوجی کے ارتقا کے ساتھ فریم ورک مضبوط بنانا ہے.

کوئی پہلا قدم بے عیب نہیں ہوگا. لیکن اب بڑا خطرہ یہ ہے کہ پہلا قدم اٹھانے میں بہت دیر کر دی جائے.