AI کے اگلے مرحلے کے لیے معیارات کی تشکیل
ہمارا مشن یہ یقینی بنانا ہے کہ آرٹیفیشل جنرل انٹیلیجنس پوری انسانیت کے لیے فائدہ مند ہو. جیسا کہ سیم آلٹمین نے حال ہی میں وضاحت کی اور یاکوب پاہوتسکی نے بھی بتایا، ہم تین بنیادی اہداف کے تحت اس مشن کے لیے اپنے کام کو ترجیح دیتے ہیں:
ایک خودکار AI محقق تیار کرکے، ہم آہنگی کے مسئلے پر اس کے ساتھ مسلسل کام کرکے، اور لوگوں کو خود بہتری کے عمل کا حصہ بنائے رکھنے کے طریقے تلاش کرکے AI کی ترقی کے اگلے دور میں آگے بڑھنا.
انتہائی ذہین مشینوں سے ممکن ہونے والی سائنسی ترقی اور معاشی نمو کے فوائد فراہم کرنا.
ہر فرد کو ذاتی AGI کے ذریعے بااختیار بنانا.
AI ہماری اپنی تحقیق اور انجینئرنگ کو تیز کر رہا ہے، اور AI سے تقویت یافتہ تحقیق نے ریاضی میں پیش رفت ممکن بنائی ہے، جس میں نیویئر اسٹوکس ملینیم مسئلہ بھی شامل ہے. یہ پیش رفت ہمارے دوسرے دو اہداف کے لیے بھی بڑی امید پیدا کرتی ہے، جو طب میں اہم دریافتوں، وسیع پیمانے پر قابل رسائی صحت کی دیکھ بھال اور دنیا بھر کے چھوٹے کاروباروں اور انفرادی کاروباری افراد کو معاشی طور پر بااختیار بنانے کا سبب بن سکتی ہے.
بہت سی کمپنیوں اور ممالک میں AI آگے بڑھ رہا ہے، اور پورے شعبے کی پیش رفت سب کو درپیش مواقع اور چیلنجوں کو بدل رہی ہے. اپنے دیگر فوائد کے ساتھ، قابل اور ہم آہنگ AI اس تبدیلی سے گزرنے میں اہم کردار ادا کرے گا، یعنی دفاع کو مضبوط بنانے، ہم آہنگی کی تحقیق آگے بڑھانے اور لوگوں کو AI کی ترقی کے اگلے مراحل سمجھنے اور ان کی سمت متعین کرنے میں مدد دے گا.
اس تبدیلی سے محفوظ انداز میں گزرنے کے لیے ضروری ہے کہ ہم آہنگی کی تحقیق ان صلاحیتوں کے ساتھ قدم سے قدم ملا کر چلے، تاکہ ہمارے اور دوسروں کے بنائے ہوئے نظام انسانی اقدار سے ہم آہنگ اور انسانی اختیار میں رہیں. جیسے جیسے AI نظام زیادہ قابل اور خود مختار ہوتے جائیں گے، خصوصاً جب وہ خود AI کی تحقیق و ترقی کا مزید کام سنبھالیں گے، یہ امر مزید اہم ہوتا جائے گا. AI کی مسلسل پیش رفت کو محفوظ اور فائدہ مند بنانے کے لیے ہم آہنگی کی تحقیق میں ترقی اور مختلف تجربہ گاہوں اور ممالک میں ترقی کی رہنمائی کرنے والے مشترکہ معیارات، دونوں درکار ہوں گے.
خودکار AI تحقیق میں انسانی نگرانی کی سطح مختلف ہو سکتی ہے. جیسے جیسے AI نظام، AI کی یکے بعد دیگرے آنے والی نسلیں تیار کرنے کا زیادہ کام سنبھالتے ہیں، وہ بازگشتی خود بہتری کے عمل (RSI) کو تیزی سے آگے بڑھا سکتے ہیں، خواہ لوگ اس میں شامل رہیں. جیسے جیسے یہ عمل زیادہ خودکار ہوگا، AI کی ترقی کی رفتار تیزی سے بڑھ سکتی ہے.
ہمارا ماننا ہے کہ خودکار AI تحقیق ایسے ماڈل تیار کرے گی جو لوگوں کی زندگی براہ راست بہتر بنائیں گے. یہ جدید انٹیلیجنس کی لاگت کم کر سکتی ہے، تاکہ دنیا بھر کے لوگ اس سے فائدہ اٹھا سکیں. خودکار تحقیق ہم آہنگی کو نمایاں طور پر بہتر بنانے اور زیادہ قابل AI کے خلاف دفاع تیار کرنے میں بھی مدد دے سکتی ہے، یعنی ایک خودکار AI محقق، خودکار AI حفاظتی محقق بھی ہو سکتا ہے. زیادہ قابل اور ہم آہنگ نظام اہم بنیادی ڈھانچے کو محفوظ بنانے، خطرناک AI ایجنٹس سے دفاع کرنے اور نئے حفاظتی اقدامات تیار کرنے میں مدد دے سکتے ہیں.
مکمل خود مختار RSI آج وجود میں نہیں ہے، اور جب تک اسے محفوظ طریقے سے انجام دینا ممکن نہ ہو، ہمیں اس کے حصول کی کوشش نہیں کرنی چاہیے. آگے بڑھنا ہے یا نہیں اور کس طرح بڑھنا ہے، اس کا انحصار انسانی اختیار برقرار رکھنے کی ہماری صلاحیت اور فوائد و خطرات سے متعلق باخبر جمہوری فیصلوں(نئی ونڈو میں کھلتا ہے) پر ہونا چاہیے. مناسب نگہداشت اور احتیاط کے بغیر RSI کے نتیجے میں انسان AI کی ترقی پر عملی اختیار کھو سکتے ہیں اور ایسے تحقیقی عمل کی نگرانی سے قاصر ہو سکتے ہیں جسے وہ مزید سمجھ ہی نہ سکیں. اس کے بعد AI زیادہ خطرناک، انسانی اقدار سے کم ہم آہنگ اور مجموعی طور پر لوگوں کے لیے خطرہ بن سکتا ہے. ہگنگ فیس کا وہ واقعہ جس کا ہم نے انکشاف کیا، اگرچہ RSI کا براہ راست نتیجہ نہیں تھا، لیکن یہ ان خطرات کی ایک جھلک ہے جو مضبوط حفاظتی تدابیر اور ہم آہنگی کے بغیر کہیں زیادہ سنگین ہو سکتے ہیں.
جدید ترین AI کی تیاری میں تحفظ اور سلامتی کے طریقوں کے بین الاقوامی معیارات، اس کی رفتار متوازن رکھنے کے لیے خود ہم آہنگی کی تحقیق جتنے اہم ہو سکتے ہیں. معیارات اعلیٰ معیار کے شواہد کی مشترکہ تعریفیں اور تکنیکی حفاظتی تدابیر کی سختی کے لیے متفقہ بنیادی سطحیں قائم کر سکتے ہیں. مختصراً، یہ اس سوال کا جواب دینے میں ہماری مدد کرتے ہیں، ”AI سے لاحق تباہ کن خطرے کو کم کرنے کا اچھا طریقہ کیسا ہوتا ہے؟“
AI معیارات و اختراع کا مرکز (CAISI)، ریاستی قوانین اور AI کے لیے وفاقی فریم ورک جیسے موجودہ جمہوری ادارے، نیز سرکاری و نجی شراکت داری کی نئی صورتیں(نئی ونڈو میں کھلتا ہے)، اس کام میں مدد دے سکتے ہیں. لیکن AI کی تیاری اور تعیناتی کئی ممالک میں ہو رہی ہے، اسے دنیا بھر میں اپنایا جا رہا ہے، اور ممکنہ طور پر کسی نہ کسی وقت اور کسی نہ کسی صورت میں ہر شخص اس کے اثرات محسوس کرے گا.
اس لیے چند بنیادی چیلنجوں کے حل کی خاطر معیارات وضع کرنے کی بین الاقوامی کوششیں ضروری ہیں:
تقسیم—مختلف ممالک کی جانچ، رپورٹنگ کے تقاضے اور واقعات کی تعریفیں ایک دوسرے سے متصادم ہو سکتی ہیں، جس سے شواہد کا موازنہ، ابھرتی صلاحیتوں کو سمجھنا اور سرحد پار خطرات سے نمٹنا مشکل ہو سکتا ہے.
اجتماعی کارروائی—ہر ملک کے الگ الگ اقدام سے ایسے نتائج سامنے آ سکتے ہیں جو کوئی بھی ملک نہیں چاہتا. RSI خود AI تحقیق کو اس قدر تیز کر سکتا ہے کہ پیش رفت کو سمجھنا، خطرات کا جائزہ لینا اور بامعنی انسانی نگرانی برقرار رکھنا ہماری اجتماعی صلاحیت سے باہر ہو جائے.
غیر مساوی صلاحیت—جدید ترین ترقی کی سرگرمیاں اور متعلقہ مہارتیں دنیا بھر میں یکساں طور پر تقسیم نہیں ہیں. اس سے مذکورہ بالا دونوں مسائل مزید سنگین ہو جاتے ہیں.
یہ چیلنج اوپن اور کلوزڈ، دونوں طرح کے ماڈلز پر لاگو ہوتے ہیں.
واضح رہے کہ خودکار AI تحقیق یا دیگر جدید صلاحیتوں پر کام کرنے والی کسی بھی AI تجربہ گاہ کو ذاتی ذمہ داری کے بنیادی اصولوں اور موجودہ قوانین کے مطابق یہ کام محفوظ طریقے سے کرنے کی جواب دہی قبول کرنی ہوگی. معیارات کے حق میں ہماری دلیل طاقت کے ارتکاز سے بچنے اور بہتر عملی نتائج حاصل کرنے پر مبنی ہے. معیارات سے تجربہ گاہوں سے باہر کے مزید فریقوں کو اس ٹیکنالوجی کی پیش رفت کے طریقے میں رائے دینے کا موقع ملتا ہے، اور اصولوں کا ایک واضح مجموعہ دستیاب ہوتا ہے جس پر کسی مخصوص تجربہ گاہ کے طریقوں سے قطع نظر بھروسا کیا جا سکتا ہے. اور اگر فریق مذکورہ چیلنجوں سے نمٹنے کے لیے تعاون کریں تو غالباً بہتر نتائج حاصل ہوں گے.
اسی لیے ہمارا ماننا ہے کہ امریکہ کو RSI سمیت جدید ترین AI کے عالمی تکنیکی معیارات وضع کرنے کے لیے دنیا بھر کے ممالک کے ساتھ مل کر کوشش کی قیادت کرنی چاہیے.
اگرچہ ہمیں توقع ہے کہ یہ تصور وقت کے ساتھ نمایاں طور پر ارتقا پائے گا، لیکن اس کے دو پہلو لازمی ہوں گے.
اسے حاصل کرنے کا ایک طریقہ AI حفاظتی اداروں کے ابھرتے ہوئے نیٹ ورک سے فائدہ اٹھانا ہوگا، مثلاً آسٹریلیا، کینیڈا، جرمنی، فرانس، کینیا، جاپان، کوریا، سنگاپور، بھارت اور برطانیہ میں پہلے سے قائم ادارے۔ ان کے ذریعے CAISI اور قومی صنعتی اداروں کی مدد سے معیارات وضع کیے جا سکتے ہیں، جن میں خاص توجہ ان امور پر ہو: (1) صلاحیت کے پیمانوں سے ناپے گئے جدید ترین AI ماڈل اور ان کے تیار کنندگان؛ اور (2) خودکار AI تحقیق، بشمول RSI، کے فوائد اور خطرات کا نظم. امریکہ 2024 میں CAISI کے قائم کردہ جدید AI پیمائش، جائزے اور سائنس کے بین الاقوامی نیٹ ورک(نئی ونڈو میں کھلتا ہے) کو بنیاد بنا سکتا ہے، جو AI کی پیمائش، جائزے اور سائنس میں تعاون کے لیے سرکاری اداروں کو یکجا کرتا ہے.
اس کوشش کے ذریعے وضع کردہ معیارات، صلاحیت کی پیمائش اور جائزے، خطرات کی تشخیص اور حفاظتی تدابیر کی موزونیت کے لیے ایک مشترکہ تکنیکی بنیاد فراہم کریں گے. یہ تکنیکی معیارات AI ماڈلز کے لیے لائسنس، اجرا سے پہلے لازمی جائزہ یا منظوری کی شرائط نہیں ہوں گے. قومی حکومتیں فیصلہ کریں گی کہ آیا ان معیارات کو اپنے قانونی نظام میں شامل کرنا ہے اور اگر کرنا ہے تو کس طرح.
اس کام کو اوپن ماڈل اور کلوزڈ ماڈل تیار کرنے والوں، آزاد تکنیکی ماہرین اور تعلیمی حلقوں سے مشاورت کے ذریعے ایک مسابقتی AI ماحولیاتی نظام کی بھی حمایت کرنی چاہیے. مشترکہ معیارات شفاف انداز میں وضع کیے جانے چاہییں اور ان کی ساخت ایسی ہو کہ مخصوص کمپنیوں، ممالک یا کاروباری ماڈلز کو فائدہ نہ پہنچے، مثلاً نئے فریقوں یا اوپن ویٹ ماڈل تیار کرنے والوں کے لیے مسابقت مشکل نہ بنائی جائے.
جیسا کہ ہم نے تجویز کیا ہے(نئی ونڈو میں کھلتا ہے)، یہ طریقہ ہوابازی اور مالی استحکام جیسے شعبوں سے سبق لے سکتا ہے، جہاں ممالک نے قومی اختیار چھوڑے بغیر مشترکہ تکنیکی معیارات اور تعاون کے قابل اعتماد ذرائع تیار کیے ہیں. اسے ISO(نئی ونڈو میں کھلتا ہے)، جدید ترین ماڈل فورم(نئی ونڈو میں کھلتا ہے)، ایجنٹک AI فاؤنڈیشن(نئی ونڈو میں کھلتا ہے) اور محفوظ اوپن AI اتحاد(نئی ونڈو میں کھلتا ہے) جیسے قائم شدہ اور نئے معیاری اداروں کے ساتھ بھی قریبی تعاون کرنا چاہیے، نیز نفاذ پر توجہ دینے والی ایپیا فاؤنڈیشن جیسی تنظیموں سے بھی، جو بین الاقوامی معیارات کو حقیقی دنیا میں AI کے جائزوں سے جوڑنے والی عملی وضاحتیں تیار کر رہی ہے.
AI تحقیق میں بڑھتی خود مختاری اور بازگشتی خود بہتری کے نظم میں بین الاقوامی AI معیارات خاص طور پر اہم ہوں گے. خصوصاً، ان میں درج ذیل امور کے معیارات شامل ہو سکتے ہیں:
RSI سے متعلق AI پیش رفت اور کسی AI کمپنی میں جاری خودکار تحقیق کی مقدار کا جائزہ. تحقیق کی رفتار میں اضافے سے متعلق ہماری حالیہ رپورٹ اس کوشش میں ایک ابتدائی تعاون ہے.
خودکار AI تحقیق پر انسانی نگرانی، بشمول یہ تعین کہ کن اقسام کے خودکار AI تحقیقی عمل پر فوری انسانی جائزہ لازم ہونا چاہیے.
ہم آہنگی اور خودکار AI تحقیق کے مسائل سے متعلق واقعات کی درجہ بندی، نگرانی، رپورٹنگ اور ان پر ردعمل، مثلاً واقعات کی شدت کی مشترکہ سطحیں اور رپورٹنگ کی حدیں. ہم آہنگی میں خرابی کی رپورٹنگ کا ہمارا فریم ورک ایک ابتدائی تعاون ہے.
ان معیارات کے علاوہ، ہمارا ماننا ہے کہ دنیا بھر میں اہم بنیادی ڈھانچے کے منتظمین اور حکومتوں کے لیے رابطے کے محفوظ ذرائع قائم کرنا ضروری ہوگا، تاکہ قومی سلامتی کے خدشات، ابھرتی کمزوریاں اور خطرات، اور جدید ترین AI تحفظ کے تیزی سے بدلتے شعبے کے بہترین طریقوں کا تبادلہ کیا جا سکے. ان شعبوں میں امریکہ اور چین کے درمیان بات چیت ایک مثبت قدم ہوگی، اور آئندہ مذاکرات موزوں وقت پر ہو رہے ہیں.
AI کی ترقی کی رفتار طے کرنے کا مطلب پہلے سے مقرر رفتار برقرار رکھنا نہیں ہے. تکنیکی اعتبار سے اس کا مطلب یہ یقینی بنانا ہے کہ ہم آہنگی کی تحقیق اور اس کا عملی نفاذ، صلاحیتوں سے آگے رہیں. سماجی اعتبار سے اس کا مطلب معیارات، اداروں اور تعاون کے ذریعے صنعت، سماجی تعلقات اور منڈی کی قوتوں کے نیٹ ورکس کو مضبوط کرنا ہے، تاکہ سب کے لیے فائدہ مند نتائج حاصل ہوں. سائبر دفاع کے لیے اجتماعی کارروائی کی حالیہ اپیل اس دوسرے پہلو کی ایک مثال ہے.
امریکہ قیادت کے لیے موزوں مقام رکھتا ہے، کیونکہ اس کی AI صنعت تکنیکی طور پر جدید ترین سطح پر ہے اور مالیات، تجارت، دفاع، ٹیکنالوجی اور اطلاعاتی نظام جیسے اہم شعبوں میں اسے اب بھی عالمی نیٹ ورک میں امتیازی مقام حاصل ہے. اب قیادت کرنے سے یہ طے ہوگا کہ امریکہ عالمی AI فریم ورک کو تشکیل دیتا ہے یا اپنے گرد ایک منقسم، غیر متوازن اور تنازعات سے بھرا نظام جڑ پکڑتے دیکھتا ہے. اس سے یہ بھی طے ہوگا کہ آیا جدید AI امریکہ اور اس کے اتحادیوں کے موجودہ نیٹ ورکس کو مضبوط بناتا ہے یا نہیں؛ قیادت نہ کرنے سے وہ کمزور پڑ سکتے ہیں.
جغرافیائی سیاسی مسابقت صرف اس بات پر نہیں ہوگی کہ تکنیکی طور پر کون آگے ہے، بلکہ AI کو اپنانے اور پھیلانے پر بھی ہوگی. یہ دوسرا پہلو بڑھتی ہوئی حد تک اس فریق کے ہاتھ میں ہو سکتا ہے جو حقیقت پسندانہ تعاون اور ایسے معقول قواعد کو فروغ دے جنہیں دنیا بھر کے کاروبار اور معاشرے اس ٹیکنالوجی پر اپنا مستقبل داؤ پر لگانے سے پہلے ضروری سمجھیں گے.
عملی بین الاقوامی تعاون سے مربوط مضبوط قومی نظم و نسق، بہتر حفاظتی تدابیر، مسلسل اختراع اور AI کے فوائد تک وسیع رسائی کی راہ فراہم کرتا ہے.
