اقوام متحدہ کی سلامتی کونسل میں سیم آلٹ مین کا خطاب

آج OpenAI کے چیف ایگزیکٹو افسر سیم آلٹ مین نے اقوام متحدہ کی سلامتی کونسل سے مصنوعی ذہانت کے موضوع پر خطاب کیا. انہوں نے مواقع بڑھانے کی مصنوعی ذہانت کی صلاحیت، طاقتور نظاموں کو انسانی اختیار میں رکھنے کی اہمیت، اور مصنوعی ذہانت کی حفاظت پر بین الاقوامی تعاون کی ضرورت پر گفتگو کی.

جناب صدر اور معزز حاضرین، آپ کا بہت شکریہ. اس اہم موقع پر یہاں موجود ہونا اور آپ سب سے گفتگو کرنا میرے لیے اعزاز کی بات ہے.

ہم برسوں سے مصنوعی ذہانت پر بات کرتے آئے ہیں، لیکن حالیہ ہفتوں اور مہینوں میں صورت حال مختلف محسوس ہوتی ہے. ماڈل کی تیز رفتار پیش رفت سے وقت بہت کم محسوس ہونے لگا ہے، فوائد زیادہ واضح ہو گئے ہیں، مگر ساتھ ہی نتائج کی سنگینی اور خطرات بھی زیادہ فوری ہو گئے ہیں.

ہمارے سامنے ایک انتخاب ہے. مصنوعی ذہانت یا تو تخلیقی صلاحیت اور دریافت کے ایک نئے نشاۃ ثانیہ جیسی ہو سکتی ہے، یا پھر ابتری اور انتشار کے ایک نئے صنعتی انقلاب جیسی.

نشاۃ ثانیہ وہ دور تھا جب نئے اوزاروں، نئے خیالات اور نئے اداروں نے لوگوں کے ممکنات کا تصور وسیع کر دیا تھا. مصنوعی ذہانت ہمارے دور میں یہی کردار ادا کر سکتی ہے. میرا ماننا ہے کہ لوگ اپنے تصور سے کہیں زیادہ باصلاحیت ہیں، لیکن محدود ٹیکنالوجی نے انہیں روکے رکھا ہے جو انہیں بااختیار بنانے کے لیے تھی، مگر اس کے بجائے توجہ بھٹکاتی اور اکثر چھین لیتی ہے.

مصنوعی ذہانت کی بہترین شکل کا مقصد لوگوں کو کسی بڑی مشین کا معمولی پرزہ بنانا یا زندگی کے ہر حصے کو اس حد تک مؤثر بنانا نہیں کہ انسانی پہلو ہی غائب ہو جائیں. اس کا مقصد مسلسل پیچیدہ ہوتی دنیا میں لوگوں کو زیادہ اختیار دینا ہے: سیکھنے، تخلیق کرنے، دریافت کرنے، تعمیر کرنے اور حصہ لینے کی زیادہ صلاحیت. بہت سے کام ایسے ہیں جنہیں مصنوعی ذہانت خودکار نہیں بنا سکتی، اور نہ ہی بنانا چاہیے.

مصنوعی ذہانت لوگوں کے لیے بنائی جانی چاہیے، نہ کہ محض مشینوں کو بے مقصد مزید تیزی سے چلانے کے لیے. مصنوعی ذہانت بنانے پر کام کرنے والے بعض لوگوں کی باتیں اتنی تاریک مستقبل کی تصویر پیش کرتی ہیں کہ وہ کسی گھٹیا سائنسی افسانوی فلم کی کہانی لگتی ہیں.

اتنی طاقتور چیز کا خوف پیدا کرنا بھی فطری ہے. یہ لمحہ پیچیدہ ہے کیونکہ ہم بیک وقت بے پناہ امکانات اور بالکل قابل فہم تشویش محسوس کر رہے ہیں.

یہ ماڈل لوگوں کو نیا علم دریافت کرنے میں مدد دے سکتے ہیں: نئی دوائیں، بہتر صحت کی دیکھ بھال، مضبوط تعلیم، اور زیادہ پیداواری معیشتوں کی تعمیر. یہ لوگوں کے لیے ان خوابوں اور امنگوں کو پورا کرنے کے نئے اوزار بن سکتے ہیں جو آج دسترس سے باہر محسوس ہوتے ہیں. ایک عام شخص کے لیے زندگی کی پیچیدگی بے حد بڑھ گئی ہے. مصنوعی ذہانت بے مثال دریافت اور اختراع کا ذریعہ ہونے کے ساتھ اس پیچیدگی سے نمٹنے کا دفاعی وسیلہ بھی بن سکتی ہے.

دوسری طرف، مصنوعی ذہانت کے نظام زیادہ باصلاحیت اور خود مختار ہوتے جائیں تو وہ ہمارے اداروں سے زیادہ تیزی سے آگے بڑھ سکتے ہیں، طاقت کو بہت کم ہاتھوں میں مرکوز کر سکتے ہیں، یا ایسے فیصلے کر سکتے ہیں جنہیں لوگ نہ سمجھ سکیں اور نہ قابو میں رکھ سکیں.

یہ تشویش اس وقت خاص اہمیت اختیار کر لیتی ہے جب ہم ایسے نظاموں کے قریب پہنچتے ہیں جو خود کو اور اپنے آئندہ نسخوں کو بہتر بنا سکتے ہوں، جسے عموماً تکراری خود اصلاح کہا جاتا ہے. مصنوعی ذہانت بنانے کا عمل زیادہ خودکار ہونے کے ساتھ اس کی پیش رفت کی رفتار بہت تیزی سے بڑھ سکتی ہے. یہ وقت انتہائی احتیاط کا تقاضا کرتا ہے.

میں بڑی حد تک پروفیسر بینجیو سے متفق ہوں. البتہ میں تین کے بجائے دو کہوں گا۔ میرا ماننا ہے کہ مصنوعی ذہانت کی پیش رفت دو طریقوں سے انتہائی غلط سمت میں جا سکتی ہے، اور ہمیں دونوں سے بچنا ہوگا.

پہلا، ہم مستقبل کا اختیار مصنوعی ذہانت کے ہاتھوں کھو سکتے ہیں. خطرہ یہ ہے کہ اس کی رفتار اتنی بڑھ جائے کہ لوگ نہ تو حالات کو سمجھ سکیں اور نہ ضرورت کے وقت مداخلت کر سکیں. ظاہر ہے، یہ نہایت تباہ کن ہوگا.

صنعت کو صرف اس لیے بہت زیادہ تکنیکی خطرہ قبول نہیں کرنا چاہیے کہ فوائد بہت بڑے ہیں اور رفتار کم کرنا اسے نامناسب لگتا ہے. مسابقت میں دوسری کمپنیوں کو پیچھے چھوڑنا جلد بازی میں فیصلے کرنے کا جواز نہیں ہے. نہ ہی ہمارا ماننا ہے کہ ہم ایسی دوڑ میں پھنسے ہیں جہاں رفتار کم کرنا ممکن نہیں. ہم ماضی میں یک طرفہ طور پر اپنی رفتار کم کر چکے ہیں. ہم مستقبل میں بھی ایسا کریں گے. ہم ایسے نظام نہیں بنانا چاہتے، اور ہمارے خیال میں سب کو ایسے نظام بنانے سے گریز کرنا چاہیے، جن کے بارے میں ہم انسانی مقاصد سے ہم آہنگی، نگرانی کی صلاحیت اور حفاظت کی ضروری ضمانتیں نہ دے سکیں.

ہمیں سمجھنا ہوگا کہ یہ نظام کیا کر رہے ہیں، اور ہمارے پاس مضبوط شواہد ہونے چاہییں کہ انتہائی ذہین ہو جانے کے باوجود یہ وہی کریں گے جو لوگ چاہتے ہیں. درحقیقت، خاص طور پر اس وقت جب وہ انتہائی ذہین ہو جائیں. اس سے فرق نہیں پڑتا کہ لوگ تباہی کے خطرے کو 10 فیصد، 1 فیصد، 12 فیصد یا 0.1 فیصد سمجھتے ہیں. ان میں سے کوئی بھی سطح معمولی حد تک بھی قابل قبول نہیں ہے. اور ہمیں ایسے ماڈل کی تربیت نہیں کرنی چاہیے جسے انسانی اختیار میں رکھنے کی اپنی صلاحیت کے حق میں ہم انتہائی مضبوط شواہد پیش نہ کر سکیں.

تو یہ حالات کے بگڑنے کا ایک طریقہ ہے. دوسری سمت میں، یہ نظام بہت زیادہ طاقت کو بہت کم ہاتھوں میں مرکوز کر سکتے ہیں. کسی فرد، کمپنی یا ملک کو یہ اختیار نہیں ہونا چاہیے کہ وہ مصنوعی ذہانت کے طاقتور ترین ماڈل استعمال کر کے اپنا نظریۂ عالم باقی سب پر مسلط کرے. جو کمپنی یا ملک یہ سمجھتا ہے کہ صرف اسی پر اس ٹیکنالوجی کے معاملے میں بھروسا کیا جا سکتا ہے، وہ اس یقین کو تقریباً کسی بھی دوسرے اقدام کے جواز کے طور پر استعمال کر سکتا ہے. ہمیں اس منطق کو مسترد کرنا ہوگا، چاہے وہ کسی ایک فریق کے لیے کتنی ہی آسان کیوں نہ ہو.

میرا ماننا ہے کہ ان دونوں کے درمیان ایک عملی راستہ موجود ہے. OpenAI میں ہم ان سوالات پر ایک واضح مقصد کے ساتھ غور کرتے ہیں: مصنوعی ذہانت لوگوں کو اپنی زندگیوں پر زیادہ اختیار دے. اپنی پسند کے مطابق زندگی گزارنے کی زیادہ آزادی. چھوٹے بڑے مسائل حل کرنے اور اپنی برادریوں کو بہتر بنانے کی زیادہ صلاحیت. ہم اندھی خوش فہمی کے جال میں نہیں پھنسنا چاہتے. اور نہ ہی ہم تباہی کی بدترین پیش گوئیوں کے جال میں پھنسنا چاہتے ہیں. کسی بھی انتہا کی طرف کھنچ جانا ہمارے سامنے موجود چیلنجوں کا کامیاب حل تلاش کرنے میں مدد نہیں دے گا، خاص طور پر ایسے وقت میں جب دنیا اور اس کے لوگ ایسے بڑے مسائل سے دوچار ہیں جنہیں حل کرنے میں یہ ٹیکنالوجی مدد دے سکتی ہے. اس لیے ہم ان دونوں انتہاؤں کے درمیان متوازن راستہ اختیار کرنے کی کوشش کرتے ہیں.

ہمارے لیے اس کا مطلب تین اصول ہیں.

پہلا، مصنوعی ذہانت کی صلاحیت بڑھنے کے ساتھ اس کے فیصلوں میں انسان کو مرکزی حیثیت حاصل رہنی چاہیے. انسانی مقاصد سے ہم آہنگی محض ایک نظری تحقیقی سوال نہیں ہے. یہ یقینی بنانے کا کام ہے کہ یہ نظام قابل اعتماد طور پر انسانی اختیار میں رہیں، انسانی اقدار کی عکاسی کریں، اور ترقی کے اگلے مراحل کی رہنمائی میں لوگوں کی مدد کریں. ہم انسانی فہم و فراست یا انسانی اقدار کو خودکار بنانے کی کوشش نہیں کر رہے، اور ہمیں ایسا کرنا بھی نہیں چاہیے.

دوسرا، سائنسی پیش رفت اور اقتصادی ترقی لوگوں کی کوششوں سے اور لوگوں ہی کے لیے ہونی چاہیے. مصنوعی ذہانت کو محققین کی دریافتوں، ڈاکٹروں کے علاج، اساتذہ کی تدریس، کاروباری افراد کے نئی کمپنیاں قائم کرنے، اور برادریوں کے بظاہر ناقابل حل مسائل حل کرنے سمیت بہت سے کاموں میں مدد دینی چاہیے. انسانی ترقی کی مسلسل داستان یہ نہیں کہ اوزار انسان کی عمل کرنے کی صلاحیت کی جگہ لے لیتے ہیں. بلکہ درست اوزار لوگوں کو زیادہ باصلاحیت بناتے ہیں، اور میرا ماننا ہے کہ یہ ہماری موجودہ سوچ سے کہیں آگے جائے گا.

تیسرا، اس ٹیکنالوجی کو ہر فرد کو بااختیار بنانا چاہیے. ایک شاندار مستقبل تب وجود میں آئے گا جب لوگ اپنی صلاحیتوں کو حقیقت میں بدلیں گے اور اپنے لیے، اپنی برادریوں، اپنے ملکوں اور پوری دنیا کے لیے قدر پیدا کریں گے. ممکن ہے ہم اس ٹیکنالوجی کے معماروں میں شامل ہوں، لیکن اس کہانی کے ہیرو ہم نہیں ہیں. ہمارا کردار دنیا بھر کے لوگوں کو وسائل فراہم کرنا اور انسانی مہارت و صلاحیتوں کے کرشمے پر بھروسا کرنا ہے.

اب ہمارے پاس ایسے ماڈل ہیں جو اس علم کو دریافت کر سکتے ہیں جو پہلے کبھی ہمارے پاس نہیں تھا. ریاضی میں ہونے والی ہماری پیش رفت پر غور کریں. تین گرمیاں پہلے ہمارے ماڈل پرائمری اسکول کی ریاضی میں مناسب کارکردگی دکھاتے تھے. دو گرمیاں پہلے وہ ثانوی اسکول کے ریاضی مقابلوں میں خاصے اچھے ہو گئے تھے. گزشتہ گرمیوں میں ہم دنیا کے سب سے باوقار بین الاقوامی ریاضی مقابلے میں طلائی تمغے کی سطح تک پہنچ گئے. اور اسی موسم گرما میں، صرف چند ہفتے پہلے، ہمارے ایک ماڈل نے ملینیم انعامی مسائل میں سے ایک، ناویئر-اسٹوکس مساوات، حل کر دی.

یہ مساوات طیاروں کے ڈیزائن، موسم کی پیش گوئی اور خون کے بہاؤ کے مطالعے میں استعمال ہوتی ہیں. ہم ریاضی کے مسائل محض انہیں حل کرنے کے لیے نہیں حل کر رہے، بلکہ لوگوں کو نیا علم دریافت کرنے اور اسے صحت کی دیکھ بھال بہتر بنانے، معیار زندگی بلند کرنے اور دنیا بھر میں ہر شخص کی صلاحیتوں کو وسعت دینے کے لیے بااختیار بنا رہے ہیں. ابھی بہت کچھ دریافت ہونا باقی ہے.

لیکن یہ نہایت اہم ہے کہ کمپنیاں جمہوری عمل کی جگہ نہ لیں.

اگر مصنوعی ذہانت کو جمہوری بنانا ہے تو اہم ترین فیصلے صرف سان فرانسسکو کی تجربہ گاہیں نہیں کر سکتیں. ان فیصلوں کی تشکیل جمہوری عمل کے ذریعے اور ان حکومتوں کے ہاتھوں ہونی چاہیے جو اپنے عوام کے سامنے جواب دہ ہوں.

بین الاقوامی سطح پر اس کے لیے تعاون درکار ہوگا. ہماری تاریخ میں ایسے مواقع آئے ہیں جب باہم مقابلہ کرنے والے اور ایک دوسرے کو زیادہ پسند نہ کرنے والے ممالک بھی کسی طاقتور نئی ٹیکنالوجی کے سامنے مشترکہ مفادات اور اجتماعی بھلائی کے لیے متحد ہوئے ہیں. ہمارا ماننا ہے کہ یہ بھی ایسا ہی ایک موقع ہونا چاہیے.

ہمیں جدید ترین مصنوعی ذہانت کے باہم تکمیلی قومی اور بین الاقوامی معیارات کے لیے ایک طریقۂ کار درکار ہے: صلاحیتوں کی پیمائش، خطرات کے جائزے، حفاظتی اقدامات کے کافی ہونے کا تعین، اور نظاموں کے زیادہ خود مختار ہونے کے ساتھ بامعنی انسانی نگرانی برقرار رکھنے کے معیارات.

ہمیں مشترکہ معیارات درکار ہیں تاکہ ممالک شواہد کا موازنہ، تعمیل کی تصدیق، اور موجودہ صورت حال کے بارے میں مشترکہ زبان اور فہم قائم کر سکیں.

ہمیں واقعات کی درست اور فوری اطلاع کے ساتھ ان کی درجہ بندی اور رپورٹنگ کے ضابطے درکار ہیں، تاکہ دنیا ناکامیوں کے تباہ کن سانحات بننے سے پہلے ان سے سیکھ سکے.

اور ہمیں حکومتوں، اہم بنیادی ڈھانچے کے منتظمین اور تکنیکی ماہرین کے درمیان محفوظ رابطے درکار ہیں تاکہ ابھرتی ہوئی کمزوریوں اور نئے خطرات سے متعلق معلومات کا تبادلہ ہو سکے.

ظاہر ہے، ان معیارات سے موجودہ اداروں کی اجارہ داری قائم نہیں ہونی چاہیے اور نہ ہی کسی ایک کاروباری ماڈل کو دوسرے پر ترجیح ملنی چاہیے. ان معیارات کو کھلے اور بند ماڈل تیار کرنے والوں، نئے آنے والوں اور قائم شدہ تجربہ گاہوں، قومی اختیار اور بین الاقوامی تعاون، سب کی حمایت کرنی چاہیے. ہر حکومت کو خود فیصلہ کرنا چاہیے کہ ان معیارات کو اپنے قانونی نظام میں کیسے شامل کیا جائے. لیکن ہم سب کے لیے بہتر ہوگا اگر عالمی سطح پر اچھے شواہد، مؤثر حفاظتی اقدامات اور اچھی نگرانی کی تعریف پر اتفاق ہو جائے.

ہمارے پاس تمام سوالوں کے جواب نہیں ہیں اور ہم بہتر تجاویز کا کھلے دل سے خیرمقدم کرتے ہیں. ہم آپ سب کے ساتھ مل کر کام کرنے اور آگے کا راستہ تلاش کرنے کی پوری کوشش کے لیے تیار ہیں.

ہم ایک دوراہے پر کھڑے ہیں. ایک راستہ ایسی دنیا کی طرف جاتا ہے جہاں طاقت چند ہاتھوں میں مرکوز ہو، فیصلے غیر شفاف ہوں، اور لوگوں کو لگے کہ ان کی زندگی کی سب سے اہم ٹیکنالوجی ان کی مرضی کے بغیر ان پر مسلط کی جا رہی ہے. دوسرا راستہ ایسی دنیا کی طرف جاتا ہے جہاں مصنوعی ذہانت لوگوں کے لیے کام کرے کیونکہ لوگ جمہوری اداروں کے ذریعے اس کی ترقی اور رہنمائی کا فیصلہ کرنے میں شریک ہوں؛ جہاں سائنسی پیش رفت حقیقی زندگیوں کو بہتر بنائے؛ جہاں زیادہ لوگ مستقبل کی تشکیل میں حصہ لے سکیں؛ اور جہاں یہ ٹیکنالوجی افراد اور برادریوں کو اپنی پسند کے مطابق زندگی گزارنے کے لیے مزید بااختیار بناتی رہے. یہ ایسا مستقبل ہے جس میں صلاحیتیں حقیقت بنتی ہیں اور جوش و حیرت کے نئے امکانات پیدا ہوتے ہیں.

اور ہمارا ماننا ہے کہ یہ وہ مستقبل ہے جسے تعمیر کرنا ضروری ہے. آپ کا بہت شکریہ.