انٹیلیجنس کے عہد کا تعارف

”کیا اقتدار کے بڑھتے ہوئے جذبے کے مقابل ان پارچمنٹ کی رکاوٹوں پر بھروسہ کرنا کافی ہوگا؟“
—James Madison، فیڈرلسٹ نمبر 48

ہمیں OpenAI کی نئی تزویراتی مستقبل کی ٹیم کا بلاگ، انٹیلیجنس کا عہد، شروع کرتے ہوئے خوشی ہو رہی ہے. ہم ایک چھوٹی سی ٹیم ہیں جس کا مشترکہ مقصد ایک بنیادی سوال کا جواب تلاش کرنا ہے: انقلابی AI کے ظہور کو جگہ دیتے ہوئے انفرادی حقوق اور اختیار محفوظ رکھنے کے لیے آزاد معاشرے کی تشکیل نو کیسے کی جانی چاہیے؟

اس نوعیت کے سوالات کو وسیع تر AI سیفٹی اور پالیسی کمیونٹی میں بعض اوقات طاقت کے ارتکاز کے خطرات کہا جاتا ہے. ہماری ٹیم کی بنیاد اس خیال پر ہے کہ طویل مدت میں خطرے کا یہ زمرہ سب سے بڑا، سب سے سنگین اور تصوراتی طور پر سب سے دشوار ہے. کیوں؟

جدید ریاست طاقت کے مختلف مراکز کے درمیان طویل اور ناہموار گفت و شنید کا نتیجہ ہے، جیسے سرمائے اور اشیا کے مالکان، سیاسی اقتدار رکھنے والے اور عوام. سب سے بنیادی سطح پر سیاسی اور عسکری طاقت کا انحصار محنت پر رہا ہے. سیاسی اقتدار رکھنے کا مطلب جائز طاقت پر اجارہ داری رکھنا ہے. پوری انسانی تاریخ میں یہ اجارہ داری فوجیوں اور ان افراد پر مشتمل رہی ہے جنہیں آج ہم ”پولیس“ کہتے ہیں، نیز ایک وسیع سول اور عسکری افسر شاہی پر. یقیناً کئی تکنیکی آلات بھی معاون رہے—مگر بنیادی طور پر یہ نظام انسان ہی چلاتے تھے اور اسے برقرار رکھنے کے لیے ان کی حمایت ضروری تھی۔ اور اس پورے سسٹم—یعنی فوجیوں، آلات اور متعلقہ افسر شاہی—کے اخراجات انسانوں کی اجرتوں یا پیداوار سے وصول کیے گئے ٹیکسوں سے پورے ہوتے تھے جنہیں ادا کرنے پر لوگوں کا آمادہ ہونا ضروری تھا. اقتدار کی بنیاد ہمیشہ بڑی تعداد میں انسانوں کے وسیع تعاون اور رضامندی پر منحصر رہی ہے. David Hume نے اس مفروضے کو، جو اکثر غیر اعلانیہ رہتا ہے، مختصر الفاظ میں یوں بیان کیا کہ سیاسی رہنماؤں کے پاس ”[عوامی] رائے کے سوا کوئی سہارا نہیں ہوتا“.

لیکن شاید اب ایسا نہ رہے. حقیقی دنیا میں کام کرنے والے خود مختار نظاموں کی ترقی کے باعث ریاستیں شاید جلد ہی تعاون کرنے والے فوجیوں یا پولیس اہلکاروں پر انحصار کیے بغیر ملک کے اندر اور بیرون ملک طاقت استعمال کر سکیں گی. اور مشینی انٹیلیجنس میں پیش رفت کا مطلب یہ ہو سکتا ہے کہ ریاست اپنی مطلوبہ آمدنی انفرادی انسانی محنت کے ثمرات کے بجائے ڈیٹا سینٹرز کے آؤٹ پٹس سے حاصل کر سکے. خود افسر شاہی کا انتظام بھی بڑی حد تک خودکار بنایا جا سکتا ہے. یوں اقتدار برقرار رکھنے کے لیے شاید اب پورے معاشرے کے ساتھ کسی سمجھوتے کی ضرورت نہ رہے، اور وسیع معنوں میں عوام کی مذاکرات کی میز پر شاید صرف معمولی سی جگہ ہو، یا شاید کوئی جگہ ہی نہ ہو.

اس انجام سے بچنا انسانی آزادی کے تحفظ کے لیے بنیادی اہمیت رکھتا ہے. سائنسی دریافت، تکنیکی ترقی یا اقتصادی نمو کی کوئی مقدار اس طویل مدتی انفرادی خود اختیاری کی قربانی کے قابل نہیں جو یہ انجام ہم سے طلب کرے گا. AI کی ابھرتی ہوئی سیاست کو بجا طور پر متحرک کرنے والی بہت سی تشویشیں اسی سوال سے متعلق ہیں. کاروبار، مفاداتی گروہ اور افراد سب یکساں طور پر فکرمند ہیں: ”کیا مذاکرات کی میز پر میری جگہ ختم ہو جائے گی؟“ کسی حد تک اکیسویں صدی کی امریکی سیاست بھی ملک کی سمت پر انفرادی اور اجتماعی اختیار، اور یہ سوال کہ معیشت ”کس کے لیے“ ہے، جیسی تشویشوں سے تشکیل پاتی رہی ہے. AI نے ان پہلے سے موجود خدشات کی اہمیت بڑھا دی ہے، اور یہ بجا ہے.

یہ ایک ساختی مسئلہ ہے جو آج کی جماعتی سیاست سے بھی گہرا ہے، بلکہ ان طریقوں اور رسوم سے بھی جن کے ذریعے آج جمہوری نظامِ حکومت عملی شکل اختیار کرتا ہے، خواہ وہ ہمارے لیے کتنے ہی مقدس کیوں نہ ہوں. اپنے نمائندوں کو ووٹ دینے کا معمول برقرار رہنے کے باوجود انسان بے اختیار ہونے کی راہ پر جا سکتے ہیں. کاغذ کا ایک ٹکڑا انہیں آزاد قرار دے تب بھی لوگوں سے ان کا اختیار چھینا جا سکتا ہے.

جب ریاستہائے متحدہ امریکہ ایک آزاد ملک کے طور پر وجود میں آیا، تبھی James Madison جانتے تھے کہ ظلم روکنے کے لیے ”پارچمنٹ کی رکاوٹیں“ کافی نہیں ہوں گی. بہت سے بانیوں کی طرح ان کی بنیادی تشویش طاقت کے بے جا ارتکاز سے بچنا تھی.

لیکن اس کا مطلب یہ نہیں تھا کہ بانیانِ امریکہ اقتدار کی بنیاد پرست مرکزیت شکنی کے حامی تھے. اس کے بجائے انہوں نے اپنے عہد کی بہترین سائنس—یعنی نیوٹنی میکینکس سے اخذ کردہ استعارات کے ذریعے اقتدار کے توازن کا نمونہ پیش کیا. امریکہ کی تاسیسی دستاویزات میں کشش ثقل کی زبان اور منطق کی جھلک ملتی ہے اور وہ ”مداروں“، ”دائروں“ اور ایک شے کے دوسری طرف ”کشش“ کے رجحانات کے حوالوں سے بھری ہوئی ہیں. نظام شمسی چٹانوں کا مکمل طور پر غیر مرکزی مجموعہ نہیں ہوتا، بلکہ اس میں چاند سیاروں کے گرد اور سیارے ایک مرکزی سورج کے گرد گردش کرتے ہیں. ان کا عقیدہ تھا کہ لوگوں اور تنظیموں میں طاقت حاصل کرنے کے رجحانات ہوتے ہیں، بالکل اسی طرح جیسے اجرام فلکی میں حرکت اور کشش کے قابل پیش گوئی رجحانات ہوتے ہیں. ان کے نزدیک طاقت کے بے جا ارتکاز سے بچنے کے لیے ان رجحانات کی میکینکس کو سمجھنا ضروری تھا، تاکہ انہیں ایک دوسرے کے مقابل متحرک کیا جا سکے.

لہٰذا بانیوں کا مقصد طاقت کے ہر قسم کے ارتکاز سے بچنا نہیں، بلکہ طاقت کو طاقت اور بلند عزمی کو بلند عزمی سے قابو میں رکھ کر اس کے حد سے بڑھنے کو روکنا تھا. آج ہم انہی بنیادی عوامل کو بیان کرنے کے لیے ”ترغیبات“ اور ”گیم تھیوری“ جیسی اصطلاحات استعمال کر سکتے ہیں.

اسی طرح، جدید مشین انٹیلیجنس سے آزاد معاشرے کو درپیش ساختی چیلنج کا حل غالباً طاقت کی انتہائی ممکنہ غیر مرکزیت نہیں ہے. اس کے بجائے حل طاقت کا درست توازن قائم کرنے اور برقرار رکھنے میں ہے، تاکہ کوئی ایک فریق یا چند فریقوں کا چھوٹا سا گروہ باقی سب پر غالب نہ آ سکے.

یہ توازن قائم کرنے کے لیے اس ٹیکنالوجی کی حقیقت پر واضح اور حقیقت پسندانہ انداز میں غور کرنا ہوگا. ایسی دنیا، جہاں کوئی بھی فرد خواہ کتنا ہی بد نیت ہو، معمولی کوشش سے ہزاروں یا لاکھوں دوسرے لوگوں کو شدید نقصان پہنچا سکے، طاقت کا درست توازن رکھنے والی دنیا نہیں ہے. لیکن اگر افراد کو اپنی آزادی کے اظہار کے لیے استعمال کیے جانے والے آلات کے تقریباً تمام پہلوؤں تک وسیع رسائی اور ان پر اختیار حاصل نہ ہو، تو بھی طاقت کا درست توازن قائم نہیں ہوا. کسی ایک کمپنی یا چند اجارہ دار اداروں کو معیشت یا انسانی معاشرے کے بنیادی ڈھانچے کا تعین یا اس پر اختیار نہیں ہونا چاہیے.

ہمیں ان خطرات کو بھی مدنظر رکھنے کے لیے تیار رہنا چاہیے جو بد نیت انسانوں سے پیدا نہیں ہوتے. Hugging Face کے حالیہ واقعے سے ظاہر ہوا کہ AI ایجنٹس اپنے تفویض کردہ کاموں سے آگے بڑھ سکتے ہیں اور ایک دوسرے کی دریافتوں کو ایسے طریقوں سے آگے بڑھا سکتے ہیں جن کی operators نے نہ توقع کی تھی نہ اجازت دی تھی. ہگنگ فیس کے واقعے سے آگے بڑھ کر، انسانوں کا اس بارے میں فکرمند ہونا بجا ہے کہ انسانی کنٹرول سے ”آزاد“ سپر انٹیلیجنٹ AI ہمارے سیاسی و اقتصادی اداروں، بلکہ ہماری زندگیوں کی لچک کے لیے کیا معنی رکھ سکتی ہے. یہ دکھاوا کرنا کہ غیر مرکزیت تمام مسائل حل کر دیتی ہے، چاہے آپ سمجھتے ہوں کہ یہ ان میں سے بہت سے مسائل حل کرتی ہے——ایسے خطرات کو نظر انداز کرنا ہے جو اب تک واضح اور سامنے موجود ہو جانے چاہئیں.

درج ذیل وسیع اصول—جو مکمل فہرست نہیں ہیں—اوپر پیش کیے گئے سوال پر غور کرتے ہوئے ہمارے کام کی رہنمائی کریں گے:

• انسانوں کو AI اور متعلقہ ٹیکنالوجیوں کے استعمال میں انفرادی خود مختاری اور مواقع برقرار رکھنے چاہئیں، خواہ کبھی کبھی اس کے لیے سیکیورٹی اور اقتصادی نمو، دونوں پر سمجھوتا کرنا پڑے؛
• انفرادی خود مختاری کا انحصار ٹیکنالوجی کے غلط یا ناجائز استعمال کی انفرادی ذمہ داری پر ہے؛
• خطرات کا ایک چھوٹا مگر سنگین زمرہ ایسا ہے جس کے لیے کسی حد تک اجتماعی اقدام ضروری ہے، اور اس اقدام کا دائرہ حتی الامکان محدود اور معتدل ہونا چاہیے؛
• جہاں ممکن ہو، قانون کو طاقت مرکز میں جمع کرنے کے بجائے سب کے لیے یکساں مواقع پیدا کرنے اور افراد اور چھوٹی تنظیموں کو بااختیار بنانے کی کوشش کرنی چاہیے؛
• انسانی سیاسی، سماجی اور اقتصادی اداروں کو عالمی امور کی سمت متعین کرنے میں بالادستی برقرار رکھنی چاہیے، چاہے انہیں ایسے طریقوں سے ارتقا پذیر ہونا پڑے جو آج ہمیں اجنبی محسوس ہو سکتے ہیں؛
• طویل مدتی AI گورننس محدود شفافیت—حاصل کرنے کے لیے نئے ادارہ جاتی طریقۂ کار پر منحصر ہوگی. جب AI سسٹمز ایسے اہم اقدامات کریں جو آس پاس موجود لوگوں کی جسمانی سیکیورٹی یا املاک کو متاثر کریں، تو ان اقدامات کو کسی ذمہ دار انسان یا انسانی کنٹرول والی تنظیم سے منسلک کرنا ممکن ہونا چاہیے. تاہم ایسے ہر طریقۂ کار کو رازداری بنیادی قدر بنا کر لازماً ترتیب دیا جانا چاہیے. آزادیِ اظہار کے لیے گمنامی ضروری ہے؛ اور انسانوں کو بہت سے حالات میں AI گمنام طور پر استعمال کرنے کی آزادی ہونی چاہیے.

ہم—حتی الامکان ٹھوس انداز میں—یہ واضح کرنے کی کوشش کریں گے کہ ہمارے خیال میں ان اصولوں کے درمیان توازن کیسے قائم ہونا چاہیے، جو بلاشبہ اچھے اصولوں کے ہر مجموعے کی طرح کسی حد تک ایک دوسرے سے متصادم ہیں. ایسا کرنے کے لیے عوامی پالیسی کے ڈیزائن، معاشیات، قانون، تاریخ اور خود مشین لرننگ کے باہمی تعلق پر تحقیق درکار ہوگی. اس کے لیے بڑے پیمانے پر پیش گوئی بھی درکار ہوگی. مثال کے طور پر، ہمارا ماننا ہے کہ AI فرموں کو ساختی سطح پر تبدیل کر دے گا، بالکل اسی طرح جیسے صنعتی انقلاب کی ٹیکنالوجیز، (اور بالخصوص ریلوے)، نے جدید انتظامی کارپوریشن کو جنم دیا۔ مستقبل کی سیاسی معیشت اور طاقت کے توازن کے بارے میں اس وقت تک بہتر طور پر سوچنا مشکل ہے جب تک ہم اس بارے میں زیادہ جامع تصورات تیار نہ کر لیں کہ خود فرموں (اور وسیع تر معنوں میں سرکاری اداروں اور سول سوسائٹی) کی ساخت کیسے تبدیل ہو سکتی ہے.

اسٹریٹیجک فیوچرز ٹیم اپنا کام یہاں بھی پیش کرے گی اور دیگر فارمیٹس میں بھی، جن میں مقالے، ویڈیوز اور پوڈکاسٹس شامل ہیں. ہماری کوششیں مسلسل تکمیل کے عمل میں ہوں گی، جن میں بار بار بہتری، مباحثے اور فیڈبیک کو کھلے دل سے قبول کرنے پر زور ہوگا. ہم ”یکتائیت کے دامن میں“ کھڑے ہیں، جہاں ہمارے پاس جوابوں سے کہیں زیادہ سوالات ہیں. ہم جانتے ہیں کہ صرف ”پارچمنٹ کی رکاوٹیں“ ہمیں مطلوبہ حل فراہم نہیں کریں گی، لیکن ہم تحریر شدہ باتوں کو ”محض الفاظ“ کہہ کر مسترد بھی نہیں کرتے. ہم آزادی اظہار اور انفرادی آزادی کے ان تصورات کی خدمت میں کوشاں ہیں جو امریکی آئین کے سادہ پارچمنٹ اور دنیا بھر کے بہت سے دیگر آزاد معاشروں کے آئینوں میں درج ہیں.

بالآخر، ہم جانتے ہیں کہ نہ کوئی ایک کمپنی، نہ کوئی ایک صنعت، بلکہ کوئی ایک انسانی معاشرہ بھی ہمارے سامنے موجود ان سنگین سوالات کا یک طرفہ جواب نہیں دے سکتا. یہ ایسا کام ہے جو پوری انسانیت کو مل کر کرنا ہوگا. ہماری سب سے بڑی امید یہ ہے کہ ہم ان دشوار ترین موضوعات پر روشنی ڈالیں جو AI کے ہاتھوں ہماری دنیا کی تشکیل نو سے متعلق ہیں. ہمارا کام ابھی شروع ہی ہوا ہے اور ہمیں ابھی بہت سی چڑھائی طے کرنی ہے.

نوٹ: ہم نے اس بلاگ کا نام بدل کر انٹیلیجنس کا عہد رکھا ہے تاکہ اسے غیر منافع بخش AI فیوچرز پروجیکٹ سے الگ پہچانا جا سکے.