AI ہم آہنگی پر آزادانہ تحقیق کو فروغ دینا

جیسے جیسے AI سسٹمز زیادہ قابل اور خود مختار ہوتے جا رہے ہیں، ہم آہنگی کی تحقیق کو رفتار برقرار رکھنے اور تنوع کو بڑھانے کی ضرورت ہے. OpenAI میں، ہم جدید ترین ہم آہنگی اور حفاظتی تحقیق میں بھاری سرمایہ کاری کرتے ہیں کیونکہ یہ ہمارے مشن کے لیے نہایت اہم ہے. ہم یہ بھی یقین رکھتے ہیں کہ AGI کو محفوظ اور سب کے لیے فائدہ مند بنانا کسی ایک تنظیم کے بس کی بات نہیں ہے اور ہم آزاد تحقیق اور تصوری طریقوں کی حمایت کرنا چاہتے ہیں جو جدید ترین لیبز سے باہر بھی جاری رہ سکیں. ہمیں یقین ہے کہ مصنوعی ذہانت کا مستقبل ویسا نہیں ہوگا جیسا کوئی بھی پیش گوئی کرتا ہے اور زیادہ لوگوں کو اس کے نتائج کی تشکیل میں شامل ہونا چاہیے.

آج، ہم The Alignment Project⁠(نئی ونڈو میں کھلتا ہے) کو 7.5 ملین ڈالر کی گرانٹ کا اعلان کر رہے ہیں، جو آزادانہ ہم آہنگی تحقیق کے لیے ایک عالمی فنڈ ہے جسے UK AI Security Institute (UK AISI) نے قائم کیا ہے. Renaissance Philanthropy گرانٹ کے انتظام کی معاونت کر رہا ہے. یہ تعاون The Alignment Project کو آزاد ہم آہنگی تحقیق کے لیے اب تک کی سب سے بڑی مخصوص فنڈنگ کوششوں میں سے ایک بنانے میں مدد کرتا ہے اور وسیع تر، آزاد ماحولیاتی نظام کو مضبوط کرتا ہے.

OpenAI جیسی جدید ترین لیبز منفرد پوزیشن میں ہیں کہ وہ ہم آہنگی کی تحقیق کر سکیں جو جدید ترین ماڈلز تک رسائی اور نمایاں کمپیوٹ پر منحصر ہے—ایسا کام جو خود مختار محققین کے لیے اکثر مشکل ہوتا ہے. ہم اپنی داخلی ہم آہنگی کی کوششوں کا بڑا حصہ قابل توسیع طریقے تیار کرنے کے لیے وقف کرتے ہیں تاکہ ہم آہنگی کی پیش رفت صلاحیت کی پیش رفت کے ساتھ ہم قدم رہے. ہمیں یقین ہے کہ تکراری تعیناتی—حفاظتی اقدامات کو مضبوط کرتے ہوئے آہستہ آہستہ صلاحیتوں میں اضافہ—سطحی مسائل کی ابتدائی مدد کرتا ہے اور ہمیں اس بارے میں ٹھوس ثبوت فراہم کرتا ہے کہ عملی طور پر کیا کام کرتا ہے اور اس ذمہ دارانہ ترقی کے لیے اہم صف بندی اور حفاظتی کام کی ضرورت ہوتی ہے جو ماڈل کی تعمیر اور تعیناتی کے ساتھ مستحکم طور پر ضم شدہ ہو.

متوازی طور پر، فیلڈ کو مستقل سرمایہ کاری سے آزاد، تحقیقی تحقیق میں فائدہ ہوتا ہے—جو خیالات کی جگہ کو وسعت دے سکتا ہے اور نئی سمتوں سے پردہ اٹھا سکتا ہے. آزادانہ تحقیق ضروری ہے؛ بہت سے قسم کے مفید انکوائری میں، لیبز ایک تقابلی فائدہ برقرار نہیں رکھتے. ایک صحت مند ہم آہنگی ماحولیاتی نظام کا انحصار آزاد ٹیموں پر ہوتا ہے جو متنوع مفروضوں کی جانچ کرتی ہیں، متبادل فریم ورک تیار کرتی ہیں، اور ایسے تصوراتی، نظریاتی اور نیلے آسمان کے خیالات کو تلاش کرتی ہیں جو کسی ایک تنظیم کے روڈ میپ کے ساتھ صاف ستھرا نہ ہوں.

اور چونکہ AGI کی طرف پیش رفت بالآخر بنیادی کامیابیوں پر منحصر ہو سکتی ہے جو صف بندی کے مسئلے کی شکل کو تبدیل کرتی ہیں اور کون سے نقطہ نظر سب سے زیادہ کارآمد ہیں، اس لیے تحقیق کی حمایت کرنا ضروری ہے چاہے آج کے غالب طریقے ہماری توقع کے مطابق پیمانے پر نہ نکلیں. ان جہانوں میں، یہ خاص طور پر اہم ہو جاتا ہے کہ ایک مضبوط بیرونی ماحولیاتی نظام بنیادی، تصوراتی اور غیر متعلقہ کام کر رہا ہو. AI کی ہم آہنگی اور حفاظت کا مسئلہ بے مثال اہمیت کا حامل ہے، اور ہمیں ڈیک پر تمام ہاتھوں کی ضرورت ہے کیونکہ ہم ابھی تک نہیں جانتے کہ کون سے نقطہ نظر سب سے زیادہ پائیدار ثابت ہوں گے کیونکہ صلاحیتیں آگے بڑھ رہی ہیں.

ہماری گرانٹ—موجودہ شرح مبادلہ کے مطابق تقریباً £5.6 ملین—دیگر عوامی، فلاحی اور صنعتی معاونین کے ساتھ مل کر The Alignment Project کی مشترکہ فنڈنگ کرے گی⁠(نئی ونڈو میں کھلتا ہے). کل فنڈ £27 ملین سے تجاوز کر چکا ہے اور یہ دنیا بھر میں الائنمنٹ ریسرچ پروجیکٹس کے ایک وسیع پورٹ فولیو کی حمایت کے لیے ڈیزائن کیا گیا ہے، جو کمپیوٹیشنل کمپلیکسٹی تھیوری، اقتصادی تھیوری اور گیم تھیوری، ادراکی سائنس، اور معلوماتی تھیوری اور کرپٹوگرافی جیسے متنوع موضوعات پر محیط ہے. انفرادی پروجیکٹس کو عموماً £50,000 سے £1 ملین تک کی فنڈنگ دی جاتی ہے اور انہیں کمپیوٹ وسائل تک اختیاری رسائی اور ماہرین کی معاونت بھی فراہم کی جا سکتی ہے.

ہماری فنڈنگ نہ تو کوئی نیا پروگرام یا انتخابی عمل تشکیل دیتی ہے، نہ ہی موجودہ عمل پر اثر انداز ہوتی ہے؛ یہ موجودہ راؤنڈ میں فنڈ کیے جا سکنے والے پہلے سے جانچے گئے، اعلٰی معیار کے پروجیکٹس⁠(نئی ونڈو میں کھلتا ہے) کی تعداد میں اضافہ کرتی ہے.

UK AISI اس پیمانے اور دائرۂ کار پر ہم آہنگی کے لیے فنڈنگ کی سمت متعین کرنے کے لیے اچھی پوزیشن میں ہے. یہ حکومت، اکیڈمیا، فلاحی اداروں اور صنعت پر مشتمل ایک قائم شدہ بین القطاعی اتحاد کو یکجا کرتا ہے، اس کے ساتھ ایک گرانٹ دینے کی پائپ لائن جو پہلے ہی جاری ہے اور ماہرین کے جائزے سے گزرنے والی تجاویز کا ایک بڑا ذخیرہ موجود ہے. سائنس، انوویشن اور ٹیکنالوجی کے ڈیپارٹمنٹ (DSIT) کے تحت ایک برطانوی حکومتی تحقیقی ادارے کے طور پر، اس کے پاس سنگین AI خطرات پر مرکوز ایک مینڈیٹ بھی ہے اور یہ تحقیقی فنڈنگ پروگرام چلانے کا تجربہ رکھتا ہے.

کیونکہ AI کا مستقبل بالکل ویسے نہیں ہوگا جیسا کوئی بھی پیش گوئی کرتا ہے—اور یہ بہت تیزی سے ترقی کر سکتا ہے—ہم سمجھتے ہیں کہ جمہوریت، "AI کی لچک،" اور تکراری تعیناتی ضروری ہیں. جب ہم OpenAI میں اپنی جدید ترین ہم آہنگی اور حفاظتی تحقیق کو آگے بڑھاتے ہیں، تو جیسے جیسے صلاحیتیں ترقی کرتی ہیں، پیش رفت کو ایک مضبوط، متنوع اور آزاد ماحولیاتی نظام سے فائدہ ہوگا جو تکمیلی طریقے اختیار کرتا ہے. یہ گرانٹ اس مقصد کی طرف ایک قدم ہے. ہم اس میدان کی پیشرفت کے ساتھ وسیع تر تحقیقی کمیونٹی کے ساتھ تعاون جاری رکھنے کے منتظر ہیں.