محکمہ برائے جنگ کے ساتھ ہمارا معاہدہ

کل ہم نے پینٹاگان کے ساتھ خفیہ ماحول میں جدید AI سسٹمز کی تعیناتی کا ایک معاہدہ کیا، اور ہم نے ان سے یہ بھی درخواست کی کہ وہ اسے تمام AI کمپنیوں کے لیے بھی دستیاب کریں.

ہم سمجھتے ہیں کہ خفیہ AI تعیناتیوں کے لیے ہمارے معاہدے میں، بشمول Anthropic کے، کسی بھی سابقہ معاہدے کے مقابلے میں زیادہ حفاظتی اقدامات ہیں. یہی وجہ ہے.

ہمارے پاس تین اہم ریڈ لائنز ہیں جو DoW کے ساتھ ہمارے کام کی رہنمائی کرتی ہیں، جو عموماً کئی دیگر جدید ترین لیبز کے ساتھ مشترک ہیں.

• بڑے پیمانے پر گھریلو نگرانی کے لیے OpenAI ٹیکنالوجی کا کوئی استعمال نہیں.
• خودمختار ہتھیاروں کے سسٹمز کی رہنمائی کے لیے OpenAI ٹیکنالوجی کا کوئی استعمال نہیں. 
• اعلٰی خطرے والے خودکار فیصلوں کے لیے OpenAI ٹیکنالوجی کا کوئی استعمال نہیں (مثال کے طور پر، سسٹمز جیسے "سوشل کریڈٹ".

دیگر AI لیبز نے اپنی حفاظتی گارڈ ریلز کو کم یا ختم کر دیا ہے اور قومی سلامتی کی تعیناتیوں میں بنیادی حفاظتی اقدامات کے طور پر زیادہ تر استعمال کی پالیسیوں پر انحصار کیا ہے. ہم سمجھتے ہیں کہ ہمارا طریقہ کار ناقابل قبول استعمال کے خلاف بہتر تحفظ فراہم کرتا ہے.

ہمارے معاہدے میں، ہم اپنی سرخ لکیروں کی حفاظت ایک زیادہ وسیع، کثیر سطحی حکمتِ عملی کے ذریعے کرتے ہیں. ہم اپنے سیفٹی اسٹیک پر مکمل صوابدید برقرار رکھتے ہیں، ہم کلاؤڈ کے ذریعے تعینات کرتے ہیں، کلیئرڈ OpenAI اہلکار لوپ میں ہوتے ہیں، اور ہمارے پاس مضبوط معاہداتی تحفظات ہیں. یہ سب کچھ امریکی قانون میں موجود مضبوط حفاظتی اقدامات کے علاوہ ہے. 

ہمیں جمہوریت میں پختہ یقین رکھتے ہیں. اس ٹیکنالوجی کی اہمیت کے پیش نظر، ہم سمجھتے ہیں کہ آگے بڑھنے کے لیے واحد اچھا راستہ AI کی کوششوں اور جمہوری عمل کے درمیان گہرے تعاون کا تقاضا کرتا ہے. ہم یہ بھی یقین رکھتے ہیں کہ ہماری ٹیکنالوجی دنیا میں نئے خطرات متعارف کرانے جا رہی ہے، اور ہم چاہتے ہیں کہ امریکہ کا دفاع کرنے والے لوگوں کے پاس بہترین ٹولز ہوں.

ہمارے معاہدے میں شامل ہیں:

1. تعیناتی کا فن تعمیر. یہ صرف کلاؤڈ پر مبنی تعیناتی ہے، جس میں ایک حفاظتی اسٹیک شامل ہے جسے ہم چلاتے ہیں اور جس میں یہ اصول اور دیگر شامل ہیں. ہم DoW کو "گارڈریلز آف" یا غیر حفاظتی تربیت یافتہ ماڈلز فراہم نہیں کر رہے ہیں اور نہ ہی ہم اپنے ماڈلز کو ایج ڈیوائسز پر تعینات کر رہے ہیں (جہاں خود مختار مہلک ہتھیاروں کے لیے استعمال کا امکان ہو سکتا ہے). 

ہماری تعیناتی آرکیٹیکچر ہمیں آزادانہ طور پر یہ تصدیق کرنے کے قابل بنائے گی کہ یہ ریڈ لائنز عبور نہیں کی جاتیں، بشمول کلاسیفائرز کو چلانا اور اپ ڈیٹ کرنا.

2. ہمارا معاہدہ. یہ متعلقہ زبان ہے:

محکمۂ برائے جنگ قابل اطلاق قانون، عملیاتی تقاضوں، اور اچھی طرح قائم شدہ حفاظتی اور نگرانی کے پروٹوکولز کے مطابق، AI سسٹم کو تمام قانونی مقاصد کے لیے استعمال کر سکتا ہے. AI سسٹم کو کسی بھی ایسے معاملے میں خود مختار ہتھیاروں کی خود سے ہدایت دینے کے لیے استعمال نہیں کیا جائے گا جہاں قانون، ضابطہ یا محکمہ کی پالیسی انسانی کنٹرول کی متقاضی ہو، اور نہ ہی اسے دیگر ایسے اعلیٰ داؤ والے فیصلے سنبھالنے کے لیے استعمال کیا جائے گا جن کے لیے کسی انسانی فیصلہ ساز کی منظوری درکار ہو انہی اختیارات کے تحت. DoD ڈائریکٹیو 3000.09 (بتاریخ 25 جنوری 2023) کے مطابق، خود مختار اور نیم خود مختار نظاموں میں AI کے کسی بھی استعمال کو سخت تصدیق کاری (verification)، توثیق کاری (validation)، اور ٹیسٹنگ سے گزرنا لازم ہے تاکہ تعیناتی سے پہلے یہ یقینی بنایا جا سکے کہ وہ حقیقت پسندانہ ماحول میں مطلوبہ طور پر کارکردگی دکھاتے ہیں.

انٹیلی جنس سرگرمیوں کے لیے، نجی معلومات کی کسی بھی نوعیت کی ہینڈلنگ چوتھی ترمیم، 1947 کے نیشنل سیکیورٹی ایکٹ اور 1978 کے فارن انٹیلی جنس اینڈ سرویلنس ایکٹ، ایگزیکٹو آرڈر 12333 اور قابلِ اطلاق DoD ہدایات کی تعمیل کرے گی، جن کے تحت ایک متعین غیر ملکی انٹیلی جنس مقصد درکار ہوتا ہے. AI سسٹم کو ان اختیارات کے مطابق U.S. افراد کی نجی معلومات کی غیر محدود نگرانی کے لیے استعمال نہیں کیا جائے گا. اس نظام کو گھریلو قانون نافذ کرنے کی سرگرمیوں کے لیے بھی استعمال نہیں کیا جائے گا، سوائے اس کے کہ Posse Comitatus ایکٹ اور دیگر قابلِ اطلاق قانون کے تحت اجازت ہو.

3. AI ماہرین کی شمولیت. ہم حکومت کی مدد کے لیے فارورڈ-ڈیپلائڈ OpenAI انجینئرز تعینات کریں گے جن کے پاس سکیورٹی کلیئرنس ہوگی، اور سکیورٹی کلیئرنس یافتہ حفاظتی اور ہم آہنگی کے محققین بھی اس عمل میں شامل ہوں گے. 

آپ اہسا کیوں کر رہے ہیں؟ 

سب سے پہلے، ہم سمجھتے ہیں کہ US فوج کو اپنے مشن کی معاونت کے لیے بالکل مضبوط AI ماڈلز کی ضرورت ہے، خاص طور پر ممکنہ حریفوں کی جانب سے بڑھتے ہوئے خطرات کے پیشِ نظر جو تیزی سے AI ٹیکنالوجیز کو اپنے سسٹمز میں ضم کر رہے ہیں. ہم نے ابتدا میں خفیہ تعیناتی کے لیے کسی معاہدے میں فوراً قدم نہیں رکھا، کیونکہ ہمیں محسوس نہیں ہوا کہ ہماری حفاظتی تدابیر اور نظام تیار ہیں، اور ہم یہ یقینی بنانے کے لیے سخت محنت کر رہے ہیں کہ خفیہ تعیناتی ایسی حفاظتی تدابیر کے ساتھ ہو سکے جو اس بات کو یقینی بنائیں کہ سرخ لکیریں عبور نہ ہوں. 

ہم قومی سلامتی کے کام میں کارکردگی بہتر بنانے کے لیے کلیدی تکنیکی حفاظتی اقدامات ہٹانے کے لیے تیار نہیں تھے—اور اب بھی نہیں ہیں. یہ امریکی فوج کی حمایت کرنے کا درست طریقہ نہیں ہے. 

دوسرا، ہم DoW اور US AI لیبز کے درمیان بھی معاملات کو کشیدگی سے نکالنا چاہتے تھے. ایک اچھے مستقبل کے لیے حکومت اور AI لیبز کے درمیان حقیقی اور گہرا تعاون درکار ہوگا. یہاں ہمارے معاہدے کے حصے کے طور پر، ہم نے درخواست کی تھی کہ وہی شرائط تمام AI لیبز کو دستیاب کرائی جائیں، اور خاص طور پر یہ کہ حکومت Anthropic کے ساتھ معاملات حل کرنے کی کوشش کرے؛ موجودہ صورتحال حکومت اور AI لیبز کے درمیان تعاون کے اس اگلے مرحلے کا آغاز کرنے کا ایک بہت برا طریقہ ہے.

آپ ایک معاہدے تک کیوں پہنچ سکے جب Anthropic نہیں پہنچ سکا؟ کیا آپ نے وہ ڈیل سائن کی جو وہ نہ کرتے؟

ہمیں جو معلوم ہے اس کی بنیاد پر، ہمیں یقین ہے کہ ہمارا معاہدہ پہلے کے معاہدوں کے مقابلے میں بہتر ضمانتیں اور زیادہ ذمہ دار حفاظتی اقدامات فراہم کرتا ہے، جن میں Anthropic کا اصل معاہدہ بھی شامل ہے. ہم سمجھتے ہیں کہ یہاں ہماری ریڈ لائنز زیادہ قابلِ نفاذ ہیں کیونکہ تعیناتی صرف کلاؤڈ تک محدود ہے (ایج پر نہیں)، ہماری سیفٹی اسٹیک کو اس طریقے سے کام کرتے رہنے دیتی ہے جسے ہم بہترین سمجھتے ہیں اور کلیئرڈ OpenAI اہلکاروں کو عمل میں شامل رکھتی ہے.

ہمیں معلوم نہیں کہ Anthropic اس معاہدے تک کیوں نہیں پہنچ سکا، اور ہمیں امید ہے کہ وہ اور مزید لیبز اس پر غور کریں گی.

کیا آپ کے خیال میں Anthropic کو 'سپلائی چین رسک' قرار دیا جانا چاہیے؟

نہیں، اور ہم نے اس بارے میں حکومت کے سامنے اپنا موقف واضح کر دیا ہے.

کیا یہ معاہدہ محکمہ برائے جنگ کو خود مختار ہتھیاروں کو تقویت دینے کے لیے OpenAI ماڈل استعمال کرنے کے قابل بنائے گا؟ 

نہیں. ہمارے حفاظتی اسٹیک، ہماری صرف-کلاؤڈ تعیناتی، معاہدے کی زبان اور موجودہ قوانین، ضابطہ کاری اور پالیسی کی بنیاد پر، ہمیں یقین ہے کہ ایسا نہیں ہو سکتا. ہم اضافی یقین دہانی کے لیے OpenAI کے عملے کو بھی لوپ میں شامل رکھیں گے.  

کیا یہ معاہدہ محکمہ برائے جنگ کو OpenAI ماڈل استعمال کرنے کے قابل بنائے گا تاکہ U.S. افراد پر بڑے پیمانے پر نگرانی کی جا سکے؟

نہیں. ہمارا حفاظتی اسٹیک، معاہدے کی زبان اور موجودہ قوانین کی بنیاد پر جو DoW کو گھریلو نگرانی سے سختی سے محدود کرتے ہیں، ہمیں یقین ہے کہ یہ ممکن نہیں. ہم اضافی یقین دہانی کے لیے OpenAI کے عملے کو بھی لوپ میں شامل رکھیں گے.  

کیا آپ کو حفاظتی اسٹیک (safety stack) کے بغیر ماڈل تعینات کرنے پڑتے ہیں؟

نہیں، ہم اپنے تعینات کردہ حفاظتی اسٹیک پر مکمل کنٹرول برقرار رکھتے ہیں اور حفاظتی گارڈریلز کے بغیر تعینات نہیں کریں گے. مزید برآں، ہماری حفاظت اور ہم آہنگی کے محققین بھی اس عمل میں شامل ہوں گے اور وقت کے ساتھ نظاموں کو بہتر بنانے میں مدد کریں گے. ہم جانتے ہیں کہ دیگر AI لیبارٹریز نے ماڈل گارڈ ریلز کو کم کیا ہے اور بنیادی حفاظتی اقدام کے طور پر استعمال کی پالیسیوں پر انحصار کیا ہے. لیکن ہم سمجھتے ہیں کہ ہمارا کثیر سطحی طریقہ ناقابل قبول استعمال کے خلاف بہتر تحفظ فراہم کرتا ہے.

اگر حکومت معاہدے کی شرائط کی خلاف ورزی کرے تو کیا ہوتا ہے؟

کسی بھی معاہدے کی طرح، اگر فریقِ مخالف شرائط کی خلاف ورزی کرے تو ہم اسے ختم کر سکتے ہیں. ہم توقع نہیں کرتے کہ ایسا ہوگا.

اگر حکومت بس قانون یا موجودہ DoW پالیسیوں کو بدل دے تو کیا ہوگا؟

ہمارا معاہدہ واضح طور پر نگرانی اور خودمختار ہتھیاروں سے متعلق قوانین اور پالیسیوں کا حوالہ دیتا ہے جیسا کہ وہ آج موجود ہیں. تاکہ اگر مستقبل میں وہ قوانین یا پالیسیاں تبدیل بھی ہو جائیں، تو بھی ہمارے سسٹمز کا استعمال معاہدے میں درج موجودہ معیارات کے مطابق ہی رہے. 

آپ ان کی بلاگ پوسٹ⁠(نئی ونڈو میں کھلتا ہے) میں DoW کے ساتھ اپنی گفتگو کے بارے میں Anthropic کی پیش کردہ دلیلوں کا جواب کیسے دیتے ہیں؟

اپنی پوسٹ میں، Anthropic اپنی دو ریڈ لائنز بیان کرتا ہے (ہمارے پاس بھی وہی دو ریڈ لائنز ہیں، اس کے علاوہ ایک تیسری: خودکار ہائی اسٹیکس فیصلہ سازی)، اور وہ وجوہات بتاتا ہے کہ انہیں کیوں یقین نہیں تھا کہ اس وقت DoW سے جو معاہدے انہوں نے دیکھے تھے ان میں ان ریڈ لائنز کو برقرار رکھا جائے گا. ذیل میں یہ بتایا گیا ہے کہ ہمیں کیوں یقین ہے کہ وہی ریڈ لائنز ہمارے معاہدے میں بھی برقرار رہیں گی.

• بڑے پیمانے پر ملکی نگرانی. ہماری بات چیت میں یہ واضح تھا کہ DoW بڑے پیمانے پر گھریلو نگرانی کو غیر قانونی سمجھتا ہے اور اس مقصد کے لیے اسے استعمال کرنے کا منصوبہ نہیں بنا رہا تھا. ہم نے اس بات کو یقینی بنایا کہ یہ حقیقت کہ یہ قانونی استعمال کے تحت شامل نہیں ہے، ہمارے معاہدے میں واضح طور پر درج کی گئی تھی.
• مکمل طور پر خود مختار ہتھیار. ہمارے معاہدے میں شامل کلاؤڈ تعیناتی کی سطح مکمل طور پر خودمختار ہتھیاروں کو طاقت فراہم کرنے کی اجازت نہیں دے گی، کیونکہ اس کے لیے ایج تعیناتی درکار ہوگی. 

ان تحفظات کے علاوہ، ہمارا معاہدہ اضافی تہہ دار حفاظتی اقدامات فراہم کرتا ہے. جن میں ہماری سیفٹی اسٹیک اور OpenAI کے تکنیکی ماہرین کی شمولیت شامل ہے.