ہم آسٹریلیا کے لیے کیسے بہتر کام کریں گے

جون میں داخلی تربیت اور جانچ کے دوران ہمارے ماڈلز نے آسٹریلوی حکومت کی ویب سائٹس تک ایسے طریقوں سے رسائی حاصل کی جن کی انہیں اجازت نہیں تھی. ہمیں اپنے ردِعمل کو بھی بہتر انداز میں ہینڈل کرنا چاہیے تھا. ہم معذرت خواہ ہیں اور آئندہ بہتر کام کرنے کی کوشش کر رہے ہیں.

اس تحریر میں ہم بتا رہے ہیں کہ ہمیں کیا معلوم ہے, ہم نے کیا تبدیلیاں کی ہیں, اور آسٹریلوی عوام کا اعتماد بحال کرنے کے لیے ہم کیا کریں گے. یہ ایک نئی نوعیت کا سائبر واقعہ ہے, جو ایک ابھرتے ہوئے عالمی چیلنج کی نشاندہی کرتا ہے. اس صورتِ حال کی ذمہ داری قبول کرنے کے لیے ہم آسٹریلیا کے ساتھ بامقصد تعاون کرنا چاہتے ہیں. اس کا ایک مقصد ایسے عملی طریقے وضع کرنے میں مدد دینا ہے جن سے AI تیار کرنے والے اور حکومتیں AI کے سائبر رویّے کی نشاندہی کر سکیں, اس کی اطلاع دے سکیں اور اس سے نمٹ سکیں, چاہے وہ بدنیتی پر مبنی ہو یا غیر ارادی.

جولائی میں Hugging Face کے واقعے کے بعد ہم نے دیگر متاثرہ اداروں کی نشاندہی کے لیے تربیت اور جانچ کی سابقہ سرگرمیوں کا جائزہ لینا شروع کیا. اگست کے وسط میں اس جائزے کے دوران ایسی سرگرمی سامنے آئی جس سے آسٹریلوی حکومت کی درج ذیل ویب سائٹس متاثر ہوئی تھیں.

شواہد کی بنیاد پر ہمیں یہ معلوم ہے:

• Services Australia: OpenAI کے ایک ماڈل نے سروس تک ایسی رسائی کا طریقہ تلاش کیا جو عوام کے لیے دستیاب نہیں تھی. اس نے احکامات چلائے, داخلی فائلیں, رسائی کی اسناد اور مجموعی اعداد و شمار حاصل کیے, اور فائلیں لکھیں. تاہم, انفرادی مریضوں یا خدمات حاصل کرنے والوں کے ریکارڈ تک رسائی حاصل نہیں کی گئی. ذیل میں ہم اس واقعے کی مزید تفصیل بیان کرتے ہیں.

• NSW Bureau of Crime Statistics and Research (BOCSAR): OpenAI کے ایک ماڈل نے عوامی جرائم کے اعداد و شمار پر تحقیق کرنے کے لیے BOCSAR کے عوامی Crime Mapping Tool تک رسائی حاصل کی. (ذیل میں ہم مزید وضاحت کرتے ہیں کہ ماڈلز معلومات پر تحقیق کے مختلف کام کیوں انجام دیتے ہیں). ماڈل نے عوامی BOCSAR ٹول کے ذریعے API اور ویب سائٹ کے میٹا ڈیٹا کی درخواستیں بھیجیں. یہ ٹول براؤزر کی API درخواستوں کے لیے رسائی کی کریڈنشلز فراہم کرتا ہے. BOCSAR سسٹم نے جواب میں ایپلیکیشن کی کنفیگریشن, آپریشنل جابز اور لاگز, اور ویب سائٹ کا میٹا ڈیٹا فراہم کیا. افراد کے جرائم سے متعلق ریکارڈ تک رسائی حاصل نہیں کی گئی.

• Victorian Department of Health: OpenAI کے ایجنٹس کو ایک ایکسپوزڈ ایکسس کی ملی, جس کے ذریعے انہوں نے Victorian Agency for Health Information کے رپورٹنگ سسٹم سے معلومات طلب کیں اور رپورٹنگ کنفیگریشن اور سروے کے مجموعی اعداد و شمار حاصل کیے. یہ واضح نہیں کہ ان معلومات تک کس حد تک رسائی دستیاب ہونی چاہیے تھی, اور یہ VAHI کی ایکسس پالیسیز پر منحصر ہے. انفرادی طبی ریکارڈ یا ایسے سروے کے جوابات تک رسائی حاصل نہیں کی گئی جن سے کسی شخص کی شناخت ہو سکے.

• Australian Institute of Health and Welfare: OpenAI کے ایجنٹس نے تھرڈ پارٹی ویب براؤزنگ اور ڈاؤن لوڈ سروسز کا استعمال کرتے ہوئے AIHW کی ویب سائٹ سمیت مجموعی اعداد و شمار حاصل کیے, اور چارٹ ڈیٹا کو براہ راست کوئری کیا. رسائی کے کنٹرولز کو بائی پاس کرنے کی الگ الگ کوششیں ناکام رہیں. بظاہر ڈاؤن لوڈ کیا گیا مواد عوامی طور پر دستیاب تھا. سسٹم میں کوئی کمپرو مائز نہیں ہوا. انفرادی طبی ریکارڈز تک رسائی حاصل نہیں کی گئی.

اگست کے وسط میں علم ہوتے ہی ہم نے ان سرگرمیوں کی تحقیقات شروع کر دیں. ہم نے 10 ستمبر کو Services Australia اور Victorian Department of Health کو, اور 18 ستمبر کو NSW Bureau of Crime Statistics and Research کو اطلاع دی. Australian Institute of Health and Welfare سے متعلق سرگرمی ہماری disclosure thresholds پر پوری نہیں اتری, کیونکہ رسائی کا طریقہ عوامی رسائی کے مطابق معلوم ہوتا تھا. اس کے باوجود ہم نے 24 ستمبر کو اپنے نتائج سے آگاہ کرنے اور بریفنگ کی پیشکش کرنے کے لیے ادارے کو اطلاع دی.

ہمارا مقصد یہ تھا کہ اپنی تحقیقات مکمل ہونے کے بعد متاثرہ اداروں کو تفصیلی معلومات دیں. تاہم, ہمیں ابتدائی نتائج پہلے بتا دینے چاہیے تھے اور مزید حقائق سامنے آنے کے ساتھ آسٹریلوی اداروں کو آگاہ کرتے رہنا چاہیے تھا.

تب سے ہم آسٹریلوی سرکاری اداروں کے ساتھ قریبی تعاون کر رہے ہیں, تاکہ اب تک حاصل ہونے والی معلومات ان تک پہنچا سکیں. اگر ہمیں مزید متاثرہ اداروں کا پتا چلتا ہے, تو ہم دستیاب معلومات کے ساتھ انہیں فوراً اور براہ راست مطلع کریں گے, اور مزید حقائق سامنے آنے پر تازہ معلومات دیتے رہیں گے.

جون میں داخلی تربیت اور جانچ کے دوران ہم OpenAI کا ایک تجرباتی ماڈل چلا رہے تھے, جو صرف داخلی استعمال کے لیے تھا اور اسے عوام کے لیے جاری کرنے کا ارادہ نہیں تھا. اس میں وہ تمام حفاظتی انتظامات بھی نہیں تھے جو ہماری عوامی مصنوعات میں استعمال ہوتے ہیں. اس تربیت اور جانچ کے دوران اس نے Services Australia کی Medicare Statistics Reporting Service تک رسائی حاصل کی. اب تک کے ہمارے جائزے میں ایسا کوئی ثبوت نہیں ملا کہ کسی کے طبی ریکارڈ تک رسائی حاصل کی گئی ہو.

اپنے ماڈلز کی داخلی تربیت اور جانچ کے دوران ہم انہیں کئی موضوعات پر محیط تحقیقی سوالات کے ایک وسیع مجموعے سے کام دیتے ہیں. یہ ان تفصیلی سوالات کی نوعیت کی عکاسی کرتے ہیں جو صارفین پوچھ سکتے ہیں. اس سے ماڈل کو عوامی طور پر دستیاب معلومات تلاش کرنے, ان کی تشریح کرنے اور ان کا تجزیہ کرنے کی تربیت ملتی ہے, تاکہ وہ لوگوں کے لیے زیادہ کارآمد ہو سکے. ہمارے ماڈلز کو ان سوالات کے جواب عوامی طور پر شائع شدہ اعداد و شمار کی مدد سے دینے چاہئیں.

اس معاملے میں ماڈل کو دیے گئے کاموں میں سے ایک یہ تحقیق کرنا تھا کہ وکٹوریہ کی کمیونٹیز میں جلد کی بیماریوں کی دواؤں پر حکومت فی کس کتنا خرچ کرتی ہے. ماڈل کو یہ معلومات حاصل کرنے میں دشواری ہوئی, اور اس نے ایسے اقدامات کیے جن کی ہم نے اسے اجازت نہیں دی تھی. Services Australia کی Medicare Statistics Reporting Service پر یہ معلومات تلاش کرتے ہوئے اسے سروس تک ایسی رسائی حاصل کرنے کا طریقہ مل گیا جو عوام کے لیے دستیاب نہیں تھی. پھر اس نے اس رسائی کو استعمال کرتے ہوئے سروس سے متعلق سسٹم کی تکنیکی معلومات اور سورس کوڈ کا جائزہ لیا. اس سب کا مقصد اب بھی وہی معلومات تلاش کرنا تھا جن کی اسے ابتدا میں تلاش تھی. ہمارا ارادہ نہیں تھا کہ ایسی سرگرمی ہو, اور سروس تک یہ رسائی اور اس کے بعد کی سرگرمیاں نہیں ہونی چاہیے تھیں.

Hugging Face واقعے کے بعد, ہم نے اپنے تحقیقی حفاظتی اقدامات مزید مضبوط کیے, جن میں نیٹ ورک پر اضافی پابندیاں اور وسیع تر مانیٹرنگ شامل ہیں. ہم نے ان تحقیقی ماحول میں لائیو انٹرنیٹ تک رسائی کو بلاک کرنے کے لیے کنٹرولز نافذ کیے, جبکہ ویب تک رسائی کی سہولت کیش کیے گئے مواد کے ذریعے فراہم کی گئی. اضافی سیکیورٹی کے طور پر, ہمارے موجودہ مانیٹرنگ سسٹمز اس سرگرمی کا پتا لگا لیتے اور فوری انسانی جائزے کے لیے ہماری ٹیم کو پیج کر دیتے. مثال کے طور پر, جب ایک حالیہ ٹریننگ رن⁠(نئی ونڈو میں کھلتا ہے) کے دوران ایک ماڈل نے لائیو انٹرنیٹ تک رسائی حاصل کی, تو ہماری مانیٹرنگ نے اس سرگرمی کا پتا لگا لیا اور ایک انسانی جائزہ کار کو پیج کر دیا, جس کے بعد ہم نے رن روک دیا. ہم ان حفاظتی اقدامات کی مسلسل جانچ کرتے اور خامیوں کو دور کرتے رہتے ہیں. Hugging Face بدستور ہمارے مشاہدے میں آنے والا سب سے سنگین واقعہ ہے.

لوگ جاننا چاہتے ہیں کہ AI کو محفوظ طریقے سے تیار کیا جا رہا ہے, اور اس کی شروعات ان اقدامات سے ہوتی ہے جو ہماری جیسی کمپنیاں خود کرتی ہیں. ہم نے حال ہی میں بتایا⁠(نئی ونڈو میں کھلتا ہے) کہ ہم نے اپنے سب سے زیادہ قابل ماڈلز کی وہ ٹریننگ اور ایویلیوایشن روک دی ہے جس میں ٹول کا استعمال ہوتا ہے. ہم ان کی ٹریننگ تبھی دوبارہ شروع کریں گے جب ہمیں یقین ہو جائے کہ اضافی حفاظتی اقدامات موجود ہیں, جن پر ہم ابھی کام کر رہے ہیں.

جوں جوں AI سسٹمز مجموعی طور پر زیادہ صلاحیت والے ہوتے جا رہے ہیں, اداروں کو کمزوریاں تلاش کرنے اور دور کرنے میں مدد دینے کے لیے دستیاب وقت بھی کم ہوتا جا رہا ہے. اس کے لیے دنیا بھر میں سائبر تحفظ پر کام کرنے والوں کے ساتھ مل کر اجتماعی اقدام کرنا ضروری ہے.

ہم ٹیکنالوجی, سائبر سیکیورٹی اور اہم بنیادی ڈھانچے کے شعبوں سے تعلق رکھنے والے اداروں کے ساتھ سائبر ڈیفنس کے لیے اجتماعی اقدام کی اپیل میں شامل ہوئے ہیں. اس اپیل کی شروعات ہماری اپنی ذمہ داریوں سے ہوتی ہے, جن میں زیادہ مضبوط حفاظتی انتظامات, بروقت اطلاع دینا اور متاثرہ اداروں کی عملی مدد کرنا شامل ہیں. اس میں ضروری خدمات کی حفاظت کرنے والی ٹیموں پر سرمایہ لگانے کی اپیل بھی کی گئی ہے, تاکہ وہ کمزوریاں تلاش کر سکیں, تصدیق کر سکیں کہ اصلاحات مؤثر ہیں, اور کامیاب طریقے دوسروں کے ساتھ شیئر کر سکیں.

آسٹریلیا میں ہم متاثرہ اداروں کی مدد اور سائبر محافظوں کو ان اصولوں پر عمل کرنے میں تعاون دینے کے لیے وسائل اور مہارت فراہم کرنے کا عہد کر رہے ہیں، اس میں شامل ہیں:

• متاثرہ اداروں کے لیے مخصوص معاونت. ہم متاثرہ اداروں کو یہ سمجھنے میں مدد دینے کے لیے ضروری وسائل فراہم کریں گے کہ کیا ہوا تھا اور اس کے کیا اثرات ہوئے. اس میں متعلقہ تکنیکی نتائج کا اشتراک اور معلومات کے تبادلے کے مناسب انتظامات کے ذریعے ہماری رسپانس ٹیموں کے ساتھ رابطہ قائم کروانا شامل ہے.

• سائبر ڈیفنس مضبوط کرنے کے لیے مالی اور دیگر معاونت. ہم اپنے ایک ارب ڈالر کے Daybreak for Frontline Defenders فنڈ سے کریڈٹس اور تکنیکی معاونت فراہم کرکے آسٹریلوی حکومتوں اور صنعت کی معاونت کریں گے, تاکہ اہم بنیادی ڈھانچے اور دیگر حساس ماحول میں سائبر ڈیفنس مضبوط کیا جا سکے. حکومتوں اور اہم بنیادی ڈھانچے کے آپریٹرز کے ساتھ اپنے تعاون کو آگے بڑھاتے ہوئے, یہ کام اداروں کو تیزی سے زیادہ قابل AI ایجنٹس سے پیدا ہونے والے خطرات کو بہتر طور پر سمجھنے, ان کا پتا لگانے اور ان سے نمٹنے میں مدد دے گا.

• ایک آسٹریلوی خصوصی عملی گروپ. ہم آزاد آسٹریلوی ماہرین کی شمولیت سے ایک خصوصی عملی گروپ قائم کریں گے, جو بڑھتی ہوئی صلاحیتوں والے AI کے ایجنٹوں سے پیدا ہونے والے خطرات کے انتظام کے لیے عملی پالیسی سفارشات تیار کرے گا. ان واقعات سے حاصل ہونے والے اسباق کی بنیاد پر یہ گروپ اطلاع دینے کے طریقۂ کار کو بہتر بنانے, AI تیار کرنے والوں اور حکومت کے درمیان رابطہ مضبوط کرنے, اور سرکاری سسٹمز کی بہتر حفاظت کے اقدامات کی نشاندہی پر توجہ دے گا. اس گروپ کی سفارشات OpenAI کی حکمتِ عملی کی رہنمائی کریں گی اور AI کے تحفظ اور سائبر سیکیورٹی کے سلسلے میں آسٹریلوی حکومتوں کے کام میں مدد دیں گی. توقع ہے کہ یہ گروپ سال کے اختتام تک اپنا کام مکمل کر لے گا. یہ ایسے عملی اقدامات بھی تجویز کرے گا جو AI کی کمپنیاں اس طرح کے واقعات کا خطرہ کم کرنے کے لیے کر سکتی ہیں.

آسٹریلیا کی حکومتیں, صنعتیں اور شہری OpenAI کے لیے بے حد اہم شراکت دار ہیں اور ہمیشہ رہے ہیں. ہم اس شراکت کی قدر کرتے ہیں, اور صورتِ حال کی تلافی کرنے کا ارادہ رکھتے ہیں.

OpenAI کے Chief Strategy Officer, Jason Kwon, منگل 6 اکتوبر کو Sydney میں Joint Select Committee on Artificial Intelligence کے سامنے پیش ہونے کے لیے OpenAI کے US ہیڈکوارٹرز سے آئیں گے. وہ ان سوالات کے جواب دیں گے کہ ہمیں کیا معلوم ہے, ہم نے کیا ردِعمل دیا, ہم نے کون سے اقدامات کیے ہیں اور آئندہ ہم اپنی کارکردگی کو کیسے بہتر بنائیں گے.

ہم متاثرہ اداروں اور متعلقہ حکومتوں کے ساتھ تصدیق شدہ نتائج کا اشتراک جاری رکھیں گے. ہم اپنے جاری جائزے اور ان وعدوں پر عمل درآمد میں پیش رفت کے بارے میں تازہ معلومات شائع کریں گے. ہم جانتے ہیں کہ اعتماد بحال کرنے کے لیے ہمیں ابھی بہت کام کرنا ہے. آسٹریلوی عوام کو یہ دکھانا ہماری ذمہ داری ہے کہ ہم بامعنی تبدیلیاں لا رہے ہیں اور اپنے وعدے پورے کر رہے ہیں.