جیسے جیسے AI سسٹمز زیادہ پیچیدہ کام سنبھالتے ہیں—خاص طور پر وہ جو ویب اور کنیکٹڈ ایپس سے متعلق ہوتے ہیں—سیکیورٹی کے خطرات بدل جاتے ہیں۔
ایک ابھرتا ہوا خطرہ خاص طور پر اہم ہو گیا ہے: پرومپٹ انجیکشن. ان حملوں میں کوئی تیسرا فریق مکالماتی اے آئی نظام کو گمراہ کرنے کی کوشش کرتا ہے تاکہ وہ نقصان دہ ہدایات پر عمل کرے یا حساس معلومات ظاہر کرے۔
آج ہم دو نئے حفاظتی اقدامات متعارف کرا رہے ہیں جو صارفین اور اداروں کو پرومپٹ انجیکشن حملوں کے خطرات کم کرنے میں مدد دیں گے، زیادہ واضح رسک ویژیبِلٹی اور مضبوط کنٹرولز کے ساتھ:
- لاک ڈاؤن موڈ ChatGPT میں، زیادہ خطرے والے صارفین کے لیے ایک جدید، اختیاری سیکیورٹی سیٹنگ۔
- “زیادہ خطرہ” کے لیبلز کچھ صلاحیتوں کے لیے جو ChatGPT، ChatGPT Atlas، اور Codex میں اضافی خطرہ پیدا کر سکتے ہیں
یہ اضافے ماڈل، پروڈکٹ، اور سسٹم کی سطحوں پر ہمارے حفاظتی اقدامات کو مزید مضبوط کرتے ہیں۔ اس میں سینڈ باکسنگ، URL پر مبنی ڈیٹا کے اخراج کے خلاف تحفظات، نگرانی اور نفاذ، رول بیسڈ ایکسیس کے اختیارات اور آڈٹ لاگز جیسے انٹرپرائز کنٹرولز شامل ہیں۔
لاک ڈاؤن موڈ ایک اختیاری، جدید سیکیورٹی سیٹنگ ہے جو انتہائی سیکیورٹی کا خیال رکھنے والے صارفین کے ایک محدود گروپ کے لیے ڈیزائن کی گئی ہے، جیسے کہ نمایاں تنظیموں میں ایگزیکٹوز یا سیکیورٹی ٹیمیں، جنہیں جدید خطرات کے خلاف اضافی تحفظ کی ضرورت ہوتی ہے۔ یہ زیادہ تر صارفین کے لیے ضروری نہیں ہے۔ لاک ڈاؤن موڈ سختی سے اس بات کو محدود کرتا ہے کہ ChatGPT بیرونی سسٹمز کے ساتھ کس طرح تعامل کر سکتا ہے تاکہ پرومپٹ انجیکشن پر مبنی ڈیٹا کے اخراج کے خطرے کو کم کیا جا سکے۔
لاک ڈاؤن موڈ ChatGPT میں بعض ٹولز اور صلاحیتوں کو قطعی طور پر غیر فعال کر دیتا ہے جنہیں کوئی مخالف فریق پرومپٹ انجیکشن جیسے حملوں کے ذریعے صارفین کی گفتگو یا منسلک ایپس سے حساس ڈیٹا نکالنے کے لیے استعمال کر سکتا ہے۔
مثال کے طور پر، لاک ڈاؤن موڈ میں ویب براؤزنگ صرف کیش شدہ (cached) مواد تک محدود ہوتی ہے، اس لیے کوئی بھی لائیو نیٹ ورک درخواست OpenAI کے کنٹرول شدہ نیٹ ورک سے باہر نہیں جاتی۔ یہ پابندی اس لیے بنائی گئی ہے کہ براؤزنگ کے ذریعے حساس ڈیٹا کو کسی حملہ آور (اٹیکر) تک پہنچنے سے روکا جا سکے۔ جب ہم ڈیٹا کی حفاظت کی تعیّن شدہ اور یقینی ضمانتیں فراہم نہیں کر سکتے تو کچھ خصوصیات مکمل طور پر غیر فعال کر دی جاتی ہیں۔
لاک ڈاؤن موڈ ایک نیا تعیُّنی موڈ ہے جو اس بات کو یقینی بنانے میں مدد دیتا ہے کہ ڈیٹا غیر ارادی طور پر تیسرے فریق کے ساتھ شیئر نہ ہو۔ یہ ChatGPT کے بعض بیرونی نظاموں کے ساتھ تعامل کو سختی سے محدود کر کے ڈیٹا کے تحفظ کو مضبوط بناتا ہے۔
ChatGPT کے بزنس پلانز پہلے ہی انٹرپرائز گریڈ ڈیٹا سیکیورٹی فراہم کرتے ہیں۔ لاک ڈاؤن موڈ ان تحفظات پر مبنی ہے اور ChatGPT Enterprise، ChatGPT Edu، ChatGPT for Healthcare، اور ChatGPT for Teachers کے لیے دستیاب ہے۔ ایڈمنز اسے ورک اسپیس سیٹنگز(نئی ونڈو میں کھلتا ہے) میں ایک نیا رول(نئی ونڈو میں کھلتا ہے) بنا کر فعال کر سکتے ہیں۔ فعال ہونے پر لاک ڈاؤن موڈ موجودہ ایڈمن سیٹنگز پر اضافی پابندیاں عائد کرتا ہے۔
ہمارے ہیلپ سینٹر(نئی ونڈو میں کھلتا ہے) میں لاک ڈاؤن موڈ کے بارے میں مزید معلومات حاصل کریں۔
چونکہ بعض اہم ورک فلو ایپس پر انحصار کرتے ہیں، اس لیے ورک اسپیس ایڈمنز کے پاس زیادہ دقیق کنٹرولز برقرار رہتے ہیں۔ وہ بالکل واضح طور پر یہ منتخب کر سکتے ہیں کہ کون سی ایپس — اور ان ایپس کے اندر کون سے مخصوص ایکشنز — لاک ڈاؤن موڈ میں صارفین کے لیے دستیاب ہوں گے۔ مزید برآں، اور لاک ڈاؤن موڈ سے الگ، کمپلائنس API لاگز پلیٹ فارم(نئی ونڈو میں کھلتا ہے) ایپ کے استعمال، شیئر کیے گئے ڈیٹا، اور منسلک ذرائع کے بارے میں تفصیلی شفافیت فراہم کرتا ہے، جس سے منتظمین کو نگرانی برقرار رکھنے میں مدد ملتی ہے.
ہم آنے والے مہینوں میں Lockdown Mode کو صارفین کے لیے دستیاب کرنے کا ارادہ رکھتے ہیں۔
AI پروڈکٹس آپ کی ایپس اور ویب سے منسلک ہونے پر زیادہ مددگار ثابت ہو سکتے ہیں، اور ہم نے منسلک ڈیٹا کو محفوظ رکھنے میں بھاری سرمایہ کاری کی ہے۔ اسی وقت، نیٹ ورک سے متعلق بعض صلاحیتیں ایسے نئے خطرات بھی متعارف کراتی ہیں جن کا صنعت کی موجودہ حفاظتی اور سیکیورٹی تدابیر کے ذریعے ابھی مکمل طور پر تدارک نہیں ہو سکا۔ کچھ صارفین ان خطرات کو قبول کرنے میں خود کو مطمئن محسوس کر سکتے ہیں، اور ہمارا ماننا ہے کہ صارفین کو یہ اختیار حاصل ہونا چاہیے کہ وہ خاص طور پر اپنے نجی ڈیٹا کے ساتھ کام کرتے وقت یہ طے کریں کہ ان صلاحیتوں کو استعمال کرنا ہے یا کیسے استعمال کرنا ہے۔
ہمارا طریقۂ کار یہ رہا ہے کہ اُن فیچرز کے لیے پروڈکٹ کے اندر ہی رہنمائی فراہم کی جائے جو اضافی خطرات پیدا کر سکتے ہیں۔ اسے مزید واضح اور مستقل بنانے کے لیے، ہم موجودہ صلاحیتوں کی مختصر فہرست کو لیبل کرنے کے طریقے کو معیاری بنا رہے ہیں۔ اب ان خصوصیات پر ChatGPT، ChatGPT Atlas، اور Codex میں ایک مستقل “Elevated Risk” (بڑھا ہوا خطرہ) لیبل استعمال کیا جائے گا، تاکہ صارفین جہاں بھی انہیں دیکھیں، انہیں ایک جیسی رہنمائی ملے۔
مثال کے طور پر، Codex میں، جو ہمارا کوڈنگ اسسٹنٹ ہے، ڈویلپرز Codex کو نیٹ ورک تک رسائی دینے کا اختیار دے سکتے ہیں تاکہ وہ ویب پر ایسے اقدامات کر سکے جیسے ڈاکومنٹیشن تلاش کرنا۔ متعلقہ سیٹنگز اسکرین میں “Elevated Risk” لیبل شامل ہے، ساتھ ہی اس کی واضح وضاحت بھی موجود ہے کہ کیا تبدیلیاں آتی ہیں، کون سے خطرات متعارف ہو سکتے ہیں، اور وہ ایکسیس کب مناسب ہے۔
Codex کی سیٹنگز اسکرین کا ایک اسکرین شاٹ جہاں صارفین یہ سیٹنگ کر سکتے ہیں کہ Codex کو نیٹ ورک تک کس قسم کی رسائی حاصل ہو۔
ہم اپنی سیفٹی اور سیکیورٹی کے حفاظتی اقدامات کو مزید مضبوط بنانے میں سرمایہ کاری جاری رکھے ہوئے ہیں، خاص طور پر نئے، ابھرتے ہوئے، یا بڑھتے ہوئے خطرات کے لیے۔ جیسے جیسے ہم ان فیچرز کے لیے حفاظتی اقدامات کو مضبوط بناتے جائیں گے، ہم “Elevated Risk” لیبل کو اس وقت ہٹا دیں گے جب یہ یقینی ہو جائے کہ سیکیورٹی میں ہونے والی پیش رفت نے عمومی استعمال کے لیے ان خطرات کو مؤثر طور پر کم کر دیا ہے۔ ہم وقت کے ساتھ یہ بھی اپ ڈیٹ کرتے رہیں گے کہ کون سی خصوصیات پر یہ لیبل موجود ہے تاکہ صارفین کو خطرے سے بہترین طور پر آگاہ کیا جا سکے۔
مصنف
پڑھتے رہیں
