آج، OpenAI ایک عوامی سیفٹی بگ باؤنٹی(نئی ونڈو میں کھلتا ہے) پروگرام شروع کر رہا ہے، جو ہماری پروڈکٹس میں AI کے غلط استعمال اور سیفٹی کے خطرات کی نشاندہی پر مرکوز ہے. جیسے جیسے AI ٹیکنالوجی تیزی سے ترقی کرتی ہے، اس کے غلط استعمال کے ممکنہ طریقے بھی بڑھتے جاتے ہیں. ہمارا مقصد یہ ہے کہ ہم یقینی بنائیں کہ ہمارے سسٹمز غلط استعمال یا بیجا استعمال کے خلاف محفوظ رہیں، جو ٹھوس نقصان کا باعث بن سکتی ہے.
یہ نیا پروگرام OpenAI کے سیکیورٹی بگ باؤنٹی پروگرام(نئی ونڈو میں کھلتا ہے) کی تکمیل کرے گا اور ایسے مسائل بھی قبول کرے گا جو غلط استعمال اور حفاظت کے حوالے سے معنی خیز خطرات پیدا کرتے ہوں، چاہے وہ سیکیورٹی کمزوری کے معیار پر پورا نہ بھی اترتے ہوں. اس پروگرام کے ذریعے، ہم حفاظت اور سیکورٹی کے محققین کے ساتھ شراکت داری جاری رکھنے کے منتظر ہیں تاکہ ہمیں ایسے مسائل کی نشاندہی اور ان سے نمٹنے میں مدد ملے جو روایتی سیکورٹی کے خطرات سے باہر ہیں لیکن پھر بھی حقیقی خطرات لاحق ہیں۔ جمع کرائی گئی گذارشات کی OpenAI کی سیفٹی اور سیکیورٹی بگ باؤنٹی ٹیمیں ٹرائیج کریں گی، اور دائرۂ کار اور اونرشپ کے مطابق انہیں دونوں پروگراموں کے درمیان منتقل بھی کیا جا سکتا ہے.
نیا سیفٹی بگ باؤنٹی(نئی ونڈو میں کھلتا ہے) پروگرام ذیل میں درج AI سے متعلق حفاظتی منظرناموں پر مرکوز ہے:
ایجنٹک خطرات بشمول MCP
- تیسرے فریق کی جانب سے پرومپٹ انجیکشن اور ڈیٹا کے اخراج: جب حملہ آور کا متن قابلِ اعتماد طور پر کسی متاثرہ کے ایجنٹ (بشمول براؤزر، ChatGPT ایجنٹ، اور اسی نوعیت کے دیگر ایجنٹک مصنوعات) کو اپنے قابو میں لے کر اسے نقصان دہ کارروائی یا کام سرانجام دینے یا صارف کی حساس معلومات افشا کرنے پر دھوکا دینے کے قابل ہو. یہ رویہ کم از کم 50% مواقع پر دوبارہ پیدا کیا جا سکے.
- ایک ایجنٹک OpenAI پروڈکٹ OpenAI کی ویب سائٹ پر بڑے پیمانے پر ایک غیر مجاز کارروائی انجام دیتا ہے.
- OpenAI کی ایک ایجنٹک پروڈکٹ کوئی ایسی ممکنہ طور پر نقصان دہ کارروائی انجام دیتی ہے جو اوپر درج نہیں کی گئی ہے. یہاں قابلِ قبول رپورٹس میں ممکنہ اور ٹھوس نقصان کی نشاندہی ہونی چاہیے.
- MCP خطرے کے لیے کی جانے والی کسی بھی ٹیسٹنگ کو کسی بھی تیسرے فریق کی سروس کی شرائط کی تعمیل کرنی چاہیے.
OpenAI کی ملکیتی معلومات
- ایسے ماڈل آؤٹ پٹس جو ریزننگ سے متعلق ملکیتی معلومات واپس کرتے ہیں.
- کمزوریاں جو OpenAI کی دیگر ملکیتی معلومات کو ظاہر کرتی ہیں.
اکاؤنٹ اور پلیٹ فارم کی سالمیت
- اکاؤنٹ کی سالمیت اور پلیٹ فارم کی سالمیت کے اشاروں میں کمزوریاں، جیسے خودکاری مخالف کنٹرولز کو بائی پاس کرنا، اکاؤنٹ کے قابلِ اعتماد اشاروں میں ہیر پھیر کرنا، اکاؤنٹ پر عائد پابندیوں/معطلیوں/بینز سے بچ نکلنا اور اسی نوعیت کے دیگر مسائل.
- ایسے مسائل جو صارفین کو مجاز اجازتوں سے بڑھ کر خصوصیات، ڈیٹا، یا فعالیتوں تک رسائی کی اجازت دیتے ہیں، ان کی رپورٹ سیکیورٹی بگ باؤنٹی(نئی ونڈو میں کھلتا ہے) کو کی جانی چاہیے.
اگرچہ جیل بریک اس پروگرام کے دائرۂ کار میں شامل نہیں ہیں، ہم وقتاً فوقتاً بعض نقصان کی اقسام پر مرکوز نجی بگ باؤنٹی مہمات چلاتے ہیں، جیسے ChatGPT ایجنٹ اور GPT‑5 میں حیاتیاتی خطرات سے متعلق مواد کے مسائل. ہم دلچسپی رکھنے والے محققین کو دعوت دیتے ہیں کہ وہ ان پروگرامز کے لیے درخواست دیں جب بھی یہ سامنے آئیں.
اوپر درج زمروں کے علاوہ، اگر محققین ایسی خامیوں کی نشاندہی کریں جو صارف کو براہِ راست نقصان پہنچانے کے راستے فراہم کریں اور جن کے لیے قابلِ عمل، مخصوص تدارکی اقدامات موجود ہوں، تو ہر کیس کی بنیاد پر انہیں انعامات کے لیے دائرۂ کار میں شامل سمجھا جا سکتا ہے. مواد کی پالیسی کو بائی پاس کرنے کے عمومی طریقے—اگر ان کے حفاظتی یا بدسلوکی سے متعلق اثرات واضح طور پر ثابت نہ ہوں—اس پروگرام کے دائرۂ کار سے باہر ہیں. مثال کے طور پر، ایسے "جیل بریکس" جن کے نتیجے میں ماڈل غیر شائستہ زبان استعمال کرے یا ایسی معلومات واپس کرے جو سرچ انجنوں کے ذریعے آسانی سے مل سکتی ہیں، دائرۂ کار سے باہر ہیں.
شرکت میں دلچسپی رکھنے والے محققین ہمارے سیفٹی بگ باؤنٹی(نئی ونڈو میں کھلتا ہے) پروگرام کے ذریعے درخواست دے سکتے ہیں. ہم ایک محفوظ AI ایکو سسٹم کے حصول کے لیے محققین، اخلاقی ہیکرز اور حفاظتی و سیکیورٹی کمیونٹی کے ساتھ مل کر کام کرنے کے منتظر ہیں.
