OpenAI کے نظاموں میں کمزوریاں تلاش کرنے کے لیے ہیکٹرون سے شراکت
آج ہم OpenAI کے نظاموں میں حفاظتی کمزوریاں تلاش کرنے کے لیے ہیکٹرون کے ساتھ شراکت کا اعلان کر رہے ہیں. ہمارے انجینئر اور ہیکٹرون کے سلامتی کے محققین مل کر جانچ کے لیے اہم ترین شعبوں کا انتخاب کریں گے. خاص توجہ اس بات پر ہوگی کہ ہمارے نظام تیسرے فریق کی خدمات کے ساتھ کس طرح کام کرتے ہیں. اس شراکت کے تحت ہم ڈے بریک ریڈ کے ذریعے اپنے جدید ترین ماڈلز تک ہیکٹرون کی رسائی بڑھا رہے ہیں.
جدید ترین AI کی مدد سے سائبر دفاع کو تیز کرنے کے ساتھ ساتھ، ہم اپنے نظاموں میں کمزوریاں تلاش کرنے اور انہیں دور کرنے کے لیے بھی اتنی ہی تیزی سے کام کر رہے ہیں. اس ہفتے کے آغاز میں ہم نے اعلان کیا تھا کہ کیتھیڈرل کے محققین سلامتی کی ہماری اگلی مختصر، تیز رفتار مہم میں ہماری ٹیموں کے ساتھ کام کریں گے. ہم نے نقائص دریافت کرنے پر دیے جانے والے انعامات بھی بڑھا دیے ہیں تاکہ آزاد محققین کو ایسی کمزوریاں تلاش کرنے کی مزید ترغیب ملے جو ہماری اپنی جانچ میں نظرانداز ہو گئی ہوں.
ہیکٹرون سے ہمارا تعارف حفاظتی نقائص کی نشاندہی پر انعام دینے کے ہمارے پروگرام کے ذریعے ہوا. اس کے محققین نے جن کمزوریوں کو دریافت کرکے ہمیں مطلع کیا، ہم ان کی اثرانگیزی سے متاثر ہوئے. یہ ٹیم کوڈ کے جائزے، نظام میں نقب لگا کر جانچ کرنے اور ریڈ ٹیمنگ کے لیے AI ایجنٹ بناتی ہے. ان کی تحقیق(نئی ونڈو میں کھلتا ہے) نے ان طریقوں میں کمزوریاں دریافت کی ہیں جن کے ذریعے اطلاقیے، کلاؤڈ کا بنیادی ڈھانچہ اور شناختی نظام ایک دوسرے کے ساتھ کام کرتے ہیں. ان کا کام دکھاتا ہے کہ جب سلامتی کے انجینئر AI کو بنیاد بنا کر حل تیار کرتے ہیں تو وہ کس طرح زیادہ تیزی سے کام کر سکتے ہیں اور تحقیق کے زیادہ بلند اہداف حاصل کر سکتے ہیں.
جیسے جیسے AI ایجنٹ خدمات کو نئے طریقوں سے آپس میں جوڑتے ہیں، ان مہارتوں کا امتزاج مزید اہم ہوتا جاتا ہے. ہیکٹرون کے ساتھ کام کرنے سے ہمیں ان روابط کی زیادہ گہرائی سے جانچ کرنے اور حاصل شدہ معلومات کی مدد سے اپنا دفاع مضبوط بنانے میں مدد ملے گی.
ہم ہیکٹرون اور دیگر آزاد محققین کے شکرگزار ہیں جو کمزوریاں تلاش کرنے اور ان کی اطلاع دینے میں وقت صرف کرتے ہیں، تاکہ ہمارے تمام صارفین کو تحفظ دینے والے انتظامات مزید مضبوط ہوں. یہ جاننے کے لیے کہ کون سے نظام اس پروگرام کے دائرے میں آتے ہیں، یا کسی دریافت کی اطلاع دینے کے لیے، ہمارا حفاظتی نقائص کی نشاندہی پر انعام دینے کا پروگرام(نئی ونڈو میں کھلتا ہے) دیکھیں.
