OpenAI کی جانب سے Promptfoo کا حصول
OpenAI فرنٹیئر میں ایجنٹک سیکیورٹی ٹیسٹنگ اور تشخیص کی صلاحیتوں کو تیز کرنا
ہم Promptfoo کو حاصل کر رہے ہیں، جو ایک AI سیکیورٹی پلیٹ فارم ہے اور انٹرپرائزز کو ڈیولپمنٹ کے دوران AI سسٹمز میں کمزوریوں کی شناخت کرنے اور ان کا ازالہ کرنے میں مدد دیتا ہے. جب حصولِ ملکیت حتمی ہو جائے گا تو ہم Promptfoo کی ٹیکنالوجی کو براہِ راست OpenAI فرنٹیئر، AI رفقاء کار بنانے اور آپریٹ کرنے کے لیے اپنے پلیٹ فارم میں ضم کر دیں گے.
جیسے جیسے انٹرپرائزز حقیقی ورک فلو میں AI رفقاء کار کو تعینات کرتے ہیں، تشخیص، سیکیورٹی، اور تعمیل بنیادی تقاضے بن جاتے ہیں. کاروباری اداروں کو ایجنٹ کے رویّے کی جانچ کرنے، تعیناتی سے پہلے خطرات کا سراغ لگانے اور وقت کے ساتھ نگرانی، گورننس اور جوابدہی کی معاونت کے لیے واضح ریکارڈ برقرار رکھنے کے لیے منظم طریقوں کی ضرورت ہے.
Promptfoo ٹیم، جس کی قیادت Ian Webster اور Michael D’Angelo کر رہے ہیں، نے ٹولز کا ایک طاقتور مجموعہ تیار کیا ہے جس پر Fortune 500 کمپنیوں میں سے 25 فیصد سے زیادہ اعتماد کرتی ہیں، اس کے ساتھ LLM ایپلیکیشنز کی جانچ اور ریڈ ٹیمنگ کے لیے ایک وسیع پیمانے پر استعمال ہونے والا اوپن سورس(نئی ونڈو میں کھلتا ہے) CLI اور لائبریری بھی شامل ہے. مل کر، ہم اوپن سورس پروجیکٹ کو بنانا جاری رکھیں گے جبکہ فرنٹیئر کے اندر مربوط انٹرپرائز صلاحیتوں کو بھی آگے بڑھاتے رہیں گے.
"Promptfoo انٹرپرائز پیمانے پر AI سسٹمز کی جانچ، سیکیورٹی کو یقینی بنانے، اور ٹیسٹنگ میں گہری انجینئرنگ مہارت لاتا ہے. ان کا کام کاروباروں کو محفوظ اور قابلِ اعتماد AI ایپلیکیشنز تعینات کرنے میں مدد دیتا ہے اور ہم ان صلاحیتوں کو براہ راست فرنٹیئر میں لانے کے لیے پُرجوش ہیں."
ہم فرنٹیئر پر ایجنٹس بنانے والے انٹرپرائزز کے لیے کئی بنیادی صلاحیتوں پر تعمیر کریں گے:
- پلیٹ فارم میں شامل سیکیورٹی اور سیفٹی ٹیسٹنگ: خودکار سیکیورٹی ٹیسٹنگ اور ریڈ ٹیمنگ کی صلاحیتیں فرنٹیئر پلیٹ فارم کا ایک مقامی حصہ بن جائیں گی، جس سے انٹرپرائزز کو پرومپٹ انجیکشن، جیل بریکس، ڈیٹا لیکس، ٹول کے غلط استعمال، اور پالیسی سے ہٹ کر ایجنٹ کے رویّوں جیسے خطرات کی شناخت اور ان کا تدارک کرنے میں مدد ملے گی.
- ڈیویلپمنٹ ورک فلو میں سیکیورٹی اور ایویلیوایشن کا انضمام: فرنٹیئر ان ورک فلو کے ساتھ گہرائی سے ضم ہو جائے گا جو ایجنٹ کے خطرات کی پہلے شناخت، تفتیش، اور تدارک کے لیے درکار ہیں، جس سے سیکیورٹی اس بات کا بنیادی حصہ بن جائے گی کہ انٹرپرائز AI سسٹمز کیسے تیار اور آپریٹ کیے جاتے ہیں.
- نگرانی اور جوابدہی: مربوط رپورٹنگ اور سراغ رسانی تنظیموں کو ٹیسٹنگ کی دستاویز بندی کرنے، وقت کے ساتھ تبدیلیوں کی نگرانی کرنے اور AI کے لیے گورننس، خطرہ، اور تعمیل کی بڑھتی ہوئی توقعات پوری کرنے میں مدد کریں گی.
"ہم نے Promptfoo اس لیے شروع کیا کیونکہ ڈویلپرز کو AI سسٹمز کو محفوظ بنانے کے لیے ایک عملی طریقے کی ضرورت تھی. جیسے جیسے AI ایجنٹس حقیقی ڈیٹا اور سسٹمز کے ساتھ زیادہ منسلک ہوتے جاتے ہیں، انہیں محفوظ بنانا اور ان کی توثیق کرنا پہلے سے کہیں زیادہ چیلنجنگ اور اہم ہو جاتا ہے. OpenAI میں شامل ہونا ہمیں اس کام کو تیز کرنے کے قابل بناتا ہے، جس سے حقیقی دنیا کے AI سسٹمز بنانے والی ٹیموں کو زیادہ مضبوط سیکیورٹی، حفاظت، اور گورننس کی صلاحیتیں فراہم ہوتی ہیں."
ہم Promptfoo ٹیم کا خیرمقدم کرنے اور ان ٹولز کی تعمیر جاری رکھنے کے لیے پُرجوش ہیں جن کی کمپنیوں کو محفوظ، قابلِ اعتماد AI تعینات کرنے کے لیے ضرورت ہے.
حصول کے اختتام کا انحصار روایتی اختتامی شرائط پر ہے.
