OpenAI کے بہترین ماڈل کے ساتھ SafetyKit رسک ایجنٹس اسکیل کرتا ہے.

SafetyKit⁠(نئی ونڈو میں کھلتا ہے) ملٹی موڈل AI ایجنٹس تیار کرتا ہے تاکہ مارکیٹ پلیسز، ادائیگی کے پلیٹ فارمز اور فن ٹیکس کو متن، تصاویر، مالیاتی لین دین، پروڈکٹ لسٹنگز اور مزید میں فراڈ اور ممنوعہ سرگرمیوں کا پتا لگانے اور ان پر کارروائی کرنے میں مدد ملے. ماڈل ریزننگ اور ملٹی موڈل فہم میں حالیہ پیش رفت اب اسے زیادہ مؤثر بناتی ہے اور رسک، کمپلائنس اور سیفٹی آپریشنز کے لیے ایک نیا معیار قائم کرتی ہے.

SafetyKit کے ایجنٹس GPT‑5، GPT‑4.1، ڈیپ ریسرچ اور کمپیوٹر یوزنگ ایجنٹ (CUA) کا استعمال کرتے ہوئے SafetyKit کی تشخیصات کی بنیاد پر 100% کسٹمر مواد کا 95% سے زیادہ درستگی کے ساتھ جائزہ لیتے ہیں. وہ پلیٹ فارمز کو صارفین کے تحفظ میں مدد دے سکتے ہیں، فراڈ کو روک سکتے، ریگولیٹری جرمانوں سے بچا سکتے اور ایسی پیچیدہ پالیسیوں کو نافذ کر سکتے جنہیں پرانے نظام نظر انداز کر سکتے ہیں، جیسے کہ علاقہ مخصوص قواعد، دھوکہ دہی والی تصاویر میں شامل فون نمبر، یا واضح مواد. خودکاری انسانی ماڈریٹرز کو ناگوار مواد کا سامنا کرنے سے بھی محفوظ رکھ سکتی ہے اور انہیں پالیسی سے متعلق باریک فیصلوں کو سنبھالنے کی آزادی دیتی ہے.

SafetyKit کے ایجنٹس میں سے ہر ایک کو خطرے کے ایک مخصوص زمرے کو سنبھالنے کے لیے بنایا گیا ہے، دھوکہ دہی سے لے کر غیر قانونی مصنوعات تک. مواد کے ہر حصے کو اس خلاف ورزی کے لیے سب سے موزوں ایجنٹ تک پہنچایا جاتا ہے، جس کے لیے بہترین OpenAI ماڈل استعمال کیا جاتا ہے.

• GPT‑5 متن، تصاویر اور UI میں ملٹی موڈل ریزننگ کا اطلاق کرتا ہے تاکہ پوشیدہ خطرات کو سامنے لایا جا سکے اور درجہ بہ درجہ اور عین مطابق فیصلہ سازی میں مدد فراہم کی جا سکے.
• GPT‑4.1 قابلِ اعتماد طریقے سے تفصیلی مواد کی پالیسی کی ہدایات پر عمل کرتا ہے اور اعلٰی حجم کے اعتدال کاری کے ورک فلو کو مؤثر انداز میں سنبھالتا ہے.
• ری اِنفورسمنٹ فائن-ٹیوننگ (RFT) ریکال اور پریسیژن کو ڈیفالٹ ماڈلز سے آگے بڑھاتی ہے اور پیچیدہ حفاظتی پالیسیوں کے ساتھ جدید ترین کارکردگی حاصل کرتی ہے
• ڈیپ ریسرچ مرچنٹس کے جائزوں اور تصدیقات میں حقیقی وقت کی آن لائن تحقیق کو ضم کرتی ہے
• کمپیوٹر یوزنگ ایجنٹ (CUA) پیچیدہ پالیسی ٹاسکس کو خودکار بناتا ہے، جس سے مہنگے دستی جائزوں پر انحصار کم ہو جاتا ہے.

یہ ماڈل-میچنگ طریقہ SafetyKit کو لیگیسی حلوں کے مقابلے میں زیادہ باریکی اور درستگی کے ساتھ مختلف موڈیلیٹیز میں مواد کے جائزے کو وسعت دینے کے قابل بناتا ہے.

مثال کے طور پر، اسکیم ڈٹیکشن ایجنٹ محض متن کو اسکین کرنے سے آگے بڑھنا. یہ پروڈکٹ کی تصاویر میں شامل بصری عناصر، جیسے QR کوڈز یا فون نمبرز، کا تجزیہ کرتا ہے. GPT‑4.1 اسے تصویر کا تجزیہ کرنے، لے آؤٹ کو سمجھنے اور یہ فیصلہ کرنے میں مدد کرتا ہے کہ آیا یہ پالیسی کی خلاف ورزی ہے.

پالیسی ڈسکلوزر ایجنٹ مطلوبہ زبان، جیسے قانونی دستبرداریوں یا علاقے کے لحاظ سے مخصوص تعمیلی انتباہات، کے لیے لسٹنگز یا لینڈنگ پیجز کی جانچ کرتا ہے. GPT‑4.1 متعلقہ حصے اخذ کرتا ہے، GPT‑5 تعمیل کا جائزہ لیتا ہے اور ایجنٹ خلاف ورزیوں کو نشان زد کرتا ہے.

ہم اپنے ایجنٹس کو مخصوص مقصد کے لیے تیار کردہ ورک فلو کے طور پر دیکھتے ہیں،" گرونکے کا کہنا ہے. "کچھ ٹاسک کے لیے گہری ریزننگ درکار ہوتی ہے، جبکہ دوسروں کو ملٹی موڈل کانٹیکسٹ کی ضرورت ہوتی ہے. OpenAI ہی واحد اسٹیک ہے جو دونوں میں قابل اعتماد کارکردگی فراہم کرتا ہے.

پالیسی سے متعلق فیصلے اکثر باریک فرق پر منحصر ہوتے ہیں. ایک ایسی مارکیٹ پلیس کو لیجیے جہاں فروخت کنندگان کے لیے صحت و تندرستی سے متعلق مصنوعات پر دستبرداری کا نوٹس شامل کرنا لازم ہو اور یہ تقاضے پروڈکٹ کے دعووں اور علاقائی قواعد کے لحاظ سے مختلف ہوتے ہوں. لیگیسی فراہم کنندگان کلیدی لفظی ٹرگرز یا سخت اصولی مجموعے استعمال کرتے ہیں، جو ان فیصلوں کے لیے درکار زیادہ گہری فیصلہ سازی سے چوک سکتے ہیں، جس کے نتیجے میں نفاذ چھوٹ سکتا ہے یا غلط ہو سکتا ہے.

SafetyKit کا پالیسی ڈسکلوزر ایجنٹ پہلے SafetyKit کی اندرونی لائبریری سے پالیسیوں کا حوالہ دیتا ہے، پھر GPT‑5 مواد کا جائزہ لیتا ہے: کیا اس میں علاج یا روک تھام کا ذکر ہے؟ کیا یہ ایسے علاقے میں فروخت ہو رہا ہے جہاں انکشاف لازمی ہے؟ اور اگر ایسا ہے، تو کیا مطلوبہ زبان واقعی فہرست میں شامل ہے؟ اگر کسی چیز میں کمی رہ جائے، تو GPT‑5 ایک اسٹرکچرڈ آؤٹ پٹس واپس کرتا ہے جسے ایجنٹ مسئلے کی نشاندہی کے لیے استعمال کرتا ہے.

"GPT‑5 کی طاقت اس بات میں ہے کہ جب اسے حقیقی پالیسی کی بنیاد حاصل ہو تو وہ کتنی درستگی کے ساتھ استدلال کر سکتا ہے،" گرونکے کا کہنا ہے. "یہ ہمیں اُن خاص صورتوں میں بھی درست، قابلِ دفاع فیصلے کرنے کے قابل بناتا ہے جہاں دوسرے سسٹمز ناکام ہو جاتے ہیں."

SafetyKit ہر نئے OpenAI ماڈل کو اس کے مشکل ترین کیسز کے مقابلے میں بینچ مارک کرتا ہے اور اکثر بہترین کارکردگی دکھانے والے ماڈلز کو اسی دن نافذ کر دیتا ہے. سخت اندرونی جائزے ٹیم کو تیزی سے یہ شناخت کرنے کی اجازت دیتے ہیں کہ نئے ماڈل کس طرح کارکردگی بہتر بنا سکتے ہیں اور ان کے بنیادی انفراسٹرکچر میں بغیر رکاوٹ انضمام ہو سکتے ہیں.

جب OpenAI o3 لانچ ہوا، تو SafetyKit نے اسے اہم پالیسی شعبوں میں ایج کیس کارکردگی کو بہتر بنانے کے لیے استعمال کیا. GPT‑5 اس کے بعد آیا اور چند ہی دنوں میں اسے ان کے سب سے زیادہ مطالبہ کرنے والے ایجنٹس میں تعینات کر دیا گیا، جس نے ان کے مشکل ترین وژن ٹاسکس پر بینچ مارک اسکورز کو 10 پوائنٹس سے زیادہ بہتر بنا دیا.

SafetyKit بہتریوں کو واپس ایکوسسٹم میں شامل کرتا ہے، تشخیص کے نتائج، غیر معمولی صورتوں میں ناکامیوں اور پالیسی سے متعلق بصیرتیں براہ راست OpenAI کے ساتھ شیئر کرتا ہے تاکہ حفاظت کے لیے اہم ورک لوڈز کے لیے مستقبل میں ماڈل کی کارکردگی کو بہتر بنایا جا سکے.

SafetyKit کا فن تعمیر بڑے پیمانے پر پالیسی کو نافذ کرتا ہے، رفتار، درستگی اور خطرات کی جامع کوریج فراہم کرتا ہے. پسِ پردہ، یہ اب روزانہ 16 ارب سے زیادہ ٹوکن ہینڈل کرتا ہے، جو چھ ماہ پہلے 200 ملین تھے اور درستگی پر سمجھوتہ کیے بغیر زیادہ مواد کا تجزیہ کرتا ہے.

اسی مدت میں، SafetyKit نے ادائیگیوں کے خطرات، دھوکہ دہی، بچوں کے استحصال کی روک تھام، منی لانڈرنگ کی روک تھام اور ایسے نئے صارفین تک بھی توسیع کی ہے جن کے لاکھوں اینڈ یوزرز SafetyKit کے تحفظ میں ہیں. یہ بنیاد صارفین کو ابھرتے ہوئے خطرات کا تیزی اور اعتماد کے ساتھ جواب دینے کے قابل بناتی ہے.

"ہم نے ایک ایسا سلسلہ بنایا ہے جس میں OpenAI کی ہر ریلیز براہ راست ہماری صلاحیتوں کو مضبوط بناتی ہے," گرونکے کا کہنا ہے. "اسی لیے یہ نظام مسلسل بہتر ہوتا رہتا ہے اور ہمیشہ بدلتے ہوئے خطرات سے آگے رہتا ہے."

• کسٹمر کے 100% مواد کا جائزہ لیتے ہوئے 95%+ درستگی
• روزانہ 16 ارب ٹوکن عملدرآمد کیے جاتے ہیں، جو چھ ماہ میں 20 کروڑ سے بڑھ کر ہوئے ہیں
• سب سے مشکل وژن ٹاسکس پر بینچ مارک میں دس سے زیادہ پوائنٹس کی بہتری