جیسے جیسے AI سسٹمز زیادہ باصلاحیت ہوتے جا رہے ہیں, وہ زیادہ سے زیادہ صارفین کی جانب سے کام کر رہے ہیں. کوڈنگ ایجنٹس خود مختار طور پر ریپوزٹریز کا جائزہ لے سکتے ہیں، کمانڈز چلا سکتے ہیں، اور ڈویلپمنٹ ٹولز کے ساتھ انٹریکٹ کر سکتے ہیں. یہ وہ کام ہیں جن کے لیے پہلے براہِ راست انسانی عمل درکار ہوتا تھا.
Codex کے ساتھ، ان AI صلاحیتوں کو اُن حفاظتی کنٹرولز کے ساتھ تیار کیا گیا ہے جن کی اداروں کو محفوظ استعمال کے لیے ضرورت ہوتی ہے. سیکیورٹی ٹیموں کو یہ اختیار ہونا چاہیے کہ AI ایجنٹس کیا چیزیں استعمال کر سکتے ہیں، کب انسانی منظوری ضروری ہوگی، وہ کن سسٹمز سے رابطہ کر سکتے ہیں، اور ان کے رویّے کو سمجھنے کے لیے کون سا ریکارڈ یا نگرانی موجود ہے.
OpenAI میں Codex کو چند واضح مقاصد کے ساتھ استعمال کیا جاتا ہے: AI ایجنٹ کو محفوظ تکنیکی حدود میں رکھنا، ڈویلپرز کو کم خطرے والے کام تیزی سے کرنے دینا، زیادہ خطرناک کاموں کو واضح بنانا، اور AI ایجنٹ کی سرگرمیوں کا مکمل ریکارڈ محفوظ رکھنا تاکہ بعد میں جانچ اور آڈٹ کیا جا سکے. عملی طور پر اس میں منظم کنفیگریشن، محدود اختیارات کے ساتھ عملدرآمد، نیٹ ورک پالیسیاں، اور AI سرگرمیوں کے لاگز شامل ہوتے ہیں.
Codex کو اس اصول کے تحت استعمال کیا جاتا ہے کہ وہ محفوظ حدود کے اندر مؤثر طریقے سے کام کرے. روزمرہ کے کم خطرے والے کام آسانی سے انجام پائیں، جبکہ زیادہ خطرناک کام انسانی جائزے کے لیے روک دیے جائیں.
منظوری اور سینڈ باکسنگ مل کر حفاظت کو یقینی بناتے ہیں. سینڈ باکس یہ حدود طے کرتا ہے کہ Codex کیا کر سکتا ہے، جیسے فائلیں کہاں محفوظ کر سکتا ہے، آیا انٹرنیٹ استعمال کر سکتا ہے یا نہیں، اور کون سے حصے محفوظ رہیں گے. منظوری کا نظام یہ طے کرتا ہے کہ Codex کو کن کاموں کے لیے اجازت مانگنی ہوگی، خاص طور پر جب وہ ان حدود سے باہر کوئی کام کرنا چاہے. صارف ایک بار کی اجازت دے سکتا ہے یا پورے سیشن کے لیے اسی قسم کے کاموں کی اجازت دے سکتا ہے.
ایسی درخواستوں کے لیے جو محفوظ خانہ کی حد سے باہر جاتی ہیں، ہم خودکار جائزہ موڈ(نئی ونڈو میں کھلتا ہے) استعمال کر رہے ہیں۔ یہ ایک خصوصیت ہے جو آن ہونے پر مخصوص قسم کی درخواستوں کو خودکار طور پر منظور کر دیتی ہے، تاکہ صارفین کو Codex کے اقدامات منظور کرنے کے لیے بار بار رکنا نہ پڑے. Codex منصوبہ شدہ اقدام اور حالیہ سیاق و سباق خودکار منظوری کے ذیلی معاون کو بھیجتا ہے، جو صارف کو درمیان میں روکنے کے بجائے کم خطرے والے اقدامات کو خودکار طور پر منظور کر سکتا ہے یا صارف کی مناسب سطح کی اجازت موجود ہونے پر زیادہ خطرے والے اقدامات کو بھی منظور کر سکتا ہے. اس سے Codex معمول کے کاموں پر آگے بڑھتا رہتا ہے، جبکہ زیادہ خطرے والے اقدامات یا غیر ارادی نتائج کا سبب بننے والے اقدامات پر پھر بھی رک جاتا ہے.
Codex کو بغیر حدود کے انٹرنیٹ رسائی نہیں دی جاتی. نیٹ ورک پالیسیاں صرف قابلِ اعتماد ویب سائٹس اور سروسز تک رسائی دیتی ہیں، غیر مطلوب مقامات کو بلاک کرتی ہیں، اور نامعلوم ویب سائٹس تک رسائی سے پہلے منظوری مانگتی ہیں. اس طرح Codex عام اور محفوظ کام انجام دے سکتا ہے بغیر مکمل نیٹ ورک آزادی کے.
ہم یہ بھی منظم کرتے ہیں کہ Codex کس طرح لاگ اِن اور سسٹمز تک رسائی حاصل کرتا ہے. CLI اور MCP OAuth لاگ اِن معلومات محفوظ OS keyring میں رکھی جاتی ہیں، لاگ اِن ChatGPT کے ذریعے لازمی ہوتا ہے، اور رسائی ادارے کے ChatGPT enterprise workspace تک محدود رہتی ہے. اس سے Codex ادارہ جاتی سیکیورٹی کنٹرولز کے تحت رہتا ہے اور اس کی سرگرمیاں ChatGPT Compliance Logs Platform میں نگرانی اور جائزے کے لیے دستیاب ہوتی ہیں.
ہم حفاظتی اصول استعمال کرتے ہیں تاکہ Codex ہر شیل کمانڈ کو ایک جیسا محفوظ نہ سمجھے. عام بے ضرر کمانڈز، جو انجینئر روزمرہ کی ڈویلپمنٹ میں استعمال کرتے ہیں، سینڈ باکس سے باہر بغیر منظوری کے چل سکتی ہیں، جبکہ مخصوص خطرناک کمانڈز کو روکا جا سکتا ہے یا ان کے لیے اجازت ضروری ہو سکتی ہے. اس سے Codex عام انجینئرنگ کام تیزی سے انجام دے سکتا ہے، جبکہ اُن سرگرمیوں کا جائزہ لیا جاتا ہے یا انہیں روکا جاتا ہے جو سینڈ باکس سے باہر نہیں چلنی چاہئیں.
ہم اس حفاظتی طریقۂ کار کو کلاؤڈ مینیجڈ سیٹنگز، macOS مینیجڈ ترجیحات، اور لوکل ریکوائرمنٹ فائلز کے ذریعے نافذ کرتے ہیں. یہ تقاضے ایڈمن کی طرف سے نافذ کیے جاتے ہیں اور صارفین انہیں تبدیل نہیں کر سکتے. macOS ترجیحات اور لوکل فائلز ایک مستقل معیار برقرار رکھنے میں مدد دیتی ہیں، جبکہ ٹیم، صارف گروپ، یا ماحول کے مطابق مختلف کنفیگریشنز آزمانے کی سہولت بھی فراہم کرتی ہیں. یہ سیٹنگز تمام مقامی Codex پلیٹ فارمز پر لاگو ہوتی ہیں، جن میں ڈیسک ٹاپ ایپ، کمانڈ لائن انٹرفیس (CLI)، اور IDE ایکسٹینشن شامل ہیں.
صرف کنٹرول کافی نہیں ہوتا. AI ایجنٹس کے استعمال کے بعد سیکیورٹی ٹیموں کو یہ بھی واضح طور پر دیکھنے کی ضرورت ہوتی ہے کہ یہ ایجنٹس کیا کر رہے ہیں اور کیوں کر رہے ہیں. روایتی سیکیورٹی لاگز Codex کی سرگرمیاں دکھا سکتے ہیں، جیسے کوئی پراسیس شروع ہونا، فائل تبدیل ہونا، یا نیٹ ورک کنکشن کی کوشش ہونا. لیکن یہ لاگز عموماً صرف یہ بتاتے ہیں کہ کیا ہوا، یہ نہیں کہ Codex نے وہ کام کیوں کیا یا صارف کی نیت کیا تھی.
Codex سیکیورٹی ٹیموں کو AI ایجنٹس کی سرگرمیوں کا زیادہ واضح اور بہتر نظارہ فراہم کر سکتا ہے. یہ OpenTelemetry لاگز کو سپورٹ کرتا ہے، جن میں صارف کے پرامپٹس، منظوری کے فیصلے، ٹول استعمال کے نتائج، MCP سرور سرگرمیاں، اور نیٹ ورک رسائی کی اجازت یا عدم اجازت کے واقعات شامل ہوتے ہیں. Codex کی سرگرمیوں کے لاگز OpenAI Compliance Platform میں Enterprise اور Edu صارفین کے لیے بھی دستیاب ہوتے ہیں.
OpenAI میں ہم Codex لاگز کو AI سے چلنے والے سیکیورٹی ریویو ایجنٹ کے ساتھ استعمال کرتے ہیں. اگر کوئی اینڈ پوائنٹ الرٹ Codex کی غیر معمولی سرگرمی ظاہر کرے، تو سیکیورٹی ٹول صرف یہ بتاتا ہے کہ کوئی مشکوک واقعہ پیش آیا ہے. Codex لاگز اس سرگرمی کے پیچھے صارف اور ایجنٹ کی نیت کو سمجھنے میں مدد دیتے ہیں. ہمارا AI سیکیورٹی ریویو ایجنٹ اصل ریکویسٹ، ٹول سرگرمی، منظوری کے فیصلے، ٹول نتائج، اور متعلقہ نیٹ ورک پالیسی کی اجازت یا عدم اجازت کے اقدامات کا جائزہ لیتا ہے. پھر یہ اپنی تجزیاتی رپورٹ سیکیورٹی ٹیم کو فراہم کرتا ہے تاکہ وہ طے کر سکیں کہ سرگرمی معمول کے مطابق تھی، ایک بے ضرر غلطی تھی، یا کوئی ایسا معاملہ تھا جس کے لیے مزید کارروائی ضروری ہے.
ہم اس سرگرمی کے ڈیٹا کو آپریشنز اور نگرانی کے لیے بھی استعمال کرتے ہیں. یہ لاگز ہمیں سمجھنے میں مدد دیتے ہیں کہ اندرونی استعمال کیسے بڑھ رہا ہے، کون سے ٹولز اور MCP سرورز استعمال ہو رہے ہیں، نیٹ ورک سینڈ باکس کتنی بار بلاک کرتا ہے یا منظوری مانگتا ہے، اور کن جگہوں پر ابھی مزید بہتری کی ضرورت ہے. یہ OpenTelemetry لاگز مرکزی سیکیورٹی اور کمپلائنس سسٹمز، جیسے SIEM، میں بھی جمع کیے جا سکتے ہیں.
Codex جیسے کوڈنگ ایجنٹس کا سافٹ ویئر ڈویلپمنٹ ورک فلو کا حصہ بننے کے ساتھ ساتھ، سیکیورٹی ٹیموں کو اس تبدیلی کو محفوظ طریقے سے منظم اور نگرانی کرنے کے لیے خصوصی ٹولز کی ضرورت ہوتی ہے. Codex محفوظ استعمال کے لیے ضروری کنٹرولز، سیٹنگز مینجمنٹ، سینڈ باکس تحفظ، اور ایجنٹ کی سرگرمیوں کی تفصیلی نگرانی فراہم کرتا ہے. ان صلاحیتوں کے ساتھ، سیکیورٹی ٹیمیں زیادہ اعتماد کے ساتھ Codex استعمال کر سکتی ہیں، جبکہ ڈویلپرز کی رفتار اور ادارہ جاتی سیکیورٹی کے لیے ضروری نگرانی اور کنٹرول کے درمیان توازن برقرار رکھا جا سکتا ہے. Codex کو کنفیگر کرنے سے متعلق مزید معلومات یہاں(نئی ونڈو میں کھلتا ہے) مل سکتی ہیں، اور Compliance API کے لیے یہاں(نئی ونڈو میں کھلتا ہے).
