OpenAIలో Codexను సురక్షితంగా నడపడం
వాస్తవ వర్క్ఫ్లోల్లో కోడింగ్ ఏజెంట్లను నియంత్రించేందుకు OpenAI ఉపయోగించే నియంత్రణలు, పరిమితులు, టెలిమెట్రీపై ఒక చూపు.
AI వ్యవస్థలు మరింత సమర్థవంతంగా మారుతున్న కొద్దీ, అవి వినియోగదారుల తరఫున ఎక్కువగా చర్యలు తీసుకుంటున్నాయి. కోడింగ్ ఏజెంట్లు స్వయంచాలకంగా రెపోజిటరీలను సమీక్షించగలవు, కమాండ్లను నడపగలవు, అభివృద్ధి సాధనాలతో పరస్పర చర్య చేయగలవు. ఇవి గతంలో నేరుగా మనుషులు నిర్వహించాల్సిన పనులు.
Codexతో, సురక్షిత అమలుకు సంస్థలకు అవసరమైన నియంత్రణలతోపాటు ఈ సామర్థ్యాలను మేము రూపకల్పన చేశాం. ఏజెంట్లు ఎలా పనిచేయాలి అనే దాన్ని భద్రతా బృందాలు నియంత్రించే మార్గాలు కావాలి: అవి దేనికి యాక్సెస్ పొందగలవు, ఎప్పుడు మానవ ఆమోదం అవసరం, ఏ వ్యవస్థలతో పరస్పర చర్య చేయగలవు, వాటి ప్రవర్తనను వివరించేందుకు ఏ టెలిమెట్రీ ఉంది అన్నది.
OpenAIలో, మేము Codexను కొన్ని స్పష్టమైన లక్ష్యాలతో అమలు చేస్తున్నాం: ఏజెంట్ను స్పష్టమైన సాంకేతిక పరిమితులలో ఉంచడం, తక్కువ-ప్రమాద చర్యలపై డెవలపర్లు వేగంగా కదలేందుకు అనుమతించడం, ఎక్కువ-ప్రమాద చర్యలను స్పష్టంగా చూపించడం. అలాగే, ఏజెంట్ ఏమి చేసిందో అర్థం చేసుకుని ఆడిట్ చేసిందుకు ఏజెంట్-స్థానిక టెలిమెట్రీని కూడా నిల్వ ఉంచుతాం. ఆచరణలో, దీని అర్థం నిర్వహిత కాన్ఫిగరేషన్, పరిమిత అమలు, నెట్వర్క్ విధానాలు, మరియు ఏజెంట్-స్థానిక లాగ్లు.
పరిమిత వాతావరణంలో Codex ఉత్పాదకంగా ఉండాలి, తక్కువ ప్రమాదం ఉన్న రోజువారీ చర్యలు ఆటంకం లేకుండా సాగాలి, ఎక్కువ ప్రమాదం ఉన్న చర్యలు సమీక్ష కోసం ఆగాలి అనే సరళమైన సూత్రంతో మేము Codexను అమలు చేస్తున్నాం.
ఆమోదాలు మరియు సాండ్బాక్సింగ్ కలిసి పనిచేస్తాయి. సాండ్బాక్స్ సాంకేతిక అమలు పరిమితులను నిర్వచిస్తుంది. అందులో Codex ఎక్కడ రాయగలదు, అది నెట్వర్క్ను యాక్సెస్ చేయగలదా, ఏ మార్గాలు రక్షితంగా ఉంటాయి వంటి అంశాలు ఉంటాయి. ఆమోద విధానం ప్రకారం Codex ఎప్పుడు ఒక చర్య చేయడానికి అనుమతి అడగాలి అనేది నిర్ణయించబడుతుంది, ఉదాహరణకు అది సాండ్బాక్స్ వెలుపల ఏదైనా చేయాల్సి వచ్చినప్పుడు. వినియోగదారులు ఆ చర్యను ఒక్కసారి మాత్రమే ఆమోదించవచ్చు లేదా ఆ సెషన్ మొత్తం కోసం ఆ రకమైన చర్యలకు ఆమోదం ఇవ్వవచ్చు.
సాండ్బాక్స్ సరిహద్దును దాటే అభ్యర్థనల కోసం, మేము ఆటో-రివ్యూ మోడ్(కొత్త విండోలో తెరుచుకుంటుంది) ఉపయోగిస్తున్నాము. ఇది ఆన్ చేసినప్పుడు, వినియోగదారులు ఆగి Codex చర్యలను ఆమోదించాల్సిన అవసరం వచ్చే సందర్భాలను తగ్గించడానికి కొన్ని రకాల అభ్యర్థనలను స్వయంచాలకంగా ఆమోదించే ఫీచర్. Codex ప్రణాళిక చేసిన చర్యను మరియు ఇటీవలి సందర్భాన్ని స్వయంచాలక-ఆమోద ఉప-ఏజెంట్కు పంపుతుంది, ఇది వినియోగదారుని అంతరాయం కలిగించకుండా తక్కువ-ప్రమాద చర్యలను—లేదా సరిపడిన స్థాయి వినియోగదారు అధికారీకరణ ఉన్న అధిక-ప్రమాద చర్యలను—స్వయంచాలకంగా ఆమోదించగలదు. అది Codexను సాధారణ పనులతో ముందుకు సాగేలా చేస్తూనే, అధిక ప్రమాదం ఉన్న లేదా అనుకోని పరిణామాలకు దారితీసే చర్యలను నిలిపివేస్తుంది.
మేము Codexను పరిమితులేని అవుట్బౌండ్ ప్రాప్యతతో నడపము. మా నిర్వహిత నెట్వర్క్ విధానం, ఊహించిన గమ్యస్థానాలను అనుమతిస్తుంది, Codex చేరకూడని గమ్యస్థానాలను నిరోధిస్తుంది, మరియు పరిచయం లేని డొమైన్లకు ఆమోదం అవసరం చేస్తుంది. దీంతో Codexకు విస్తృత నెట్వర్క్ ప్రాప్యత ఇవ్వకుండా సాధారణంగా ఉపయోగించే, సురక్షితమైన వర్క్ఫ్లోలను పూర్తి చేయనిస్తుంది.
Codex ఎలా ధృవీకరణ పొందుతుందో కూడా మేము నిర్వహిస్తాము. CLI మరియు MCP OAuth క్రెడెన్షియల్స్ సురక్షిత OS కీరింగ్లో నిల్వ చేయబడతాయి, లాగిన్ను ChatGPT ద్వారా తప్పనిసరి చేస్తాము, మరియు ప్రాప్యతను మా ChatGPT enterprise వర్క్స్పేస్కు అనుసంధానిస్తాము. దీంతో Codex వినియోగం మా వర్క్స్పేస్-స్థాయి నియంత్రణలకు అనుసంధానంగా ఉంటుంది మరియు మా enterprise వర్క్స్పేస్ కోసం ChatGPT Compliance Logs Platformలో Codex కార్యకలాపం అందుబాటులోకి వస్తుంది.
Codex ప్రతి షెల్ కమాండ్ ను సమానంగా సురక్షితమని భావించకుండా ఉండేందుకు మేము నియమాలను ఉపయోగిస్తాం. ఇంజినీర్లు రోజువారీ అభివృద్ధిలో ఉపయోగించే సాధారణ హానికరం కాని కమాండ్లు, సాండ్బాక్స్ వెలుపల ఆమోదం లేకుండానే అనుమతించబడతాయి. ప్రత్యేకంగా ప్రమాదకరమైన కమాండ్లు నిరోధించబడవచ్చు లేదా ఆమోదం అవసరం కావచ్చు. దీంతో Codex సాధారణ ఇంజినీరింగ్ పనులలో వేగంగా కదలగలుగుతుంది, అదే సమయంలో సాండ్బాక్స్ వెలుపల మేము నడవనివ్వదలిచని నమూనాలపై సమీక్షను బలవంతం చేస్తుంది లేదా వాటిని నిరోధిస్తుంది.
మేము ఈ విధానాన్ని క్లౌడ్-నిర్వహిత రిక్వైర్మెంట్స్, macOS నిర్వహిత ప్రాధాన్యతలు, మరియు స్థానిక రిక్వైర్మెంట్స్ ఫైళ్ల కలయిక ద్వారా అమలు చేస్తాము. రిక్వైర్మెంట్స్ అనేవి వినియోగదారులు మార్చలేని అడ్మిన్-అమలు నియంత్రణలు. macOS నిర్వహిత ప్రాధాన్యతలు మరియు స్థానిక రిక్వైర్మెంట్స్ ఫైళ్లు, బృందం, వినియోగదారు సమూహం లేదా వాతావరణం ఆధారంగా వేర్వేరు కాన్ఫిగరేషన్లను పరీక్షిస్తున్నప్పటికీ, మాకు స్థిరమైన బేస్లైన్ను కొనసాగించడానికి సహాయపడతాయి. ఈ కాన్ఫిగరేషన్లు డెస్క్టాప్ యాప్, CLI, మరియు IDE ఎక్స్టెన్షన్తో సహా అన్ని స్థానిక Codex ఉపరితలాలకు వర్తిస్తాయి.
నియంత్రణ అనేది పనిలో సగం మాత్రమే. ఏజెంట్లు అమలులోకి వచ్చిన తర్వాత, ఇవి ఏమి చేస్తున్నాయి మరియు ఎందుకు చేస్తున్నాయి అన్నదానిపై భద్రతా బృందాలకు స్పష్టత అవసరం. Codex చేసిన చర్యలను పరిశీలించేటప్పుడు సాంప్రదాయ భద్రతా లాగ్లు ఇంకా ఉపయోగకరమే, కానీ అవి ఎక్కువగా ఏమి జరిగిందో మాత్రమే చెబుతాయి: ఒక ప్రక్రియ ప్రారంభమైంది, ఒక ఫైల్ మారింది, ఒక నెట్వర్క్ కనెక్షన్ ప్రయత్నించబడింది. Codex ఎందుకు ఏదైనా చేసిందో, లేదా వినియోగదారుడి ఉద్దేశ్యం ఏమిటో తెలుసుకోవడం మాత్రం రక్షక బృందాలకే మిగులుతుంది.
Codex భద్రతా బృందాలకు మరింత ఏజెంట్-అవగాహన కలిగిన దృశ్యాన్ని ఇవ్వగలదు. వినియోగదారు ప్రాంప్ట్లు, టూల్ ఆమోద నిర్ణయాలు, టూల్ అమలు ఫలితాలు, MCP సర్వర్ వినియోగం, మరియు నెట్వర్క్ ప్రాక్సీ అనుమతి లేదా నిరాకరణ ఈవెంట్లు వంటి వివిధ Codex ఈవెంట్ల కోసం Codex OpenTelemetry log exportకు మద్దతు ఇస్తుంది. Enterprise మరియు Edu కస్టమర్ల కోసం OpenAI Compliance Platform ద్వారా Codex activity logs కూడా అందుబాటులో ఉన్నాయి.
OpenAIలో, మేము Codex లాగ్లను మా AI-ఆధారిత భద్రతా triage ఏజెంట్తో పాటు ఉపయోగిస్తాం. ఒక ఎండ్పాయింట్ హెచ్చరిక Codex ఏదైనా అసాధారణ పని చేసిందని చెబితే, ఎండ్పాయింట్ భద్రతా సాధనం అనుమానాస్పద ఈవెంట్ జరిగిందని మాకు తెలియజేస్తుంది. ఆ తర్వాత వినియోగదారు మరియు ఏజెంట్ చుట్టూ ఉన్న ఉద్దేశ్యాన్ని వివరించడంలో Codex లాగ్లు సహాయపడతాయి. మా AI భద్రతా triage ఏజెంట్, మూల అభ్యర్థన, టూల్ కార్యకలాపం, ఆమోద నిర్ణయాలు, టూల్ ఫలితాలు, మరియు సంబంధిత నెట్వర్క్ విధాన నిర్ణయం లేదా బ్లాక్ను పరిశీలించడానికి Codex లాగ్లను ఉపయోగిస్తుంది. ఆశించిన ఏజెంట్ ప్రవర్తన, హానికరం కాని పొరపాట్లు, మరియు నిజంగా ఎస్కలేషన్కు అర్హమైన కార్యకలాపాల మధ్య తేడాను గుర్తించేందుకు, అది తన విశ్లేషణను మా భద్రతా బృందానికి సమీక్ష కోసం చూపిస్తుంది.
మేము ఇదే టెలిమెట్రీని ఆపరేషనల్గా కూడా ఉపయోగిస్తాం. అంతర్గత స్వీకరణ ఎలా మారుతోంది, ఏ టూల్స్ మరియు MCP సర్వర్లు ఉపయోగించబడుతున్నాయి, నెట్వర్క్ సాండ్బాక్స్ ఎంత తరచుగా బ్లాక్ చేస్తోంది లేదా ప్రాంప్ట్ చేస్తోంది, ఇంకా ఎక్కడ రోల్అవుట్ సర్దుబాటు కావాలో అర్థం చేసుకోవడానికి ఈ లాగ్లను ఉపయోగిస్తాం. ఈ OpenTelemetry లాగ్లను SIEM మరియు కంప్లయన్స్ లాగింగ్ వ్యవస్థల్లో కేంద్రీకరించవచ్చు.
Codex వంటి కోడింగ్ ఏజెంట్లు అభివృద్ధి వర్క్ఫ్లోల్లో సమీకృతమవుతున్న కొద్దీ, ఈ మార్పును నిర్వహించడానికి ప్రత్యేకంగా రూపకల్పన చేసిన సాధనాలు భద్రతా బృందాలకు అవసరం. సురక్షిత స్వీకరణను నిర్ధారించడానికి అవసరమైన నియంత్రణ ఉపరితలాలు, కాన్ఫిగరేషన్ నిర్వహణ, సాండ్బాక్సింగ్, మరియు వివరణాత్మక ఏజెంట్-అవగాహన టెలిమెట్రీని Codex అందిస్తుంది. ఈ సామర్థ్యాలు అమల్లో ఉన్నప్పుడు, డెవలపర్ ఉత్పాదకతను మరియు ఎంటర్ప్రైజ్ భద్రతకు అవసరమైన స్పష్టత, నియంత్రణను సమతుల్యం చేస్తూ భద్రతా బృందాలు Codex ను మరింత విశ్వాసంతో ప్రారంభించగలవు. Codex కాన్ఫిగర్ చేయడం గురించి మరింత సమాచారం ఇక్కడ(కొత్త విండోలో తెరుచుకుంటుంది), మరియు Compliance API గురించి ఇక్కడ(కొత్త విండోలో తెరుచుకుంటుంది) అందుబాటులో ఉంది.


