જેમ જેમ AI સિસ્ટમ્સ વધુ સક્ષમ બનતી જાય છે, તેમ તેમ તે વપરાશકર્તાઓ વતી વધુ ને વધુ કાર્ય કરે છે. કોડિંગ એજન્ટ્સ સ્વાયત્ત રીતે રિપોઝિટરીઓની સમીક્ષા કરી શકે છે, કમાન્ડ્સ ચલાવી શકે છે અને ડેવલપમેન્ટ ટૂલ્સ સાથે ઇન્ટરેક્ટ કરી શકે છે. આ એવા કાર્યો છે, જેના માટે અગાઉ માનવો દ્વારા સીધો અમલ જરૂરી હતો.
Codex સાથે, અમે આ ક્ષમતાઓને સુરક્ષિત જમાવટ માટે સંસ્થાઓને જરૂરી નિયંત્રણોની સાથે ડિઝાઇન કરી છે. સુરક્ષા ટીમોને એજન્ટ્સ કેવી રીતે કાર્ય કરે છે તેનું સંચાલન કરવા માટેની રીતોની જરૂર છે: તેઓ શું ઍક્સેસ કરી શકે, ક્યારે માનવીય મંજૂરી જરૂરી છે, તેઓ કઈ સિસ્ટમ્સ સાથે ઇન્ટરેક્ટ કરી શકે, અને તેમની વર્તણૂક સમજાવવા માટે કઈ ટેલિમેટ્રી ઉપલબ્ધ છે.
OpenAI પર, અમે Codex ને કેટલાક સ્પષ્ટ લક્ષ્યો સાથે ડિપ્લોય કરીએ છીએ: એજન્ટને સ્પષ્ટ તકનીકી સીમાઓની અંદર રાખવું, ડેવલપર્સને ઓછા જોખમવાળી ક્રિયાઓ પર ઝડપથી આગળ વધવા દેવું, અને વધુ જોખમવાળી ક્રિયાઓને સ્પષ્ટ બનાવવી. અમે એજન્ટ-નેટિવ ટેલિમેટ્રી પણ જાળવી રાખીએ છીએ, જેથી અમે એજન્ટે શું કર્યું તે સમજી અને ઓડિટ કરી શકીએ. વ્યવહારમાં, તેનો અર્થ મેનેજ્ડ કન્ફિગરેશન, મર્યાદિત એક્ઝિક્યુશન, નેટવર્ક પોલિસીઓ અને એજન્ટ-નેટિવ લોગ્સ થાય છે.
અમે Codex ને એક સરળ સિદ્ધાંત સાથે અમલમાં મૂકીએ છીએ: તે નિર્ધારિત સીમાવાળા પર્યાવરણમાં ઉત્પાદક હોવું જોઈએ, રોજિંદા ઓછા જોખમવાળા કાર્યો અવરોધ વિનાના હોવા જોઈએ, અને વધુ જોખમ ધરાવતા કાર્યો સમીક્ષા માટે અટકવા જોઈએ.
મંજૂરીઓ અને સેન્ડબોક્સિંગ સાથે મળીને કામ કરે છે. સેન્ડબોક્સ તકનીકી અમલની સીમા નિર્ધારિત કરે છે, જેમાં Codex ક્યાં લખી શકે છે, તે નેટવર્ક સુધી પહોંચી શકે છે કે નહીં, અને કયા પાથ્સ સુરક્ષિત રહે છે તે શામેલ છે. મંજૂરી નીતિ નક્કી કરે છે કે Codex એ ક્યારે કોઈ ક્રિયા કરવા માટે પૂછવું આવશ્યક છે, જેમ કે જ્યારે તેને સેન્ડબોક્સની બહાર કંઈક કરવાની જરૂર હોય. વપરાશકર્તાઓ પગલાને એક વખત માટે મંજૂરી આપી શકે છે અથવા તે સત્ર માટે તે પ્રકારના પગલાને મંજૂરી આપી શકે છે.
સેન્ડબોક્સ સીમા પાર કરતી વિનંતીઓ માટે, અમે ઓટો-રિવ્યુ મોડ(નવી વિન્ડોમાં ખૂલે છે)નો ઉપયોગ કરી રહ્યા છીએ, જે એક એવી સુવિધા છે કે જેને ચાલુ કરવામાં આવે ત્યારે, તે ચોક્કસ પ્રકારની વિનંતીઓને આપમેળે મંજૂર કરે છે, જેથી વપરાશકર્તાઓએ Codex કાર્યોને રોકીને મંજૂરી કરવાની જરૂર ઓછી વાર પડે. Codex આયોજિત ક્રિયા અને તાજેતરનો સંદર્ભ ઓટો-એપ્રુવલ સબએજન્ટને મોકલે છે, જે યુઝરને અટકાવવાને બદલે ઓછી-જોખમી ક્રિયાઓને—અથવા વપરાશકર્તા અધિકૃતતાનું પૂરતું સ્તર હોય ત્યારે ઉચ્ચ જોખમવાળી ક્રિયાઓને—આપમેળે મંજૂરી આપી શકે છે. તે Codex નિયમિત કાર્યોમાં કાર્યરત રાખે છે, જ્યારે વધારે જોખમ ધરાવતા અથવા ઓચિંતાના પરિણામો લાવી શકે તેવા કાર્યોને પણ અટકાવે છે.
અમે Codex ને ઓપન-એન્ડેડ આઉટબાઉન્ડ ઍક્સેસ સાથે ચલાવતા નથી. અમારી સંચાલિત નેટવર્ક પોલિસી અપેક્ષિત ગંતવ્યોને મંજૂરી આપે છે, Codex પહોંચે તે અમે ઇચ્છતા નથી એવા ગંતવ્યોને બ્લૉક કરે છે, અને અજાણ્યા ડોમેન્સ માટે મંજૂરી જરૂરી બનાવે છે. તે Codex ને વ્યાપક નેટવર્ક એક્સેસ આપ્યા વિના સામાન્ય અને જાણીતા-સારા વર્કફ્લો પૂર્ણ કરવાની મંજૂરી આપે છે.
Codex કેવી રીતે ઓથેન્ટિકેટ કરે છે તે પણ અમે મેનેજ કરીએ છીએ. CLI અને MCP OAuth ક્રેડેન્શિયલ્સ સુરક્ષિત OS કીરિંગમાં સંગ્રહિત થાય છે, લૉગિન ChatGPT મારફતે ફરજિયાત કરાય છે, અને એક્સેસ અમારા ChatGPT Enterprise વર્કસ્પેસ સુધી જ મર્યાદિત રાખવામાં આવે છે. તે Codex ઉપયોગને અમારા વર્કસ્પેસ-સ્તરના નિયંત્રણો સાથે જોડાયેલ રાખે છે અને અમારા એન્ટરપ્રાઇઝ વર્કસ્પેસ માટે Codex પ્રવૃત્તિને ChatGPT કૉમ્પ્લાયન્સ લોગ્સ પ્લેટફોર્મમાં ઉપલબ્ધ બનાવે છે.
અમે નિયમોનો ઉપયોગ કરીએ છીએ જેથી Codex દરેક શેલ કમાન્ડને સમાન રીતે સલામત ન માને. ઇજનેરો રોજિંદા ડેવલપમેન્ટમાં ઉપયોગ કરતા સામાન્ય હાનિરહિત કમાન્ડ્સને સેન્ડબોક્સની બહાર મંજૂરી વિના મંજૂર કરી શકાય છે અને ચોક્કસ જોખમી કમાન્ડ્સને બ્લોક કરી શકાય છે અથવા મંજૂરીની જરૂર પડી શકે છે. આથી Codex ને સામાન્ય એન્જિનિયરિંગ કાર્યોમાં ઝડપથી આગળ વધવા મળે છે, અને સાથે સાથે તે સમીક્ષા ફરજિયાત કરે છે અથવા એવા પેટર્ન્સને બ્લોક કરે છે, જેને અમે સેન્ડબોક્સની બહાર ચલાવવા માંગતા નથી.
અમે ક્લાઉડ-મેનેજ્ડ આવશ્યકતાઓ, macOS મેનેજ્ડ પસંદગીઓ અને સ્થાનિક આવશ્યકતાઓની ફાઇલોના સંયોજન દ્વારા આ સ્થિતિને અમલમાં મૂકીએ છીએ. આવશ્યકતાઓ એ એડમિન દ્વારા લાગુ કરાયેલા નિયંત્રણો છે, જેને વપરાશકર્તાઓ ઓવરરાઇડ કરી શકતા નથી. macOS ની મેનેજ્ડ પસંદગીઓ અને સ્થાનિક આવશ્યકતાઓની ફાઇલો અમને ટીમ, વપરાશકર્તા જૂથ અથવા એન્વાયરમેન્ટ મુજબ અલગ-અલગ કન્ફિગરેશન્સનું પરીક્ષણ કરતાં કરતાં પણ સુસંગત બેઝલાઇન જાળવી રાખવાની મંજૂરી આપે છે. આ કન્ફિગરેશન્સ ડેસ્કટોપ એપ, CLI અને IDE એક્સ્ટેન્શન સહિત સ્થાનિક Codex સપાટીઓ પર લાગુ થાય છે.
નિયંત્રણ તો કામનો માત્ર અડધો ભાગ છે. એકવાર એજન્ટ્સ ડિપ્લોય થઈ જાય પછી, સુરક્ષા ટીમોને આ એજન્ટ્સ શું કરી રહ્યા છે અને શા માટે કરી રહ્યા છે તેની દૃશ્યતા જરૂરી હોય છે. Codex દ્વારા કરવામાં આવેલી કાર્યવાહી જોતી વખતે પરંપરાગત સુરક્ષા લૉગ્સ હજુ પણ ઉપયોગી છે, પરંતુ તે મોટાભાગે શું થયું તેનો જવાબ આપે છે: કોઈ પ્રક્રિયા શરૂ થઈ, કોઈ ફાઇલ બદલાઈ, નેટવર્ક કનેક્શન સ્થાપિત કરવાનો પ્રયાસ થયો. રક્ષકો માટે હજુ પણ એ સમજવાનું બાકી રહે છે કે Codex એ કંઈક કેમ કર્યું, અથવા વપરાશકર્તાનો હેતુ શું હતો.
Codex સુરક્ષા ટીમોને વધુ એજન્ટ-જાગૃત દૃશ્ય આપી શકે છે. Codex વિવિધ Codex ઇવેન્ટ્સ માટે OpenTelemetry લોગ એક્સપોર્ટને સપોર્ટ કરે છે, જેમ કે વપરાશકર્તાના પ્રોમ્પ્ટ, ટૂલ મંજૂરીના નિર્ણયો, ટૂલ એક્ઝિક્યુશનનાં પરિણામો, MCP સર્વરનો ઉપયોગ અને નેટવર્ક પ્રોક્સી મંજૂરી અથવા નકારવાની ઇવેન્ટ્સ. Enterprise અને Edu ગ્રાહકો માટે Codex પ્રવૃત્તિ લોગ્સ OpenAI Compliance Platform દ્વારા પણ ઉપલબ્ધ છે.
OpenAI ખાતે, અમે Codex લૉગ્સનો ઉપયોગ અમારા AI-સંચાલિત સુરક્ષા ટ્રાયેજ એજન્ટ સાથે કરીએ છીએ. જ્યારે એન્ડપોઇન્ટ ચેતવણી કહે છે કે Codex એ કંઈક અસામાન્ય કર્યું છે, ત્યારે એન્ડપોઇન્ટ સુરક્ષા ટૂલ અમને જણાવે છે કે શંકાસ્પદ ઘટના બની છે. Codex લોગ્સ પછી વપરાશકર્તા અને એજન્ટના આસપાસના ઇરાદાને સમજવામાં મદદ કરે છે. અમારો AI સુરક્ષા ટ્રાયેજ એજન્ટ મૂળ વિનંતી, ટૂલ પ્રવૃત્તિ, મંજૂરીના નિર્ણયો, ટૂલ પરિણામો અને સંબંધિત નેટવર્ક નીતિ નિર્ણય અથવા બ્લોકની તપાસ કરવા માટે Codex લોગ્સનો ઉપયોગ કરે છે. AI સુરક્ષા ટ્રાયેજ એજન્ટ અપેક્ષિત એજન્ટ વર્તન, નિર્દોષ ભૂલો અને ખરેખર એસ્કલેશનની જરૂર હોય તેવી પ્રવૃત્તિ વચ્ચે ભેદ કરવા માટે સમીક્ષા માટે તેનું વિશ્લેષણ અમારી સુરક્ષા ટીમ સમક્ષ રજૂ કરે છે.
અમે એ જ ટેલિમેટ્રી કાર્યકારી રીતે પણ ઉપયોગ કરીએ છીએ. આંતરિક અપનાવવાની પ્રક્રિયા કેવી રીતે બદલાઈ રહી છે, કયા ટૂલ્સ અને MCP સર્વર્સનો ઉપયોગ થઈ રહ્યો છે, નેટવર્ક સેન્ડબોક્સ કેટલી વાર અવરોધે છે અથવા પ્રોમ્પ્ટ કરે છે, અને રોલઆઉટમાં હજુ ક્યાં ટ્યુનિંગની જરૂર છે તે સમજવા માટે અમે આ લોગ્સનો ઉપયોગ કરીએ છીએ. આ OpenTelemetry લોગ્સને SIEM અને કૉમ્પ્લાયન્સ લોગિંગ સિસ્ટમ્સમાં કેન્દ્રીકૃત કરી શકાય છે.
Codex જેવા કોડિંગ એજન્ટ્સ ડેવલપમેન્ટ વર્કફ્લોમાં એકીકૃત થતા જાય છે ત્યારે સુરક્ષા ટીમોને આ પરિવર્તનનું સંચાલન કરવા માટે ખાસ કરી ડિઝાઈન કરેલા ટૂલ્સની જરૂર છે. સુરક્ષિત અપનાવવાનું સુનિશ્ચિત કરવા જરૂરી કંટ્રોલ સરફેસિસ, કન્ફિગરેશન મેનેજમેન્ટ, સેન્ડબોક્સિંગ અને વિગતવાર એજન્ટ-અવેર ટેલિમેટ્રી Codex રજૂ કરે છે. આ ક્ષમતા ઉપલબ્ધ હોવાથી સુરક્ષા ટીમો વધુ આત્મવિશ્વાસ સાથે Codex ને સક્ષમ કરી શકે છે, અને ડેવલપર ઉત્પાદકતાને સંસ્થાકીય સુરક્ષા માટે જરૂરી દૃશ્યતા અને નિયંત્રણ સાથે સંતુલિત કરી શકે છે. Codex કૉન્ફિગર કરવા વિશે વધારે માહિતી અહીં(નવી વિન્ડોમાં ખૂલે છે) મળી શકે છે અને કૉમ્પ્લાયન્સ API વિશે વધુ માહિતી અહીં(નવી વિન્ડોમાં ખૂલે છે) મળી શકે છે.
