Безбедно покретање функције Codex у OpenAI
Преглед контрола, ограничења и телеметрије које OpenAI користи за управљање агентима за програмирање у стварним токовима рада.
Како AI системи постају способнији, они све више делују у име корисника. Агенти за кодирање могу аутономно да прегледају депо, извршавају команде и комуницирају са развојним алаткама. Ово су задаци који су раније захтевали да их људи директно извршавају.
Уз Codex, осмислили смо ове могућности заједно са контролама које су организацијама потребне за безбедну примену. Безбедносним тимовима су потребни начини да управљају тиме како агенти делују: чему могу да приступе, када је потребно одобрење човека, са којим системима могу да ступају у интеракцију и која телеметрија постоји да би се објаснило њихово понашање.
У компанији OpenAI примењујемо Codex са неколико јасних циљева: да агент остане унутар јасних техничких граница, да омогућимо програмерима брзо извршавање радњи ниског ризика и да радње вишег ризика буду јасно назначене. Такође задржавамо изворну телеметрију агента како бисмо могли да разумемо и проверимо шта је агент урадио. У пракси, то подразумева управљану конфигурацију, ограничено извршавање, мрежне политике и логове специфичне за агента.
Codex уводимо према једноставном начелу: треба да буде продуктиван унутар ограниченог окружења, свакодневне радње ниског ризика треба да се обављају без препрека, а радње вишег ризика треба да се зауставе ради прегледа.
Одобрења и изоловање у изолованом окружењу функционишу заједно. Изоловано окружење дефинише техничке границе извршавања, укључујући где Codex може да уписује, да ли може да приступи мрежи и које путање остају заштићене. Политика одобравања одређује када Codex мора да затражи одобрење за обављање радње, на пример када треба да уради нешто изван изолованог окружења. Корисници могу једнократно да одобре радњу или да одобре ту врсту радње за ту сесију.
За захтеве који прелазе границу заштићеног окружења користимо режим аутоматског прегледа(отвара се у новом прозору), функцију која, када је укључена, аутоматски одобрава одређене врсте захтева како би се смањило колико често корисници морају да застану и одобре радње у услузи Codex. Codex шаље планирану радњу и недавни контекст подагенту за аутоматско одобравање, који може аутоматски да одобри радње ниског ризика – или радње високог ризика уз довољан ниво овлашћења корисника – уместо да прекине корисника. То омогућава да Codex настави са рутинским послом, док се и даље зауставља код ризичнијих радњи или радњи са нежељеним последицама.
Не покрећемо Codex са неограниченим одлазним приступом. Наша смерница за управљану мрежу дозвољава очекивана одредишта, блокира одредишта којима не желимо да Codex приступа и захтева одобрење за непознате домене. То омогућава Codex да довршава уобичајене, проверено добре токове рада, без да му се даје широк приступ мрежи.
Такође управљамо начином на који се Codex аутентификује. CLI и MCP OAuth акредитиви се чувају у безбедном складишту кључева оперативног система, пријављивање је обавезно преко услуге ChatGPT, а приступ је ограничен на наш радни простор ChatGPT Enterprise. То одржава коришћење функције Codex повезаним са нашим контролама на нивоу радног простора и чини активност функције Codex доступном на Платформи за дневнике усаглашености ChatGPT за наш радни простор за предузећа.
Користимо правила да Codex не би сваку оквирну команду сматрао једнако безбедном. Уобичајене безопасне команде које инжењери користе у свакодневном развоју дозвољене су без одобрења ван сендбокса, а одређене опасне команде могу бити блокиране или могу захтевати одобрење. То омогућава функцију Codex да брзо пролази кроз уобичајене инжењерске задатке, а да се и даље захтева преглед или блокирају обрасци које не желимо да се извршавају ван сендбокса.
Овај приступ примењујемо комбинацијом захтева којима се управља у облаку, управљаних подешавања за macOS и локалних датотека са захтевима. Захтеви су контроле које спроводе администратори и које корисници не могу да заобиђу. Управљане поставке за macOS и локалне датотеке са захтевима омогућавају нам да одржавамо доследну основну конфигурацију, док и даље тестирамо различите конфигурације по тиму, групи корисника или окружењу. Ове конфигурације се примењују на свим локалним Codex површинама, укључујући десктоп апликацију, CLI и IDE проширење.
Контрола је само пола посла. Када се агенти поставе, тимовима за безбедност је потребан увид у то шта ови агенти раде и зашто. Традиционални безбедносни записници су и даље корисни када се посматрају радње које је Codex предузео, али углавном дају одговор на питање шта се десило: покренут је процес, датотека је измењена, покушано је успостављање мрежне везе. Браниоци и даље морају сами да утврде зашто је Codex нешто урадио или која је била намера корисника.
Codex може безбедносним тимовима да пружи увид који боље узима у обзир агенте. Codex подржава извоз OpenTelemetry записника за различите Codex догађаје, као што су корисничке инструкције, одлуке о одобрењу алата, резултати извршавања алата, коришћење MCP сервера и догађаји одобрења или одбијања мрежног проксија. Записници активности у услузи Codex доступне су и путем OpenAI платформе за усаглашеност за Enterprise и Edu клијенте.
У компанији OpenAI користимо Codex записнике заједно са нашим AI агентом за безбедносну тријажу. Када упозорење крајње тачке каже да је Codex урадио нешто неуобичајено, алат за безбедност крајњих тачака нам говори да је дошло до сумњивог догађаја. Codex записници затим помажу да се објасни шири контекст намере корисника и агента. Наш AI агент за безбедносну тријажу користи Codex евиденције да би прегледао оригинални захтев, активност алата, одлуке о одобрењу, резултате алата и сваку релевантну одлуку или блокаду мрежне политике. AI агент за безбедносну тријажу приказује своју анализу нашем тиму за безбедност на преглед како би се разликовали очекивано понашање агента, безазлене грешке и активност која заиста захтева ескалацију.
Такође користимо исту телеметрију у оперативне сврхе. Ове записнике користимо да бисмо разумели како се мења интерно усвајање, који алати и MCP сервери се користе, колико често мрежни сендбокс блокира или приказује упите, и где увођење и даље захтева подешавање. Ови OpenTelemetry записници могу да се централизују у SIEM системима и системима за евидентирање усаглашености.
Како агенти за програмирање као што је Codex постају интегрисани у развојне токове рада, безбедносним тимовима су потребне алатке посебно осмишљене за управљање овом променом. Codex пружа контролне интерфејсе, управљање конфигурацијом, изоловање у заштићеном окружењу и детаљну телеметрију са увидом у агенте — све што је потребно за безбедно усвајање. Када су те могућности успостављене, безбедносни тимови могу са већим самопоуздањем да омогуће Codex, усклађујући продуктивност програмера са видљивошћу и контролом које су потребне за безбедност на нивоу предузећа. Више информација о конфигурисању функције Codex можете пронаћи овде(отвара се у новом прозору), а о API-ју усклађености овде(отвара се у новом прозору).
