Безбедно користење на Codex во OpenAI
Преглед на контролите, ограничувањата и телеметријата што OpenAI ги користи за управување со агенти за кодирање во реални работни текови.
Како што системите за ВИ стануваат поспособни, сè почесто дејствуваат во име на корисниците. Агентите за кодирање можат автономно да прегледуваат репозиториуми, да извршуваат команди и да комуницираат со развојни алатки. Ова се задачи што претходно бараа директно извршување од човек.
Со Codex, ги дизајниравме овие можности заедно со контролите што им се потребни на организациите за безбедно распоредување. На безбедносните тимови им требаат начини да управуваат со тоа како работат агентите: до што можат да пристапат, кога е потребно човечко одобрување, со кои системи можат да комуницираат и каква телеметрија постои за да го објасни нивното однесување.
Во OpenAI, го распоредуваме Codex со неколку јасни цели: да го задржиме агентот во рамки на јасни технички граници, да им овозможиме на програмерите брзо да се движат низ активности со низок ризик и јасно да ги истакнеме активностите со повисок ризик. Исто така, зачувуваме телеметрија својствена за агентите за да можеме да разбереме и ревидираме што направил агентот. Во пракса, тоа значи управувана конфигурација, ограничено извршување, мрежни политики и дневници својствени за агентите.
Го распоредуваме Codex со едноставен принцип: да биде продуктивен во ограничена средина, секојдневните активности со низок ризик да бидат без пречки, а активностите со повисок ризик да запираат за преглед.
Одобрувањата и тест-средината функционираат заедно. Тест-средината ја дефинира техничката граница на извршување, вклучително и каде Codex може да запишува, дали може да пристапи до мрежата и кои патеки остануваат заштитени. Политиката за одобрување одредува кога Codex мора да побара дозвола за извршување дејство, на пример кога треба да направи нешто надвор од тест-средината. Корисниците можат да го одобрат дејството еднаш или да го одобрат тој тип дејство за таа сесија.
За барања што ја преминуваат границата на тест-средината, го користиме режимот за автоматско прегледување(се отвора во нов прозорец), функција што, кога е вклучена, автоматски одобрува одредени видови барања за да се намали зачестеноста на прекинувања и одобрувања на дејствата на Codex од страна на корисниците. Codex го испраќа планираното дејство и неодамнешниот контекст до подагентот за автоматско одобрување, кој може автоматски да одобрува дејства со низок ризик — или дејства со висок ризик со доволно ниво на корисничко овластување — наместо да го прекинува корисникот. Така Codex продолжува со рутинската работа, но сепак запира кај активности со повисок ризик или со несакани последици.
Не го извршуваме Codex со неограничен појдовен пристап. Нашата управувана мрежна политика дозволува очекувани одредишта, блокира одредишта до кои не сакаме Codex да пристапува и бара одобрување за непознати домени. Тоа му овозможува на Codex да завршува вообичаени, доверливи работни текови без да му даде широк мрежен пристап.
Управуваме и со начинот на кој Codex се автентицира. Акредитивите за CLI и MCP OAuth се чуваат во безбедниот keyring на оперативниот систем, најавувањето е принудно преку ChatGPT, а пристапот е врзан за нашиот ChatGPT enterprise работен простор. Така користењето на Codex останува поврзано со контролите на ниво на работен простор и активноста на Codex е достапна во ChatGPT Compliance Logs Platform за нашиот enterprise работен простор.
Користиме правила за Codex да не го третира секој shell-команден повик како подеднакво безбеден. Вообичаените безопасни команди што инженерите ги користат во секојдневниот развој се дозволени без одобрување надвор од тест-средината, а одредени опасни команди можат да бидат блокирани или да бараат одобрување. Тоа му овозможува на Codex брзо да се движи низ обични инженерски задачи, а сепак да наметне преглед или да блокира обрасци што не сакаме да се извршуваат надвор од тест-средината.
Овој пристап го применуваме преку комбинација од барања управувани од облак, управувани преференции за macOS и локални датотеки со барања. Барањата се контроли што ги наметнува администратор и корисниците не можат да ги надминат. Управуваните преференции за macOS и локалните датотеки со барања ни овозможуваат да одржуваме конзистентна основа, а сепак да тестираме различни конфигурации според тим, корисничка група или средина. Овие конфигурации важат низ локалните површини на Codex, вклучувајќи ја десктоп-апликацијата, CLI и IDE екстензијата.
Контролата е само половина од работата. Откако агентите ќе бидат распоредени, на безбедносните тимови им е потребна видливост за тоа што прават овие агенти и зошто. Традиционалните безбедносни дневници и понатаму се корисни кога се разгледуваат дејствата што ги презел Codex, но најчесто одговараат само на прашањето што се случило: започнал процес, се изменила датотека, бил направен обид за мрежна конекција. Одбранбените тимови и натаму треба сами да утврдат зошто Codex направил нешто, или која била намерата на корисникот.
Codex може да им даде на безбедносните тимови поглед што е посвесен за агентите. Codex поддржува извоз на OpenTelemetry дневници за различни настани во Codex, како што се кориснички промпти, одлуки за одобрување алатки, резултати од извршување алатки, користење MCP сервер, и настани за дозвола или забрана од мрежниот прокси-сервер. Дневниците за активност на Codex се достапни и преку OpenAI Compliance Platform за Enterprise и Edu клиенти.
Во OpenAI, ги користиме дневниците на Codex заедно со нашиот агент за безбедносна тријажа со ВИ. Кога предупредување од крајна точка ќе покаже дека Codex направил нешто невообичаено, алатката за безбедност на крајната точка ни кажува дека се случил сомнителен настан. Потоа дневниците на Codex помагаат да се објасни намерата на корисникот и агентот во поширокиот контекст. Нашиот агент за безбедносна тријажа со ВИ ги користи дневниците на Codex за да го испита оригиналното барање, активноста на алатките, одлуките за одобрување, резултатите од алатките и секоја релевантна одлука или блокада од мрежната политика. Агентот за безбедносна тријажа со ВИ ја прикажува својата анализа на нашиот безбедносен тим за преглед, за да се направи разлика меѓу очекувано однесување на агентот, безопасни грешки и активност што навистина бара ескалација.
Истата телеметрија ја користиме и оперативно. Ги користиме овие дневници за да разбереме како се менува внатрешното усвојување, кои алатки и MCP сервери се користат, колку често мрежната тест-средина блокира или бара потврда и каде воведувањето сè уште бара прилагодување. Овие OpenTelemetry дневници можат да се централизираат во SIEM и системи за дневници за усогласеност.
Како што агентите за кодирање како Codex стануваат интегрирани во развојните работни текови, на безбедносните тимови им се потребни алатки специјално дизајнирани за управување со оваа промена. Codex ги обезбедува контролните површини, управувањето со конфигурации, тест-средината и деталната телеметрија свесна за агент, потребни за да се обезбеди безбедно усвојување. Со овие можности, безбедносните тимови можат да го овозможат Codex со поголема доверба, балансирајќи ја продуктивноста на програмерите со видливоста и контролата што се потребни за безбедност на ниво на претпријатие. Повеќе информации за конфигурирање на Codex може да се најдат тука(се отвора во нов прозорец), а за Compliance API тука(се отвора во нов прозорец).
