DI sistemoms tobulėjant, jos vis dažniau veikia naudotojų vardu. Programavimo agentai gali savarankiškai peržiūrėti saugyklas, vykdyti komandas ir sąveikauti su kūrimo įrankiais – atlikti užduotis, kurias anksčiau turėjo atlikti patys žmonės.
Kurdami „Codex“, šiuos pajėgumus papildėme valdymo priemonėmis, kurių organizacijoms reikia saugiam diegimui. Saugumo komandoms būtina valdyti agentų veikimą: žinoti, kokius duomenis jie gali pasiekti, kada būtinas žmogaus patvirtinimas, su kokiomis sistemomis jie gali sąveikauti ir kokie telemetrijos duomenys padeda paaiškinti jų elgseną.
„OpenAI“ diegia „Codex“ siekdama kelių aiškių tikslų: išlaikyti agentą apibrėžtose techninėse ribose, leisti kūrėjams greitai atlikti mažos rizikos veiksmus ir aiškiai išskirti tuos, kurie kelia didesnę riziką. Taip pat kaupiame agentų specifiką atitinkančią telemetriją, kad galėtume suprasti ir audituoti jų atliekamus veiksmus. Iš esmės tai apima valdomą konfigūraciją, ribotą vykdymą, tinklo politikas ir specialiai agentams pritaikytus žurnalus.
„Codex“ diegiame vadovaudamiesi paprastu principu: jis turi produktyviai veikti apribotoje aplinkoje, kasdienius mažos rizikos veiksmus atlikti sklandžiai, o didesnės rizikos veiksmus sustabdyti ir pateikti peržiūrėti.
Patvirtinimai ir bandomoji aplinka veikia kartu. Bandomoji aplinka apibrėžia technines vykdymo ribas, įskaitant tai, kur „Codex“ gali įrašyti duomenis, ar gali pasiekti tinklą ir kurie katalogų keliai lieka apsaugoti. Patvirtinimo politika lemia, kada „Codex“ turi paprašyti leidimo atlikti veiksmą, pavyzdžiui, kai jam reikia atlikti užduotį už bandomosios aplinkos ribų. Naudotojai gali patvirtinti veiksmą vieną kartą arba leisti atlikti tokio tipo veiksmus per visą seansą.
Užklausoms, išeinančioms už bandomosios aplinkos ribų, naudojame automatinės peržiūros režimą(atsidaro naujame lange) – jį įjungus tam tikros užklausos patvirtinamos automatiškai, todėl naudotojams rečiau tenka stabdyti darbą ir tvirtinti „Codex“ veiksmus. „Codex“ siunčia suplanuotą veiksmą ir naujausią kontekstą automatinio patvirtinimo antriniam agentui, kuris gali automatiškai patvirtinti mažos rizikos veiksmus (arba didelės rizikos veiksmus, jei naudotojas suteikia pakankamą prieigos lygį), nestabdydamas naudotojo darbo. Taip „Codex“ gali toliau atlikti įprastas užduotis ir sustoti tik prieš didesnės rizikos veiksmus ar tuos, kurie gali sukelti nenumatytų padarinių.
Nepaleidžiame „Codex“ su neribota išeinamąja prieiga. Mūsų valdoma tinklo politika leidžia pasiekti numatytuosius adresus, blokuoja tuos, kurių „Codex“ neturėtų pasiekti, ir reikalauja patvirtinimo bandant pasiekti nežinomus domenus. Taip „Codex“ gali užbaigti įprastas, patikimas darbo eigas, nors jam ir nesuteikiama plati prieiga prie tinklo.
Taip pat kontroliuojame, kaip nustatoma „Codex“ tapatybė. CLI ir MCP „OAuth“ prisijungimo duomenys saugomi saugioje operacinės sistemos raktų saugykloje, prisijungimas privalomas per „ChatGPT“, o prieiga susieta su mūsų „ChatGPT“ įmonės darbo erdve. Šitaip „Codex“ naudojimas susiejamas su mūsų darbo erdvės lygmens valdymo priemonėmis, todėl galima stebėti „Codex“ veiklą „ChatGPT“ atitikties žurnalų platformoje, skirtoje mūsų įmonės darbo erdvei.
Taikome taisykles, užtikrinančias, kad „Codex“ nelaikytų visų „shell“ komandų vienodai saugiomis. Įprastos nekenksmingos komandos, kurias inžinieriai kasdien naudoja kurdami programinę įrangą, leidžiamos be patvirtinimo už bandomosios aplinkos ribų, o konkrečios pavojingos komandos gali būti blokuojamos arba joms gali reikėti patvirtinimo. Taip „Codex“ gali greitai atlikti įprastas inžinerines užduotis, kartu reikalaujant peržiūros arba blokuojant tuos modelius, kurių nenorime leisti už bandomosios aplinkos ribų.
Tai užtikriname derindami debesijoje valdomus reikalavimus, „macOS“ valdomas nuostatas ir vietinius reikalavimų failus. Reikalavimai – tai administratorių privalomai taikomi valdikliai, kurių naudotojai negali pakeisti. „macOS“ valdomos nuostatos ir vietiniai reikalavimų failai leidžia mums išlaikyti nuoseklų bazinį lygį ir kartu testuoti skirtingas konfigūracijas pagal komandą, naudotojų grupę ar aplinką. Šios konfigūracijos taikomos visose vietinėse „Codex“ sąsajose, įskaitant darbalaukio programą, CLI ir IDE plėtinį.
Valdymas – tik pusė darbo. Įdiegus agentus, saugumo komandoms būtina matyti, ką šie agentai daro ir kodėl. Tradiciniai saugos žurnalai vis dar naudingi analizuojant „Codex“ veiksmus, tačiau dažniausiai jie atsako tik į klausimą, kas įvyko: ar buvo paleistas procesas, pakeistas failas, ar bandyta užmegzti tinklo ryšį. Saugumo specialistams vis tiek tenka patiems aiškintis, kodėl „Codex“ kažką padarė arba kokie buvo naudotojo ketinimai.
Naudojant „Codex“, saugumo komandos gali daug geriau stebėti agentų veikimo specifiką. „Codex“ palaiko „OpenTelemetry“ žurnalų eksportavimą apie įvairius „Codex“ įvykius, pavyzdžiui, naudotojų užklausas, įrankių patvirtinimo sprendimus, įrankių vykdymo rezultatus, MCP serverių naudojimą ir tinklo tarpinio serverio leidimo ar blokavimo įvykius. „Codex“ veiklos žurnalai taip pat pasiekiami per „OpenAI“ atitikties platformą (angl. „OpenAI Compliance Platform“), skirtą „Enterprise“ ir „Edu“ klientams.
„OpenAI“ komanda „Codex“ žurnalus naudoja kartu su mūsų DI pagrįstu saugumo pirminio vertinimo agentu. Kai prieigos taško įspėjimas praneša apie neįprastą „Codex“ veiklą, prieigos taško apsaugos priemonė mus informuoja apie įtartiną įvykį. Tuomet „Codex“ žurnalai padeda paaiškinti su tuo susijusius naudotojo ir agento ketinimus. Mūsų DI pagrįstas saugumo pirminio vertinimo agentas naudoja „Codex“ žurnalus, kad patikrintų pradinę užklausą, įrankio veiklą, patvirtinimo sprendimus, įrankio rezultatus ir bet kokius susijusius tinklo politikos sprendimus ar blokavimus. Šis DI saugumo pirminio vertinimo agentas pateikia savo analizę mūsų saugumo komandai, kad ji galėtų atskirti numatytą agento elgseną, nepavojingas klaidas ir veiklą, dėl kurios iš tikrųjų būtina imtis tolesnių veiksmų.
Šią telemetriją taip pat naudojame kasdienėje veikloje. Šiuos žurnalus pasitelkiame norėdami suprasti, kaip keičiasi vidinis naudojimas, kokie įrankiai ir MCP serveriai naudojami, kaip dažnai tinklo bandomoji aplinka blokuoja procesus ar prašo patvirtinimo ir kur diegimo procesą dar reikia koreguoti. Šie „OpenTelemetry“ žurnalai gali būti centralizuotai kaupiami SIEM ir atitikties registravimo sistemose.
Programavimo agentams, tokiems kaip „Codex“, tampant kūrimo procesų dalimi, saugumo komandoms reikia priemonių, specialiai sukurtų šiam pokyčiui suvaldyti. „Codex“ suteikia valdymo sąsajas, konfigūracijų valdymą, bandomąją aplinką ir išsamią agentų telemetriją, reikalingą saugiam diegimui užtikrinti. Turėdamos šias galimybes, saugumo komandos gali drąsiau leisti naudoti „Codex“, derindamos kūrėjų produktyvumą su įmonės saugumui būtinu stebėjimu ir valdymu. Daugiau informacijos apie „Codex“ konfigūravimą rasite čia(atsidaro naujame lange), o apie atitikties API – čia(atsidaro naujame lange).
