Codexi turvaline kasutamine OpenAI-s
Ülevaade kontrollidest, piiridest ja telemeetriast, mida OpenAI kasutab kodeerimisagentide haldamiseks päris töövoogudes.
Kuna AI-süsteemid muutuvad võimekamaks, tegutsevad need üha enam kasutajate nimel. Kodeerimisagendid saavad iseseisvalt üle vaadata hoidlaid, käitada käske ja suhelda arendustööriistadega. Need on ülesanded, mis varem nõudsid otsest inimtegevust.
Codexiga oleme need võimekused kujundanud koos kontrollidega, mida organisatsioonid vajavad turvaliseks juurutamiseks. Turvatiimid vajavad viise, kuidas hallata agentide toimimist: millele nad pääsevad ligi, millal on vaja inimese heakskiitu, milliste süsteemidega nad tohivad suhelda ja milline telemeetria on olemas nende käitumise selgitamiseks.
OpenAI-s juurutame Codexi mõne selge eesmärgiga: hoida agent selgete tehniliste piiride sees, lasta arendajatel madala riskiga tegevustega kiiresti edasi liikuda ja teha kõrgema riskiga tegevused selgesõnaliseks. Säilitame ka agendipõhise telemeetria, et mõista ja auditeerida, mida agent tegi. Praktikas tähendab see hallatud konfiguratsiooni, piiratud täitmist, võrgupoliitikaid ja agendipõhiseid logisid.
Juurutame Codexi lihtsa põhimõtte järgi: see peaks olema tulemuslik piiritletud keskkonnas, madala riskiga igapäevased tegevused peaksid olema sujuvad ja kõrgema riskiga tegevused peaksid jääma ülevaatuseks seisma.
Heakskiidud ja liivakast toimivad koos. Liivakast määrab tehnilise täitmispiiri, sealhulgas selle, kuhu Codex saab kirjutada, kas see pääseb võrku ja millised teed jäävad kaitstuks. Heakskiidupoliitika määrab, millal peab Codex tegevuse tegemiseks luba küsima, näiteks siis, kui tal on vaja teha midagi väljaspool liivakasti. Kasutajad saavad tegevuse ühe korra heaks kiita või kiita selle tegevusetüübi selle seansi jaoks heaks.
Taotluste jaoks, mis ületavad liivakasti piiri, kasutame režiimi Auto-review(avaneb uues aknas), mis on funktsioon, mis sisselülitamisel kiidab teatud tüüpi taotlused automaatselt heaks, et vähendada seda, kui sageli kasutajad peavad peatuma ja Codexi tegevusi heaks kiitma. Codex saadab kavandatud tegevuse ja hiljutise konteksti automaatse heakskiidu alamagendile, mis saab kasutaja katkestamise asemel automaatselt heaks kiita madala riskiga tegevused – või kasutaja piisava volitustaseme korral kõrge riskiga tegevused. See hoiab Codexi rutiinse töö juures liikumas, peatudes siiski kõrgema riskiga tegevuste või soovimatute tagajärgedega tegevuste korral.
Me ei käita Codexi piiranguteta väljamineva juurdepääsuga. Meie hallatud võrgupoliitika lubab oodatud sihtkohad, blokeerib sihtkohad, kuhu me ei soovi, et Codex pääseks, ja nõuab tundmatute domeenide puhul heakskiitu. See võimaldab Codexil täita tavapäraseid, teadaolevalt häid töövooge ilma laia võrgujuurdepääsuta.
Haldame ka seda, kuidas Codex autentib. CLI ja MCP OAutent-mandaadid salvestatakse turvalisse operatsioonisüsteemi võtmehoidlasse, sisselogimine suunatakse kohustuslikult läbi ChatGPT ning juurdepääs seotakse meie ChatGPT enterprise'i tööjaamaga. See hoiab Codexi kasutuse seotud meie tööjaama taseme kontrollidega ja teeb Codexi tegevuse kättesaadavaks meie enterprise'i tööjaama ChatGPT Compliance Logs Platformis.
Kasutame reegleid, et Codex ei käsitleks iga shellikäsku võrdselt turvalisena. Levinud kahjutud käsud, mida insenerid igapäevases arenduses kasutavad, on väljaspool liivakasti ilma heakskiiduta lubatud ning konkreetsed ohtlikud käsud saab blokeerida või nende jaoks heakskiitu nõuda. See võimaldab Codexil tavapäraste inseneriülesannete juures kiiresti liikuda, sundides siiski üle vaatama või blokeerides mustreid, mida me ei soovi väljaspool liivakasti käivitada.
Rakendame seda lähenemist pilves hallatavate nõuete, macOS-i hallatud eelistuste ja kohalike nõuetefailide kombinatsiooni kaudu. Nõuded on administraatori jõustatud kontrollid, mida kasutajad ei saa tühistada. macOS-i hallatud eelistused ja kohalikud nõuetefailid võimaldavad meil hoida ühtset baastaset, testides samal ajal eri konfiguratsioone meeskonna, kasutajarühma või keskkonna kaupa. Need konfiguratsioonid kehtivad kõigil kohalikel Codexi kasutuspindadel, sealhulgas töölauarakenduses, CLI-s ja IDE laienduses.
Kontroll on vaid pool tööst. Kui agendid on juurutatud, vajavad turvatiimid nähtavust sellesse, mida need agendid teevad ja miks. Traditsioonilised turvalogid on endiselt kasulikud Codexi tehtud tegevuste vaatlemisel, kuid need vastavad enamasti küsimusele, mis juhtus: protsess käivitus, fail muutus, prooviti luua võrguühendust. Kaitsjad peavad endiselt välja selgitama, miks Codex midagi tegi või milline oli kasutaja kavatsus.
Codex saab anda turvatiimidele agentidest teadlikuma vaate. Codex toetab OpenTelemetry logide eksporti erinevate Codexi sündmuste jaoks, nagu kasutaja viibad, tööriistade heakskiiduotsused, tööriistade käivitamise tulemused, MCP-serveri kasutus ning võrguproksi luba- või keelusündmused. Codexi tegevuslogid on saadaval ka OpenAI Compliance Platformi kaudu Enterprise'i ja Edu klientidele.
OpenAI-s kasutame Codexi logisid koos oma AI-toega turvatriaaži agendiga. Kui lõpp-punkti hoiatus ütleb, et Codex tegi midagi ebatavalist, annab lõpp-punkti turbetööriist meile teada, et toimus kahtlane sündmus. Seejärel aitavad Codexi logid selgitada kasutaja ja agendi ümbritsevat kavatsust. Meie AI turvatriaaži agent kasutab Codexi logisid algse päringu, tööriistategevuse, heakskiiduotsuste, tööriistatulemuste ning iga asjakohase võrgupoliitika otsuse või bloki uurimiseks. AI turvatriaaži agent esitab oma analüüsi meie turvatiimile ülevaatuseks, et eristada oodatud agendikäitumist, kahjutuid eksimusi ja tegevust, mis tõesti nõuab eskaleerimist.
Kasutame sama telemeetriat ka operatiivselt. Kasutame neid logisid, et mõista, kuidas sisemine kasutuselevõtt muutub, milliseid tööriistu ja MCP-servereid kasutatakse, kui sageli võrguliivakast blokeerib või küsib kinnitust ning kus juurutus vajab veel häälestamist. Need OpenTelemetry logid saab koondada SIEM-i ja nõuetele vastavuse logimissüsteemidesse.
Kuna kodeerimisagendid, nagu Codex, integreeritakse arendustöövoogudesse, vajavad turvatiimid spetsiaalselt selle muutuse haldamiseks loodud tööriistu. Codex pakub juhtpindu, konfiguratsioonihaldust, liivakasti ja üksikasjalikku agenditeadlikku telemeetriat, mis on vajalik turvalise kasutuselevõtu tagamiseks. Kui need võimalused on paigas, saavad turvatiimid Codexi suurema kindlusega kasutusele võtta, tasakaalustades arendajate tööviljakuse ja ettevõtte turvalisuseks vajaliku nähtavuse ning kontrolli. Lisateavet Codexi seadistamise kohta leiab siit(avaneb uues aknas) ja Compliance API kohta siit(avaneb uues aknas).


