Codexin turvallinen käyttö OpenAIlla
Katsaus ohjauskeinoihin, rajoihin ja telemetriaan, joilla OpenAI hallitsee koodausagentteja todellisissa työnkuluissa.
Kun tekoälyjärjestelmät kehittyvät yhä kyvykkäämmiksi, ne toimivat yhä useammin käyttäjien puolesta. Koodausagentit voivat itsenäisesti tarkistaa repositorioita, suorittaa komentoja ja käyttää kehitystyökaluja. Nämä ovat tehtäviä, jotka aiemmin edellyttivät suoraa ihmisen suorittamaa toimintaa.
Codexin kanssa olemme suunnitelleet nämä ominaisuudet yhdessä niiden hallintakeinojen kanssa, joita organisaatiot tarvitsevat turvalliseen käyttöönottoon. Tietoturvatiimit tarvitsevat keinoja hallita agenttien toimintaa: mitä ne voivat käyttää, milloin ihmisen hyväksyntä vaaditaan, minkä järjestelmien kanssa ne voivat olla vuorovaikutuksessa ja millaista telemetriaa on saatavilla niiden toiminnan selittämiseksi.
OpenAIlla otamme Codexin käyttöön muutaman selkeän tavoitteen pohjalta: pidämme agentin selkeiden teknisten rajojen sisällä, annamme kehittäjien edetä nopeasti vähäriskisissä toimissa ja teemme korkeamman riskin toimista eksplisiittisiä. Säilytämme myös agenttinatiivin telemetrian, jotta ymmärrämme ja voimme auditoida, mitä agentti teki. Käytännössä tämä tarkoittaa hallittua konfigurointia, rajoitettua suoritusta, verkkokäytäntöjä ja agenttinatiiveja lokeja.
Otamme Codexin käyttöön yksinkertaisella periaatteella: sen tulee olla tuottava rajatussa ympäristössä, vähäriskisten arkipäiväisten toimien tulee sujua kitkattomasti ja korkeamman riskin toimien tulee pysähtyä tarkistettaviksi.
Hyväksynnät ja hiekkalaatikointi toimivat yhdessä. Hiekkalaatikko määrittää teknisen suoritusrajan, mukaan lukien sen, minne Codex voi kirjoittaa, voiko se käyttää verkkoa ja mitkä polut pysyvät suojattuina. Hyväksyntäkäytäntö määrittää, milloin Codexin on pyydettävä lupaa toiminnon suorittamiseen, esimerkiksi silloin kun sen on tehtävä jotain hiekkalaatikon ulkopuolella. Käyttäjät voivat hyväksyä toiminnon kerran tai hyväksyä kyseisen toimintotyypin kyseisen istunnon ajaksi.
Hiekkalaatikon rajat ylittävien pyyntöjen osalta käytämme automaattisen tarkistuksen tilaa(avautuu uudessa ikkunassa). Se on ominaisuus, joka käyttöön otettuna hyväksyy automaattisesti tietyntyyppisiä pyyntöjä, jotta käyttäjien tarvitsee harvemmin keskeyttää työnsä ja hyväksyä Codexin toimintoja. Codex lähettää suunnitellun toiminnon ja viimeisimmät kontekstitiedot automaattisen hyväksynnän aliagentille, joka voi hyväksyä automaattisesti matalan riskin toiminnot – tai korkean riskin toiminnot, jos käyttäjän valtuutustaso on riittävä – käyttäjän keskeyttämisen sijaan. Näin Codex voi jatkaa rutiinitehtäviä, mutta se pysähtyy silti korkeampien riskien tai tahattomia seurauksia aiheuttavien toimintojen kohdalla.
Emme käytä Codexia avoimella ulospäin suuntautuvalla pääsyllä. Hallittu verkkokäytäntömme sallii odotetut kohteet, estää kohteet, joihin emme halua Codexin pääsevän, ja vaatii hyväksynnän tuntemattomille toimialueille. Tämä antaa Codexille mahdollisuuden suorittaa yleisiä, tunnetusti turvallisia työnkulkuja ilman laajaa verkkopääsyä.
Hallinnoimme myös sitä, miten Codex todennetaan. CLI:n ja MCP:n OAuth-tunnistetiedot tallennetaan käyttöjärjestelmän turvalliseen avainnippuun, kirjautuminen pakotetaan ChatGPT:n kautta, ja pääsy sidotaan ChatGPT Enterprise -työtilaamme. Tämä pitää Codexin käytön sidottuna työtilatason hallintakeinoihimme ja tekee Codexin toiminnasta näkyvää ChatGPT Compliance Logs Platformissa enterprise-työtilaamme varten.
Käytämme sääntöjä, jotta Codex ei kohtele jokaista shell-komentoa yhtä turvallisena. Yleiset harmittomat komennot, joita insinöörit käyttävät päivittäisessä kehitystyössä, sallitaan ilman hyväksyntää hiekkalaatikon ulkopuolella, ja tietyt vaaralliset komennot voidaan estää tai niihin voidaan vaatia hyväksyntä. Tämä antaa Codexille mahdollisuuden edetä nopeasti tavallisissa ohjelmistokehitystehtävissä, mutta pakottaa silti tarkistukseen tai estää toimintamallit, joita emme halua ajettavan hiekkalaatikon ulkopuolella.
Toteutamme tämän toimintamallin pilvihallittujen vaatimusten, macOS:n hallittujen asetusten ja paikallisten vaatimus tiedostojen yhdistelmällä. Vaatimukset ovat järjestelmänvalvojan pakottamia hallintakeinoja, joita käyttäjät eivät voi ohittaa. macOS:n hallitut asetukset ja paikalliset vaatimus tiedostot antavat meille mahdollisuuden säilyttää yhtenäinen peruslinja ja samalla testata erilaisia kokoonpanoja tiimin, käyttäjäryhmän tai ympäristön mukaan. Nämä kokoonpanot koskevat kaikkia paikallisia Codex-pintoja, mukaan lukien työpöytäsovellus, CLI ja IDE-laajennus.
Hallinta on vain puolet työstä. Kun agentit on otettu käyttöön, tietoturvatiimit tarvitsevat näkyvyyttä siihen, mitä nämä agentit tekevät ja miksi. Perinteiset tietoturvalokit ovat edelleen hyödyllisiä tarkasteltaessa Codexin tekemiä toimia, mutta ne vastaavat enimmäkseen siihen, mitä tapahtui: prosessi käynnistyi, tiedosto muuttui, verkkoyhteyttä yritettiin muodostaa. Puolustajien tehtäväksi jää silti selvittää, miksi Codex teki jotain, tai mikä käyttäjän tarkoitus oli.
Codex voi antaa tietoturvatiimeille enemmän agenttitietoisen näkymän. Codex tukee OpenTelemetry-lokien vientiä erilaisille Codex-tapahtumille, kuten käyttäjän kehotteille, työkalujen hyväksyntäpäätöksille, työkalujen suoritus tuloksille, MCP-palvelimen käytölle sekä verkkovälityspalvelimen salli- tai estotapahtumille. Codexin toimintalokit ovat saatavilla myös OpenAI Compliance Platformin kautta Enterprise- ja Edu-asiakkaille.
OpenAIlla käytämme Codex-lokeja yhdessä tekoälypohjaisen tietoturvan luokitteluagenttimme kanssa. Kun päätepistehälytys kertoo, että Codex teki jotain epätavallista, päätepistetietoturvatyökalu kertoo meille, että epäilyttävä tapahtuma sattui. Codex-lokit auttavat sitten selittämään käyttäjän ja agentin ympäröivää tarkoitusta. Tekoälypohjainen tietoturvan luokitteluagenttimme käyttää Codex-lokeja alkuperäisen pyynnön, työkalutoiminnan, hyväksyntäpäätösten, työkalutulosten sekä mahdollisten olennaisten verkkokäytäntöpäätösten tai estojen tarkasteluun. Tekoälypohjainen tietoturvan luokitteluagentti tuo analyysinsä tietoturvatiimimme arvioitavaksi, jotta voidaan erottaa odotettu agentin toiminta, harmittomat virheet ja toiminta, joka todella vaatii eskalointia.
Käytämme samaa telemetriaa myös operatiivisesti. Käytämme näitä lokeja ymmärtääksemme, miten sisäinen käyttöönotto muuttuu, mitä työkaluja ja MCP-palvelimia käytetään, kuinka usein verkkohiekkalaatikko estää tai kehottaa ja missä käyttöönotto vaatii vielä hienosäätöä. Nämä OpenTelemetry-lokit voidaan keskittää SIEM- ja vaatimustenmukaisuuslokijärjestelmiin.
Kun Codexin kaltaiset koodausagentit integroituvat kehitystyön työnkulkuihin, tietoturvatiimit tarvitsevat työkaluja, jotka on suunniteltu erityisesti tämän muutoksen hallintaan. Codex tarjoaa hallintapinnat, konfiguraation hallinnan, hiekkalaatikoinnin ja yksityiskohtaisen agenttitietoisen telemetrian, joita tarvitaan turvallisen käyttöönoton varmistamiseen. Kun nämä valmiudet ovat käytössä, tietoturvatiimit voivat ottaa Codexin käyttöön aiempaa luottavaisemmin ja tasapainottaa kehittäjien tuottavuuden yritystason tietoturvan edellyttämän näkyvyyden ja hallinnan kanssa. Lisätietoja Codexin määrittämisestä löytyy täältä(avautuu uudessa ikkunassa), ja Compliance API:sta täältä(avautuu uudessa ikkunassa).
