Codex-ийг OpenAI дээр аюулгүй ажиллуулах
Бодит ажлын урсгалд код бичих агентуудыг удирдахад OpenAI ашигладаг хяналт, хил хязгаар, телеметрийн тойм.
Хиймэл оюун ухааны системүүд илүү чадварлаг болохын хэрээр хэрэглэгчдийн өмнөөс улам бүр үйл ажиллагаа явуулж байна. Код бичих агентууд репозиторуудыг бие даан шалгаж, командуудыг ажиллуулж, хөгжүүлэлтийн хэрэгслүүдтэй харилцаж чадна. Эдгээр нь өмнө нь хүний шууд гүйцэтгэхийг шаарддаг байсан ажлууд юм.
Codex-ийн тусламжтайгаар бид эдгээр боломжуудыг байгууллагуудад аюулгүй байршуулахад шаардлагатай хяналтуудын хамт боловсруулсан. Аюулгүй байдлын багуудад агентууд хэрхэн ажилладагийг зохицуулах аргууд хэрэгтэй: тэд юунд хандаж болох, хүний зөвшөөрөл хэзээ шаардлагатай, ямар системүүдтэй харилцаж болох, тэдний зан авирыг тайлбарлахын тулд ямар телеметр байдаг.
OpenAI дээр бид Codex-ийг хэд хэдэн тодорхой зорилготойгоор байршуулдаг: агентыг тодорхой техникийн хил хязгаарт байлгах, хөгжүүлэгчдэд эрсдэл багатай үйлдлүүдийг хурдан хийх, эрсдэл өндөртэй үйлдлүүдийг тодорхой болгох. Бид мөн агентын юу хийснийг ойлгож, аудит хийх боломжтой байхын тулд агентын уугуул телеметрийг хадгалдаг. Практикт энэ нь удирддаг тохиргоо, хязгаарлагдмал гүйцэтгэл, сүлжээний бодлого, агентын төрөлх лог гэсэн үг юм.
Бид Codex-ийг хязгаарлагдмал орчинд бүтээмжтэй байх, эрсдэл багатай өдөр тутмын үйлдлүүд үрэлтгүй байх, эрсдэл өндөртэй үйлдлүүдийг хянаж үзэхээр зогсоох гэсэн энгийн зарчмаар ашигладаг.
Зөвшөөрөл болон элс хайрцаглалт нь хамтдаа ажилладаг. Sandbox нь техникийн гүйцэтгэлийн хил хязгаарыг тодорхойлдог бөгөөд үүнд Codex хаана бичиж болох, сүлжээнд хүрч чадах эсэх, аль замууд хамгаалагдсан хэвээр байх зэрэг орно. Зөвшөөрлийн бодлого нь Codex хэзээ үйлдэл хийхийг хүсэх ёстойг, тухайлбал хамгаалагдсан хязгаараас гадуур ямар нэгэн зүйл хийх шаардлагатай үед тодорхойлдог. Хэрэглэгчид үйлдлийг нэг удаа батлах эсвэл тухайн сессийн тухайн төрлийн үйлдлийг батлах боломжтой.
Sandbox-н хязгаараас давсан хүсэлтүүдэд бид Автоматаар хянах горим(шинэ цонхонд нээгдэнэ)-ыг ашигладаг. Үүнийг идэвхжүүлсэн үед тодорхой төрлийн хүсэлтүүдийг шууд зөвшөөрдөг бөгөөд ингэснээр хэрэглэгч Codex-ийн үйлдлүүдийг байнга зогсоож, баталгаажуулах шаардлагыг багасгадаг. Codex нь төлөвлөсөн үйлдэл болон сүүлийн үеийн контекст мэдээллийг хэрэглэгчийн ажлыг тасалдуулахын оронд эрсдэл багатай үйлдлүүдийг эсвэл хэрэглэгчийн зөвшөөрлийн түвшин хангалттай байгаа тохиолдолд өндөр эрсдэлтэй үйлдлүүдийг ч шууд баталгаажуулах чадвартайавтоматаар зөвшөөрөх туслах агент руу илгээдэг. Энэ нь Codex-д хэвшмэл, өдөр тутмын ажлуудаа саадгүй гүйцэтгэх боломжийг олгохын зэрэгцээ өндөр эрсдэлтэй эсвэл санаанд оромгүй үр дагавар дагуулж болзошгүй үйлдлүүд дээр үргэлжлүүлэн зогсож, хяналт тавих нөхцөлийг бүрдүүлдэг.
Бид Codex-ийг нээлттэй гадагшаа нэвтрэх эрхээр ажиллуулдаггүй. Манай удирддаг сүлжээний бодлого нь хүлээгдэж буй чиглэлүүдийг зөвшөөрч, Codex-д хүрэхийг хүсэхгүй байгаа чиглэлүүдийг хааж, танил бус домэйнуудад зөвшөөрөл шаарддаг. Энэ нь Codex-д өргөн сүлжээнд нэвтрэх эрх олгохгүйгээр нийтлэг, сайн мэддэг ажлын урсгалыг гүйцэтгэх боломжийг олгодог.
Бид Codex баталгаажуулалтаа хэрхэн хийхийг мөн удирддаг. CLI болон MCP OAuth итгэмжлэлүүд нь аюулгүй үйлдлийн системийн түлхүүрийн оосорт хадгалагддаг бөгөөд ChatGPT‑ээр дамжуулан нэвтрэхийг албадаж, хандалтыг манай ChatGPT байгууллагын ажлын талбарт бэхэлдэг. Энэ нь Codex хэрэглээг бидний ажлын талбарын түвшний хяналттай холбож, Codex үйл ажиллагааг манай байгууллагын ажлын талбарт зориулсан ChatGPT Compliance Logs Platform дээр ашиглах боломжтой болгодог.
Бид Codex нь shell команд бүрийг адилхан аюулгүй гэж үздэггүй тул дүрмийг ашигладаг. Инженерүүдийн өдөр тутмын хөгжүүлэлтэд ашигладаг нийтлэг хоргүй командуудыг хамгаалалтын хязгаараас гадуур зөвшөөрөлгүйгээр зөвшөөрдөг бөгөөд тодорхой аюултай командуудыг хааж эсвэл зөвшөөрөл шаардаж болно. Энэ нь Codex-д ердийн инженерийн ажлуудыг хурдан гүйцэтгэх боломжийг олгодог бөгөөд бидний хамгаалагдсан хязгаарлагдмал орчинд ажиллуулахыг хүсэхгүй байгаа загваруудыг хянах эсвэл хаахыг шаарддаг.
Бид энэ байрлалыг үүлэн удирдлагатай шаардлага, macOS-ийн удирдлагатай тохиргоо болон орон нутгийн шаардлагын файлуудын хослолоор дамжуулан хэрэгжүүлдэг. Шаардлагууд нь хэрэглэгчид дарж чадахгүй админаар хэрэгжүүлсэн хяналтууд юм. macOS-ийн удирддаг тохиргоо болон орон нутгийн шаардлагын файлууд нь баг, хэрэглэгчийн бүлэг эсвэл орчны дагуу янз бүрийн тохиргоог туршиж байх үед ч тогтвортой суурь түвшинг хадгалах боломжийг олгодог. Эдгээр тохиргоонууд нь ширээний програм, CLI болон IDE өргөтгөл зэрэг орон нутгийн Codex гадаргуу дээр хамаарна.
Хяналт бол ажлын зөвхөн тал хувь нь юм. Агентуудыг байрлуулсны дараа аюулгүй байдлын багууд эдгээр агентууд юу хийж байгааг, яагаад гэдгийг нь харах боломжтой байх шаардлагатай. Уламжлалт аюулгүй байдлын бүртгэлүүд нь Codex-ийн авсан үйлдлүүдийг харахад хэрэгтэй хэвээр байгаа боловч тэдгээр нь ихэвчлэн юу болсныг хариулдаг: процесс эхэлсэн, файл өөрчлөгдсөн, сүлжээнд холбогдох оролдлого хийгдсэн. Хамгаалагчид Codex яагаад ямар нэгэн зүйл хийснийг эсвэл хэрэглэгчийн санааг олж мэдэх л үлдлээ.
Codex нь аюулгүй байдлын багуудад агентын талаар илүү мэдлэгтэй харагдах байдлыг өгч чадна. Codex нь хэрэглэгчийн өгөгдөл, хэрэгслийн зөвшөөрлийн шийдвэр, хэрэгслийн гүйцэтгэлийн үр дүн, MCP серверийн хэрэглээ, сүлжээний проксигийн зөвшөөрөх эсвэл татгалзах үйл явдлууд гэх мэт янз бүрийн Codex үйл явдлуудад зориулсан OpenTelemetry бүртгэлийн экспортыг дэмждэг. Codex үйл ажиллагааны бүртгэлийг Enterprise болон Edu хэрэглэгчдэд зориулсан OpenAI Compliance Platform-оор дамжуулан авах боломжтой.
OpenAI дээр бид AI-ээр ажилладаг аюулгүй байдлын гурвалсан агенттайгаа зэрэгцэн Codex бүртгэлийг ашигладаг. Эцсийн цэгийн сэрэмжлүүлэг нь Codex ер бусын зүйл хийсэн гэж хэлэхэд, эцсийн цэгийн аюулгүй байдлын хэрэгсэл нь сэжигтэй үйл явдал болсон гэж бидэнд мэдэгддэг. Дараа нь Codex бүртгэлүүд нь хэрэглэгч болон агентаар эргэн тойрны санааг тайлбарлахад тусалдаг. Манай хиймэл оюун ухааны аюулгүй байдлын ангиллын агент нь анхны хүсэлт, хэрэгслийн үйл ажиллагаа, батлах шийдвэр, хэрэгслийн үр дүн болон холбогдох сүлжээний бодлогын шийдвэр эсвэл хаалтыг шалгахын тулд Codex логуудыг ашигладаг. Хиймэл оюун ухааны аюулгүй байдлын ангиллын агент нь агентын хүлээгдэж буй зан байдал, хор хөнөөлгүй алдаа, эскалацияг үнэхээр шаардаж буй үйл ажиллагааг ялгахын тулд шинжилгээгээ манай аюулгүй байдлын багт хянуулахаар танилцуулдаг.
Бид бас ижил телеметрийг үйл ажиллагаандаа ашигладаг. Бид эдгээр бүртгэлийг ашиглан дотоод хэрэглээ хэрхэн өөрчлөгдөж байгааг, ямар хэрэгслүүд болон MCP серверүүдийг ашиглаж байгааг, сүлжээний хамгаалагдсан хязгаарлагдмал орчин хэр олон удаа хааж эсвэл өдөөж байгааг, мөн нэвтрүүлэлтийг хаана тохируулах шаардлагатай байгааг ойлгоход ашигладаг. Эдгээр OpenTelemetry бүртгэлийг SIEM болон нийцлийн бүртгэлийн системд төвлөрүүлж болно.
Codex зэрэг код бичих агентууд хөгжүүлэлтийн ажлын урсгалд нэгдэхийн хэрээр аюулгүй байдлын багуудад энэ шилжилтийг удирдахад тусгайлан зориулсан хэрэгслүүд хэрэгтэй болдог. Codex нь аюулгүй нэвтрүүлэлтийг хангахын тулд шаардлагатай хяналтын гадаргуу, тохиргооны удирдлага, хамгаалагдсан орчин болон агентын мэдээлэлд суурилсан нарийвчилсан телеметрийг хангадаг. Эдгээр боломжуудыг ашигласнаар аюулгүй байдлын багууд Codex-ийг илүү итгэлтэйгээр идэвхжүүлж, хөгжүүлэгчийн бүтээмжийг байгууллагын аюулгүй байдалд шаардлагатай харагдах байдал болон хяналттай тэнцвэржүүлж чадна. Codex-ийг тохируулах талаар дэлгэрэнгүй мэдээллийг эндээс(шинэ цонхонд нээгдэнэ), Compliance API-г эндээс(шинэ цонхонд нээгдэнэ) авах боломжтой.
