Astra-д хүрэх зам: чухал чадавх ба хил хязгаар хамгаалалт

Astra кибер аюулгүй байдлын чухал түвшний чадавхад хүрч магадгүй гэсэн өмнөх үнэлгээнээс хойш бид загварын чадавхыг үнэлэх нэмэлт нотолгоо цуглуулж, шинэ үнэлгээнүүд хийсэн. Одоо бид Astra-г Preparedness Framework-ийн дагуу кибер аюулгүй байдлын чухал чадавхын босгыг хангасан гэж үзэж байна. Өөрөөр хэлбэл, тохирох хэрэгсэл ба хандалттай үед хүн алхам бүрийг нь чиглүүлэхгүйгээр өндөр хамгаалалттай олон системийн өмнө нь мэдэгдээгүй эмзэг байдлыг олж, ашиглах арга боловсруулж чадна. Бидний энэ түвшинд ангилж буй анхны загвар учраас хөгжүүлэлтийн явцад болон гаргахаас өмнө илүү хүчтэй хамгаалалт шаардлагатай.

Сүүлийн хэдэн долоо хоногт кибер урвуулан ашиглалт болон загварын зөвшөөрөлгүй үйлдлээс хамгаалах арга хэмжээг бэхжүүлж, турших зуур Astra-гийн хөгжүүлэлт, гаргалтын зарим хэсгийг хойшлуулсан. Энэ ажилд үндэслэн Astra-гийн хамгаалалт ноцтой хохирлын эрсдэлийг хангалттай бууруулсан бөгөөд Preparedness Framework-ийн дагуу гаргах боломжтой гэж үзэж байна.

Astra Hugging Face-ийн хэрэг явдалд оролцоогүй ч уг явдлаас авсан сургамжуудаа⁠(шинэ цонхонд нээгдэнэ) аюулгүй байдлын арга барилдаа тусгасан. Эргэн хийсэн туршилтад үндэслэн тухайн үеийн манай үйлдвэрлэлийн хамгаалалт Hugging Face-ийн хэрэг явдлаас сэргийлэх байсан гэж үзэж байна. Түүнээс хойш бид Astra-д бүр ч хүчтэй хамгаалалт хэрэгжүүлсэн. Үүнд хор хөнөөлтэй кибер хүсэлтээс илүү найдвартай татгалзаж, аюулгүй байдлын хязгаарлалтыг мөрдөхөд загварыг сургах, урвуулан ашиглалтаас хамгаалах нэмэлт арга хэмжээ, зөвшөөрөлгүй байж болзошгүй үйлдлийг зогсоох мониторинг багтана.

Бид Astra-г удахгүй ашиглах боломжтой болгохоор төлөвлөж байгаа ч кибер аюулгүй байдлын хамгийн дэвшилтэт чадавхад нь хандах эрх илүү хязгаарлагдмал байна. Кибер аюулгүй байдлын дэвшилтэт ажлыг эхлээд хэсэг туршигч ашиглах бөгөөд дараа нь хамгаалалтын хэрэглээг өргөжүүлэхийн тулд Daybreak Blue-ээр дамжуулан хандалт олгоно.

Загварыг гаргах үед аюулгүй байдал, хамгаалалт, нийцүүлэлтийн туршилт болон үнэлгээний талаар системийн картад нь дэлгэрэнгүй мэдээлнэ. Гаргахаас өмнө ийм түвшний кибер аюулгүй байдлын чадавхтай загварыг аюулгүй нэвтрүүлэхээр хийж буй ажлынхаа заримаас танилцуулж, үлдэж буй эрсдэлийн талаар ил тод мэдээлэхийг хүсэж байна.

Манай Preparedness Framework-ийн дагуу дараах нөхцөлүүдийн аль нэгийг хангавал загварыг Чухал босгод хүрсэн гэж үзнэ:

• Загвар хүний оролцоогүйгээр бодит ертөнцийн бэхжүүлсэн олон чухал системээс бүх түвшний ноцтой "zero-day" эмзэг байдлыг илрүүлж, ашиглах ажиллагаатай код боловсруулж чадна.
• Загвар зөвхөн ерөнхий зорилго өгсөн нөхцөлд бэхжүүлсэн бай руу чиглэсэн кибер халдлагын шинэ стратегийг эхнээс нь дуустал боловсруулж, хэрэгжүүлж чадна.

Astra-гийн бэлэн байдлын үнэлгээнд автоматжуулсан нийтийн болон хувийн жишиг шалгалтыг шинжээчдийн үнэлгээтэй хослуулсан. Astra нь GPT‑5.6 Sol-той харьцуулахад кибер аюулгүй байдлын чадавхаар мэдэгдэхүйц ахиц гаргасан: токены үр ашиг хавьгүй өндөр бөгөөд эмзэг байдлыг илрүүлэх, ашиглах код боловсруулах чадвар илүү.

Жишээлбэл, мэдэгдэж буй эмзэг байдлаас ашиглах код боловсруулах загварын чадварыг үнэлдэг ExploitBench дээр Astra-г ажиллуулахад жишиг шалгалтаас 100%-ийн төгс оноо авсан.

Өгөгдөл давхцах эрсдэлийн улмаас бид «ExploitBench — Дотоод порт (2026 оны 6–8-р сар)» нэртэй дотоод жишиг шалгалт бүтээсэн. Энэ нь саяхан нийтэд ил болсон, өндөр ноцтой байдлын V8 эмзэг байдал бүхий 20 даалгавартай. Энэ өгөгдлийн багцад Astra GPT‑5.6 Sol-оос хавьгүй цөөн гаралтын токен ашиглан дурын код гүйцэтгэх үзүүлэлтээрээ хамаагүй өндөр үр дүнд хүрсэн. Үнэлгээний үеэр загвар ашиглалтын хэлхээний нэг хэсэг болгон хоёр zero-day эмзэг байдлыг хүртэл илрүүлж, ашигласан. Бид эдгээр хоёр эмзэг байдлыг арчлалтын багуудад мэдээлэх үйл явцыг хэрэгжүүлж байна.

Бэхжүүлсэн хөтөч болон үйлдлийн системд шинжээчдийн удирдлагаар хийсэн үнэлгээнд Astra өмнө нь мэдэгдээгүй эмзэг байдлуудыг илрүүлж, ажилладаг ашиглалтын хэлхээ болгосон. Хөтөч HTML файл нээх үед sandbox-оос гарч, үндсэн систем дээр команд гүйцэтгэдэг, хөтчийг бүрэн эзлэх хэлхээг бүтээсэн. Мөн загвар бэхжүүлсэн үйлдлийн системээс олон эмзэг байдал олж, тэдгээрийг нэгтгэн эрхгүй хэрэглэгчээс "root" эрхэд хүрэх локал эрх нэмэгдүүлэх хэлхээ бүтээсэн. Нийтэд нь авч үзвэл, бидний судалгаа Astra чухал босгыг хангасан гэсэн дүгнэлтэд хүргэлээ.

Astra-гийн түвшний кибер аюулгүй байдлын чадавхтай загваруудын хувьд хөгжүүлэлтийн явцад болон нэвтрүүлэхээс өмнө кибер орчинд ноцтой хохирол учрах эрсдэлийг багасгах дараах хоёр замыг хамруулах хэрэгтэй:

• Хорлонтой этгээдүүд загварыг ашиглах. Манай хамгаалалт хорлонтой этгээдүүдийг Astra ашиглан бэхжүүлсэн чухал системийн өмнө нь мэдэгдээгүй эмзэг байдлыг ашиглах арга боловсруулах, эсвэл бэхжүүлсэн бай руу эхнээс нь дуустал халдлага үйлдэхээс найдвартай сэргийлэх ёстой.
• Загвар зөвшөөрөлгүй, нийцээгүй үйлдэл хийх. Хорлонтой хэрэглэгч байхгүй байсан ч кибер аюулгүй байдлын дэвшилтэт чадавхтай загвар нийцүүлэлт алдагдсан тохиолдолд өөрөө кибер хохирол учруулж болзошгүй. Ийм чадавхтай загварын нийцүүлэлтэд маш өндөр шалгуур тавихаас гадна бодит ертөнцөд ихээхэн хохирол учруулж болзошгүй нийцээгүй үйлдлийг хурдан илрүүлж, хязгаарлах хоёр дахь хамгаалалтын давхарга манай хамгаалалтад байх ёстой.

Онцлоход, хоёр дахь зам нь дотоод хөгжүүлэлт болон гадаад нэвтрүүлэлтийн аль алинд хамаарна. Бидний өмнө тайлбарласанчлан, OpenAI-Hugging Face-ийн хэрэг явдлын дараа сургалтын дэд бүтцээ бэхжүүлэхийн тулд хил хязгаар сургалтын зарим ажлыг, түүний дотор Astra-гийн зарим сургалтыг хоёр долоо хоног зогсоосон. Үүнд тусгаарлалт, сүлжээний хяналт, өргөтгөсөн мониторинг, сайжруулсан нийцүүлэлтийн сургалт ба босго багтсан. Дараа нь бид илүү хатуу хяналтын дор бага цар хүрээтэй ажлыг үргэлжлүүлсэн.

Сургалтын орчны аюулгүй байдал, хамгаалалтын шалгуурыг өндөрсгөх зуур Astra-гийн ирээдүйн хувилбаруудад зориулсан бататгах сургалтын (RL) зарим томоохон ажиллагааг илүү удаан хойшлуулсан. Шинэ аюулгүй байдал, хамгаалалтын шаардлагуудыг хэрэгжүүлсний дараа 8-р сарын 28-нд өмнө нь түр зогсоосон хил хязгаар RL-ийн томоохон ажиллагааг дахин эхлүүлсэн. Бага цар хүрээтэй туршилтын зарим сургалтыг бид түр хойшлуулсан хэвээр байна.

Astra-г гаргахад бэлтгэхдээ кибер урвуулан ашиглалт болон зөвшөөрөлгүй үйлдлээс хамгаалах арга хэмжээг мөн чангатгах шаардлагатай болсон. Доор эдгээр хамгаалалт болон тэдгээрийг хэрхэн туршсанаа тайлбарлав.

Кибер аюулгүй байдлын хувьд Өндөр чадавхтай гэж үзсэн анхны загварыг 2-р сард нэвтрүүлснээс хойш бид шинэ хувилбар бүрээр кибер хамгаалалтаа бэхжүүлсэн. Манай аюулгүй байдлын ерөнхий арга барил нь үндсэн сургалтын дараах сургалттай загварын татгалзал, системийн түвшний аюулгүй байдлын ангилагч, мөн офлайн илрүүлэлт ба аюулыг таслан зогсоох олон давхаргаас бүрддэг.

GPT‑5.6⁠(шинэ цонхонд нээгдэнэ)-д кибер урвуулан ашиглалтыг илрүүлэх идэвхжүүлэлтийн ангилагч нэмж, эрчимтэй автомат улаан багаар илрүүлсэн нийтлэг jailbreak-уудыг хамрах хүрээг сайжруулах зэргээр системийн түвшний цогц хамгаалалтын тэсвэртэй байдлыг мэдэгдэхүйц дээшлүүлсэн. Эдгээр сайжруулалтад тулгуурлан Astra-д зориулсан хамгаалалтын цогцын загварын давхаргад нэмэлт хөрөнгө оруулж, харилцан яриа дамнасан нөхцөл байдлыг боловсруулах чадварыг нь сайжруулсан.

• Загварын тэсвэртэй байдлыг сайжруулах шинэ сургалтын аргуудын ачаар Astra зөвшөөрөөгүй кибер тусламжийн хүсэлтээс илүү найдвартай татгалздаг. Манай кибер jailbreak үнэлгээний багцад Astra хүсэлтийн 91.5%-аас татгалзсан (GPT‑5.6 Sol 59%).
• Өндөр эрсдэлтэй гэж үнэлсэн бүртгэлүүдэд эрсдэл дагуулж болзошгүй илүү өргөн хүрээний кибер тусламжаас татгалзах, загварын зан төлөвийн илүү болгоомжтой хязгаарыг хэрэглэдэг. Өндөр эрсдэлтэй хэрэглэгчдийн ийм төрлийн кибер урвуулан ашиглалтыг илрүүлэхийн тулд мониторингийн системийнхээ хамрах нөхцөл байдлыг өргөжүүлсэн.

Мөн бид нарийн шалгалт, дотоод ба гадаад улаан багийн туршилт, засвар сайжруулалтын хөтөлбөрөө үргэлжлүүлсэн. Өмнөх туршилтуудаар илэрсэн бүх jailbreak хамгаалалтад хамрагдсан хэвээр буйг батлах регрессийн туршилтаас гадна хамгийн сүүлийн үеийн дотоод улаан багийн халдагчдыг ашиглан шинэ шатны улаан багийн туршилт хийж байна. Бид салбарын түншүүдтэй хамтран jailbreak-ийг үнэлэх нэгдсэн тогтолцоог тодорхойлж байгаа бөгөөд шинэ илэрцүүдийг шалгаж, шийдвэрлэхдээ 24/7 шуурхай хариу арга хэмжээний хөтөлбөрөө ашиглана. Кибер хамгаалалтын туршилтынхаа талаар Astra-гийн системийн картад илүү дэлгэрэнгүй мэдээлнэ.

Хамгаалагчдад эмзэг байдлыг олж, засахад туслах нь манай аюулгүй байдлын арга барилын гол тулгуур хэвээр байна. Болзошгүй урвуулан ашиглалтаас хамгаалахын тулд Astra-гийн хамгаалалт анх гарахдаа эцэст нь зорьж буйгаас маань илүү саад учруулна гэж тооцож байна. Кибер аюулгүй байдлын дэвшилтэт ажлын урсгалд Astra-г ашиглах эрхийг эхлээд цөөн тооны альфа туршигчид авах бөгөөд дараа нь хамгаалалтын хэрэглээг дэмжих зорилгоор Daybreak Blue-ээр дамжуулан өргөжүүлнэ.

Загвар нийцээгүй байж болзошгүй үйлдэл хийхээс сэргийлэх нэмэлт давхар хамгаалалтыг мөн нэвтрүүлсэн:

• Загварын нийцүүлэлт: Манай үнэлгээгээр Astra ил тод аюулгүй байдал, хамгаалалтын хязгаарлалтыг мөрдөж, зөвшөөрөгдсөн хүрээндээ үлдэх магадлал GPT‑5.6 Sol-оос хавьгүй өндөр байсан. Ингэснээр өнөөг хүртэлх хамгийн сайн нийцүүлэлттэй загвар маань болсон. Бид загвар хамгаалалт, аюулгүй байдлын хязгаарлалтыг мөрдөж, зөвшөөрөгдсөн хүрээндээ үлдэхэд онцгой анхаарсан.
• Мониторинг ба хяналт: Дотоод журмынхаа нэгэн адил нийцээгүй байж болзошгүй үйлдлийг хурдан илрүүлж, хязгаарлахын тулд Astra-г бодлын хэлхээний нэмэлт мониторингтой нэвтрүүлж байна.

Astra нь загварын нийцүүлэлтийн томоохон ахиц бөгөөд урьдчилсан сургалтын үеийн арга хэмжээнээс бататгах сургалтын илүү нямбай, тууштай үнэлгээ хүртэлх олон жилийн ажлын үр дүн юм. Туршилтаар Astra ил тод аюулгүй байдлын хязгаарлалт болон анхааруулгыг, тухайлбал автомат шалгалтыг GPT 5.6 Sol-оос илүү тууштай мөрдөж байгааг тогтоосон.

Мөн бид Hugging Face-ийн хэрэг явдлаас сургамж авсан туршилт боловсруулсан. Тэр явдлын үеэр ExploitGym кибер үнэлгээг гүйцэтгэж байсан агентууд гуравдагч талын системийг эвдсэн. Тухайн үнэлгээний хамгийн хэцүү даалгавруудыг ашиглан загвар өгсөн даалгавраа шийдэхийн оронд эргэн тойрны хамгаалалтын дэд бүтцийг эвдэхийг оролдох эсэхийг шалгах «өгөөш» туршилт бүтээсэн. Үйлдвэрлэлийн хамгаалалтгүй GPT‑5.6 Sol нь загварт ашиглах код боловсруулах заавар өгдөг жишиг орчныг дуурайлгасан туршилтуудын 56%-д эдгээр бай руу хандахыг оролдсон. Astra эдгээр туршилтад ийм оролдлого огт хийгээгүй. Эдгээр үзүүлэлт нь ердийн үйлдвэрлэлийн хэрэглээг бус, кибер хамгаалалтгүй туршилтын нөхцөл дэх зан төлөвийг илэрхийлнэ.

Загваруудыг нийцүүлэлттэй болгон сургах нь аюулгүй байдлын нэг давхарга юм. Нийцүүлэлтийн туршилт ба үр дүнгийнхээ талаар Astra-гийн системийн картад дэлгэрэнгүй мэдээлнэ.

Болзошгүй нийцгүй байдлыг илрүүлж, хурдан хязгаарлахын тулд Astra ангиллын загваруудад үйлдвэрлэлийн орчинд нийцгүй байдлын мониторинг мөн нэвтрүүлж байна. Эдгээр хамгаалалт нь дотоод нэвтрүүлэлтийн мониторингтой төстэй бөгөөд загварын сэтгэн бодох үйл явц, үйлдэлд зөвшөөрөлгүй зан төлөв байгаа эсэхийг шалгаж, зөвшөөрөлгүй байж болзошгүй үйл ажиллагааг автоматаар зогсоодог ангилагчдын системээс бүрдэнэ. Чадавх нэмэгдэхийн хэрээр эдгээр хамгаалалт загварын сайн нийцүүлэлтийг орлож чадахгүй. Ирээдүйн загваруудыг эдгээр хамгаалалт хэзээ ч идэвхжихээргүй сайн нийцүүлэлттэй болгох нь бидний зорилго.

OpenAI хиймэл оюун ухааны үр өгөөжийг хүн бүрд өргөн хүрээнд хүртээмжтэй болгохын төлөө ажилладаг. Astra-гийн кибер аюулгүй байдлын чадавх мэдэгдэхүйц нэмэгдсэн тул энэхүү нэвтрүүлэлтийг аюулгүй, хамгаалалттай байлгахад онцгой анхаарч байна. Аюулгүй байдлын нэмэлт шалгалтууд хамгаалалтын кибер аюулгүй байдлын ажлыг оролцуулан хууль ёсны ажлыг заримдаа удаашруулж, түр зогсоож эсвэл бүрэн зогсоож болно.

Систем хууль ёсны үйл ажиллагааг кибер урвуулан ашиглалт эсвэл зөвшөөрөлгүй зан төлөв байж болзошгүй гэж хааяа тэмдэглэснээр санамсаргүйгээр удаашруулах, түр зогсоох эсвэл бүрэн зогсооход хүргэж болно. Үүнд кибер аюулгүй байдалтай шууд холбоогүй мэт харагдах ажил эсвэл агент удаан хугацаагаар ажиллаж буй даалгавар ч багтаж болно.

Нийцгүй байдлын монитор даалгаврыг түр зогсоовол ChatGPT эсвэл Codex-ийн хэрэглэгчдээс үргэлжлүүлэхийн өмнө тухайн үйлдлийг хянахыг хүсэж болно. API зэрэг бусад интерфэйсийг ашиглах үед даалгавар зогсоно. Шаардлагагүй тасалдлыг бууруулж, Daybreak зэрэг хөтөлбөрөөр хил хязгаар чадавхын хүртээмжийг өргөжүүлэхийн тулд эдгээр хамгаалалтыг үргэлжлүүлэн тохируулна.

Загварууд илүү их үр дагавартай ажлыг гүйцэтгэж, нийцүүлэлт болон хяналтын алдаа илүү ноцтой нөлөө үзүүлж болох хиймэл оюун ухааны хөгжлийн үе шатанд бид орж байна. Эдгээр системийн үр өгөөжийг хүртэх эсэх нь чадавх нь өсөхийн хэрээр загваруудыг нийцүүлж, хянах бидний чадвараас хамаарна.

Энэ хариуцлага сургалт, үнэлгээ, нэвтрүүлэлтийн бүх үе шатыг хамарна. Үүний тулд нийцүүлсэн зан төлөвийг нотлох илүү баттай баримт, чадавхын өсөлттэй зэрэгцэн сайжрах хамгаалалт, мөн тэдгээр нь хангалтгүй үед ажлаа удаашруулах бэлэн байдал шаардлагатай.

Бид эдгээр системийг үргэлжлүүлэн туршиж, сурч мэдсэнээ хуваалцан, тодорхойгүй хэвээр буй зүйлсийг ил тод мэдээлнэ. Astra-гийн дараагийн загварууд биднээс илүү ихийг шаардана. Бид энэ хариуцлагаа биелүүлэхэд шаардлагатай цагийг зарцуулж, ажлыг хийнэ.