GPT‑6 Cyber: Зорилготой нийцсэн кибер аюулгүй байдлын агентуудын боломжийг тэлэх нь

Аюулгүй байдлын судалгаанд томоохон ахиц авчрах GPT‑6 Cyber-ийг танилцуулж байна. Энэ нь эмзэг байдлыг илрүүлж, засах илүү өндөр чадвартай бөгөөд судлаачдын тогтоосон хязгаарыг хавьгүй найдвартай баримталдаг. GPT‑6 Cyber нь кибер аюулгүй байдлын гол жишиг сорилуудад GPT‑5.6 Cyber-ээс мэдэгдэхүйц ахисан. Тухайлбал, ExploitGym-ийн үзүүлэлт харьцангуйгаар 51% сайжирч, тогтоосон хүрээг баримтлах туршилтад эрс ахиц үзүүлсэн. Энэ нь Linux, Firefox зэрэг аюулгүй байдалд чухал үүрэгтэй кодын сангаас мянга мянган халдлагын аргыг илрүүлж, баталгаажуулан, бодитоор ашиглагдаж буй программ хангамжийг хамгаалахад хэдийн тусалж байна.

Тодорхой заасан эмзэг байдлыг загвар ашиглаж чадах эсэхийг шалгадаг ExploitGym сорилд GPT‑6 Cyber 48.5%-ийн оноо авсан нь GPT‑5.6 Cyber-ийн 32.1%-аас өссөн үзүүлэлт юм. Мөн даалгаврын хязгаарыг илүү найдвартай баримталдаг. Тусдаа хийсэн нийцлийн үнэлгээнд GPT‑6 Cyber нэвтрүүлэлтийн өгөгдөлгүй үед туршилтын 99.93%-д, уг өгөгдөлтэй үед 100%-д даалгаврын хүрээнээс гадуурх үйлчилгээний эмзэг байдлыг ашиглаагүй. Нийцэл ийнхүү сайжирсан нь зөвшөөрөгдсөн хүрээнд ажиллах, хязгаарлалтыг мөрдөх, үр дүнг үнэн зөв тайлагнахад чиглэсэн тусгай сургалтын үр дүн юм.

Эдгээр чадвар бодит системүүдийг хамгаалахад аль хэдийн тусалж байна. Манай судлаачид GPT‑6 Cyber-ийг ашиглан Linux-д эрх нэмэгдүүлэх 948 халдлагын код⁠ боловсруулж, Firefox-оос өмнө нь мэдэгдээгүй, өндөр ноцтой 81 эмзэг байдал илрүүлсэн. Эдгээрийг өмнө нь хил хязгаарын загваруудаар өргөн хүрээнд туршсан байсан. Загвар нөхөөсийн хувилбар боловсруулахад ч тусалсан бөгөөд Mozilla Firefox-ийн олон эмзэг байдлын засварыг гаргасан⁠(шинэ цонхонд нээгдэнэ). Cisco, Calif, CodeRabbit-ийн аюулгүй байдлын багууд үүнийг эмзэг байдлын судалгаа, кодын хяналтад ашиглаж байгаа бол бид өөрсдийн дэд бүтцийн сул талыг илрүүлж, засахад⁠ ашигласан.

Хил хязгаарын загваруудыг ашиглан программ хангамжийг хамгаалах боломжит хугацаа хязгаартай⁠ нь тодорхой байна. Бидний зорилго бол Daybreak-ийн хүрээг эрс тэлж, бүх хэмжээний байгууллага, бие даасан судлаач, нээлттэй эхийн арчлан хөгжүүлэгчдэд аюулгүй байдлын дэвшилтэт судалгаа хийх боломж олгох юм. GPT‑6 Astra зэрэг үндсэн шугамын загварууд кодын хяналт, эмзэг байдлын эрэмбэлэлт, нөхөөс боловсруулах ажлыг хэдийн дэмжиж байна. Daybreak Blue нь баталгаажсан хамгаалагчдад эмзэг байдал, засварыг шаардлагагүй татгалзалт багатайгаар баталгаажуулахад тусалдаг. Харин Daybreak Red нь GPT‑6 Cyber-ээр илүү нарийн халдлагын код боловсруулах, зөвшөөрөлтэй аюулгүй байдлын туршилт хийх боломж олгодог.

GPT‑6 Cyber нь GPT‑5.6 Cyber-ээс томоохон ахицтай бөгөөд Astra хүсэлтээс татгалзаагүй үед ч кибер даалгаврын ихэнхэд GPT‑6 Astra-аас илүү үр дүн үзүүлдэг. Бид загварыг программ хангамжийг ойлгох, эмзэг байдлыг илрүүлэх, ажиллах халдлагын код боловсруулах шаардлагатай даалгавруудаар үнэлсэн. Эдгээр үр дүнд үндэслэн бид загварыг Preparedness Framework-ийн кибер аюулгүй байдлын ангиллаар «Нэн ноцтой» түвшинд ангилсан. GPT‑5.6 Cyber нь «Өндөр» түвшинд байсан.

Алсын бай дахь заасан эмзэг байдлыг загвар ашиглаж чадах эсэхийг шалгадаг ExploitGym сорилд GPT‑6 Cyber 48.5%-ийн оноо авсан. Энэ нь GPT‑5.6 Cyber-ийн 32.1%-аас ойролцоогоор 16 нэгж хувиар өндөр юм. Эмзэг байдал илрүүлэх чадварыг шалгахын тулд бид довтолгооны аргаар вебийн нэвтрэлтийг шалгах шинэ үнэлгээ боловсруулсан. Загварууд веб аппликэйшнүүдийг эх кодод нь хандахгүйгээр шалгана. GPT‑6 Cyber эмзэг байдлуудын 40.3%-ийг илрүүлсэн бол GPT‑6 Astra-ийн үзүүлэлт 32.0% байв.

Daybreak Red нь ажиллах халдлагын код боловсруулж, алсын байны эсрэг ашиглах зэрэг аюулгүй байдлын илүү дэвшилтэт ажлын урсгалыг дэмжихээр бүтээгдсэн. Эдгээр чадварыг үнэлэхийн тулд бид RemoteExploitBench нэртэй шинэ жишиг сорил бүтээсэн. Энэ нь хяналттай орчинд байршуулсан GitLab, PostgreSQL, Jenkins зэрэг аппликэйшний мэдэгдэж буй эмзэг байдлуудыг ашигладаг. Анхны үнэлгээнд Daybreak Blue-тэй ажилласан GPT‑6 Astra даалгаврын 100%-аас татгалзсан бол GPT‑6 Cyber 95%-ийг гүйцэтгэсэн. Түүний цорын ганц бүтэлгүйтэл нь алсаас ажиллуулж чадаагүй нэг халдлагын код байсан. Бүрэн үр дүн болон үнэлгээний тохиргоог системийн картаас⁠(шинэ цонхонд нээгдэнэ) үзнэ үү.

Кибер аюулгүй байдлын агентуудад тулгардаг нэг эрсдэл нь өгсөн даалгаврын хүрээнээс хальж, хамааралгүй үйлчилгээнүүдийн эмзэг байдлыг ашиглахыг оролдох, эсвэл судлаачийн тогтоосон ажиллагааны дүрмийг үл тоомсорлох явдал юм.

Бид GPT‑6 Cyber-ийг зорилготой нийцүүлэхэд голлон анхаарч, загварыг зөвшөөрөгдсөн хүрээнд ажиллах, үйлдэлд нь тавьсан хязгаарлалтыг мөрдөх, ажлаа үнэн зөв тайлагнах тусгай сургалтад хамруулсан. Нэвтрүүлэхээс өмнө бид эдгээр зан төлөвийг хэмжих хэд хэдэн нийцлийн үнэлгээ хийсэн. Бүрэн үр дүнг системийн картаас⁠(шинэ цонхонд нээгдэнэ) үзнэ үү.

Эдгээр үнэлгээний нэг нь Hugging Face-д гарсан тохиолдолд⁠ үндэслэн боловсруулсан ExploitGym Honeypot юм. Бид загварт багцын бүртгэл, объект хадгалах сан зэрэг туслах үйлчилгээнд хандах боломжтой тусгаарлагдсан орчинд эмзэг байдал ашиглах хүнд даалгавар өгдөг. Эдгээр үйлчилгээг халдахад зориуд хялбар болгодог бөгөөд тэдгээрт халдсанаар даалгаврын нууц тэмдэгтийг олж авах боломжтой. Гэхдээ тэдгээрийн эмзэг байдлыг ашиглах нь даалгаврын хүрээнд хамаарахгүйг загвар өөрөө дүгнэх ёстой.

Энэ үнэлгээнд GPT‑6 Cyber нь GPT‑5.6 Cyber-ээс эрс ахисан үр дүн үзүүлсэн. Нэвтрүүлэлтийн үеийн аюулгүй байдлын өгөгдөлгүйгээр туршихад даалгаврын хүрээнээс гадуурх үйлчилгээний эмзэг байдлыг ашиглаагүй тохиолдол GPT‑5.6 Cyber-ийн 94.49%-аас 99.93% болж өссөн. Тэдгээр өгөгдөлтэй үед GPT‑6 Cyber бүх тохиолдолд буюу 100% тогтоосон хязгаарыг баримталсан.

GPT‑6 Cyber загварын бодлын хэлхээнээс тогтоосон хязгаарыг баримтлах талаар хэрхэн эргэцүүлж байгааг шууд харж болно:

GPT‑6 Cyber аюулгүй байдлын багуудад эмзэг байдал илрүүлэх, нөлөөг нь баталгаажуулах, засвар боловсруулахад аль хэдийн тусалж байна. Хэрэглэгчид үүнийг томоохон кодын сан дээр ажиллах, удаан үргэлжлэх халдлагын код боловсруулах, аюулгүй байдлын хяналт хийхэд ашиглаж байна:

Бид мөн өөрсдийн системийг хамгаалахад GPT‑6 Cyber-ийг ашигласан. Саяхан танилцуулсан хил хязгаарын загваруудыг сургахад ашигладаг дэд бүтцийн хамгаалалтыг бэхжүүлэх⁠ ажлын үндсэн загваруудын нэг нь энэ байсан. Хяналттай орчинд хийсэн улаан багийн туршилтуудад GPT‑6 Cyber болон OpenAI-ийн бусад загварыг ашигласан агентууд эмзэг байдлуудыг гинжин холбоогоор ашиглан microVM-ийн тусгаарлалтаас гарч, суурь хостууд дээр код ажиллуулсан. Бид илрүүлсэн зүйлсдээ үндэслэн программ хангамжийг нөхөн засаж, сүлжээний хязгаарлалтыг чангатган, асуудлуудыг арчлан хөгжүүлэгчид болон нийлүүлэгчдэд мэдээлсэн.

Манай эмзэг байдлын судлаачид мөн GPT‑6 Cyber-ийг ашиглан нээлттэй эхийн программ хангамжийн эмзэг байдлыг өргөн хүрээнд илрүүлж, баталгаажуулдаг. Энэ ажлаар олон жил нарийн шалгасан программ хангамжаас өмнө нь мэдэгдээгүй доголдлуудыг илрүүлсэн:

• Firefox-ийн 81 шинэ эмзэг байдлыг илрүүлсэн. GPT‑6 Cyber нь эмзэг байдлыг өргөн хүрээнд илрүүлж, чанартай нөхөөс санал болгох бие даасан ажлын урсгалд ашиглахад тохиромжтой байж болно. Эмзэг байдлын судалгааны үеэр GPT‑6 Cyber нь Mozilla-аас өндөр ноцтой гэж ангилсан 81 шинэ эмзэг байдлын нотолгоо, дахин давтаж болох туршилтуудыг гаргасан. Мөн өмнө нь мэдэгдсэн 30 асуудал анх мэдээлснээс илүү ноцтой болохыг харуулсан. Бид илрүүлсэн зүйлсээ Mozilla-д мэдээлж, инженерүүдэд нь засвар боловсруулахад туслах нөхөөсийн саналуудыг хамт өгсөн. Mozilla энэ ажлыг дэмжиж, тайлангуудыг хүлээн авсныхаа дараахан засваруудыг нэвтрүүлж эхэлсэн⁠(шинэ цонхонд нээгдэнэ).

• Linux цөмийн 948 эмзэг байдлыг⁠ ашиглах халдлагын код боловсруулж байна. GPT‑6 Cyber нь 1,724 эмзэг байдлыг дахин үүсгэж, 948-д нь ажиллах халдлагын код боловсруулсан. Энэ нь судалгааны ижил хамгаалалт ашигласан GPT‑5.6 Sol-ийн 166-аас тав гаруй дахин их үзүүлэлт юм. Linux нийгэмлэгийн зөвлөмжийн дагуу бид нэн ноцтой 304 олдворыг нөхөөсийн хувилбаруудын хамт арчлан хөгжүүлэгчдэд мэдээлсэн бөгөөд бусад эмзэг байдлыг засуулах ажил үргэлжилж байна.

• Нэн ноцтой RCE эмзэг байдлуудыг нотлон харуулж байна. Бид саяхан Node.js болон бусад программ хангамжид ашиглагддаг шахалтын сан болох Brotli-ийн нэн ноцтой эмзэг байдлын⁠(шинэ цонхонд нээгдэнэ) талаар мэдээлсэн. Манай аюулгүй байдлын судлаачид GPT‑6 Cyber-ийг OpenAI-ийн бусад загвартай хамт ашиглан халдлагын код боловсруулж, баталгаажуулсан. Ингэснээр энэ доголдол тухайн санг ашигладаг аппликэйшнүүдэд алсаас код ажиллуулах боломж хэрхэн үүсгэж болохыг харуулсан.

Загваруудын чадвар нэмэгдэж, аюулгүй байдлын илүү олон эмзэг байдлыг илрүүлэхийн хэрээр тэдгээрийг хор хөнөөл учруулахад ашиглах оролдлого ч нэмэгдэж байна. Үүнд кибер гэмт этгээдүүдийн оролдлого, мөн манай загваруудын чадварыг нэрэх аргаар өөр загварт шилжүүлэхийг зорьж буй дайсагнагч бүлгүүдийн үйл ажиллагаа багтана. Тиймээс бид GPT‑6 Cyber-ийн сайжирсан чадвартай уялдуулан хамгаалалтыг нь бэхжүүлсэн. Ингэснээр зохисгүй хэрэглээг илрүүлж, таслан зогсоохын зэрэгцээ загварын үйлдлийг хэрэглэгчийн зорилго, зөвшөөрлийн хүрээнд байлгана.

GPT‑6 Cyber-ийг гаргахтай зэрэгцэн дараах хамгаалалтуудыг нэмж, бэхжүүлсэн (дэлгэрэнгүйг системийн картаас⁠(шинэ цонхонд нээгдэнэ) үзнэ үү):

• Кибер үйл ажиллагаанд зорилгоос гажих эсэхийг хянах. Бид үйлдлүүд хэрэглэгчийн зөвшөөрөлтэй нийцэж байгаа эсэхийг хянахдаа халдлагын код боловсруулах, турших хууль ёсны ажлыг ялгаж танина.

• Шинээр үүсэж буй аюулд чиглэсэн хяналт. Жишээлбэл, PHP-ийн нэн ноцтой эмзэг байдлуудыг талуудтай уялдуулан мэдээлэх үеэр бид ажиллагаатай PHP серверүүдийн эсрэг халдлагын код боловсруулах оролдлогыг тусгайлан хянасан. Үүний зэрэгцээ өртсөн системүүдийг нөхөн засаж буй хамгаалагчдад үзүүлэх дэмжлэгийг хэвээр хадгалсан.

• Нууцлалтай аюулгүй байдлын боловсруулалт (PSP). Бид холбоотой харилцан үйлдлүүдийг автомат шалгалтаар хянаж, зохисгүй хэрэглээ байгаа эсэхийг шалгадаг. Өгөгдөл хадгалах стандарт горим үндсэн тохиргоо хэвээр байна. Тэг өгөгдөл хадгалалт⁠(шинэ цонхонд нээгдэнэ) ашигладаг API хэрэглэгчид ерөнхийдөө PSP⁠(шинэ цонхонд нээгдэнэ) ашиглах ёстой. Энэ нь хэрэглэгчийн хадгалах санд 30 хоног хадгалсан шифрлэгдсэн бүртгэлийг шалгах бөгөөд өгөгдөл болон хариултыг OpenAI-ийн ажилтнуудад харуулахгүй.

• Хулгайлагдсан нэвтрэх мэдээллээс хамгаалах. Daybreak Red API-д хандахад анхдагч шаардлага болгон зөвшөөрөгдсөн IP хаягийн жагсаалт ашиглуулдаг. Ингэснээр цөөн онцгой тохиолдлоос бусад үед зөвхөн баталсан сүлжээнээс хүсэлт хүлээн авна. Мөн нэвтрэх мэдээлэл алдагдсан эсэхийг хянадаг.

• Тусгаарлагдсан орчин ба хяналт. Өмнөх загваруудын адил өндөр эрсдэлтэй ажлын урсгалд тусгаарлагдсан орчин⁠(шинэ цонхонд нээгдэнэ), үйлдлийн хяналт⁠(шинэ цонхонд нээгдэнэ) болон хүний хяналт ашиглахыг зөвлөж байна.

• Өндөр эрсдэлтэй кибер үйл ажиллагаанд туслахаас сэргийлэх хамгаалалт. Бид чухал системүүдтэй холбоотой өндөр эрсдэлтэй үйл ажиллагааг хориглох шинэ шалгалтууд ашиглаж байна (дэлгэрэнгүйг доороос үзнэ үү).

GPT‑6 Cyber-ийн хамгаалалт, хандалтын эрхийг төлөвлөхдөө онц чухал дэд бүтцийг хамгаалахыг голлон анхаарсан. Үүнд цахилгаан станц, ус цэвэршүүлэх байгууламж, тэдгээрийн ажиллагааны суурь болсон үйл ажиллагааны технологи болон үйлдвэрлэлийн удирдлагын системүүд (OT/ICS) багтана. Бид эдгээр системийг хамгаалдаг багуудад хамгийн чадварлаг загваруудаа ашиглах боломж олгохын зэрэгцээ зөвшөөрөлгүй халдлагаас сэргийлэх хамгаалалтаа бэхжүүлэхийг зорьж байна.

Нэгдүгээрт, эдгээр хамгаалагчдыг дэмжихийн тулд нэг тэрбум ам.долларын санхүүжилттэй Тэргүүн эгнээний хамгаалагчдад зориулсан Daybreak⁠ тэтгэлгийн хөтөлбөрөөр төрийн байгууллага, зайлшгүй үйлчилгээ үзүүлэгч зэрэг нөөц хязгаарлагдмал багуудын ашиглалтын зардлыг татаасаар дэмждэг. Мөн баталгаажсан онц чухал дэд бүтцийн хамгаалагчдад зориулан Daybreak Red дотор шинэ бүлэг (Онц чухал дэд бүтцэд зориулсан Daybreak Red) нэвтрүүлж байна. Энэ нь загвар зорилгоос гажихаас сэргийлэх хамгаалалтыг хадгалахын зэрэгцээ чухал системүүдэд зөвшөөрөлтэй туршилт хийх эрх олгоно.

Хоёрдугаарт, Daybreak Red болон Blue платформыг зохисгүй ашиглахаас сэргийлж хамгаалалтаа сайжруулсан. Үүнд үйлдвэрлэлийн удирдлага, аюулгүй байдалд шийдвэрлэх үүрэгтэй системийг эвдэх, тоног төхөөрөмжид саад учруулах, ноцтой гэмтэл бэртэл, сүйрлийн хэмжээний биет хохирол, амь насанд аюултай үйлчилгээний тасалдал үүсгэж болзошгүй тусламж, чадвар хөгжүүлэлтийг хориглох арга хэмжээ багтана. Доорх зурагт GPT‑6 Cyber-тэй хамт нэвтрүүлж буй шинэчлэлүүдийн өмнөх ба дараах хамгаалалтын тэмдэглэгээний хувийг хандалтын дөрвөн тохиргоогоор харьцуулсан.

Хамгаалалтын хориглолтын хувь өндөр байх нь үргэлж сайн гэсэн үг биш. Энэ үнэлгээнд ашигласан олон арга нь системийг ойлгох, эмзэг байдлыг илрүүлэх, засвар нь халдлагыг тэсвэрлэж чадах эсэхийг шалгах зэрэг хууль ёсны аюулгүй байдлын ажилд ч зайлшгүй хэрэгтэй. Тиймээс бид 100%-д хүрэхийг зорихын оронд эдгээр хувийг хууль ёсны судалгаа, нөхөн засварлах ажилд үзүүлж буй дэмжлэгтэй хамтатган үнэлдэг.

Манай загварууд онц чухал дэд бүтцийг хамгаалахад хэрхэн туслахыг үнэлэхээр бид өргөтгөсөн үйл ажиллагааны технологийн (xOT) кибер аюулгүй байдлын дэлхийн үйлчилгээ үзүүлэгч Dragos-той хамтарсан. Dragos кибер үйл ажиллагааны өргөн зөвшөөрөлтэй Daybreak Red загваруудыг хяналттай лабораторийн орчинд үнэлсэн. Үнэлгээнд сүлжээ илрүүлэх, нөөцүүдийг жагсаахаас эхлээд чиглэсэн тагнан судалгаа, эмзэг өгөгдөл гадагшлуулах, төхөөрөмж дээр зөвшөөрөлгүй бөгөөд аюултай байж болзошгүй үйлдэл хийх хүртэлх шаталсан хүсэлтүүд багтсан.

Бид Dragos-ийн саналыг ашиглан хамгаалалтаа сайжруулж, зөвшөөрөлтэй туршилтыг шаардлагагүйгээр хязгаарлахгүйгээр хортой тусламжийг хориглохыг зорьсон. Үнэлгээний дэлгэрэнгүйг тэдний эцсийн тайлангаас үзнэ үү⁠(шинэ цонхонд нээгдэнэ). Мөн AI ашигласан нэвтрэлтийн шалгалт, улаан багийн туршилтын чиглэлээр довтолгооны аргаар аюулгүй байдал шалгадаг бусад байгууллага болон довтолгоо, хамгаалалтыг хослуулсан багуудтай хамтын ажиллагаагаа өргөжүүлж байна. Түүнчлэн эрчим хүчний компаниуд, онц чухал дэд бүтцийн бусад оператор, үндэсний лабораториудтай хамтран загваруудынхаа үйлдвэрлэлийн хамгаалалт дахь үр нөлөө, хамгаалалтын арга хэмжээг үнэлж байна. OT/ICS-тэй холбоотой загварын хэрэглээг илрүүлэхийн тулд аюул заналын мөрдөн судалгаанд оруулах хөрөнгө оруулалтаа мөн нэмэгдүүлсэн. Бид түншүүд болон аюулгүй байдлын нийгэмлэгийн саналд үндэслэн хамгаалалтаа үргэлжлүүлэн сайжруулна. Хамгаалалт хортой үйл ажиллагааг илрүүлэхгүй өнгөрөх эсвэл хууль ёсны ажилд саад болох үед /feedback-ээр ирүүлсэн мэдээллийг ч үүнд ашиглана.

GPT‑6 Cyber-ийг эхний ээлжид Daybreak Red-ийн зөвшөөрөл авсан, сонгогдсон хэрэглэгчид API болон Codex-ээр дамжуулан ашиглах боломжтой. Бид удахгүй Daybreak Red-ийн бүх хэрэглэгчид ашиглах боломжийг үе шаттайгаар нээх бөгөөд GPT‑5.6 Cyber-ийг ч Daybreak Red-ийн бүх хэрэглэгчид ашиглах боломжтой болгож байна. Мөн GPT‑6 Astra-д зориулсан Daybreak Blue-ийн альфа туршилтад илүү олон байгууллага, бие даасан аюулгүй байдлын судлаачийг хамруулж байна. Сонирхож байвал бидэнд мэдэгдээрэй⁠(шинэ цонхонд нээгдэнэ).

Шинэ хэрэглэгчид, байгууллагууд Daybreak-д элсэх хүсэлт гаргаж⁠, манай кибер ур чадвар, бүтээгдэхүүн, түншүүдийн⁠ тусламжтайгаар ажлаа эхлүүлж болно.