Ноцтой кибер чадамжийн шинэ шатанд хариу арга хэмжээ авах
Загварууд улам чадавхжиж, кибер хамгаалалтыг бэхжүүлэхийн зэрэгцээ урьд байгаагүй хурд, цар хүрээгээр халдлага үйлдэх боломж бүрдэж буй тул, кибер аюулгүй байдлын орчин хурдацтай өөрчлөгдөж байна.
Удахгүй гарах загваруудын маань нэг болох Astra-д сүүлийн хэдэн өдөр хийсэн дотоод үнэлгээнүүд агент шинжтэй кодчилол болон кибер аюулгүй байдлын чадамж үлэмж ахисныг харууллаа. Эдгээр үр дүн болон шинжээчдийн үнэлгээнд үндэслэн манай Preparedness Framework(шинэ цонхонд нээгдэнэ)-ийн дагуу Ноцтой түвшний кибер чадамжтай байхыг үгүйсгэх боломжгүй гэж бид өчигдөр орой дүгнэлээ.
Чадамжид ийм өөрчлөлт гарах боломжийн талаар олон нийт болон аюулгүй байдал, хамгаалалтын салбарынханд ил тод мэдээлэх нь чухал гэж үзсэн учраас бид үүнийг хуваалцаж байна.
Загварууд биологи, хими, кибер аюулгүй байдал болон AI-ын өөрийгөө сайжруулах ийм түвшний чадамжид ойртохоос хавьгүй өмнө буюу 2023 оны арван хоёрдугаар сард бид Preparedness Framework-ээ анх нийтэлсэн. Чадамжийн ахицыг тодорхойлж, улмаар тэдгээр чадамж бий болоход компани маань юу хийхээ төлөвлөх удирдамж болгохын тулд бид үүнийг боловсруулсан. GPT‑5.6‑Sol зэрэг өмнөх загваруудыг киберийн хил хязгаарын чадамжаар үнэлж, Ноцтой бус харин Өндөр босгын түвшинд хүрсэн гэж тогтоосон.
Манай Preparedness Framework-ийн дагуу загвар нь хүний оролцоогүйгээр хамгаалалт сайтай, бодит орчинд ашиглагддаг олон амин чухал системээс бүх түвшний ноцтой тэг өдрийн эмзэг байдлыг илрүүлж, ашиглах ажиллагаа боловсруулж чаддаг, эсвэл зөвхөн ерөнхий зорилго өгөхөд хамгаалалт сайтай бай руу чиглэсэн кибер халдлагын цоо шинэ стратегийг эхнээс нь дуустал зохиож, хэрэгжүүлж чаддаг бол кибер аюулгүй байдлын Ноцтой босгод хүрсэнд тооцно.
Бид энэ загварыг жишиг туршилтаар шалгаж, үнэлсээр байгаа ч урьдчилсан үнэлгээгээр гүйцэтгэл нь хангалттай өндөр гарсан тул, одоогоор Ноцтой чадамжийн түвшинд хүрснийг үгүйсгэх боломжгүй байна. Astra бол удахгүй гарах загвар бөгөөд Hugging Face-д халдсан ажиллагаанд оролцоогүй.
Үүний дагуу эдгээр чадамжийг нэвтрүүлэхэд тохирохуйц болгохын тулд хамгаалалтын арга хэмжээ болон аюулгүй байдлын хяналтынхаа тэсвэржилтийн туршилтыг өргөжүүлсэн. Түүнчлэн энэ загварын цаашдын хөгжүүлэлтийг аюулгүй, найдвартай явуулахын тулд дотооддоо дараах арга хэмжээг авсан:
- Илүү өндөр чадамжтай загварууд болон тэдгээртэй холбоотой үйл ажиллагаанд тусгаарласан туршилтын орчин, сүлжээ ба хэрэгсэлд хандах эрхийн хязгаарлалт, загварын жингийн сайжруулсан хамгаалалт ба шифрлэлт, нэмэлт хяналт ба илрүүлэлтийн чадамж, мөн тусгаарласан орчин дахь гүйцэтгэл зэрэг илүү хатуу аюулгүй байдлын хяналтыг хэрэгжүүлж байна.
- Аюулгүй байдлын эдгээр чангатгасан хяналтын шаардлагыг хараахан хангаагүй, Astra-тай холбоотой дотоод үйл ажиллагааг бид түр зогсоож байна.
- Сургалт, үнэлгээ зэрэг Astra-г агент байдлаар ашиглах бүх хэрэглээнд эрсдэлтэй үйлдэл болон зорилгын зөрүүг бүхэлд нь хянах тогтолцоог нэвтрүүлсэн. Хяналтын системүүд загварын бодлын хэлхээг үнэлж, өндөр эрсдэлтэй үйл ажиллагааг шалган таслан зогсоох аюулгүй байдлын хариу арга хэмжээг идэвхжүүлдэг.
- Энэ загварын чадамжийг туршихын тулд холбогдох төрийн байгууллагууд болон сонгосон AI-ын аюулгүй байдлын байгууллагуудтай хамтран ажиллана.
- Илүү өндөр эрсдэлтэй үнэлгээ, ажлын ачааллыг аюулгүй ажиллуулахад зориулсан аюулгүй байдлын хяналтын зөвлөмжийг хөндлөнгийн туршилтын түншүүддээ өгнө.
Энэхүү хүрээ нь чадамжийн бусад шилжилтийг даван туулахад биднийг аль хэдийн чиглүүлсэн. 2025 оны зургаадугаар сард загварууд маань Preparedness Framework-ийн биологийн Өндөр чадамжийн босгод ойртоход хамгаалалтын арга хэмжээг бэхжүүлэх, туршилтыг өргөжүүлэх, гаднын шинжээчидтэй хамтран ажиллах, аюулгүй байдлын нэмэлт хяналт нэвтрүүлэхийн тулд авч буй арга хэмжээнүүдээ танилцуулсан. Энд ч бид мөн адил зарчмыг баримталж байна.
Киберийн өндөр чадамжтай дэвшилтэт загварууд халдагчдаас урьтаж эмзэг байдлыг илрүүлэн арилгахад хамгаалагчдад туслах ёстой гэж бид үздэг. Astra болон түүний дараа гарах загваруудын хил хязгаарын чадамжийг бүх хүн төрөлхтний тусын тулд хариуцлагатай, өргөн хүрээнд нэвтрүүлэхийн тулд засгийн газрууд, аюулгүй байдлын хүрээлэнгүүд болон иргэний нийгэмтэй хамтран ажиллахаа бид амлаж байна.
