Block ба OpenAI: Хиймэл оюунд суурилсан аюулгүй байдал

Square, Cash App, Afterpay-ийг хөгжүүлсэн Block компанийн аюулгүй байдлын баг OpenAI Defense Factory-г ашигладаг. Үүний тусламжтайгаар хиймэл оюун эмзэг байдлыг эрж олох, илрүүлэх, хариу арга хэмжээ авах ажлыг хүний бүрэлдэхүүнтэй ямар ч баг гүйцэхээргүй цар хүрээнд хийдэг. OpenAI Daybreak зэрэг хиймэл оюуны системийн тусламжтайгаар Block өмнө нь хэдэн долоо хоног зарцуулдаг байсан ажлыг хэдхэн цагт хийж байна.

Block-ийн аюулгүй байдлын баг код үүсгэхээс эхлээд аюулгүй байдлын үйл ажиллагаа хүртэлх ажлын урсгалдаа хиймэл оюуныг хариуцлагатай нэвтрүүлэхэд анхаарч ирсэн. “Гол нь ажлынхаа цар хүрээг тэлэхэд хамтран ажиллах шинэ багийн гишүүнтэй болж байгаа юм” гэж Мэдээллийн аюулгүй байдлын захирал Жеймс Неттесхайм хэлэв. “Энэ нь алхам бүрийг зааж өгөх шаардлагатай уламжлалт автоматжуулалттай адилгүй. Та нэлээд өвөрмөц, тодорхой бус асуудал өгөөд хамтдаа шийдвэрлэж болно.”

Програмын алдааг шалгах, лог задлан шинжлэх зэрэг ажилд хэдэн өдөр, бүр хэдэн долоо хоног зарцуулдаг байв. Одоо баг эдгээр ажлыг хавьгүй богино хугацаанд гүйцэтгэж байгаа ч үр дүн бүрийг хүн баталгаажуулсан хэвээр байна.

Жишээлбэл, илрүүлэлтийн тохиргоог сайжруулахын тулд шалгалт бүрийн асуулгаар авсан анхдагч нотлох өгөгдлийг хадгалдаг. Ингэснээр баг илрүүлэлтэд санал болгосон өөрчлөлтийг бодит ажиллагааны долоон сарын телеметрийн өгөгдөл дээр нэг цаг хүрэхгүй хугацаанд дахин турших боломжтой болсон. Өмнө нь үүний тулд хуучин хэдэн зуун тохиолдолд асуулгыг гараар дахин ажиллуулах шаардлагатай байв. Маш их цаг шаарддаг учраас бодит байдал дээр энэ ажлыг хийх нь ховор байсан.

Мөн баг аль ажилд ямар загвар ашиглахаа илүү нарийн сонгодог болсон. “Бид өмнө нь хамгийн сүүлийн үеийн загварыг ашигладаг байсан. Харин одоо заавал тэгэх шаардлагагүй” гэж тэр хэлэв. “Ажил бүрд тохирох загварыг сонгоход бид туршлагаасаа суралцаж байна.” Block-ийн аюулгүй байдлын хамгаалалт нь Daybreak дээр суурилсан бөгөөд даалгаврыг тохирох загварт хуваарилахад тусалдаг. Мөн хүн ажлыг шилжүүлэн авах, эсвэл агентууд бие биеийнхээ ажлыг баталгаажуулах холболтын боломжуудтай. Баг эдгээр системийг дотоод шалгуур болон бодит ажиллагааны гүйцэтгэлээр нь тогтмол үнэлж, шаардлагатай үед арга барилаа өөрчилдөг. Хариуцлагатай шийдвэр нь хүнээр хянуулах явдал байвал ажлыг хүний хяналтад шилжүүлдэг.

Автомат эрэмбэлэн ангилах системийн ачаар илүү их ажлыг илүү хурдан гүйцэтгэх болсон. Block-ийн аюулгүй байдлын багийн эрэмбэлэн ангилах нэвтрүүлэх чадамж 50%-иар, аюулын мэдээлэл цуглуулах болон шалган шинжлэх ажлын хэмжээ 50%-иар өсөж, аюулыг бие даан эрж хайх цоо шинэ боломж бүрджээ. Неттесхайм хэлэхдээ, “Энэ систем улирал бүр шинжээчийн ойролцоогоор 1,100 цагийн шалган шинжлэх ажлыг гүйцэтгэдэг. Учир нь одоо сэрэмжлүүлэг бүрд хамаарах бүх зүйлийг бүрэн, гүнзгий шалгадаг болсон. Манай систем сэрэмжлүүлэг бүрийг тухайн өдөр ирсэн цорын ганц сэрэмжлүүлэг мэт нягтлан шалгадаг.”

Уламжлалт скан хийх хэрэгслүүд эмзэг байдлыг тус тусад нь илрүүлдэг бол Block-ийн аюулгүй байдлын баг Daybreak ашиглан үүнээс хавьгүй өргөн хүрээнд ажиллаж чадна. Загвар нь халдлагын хэв маягийн талаар таамаг дэвшүүлж, цуврал халдлагыг хооронд нь холбон системд эхнээс нь дуустал нэвтрэх бүрэн замыг тодорхойлоход тусалдаг. Ингэснээр олон жилийн турш байсан байж болох эмзэг байдлуудыг ил гаргадаг.

Нэг тохиолдолд зөөврийн компьютерт ирсэн сэрэмжлүүлгийг дангаар нь харахад аюулгүй байдлын бодлогын багахан зөрчил мэт байв. Гэвч давхар хяналтын үеэр загвар нотлох өгөгдөлд санамсаргүй таарсан нэг шинжийг мөрдөн шалгаж, Block-ийн хэрэглэгчийн таних мэдээллийн логтой тулган, үүнээс хавьгүй олон асуудлыг илрүүлжээ. “Төгсгөлийн төхөөрөмжийн нэг энгийн сэрэмжлүүлгээс эхлээд бүхэл бүтэн цуврал халдлагыг таслан зогсоосон. Аль ч хэрэгсэл дангаараа ийм холбоог тогтоодоггүй. Хоёр бүтээгдэхүүний логийг нэгтгэж байж л энэ шинж илэрдэг” гэж Жеймс хэлэв.

Daybreak тус болсон өөр нэг жишээ нь саяхан хийсэн улаан багийн сургуулилт юм. Загварт дотоод системийн талаар цөөн хэдэн сэжүүр өгөхөд ойролцоогоор хоёр цагийн дотор SQL тарилга, эрх дээшлүүлэх, нэвтрэх түшиц цэг тогтоох, нэвтрэх мэдээллийг жагсаан илрүүлэх, бусад систем рүү дамжин нэвтрэх алхмуудыг холбосон халдлагын бүрэн замыг гаргажээ. Үүнийг улаан багийн мэргэжилтэн хийхэд ихэвчлэн хэдэн өдөр шаардлагатай байдаг. Сүүлийн үеийн улаан багийн сургуулилтуудаар эмзэг байдлын ерөнхий мэдээллийг өгснөөс засварыг автоматаар санал болгох хүртэл 18 минут зарцуулжээ.

Эмзэг байдлыг олж илрүүлэх нь түүнийг засаж чадсан цагт л үр дүнтэй. Неттесхайм баг нь илрүүлсэн асуудал бүрээ хэрхэн шийдвэрлэдгийг тайлбарлав: эхлээд кодын аль хэсэгт асуудал байгааг олж, хэн хариуцдагийг тогтоогоод, дараа нь засаж залруулдаг. “Засвар санал болгож, тухайн эмзэг байдлыг халдлагад ашиглах боломжтой эсэхийг баталгаажуулаад, эцэст нь засагдсан эсэхийг шалгана. Энэ бүхэнд хүн оролцож, үйл явцыг чиглүүлэн, кодын өөрчлөлтийг нэвтрүүлдэг.”

Агентууд техникийн хувьд чадвартай ч байгууллагын нөхцөл байдал, өмнөх шийдвэрүүдийн цаад үндэслэлийг мэддэггүй. Тэрхүү нөхцөл байдлын мэдээлэл, стратегийг хүн өгдөг бөгөөд энд түүний баг оролцож, хүний хяналтыг хангадаг. Хиймэл оюуны дүгнэлт гаргах чадвар практикт батлагдахын хэрээр “бид хүлээн зөвшөөрөх эрсдэлийн түвшнээ аажмаар нэмэгдүүлж, илүү эмзэг системүүдэд ашиглана” гэж Неттесхайм хэлэв.

• Илрүүлэлтэд санал болгосон өөрчлөлтийг долоон сарын телеметрийн өгөгдөл дээр нэг цаг хүрэхгүй хугацаанд дахин туршдаг.

• Сүүлийн үеийн улаан багийн сургуулилтуудаар эмзэг байдлын ерөнхий мэдээллийг өгснөөс засварыг автоматаар санал болгох хүртэл 18 минут зарцуулсан.

• Хуурамч дохиоллыг ялган ангилахад зарцуулдаг шинжээчийн ажлын 600 орчим цагийг улирал бүр хэмнэсэн.

• Улирал бүр шинжээчийн ойролцоогоор 1,100 цагийн шалган шинжлэх ажлыг гүйцэтгэсэн.

• Эрэмбэлэн ангилах нэвтрүүлэх чадамж 50%-иар өссөн.

• Аюулын мэдээлэл цуглуулах болон шалган шинжлэх ажлын хэмжээ 50%-иар өссөн.

Зөвхөн илрүүлэлт, хариу арга хэмжээ авах ажлыг сайжруулснаар өмнө нь хуурамч дохиоллыг ялган ангилахад зарцуулдаг байсан шинжээчийн ажлын 600 орчим цагийг улирал бүр хэмнэжээ. Ингэж цаг хэмнэснээр баг илүү гүнзгий шалган шинжлэх, автоматжуулалтыг хариуцлагатайгаар өргөжүүлэхэд илүү их цаг зарцуулдаг болсон.

Халдлагын хэмнэл түргэсэж, хиймэл оюуны загварууд тасралтгүй хөгжихийн хэрээр Неттесхайм эмзэг байдал анхнаасаа үүсэх тоог бууруулах боломж байна гэж үзэж байна. Ингэснээр аюулгүй байдлын багууд засвар хийхэд бага цаг зарцуулж, урьдчилан сэргийлэх болон стратегийн ажилд илүү төвлөрөх боломжтой болно.

“OpenAI эдгээр дэвшилтэт боломжийг хүн бүрд хүртээмжтэй болгосноор давуу талыг хамгаалагчдад шилжүүлж байна” гэж тэр хэлэв. “Өмнө нь ийм боломж ихэвчлэн нэр хүндтэй томоохон технологийн компаниуд болон төрийн байгууллагуудад л байсан. Харин одоо чухал дэд бүтцийн байгууллагууд, сургууль, жижиг бизнес гээд бүгд энэ технологийг сүлжээгээ хамгаалахад ашиглаж эхлэх боломжтой.”