Block OpenAI ашиглан AI-аар ажилладаг хамгаалалт бүтээж буй нь

Square, Cash App болон Afterpay-ийн ард байдаг Block компанийн аюулгүй байдлын баг OpenAI Defense Factory-г ашигладаг. Энд хиймэл оюун ухаан нь эмзэг байдлыг илрүүлэх, тогтоох болон хариу арга хэмжээ авах ажлыг хүний баг гүйцэж чадахааргүй хэмжээнд хийж гүйцэтгэдэг. OpenAI Daybreak зэрэг хиймэл оюун ухааны системийн тусламжтайгаар Block өмнө нь хэдэн долоо хоног шаарддаг байсан ажлыг хэдхэн цагт хийж байна.

Block-ийн аюулгүй байдлын баг код үүсгэхээс эхлээд аюулгүй байдлын үйл ажиллагаа хүртэлх ажлын урсгалд хиймэл оюун ухааныг хариуцлагатай нэвтрүүлэхэд анхаарч ирсэн. “Үүний гол санаа нь ажлын цар хүрээ тэлэхэд тантай хамт ажиллах багийн шинэ гишүүнтэй болох юм” хэмээн Мэдээллийн аюулгүй байдлын захирал Жеймс Неттесхайм хэлэв. “Энэ нь алхам бүрийг тус бүрчлэн зааж өгөх шаардлага гардаг байсан уламжлалт автоматжуулалттай адилгүй. Та нэлээд өвөрмөц, тодорхой бус асуудлыг өгөгдөл болгон өгч, хамтдаа шийдэж болно.”

Программ хангамжийн алдааг шалгах эсвэл логийг задлан шинжлэх зэрэг ажлыг дуусгахад хэдэн өдөр эсвэл долоо хоног шаардлагатай байв. Одоо баг эдгээр ажлыг маш богино хугацаанд багтаан дуусгах боломжтой бөгөөд үр дүн бүрийг хүн нягтлан баталгаажуулж байна.

Жишээлбэл, илрүүлэлтийн тохиргоог нарийвчлахад судалгаа бүр асуулгын түүхий нотолгоог хадгалдаг тул баг одоо илрүүлэлтийн санал болгож буй өөрчлөлтийг үйлдвэрлэлийн орчны долоон сарын телеметрийн өгөгдөл дээр нэг цаг хүрэхгүй хугацаанд дахин ажиллуулах боломжтой. Өмнө нь энэ ажлыг хийхийн тулд хуучин хэдэн зуун тохиолдлыг нэг бүрчлэн шалгах шаардлагатай байсан бөгөөд их цаг ордог тул бодит байдал дээр тэр бүр хийдэггүй байв.

Баг мөн ямар ажилд аль загварыг ашиглахаа илүү нарийн сонгодог болсон. “Өмнө нь бид хамгийн сүүлийн үеийн загварыг ашигладаг байсан ч одоо тэгэх шаардлагагүй болсон” гэж тэр хэлэв. “Өөр өөр ажилд өөр өөр загвар сонгох нь их туршлага боллоо”. Block-ийн аюулгүй байдлын хамгаалалт нь ажлуудыг тохирох загвар руу чиглүүлэхэд туслахын тулд Daybreak дээр суурилсан бөгөөд хүмүүс ажлыг хүлээн авч үргэлжлүүлэх эсвэл агентууд бие биеийнхээ ажлыг шалгах боломжийг бүрдүүлсэн холболтуудыг агуулдаг. Баг эдгээр системийг дотоод шалгуур үзүүлэлт болон бодит орчин дахь гүйцэтгэлтэй харьцуулан байнга үнэлж, шаардлагатай үед арга барилаа тохируулдаг. Үүнд хариуцлагатай сонголт нь хүний хяналтад шилжүүлэх байх үед ажлыг мөн хяналтад шилжүүлэх нь багтана.

Автоматжуулсан ангилан эрэмбэлэх системийн үр дүнд ажлыг илүү хурдан (мөн илүү их хэмжээгээр) гүйцэтгэх болсон. Block-ийн аюулгүй байдлын багийн ангилан эрэмбэлэх ажлын нэвтрүүлэх чадамж 50%-аар нэмэгдэж, мэдээлэл цуглуулах болон судалгааны ажил 50%-аар өссөн бөгөөд аюул заналыг бие даан илрүүлэх цоо шинэ чадвартай болсон. Неттесхайм хэлэхдээ, “Энэ нь улирал тутам ~1,100 шинжээч-цагийн судалгааны ажил гүйцэтгэдэг. Учир нь одоо сэрэмжлүүлэг бүрд түүнтэй холбоотой бүх зүйлийг хамарсан бүрэн, гүнзгий судалгаа хийдэг болсон. Манай систем сэрэмжлүүлэг бүрийг тухайн өдөр хүлээн авсан цорын ганц сэрэмжлүүлэг мэтээр шалгадаг.”

Уламжлалт шалгах хэрэгслүүд эмзэг байдлыг тус тусад нь илрүүлдэг бол Block-ийн аюулгүй байдлын баг Daybreak-ийн тусламжтайгаар үүнээс хавь илүүг хийж чадна. Загвар нь халдлагын хэв маягийн талаар таамаглал дэвшүүлж, хэд хэдэн халдлагын системийг эхнээс нь дуустал бүрэн эвдэх замнал болгон холбохын зэрэгцээ олон жилийн турш байсан байж болзошгүй эмзэг байдлыг илрүүлэхэд тусалдаг.

Нэг тохиолдолд, ганц зөөврийн компьютерт гарсан сэрэмжлүүлэг дангаараа авч үзвэл бодлогын өчүүхэн асуудал мэт харагдаж байв. Гэвч хамтран хянан үзэх явцад загвар нотлох баримтад зөвхөн тохиолдлоор гарсан нэг үзүүлэлтийг мөрдөж, түүнийг Block-ийн таних мэдээллийн бүртгэлтэй тулган холбосноор илүү өргөн хүрээний асуудлуудыг илрүүлсэн. “Эцсийн цэгийн нэг энгийн сэрэмжлүүлэг кампанит ажлыг таслан зогсоох ажиллагаа болж хувирсан. Ямар ч хэрэгсэл ийм холболтыг хийж чадахгүй. Энэ дохио зөвхөн хоёр бүтээгдэхүүний бүртгэлийг хамтад нь харж байж л бий болдог” хэмээн Жеймс хэлэв.

Daybreak тус болсон өөр нэг жишээ нь гэвэл сүүлд болсон улаан багийн сорилтын үеэр болов. Загварт дотоод системийн талаар цөөн хэдэн сэжүүр өгөхөд, ойролцоогоор хоёр цагийн дотор SQL тарилга, эрхийн түвшин ахиулах, системд байр сууриа бэхжүүлэх, нэвтрэх эрхийн мэдээллийг жагсаан илрүүлэх, бусад систем рүү дамжин нэвтрэх гэсэн халдлагын бүрэн замыг холбон гаргасан. Үүнийг улаан багийн мэргэжилтэн гүйцэтгэхэд ихэвчлэн хэдэн өдөр шаардагдана. Сүүлийн үеийн улаан багийн сургуулилалтад өндөр түвшний эмзэг байдлын мэдээллийг илгээснээс хойш засварын саналыг автоматаар гаргах хүртэл 18 минут зарцуулсан.

Эмзэг байдлыг илрүүлэх нь тэдгээрийг засахтай адил чухал хэрэгцээтэй чадвар юм. Nettesheim багийнхаа илрүүлсэн асуудал бүрд ашигладаг үйл явцыг тайлбарлав: асуудал кодын хаана байгааг олж, хэн хариуцаж байгааг тодорхойлоод, дараа нь засварлах ажилд шилжинэ. “Та засвар санал болгож, ашиглах боломжтой байдлыг баталгаажуулж, дараа нь давталтад байгаа хүн үүнийг удирдаж, кодын өөрчлөлтийг байршуулж, зассан эсэхээ баталгаажуулна.”

Агентууд техникийн хувьд чадвартай боловч байгууллагын нөхцөл байдал эсвэл өмнөх шийдвэрийн цаад шалтгааныг бүрэн мэддэггүй. Хүн тухайн нөхцөл байдал, стратегийг гаргаж өгдөг бөгөөд түүний баг хүний хувьд хяналт шалгалтын давхаргыг хангахын тулд энд ирдэг. Хиймэл оюун ухааны дүгнэлт бодит байдал дээр батлагдсанаар Неттешхайм “бид илүү мэдрэмтгий системд ашиглахын тулд эрсдэлийн түвшнийг аажмаар нэмэгдүүлэх болно” гэж хэлэв.

• Долоон сарын телеметрийн өгөгдөл дээр илрүүлэлтийн санал болгож буй өөрчлөлтийг дахин шалгахад нэг цаг хүрэхгүй хугацаа шаардана.

• Сүүлийн үеийн улаан багийн сорилтоор өндөр түвшний эмзэг байдлыг илгээснээс автоматаар санал болгосон засвар хүртэл 18 минут.

• Худал эерэг ангиллыг шалгахад зарцуулдаг шинжээчийн улирал тутмын ойролцоогоор 600 цагийн ажлыг хэмнэсэн.

• Улирал тутамд ойролцоогоор 1,100 шинжээч-цагийн судалгааны ажлыг гүйцэтгэдэг.

• Ангилан эрэмбэлэх ажлын чадамж 50%-аар өссөн.

• Мэдээлэл цуглуулах болон судалгааны ажил 50%-аар өссөн.

Илрүүлэлт болон хариу арга хэмжээний ажил дангаараа худал эерэг үр дүнг ангилан шалгахад өмнө нь зарцуулдаг байсан шинжээчдийн ажлын ойролцоогоор 600 цагийг улирал тутамд чөлөөлсөн. Чөлөөлөгдсөн цагийн ачаар баг одоо илүү гүнзгий шалгалт хийх, автоматжуулалтыг илүү хариуцлагатайгаар хөгжүүлэхэд илүү их цаг зарцуулж байна.

Довтолгооны хурд нэмэгдэж, хиймэл оюуны загварууд улам хөгжихийн хэрээр Неттесхайм анхнаасаа үүсэх эмзэг байдлын тоог бууруулах боломж байна гэж үзэж байна. Ингэснээр аюулгүй байдлын багууд нөхөөс суулгахад бага цаг зарцуулж, урьдчилан сэргийлэх болон стратегийн ажилд илүү их цаг зарцуулах боломжтой болно.

“OpenAI эдгээр дэвшилтэт боломжийг хүн бүрийн гарт хүргэснээр хамгаалагч талын давуу талыг нэмэгдүүлж байна” гэж тэр хэлэв. “Ер нь ийм боломж зөвхөн маш нэр хүндтэй технологийн компаниуд болон төрийн байгууллагуудын гарт л байсан. Харин одоо чухал дэд бүтэц, сургууль, жижиг бизнес зэрэг байгууллагууд сүлжээгээ хамгаалахын тулд энэ технологийг ашиглаж эхлэх боломжтой.”