OpenAI-ийн системүүдийн эмзэг байдлыг илрүүлэхээр Hacktron-той хамтран ажиллана
OpenAI-ийн системүүдийн эмзэг байдлыг илрүүлэхээр Hacktron-той хамтран ажиллахаа өнөөдөр зарлаж байна. Манай инженерүүд болон Hacktron-ы аюулгүй байдлын судлаачид хамтран шалгах нэн тэргүүний чиглэлүүдийг сонгох бөгөөд манай системүүд гуравдагч талын үйлчилгээнүүдтэй хэрхэн харилцан ажиллаж байгаад голлон анхаарна. Энэ хамтын ажиллагааны хүрээнд бид Daybreak Red-ээр дамжуулан Hacktron-ы манай хил хязгаарын загваруудыг ашиглах боломжийг өргөжүүлж байна.
Бид хил хязгаарын AI ашиглан кибер хамгаалалтыг хурдасгахын зэрэгцээ өөрсдийн системүүдийн эмзэг байдлыг илрүүлж, засах ажлыг ч мөн адил шуурхай хэрэгжүүлж байна. Энэ долоо хоногийн эхээр бид аюулгүй байдлыг сайжруулах дараагийн эрчимжүүлсэн ажлын үеэр Cathedral-ын судлаачид манай багуудтай хамтран ажиллахыг зарласан. Мөн бид өөрсдийн шалгалтаар илрүүлэлгүй өнгөрөөсөн байж болох эмзэг байдлуудыг эрж олох сэдлийг хараат бус судлаачдад нэмэхийн тулд алдаа илрүүлсний урамшууллаа өсгөсөн.
Бид Аюулгүй байдлын алдаа илрүүлсний урамшууллын хөтөлбөрөөрөө дамжуулан Hacktron-той танилцсан. Тус багийн судлаачдын илрүүлж, бидэнд мэдээлсэн эмзэг байдлуудын нөлөөллийн цар хүрээ бидэнд гүн сэтгэгдэл төрүүлсэн. Тус баг код хянах, нэвтрэлтийн туршилт хийх, улаан багийн сорилт явуулах зориулалттай AI агентуудыг бүтээдэг. Тэдний судалгаагаар(шинэ цонхонд нээгдэнэ) аппликейшн, үүлэн дэд бүтэц, хэрэглэгчийн таних мэдээллийн системүүдийн харилцан ажиллагаан дахь эмзэг байдлуудыг илрүүлсэн. Аюулгүй байдлын инженерүүд AI-д тулгуурласан шийдэл бүтээснээр ажлаа хурдасгаж, илүү том зорилготой судалгаа хийх ямар боломж нээгддэгийг тэдний ажил харуулж байна.
AI агентууд үйлчилгээнүүдийг шинэ арга замаар холбохын хэрээр эдгээр ур чадварын хослол улам үнэ цэнтэй болж байна. Hacktron-той хамтран ажилласнаар бид эдгээр холболтыг илүү гүнзгий шалгаж, олж мэдсэн зүйлсээ хамгаалалтаа бэхжүүлэхэд ашиглах боломжтой болно.
Бүх хэрэглэгчээ хамгаалах аюулгүй байдлыг бэхжүүлэхийн төлөө цаг зав гарган сул талыг илрүүлж, мэдээлдэг Hacktron болон бусад хараат бус судлаачдад бид талархаж байна. Ямар системүүд хөтөлбөрт хамрагдсаныг харах эсвэл илрүүлсэн зүйлээ мэдээлэх бол манай Аюулгүй байдлын алдаа илрүүлсний урамшууллын хөтөлбөрийн(шинэ цонхонд нээгдэнэ) хуудсанд зочлоорой.
