OpenAI နည်းပညာဖြင့် Block က AI အခြေပြုလုံခြုံရေးကို တည်ဆောက်ပုံ

Square၊ Cash App၊ နှင့် Afterpay တို့၏ နောက်ကွယ်မှ ကုမ္ပဏီဖြစ်သော Block တွင် လုံခြုံရေးအဖွဲ့သည် OpenAI ကာကွယ်ရေး စက်ရုံကို အသုံးချကာ၊ လူသားအဖွဲ့တစ်ဖွဲ့မျှ လိုက်မမီနိုင်သည့် အတိုင်းအတာဖြင့် အားနည်းချက်များကို ရှာဖွေခြင်း၊ ထောက်လှမ်းခြင်းနှင့် တုံ့ပြန်ခြင်းတို့ကို ဉာဏ်ရည်တုက ကိုင်တွယ်စေသည်။ OpenAI Daybreak အပါအဝင် ဉာဏ်ရည်တုစနစ်များကို အသုံးပြုခြင်းဖြင့်၊ ယခင်က ရက်သတ္တပတ်များ ကြာခဲ့သော အလုပ်များကို Block သည် ယခု နာရီအနည်းငယ်အတွင်းသာ လုပ်ဆောင်နိုင်နေသည်။

Block ၏ လုံခြုံရေးအဖွဲ့သည် ကုဒ်ထုတ်လုပ်ခြင်းဖြစ်စေ၊ လုံခြုံရေးလုပ်ငန်းဆောင်ရွက်မှုများဖြစ်စေ လုပ်ငန်းစဉ်အမျိုးမျိုးတွင် AI ကို တာဝန်ယူမှုရှိရှိ လက်ခံအသုံးပြုရန် အာရုံစိုက်လုပ်ဆောင်နေသည်။ “အဓိကအားဖြင့် သင်နှင့်အတူ လုပ်ငန်းအတိုင်းအတာကို ချဲ့ထွင်နိုင်မည့် အသင်းဖော်အသစ်တစ်ဦး ရှိလာခြင်းဖြစ်သည်” ဟု သတင်းအချက်အလက်လုံခြုံရေးအရာရှိချုပ် James Nettesheim က ပြောသည်။ “အဆင့်တစ်ဆင့်ချင်း လုပ်ဆောင်ရသည့် ပိုမိုရိုးရာဆန်သော အလိုအလျောက်လုပ်ဆောင်မှုမျိုးနှင့် မတူပါ။ အတော်လေး သီးသန့်သတ်မှတ်ထားပြီး မရှင်းလင်းသော ပြဿနာတစ်ခုကို ၎င်းအား တုံ့ပြန်ညွှန်ကြားချက်ပေးကာ အတူတကွ ဆက်လက်လုပ်ဆောင်နိုင်သည်။”

ဆော့ဖ်ဝဲလ် bug ကို ပြန်လည်သုံးသပ်ခြင်း သို့မဟုတ် မှတ်တမ်းတစ်ခုကို ခွဲခြမ်းစိတ်ဖြာခြင်းကဲ့သို့သော ပရောဂျက်များသည် ပြီးမြောက်ရန် ရက်အနည်းငယ် သို့မဟုတ် ရက်သတ္တပတ်များစွာ ကြာလိမ့်မည်။ ယခုအခါ အဖွဲ့သည် ထိုပရောဂျက်များကို အချိန်အနည်းငယ်အတွင်း ပြီးမြောက်စေနိုင်ပြီး လူသားတစ်ဦးက ရလဒ်တိုင်းကို အတည်ပြုနေဆဲဖြစ်သည်။

ဥပမာ၊ detection tuning အတွက် စုံစမ်းစစ်ဆေးမှုတိုင်းတွင် raw query အထောက်အထားများကို သိမ်းဆည်းထားသောကြောင့် အဖွဲ့သည် ယခုအခါ အဆိုပြုထားသော detection ပြောင်းလဲမှုကို production telemetry ခုနစ်လစာအပေါ် တစ်နာရီမပြည့်မီ ပြန်လည်စမ်းသပ်နိုင်သည်။ ယခင်က ထိုသို့လုပ်ဆောင်ရန် အဟောင်းဖြစ်ရပ်ရာပေါင်းများစွာကို ကိုယ်တိုင် query ပြန်လုပ်ရပြီး၊ အချိန်အလွန်ကုန်သောကြောင့် လက်တွေ့တွင် ထိုသို့လုပ်ဆောင်ဖြစ်ခဲသည်။

အဖွဲ့သည် မည်သည့်အလုပ်အတွက် မည်သည့်မော်ဒယ်ကို အသုံးပြုမည်ဆိုသည်ကိုလည်း ပိုမိုစိစစ်ရွေးချယ်လာသည်။ “အရင်ကတော့ နောက်ဆုံးပေါ် မော်ဒယ်ကိုပဲ သုံးခဲ့ပေမဲ့ အခုတော့ အဲဒီလိုလုပ်ဖို့ မလိုတော့ပါဘူး” ဟု ၎င်းက ပြောသည်။ “မတူညီတဲ့ လုပ်ငန်းတာဝန်တွေအတွက် မတူညီတဲ့ မော်ဒယ်တွေကို ရွေးချယ်ရတာက သင်ယူစရာ အတွေ့အကြုံတစ်ခု ဖြစ်ခဲ့ပါတယ်။” လုပ်ငန်းတာဝန်များကို သင့်လျော်သည့် မော်ဒယ်ထံ လွှဲပို့နိုင်ရန် Block ၏ လုံခြုံရေးဆိုင်ရာ အကဲဖြတ်စမ်းသပ်မှု စနစ်ကို Daybreak ပေါ်တွင် အခြေခံတည်ဆောက်ထားပြီး လူများက လုပ်ငန်းတာဝန်များကို လွှဲပြောင်းရယူလုပ်ဆောင်ရန် သို့မဟုတ် အေးဂျင့်များက တစ်ခုနှင့်တစ်ခု၏ လုပ်ဆောင်ချက်များကို အပြန်အလှန်စစ်ဆေးအတည်ပြုရန် ချိတ်ဆက်လုပ်ဆောင်ချက်များလည်း ပါဝင်သည်။ အဖွဲ့သည် ဤစနစ်များကို အတွင်းပိုင်း စံသတ်မှတ်ချက်များနှင့် လက်တွေ့လုပ်ဆောင်နိုင်စွမ်းတို့အပေါ် အခြေခံ၍ စဉ်ဆက်မပြတ် အကဲဖြတ်ပြီး လိုအပ်သည့်အခါ ချဉ်းကပ်ပုံကို ပြုပြင်ပြောင်းလဲသည်။ ထိုသို့ ပြောင်းလဲရာတွင် လူက ပြန်လည်သုံးသပ်စစ်ဆေးခြင်းသည် တာဝန်ယူမှုရှိသော နည်းလမ်းဖြစ်သည့်အခါ လုပ်ငန်းကို လူထံ လွှဲပို့ခြင်းလည်း ပါဝင်သည်။

အလိုအလျောက် ရွေးချယ်ခြင်းစနစ်ကြောင့် အလုပ်များ ပိုမိုမြန်ဆန်စွာ (နှင့် ပိုမိုများပြားစွာ) ပြီးမြောက်စေခဲ့သည်။ Block ၏ လုံခြုံရေးအဖွဲ့သည် အရေးပေါ်မှုအလိုက် ခွဲခြားစီစဉ်ဆောင်ရွက်မှု ဆောင်ကြဉ်းပေးမှု ပမာဏတွင် 50% တိုးတက်မှု၊ ဉာဏ်ရည် စုဆောင်းခြင်းနှင့် စုံစမ်းစစ်ဆေးမှုများတွင် 50% တိုးတက်မှု၊ ထို့ပြင် လုံးဝအသစ်ဖြစ်သော အလိုအလျောက် ခြိမ်းခြောက်မှုရှာဖွေနိုင်စွမ်းကို တွေ့ကြုံခဲ့ရသည်။ Nettesheim က၊ “ဤစနစ်သည် သုံးလတစ်ကြိမ်လျှင် စုံစမ်းစစ်ဆေးမှုအတွက် လေ့လာဆန်းစစ်သူ၏ အလုပ်ချိန် ~1,100 နာရီစာကို ဆောင်ရွက်ပေးသည်၊ အကြောင်းမှာ ယခုအခါ သတိပေးချက်တိုင်းကို ၎င်းနှင့်သက်ဆိုင်သည့် အစိတ်အပိုင်းအားလုံးအနှံ့ အပြည့်အဝ၊ အသေးစိတ် စုံစမ်းစစ်ဆေးမှု ပြုလုပ်ပေးသောကြောင့်ဖြစ်သည်။ ကျွန်တော်တို့ရဲ့စနစ်က အဲဒီနေ့က ကျွန်တော်တို့ရတဲ့ တစ်ခုတည်းသော သတိပေးချက်လိုပဲ သတိပေးချက်တိုင်းကို လုပ်ဆောင်ပေးပါတယ်။

ရိုးရာ စကင်ဖတ်စစ်ဆေးရေးကိရိယာများသည် အားနည်းချက်တစ်ခုစီကို သီးခြားစီ အမှတ်အသားပြုသော်လည်း၊ Block ၏ လုံခြုံရေးအဖွဲ့သည် Daybreak ဖြင့် ပိုမိုလုပ်ဆောင်နိုင်သည်။ မော်ဒယ်သည် တိုက်ခိုက်မှုပုံစံများကို ခန့်မှန်းစဉ်းစားရန်နှင့် တိုက်ခိုက်မှုများစွာကို စနစ်တစ်ခုလုံးကို အစမှအဆုံး ထိခိုက်စေနိုင်သည့် လမ်းကြောင်းတစ်ခုအဖြစ် ဆက်စပ်ပေါင်းစည်းရန် ကူညီပေးပြီး၊ နှစ်ပေါင်းများစွာကတည်းက ရှိနေနိုင်သည့် အားနည်းချက်များကို ဖော်ထုတ်ပေးသည်။

အခြေအနေတစ်ခုတွင် laptop တစ်လုံးတည်းပေါ်ရှိ သတိပေးချက်တစ်ခုသည် ၎င်းတစ်ခုတည်းကိုကြည့်လျှင် အသေးအဖွဲ မူဝါဒဆိုင်ရာ ပြဿနာတစ်ခုလို ထင်ရသည်။ သို့သော် အချင်းချင်း သုံးသပ်မှုအတွင်း မော်ဒယ်သည် အထောက်အထားထဲတွင် မတော်တဆ ပါဝင်နေသည့် အညွှန်းကိန်းတစ်ခုကို လိုက်လံစစ်ဆေးကာ ၎င်းကို Block ၏ အထောက်အထားစိစစ်ရေး log များနှင့် တိုက်ဆိုင်စစ်ဆေးပြီး ပိုမိုကျယ်ပြန့်သော ပြဿနာအစုအဝေးတစ်ခုကို ဖော်ထုတ်ခဲ့သည်။ “ပုံမှန် အဆုံးမှတ်သတိပေးချက်တစ်ခုက ကမ်ပိန်းတစ်ခုကို ဖြိုခွင်းနိုင်ခဲ့တယ်။ ဒီလို တိုက်ဆိုင်စစ်ဆေးမှုကို ကိရိယာတစ်ခုတည်းနဲ့ မလုပ်နိုင်ဘူး။ အချက်ပြမှုက ထုတ်ကုန်နှစ်ခုရဲ့ log တွေမှာပဲ ရှိတာပါ၊” ဟု James က ပြောသည်။

Daybreak က အထောက်အကူပြုခဲ့သည့် နောက်ထပ်ဥပမာတစ်ခုမှာ မကြာသေးမီက ပြုလုပ်ခဲ့သော ထိုးဖောက်စမ်းသပ်ရေး လေ့ကျင့်ခန်းတစ်ခုအတွင်း ဖြစ်သည်။ မော်ဒယ်အား အတွင်းပိုင်းစနစ်တစ်ခုနှင့်ပတ်သက်သည့် အရိပ်အမြွက်အနည်းငယ် ပေးခဲ့ရာ၊ ၎င်းသည် SQL ထိုးသွင်းတိုက်ခိုက်မှု၊ အခွင့်အရေးမြှင့်တင်ခြင်း၊ စနစ်အတွင်း ခြေကုပ်ရယူခြင်း၊ အကောင့်အထောက်အထားများကို စာရင်းကောက်ယူခြင်းနှင့် အခြားစနစ်များသို့ ကူးပြောင်းဝင်ရောက်ခြင်းတို့ပါဝင်သော တိုက်ခိုက်မှုလမ်းကြောင်းတစ်ခုလုံးကို နှစ်နာရီခန့်အတွင်း ဆက်စပ်ဖော်ထုတ်နိုင်ခဲ့သည်။ လူသား ထိုးဖောက်စမ်းသပ်သူတစ်ဦးအတွက် ပုံမှန်အားဖြင့် ရက်အတော်ကြာ ကြာနိုင်သည်။ မကြာသေးမီက ပြုလုပ်ခဲ့သော ထိုးဖောက်စမ်းသပ်ရေး လေ့ကျင့်ခန်းများတွင် အဆင့်မြင့် အားနည်းချက်တစ်ခုကို တင်ပြပြီးနောက် အလိုအလျောက် အဆိုပြုထားသော patch ရရှိသည်အထိ 18 မိနစ် ကြာမြင့်ခဲ့သည်။

အားနည်းချက်များကို ရှာဖွေတွေ့ရှိခြင်းသည် ၎င်းတို့ကို ပြုပြင်နိုင်စွမ်းရှိမှသာ အကျိုးရှိသည်။ Nettesheim က ၎င်း၏အဖွဲ့သည် တွေ့ရှိချက်တစ်ခုစီအတွက် အသုံးပြုသည့် လုပ်ငန်းစဉ်ကို ရှင်းပြသည်- ကုဒ်ထဲတွင် ပြဿနာတည်ရှိရာနေရာကို ရှာဖွေပြီး ၎င်းအတွက် တာဝန်ရှိသူကို သတ်မှတ်ကာ၊ ထို့နောက် ပြုပြင်ရေးအဆင့်သို့ ဆက်လက်လုပ်ဆောင်သည်။ “သင်သည် patch တစ်ခုကို အဆိုပြုပြီး၊ exploit လုပ်နိုင်ခြင်းရှိမရှိ အတည်ပြုကာ၊ ထို့နောက် ၎င်းကို ပြုပြင်ပြီးကြောင်း စစ်ဆေးအတည်ပြုသည်။ လူတစ်ဦးက လုပ်ငန်းစဉ်တွင် ပါဝင်၍ လမ်းညွှန်ကာ ကုဒ်ပြောင်းလဲမှုများကို ဖြန့်ချိသည်။”

အေးဂျင့်များသည် နည်းပညာပိုင်းအရ စွမ်းဆောင်နိုင်သော်လည်း အဖွဲ့အစည်းတစ်ခု၏ နောက်ခံအကြောင်းအရာ သို့မဟုတ် ယခင်ဆုံးဖြတ်ချက်များနောက်ကွယ်ရှိ ကျိုးကြောင်းသင့်လျော်စွာ စဉ်းစားပေးမှုကို ၎င်းတို့တွင် မရှိပါ။ လူသားတစ်ဦးက ထိုနောက်ခံအကြောင်းအရာနှင့် မဟာဗျူဟာကို ပေးစွမ်းပြီး ၎င်း၏အဖွဲ့က လူသား၏ သုံးသပ်စစ်ဆေးမှုအလွှာတစ်ခုကို ပံ့ပိုးပေးရာတွင် ပါဝင်လာသည်။ AI ၏ ဆုံးဖြတ်နိုင်စွမ်းကို လက်တွေ့တွင် သက်သေပြနိုင်လာသည်နှင့်အမျှ “ပိုမိုထိခိုက်လွယ်သော စနစ်များတွင် အသုံးပြုနိုင်ရန် အန္တရာယ်အဆင့်ကို တဖြည်းဖြည်း မြှင့်တင်သွားမည်” ဟု Nettesheim က ပြောသည်။

• အဆိုပြုထားသော detection ပြောင်းလဲမှုကို ခုနစ်လတာ telemetry ဒေတာနှင့် ပြန်လည်စမ်းသပ်ရန် တစ်နာရီမပြည့်ပါ။

• မကြာသေးမီက ပြုလုပ်ခဲ့သော red team လေ့ကျင့်ခန်းများတွင် အဆင့်မြင့် အားနည်းချက်တစ်ခုကို တင်ပြပြီးနောက် အလိုအလျောက် အဆိုပြုထားသော patch ရရှိသည်အထိ 18 မိနစ် ကြာမြင့်ခဲ့သည်။

• မှားယွင်းသော အပေါင်းလက္ခဏာ စစ်ဆေးခြင်း၏ သုံးလပတ်လျှင် ခန့်မှန်းခြေအားဖြင့် ခွဲခြမ်းစိတ်ဖြာသူ နာရီ ၆၀၀ ကို ပြန်လည်ပေးအပ်ခဲ့သည်။

• သုံးလပတ်တစ်ခုလျှင် စုံစမ်းစစ်ဆေးမှု ၁,၁၀၀ ခန့် ပြီးစီးသည်။

• triage ဆောင်ကြဉ်းပေးမှု ပမာဏကို 50% မြှင့်တင်ခြင်း။

• ထောက်လှမ်းရေးအချက်အလက် စုဆောင်းခြင်းနှင့် စုံစမ်းစစ်ဆေးမှုများတွင် 50% တိုးလာခြင်း။

ထောက်လှမ်းခြင်းနှင့် တုံ့ပြန်ခြင်းလုပ်ငန်းတစ်ခုတည်းသည် ယခင်က မှားယွင်းသော အပြုသဘောဆောင်သည့် ရောဂါရှာဖွေခြင်းအတွက် အသုံးပြုခဲ့သည့် သုံးလပတ်လျှင် ခွဲခြမ်းစိတ်ဖြာသူ နာရီပေါင်း ၆၀၀ ခန့်ကို ပြန်လည်ရရှိစေခဲ့သည်။ အဲဒီအချိန်ပြန်ရောက်သွားတဲ့အတွက် အဖွဲ့ဟာ ပိုမိုနက်ရှိုင်းတဲ့ စုံစမ်းစစ်ဆေးမှုတွေနဲ့ တာဝန်သိသိ အလိုအလျောက်စနစ်တွေ တည်ဆောက်ရာမှာ အချိန်ပိုပေးလာပါတယ်။

တိုက်ခိုက်မှုများ၏ အရှိန်အဟုန် မြင့်တက်လာပြီး AI မော်ဒယ်များလည်း ဆက်လက်တိုးတက်လာနေသည်နှင့်အမျှ၊ Nettesheim သည် အစကတည်းက ဖြစ်ပေါ်လာသော အားနည်းချက်အရေအတွက်ကို လျှော့ချနိုင်မည့် အခွင့်အလမ်းကို မြင်တွေ့နေသည်။ ထိုသို့လုပ်ဆောင်ခြင်းဖြင့် လုံခြုံရေးအဖွဲ့များသည် patch လုပ်ရန် အချိန်ကို လျှော့သုံးကာ ကြိုတင်ကာကွယ်ရေးဆိုင်ရာ မဟာဗျူဟာမြောက် လုပ်ငန်းများအတွက် အချိန်ပိုပေးနိုင်မည်ဖြစ်သည်။

“ဤအဆင့်မြင့်စွမ်းဆောင်ရည်များကို လူတိုင်းလက်လှမ်းမီစေခြင်းဖြင့် OpenAI သည် အသာစီးကို ကာကွယ်သူများဘက်သို့ ပြောင်းလဲပေးနေသည်” ဟု သူက ပြောသည်။ “ပုံမှန်အားဖြင့် ယင်းစွမ်းရည်များကို အလွန်ထင်ရှားသော နည်းပညာကုမ္ပဏီများနှင့် အစိုးရတို့သာ လက်ဝယ်ရှိခဲ့သည်။ သို့သော် အရေးပါသော အခြေခံအဆောက်အအုံများ၊ ကျောင်းများ၊ အသေးစားစီးပွားရေးလုပ်ငန်းများ အပါအဝင် လူတိုင်းသည် ယခုအခါ ၎င်းတို့၏ ကွန်ရက်များကို ကာကွယ်ရန် ဤနည်းပညာကို စတင်အသုံးပြုနိုင်ပြီဖြစ်သည်”