အဓိက အကြောင်းအရာသို့ ကျော်သွားရန်
OpenAI

၂၀၂၆ ဇူလိုင် ၂၁

လုံခြုံရေး

မော်ဒယ်အကဲဖြတ်စဉ် လုံခြုံရေးဖြစ်ရပ်ကို ဖြေရှင်းရန် OpenAI နှင့် Hugging Face ပူးပေါင်း

ဖွင့်နေသည်…

ကျွန်ုပ်တို့သည် ပြင်ပအကြံပေးများနှင့်အတူ ဘေးကင်းရေးနှင့် လုံခြုံရေးကော်မတီ၏ ကြီးကြပ်မှုအောက်တွင် အသေးစိတ်ကျကျ ပြန်လည်သုံးသပ်မှုတစ်ရပ်ကို ဆောင်ရွက်လျက်ရှိပါသည်။ ပြန်လည်သုံးသပ်မှု ပြီးစီးသည်နှင့်တစ်ပြိုင်နက်၊ လာမည့်ရက်သတ္တပတ်များအတွင်း ကျွန်ုပ်တို့၏ လေ့လာရရှိချက်များကို ဖော်ပြထားသည့် နည်းပညာဆိုင်ရာ အစီရင်ခံစာတစ်စောင်ကို ထုတ်ပြန်ပါမည်။

၂၀၂၆ ခုနှစ်၊ ဇူလိုင်လ ၂၈ ရက်နေ့တွင် အပ်ဒိတ်လုပ်ထားသည်-

  • လာမည့်ထုတ်ပြန်မှုအတွက် စီစဉ်ထားသော မော်ဒယ်များသည် Hugging Face ကို အသုံးချရာတွင် ပါဝင်ခြင်း မရှိပါ။ ကျွန်ုပ်တို့၏ ဘလော့ဂ်ပို့စ်တွင် ဖော်ပြထားသော အကြို-ထုတ်ပြန်ထားသည့် မော်ဒယ်သည် အတွင်းပိုင်း သုတေသနအတွက်သာ အသုံးပြုသည့် ပရိုတိုတိုက်ပ်ဖြစ်ပြီး အများပြည်သူထံ ထုတ်ပြန်ရန် ရည်ရွယ်ထားခြင်း မရှိပါ။ ဖြစ်စဉ်ဖြစ်ပြီးနောက်၊ ၎င်းကို ပိတ်ထား၍ စာဝှက်ကာ သုတေသန ဝင်ရောက်ခွင့်မှ ကန့်သတ်ထားပါသည်။
  • ExploitGym အကဲဖြတ်မှု ပတ်ဝန်းကျင်သည် မော်ဒယ်များအား အင်တာနက်ကို တိုက်ရိုက် အသုံးပြုခွင့် မပေးထားပါ။ အင်တာနက် အသုံးပြုခွင့် ရရှိရန် မော်ဒယ်များသည် package registry cache proxy တစ်ခုဖြစ်သော Artifactory(ဝင်းဒိုးအသစ်တွင် ဖွင့်မည်) တွင် ယခင်က မသိရှိရသေးသော ဇီရိုး-ဒေး အားနည်းချက်တစ်ခုကို ရှာဖွေဖော်ထုတ်ပြီး အသုံးချခဲ့သည်။ ကျွန်ုပ်တို့၏ ပြန်လည်သုံးသပ်မှု၏ တစ်စိတ်တစ်ပိုင်းအဖြစ် ကျွန်ုပ်တို့၏ မော်ဒယ်များက ဖော်ထုတ်ခဲ့သော အခြား Artifactory အားနည်းချက်များနှင့်အတူ၊ ဤအားနည်းချက်ကို ထုတ်လုပ်သူထံ ထုတ်ဖော်အသိပေးခဲ့သည်။ 
  • ကျွန်ုပ်တို့၏ ပြန်လည်သုံးသပ်မှု ဆက်လက်လုပ်ဆောင်နေစဉ်၊ Hugging Face နှင့် ဆက်လက်ပူးပေါင်းဆောင်ရွက်နေပြီး၊ ၎င်းတို့၏ ဖြစ်ရပ်နောက်ပိုင်း သုံးသပ်ချက်အစီရင်ခံစာ(ဝင်းဒိုးအသစ်တွင် ဖွင့်မည်)တွင် ပါဝင်ကူညီခြင်းလည်း ပါဝင်သည်။ ၎င်းတို့ကို ကျွန်ုပ်တို့၏ Trusted Access for Cyber Program တွင်လည်း ထည့်သွင်းထားပါသည်။ 
  • ယနေ့အထိ ကျွန်ုပ်တို့၏ ပြန်လည်သုံးသပ်စစ်ဆေးမှုအရ၊ ပလက်ဖောင်းအဆင့် လုံခြုံရေးထိခိုက်ချိုးဖောက်ခံရမှု ပါဝင်ခဲ့သည့် Hugging Face နှင့် ပတ်သက်၍ ကျွန်ုပ်တို့ မျှဝေထားသည့် အကြောင်းအရာများ၏ ပြင်းထန်မှု သို့မဟုတ် အတိုင်းအတာနှင့် တူညီသည့် အခြားလုပ်ဆောင်မှုတစ်စုံတစ်ရာကို မတွေ့ရှိရသေးပါ။
  • Hugging Face ကျူးကျော်ဝင်ရောက်မှုနှင့် ကျွန်ုပ်တို့၏ မော်ဒယ်များမှ ပိုမိုကျယ်ပြန့်သော လုပ်ဆောင်ချက်များကို ဆက်လက်ပြန်လည်သုံးသပ်နေစဉ်၊ အများပြည်သူအသုံးပြုနိုင်သော အခြားဝန်ဆောင်မှုများတွင် အကောင့်အဆင့်အရ အများပြည်သူမြင်နိုင်အောင် ဖော်ထုတ်ထားသော ဝင်ရောက်ခွင့်အထောက်အထားများကို မော်ဒယ်များက ရှာဖွေဖော်ထုတ်ပြီး အသုံးပြုခဲ့သည့် ဖြစ်ရပ်အနည်းငယ်ကို ကျွန်ုပ်တို့ တွေ့ရှိခဲ့ပါသည်။ ၎င်းတွင် Hugging Face ဖြစ်ရပ်၏ အစိတ်အပိုင်းအဖြစ် ဝန်ဆောင်မှု ၄ ခုရှိ အကောင့် ၄ ခု ပါဝင်သည် (ထို့အပြင် အခြားအကဲဖြတ်မှုများ၏ အစိတ်အပိုင်းအဖြစ် ဝင်ရောက်ခဲ့သော အကောင့်အနည်းငယ်လည်း ပါဝင်သည်)။ ဤအကောင့်လေးခုအနက် တစ်ခုကို အထွက်လမ်းကြောင်း ထပ်ဆင့်ပေးပို့ချက်နှင့် စတေ့ဂျ်လမ်းကြောင်းအဖြစ် အသုံးပြုခဲ့ပြီး၊ နောက်အကောင့်တစ်ခုကို ဒေတာသိမ်းဆည်းမှုအတွက် အသုံးပြုခဲ့သည်။ ကျန်ရှိသည့် အကောင့်နှစ်ခုကို မော်ဒယ်များက ဖတ်ရှုရန်သာ ပုံစံဖြင့် ဝင်ရောက်ခဲ့ပြီး၊ Hugging Face ကို လုံခြုံရေးချိုးဖောက်ခြင်းကို ပိုမိုဆောင်ရွက်ရန်အတွက် အသုံးမပြုခဲ့ပါ။ ကျွန်ုပ်တို့အနေဖြင့် ဝန်ဆောင်မှုပိုင်ရှင်များအား တိုက်ရိုက်ဆက်လက်အသိပေးသွားမည်ဖြစ်ပြီး၊ ဤဝန်ဆောင်မှုပေးသူများ သို့မဟုတ် ၎င်းတို့၏ဝန်ဆောင်မှုများရှိ အခြားအကောင့်များအပေါ် ပိုမိုကျယ်ပြန့်သော သက်ရောက်မှုရှိကြောင်း အထောက်အထား မတွေ့ရှိရသေးပါ။
  • မော်ဒယ်များသည် code paste ဝဘ်ဆိုက်များ၊ request ဖမ်းယူ ဝန်ဆောင်မှုများ၊ screenshot ဝန်ဆောင်မှုများနှင့် အခြား ဝဘ်အသုံးအဆောင်များ အပါအဝင် အများပြည်သူ အသုံးပြုနိုင်သော ဝန်ဆောင်မှုများစွာကိုလည်း ထပ်မံအသုံးပြုခဲ့သည်။ ဤဖြစ်ရပ်များတွင် ပလက်ဖောင်းအဆင့် သို့မဟုတ် အကောင့်အဆင့် လုံခြုံရေးချိုးဖောက်ခံရမှု မရှိခဲ့ပါ။ 
  • ပိုမိုစွမ်းဆောင်ရည်မြင့်မားလာသော AI စနစ်များမှ ဖြစ်ပေါ်လာနိုင်သော အန္တရာယ်များကို ဖော်ထုတ်သိရှိပြီး ကြိုတင်ပြင်ဆင်ရန် ကျွန်ုပ်တို့၏ တာဝန်ကို ကျွန်ုပ်တို့ အလေးအနက်ထားပါသည်။ ကျွန်ုပ်တို့၏ ပြန်လည်သုံးသပ်မှု ပြီးစီးသည်နှင့်၊ ကျွန်ုပ်တို့၏ ကြိုတင်ပြင်ဆင်ထားခြင်းဆိုင်ရာ ဖွဲ့စည်းမှု အရ ဘေးကင်းရေးနှင့် လုံခြုံရေး ကော်မတီနှင့် ဘေးကင်းရေး အကြံပေးအဖွဲ့တို့နှင့်အတူ ပြန်လည်သုံးသပ်ပါမည်။

ပြီးခဲ့သည့်အပတ်က Hugging Face သည် ၎င်းတို့၏ အခြေခံအဆောက်အအုံကို ချိုးဖောက်ဝင်ရောက်ခဲ့သော AI အေးဂျင့်တစ်ခုကို ရှာဖွေတွေ့ရှိပြီး ထိန်းချုပ်နိုင်ခဲ့ပြီးနောက် လုံခြုံရေးဖြစ်ရပ် အမျိုးအစားအသစ်တစ်ခုကို ထုတ်ဖော်ကြေညာခဲ့သည်(ဝင်းဒိုးအသစ်တွင် ဖွင့်မည်)။ ဆိုက်ဘာစွမ်းရည် ပိုမိုမြင့်မားလာသော မော်ဒယ်များ ပျံ့နှံ့လာသည်နှင့်အမျှ ဤသို့သော ဖြစ်ရပ်များ ပိုမိုအဖြစ်များလာမည်ဟု ကျွန်ုပ်တို့ မျှော်လင့်ပါသည်။ စုံစမ်းစစ်ဆေးပြီးနောက် ယခု ကျွန်ုပ်တို့ သိရှိထားသည်မှာ ဤဖြစ်ရပ်သည် GPT‑5.6 Sol နှင့် ထို့ထက်ပင် ပိုမိုစွမ်းရည်မြင့်သော မထုတ်ပြန်မီ မော်ဒယ်တစ်ခုအပါအဝင် OpenAI မော်ဒယ်များ ပေါင်းစပ်အသုံးပြုမှုကြောင့် ဖြစ်ပေါ်ခဲ့ခြင်းဖြစ်ပြီး၊ ၎င်းတို့အားလုံးတွင် အကဲဖြတ်ရေးရည်ရွယ်ချက်အတွက် ဆိုက်ဘာဆိုင်ရာ refusals များ လျှော့ချထားကာ ဆိုက်ဘာစွမ်းရည်များ၏ benchmark(ဝင်းဒိုးအသစ်တွင် ဖွင့်မည်) တစ်ခုပေါ်တွင် အတွင်းပိုင်းစမ်းသပ်နေစဉ် ဖြစ်ပွားခဲ့ခြင်းဖြစ်သည်။

ဤဖြစ်ရပ်ကို state-of-the-art ဆိုက်ဘာစွမ်းရည်များ ပါဝင်သည့် မကြုံဖူးသေးသော ဆိုက်ဘာဖြစ်ရပ်တစ်ခုအဖြစ် ကျွန်ုပ်တို့ သတ်မှတ်ပြီး ထိုအတိုင်း တုံ့ပြန်ဆောင်ရွက်နေပါသည်။ ဖြစ်ပျက်ခဲ့သည့်အရာကို ကာကွယ်သူများ နားလည်နိုင်စေရန်နှင့် မော်ဒယ်များသည် ယခု မည်သည့်အရာများ ဆောင်ရွက်နိုင်ပြီဖြစ်ကြောင်း ချိန်ညှိသိရှိနိုင်စေရန် ဤအဆင့်တွင် ကနဦးတွေ့ရှိချက်များကို မျှဝေနေပါသည်။ Hugging Face နှင့်အတူ အသေးစိတ်စုံစမ်းစစ်ဆေးမှုကို ဆက်လက်ဆောင်ရွက်သွားမည်ဖြစ်ပြီး စုံစမ်းစစ်ဆေးမှုပြီးစီးသည့်အခါ အားနည်းချက်များ၊ ဖြစ်ရပ်နှင့် တွေ့ရှိချက်များအကြောင်း အသေးစိတ်အချက်အလက်များကို ထပ်မံမျှဝေပါမည်။

ဤဖြစ်ရပ်အတွင်း ဘာဖြစ်ခဲ့သနည်း

ဤဖြစ်ရပ်သည် မော်ဒယ်များ၏ ဆိုက်ဘာစွမ်းရည်များကို တိုင်းတာရန် ရည်ရွယ်၍ ရှုပ်ထွေးသော တိုက်ခိုက်ရေးလမ်းကြောင်းများဖြင့် အဆင့်မြင့် exploitation ကို လိုက်လုပ်ရန် မော်ဒယ်များကို ညွှန်ကြားသည့် အတွင်းပိုင်းအကဲဖြတ်မှုအတွင်း ဖြစ်ပွားခဲ့သည်။ အန္တရာယ်မြင့် ဆိုက်ဘာလုပ်ဆောင်မှုများကို မော်ဒယ်များ မလိုက်လုပ်စေရန် တားဆီးရာတွင် အသုံးပြုသည့် production classifiers များမပါဘဲ ဤအကဲဖြတ်မှုကို လုပ်ဆောင်ခြင်းဖြင့် အများဆုံး ဆိုက်ဘာစွမ်းရည်များကို ကျွန်ုပ်တို့ ခန့်မှန်းပါသည်။ ကျွန်ုပ်တို့၏ benchmark များကို အလွန်သီးခြားခွဲထားသော ပတ်ဝန်းကျင်တွင် လုပ်ဆောင်ပြီး network ဝင်ရောက်ခွင့်ကို package registry များအတွက် proxy နှင့် cache အဖြစ် ဆောင်ရွက်သော အတွင်းပိုင်းလက်ခံထားရှိသည့် တတိယပါတီ ဆော့ဖ်ဝဲမှတစ်ဆင့် package များ install လုပ်နိုင်သည့် အတိုင်းအတာအထိ ကန့်သတ်ထားပါသည်။

မော်ဒယ်များသည် OpenAI ၏ သုတေသနပတ်ဝန်းကျင်နှင့် Hugging Face ၏ production အခြေခံအဆောက်အအုံတစ်လျှောက်ရှိ အားနည်းချက်များကို ဖော်ထုတ်ပြီး ဆက်စပ်အသုံးချကာ Hugging Face ၏ production database ထဲမှ စမ်းသပ်ဖြေရှင်းချက်များကို တိုက်ရိုက်ရယူခဲ့သည်။ အထောက်အထားအားလုံးအရ မော်ဒယ်များသည် ExploitGym အတွက် ဖြေရှင်းချက်ရှာဖွေခြင်းအပေါ် အလွန်အမင်း အာရုံစိုက်ခဲ့ပြီး အတော်လေး ကျဉ်းမြောင်းသော စမ်းသပ်ရေးပန်းတိုင်ကို ရောက်ရှိရန် အလွန်အကျွံ ကြိုးပမ်းခဲ့ကြောင်း ဖော်ပြနေပါသည်။

ကျွန်ုပ်တို့၏ sandbox လုပ်ထားသော စမ်းသပ်ပတ်ဝန်းကျင်တွင် လုပ်ဆောင်နေစဉ် ကျွန်ုပ်တို့၏ မော်ဒယ်များသည် အကဲဖြတ်ရေးပြဿနာကို ဖြေရှင်းရန် ရည်ရွယ်၍ open Internet access ရရှိရန် နည်းလမ်းရှာဖွေရာတွင် inference compute များစွာ အသုံးပြုခဲ့သည်။ ဝင်ရောက်ခွင့်ရရန် မော်ဒယ်များသည် package registry cache proxy ထဲရှိ zero-day အားနည်းချက်တစ်ခုကို ဖော်ထုတ်ပြီး အသုံးချခဲ့သည် (၎င်းကို ယခု ကျွန်ုပ်တို့ vendor ထံ တာဝန်ယူမှုရှိစွာ အသိပေးထားပြီးဖြစ်သည်)။ ဤဝင်ရောက်ခွင့်ဖြင့် ကျွန်ုပ်တို့၏ မော်ဒယ်များသည် အင်တာနက်ဝင်ရောက်ခွင့်ရှိသော ဆုံမှတ်တစ်ခုသို့ ရောက်သည်အထိ ကျွန်ုပ်တို့၏ သုတေသနစမ်းသပ်ပတ်ဝန်းကျင်အတွင်း privilege escalation နှင့် lateral movement လုပ်ဆောင်ချက်များ ဆက်တိုက်လုပ်ဆောင်ခဲ့သည်။

အင်တာနက်ဝင်ရောက်ခွင့် ရရှိပြီးနောက် Hugging Face တွင် ExploitGym အတွက် မော်ဒယ်များ၊ dataset များနှင့် ဖြေရှင်းချက်များကို လက်ခံထားရှိနိုင်သည်ဟု မော်ဒယ်များက ခန့်မှန်းခဲ့သည်။ ဤအချက်ကို သိရှိပြီး မော်ဒယ်သည် အကဲဖြတ်မှုတွင် လိမ်လည်အသုံးပြုနိုင်မည့် လျှို့ဝှက်အချက်အလက်များကို ဝင်ရောက်ရယူရန် နည်းလမ်းများကို ရှာဖွေခဲ့ပြီး အောင်မြင်စွာ တွေ့ရှိခဲ့သည်။ ဥပမာတစ်ခုတွင် မော်ဒယ်သည် ခိုးယူထားသော အထောက်အထားများနှင့် zero-day အားနည်းချက်များကို အသုံးပြုခြင်းအပါအဝင် တိုက်ခိုက်ရေး vector အများအပြားကို ဆက်စပ်အသုံးချကာ Hugging Face server များပေါ်တွင် remote code execution လမ်းကြောင်းတစ်ခုကို ရှာဖွေခဲ့သည်။ OpenAI ၏ လုံခြုံရေးအဖွဲ့က ဤပုံမှန်မဟုတ်သော လုပ်ဆောင်ချက်ကို အတွင်းပိုင်းတွင် ရှာဖွေတွေ့ရှိခဲ့သည်။

ကျွန်ုပ်တို့၏အဖွဲ့များ ချိတ်ဆက်မိချိန်တွင် Hugging Face ၏ လုံခြုံရေးအဖွဲ့နှင့် အေးဂျင့်များသည် ၎င်းတို့၏ အခြေခံအဆောက်အအုံပေါ်ရှိ လုပ်ဆောင်ချက်ကို ရှာဖွေတွေ့ရှိပြီး ရပ်တန့်ထားခဲ့ပြီး ၎င်းတို့၏ ကိုယ်ပိုင် open-source မော်ဒယ်များဖြင့် containment နှင့် forensic reconstruction ကို စတင်ပြီးသားဖြစ်သည်။ ဖြစ်ရပ်ကို ဆက်လက်စုံစမ်းစစ်ဆေးရန် ၎င်းတို့နှင့်အတူ တက်ကြွစွာ လုပ်ဆောင်နေပါသည်။ စုံစမ်းစစ်ဆေးမှုနှင့် remediation အတွက် Hugging Face ၏ လျင်မြန်ပြီး နီးကပ်သော ပူးပေါင်းဆောင်ရွက်မှုကို ကျွန်ုပ်တို့ ကျေးဇူးတင်ပါသည်။

ယခု ကျွန်ုပ်တို့ ဆောင်ရွက်နေသည့် လုပ်ဆောင်ချက်များ

  1. စုံစမ်းစစ်ဆေးမှု၏ တစ်စိတ်တစ်ပိုင်းအနေဖြင့် အားနည်းချက်များကို ပြင်ဆင်နေချိန်တွင် သုတေသနမြန်နှုန်းကို လျှော့ချရမည့်တိုင် အခြေခံအဆောက်အအုံ ပြင်ဆင်သတ်မှတ်မှုများတွင် တင်းကျပ်သော ထိန်းချုပ်မှုများကို အကောင်အထည်ဖော်နေပါသည်။ ဤထိန်းချုပ်မှုများနှင့် ၎င်းတို့၏ သက်ရောက်မှုများအကြောင်း ကျွန်ုပ်တို့၏ Safety and Security Committee ကို ပုံမှန်ရှင်းလင်းတင်ပြနေပါသည်။
  2. ဖြစ်ရပ်ကို မှုခင်းဆိုင်ရာနည်းလမ်းဖြင့် စုံစမ်းစစ်ဆေးရန် Hugging Face နှင့် အတူလုပ်ဆောင်နေပါသည်။
  3. အတွင်းပိုင်းတွင် လက်ခံထားရှိသည့် တတိယပါတီ ဆော့ဖ်ဝဲထဲမှ ဖော်ထုတ်တွေ့ရှိထားသော zero-day အားနည်းချက်ကို တာဝန်ယူမှုရှိစွာ အသိပေးထားပြီး ၎င်းတို့နှင့်အတူ ပြင်ဆင်နေပါသည်။
  4. Hugging Face ကို trusted access ပရိုဂရမ်ထဲသို့ ထည့်သွင်းထားပြီး ၎င်းတို့၏ ခုခံကာကွယ်မှုများ တိုးတက်စေရန် ကျွန်ုပ်တို့၏ မော်ဒယ်များ၏ စွမ်းရည်များကို လျင်မြန်စွာ အသုံးပြုနိုင်အောင် ၎င်းတို့၏အဖွဲ့များကို ပံ့ပိုးနေပါသည်။
  5. အနာဂတ် လေ့ကျင့်မှုနှင့် အကဲဖြတ်မှုများအတွက် ပိုမိုခိုင်မာသော ကာကွယ်မှုများကို မြှင့်တင်ပြီး ထပ်မံထည့်သွင်းနေပါသည်။ ယခုအပတ်တွင် ကျွန်ုပ်တို့သည် အချိန်ကာလရှည် မော်ဒယ်များ၏ ခေတ်တွင် ဘေးကင်းမှုနှင့် alignment ကို မြှင့်တင်ခြင်း အကြောင်း ဘလော့ဂ်တစ်ပုဒ် ထုတ်ပြန်ခဲ့ပါသည်။ ဤအကဲဖြတ်မှုသည် ဆိုက်ဘာအားနည်းချက်များကို စမ်းသပ်ရန် ရည်ရွယ်ထားသောကြောင့် ဤ ဖြန့်ကျက်အသုံးပြုမှု အကာအကွယ်များကို ရည်ရွယ်ချက်ရှိရှိ ဖွင့်မထားခဲ့ပါ။ ဤဖြစ်ရပ်က ကျွန်ုပ်တို့၏ မော်ဒယ်၏ alignment၊ အကဲဖြတ်ချိန်အတွင်း ဆိုက်ဘာကာကွယ်မှုများနှင့် အတွင်းပိုင်းစမ်းသပ်မှုအတွင်း စောင့်ကြည့်မှုတို့ကို ပိုမိုခိုင်မာစေရန် လိုအပ်ကြောင်း ပြသနေပါသည်။

အဆင့်မြင့် ဆိုက်ဘာစွမ်းရည်များကို အကဲဖြတ်သည့် ကျွန်ုပ်တို့၏ ချဉ်းကပ်ပုံ

ကျွန်ုပ်တို့ မကြာသေးမီက မျှဝေခဲ့သည့်အတိုင်း AI သည် အားနည်းချက်များ ရှာဖွေတွေ့ရှိခြင်းနှင့် အသုံးချတိုက်ခိုက်ခြင်းတို့ကို မြန်ဆန်စေပါသည်။ ဤဖြစ်ရပ်မှ အဓိက သင်ခန်းစာမှာ မော်ဒယ်လုံခြုံရေးနှင့် ဘေးကင်းမှုသည် အလျင်အမြန် တိုးတက်နေသော စွမ်းရည်များနှင့်အမီ လိုက်ပါရမည်ဖြစ်သည်။ မော်ဒယ် ဖွံ့ဖြိုးတိုးတက်ရေးအတွင်း အသုံးပြုသည့် containment၊ စောင့်ကြည့်မှု၊ ဝင်ရောက်ခွင့်ထိန်းချုပ်မှုများနှင့် အကဲဖြတ်မှု လုပ်ထုံးလုပ်နည်းများကို ကျွန်ုပ်တို့ ခိုင်မာအောင် ပြုလုပ်နေပါသည်။

UK AISI ၏ အကဲဖြတ်မှုအရ GPT‑5.6 Sol ကဲ့သို့သော မော်ဒယ်များသည် ရှုပ်ထွေးပြီး အဆင့်များစွာပါသော ဆိုက်ဘာလုပ်ဆောင်မှုများကို ရှည်လျားသော အချိန်ကာလတစ်လျှောက် ဆက်လက်ထိန်းသိမ်းနိုင်စွမ်း ပိုမိုမြင့်တက်လာကြောင်း ပြသထားသည်။ ဤဖြစ်ရပ်က ဤသီအိုရီဆိုင်ရာ စွမ်းရည်များသည် လက်တွေ့ကမ္ဘာအခြေအနေများတွင်လည်း သက်ရောက်မှုရှိကြောင်း ဖော်ပြနေပါသည်။

အချိန်ကာလရှည် ဆိုက်ဘာ range များတွင် မကြာသေးမီက အများသုံးနိုင်ရန် ပြုလုပ်ပေးထားသော မော်ဒယ်ဝိတ်များနှင့် စွမ်းဆောင်ရည်အမြင့်ဆုံး မော်ဒယ်များကို နှိုင်းယှဉ်ထားသော UK AI Security Institute ၏ ဇယား။

ထို့ပြင် အဆင့်မြင့် မော်ဒယ်များသည် source code ဝင်ရောက်ခွင့်မရှိဘဲ လက်တွေ့စနစ်များထဲရှိ တိုက်ခိုက်ရေးလမ်းကြောင်းအသစ်များကို ရှာဖွေပြီး အသုံးချနိုင်ကြောင်း ဤဖြစ်ရပ်က ရှင်းလင်းစေသည်။ အဆင့်မြင့် ဆိုက်ဘာစွမ်းရည်များကို ပိုမိုခိုင်မာသော အကာအကွယ်များနှင့် ကာကွယ်ရေးကိရိယာများနှင့်အတူ တစ်ပြိုင်နက် ဖွံ့ဖြိုးတိုးတက်စေရမည်ဖြစ်ကြောင်း ၎င်းက ထင်ရှားစေသည်။

အဆင့်မြင့် ဆိုက်ဘာစွမ်းရည်ရှိသော မော်ဒယ်များသည် တိုက်ခိုက်သူများမတိုင်မီ လုံခြုံရေးအဖွဲ့များအား အားနည်းချက်များကို ရှာဖွေနိုင်စေခြင်း၊ အားနည်းချက်များကို မည်သို့ဆက်စပ်အသုံးချနိုင်သည်ကို နားလည်စေခြင်းနှင့် ၎င်းတို့ကို စက်အမြန်နှုန်းဖြင့် ပြန်လည်ပြင်ဆင်စေခြင်းတို့တွင် ကူညီရမည်ဟု ကျွန်ုပ်တို့ ယုံကြည်ပါသည်။ အခြေခံအဆောက်အအုံ ပြင်ဆင်သတ်မှတ်မှုနှင့် မော်ဒယ်အကဲဖြတ်ရေး ပတ်ဝန်းကျင်များ ပတ်လည်ရှိ ကာကွယ်မှုများကို ဆက်လက်ခိုင်မာစေရန် ဤစွမ်းရည်များကို အသုံးပြုနေပြီး သင်ယူရင်း ကျွန်ုပ်တို့၏ တွေ့ရှိချက်များနှင့် အကောင်းဆုံးလုပ်ထုံးလုပ်နည်းများကို မျှဝေသွားပါမည်။ အခြားကာကွယ်သူများကိုလည်း ယခုပင် trusted access လျှောက်ထားရန် နှင့် ဤမော်ဒယ်များကို စမ်းသပ်အသုံးပြုရန် တိုက်တွန်းပါသည်၊ သို့မှသာ ဤစွမ်းရည်များကို ပိုကောင်းသော ကြိုတင်ကာကွယ်မှု၊ ပိုမြန်သော ရှာဖွေသိရှိမှုနှင့် ပိုထိရောက်သော ဖြစ်ရပ်တုံ့ပြန်မှုအဖြစ် ပြောင်းလဲနိုင်မည်ဖြစ်သည်။

“ဤအကြောင်းအရာနှင့် အခြားအကြောင်းအရာများတွင် OpenAI နှင့် ပူးပေါင်းဆောင်ရွက်မှုအတွက် ကျွန်ုပ်တို့ ကျေးဇူးတင်ရှိပါသည်။ ဤအမျိုးအစားတွင် ပထမဆုံးဖြစ်နိုင်သည့် ဤဖြစ်ရပ်သည် ကျွန်ုပ်တို့ ကြာမြင့်စွာ ယုံကြည်လာခဲ့သည့် အချက်တစ်ခုကို သက်သေပြနေသည်။ AI ဘေးကင်းလုံခြုံရေးကို လျှို့ဝှက်စွာ လုပ်ဆောင်နေသော ကုမ္ပဏီတစ်ခုတည်းက ဖြေရှင်းနိုင်မည်မဟုတ်ပါ။ ယင်းကို ပွင့်လင်းမြင်သာစွာ၊ ပူးပေါင်းဆောင်ရွက်ကာ၊ နေရာအနှံ့ရှိ ကာကွယ်သူတိုင်းအတွက် AI ကို ကျယ်ကျယ်ပြန့်ပြန့် အသုံးပြုနိုင်ခွင့် ရရှိစေခြင်းဖြင့် ဖြေရှင်းသွားမည်ဖြစ်သည်။”
—Clem Delangue၊ ပူးတွဲတည်ထောင်သူနှင့် CEO၊ Hugging Face

စာရေးသူ

OpenAI