ChatGPT တွင် Lockdown Mode နှင့် Elevated Risk labels များကို မိတ်ဆက်ခြင်း

AI စနစ်များသည် ပိုမိုရှုပ်ထွေးသော တာဝန်များကို လုပ်ဆောင်လာသည်နှင့်အမျှ—အထူးသဖြင့် web နှင့် ချိတ်ဆက်ထားသော apps များ ပါဝင်သောအခါ—လုံခြုံရေးဆိုင်ရာ စိန်ခေါ်မှုများလည်း ပြောင်းလဲလာသည်။

ပေါ်ပေါက်လာနေသော အန္တရာယ်တစ်ခုမှာ အထူးအရေးကြီးလာခဲ့သည်- မကောင်းသော တုံ့ပြန်ညွှန်ကြားချက်များ ထည့်သွင်းခြင်း⁠။ ဤတိုက်ခိုက်မှုများတွင် တတိယပုဂ္ဂိုလ်တစ်ဦးက စကားပြောဆိုနိုင်သော AI စနစ်တစ်ခုကို မကောင်းသောညွှန်ကြားချက်များ လိုက်နာစေရန် သို့မဟုတ် ထိခိုက်လွယ်သော အချက်အလက်များ ဖော်ထုတ်စေရန် လှည့်ဖြားကြိုးပမ်းသည်။

ယနေ့တွင် အသုံးပြုသူများနှင့် အဖွဲ့အစည်းများက prompt injection attacks များကို လျော့ပါးစေရန် အထောက်အကူပြုမည့် ကာကွယ်မှုအသစ် ၂ ခုကို မိတ်ဆက်လိုက်ပါသည်။ ၎င်းတို့သည် အန္တရာယ်ကို ပိုမိုရှင်းလင်းစွာ မြင်နိုင်မှုနှင့် ပိုမိုခိုင်မာသော ထိန်းချုပ်မှုများကို ပေးပါသည်-

• အန္တရာယ်မြင့်မားသော အသုံးပြုသူများအတွက် ChatGPT ထဲရှိ အဆင့်မြင့်၊ ရွေးချယ်အသုံးပြုနိုင်သော လုံခြုံရေး setting အသစ်ဖြစ်သော Lockdown Mode
• ထပ်ဆောင်းအန္တရာယ်များ ဖြစ်ပေါ်စေနိုင်သည့် ChatGPT၊ ChatGPT Atlas နှင့် Codex တို့၏ စွမ်းဆောင်ရည်အချို့အတွက် “Elevated Risk” labels

ဤထပ်တိုးမှုများသည် မော်ဒယ်၊ ထုတ်ကုန်နှင့် စနစ်အဆင့်များတစ်လျှောက် ရှိနှင့်ပြီးသား ကျွန်ုပ်တို့၏ ကာကွယ်မှုများအပေါ် တည်ဆောက်ထားခြင်းဖြစ်သည်။ ၎င်းတွင် sandboxing၊ URL-based data exfiltration ကို ကာကွယ်မှုများ⁠၊ စောင့်ကြည့်ခြင်းနှင့် အရေးယူဆောင်ရွက်ခြင်း၊ ထို့အပြင် role-based access နှင့် audit logs ကဲ့သို့သော enterprise controls⁠ များလည်း ပါဝင်သည်။

Lockdown Mode သည် အဆင့်မြင့်ခြိမ်းခြောက်မှုများကို ကာကွယ်ရန် ပိုမိုမြင့်မားသော ကာကွယ်မှုလိုအပ်သော လုံခြုံရေးကို အထူးဂရုစိုက်သည့် အသုံးပြုသူအုပ်စုငယ်တစ်စု—ဥပမာ ထင်ရှားသော အဖွဲ့အစည်းများရှိ အမှုဆောင်များ သို့မဟုတ် လုံခြုံရေးအသင်းများ—အတွက် ဒီဇိုင်းထုတ်ထားသော ရွေးချယ်အသုံးပြုနိုင်သည့် အဆင့်မြင့် လုံခြုံရေး setting တစ်ခုဖြစ်သည်။ အသုံးပြုသူအများစုအတွက်တော့ မလိုအပ်ပါ။ Lockdown Mode သည် ChatGPT က ပြင်ပစနစ်များနှင့် မည်သို့ အပြန်အလှန်လုပ်ဆောင်နိုင်သည်ကို တင်းကျပ်စွာ ကန့်သတ်ပြီး prompt injection အခြေပြု data exfiltration အန္တရာယ်ကို လျှော့ချပေးသည်။

Lockdown Mode သည် ပြိုင်ဘက်တစ်ဦးက prompt injections ကဲ့သို့သော တိုက်ခိုက်မှုများမှတဆင့် အသုံးပြုသူများ၏ conversations သို့မဟုတ် ချိတ်ဆက်ထားသော apps များမှ ထိခိုက်လွယ်သော ဒေတာများကို ထုတ်ယူရန် အသုံးချကြိုးစားနိုင်သည့် ChatGPT ထဲရှိ tools နှင့် capabilities အချို့ကို deterministic နည်းလမ်းဖြင့် ပိတ်ထားသည်။

ဥပမာအားဖြင့် Lockdown Mode တွင် web browsing ကို cached content များသို့သာ ကန့်သတ်ထားသောကြောင့် OpenAI ၏ ထိန်းချုပ်ထားသော network မှ အပြင်သို့ live network requests များ မထွက်ပါ။ ဤကန့်သတ်ချက်သည် browsing မှတဆင့် တိုက်ခိုက်သူထံသို့ ထိခိုက်လွယ်သော ဒေတာများ ထုတ်ယူခံရခြင်းကို ကာကွယ်ရန် ဒီဇိုင်းထုတ်ထားသည်။ ဒေတာလုံခြုံမှုအတွက် ခိုင်မာသော deterministic guarantees မပေးနိုင်သည့်အခါ အချို့သော features များကို လုံးဝပိတ်ထားပါသည်။

ChatGPT business plans များသည် enterprise-grade data security⁠ ကို ယခင်ကတည်းက ပေးထားပြီးဖြစ်သည်။ Lockdown Mode သည် ထိုကာကွယ်မှုများအပေါ် ဆက်လက်တည်ဆောက်ထားပြီး ChatGPT Enterprise၊ ChatGPT Edu၊ ChatGPT for Healthcare နှင့် ChatGPT for Teachers အတွက် ရရှိနိုင်သည်။ Admins များသည် အလုပ်နေရာ Settings⁠(ဝင်းဒိုးအသစ်တွင် ဖွင့်မည်) တွင် role⁠(ဝင်းဒိုးအသစ်တွင် ဖွင့်မည်) အသစ်တစ်ခု ဖန်တီးခြင်းဖြင့် ၎င်းကို ဖွင့်နိုင်သည်။ ဖွင့်လိုက်သောအခါ Lockdown Mode သည် ရှိနှင့်ပြီးသား admin settings များအပေါ် ထပ်ဆင့်ကန့်သတ်ချက်များ ထည့်သွင်းပေးသည်။

Lockdown Mode အကြောင်းကို ကျွန်ုပ်တို့၏ အကူအညီစင်တာ⁠(ဝင်းဒိုးအသစ်တွင် ဖွင့်မည်) တွင် ပိုမိုလေ့လာနိုင်ပါသည်။

အရေးကြီးသော workflows အချို့သည် apps များအပေါ် မူတည်နေသောကြောင့် Workspace Admins များတွင် ပိုမိုအသေးစိတ်သော ထိန်းချုပ်မှုများကို ဆက်လက်ထားရှိပေးပါသည်။ ၎င်းတို့သည် Lockdown Mode တွင် အသုံးပြုသူများအတွက် ရနိုင်မည့် apps များနှင့် ထို apps များအတွင်းရှိ သီးခြား actions များကို တိတိကျကျ ရွေးချယ်နိုင်သည်။ ထို့အပြင် Lockdown Mode နှင့် သီးခြားစီဖြစ်သော Compliance API Logs Platform⁠(ဝင်းဒိုးအသစ်တွင် ဖွင့်မည်) သည် app အသုံးပြုမှု၊ မျှဝေထားသော ဒေတာနှင့် ချိတ်ဆက်ထားသော sources များအပေါ် အသေးစိတ် မြင်နိုင်မှုကို ပေးပြီး admins များအား ကြီးကြပ်ထိန်းသိမ်းရာတွင် ကူညီပေးသည်။

လာမည့် လများအတွင်း Lockdown Mode ကို consumers များအတွက်ပါ ရရှိနိုင်အောင် ပြုလုပ်ရန် စီစဉ်ထားပါသည်။

AI ထုတ်ကုန်များသည် သင်၏ apps များနှင့် web နှင့် ချိတ်ဆက်ထားသောအခါ ပိုမိုအသုံးဝင်နိုင်ပြီး ကျွန်ုပ်တို့သည် ချိတ်ဆက်ထားသော ဒေတာကို လုံခြုံစွာ ထိန်းသိမ်းခြင်း⁠ အတွက် အားကြိုးမာန်တက် ရင်းနှီးမြှုပ်နှံထားပါသည်။ တစ်ချိန်တည်းမှာပင် network နှင့် ဆက်စပ်သော capabilities အချို့သည် စက်မှုလုပ်ငန်း၏ safety နှင့် security mitigations များဖြင့် လုံးဝမဖြေရှင်းနိုင်သေးသော အန္တရာယ်အသစ်များကို မိတ်ဆက်ပေးသည်။ အသုံးပြုသူအချို့သည် ဤအန္တရာယ်များကို လက်ခံနိုင်ကောင်း လက်ခံနိုင်ပြီး အထူးသဖြင့် ကိုယ်ပိုင်ဒေတာနှင့် လုပ်ဆောင်နေစဉ်တွင် ၎င်းတို့ကို အသုံးပြုမည်လား၊ အသုံးပြုမည်ဆိုလျှင် မည်သို့အသုံးပြုမည်လဲဆိုသည်ကို အသုံးပြုသူများက ကိုယ်တိုင်ဆုံးဖြတ်နိုင်ရန် အရေးကြီးသည်ဟု ကျွန်ုပ်တို့ ယုံကြည်ပါသည်။

ကျွန်ုပ်တို့၏ နည်းလမ်းမှာ ထပ်ဆောင်းအန္တရာယ်များ ဖြစ်ပေါ်စေနိုင်သည့် features များအတွက် product အတွင်း လမ်းညွှန်ချက်များ ပေးရန် ဖြစ်သည်။ ၎င်းကို ပိုမိုရှင်းလင်းပြီး ကိုက်ညီမှုရှိစေရန် ရှိပြီးသား capabilities စာရင်းတိုတစ်ခုကို မည်သို့ label တပ်မည်ကို စံသတ်မှတ်နေပါသည်။ ယခုအခါ ဤ features များသည် ChatGPT၊ ChatGPT Atlas နှင့် Codex တစ်လျှောက် တူညီသော “Elevated Risk” label ကို အသုံးပြုမည်ဖြစ်သဖြင့် အသုံးပြုသူများသည် ၎င်းတို့နှင့် မည်သည့်နေရာတွင်မဆို တွေ့ကြုံသည့်အခါ လမ်းညွှန်ချက်တူညီစွာ ရရှိမည်ဖြစ်သည်။

ဥပမာအားဖြင့် ကျွန်ုပ်တို့၏ coding assistant ဖြစ်သော Codex တွင် developers များသည် Codex ကို documentation ရှာဖွေခြင်းကဲ့သို့သော web ပေါ်မှ လုပ်ဆောင်ချက်များ ဆောင်ရွက်နိုင်စေရန် network access ပေးနိုင်သည်။ သက်ဆိုင်ရာ settings screen တွင် “Elevated Risk” label ကို ပြသထားပြီး ဘာတွေ ပြောင်းလဲသွားမည်၊ ဘယ်လိုအန္တရာယ်များ ဖြစ်ပေါ်လာနိုင်သည်၊ ထို access သည် မည်သည့်အချိန်တွင် သင့်လျော်သည်ကို ရှင်းလင်းစွာ ဖော်ပြထားသည်။

ကျွန်ုပ်တို့သည် အထူးသဖြင့် အသစ်ပေါ်ပေါက်လာသော၊ ပေါ်ထွက်လာနေသော သို့မဟုတ် တိုးပွားလာသော အန္တရာယ်များအတွက် safety နှင့် security safeguards များကို ပိုမိုခိုင်မာစေရန် ဆက်လက်ရင်းနှီးမြှုပ်နှံနေပါသည်။ ဤ features များအတွက် safeguards များကို ပိုမိုခိုင်မာစေသွားသည်နှင့်အမျှ လုံခြုံရေးတိုးတက်မှုများက အဆိုပါအန္တရာယ်များကို အများပြည်သူသုံးစွဲမှုအတွက် လုံလောက်စွာ လျှော့ချနိုင်ပြီဟု ကျွန်ုပ်တို့ သတ်မှတ်သည့်အချိန်တွင် “Elevated Risk” label ကို ဖယ်ရှားပါမည်။ ထို့အပြင် အသုံးပြုသူများထံ အန္တရာယ်ကို အကောင်းဆုံးဆက်သွယ်ဖော်ပြနိုင်ရန် အချိန်နှင့်အမျှ ဤ label ကို သယ်ဆောင်မည့် features များကိုလည်း ဆက်လက် အပ်ဒိတ်လုပ်သွားပါမည်။