Prompt injection များကို နားလည်ခြင်း - စွမ်းဆောင်ရည်အမြင့်ဆုံး လုံခြုံရေးစိန်ခေါ်မှုတစ်ခု

AI ကိရိယာများသည် မေးခွန်းများကို ပြန်ဖြေခြင်းထက် ပိုမိုလုပ်ဆောင်လာနေပြီဖြစ်သည်။ ယခုအခါ ၎င်းတို့သည် ဝဘ်ကို ရှာဖွေနိုင်ပြီး၊ လေ့လာသုတေသနကို ကူညီနိုင်ကာ၊ ခရီးစဉ်များ စီစဉ်နိုင်ပြီး၊ ပစ္စည်းများ ဝယ်ယူရာတွင်လည်း ကူညီနိုင်သည်။ ၎င်းတို့၏ စွမ်းဆောင်ရည်များ မြင့်မားလာပြီး အခြား app များရှိ သင့်ဒေတာကို ရယူနိုင်ခြင်းနှင့် သင့်ကိုယ်စား လုပ်ဆောင်ချက်များ ပြုလုပ်နိုင်ခြင်းတို့ ရှိလာသဖြင့် လုံခြုံရေး စိန်ခေါ်မှုအသစ်များလည်း ပေါ်ပေါက်လာသည်။ ကျွန်ုပ်တို့ အထူးအာရုံစိုက်နေသည့် အရာတစ်ခုမှာ prompt injection ဖြစ်သည်။

Prompt injection သည် စကားပြော AI အတွက် သီးသန့်ဖြစ်သော social engineering တိုက်ခိုက်မှု အမျိုးအစားတစ်ခုဖြစ်သည်။ အစောပိုင်း AI စနစ်များတွင် အသုံးပြုသူတစ်ဦးနှင့် AI အေးဂျင့်တစ်ဦးအကြား စကားပြောဆိုမှုသာ ရှိခဲ့သည်။ ယနေ့ခေတ် AI ထုတ်ကုန်များတွင် သင့်စကားပြောဆိုမှု၌ အင်တာနက်အပါအဝင် အရင်းအမြစ်အများအပြားမှ အကြောင်းအရာများ ပါဝင်နိုင်သည်။ အသုံးပြုသူလည်းမဟုတ်၊ AI လည်းမဟုတ်သော ပြင်ပတတိယပါတီတစ်ဦးက စကားပြောဆိုမှု၏ context ထဲသို့ မကောင်းသော ညွှန်ကြားချက်များ ထည့်သွင်းခြင်းဖြင့် မော်ဒယ်ကို လှည့်ဖြားနိုင်သည်ဟူသော အယူအဆကြောင့် “prompt injection” ဟူသော ဝေါဟာရ ပေါ်ပေါက်လာခြင်းဖြစ်သည်။

Phishing အီးမေးလ်များ သို့မဟုတ် ဝဘ်ပေါ်ရှိ လိမ်လည်မှုများက လူများကို အရေးကြီးအချက်အလက်များ ပေးထုတ်စေရန် လှည့်ဖြားရန် ကြိုးစားသကဲ့သို့ပင်၊ prompt injection များသည်လည်း AI များကို သင်မခိုင်းထားသော အရာတစ်ခုခု လုပ်စေရန် လှည့်ဖြားရန် ကြိုးစားသည်။

ဥပမာအားဖြင့်၊ သင်က AI ကို အွန်လိုင်းတွင် အပန်းဖြေခရီးအတွက် အချက်အလက်များ ရှာဖွေကူညီရန် ခိုင်းထားသည်ဟု စဉ်းစားကြည့်ပါ။ ထိုသို့ လုပ်ဆောင်နေစဉ် ၎င်းသည် စာရင်းတစ်ခုအပေါ်ရှိ မှတ်ချက်တစ်ခု သို့မဟုတ် သုံးသပ်ချက်တစ်ခုတွင် ဖုံးကွယ်ထားသော လှည့်ဖြားသည့် အကြောင်းအရာများ သို့မဟုတ် အန္တရာယ်ရှိသော ညွှန်ကြားချက်များကို တွေ့နိုင်သည်။ ထိုအကြောင်းအရာကို AI က မှားယွင်းသော စာရင်းကို အကြံပြုစေရန် သို့မဟုတ် ပိုဆိုးသည်မှာ သင့်ခရက်ဒစ်ကတ်အချက်အလက်များကို ခိုးယူစေရန် သေချာစွာ ဖန်တီးထားနိုင်သည်။

ဤအရာများသည် “prompt injection” တိုက်ခိုက်မှု၏ ဥပမာအနည်းငယ်သာ ဖြစ်သည် — ဝဘ်စာမျက်နှာ၊ စာရွက်စာတမ်း သို့မဟုတ် အီးမေးလ်ကဲ့သို့သော သာမန်အကြောင်းအရာများအတွင်း မကြာခဏ ဖုံးကွယ်ထားပြီး AI ကို သင်မရည်ရွယ်ထားသော အရာတစ်ခု လုပ်စေရန် လှည့်ဖြားရန် ဖန်တီးထားသည့် အန္တရာယ်ရှိသော ညွှန်ကြားချက်များ ဖြစ်သည်။

AI များသည် ပိုမိုအရေးကြီးသော ဒေတာများကို ရယူသုံးစွဲနိုင်လာပြီး ပိုမိုတက်ကြွစွာ၊ ပိုမိုကြာရှည်သော အလုပ်များကို လုပ်ဆောင်လာသည်နှင့်အမျှ ဤအန္တရာယ်များသည် ပိုမိုတိုးလာသည်။

Prompt injection ကို ကာကွယ်ခြင်းသည် AI လုပ်ငန်းစုတစ်လျှောက်ရှိ စိန်ခေါ်မှုတစ်ရပ်ဖြစ်ပြီး OpenAI ၏ အဓိက အာရုံစိုက်ရာ တစ်ခုလည်းဖြစ်သည်။ ပြိုင်ဘက်များက ထိုကဲ့သို့သော တိုက်ခိုက်မှုများကို ဆက်လက်ဖန်တီးမည်ဟု ကျွန်ုပ်တို့ မျှော်လင့်ထားသော်လည်း၊ တစ်စုံတစ်ဦးက တက်တက်ကြွကြွ လှည့်ဖြားရန် ကြိုးစားနေသည့်အချိန်တွင်ပင် အသုံးပြုသူ ရည်ရွယ်ထားသော အလုပ်ကို ဆောင်ရွက်နိုင်ရန် ဒီဇိုင်းလုပ်ထားသော ကာကွယ်မှုများကို ကျွန်ုပ်တို့ တည်ဆောက်နေသည်။ AGI ၏ အကျိုးကျေးဇူးများကို လုံခြုံစွာ အကောင်အထည်ဖော်ရန် ထိုစွမ်းရည်သည် မရှိမဖြစ် လိုအပ်သည်။

အသုံးပြုသူများကို ကာကွယ်ရန်နှင့် ဤတိုက်ခိုက်မှုများအပေါ် ကျွန်ုပ်တို့၏ မော်ဒယ်များကို ပိုကောင်းလာစေရန် ကူညီရန်၊ အောက်ပါတို့အပါအဝင် အလွှာစုံနည်းလမ်းတစ်ခုကို ကျွန်ုပ်တို့ အသုံးပြုသည် -

ကျွန်ုပ်တို့သည် prompt injection များကို ခွဲခြားသိရှိပြီး ၎င်းတို့၏ လှည့်ဖြားမှုကို မခံရသော AI ကို လိုချင်သည်။ သို့သော် ပြိုင်ဘက်ဆန်သော တိုက်ခိုက်မှုများကို ခံနိုင်ရည်ရှိခြင်းသည် machine learning နှင့် AI တွင် ရှည်လျားစွာ တည်ရှိနေသော စိန်ခေါ်မှုတစ်ခုဖြစ်သဖြင့်၊ ၎င်းသည် ခက်ခဲပြီး မဖြေရှင်းရသေးသော ပြဿနာတစ်ခုဖြစ်သည်။ ယုံကြည်ရသော ညွှန်ကြားချက်များနှင့် မယုံကြည်ရသော ညွှန်ကြားချက်များအကြား မော်ဒယ်များ ခွဲခြားသိမြင်နိုင်စေရန် ရည်ရွယ်သည့် Instruction Hierarchy⁠ ဟုခေါ်သော သုတေသနကို ကျွန်ုပ်တို့ တီထွင်ထားသည်။ Prompt injection ပုံစံများကို မော်ဒယ်များက ပိုမိုကောင်းမွန်စွာ သိမြင်နိုင်စေရန်၊ ထို့နောက် ၎င်းတို့ကို လျစ်လျူရှုနိုင်ရန် သို့မဟုတ် အသုံးပြုသူများထံ သတိပေးနိုင်ရန် လေ့ကျင့်ပေးသည့် နည်းလမ်းအသစ်များကို ကျွန်ုပ်တို့ ဆက်လက် ဖွံ့ဖြိုးတိုးတက်နေသည်။ ကျွန်ုပ်တို့ အသုံးပြုသော နည်းလမ်းများထဲမှ တစ်ခုမှာ automated red-teaming ဖြစ်ပြီး၊ ၎င်းသည် prompt injection တိုက်ခိုက်မှုပုံစံအသစ်များ ဖန်တီးရန်အတွက် နှစ်ပေါင်းများစွာ လေ့လာနေခဲ့သော⁠(ဝင်းဒိုးအသစ်တွင် ဖွင့်မည်) နယ်ပယ်တစ်ခုဖြစ်သည်။

Prompt injection တိုက်ခိုက်မှုများကို ခွဲခြားဖော်ထုတ်ပြီး ပိတ်ဆို့ရန် automated AI-powered monitors⁠ မျိုးစုံကို ကျွန်ုပ်တို့ တီထွင်ထားသည်။ ဤအရာများသည် လေ့ကျင့်မှုအခြေပြု ဘေးကင်းရေးနည်းလမ်းများကို ဖြည့်စွက်ပေးသည်၊ အဘယ်ကြောင့်ဆိုသော် ကျွန်ုပ်တို့ တွေ့ရှိသော တိုက်ခိုက်မှုအသစ်များကို အမြန်ပိတ်ဆို့နိုင်ရန် ၎င်းတို့ကို လျင်မြန်စွာ အပ်ဒိတ်လုပ်နိုင်သောကြောင့်ဖြစ်သည်။ ဤ monitors များသည် အသုံးပြုသူများအပေါ် ဖြစ်နိုင်သော prompt injection တိုက်ခိုက်မှုများကိုသာ ခွဲခြားသိရှိစေခြင်းမဟုတ်ဘဲ၊ ၎င်းတို့ တကယ်အသုံးချမခံရမီ ကျွန်ုပ်တို့၏ platform ကို အသုံးပြု၍ ပြုလုပ်နေသော ပြိုင်ဘက်ဆန်သော prompt injection သုတေသနနှင့် စမ်းသပ်မှုများကိုပါ ဖမ်းဆီးနိုင်ရန် ကူညီပေးနိုင်သည်။

အသုံးပြုသူ ဒေတာကို ကာကွယ်စောင့်ရှောက်ရန် ကူညီနိုင်သော ထပ်တလဲလဲ တင်ဆက်ထားသည့် လုံခြုံရေးကာကွယ်မှု အမျိုးမျိုးနှင့်အတူ ကျွန်ုပ်တို့၏ ထုတ်ကုန်များနှင့် အခြေခံအဆောက်အအုံကို ဒီဇိုင်းလုပ်ထားသည်။ အနာဂတ် post များတွင် ပိုမိုနည်းပညာဆန်သော အသေးစိတ်များဖြင့် ရှင်းပြသွားမည့် ဤစွမ်းဆောင်ချက်များကို ထုတ်ကုန်တစ်ခုချင်းစီအလိုက် စိတ်ကြိုက်သတ်မှတ်ထားသည်။ ဥပမာအားဖြင့်၊ မယုံကြည်ရသော site များကို ရှောင်ရှားနိုင်ရန်၊ အထူးသဖြင့် ကျွန်ုပ်တို့အား စာရင်းမသွင်းစေလိုသော website များ⁠(ဝင်းဒိုးအသစ်တွင် ဖွင့်မည်) တွင် ChatGPT အတွင်းရှိ link အချို့ကို သွားရောက်မလည်ပတ်မီ သင်အတည်ပြုရန် ကျွန်ုပ်တို့ တောင်းဆိုမည်။ ကျွန်ုပ်တို့၏ AI သည် အခြားပရိုဂရမ်များ သို့မဟုတ် code ကို အသုံးပြုရန် ကိရိယာများသုံးသည့်အခါ (canvas သို့မဟုတ် ကျွန်ုပ်တို့၏ development tool Codex တွင်ကဲ့သို့) မော်ဒယ်က prompt injection ကြောင့် ဖြစ်လာနိုင်သည့် အန္တရာယ်ရှိသော ပြောင်းလဲမှုများ မပြုလုပ်စေရန် sandboxing ဟုခေါ်သော နည်းလမ်းကို အသုံးပြုသည်။

အသုံးပြုသူများ မိမိကိုယ်ကို ကာကွယ်နိုင်ရန် ကူညီသော built-in controls များကို ကျွန်ုပ်တို့၏ ထုတ်ကုန်များတွင် ထည့်သွင်းထားသည်။ ဥပမာအားဖြင့် ChatGPT Atlas တွင် logged-out mode ကို သင်ရွေးချယ်နိုင်ပြီး၊ ထိုမုဒ်သည် ChatGPT အေးဂျင့်အား site များသို့ login မဝင်ဘဲ လုပ်ငန်းများ စတင်ခွင့်ပြုသည်။ ChatGPT အေးဂျင့်သည် ဝယ်ယူမှုတစ်ခု ပြီးမြောက်စေခြင်းကဲ့သို့သော အရေးကြီးသော အဆင့်များကို ဆောင်ရွက်မီလည်း ခဏရပ်ပြီး အတည်ပြုချက်ကို တောင်းဆိုသည်။ အေးဂျင့်သည် အရေးကြီးသော site များပေါ်တွင် လုပ်ဆောင်နေသည့်အခါ site ၏ အရေးကြီးသဘောကို သတိပေးပြီး အေးဂျင့် လုပ်ဆောင်နေမှုကို ကြည့်ရှုနိုင်ရန် tab ကို active ထားရန် လိုအပ်စေသော “Watch Mode” ကိုလည်း ကျွန်ုပ်တို့ အကောင်အထည်ဖော်ထားသည်။ သင်သည် အရေးကြီးသော အချက်အလက်များပါသည့် tab မှ ရွှေ့သွားပါက အေးဂျင့်သည် ခဏရပ်မည်။ ၎င်းကြောင့် အေးဂျင့်က မည်သည့်လုပ်ဆောင်ချက်များ လုပ်ဆောင်နေသည်ကို သင်သိရှိနေပြီး — ထိန်းချုပ်မှုလည်း ရှိနေစေသည်။

ကျွန်ုပ်တို့၏ ကာကွယ်မှုများကို စမ်းသပ်ရန်နှင့် တိုးတက်စေရန်၊ တိုက်ခိုက်သူ၏ အပြုအမူကို အတုယူရန်နှင့် လုံခြုံရေးတိုးတက်အောင် ပြုလုပ်နိုင်မည့် နည်းလမ်းသစ်များကို ရှာဖွေရန်အတွက် internal နှင့် external team များဖြင့် ကျယ်ပြန့်သော red-teaming ကို ကျွန်ုပ်တို့ ဆောင်ရွက်သည်။ ၎င်းတွင် prompt injection ကို အထူးအာရုံစိုက်ထားသော နာရီထောင်ပေါင်းများစွာ ပါဝင်သည်။ နည်းလမ်းသစ်များနှင့် တိုက်ခိုက်မှုအသစ်များကို ကျွန်ုပ်တို့ တွေ့ရှိလာသည့်အတိုင်း ကျွန်ုပ်တို့၏ team များသည် လုံခြုံရေး အားနည်းချက်များကို ကြိုတင်ဖြေရှင်းပြီး မော်ဒယ် mitigation များကို ပိုမိုကောင်းမွန်အောင် လုပ်ဆောင်သည်။

Prompt injection နည်းလမ်းအသစ်များနှင့် တိုက်ခိုက်မှုများကို ရှာဖွေတွေ့ရှိရန် ကျွန်ုပ်တို့ကို ကူညီပေးသော သဘောရိုးရှိသော လွတ်လပ်သည့် လုံခြုံရေးသုတေသီများကို အားပေးရန်၊ မရည်ရွယ်သော အသုံးပြုသူဒေတာ ဖော်ထုတ်ပေါက်ကြားမှု ဖြစ်စေနိုင်သည့် လက်တွေ့ကျသော တိုက်ခိုက်မှုလမ်းကြောင်းတစ်ခုကို ပြသပါက ကျွန်ုပ်တို့၏ bug bounty program⁠(ဝင်းဒိုးအသစ်တွင် ဖွင့်မည်) အောက်တွင် ငွေကြေးဆုချီးမြှင့်မှုများ ပေးအပ်သည်။ ပြင်ပမှ ပါဝင်ကူညီသူများအား ဤပြဿနာများကို အမြန်တင်ပြရန် မက်လုံးပေးထားပြီး၊ ၎င်းကြောင့် ကျွန်ုပ်တို့ လျင်မြန်စွာ ဖြေရှင်းနိုင်ကာ ကာကွယ်မှုများကို ပိုမိုခိုင်မာစေသည်။

ထုတ်ကုန်အတွင်းရှိ အချို့သော စွမ်းဆောင်ချက်များကို အသုံးပြုခြင်းနှင့် ဆက်စပ်သော အန္တရာယ်များကို ကျွန်ုပ်တို့ အသုံးပြုသူများအား ရှင်းပြပေးသည်၊ သို့မှသာ ၎င်းတို့သည် အသိပညာရှိသော ဆုံးဖြတ်ချက်များ ချနိုင်မည်ဖြစ်သည်။ ဥပမာအားဖြင့် ChatGPT ကို အခြား app များနှင့် ချိတ်ဆက်သောအခါ မည်သည့်ဒေတာများကို ရယူနိုင်သည်၊ ၎င်းတို့ကို မည်သို့ အသုံးပြုနိုင်သည်၊ site တစ်ခုက သင့်ဒေတာကို ခိုးယူရန် ကြိုးစားခြင်းကဲ့သို့သော အန္တရာယ်များ မည်သို့ ပေါ်ပေါက်နိုင်သည်တို့ကို ပိုမိုလုံခြုံစွာ နေနိုင်ရန် လေ့လာနိုင်သော link နှင့်အတူ ကျွန်ုပ်တို့ ရှင်းပြပေးသည်။ အဖွဲ့အစည်းများအတွက်လည်း ၎င်းတို့၏ အလုပ်နေရာများတွင် အသုံးပြုသူများ အသုံးပြုနိုင်သော သို့မဟုတ် ဖွင့်ထားနိုင်သော စွမ်းဆောင်ချက်များကို ထိန်းချုပ်နိုင်ရန် ခွင့်ပြုထားသည်။

Prompt injection သည် အချိန်ကြာလာသည်နှင့်အမျှ ဆက်လက်ပြောင်းလဲတိုးတက်မည်ဟု ကျွန်ုပ်တို့ မျှော်လင့်ထားသော စွမ်းဆောင်ရည်အမြင့်ဆုံး လုံခြုံရေးစိန်ခေါ်မှုတစ်ခုဖြစ်သည်။ ဉာဏ်ရည်နှင့် စွမ်းဆောင်ရည်အဆင့်သစ်များသည် နည်းပညာ၊ လူ့အဖွဲ့အစည်းနှင့် အန္တရာယ်လျှော့ချရေး မဟာဗျူဟာတို့ကို အတူတကွ တိုးတက်ပြောင်းလဲရန် လိုအပ်စေသည်။ ၂၀၀၀ ခုနှစ်အစောပိုင်းက ကွန်ပျူတာဗိုင်းရပ်စ်များကဲ့သို့ပင်၊ လူတိုင်းက prompt injection အန္တရာယ်ကို နားလည်ပြီး ၎င်း၏ အန္တရာယ်ကို မည်သို့ ကိုင်တွယ်ရမည်ကို သိရှိထားရန် အရေးကြီးသည်ဟု ကျွန်ုပ်တို့ ယူဆသည်၊ ထို့ကြောင့် ကျွန်ုပ်တို့အားလုံးသည် ဤနည်းပညာမှ လုံခြုံစွာ အကျိုးကျေးဇူးရရှိနိုင်မည်ဖြစ်သည်။ သင့်ကိုယ်စား လုပ်ဆောင်နိုင်သော AI နှင့် agentic စွမ်းဆောင်ချက်များကို အသုံးပြုသည့်အခါ သတိရှိနေခြင်းနှင့် ဂရုတစိုက်ရှိခြင်းသည် သင့်ဒေတာကို ပိုမိုလုံခြုံစေသည်။

ဖြစ်နိုင်ပါက အေးဂျင့်သည် အလုပ်ပြီးမြောက်ရန် လိုအပ်သော အရေးကြီးဒေတာ သို့မဟုတ် credential များကိုသာ ရယူသုံးစွဲခွင့် ရှိစေပါ။ ဥပမာအားဖြင့် ChatGPT Atlas ၏ agent mode ကို အသုံးပြုပြီး အပန်းဖြေခရီးအတွက် လေ့လာရှာဖွေမှု ပြုလုပ်နေပါက အေးဂျင့်သည် လေ့လာရှာဖွေမှုသာ လုပ်ဆောင်နေပြီး login ဝင်ရန် မလိုအပ်ပါက “logged out” mode ကို အသုံးပြုပါ။

ဝယ်ယူမှုတစ်ခု ပြီးမြောက်စေခြင်း သို့မဟုတ် အီးမေးလ်ပို့ခြင်းကဲ့သို့သော အကျိုးသက်ရောက်မှုရှိသော လုပ်ဆောင်ချက်အချို့ မပြုလုပ်မီ၊ အေးဂျင့်များက သင့်ထံမှ နောက်ဆုံး အတည်ပြုချက် ရယူစေရန် ကျွန်ုပ်တို့ မကြာခဏ ဒီဇိုင်းလုပ်ထားသည်။ အေးဂျင့်က လုပ်ဆောင်ချက်တစ်ခုကို အတည်ပြုရန် သင့်အား တောင်းဆိုသည့်အခါ၊ ထိုလုပ်ဆောင်ချက်သည် မှန်ကန်ပုံရကြောင်းနှင့် မျှဝေမည့် အချက်အလက်များသည် ထိုအခြေအနေတွင် မျှဝေရန် သင့်လျော်ကြောင်း သေချာစွာ စစ်ဆေးပါ။

အေးဂျင့်သည် သင့်ဘဏ်ကဲ့သို့ အရေးကြီးသော site တစ်ခုတွင် လုပ်ဆောင်နေသည့်အခါ၊ ၎င်း လုပ်ဆောင်နေမှုကို စောင့်ကြည့်ပါ။ ၎င်းသည် self-driving car ကို လက်ကို စတီယာရင်ပေါ်တွင် ထားကာ စောင့်ကြည့်နေရသကဲ့သို့ပင် ဖြစ်သည်။

“ကျွန်ုပ်၏ အီးမေးလ်များကို စစ်ဆေးပြီး လိုအပ်သည့် အရေးယူမှုမှန်သမျှ လုပ်ဆောင်ပါ” ကဲ့သို့ အလွန်ကျယ်ပြန့်သော ညွှန်ကြားချက်တစ်ခုကို အေးဂျင့်အား ပေးခြင်းသည်၊ အရေးကြီးသော လုပ်ဆောင်ချက်များ မပြုလုပ်မီ သင့်ထံ စစ်ဆေးရန် ဒီဇိုင်းလုပ်ထားသော်လည်းပင်၊ ဖုံးကွယ်ထားသော မကောင်းသော အကြောင်းအရာများက မော်ဒယ်ကို လှည့်ဖြားရန် ပိုမိုလွယ်ကူစေနိုင်သည်။

သင့်အေးဂျင့်ကို တိကျသော အရာများ လုပ်ခိုင်းရန်က ပိုလုံခြုံပြီး၊ အီးမေးလ်များကဲ့သို့ အခြားနေရာများမှ အန္တရာယ်ရှိသော ညွှန်ကြားချက်များကို လိုက်နာသွားနိုင်သည့် အလွန်ကျယ်ပြန့်သော လုပ်ဆောင်ခွင့်ကို မပေးသင့်ပါ။ ၎င်းသည် တိုက်ခိုက်မှုများ လုံးဝမရှိဘဲ ဖြစ်သွားမည်ဟု အာမမခံသော်လည်း၊ တိုက်ခိုက်သူများ အောင်မြင်ရန် ပိုမိုခက်ခဲစေသည်။

AI နည်းပညာ တိုးတက်လာသည်နှင့်အမျှ အန္တရာယ်အသစ်များနှင့် ကာကွယ်မှုအသစ်များလည်း ပေါ်ပေါက်လာမည်။ အကောင်းဆုံး အလေ့အကျင့်များကို သိရှိရန် OpenAI နှင့် အခြား ယုံကြည်ရသော အရင်းအမြစ်များမှ အပ်ဒိတ်များကို လိုက်နာပါ။

Prompt injection သည် စွမ်းဆောင်ရည်အမြင့်ဆုံး ဖြစ်ပြီး စိန်ခေါ်မှုများသော သုတေသနပြဿနာတစ်ခုအဖြစ် ဆက်လက်တည်ရှိနေပြီး၊ ဝဘ်ပေါ်ရှိ ရိုးရာလိမ်လည်မှုများကဲ့သို့ပင် ကျွန်ုပ်တို့၏ အလုပ်သည် ဆက်လက်တည်ရှိနေမည်ဟု မျှော်လင့်ထားသည်။ ယခုအချိန်အထိ ဤနည်းလမ်းကို တိုက်ခိုက်သူများက သိသိသာသာ အသုံးပြုလာခြင်းကို မမြင်ရသေးသော်လည်း၊ AI များကို ဤတိုက်ခိုက်မှုများအပေါ် လှည့်ဖြားနိုင်စေရန် နည်းလမ်းရှာဖွေဖို့ ပြိုင်ဘက်များက အချိန်နှင့် အရင်းအမြစ်များစွာ သုံးစွဲမည်ဟု ကျွန်ုပ်တို့ မျှော်လင့်ထားသည်။ ဤအန္တရာယ်အပေါ် AI ၏ ခံနိုင်ရည်အား မြှင့်တင်ရန် သုတေသနတွင်လည်းကောင်း၊ ကျွန်ုပ်တို့၏ ထုတ်ကုန်များကို လုံခြုံစေရန်လည်းကောင်း ကျွန်ုပ်တို့ အလွန်အမင်း ရင်းနှီးမြှုပ်နှံမှု ဆက်လက်ပြုလုပ်နေသည်။ သင်ယူသိရှိလာသမျှကို အပ်ဒိတ်များအဖြစ် မျှဝေသွားမည်ဖြစ်ပြီး၊ ဤနယ်ပယ်ရှိ လုံခြုံရေးလုပ်ငန်းဆောင်တာများတွင် ဆက်လက်တိုးတက်နေမှုကိုလည်း ပါဝင်မည်ဖြစ်သည်။ ဥပမာအားဖြင့် သင့် AI ၏ အင်တာနက်နှင့် ဆက်သွယ်မှုက သင့်စကားပြောဆိုမှုထဲမှ အချက်အလက်များကို ပို့ဆောင်မည်ဆိုပါက ၎င်းကို မည်သို့ စစ်ဆေးတွေ့ရှိသည်ဆိုသည့် အသေးစိတ်များကို မကြာမီ ထုတ်ဝေမည့် အစီရင်ခံစာတစ်ခုကို ကျွန်ုပ်တို့ တည်ဆောက်နေသည်။

ကျွန်ုပ်တို့၏ ရည်မှန်းချက်မှာ ဤစနစ်များကို သင် အယုံကြည်ရဆုံး၊ လုံခြုံရေးအမြင်ရှိဆုံး လုပ်ဖော်ကိုင်ဖက် သို့မဟုတ် သူငယ်ချင်းတစ်ဦးနှင့် အလုပ်လုပ်သကဲ့သို့ ယုံကြည်စိတ်ချရပြီး လုံခြုံစေရန် ဖြစ်သည်။ ကျွန်ုပ်တို့သည် လက်တွေ့အသုံးပြုမှုမှ ဆက်လက်သင်ယူမည်၊ လုံခြုံစွာ ထပ်တလဲလဲ တိုးတက်အောင် လုပ်ဆောင်မည်၊ နည်းပညာ တိုးတက်လာသည်နှင့်အမျှ သင်ယူသိရှိသမျှကိုလည်း ထုတ်ပြန်မည်ဖြစ်သည်။