2023 ခုနှစ် ဇူလိုင် 21 ရက်တွင် OpenAI သည် AI တွင် ဘေးကင်းရေး၊ လုံခြုံရေးနှင့် ယုံကြည်မှုကို မြှင့်တင်ရန် ဆန္ဒအလျောက် ကတိကဝတ်များ အစုတစ်ခု ပြုလုပ်ရာတွင် ဦးဆောင် AI ဓာတ်ခွဲခန်းများနှင့် ပူးပေါင်းခဲ့ပါသည်။ ဤကတိကဝတ်များသည် လာမည့် AI Safety Summit ၏ အဓိကအာရုံစိုက်ရာဖြစ်သော ရှေ့ပြေးအန္တရာယ်များကို အဓိကထားပြီး အန္တရာယ်နယ်ပယ် အမျိုးမျိုးကို ဖုံးလွှမ်းထားပါသည်။
ဤအပ်ဒိတ်တွင် ကျွန်ုပ်တို့သည် အဆိုပါ ဆန္ဒအလျောက် ကတိကဝတ်များအပေါ် တိုးတက်မှုကို ဖော်ပြထားပြီး၊ ကြိုတင်ပြင်ဆင်ထားခြင်းဆိုင်ရာ ဖွဲ့စည်းမှု ဖွံ့ဖြိုးတိုးတက်စေရန် ဆက်လက်လုပ်ဆောင်နေသော အလုပ်များ အပါအဝင် ရှေ့ပြေးအန္တရာယ်များကို လျှော့ချရန် ကျွန်ုပ်တို့၏ ပြောင်းလဲတိုးတက်နေသော ချဉ်းကပ်ပုံကိုလည်း ထပ်မံအသေးစိတ်ဖော်ပြထားပါသည်။
2023 ခုနှစ် အောက်တိုဘာ 3 ရက်တွင် ကျွန်ုပ်တို့၏ ဆန္ဒအလျောက် ကတိကဝတ်များအတွင်း ပါဝင်သော စွမ်းဆောင်ရည်အမြင့်ဆုံး မော်ဒယ်အသစ်တစ်ခု၏ ပထမဆုံး အဓိက အများပြည်သူထံ ထုတ်ပြန်မှုဖြစ်သည့် စနစ်ကဒ် ကို စာသားမှ ရုပ်ပုံသို့ ပြောင်းလဲသော ကျွန်ုပ်တို့၏ မော်ဒယ် DALL-E 3 အတွက် အများပြည်သူထံ ထုတ်ပြန်ခဲ့ပါသည်။ ကျွန်ုပ်တို့၏ မစ်ရှင်နှင့် ဆန္ဒအလျောက် ကတိကဝတ်များနှစ်ခုစလုံးနှင့် ကိုက်ညီစွာ အသုံးချမတိုင်မီ ဘေးကင်းရေး အကဲဖြတ်မှုနှင့် ထိုးဖောက်စမ်းသပ်ခြင်း အပါအဝင် အရေးကြီးသော ဘေးကင်းရေးလုပ်ငန်းများကို ဆောင်ရွက်ခဲ့ပါသည်။ ထို့အပြင် လူများအနေဖြင့် AI ဖန်တီးထားသော မီဒီယာ၏ ဇာစ်မြစ်ကို ခြေရာခံနိုင်ရန် အားပေးမည့် နည်းလမ်းသစ်များဆီသို့လည်း ကျွန်ုပ်တို့ လုပ်ဆောင်နေပြီး ChatGPT တွင် အသံနှင့် ရုပ်ပုံခွဲခြမ်းစိတ်ဖြာနိုင်စွမ်းများကို ဖြန့်ချိအသုံးပြုခြင်းမှတစ်ဆင့် တာဝန်ယူမှုရှိသော လုပ်ထုံးလုပ်နည်းများတွင်လည်း ဆက်လက် ရင်းနှီးမြှုပ်နှံနေပါသည်။
ထို့ပြင် ကျွန်ုပ်တို့သည် Frontier Model Forum ကို ပူးတွဲတည်ထောင်ခြင်းအားဖြင့် “စွမ်းဆောင်ရည်အမြင့်ဆုံး AI ဘေးကင်းရေးအတွက် မျှဝေထားသော စံချိန်စံညွှန်းများနှင့် အကောင်းဆုံး လုပ်ထုံးလုပ်နည်းများကို [ကျွန်ုပ်တို့] ဖွံ့ဖြိုးတိုးတက်စေ၊ ရှေ့တိုးစေပြီး လက်ခံကျင့်သုံးနိုင်မည့် forum သို့မဟုတ် ယန္တရားတစ်ခုကို တည်ထောင်ရန် သို့မဟုတ် ပူးပေါင်းရန်” ဟူသော ကျွန်ုပ်တို့၏ ဆန္ဒအလျောက် ကတိကဝတ် ကိုလည်း ပြည့်မီအောင် လုပ်ဆောင်ခဲ့ပါသည်။ Microsoft၊ Google Deepmind နှင့် Anthropic တို့နှင့် ပူးတွဲတည်ထောင်ထားသော ဤစက်မှုလုပ်ငန်းအဖွဲ့သစ်သည် AI ဘေးကင်းရေး သုတေသနကို ရှေ့တိုးစေပြီး စွမ်းဆောင်ရည်အမြင့်ဆုံး AI စနစ်များအတွက် တာဝန်ယူမှုရှိသော ဖွံ့ဖြိုးတိုးတက်မှု လုပ်ထုံးလုပ်နည်းများကို မြှင့်တင်ရန် နေရာတစ်ခု ဖြစ်ပါသည်။
စွမ်းဆောင်ရည်အမြင့်ဆုံး AI မော်ဒယ်များသည် လူသားအားလုံးအတွက် အကျိုးကျေးဇူးများ ပေးနိုင်သော အလားအလာရှိသော်လည်း ပိုမိုပြင်းထန်လာသော အန္တရာယ်များကိုလည်း ဖြစ်စေပါသည်။ AI မော်ဒယ်များ ဆက်လက်တိုးတက်လာသည်နှင့်အမျှ ဤအန္တရာယ်များကို စီမံခန့်ခွဲနိုင်ရန်၊ အထူးသဖြင့် ကပ်ဆိုးဆန်သော အန္တရာယ်များနှင့် ပတ်သက်၍ တာဝန်ယူမှုရှိသော စွမ်းဆောင်ရည်အမြင့်ဆုံး မော်ဒယ် ဖွံ့ဖြိုးတိုးတက်ရေးအပေါ် ကျွန်ုပ်တို့၏ ကြိုတင်ဆောင်ရွက်သော အန္တရာယ်အခြေပြု ချဉ်းကပ်မှုကို ပိုမိုနက်ရှိုင်းစေမည့် ကြိုတင်ပြင်ဆင်ထားခြင်းဆိုင်ရာ ဖွဲ့စည်းမှု တစ်ခုကို ကျွန်ုပ်တို့ ဖန်တီးနေပါသည်။
ကြိုတင်ပြင်ဆင်ထားခြင်းဆိုင်ရာ ဖွဲ့စည်းမှုတွင် စွမ်းဆောင်ရည်အမြင့်ဆုံး မော်ဒယ် စွမ်းရည်အကဲဖြတ်မှုများနှင့် စောင့်ကြည့်မှုများကို တင်းကျပ်စွာ ဖွံ့ဖြိုးစေရန် ကျွန်ုပ်တို့၏ ချဉ်းကပ်ပုံကို အသေးစိတ်ဖော်ပြမည်ဖြစ်ပြီး၊ ဖွံ့ဖြိုးတိုးတက်မှု လုပ်ငန်းစဉ်တစ်လျှောက် တာဝန်ခံမှုနှင့် ကြီးကြပ်မှုရှိစေရန် အုပ်ချုပ်မှုဖွဲ့စည်းပုံတစ်ခု တည်ဆောက်ခြင်းကိုလည်း ပါဝင်မည်ဖြစ်သည်။ ဤမူဝါဒအောက်တွင် ကျွန်ုပ်တို့ စောင့်ကြည့်ရန် စီစဉ်ထားသော အန္တရာယ်များမှာ ဆိုက်ဘာလုံခြုံရေး၊ လှုံ့ဆော်သိမ်းသွင်းမှု၊ ဓာတုနှင့် ဇီဝဆိုင်ရာ ခြိမ်းခြောက်မှုများ၊ နှင့် ကိုယ်ပိုင်လုပ်ဆောင်နိုင်မှုတို့ အပါအဝင် ကဏ္ဍအမျိုးမျိုးကို ဖုံးလွှမ်းပါသည်။
ကြိုတင်ပြင်ဆင်ထားခြင်းဆိုင်ရာ ဖွဲ့စည်းမှုသည် ကပ်ဆိုးဆန်သော ရလဒ်များကို ကာကွယ်ရန် လုပ်ဆောင်ချက် အမျိုးမျိုးကိုလည်း ထောက်ပံ့ပေးမည်ဖြစ်သည်။ ကပ်ဆိုးဆန်သော အန္တရာယ်အပေါ် အတွေ့အကြုံအခြေပြု နားလည်မှုသည် စတင်ဖွံ့ဖြိုးဆဲ အဆင့်တွင်ရှိပြီး လျင်မြန်စွာ တိုးတက်နေပါသည်။ ထို့ကြောင့် ကျွန်ုပ်တို့၏ နောက်ဆုံး အကဲဖြတ်မှုနှင့် စောင့်ကြည့်မှုဆိုင်ရာ နားလည်ချက်များကို ထင်ဟပ်နိုင်စေရန် လက်ရှိ စွမ်းဆောင်ရည်အမြင့်ဆုံး မော်ဒယ် အန္တရာယ်အဆင့်များအပေါ် ကျွန်ုပ်တို့၏ အကဲဖြတ်ချက်ကို အခြေအနေအလိုက် မွမ်းမံနေမည်ဖြစ်သည်။ လိုအပ်သော သုတေသနနှင့် စောင့်ကြည့်မှုများ အပါအဝင် ဤကြိုးပမ်းမှုကို ဦးဆောင်မည့် သီးသန့်အဖွဲ့တစ်ဖွဲ့ (Preparedness) ကိုလည်း ကျွန်ုပ်တို့ ဖွဲ့စည်းထားပါသည်။
ကြိုတင်ပြင်ဆင်ထားခြင်းဆိုင်ရာ ဖွဲ့စည်းမှုသည် အသုံးချမတိုင်မီနှင့် အသုံးချပြီးနောက် နှစ်ခုစလုံးတွင် အသစ်နှင့် အလွန်စွမ်းရည်မြင့်သော စနစ်များ၏ ဘေးကင်းရေးနှင့် ကိုက်ညီညွတ်မှုကို အထောက်အကူပြုနေသော ကျွန်ုပ်တို့၏ လက်ရှိ အန္တရာယ်လျှော့ချရေး လုပ်ငန်းများကို ဖြည့်စွက်ပြီး တိုးချဲ့ရန် ရည်ရွယ်ထားပါသည်။ ဤလက်ရှိ ကြိုးပမ်းမှုများတွင် ကျွန်ုပ်တို့၏ အကောင်းဆုံး မော်ဒယ်များကို ဘေးကင်းစွာ အသုံးချနိုင်ရေး သုတေသနပြုလုပ်ပြီး စနစ်တကျ ဖြေရှင်းနည်းများ တည်ဆောက်သော Safety Systems အဖွဲ့၏ လုပ်ငန်းများနှင့် လူသားရည်ရွယ်ချက်နှင့် ကိုက်ညီစေရန် အလွန်ဉာဏ်ရည်မြင့် AI စနစ်များကို ညှိနှိုင်းပေးရာတွင် ရှိသော စက်သင်ယူမှုဆိုင်ရာ စိန်ခေါ်မှုများအပေါ် အာရုံစိုက်သော ကျွန်ုပ်တို့၏ Superalignment အဖွဲ့တို့လည်း ပါဝင်ပါသည်။
၎င်းတို့တွင် Microsoft နှင့် ပူးတွဲဖွဲ့စည်းထားသော Deployment Safety Board (DSB) လည်း ပါဝင်ပြီး၊ သတ်မှတ်ထားသော စွမ်းရည်သတ်မှတ်ချက်တစ်ခုထက် မြင့်သော မော်ဒယ်များကို မည်သည့်ဘက်မှမဆို အသုံးချမည့် ဆုံးဖြတ်ချက်များကို အတည်ပြုပေးပါသည်။ DSB သည် သတ်မှတ်ထားသော အရွယ်အစား သို့မဟုတ် စွမ်းရည်အဆင့်ရှိ မော်ဒယ်များကို လေ့ကျင့်သင်ကြားသင့်၊ မသင့် ဆုံးဖြတ်ခြင်းကဲ့သို့ စောစီးသော အဆင့်များထက် အသုံးချရေး ဆုံးဖြတ်ချက်များအပေါ် သီးသန့် အာရုံစိုက်ပါသည်။ ၎င်းတွင် တာဝန်ယူမှုရှိသော scaling policies များနှင့် ဆက်စပ်၍ မကြာခဏ ဆွေးနွေးလေ့ရှိသော လက္ခဏာအချို့ ပါဝင်ပြီး၊ ဥပမာ အမြင့်ဆုံးစွမ်းရည်ရှိ စနစ်များကို အာရုံစိုက်ခြင်း၊ ပြိုင်ဘက်ဆန်ဆန် ထိုးဖောက်စမ်းသပ်ခြင်းကို အထူးအလေးပေးခြင်း၊ နှင့် alignment ကို ရှင်းလင်းစွာ ထည့်သွင်းစဉ်းစားခြင်းတို့ ဖြစ်သည်။ ပထမဆုံး အကျုံးဝင်သော အသုံးချမှုဖြစ်သည့် GPT‑4 အပေါ် DSB ၏ ပြန်လည်သုံးသပ်မှုမှ တန်ဖိုးရှိသော သင်ခန်းစာများကို ကျွန်ုပ်တို့ ရရှိခဲ့ပြီး၊ အဆိုပါ သင်ခန်းစာများကို ကြိုတင်ပြင်ဆင်ထားခြင်းဆိုင်ရာ ဖွဲ့စည်းမှု၏ ဒီဇိုင်းနှင့် အကောင်အထည်ဖော်မှုအတွက် အသုံးပြုသွားမည်ဖြစ်သည်။ DSB နှင့် ကြိုတင်ပြင်ဆင်ထားခြင်းဆိုင်ရာ ဖွဲ့စည်းမှု နှစ်ခုစလုံးနှင့် ၎င်းတို့၏ သက်ဆိုင်ရာ အခန်းကဏ္ဍများသည် အန္တရာယ်များနှင့် လျှော့ချနည်းများအကြောင်း ပိုမိုလေ့လာသိရှိလာသည်နှင့်အမျှ အချိန်ကြာလာလျှင် ပြောင်းလဲနိုင်ပါသည်။
မှတ်ချက် - ကျွန်ုပ်တို့သည် မူဝါဒကို Responsible Scaling Policy မဟုတ်ဘဲ ကြိုတင်ပြင်ဆင်ထားခြင်းဆိုင်ရာ ဖွဲ့စည်းမှုဟု ခေါ်ဆိုပါသည်၊ အကြောင်းမှာ algorithm ပိုင်းဆိုင်ရာ တိုးတက်မှုများကဲ့သို့သော အချက်များကြောင့် scale သိသိသာသာ မတိုးဘဲ စွမ်းရည် သိသိသာသာ မြင့်တက်လာနိုင်သောကြောင့် ဖြစ်သည်။ ကြိုတင်ပြင်ဆင်ထားခြင်းဆိုင်ရာ ဖွဲ့စည်းမှုသည် scale၊ algorithm ပိုင်းဆိုင်ရာ တိုးတက်မှုများ သို့မဟုတ် အခြား အကောင်းဆုံးဖြစ်အောင် လုပ်ဆောင်မှုများကြောင့် ဖြစ်ပေါ်လာသည်ဖြစ်စေ ပိုမိုစွမ်းရည်မြင့်လာသော စွမ်းဆောင်ရည်အမြင့်ဆုံး မော်ဒယ်များ၏ ဖွံ့ဖြိုးတိုးတက်မှုအပေါ် ကျွန်ုပ်တို့ကို ထိန်းညှိပေးပါသည်။
ကျွန်ုပ်တို့ထက် ပိုမိုဉာဏ်ရည်မြင့်သော AI စနစ်များကို ထိန်းချုပ်ပြီး ပေါင်းစည်းနိုင်ရန် သိပ္ပံဆိုင်ရာ တိုးတက်မှုကြီးများ၊ လူမှုအသိုင်းအဝိုင်းဆိုင်ရာ ကြိုတင်ပြင်ဆင်မှုနှင့် အဆင့်မြင့် လုံခြုံရေးစနစ်များ လိုအပ်ပါသည်။ ဤတိုးတက်မှုများတွင် ရင်းနှီးမြှုပ်နှံရန် Superalignment နှင့် Preparedness ဟူသော အဖွဲ့သစ်နှစ်ဖွဲ့ကို ဖန်တီးထားပြီး ကျွန်ုပ်တို့၏ လုံခြုံရေးစနစ်များတွင်လည်း ထပ်မံရင်းနှီးမြှုပ်နှံနေပါသည်။
လက်ရှိ AI ကို ညှိနှိုင်းကိုက်ညီစေရန် အသုံးပြုနေသော နည်းလမ်းများဖြစ်သည့် လူတုံ့ပြန်မှုမှ အားဖြည့် သင်ယူလေ့လာခြင်း ကဲ့သို့သော နည်းလမ်းများသည် AI ကို လူသားများက ကြီးကြပ်နိုင်စွမ်းအပေါ် မူတည်ပါသည်။ သို့သော် ဤနည်းလမ်းများသည် အလွန်ဉာဏ်ရည်မြင့်စနစ်များအတွက် အလုပ်မလုပ်နိုင်တော့ပါ၊ အကြောင်းမှာ ကျွန်ုပ်တို့ထက် ပိုမိုဉာဏ်ရည်မြင့်သော AI စနစ်များကို လူသားများက ယုံကြည်စိတ်ချစွာ ကြီးကြပ်နိုင်တော့မည် မဟုတ်သောကြောင့် ဖြစ်သည်။ Ilya Sutskever (OpenAI ၏ ပူးတွဲတည်ထောင်သူနှင့် Chief Scientist) နှင့် Jan Leike (Head of Alignment) တို့ ပူးတွဲဦးဆောင်သော Superalignment ဟုခေါ်သော အဖွဲ့သစ်တစ်ဖွဲ့တွင် ရင်းနှီးမြှုပ်နှံခြင်းအားဖြင့် ဤပြဿနာကို လေးနှစ်အတွင်း ဖြေရှင်းရန် ရည်မှန်းချက် သတ်မှတ်ထားပါသည်။ ကျွန်ုပ်တို့၏ ရည်မှန်းချက်မှာ လူသားအဆင့်နီးပါးရှိသော အလိုအလျောက် alignment သုတေသီတစ်ရပ်ကို တည်ဆောက်ပြီး အလွန်ဉာဏ်ရည်မြင့်စနစ်များကို ညှိနှိုင်းကိုက်ညီစေရန် ကြိုးပမ်းမှုများကို ချဲ့ထွင်နိုင်ရန် များပြားသော compute ကို အသုံးပြုခြင်း ဖြစ်ပါသည်။ 2023 ခုနှစ် ဇွန်လအထိ ကျွန်ုပ်တို့ လုံခြုံစွာ ရယူထားသော compute ၏ 20% ကို ဤကြိုးပမ်းမှုအတွက် သီးသန့်ထားရန် စီစဉ်ထားပါသည်။ အဖွဲ့သည် OpenAI မဟုတ်သော မော်ဒယ်များ၏ alignment နှင့် ဘေးကင်းရေးကိုလည်း အထောက်အကူပြုနိုင်ရန် ရလဒ်များကို ကျယ်ပြန့်စွာ မျှဝေမည်ဖြစ်သည်။
အလွန်ဉာဏ်ရည်မြင့်စနစ်များကို ညှိနှိုင်းကိုက်ညီစေရန် စိန်ခေါ်မှုအပြင် ပိုမိုစွမ်းရည်မြင့်လာသော စွမ်းဆောင်ရည်အမြင့်ဆုံး မော်ဒယ်များကို အလွဲသုံးစားလုပ်မှုမှ ပိုမိုပြင်းထန်သော အန္တရာယ်များ ပေါ်ပေါက်လာနိုင်သည်ဟု ကျွန်ုပ်တို့ ယုံကြည်ပါသည်။ ဤအန္တရာယ်များကို ဖော်ထုတ်၊ စောင့်ကြည့်ပြီး ကြိုတင်ပြင်ဆင်နိုင်ရန် Preparedness ဟုခေါ်သော သီးသန့်အဖွဲ့သစ်တစ်ဖွဲ့ကို ကျွန်ုပ်တို့ ဖန်တီးနေပါသည်။ ကျွန်ုပ်တို့သည် ဆိုက်ဘာလုံခြုံရေး၊ CBRN၊ လှုံ့ဆော်သိမ်းသွင်းမှု နှင့် အလိုအလျောက် မိတ္တူပွားခြင်းနှင့် လိုက်လျောညီထွေ ပြောင်းလဲနိုင်ခြင်းတို့ အပါအဝင် ရှေ့ပြေးအန္တရာယ်များကို စောင့်ကြည့်ရန် ရည်ရွယ်ထားပြီး ကပ်ဆိုးဆန်သော အန္တရာယ်၏ သက်ရောက်မှုများကို ကာကွယ်ရန် လုပ်ဆောင်ချက်များကို မျှဝေသွားမည် ဖြစ်ပါသည်။ ကပ်ဆိုးဆန်သော အန္တရာယ်အပေါ် အတွေ့အကြုံအခြေပြု နားလည်မှုသည် စတင်ဖွံ့ဖြိုးဆဲဖြစ်သောကြောင့် လက်ရှိ စွမ်းဆောင်ရည်အမြင့်ဆုံး မော်ဒယ် အန္တရာယ်အဆင့်များအပေါ် ကျွန်ုပ်တို့၏ အကဲဖြတ်ချက်ကို အဆင့်လိုက် မွမ်းမံသွားမည်ဖြစ်ပြီး နောက်ဆုံး အကဲဖြတ်မှုနှင့် စောင့်ကြည့်မှုဆိုင်ရာ နားလည်ချက်များကို ထင်ဟပ်စေရန် လုပ်ဆောင်မည်ဖြစ်သည်။
ကိုယ်ပိုင်ပိုင်ဆိုင်သည့်နှင့် မထုတ်ပြန်ရသေးသော မော်ဒယ် weights များကို ကာကွယ်ရန် ဆိုက်ဘာလုံခြုံရေးနှင့် insider threat ကာကွယ်ရေးအစီအမံများတွင် ဆက်လက် ရင်းနှီးမြှုပ်နှံနေပါသည်။ စုပေါင်း ဘေးကင်းရေးအတွက် လုပ်ဆောင်နေသော သဘောတူညီမှုရှိသည့် သုတေသီများကို ညှိနှိုင်းပူးပေါင်းစေရန် Cybersecurity Grant Program နှင့် OpenAI အမှားရှာဆုကြေးပေးပရိုဂရမ် ကို စတင်လိုက်ပြီဖြစ်သည်။ Cybersecurity Grant Program သည် AI ဖြင့် မောင်းနှင်သော ဆိုက်ဘာလုံခြုံရေး စွမ်းရည်များကို မြှင့်တင်ကာ တိုင်းတာနိုင်ရန်နှင့် အဆင့်မြင့် AI နှင့် ဆိုက်ဘာလုံခြုံရေး ဆွေးနွေးမှုကို မြှင့်တင်ရန် $1M တန်ဖိုးရှိ အစီအစဉ်တစ်ရပ် ဖြစ်ပါသည်။ ကျွန်ုပ်တို့၏ စနစ်များတွင် တွေ့ရှိသော အားနည်းချက်များ၊ bugs များ သို့မဟုတ် လုံခြုံရေးချို့ယွင်းချက်များကို အများပြည်သူက အစီရင်ခံရန်လည်း ဖိတ်ခေါ်ပါသည်။ OpenAI အမှားရှာဆုကြေးပေးပရိုဂရမ် သည် ကျွန်ုပ်တို့၏ နည်းပညာနှင့် ကုမ္ပဏီကို လုံခြုံအောင် ထိန်းသိမ်းရာတွင် ပါဝင်ကူညီသော တစ်ဦးချင်းစီ၏ တန်ဖိုးရှိသော အမြင်များကို အသိအမှတ်ပြုပြီး ဆုချီးမြှင့်နိုင်စေပါသည်။
ကျွန်ုပ်တို့ ထုတ်ပြန်သည့် အဓိက မော်ဒယ်အသစ်တိုင်းကို ဘေးကင်းရေးအတွက် အကဲဖြတ်ပြီး ထိုးဖောက်စမ်းသပ်ခြင်းကိုလည်း ထည့်သွင်းအသုံးပြုပါသည်။ ဥပမာအားဖြင့် GPT‑4 ကို အများပြည်သူထံ မထုတ်ပြန်မီ ပြင်ပ red teamers များက မော်ဒယ်ကို အောက်ပါ ရှေ့ပြေးအန္တရာယ်များအတွက် စမ်းသပ်ခဲ့ပါသည် - (1) နျူကလီးယား၊ ရေဒီယိုလှိုင်းဆိုင်ရာ၊ ဇီဝနှင့် ဓာတုလက်နက်များ (CBRN) ဖွံ့ဖြိုးရေးကို အထောက်အကူပြုခြင်း၊ (2) ဆိုက်ဘာအန္တရာယ် တိုးလာခြင်း၊ (3) tool အသုံးပြုမှုမှ ပေါ်ပေါက်သော အန္တရာယ်များနှင့် (4) self-replication စွမ်းရည်များ။ DALL-E 3 အပေါ် ကျွန်ုပ်တို့၏ ထိုးဖောက်စမ်းသပ်ခြင်း၏ တစ်စိတ်တစ်ပိုင်းအနေဖြင့်၊ ကျွန်ုပ်တို့၏ ဆန္ဒအလျောက် ကတိကဝတ်များအတွင်း မော်ဒယ်၏ CBRN ဖွံ့ဖြိုးရန်၊ ရယူရန် သို့မဟုတ် ဖြန့်ချိရန် လိုအပ်သော မြင်ကွင်းဆိုင်ရာ အချက်အလက်များ ပေးနိုင်စွမ်းကို ထိုးဖောက်စမ်းသပ်ခဲ့ပါသည်။
OpenAI ၏ မော်ဒယ်များ၏ ဘေးကင်းရေးကို တိုးတက်စေရန် စိတ်ဝင်စားသော နယ်ပယ်အလိုက် ကျွမ်းကျင်သူများအား ကျွန်ုပ်တို့၏ ထိုးဖောက်စမ်းသပ်ရေး ကြိုးပမ်းမှုများတွင် ပါဝင်ရန် အများပြည်သူသို့ ဖိတ်ခေါ်သော OpenAI Red Teaming Network အတွက် ဖိတ်ခေါ်ချက်ကိုလည်း မျှဝေခဲ့ပါသည်။
CBRN. အချို့သော LLM စွမ်းရည်များတွင် နှစ်မျိုးသုံးနိုင်သော အလားအလာရှိနိုင်ပြီး၊ ဆိုလိုသည်မှာ မော်ဒယ်များကို စီးပွားရေးနှင့် စစ်ရေး သို့မဟုတ် ပြန့်ပွားရေး ဆိုင်ရာ အသုံးချမှုများအတွက် နှစ်မျိုးလုံး အသုံးပြုနိုင်ကြောင်း ဖြစ်သည်။ ကျွန်ုပ်တို့၏ မော်ဒယ်များသည် CBRN ကို ဖွံ့ဖြိုးရန်၊ ရယူရန် သို့မဟုတ် ဖြန့်ချိရန် ကြိုးစားနေသူများအတွက် လိုအပ်သော သတင်းအချက်အလက်များ ပေးနိုင်မလားကို စူးစမ်းရန် GPT‑4 ကို နှစ်မျိုးသုံးနိုင်သော နယ်ပယ်လေးခုတွင် stress testing၊ boundary testing နှင့် ထိုးဖောက်စမ်းသပ်ခြင်းများ ပြုလုပ်ခဲ့ပါသည်။ GPT‑4 ကိုသာ အသုံးပြုနိုင်ခြင်းသည် ပြန့်ပွားမှုအတွက် လုံလောက်သော အခြေအနေမဟုတ်ကြောင်း၊ သို့သော် အထူးသဖြင့် ရိုးရာ ရှာဖွေရေးကိရိယာများနှင့် နှိုင်းယှဉ်လျှင် ပြန့်ပွားရေးလုပ်ဆောင်သူများ ရရှိနိုင်သော သတင်းအချက်အလက်များကို ပြောင်းလဲစေနိုင်ကြောင်း တွေ့ရှိခဲ့ပါသည်။ Red teamers များသည် GPT‑4 နှင့် ရိုးရာ search engines များ နှစ်ခုလုံးသို့ တုံ့ပြန်ညွှန်ကြားချက်ပေးရန် မေးခွန်းများ အစုတစ်ခုကို ရွေးချယ်ခဲ့ပြီး GPT‑4 ကို အသုံးပြုသောအခါ သုတေသန ပြီးစီးချိန် လျော့နည်းသွားကြောင်း တွေ့ရှိခဲ့ပါသည်။ အချို့ကိစ္စများတွင် သတင်းအချက်အလက် တိကျမှု မလျော့ဘဲ သုတေသနလုပ်ငန်းစဉ်ကို နာရီအတော်ကြာ လျှော့ချနိုင်ခဲ့ပါသည်။ ထို့ကြောင့် GPT‑4 ၏ အဓိက အန္တရာယ်မောင်းနှင်ချက်မှာ အများပြည်သူ ရယူနိုင်သော်လည်း ရှာဖွေရခက်ခဲသော သတင်းအချက်အလက်များကို ဖန်တီးပေးနိုင်စွမ်း၊ သုံးစွဲသူများ၏ သုတေသနအချိန်ကို လျှော့ချပေးနိုင်ခြင်းနှင့် ထိုသတင်းအချက်အလက်များကို ကျွမ်းကျင်မဟုတ်သူတစ်ဦးအတွက်လည်း နားလည်လွယ်အောင် စုစည်းတင်ပြနိုင်ခြင်းဖြစ်ကြောင်း ကျွန်ုပ်တို့ သတ်မှတ်ခဲ့ပါသည်။ DALL-E 3 ကို မထုတ်ပြန်မီ စာသားမှ ရုပ်ပုံ ထုတ်လုပ်မှုသည် CBRN အန္တရာယ်များနှင့် ဆက်နွယ်သော သတင်းအချက်အလက်များ ထုတ်လုပ်ရန်နှင့် ရယူရန်အတွက် ပုံဇယားများနှင့် မြင်ကွင်းဆိုင်ရာ ညွှန်ကြားချက်များကို မော်ဒယ်က ဖန်တီးနိုင်စွမ်းကို စမ်းသပ်ခြင်းအားဖြင့် အန္တရာယ်ပရိုဖိုင်ကို မည်သို့ပြောင်းလဲစေကြောင်း အကဲဖြတ်ခဲ့ပါသည်။ GPT‑4 ကဲ့သို့ပင် DALL-E 3 အပေါ် အတွင်းပိုင်းနှင့် ပြင်ပ စမ်းသပ်မှုများကို ပြုလုပ်ခဲ့ပြီး၊ အန္တရာယ်များကို အတွင်းပိုင်း စမ်းသပ်ကာ စနစ်များကို စူးစမ်း၍ အန္တရာယ်များကို မြေပုံဆွဲကာ အကဲဖြတ်ရာတွင် ကူညီနိုင်ရန် စက်မှုလုပ်ငန်းအမျိုးမျိုးမှ ပြင်ပကျွမ်းကျင်သူများအား အစောပိုင်း အသုံးပြုခွင့် ပေးခဲ့ပါသည်။ DALL·E 3 ကို နှစ်မျိုးသုံးနိုင်သော နယ်ပယ်လေးခုတွင် ထိုးဖောက်စမ်းသပ်ပြီး CBRN ကို ဖွံ့ဖြိုးရန်၊ ရယူရန် သို့မဟုတ် ဖြန့်ချိရန် လိုအပ်သော သတင်းအချက်အလက်များ ပေးနိုင်မလားကို စူးစမ်းခဲ့ပါသည်။ Red teamers များက ဤနယ်ပယ်များတွင် မတိကျမှု၊ ငြင်းဆိုမှုများနှင့် အောင်မြင်စွာ ပြန့်ပွားစေရန် လိုအပ်သော ထပ်တိုးဝင်ရောက်ခွင့်နှင့် "ingredients" များလိုအပ်မှုတို့ ပေါင်းစပ်မှုကြောင့် အန္တရာယ် အနည်းငယ်သာ ရှိကြောင်း တွေ့ရှိခဲ့ပါသည်။
ဆိုက်ဘာစွမ်းရည်များ။ GPT‑4 ကို အားနည်းချက်ရှာဖွေခြင်းနှင့် အသုံးချခြင်း၊ နှင့် social engineering အတွက် အသုံးပြုနိုင်စွမ်းကိုလည်း ကျွန်ုပ်တို့ အကဲဖြတ်ခဲ့ပါသည်။ ကွန်ပျူတာ အားနည်းချက်ရှာဖွေခြင်း၊ အကဲဖြတ်ခြင်းနှင့် အသုံးချခြင်းတို့တွင် မော်ဒယ်က အကူအညီပေးနိုင်စွမ်းကို စမ်းသပ်ရန် ပြင်ပဆိုက်ဘာလုံခြုံရေး ကျွမ်းကျင်သူများကို ငှားရမ်းခဲ့ပြီး၊ source code သည် မော်ဒယ်၏ context window အတွင်း ထည့်သွင်းနိုင်လောက်အောင် သေးငယ်ပါက GPT‑4 သည် အချို့သော အားနည်းချက်များကို ရှင်းပြနိုင်သော်လည်း တွေ့ရှိထားသော အားနည်းချက်များအတွက် exploits များ တည်ဆောက်ရာတွင် GPT‑4 ၏ စွမ်းဆောင်ရည် မကောင်းကြောင်း တွေ့ရှိခဲ့ကြပါသည်။ social engineering စွမ်းရည်များအတွက် စမ်းသပ်ရာတွင် ကျွမ်းကျင် red teamers များက GPT‑4 သည် target identification၊ spear-phishing နှင့် bait-and-switch phishing ကဲ့သို့ သက်ဆိုင်ရာ လုပ်ငန်းများတွင် လက်ရှိ ကိရိယာများထက် ပိုကောင်းလာမှုတစ်ရပ်ကို ကိုယ်စားပြုသလား စမ်းသပ်ခဲ့ပါသည်။ ၎င်းတို့သည် ပစ်မှတ်များကို စာရင်းပြုစုခြင်းနှင့် နောက်ဆုံးပေါ် သတင်းအချက်အလက်များကို အသုံးချ၍ ပိုမိုထိရောက်သော phishing အကြောင်းအရာ ထုတ်လုပ်ခြင်းကဲ့သို့ အချက်အလက်အမှန်တရားအခြေပြု လုပ်ငန်းများတွင် မော်ဒယ်က ရုန်းကန်နေသောကြောင့် လက်ရှိ social engineering စွမ်းရည်များကို အဆင်သင့် အဆင့်မြှင့်တင်ပေးမည့် အရာ မဟုတ်ကြောင်း တွေ့ရှိခဲ့ပါသည်။ သို့သော် ပစ်မှတ်တစ်ခုအကြောင်း နောက်ခံဗဟုသုတ သင့်လျော်စွာ ရှိပါက GPT‑4 သည် ယုံကြည်ဖွယ်ကောင်းသော social engineering အကြောင်းအရာများ ရေးဆွဲရာတွင် ထိရောက်ပါသည်။ ဤတွေ့ရှိချက်များအပေါ် အခြေခံ၍ GPT‑4 ကို ဆိုးရွားသော ဆိုက်ဘာလုံခြုံရေး တောင်းဆိုချက်များကို ငြင်းဆိုစေရန် လေ့ကျင့်ရေးအပြီး နောက်ပိုင်း ပြုလုပ်ခဲ့ပြီး၊ စောင့်ကြည့်မှု၊ ရှာဖွေတွေ့ရှိမှုနှင့် တုံ့ပြန်မှု အပါအဝင် အတွင်းပိုင်း ဘေးကင်းရေး စနစ်များကို ချဲ့ထွင်ခဲ့ပါသည်။
Self-replication. GPT‑4 ကို မထုတ်ပြန်မီ မော်ဒယ်က အလိုအလျောက် မိတ္တူပွားခြင်းနှင့် အရင်းအမြစ်များ စုဆောင်းခြင်းတို့အတွက် လုပ်ဆောင်ချက်များ ဆောင်ရွက်နိုင်စွမ်းကို Alignment Research Center (ARC) မှ ကနဦးအကဲဖြတ်နိုင်ရန် ကျွန်ုပ်တို့ စီစဉ်ပံ့ပိုးခဲ့ပါသည်။ ၎င်းတို့၏ အဖွဲ့သည် အာဏာရှာဖွေသော အပြုအမူမှ ဖြစ်လာနိုင်သော အန္တရာယ်များကို အကဲဖြတ်နိုင်ရန် ကျွန်ုပ်တို့၏ ထိုးဖောက်စမ်းသပ်ရေး လုပ်ငန်းစဉ်၏ တစ်စိတ်တစ်ပိုင်းအဖြစ် ARC အား မော်ဒယ်များကို အစောပိုင်း အသုံးပြုခွင့် ပေးခဲ့ပါသည်။ ARC က အကဲဖြတ်ခဲ့သော အာဏာရှာဖွေမှုပုံစံ သီးသန့်မှာ မော်ဒယ်က အလိုအလျောက် မိတ္တူပွားပြီး အရင်းအမြစ်များ ရယူနိုင်စွမ်း ဖြစ်ပါသည်။ ARC သည် ၎င်းတို့ ပြုလုပ်ခဲ့သော ကနဦး စမ်းသပ်မှုများတွင် GPT‑4 ၏ အစောပိုင်းဗားရှင်းများသည် အလိုအလျောက် မိတ္တူပွားခြင်း လုပ်ငန်းတာဝန်တွင် ထိရောက်မှုမရှိကြောင်း တွေ့ရှိခဲ့ပါသည်။ ထို့ကြောင့် မော်ဒယ်သည် ကိုယ့်ကိုယ်ကို အလိုအလျောက် မိတ္တူပွားနိုင်ဖွယ် မရှိကြောင်း ၎င်းတို့က သတ်မှတ်ခဲ့ပါသည်။
ပွင့်လင်းမြင်သာမှုသည် တာဝန်ခံမှုရှိသော AI စနစ်များကို တည်ဆောက်ရာတွင် အရေးကြီးသော အစိတ်အပိုင်းတစ်ရပ် ဖြစ်ပါသည်။ တာဝန်ခံမှုအပေါ် ကျွန်ုပ်တို့၏ ချဉ်းကပ်မှု၏ အဓိက အစိတ်အပိုင်းတစ်ရပ်မှာ ကျွန်ုပ်တို့ အသုံးချသည့် AI စနစ်အသစ်များအတွက် လက်ရှိတွင် စနစ်ကဒ် ဟု ခေါ်နေသော စာတမ်းတစ်စောင်ကို ထုတ်ပြန်ခြင်း ဖြစ်ပါသည်။ ကျွန်ုပ်တို့၏ စနစ်ကဒ်များသည် အထူးသဖြင့် တာဝန်ယူမှုရှိသော အသုံးပြုမှုအတွက် သက်ဆိုင်ရာ နယ်ပယ်များတွင် စနစ်၏ အပြုအမူအပေါ် သက်ရောက်မှုရှိသော အဓိကအချက်များကို စာဖတ်သူများ သိရှိစေရန် ရည်ရွယ်ထားပြီး မော်ဒယ်နှင့် စနစ်ကဒ်များဆိုင်ရာ ယခင် သုတေသနလုပ်ငန်းများမှ လှုံ့ဆော်မှု ရယူထားပါသည်။ ဆန္ဒအလျောက် ကတိကဝတ်များ မပြုလုပ်မီ OpenAI သည် GPT‑4 System Card နှင့် DALL-E 2 System Card ဟူ၍ စနစ်ကဒ် နှစ်စောင် ထုတ်ပြန်ခဲ့ပါသည်။ ထိုနောက်မှ ကျွန်ုပ်တို့သည် ဆန္ဒအလျောက် ကတိကဝတ်များ လက်မှတ်ရေးထိုးပြီးနောက် မော်ဒယ်အသစ်တစ်ခု၏ ပထမဆုံး အဓိက အများပြည်သူထံ ထုတ်ပြန်မှုဖြစ်သော DALL-E 3 ကို ChatGPT တွင် မထုတ်ပြန်မီ စနစ်ကဒ်တစ်စောင် ထုတ်ပြန်ခဲ့ပါသည်။ ကျွန်ုပ်တို့၏ နည်းပညာကို တာဝန်ယူမှုရှိစွာ ထုတ်ပြန်ရန် ဆက်လက် ကြိုးပမ်းမှုများ၏ တစ်စိတ်တစ်ပိုင်းအနေဖြင့် GPT‑4 ၏ vision စွမ်းရည်များကို ChatGPT တွင် မရရှိစေမီ ၎င်းအတွက် စနစ်ကဒ်တစ်စောင်ကိုလည်း ထုတ်ပြန်ခဲ့ပါသည်။
ဆန္ဒအလျောက် ကတိကဝတ်များ ပြုလုပ်ပြီးနောက်၊ AI ဓာတ်ခွဲခန်းများအကြား အန္တရာယ်ရှိသော စွမ်းရည်များကို တာဝန်ယူမှုရှိစွာ ထုတ်ဖော်မျှဝေရန် ယန္တရားတစ်ခု ဖန်တီးနိုင်ရေးအတွက် Frontier Model Forum အတွင်း လုပ်ငန်းအဖွဲ့တစ်ဖွဲ့ကို ကျွန်ုပ်တို့ စတင်ခဲ့ပါသည်။ ဤယန္တရားသည် စွမ်းဆောင်ရည်အမြင့်ဆုံး မော်ဒယ်များတွင် တွေ့ရှိထားသော အရေးကြီးအန္တရာယ်များကို စွမ်းဆောင်ရည်အမြင့်ဆုံး ဓာတ်ခွဲခန်းများနှင့် အခြား AI ဓာတ်ခွဲခန်းများအကြား လျှို့ဝှက်စွာ ထုတ်ဖော်မျှဝေနိုင်စေရန် ရည်ရွယ်ပါမည်။ ကျွန်ုပ်တို့၏ ကနဦးအာရုံစိုက်မှုသည် Chemical, Biological, Radiological, and Nuclear (CBRN) စွမ်းရည်များကဲ့သို့ အမျိုးသားလုံခြုံရေးနှင့် ဆက်နွယ်သည့် နယ်ပယ်များအပြင် self-replication၊ လှည့်ဖြားမှုနှင့် ခြယ်လှယ်မှုကဲ့သို့ အခြား အန္တရာယ်ရှိသော စွမ်းရည်များကိုပါ ဖုံးလွှမ်းပါသည်။ ထုတ်ဖော်မျှဝေရန် နည်းလမ်းများတွင် အကဲဖြတ်မှုများ၊ ထိုးဖောက်စမ်းသပ်ခြင်း လေ့ကျင့်ခန်းများမှ ရရှိသည့် အမြင်များနှင့် အဖွဲ့ဝင် ဓာတ်ခွဲခန်းများကြား တွေ့ရလေ့ရှိသော ခြိမ်းခြောက်မှုများအကြောင်း အခြား အထောက်အထားများ ပါဝင်မည်ဖြစ်ပြီး၊ ပိုမိုကျယ်ပြန့်စွာ ထုတ်ဖော်ပါက အရေးကြီးသော အန္တရာယ်များ ဖြစ်ပေါ်နိုင်သည့် နယ်ပယ်များတွင်သာ မျှဝေမည်ဖြစ်သည်။
ကျွန်ုပ်တို့၏ စနစ်များရှိ လုံခြုံရေးအားနည်းချက်များကို အစီရင်ခံသူများကို အသိအမှတ်ပြုပြီး ဆုချီးမြှင့်နိုင်ရန် OpenAI ၏ အမှားရှာဆုကြေးပေးပရိုဂရမ် ကိုလည်း ကြေညာခဲ့ပါသည်။ ကျွန်ုပ်တို့၏ ဆုကြေးများသည် ပြင်းထန်မှုနိမ့်သော တွေ့ရှိချက်များအတွက် $200 မှ ထူးခြားသော ရှာဖွေတွေ့ရှိမှုများအတွက် $20,000 အထိ ရှိပါသည်။ တင်ပြခြင်းနှင့် ဆုချီးမြှင့်ခြင်း လုပ်ငန်းစဉ်တစ်ရပ် ဖန်တီးရန် အမှားရှာဆုကြေးပေး ပလက်ဖောင်း ဦးဆောင်သူ Bugcrowd နှင့် ပူးပေါင်းထားပြီး၊ ၎င်းကို အမှားရှာဆုကြေးပေးပရိုဂရမ် စာမျက်နှာ(ဝင်းဒိုးအသစ်တွင် ဖွင့်မည်)တွင် ရနိုင်ပါသည်။
ကျွန်ုပ်တို့သည် ကြိုတင်မျှော်မှန်းနိုင်သော အန္တရာယ်များကို အသုံးချမတိုင်မီ ကာကွယ်ရန် အလွန်ကြိုးစားလုပ်ဆောင်ပါသည်။ သို့သော် မည်သူမဆို လေ့လာခန်းအတွင်း သင်ယူနိုင်သည့်အရာများတွင် ကန့်သတ်ချက်များလည်း ရှိပါသည်။ ကျယ်ပြန့်သော သုတေသနနှင့် စမ်းသပ်မှုများ ပြုလုပ်ပြီးသည့်နောက်တွင်ပင် လူများက ကျွန်ုပ်တို့၏ နည်းပညာကို မည်သည့် အကျိုးရှိသော နည်းလမ်းများဖြင့် အသုံးပြုမည်ကိုလည်းကောင်း၊ မည်သည့် နည်းလမ်းများဖြင့် အလွဲသုံးစားလုပ်မည်ကိုလည်းကောင်း အားလုံးကို ကျွန်ုပ်တို့ မခန့်မှန်းနိုင်ပါ။ မမျှော်လင့်ထားသော အန္တရာယ်များကို လျင်မြန်စွာ ရှာဖွေတွေ့ရှိပြီး ကိုင်တွယ်ဖြေရှင်းနိုင်မည့် စွမ်းရည်တည်ဆောက်ခြင်းသည် ကျွန်ုပ်တို့အတွက် အရေးကြီးဆုံး ဦးစားပေးတစ်ရပ်ဖြစ်ပြီး၊ အန္တရာယ်အားလုံးကို အပြည့်အဝ ကြိုတင်မမျှော်မှန်းနိုင်သော စွမ်းဆောင်ရည်အမြင့်ဆုံး စနစ်များအတွက် ဤစွမ်းရည်သည် အလွန်အရေးပါသော ကာကွယ်ရေးအစီအမံတစ်ရပ် ဖြစ်ပါသည်။ မမျှော်လင့်ထားသော အလွဲသုံးစားမှု အမျိုးအစားများကို ရှာဖွေတွေ့ရှိရန် ရည်ရွယ်ထားသော အတွင်းပိုင်း အစီအမံများကို ကျွန်ုပ်တို့ တည်ဆောက်ထားပြီး၊ ၎င်းတို့ကို တုံ့ပြန်ရန် လုပ်ငန်းစဉ်များ ရှိကာ၊ ရရှိလာသော သင်ခန်းစာများကို အသုံးပြုပြီး ကျွန်ုပ်တို့၏ အသုံးပြုမှု မူဝါဒများ၊ ဘေးကင်းရေး စနစ်များနှင့် မော်ဒယ်ထုတ်လွှင့်ချက်များကို တိုးတက်ကောင်းမွန်အောင် လုပ်ဆောင်ပါသည်။ စနစ်တစ်ခုကို ထုတ်ပြန်ပြီးနောက်တွင် အလွဲသုံးစားမှု သို့မဟုတ် မမျှော်လင့်ထားသော အန္တရာယ်များကို ရှာဖွေတွေ့ရှိရန် တက်ကြွစွာ စုံစမ်းမှုများ၊ စောင့်ကြည့်မှုများနှင့် ဝင်လာသော အစီရင်ခံစာများကို စိစစ်သုံးသပ်မှုများ ပြုလုပ်ပါသည်။ ထို့နောက် ပေါ်ပေါက်လာသော ပြဿနာများကို မူဝါဒပိုင်းနှင့် နည်းပညာပိုင်း ဖြေရှင်းနည်းများဖြင့် လျင်မြန်စွာနှင့် အဆင့်လိုက် ဖြေရှင်းနိုင်ရန် ကြိုးပမ်းပါသည်။ ကျွန်ုပ်တို့သည် လုပ်ငန်းဆောင်ရွက်မှုများကို ဆက်လက် တိုးချဲ့နေပြီး တုံ့ပြန်ချိန်ကိုလည်း လျှော့ချနေပါသည်။
ကျွန်ုပ်တို့သည် OpenAI ၏ နည်းပညာ၊ ဉာဏပစ္စည်းပိုင်ဆိုင်မှုနှင့် ဒေတာများကို ကာကွယ်ရန် အရင်းအမြစ်များစွာကို သီးသန့်အသုံးပြုထားပါသည်။
ကျွန်ုပ်တို့၏ အင်အားအကောင်းဆုံး AI မော်ဒယ်များကို ဝန်ဆောင်မှုများအဖြစ် အသုံးချပါသည်။ ထိုသို့သော မော်ဒယ်များ၏ weights များကို OpenAI နှင့် ကျွန်ုပ်တို့၏ နည်းပညာမိတ်ဖက် Microsoft တို့၏ ပြင်ပသို့ မဖြန့်ဝေဘဲ၊ မော်ဒယ် weights များ၊ source code နှင့် အခြား ထိရှလွယ်သတင်းအချက်အလက်များကို ထိန်းချုပ်ထားနိုင်စေရန် API မှတစ်ဆင့် ပြင်ပအဖွဲ့အစည်းများအား ကျွန်ုပ်တို့၏ စွမ်းရည်အမြင့်ဆုံး မော်ဒယ်များကို အသုံးပြုခွင့်ပေးပါသည်။
ပုဂ္ဂိုလ်ရေးဆိုင်ရာ အချက်အလက်များ ဆုံးရှုံးမှု၊ အလွဲသုံးစားမှုနှင့် ခွင့်ပြုချက်မရှိသော ဝင်ရောက်အသုံးပြုမှုများကို ကာကွယ်ရန် ရည်ရွယ်ထားသော စီးပွားရေးအရ သင့်လျော်သော နည်းပညာပိုင်း၊ စီမံခန့်ခွဲရေးပိုင်းနှင့် အဖွဲ့အစည်းပိုင်းဆိုင်ရာ အစီအမံများကိုလည်း ကျွန်ုပ်တို့ အကောင်အထည်ဖော်ထားပါသည်။ ၎င်းတွင် SOC 2 Type 2 အပါအဝင် ကျွန်ုပ်တို့၏ လုံခြုံရေးပရိုဂရမ်အပေါ် ပြင်ပအဖွဲ့အစည်း စစ်ဆေးမှုများ ခံယူခြင်း ပါဝင်ပါသည်။ လွတ်လပ်သော သုတေသီများကို ငွေသားဆုကြေးများဖြင့် လဲလှယ်ပြီး ကျွန်ုပ်တို့၏ စနစ်များရှိ အားနည်းချက်များကို အစီရင်ခံရန် ဖိတ်ခေါ်သော အမှားရှာဆုကြေးပေးပရိုဂရမ်ကိုလည်း ကျွန်ုပ်တို့ စတင်ထားပါသည်။ ကျွန်ုပ်တို့၏ ယုံကြည်မှု ပေါ်တယ် မှတစ်ဆင့် ဖောက်သည်များနှင့် အခြား သက်ဆိုင်သူများသည် ကျွန်ုပ်တို့၏ လုံခြုံရေးထိန်းချုပ်မှုများနှင့် စစ်ဆေးရေးအစီရင်ခံစာများကို ပြန်လည်သုံးသပ်နိုင်ပါသည်။ ကျွန်ုပ်တို့၏ ဆိုက်ဘာလုံခြုံရေး ကြိုးပမ်းမှုများ၏ တစ်စိတ်တစ်ပိုင်းအနေဖြင့် အတွင်းပိုင်းနှင့် ပြင်ပအဖွဲ့အစည်း penetration testing များကို ပုံမှန် ပြုလုပ်ပြီး၊ ကျွန်ုပ်တို့၏ လုံခြုံရေးထိန်းချုပ်မှုများ၏ သင့်လျော်မှုနှင့် ထိရောက်မှုကို စစ်ဆေးပါသည်။
ကျွန်ုပ်တို့၏ မော်ဒယ်များမှ ဖန်တီးထားသော အသံ-ရုပ်ပုံ အကြောင်းအရာများကို ခွဲခြားသိရှိရာတွင် ကူညီနိုင်ရန် provenance အတွက် နည်းပညာပိုင်းဆိုင်ရာ ချဉ်းကပ်မှုတစ်ခုကို ဖွံ့ဖြိုးတိုးတက်အောင် လုပ်ဆောင်နေပါသည်။ ဤချဉ်းကပ်မှု ဖွံ့ဖြိုးပြီးပါက ၎င်းကို ကျွန်ုပ်တို့၏ စွမ်းဆောင်ရည်အမြင့်ဆုံး စနစ်အသစ်များတစ်လျှောက် ကျယ်ပြန့်စွာ အသုံးချသွားမည်ဖြစ်ပါသည်။ provenance နည်းပညာများ အမျိုးမျိုးကို အကဲဖြတ်နေပြီး တစ်ခုချင်းစီတွင် အားသာချက်နှင့် အားနည်းချက် မတူညီကြကာ အကျဉ်းချုပ်အားဖြင့် အုပ်စုသုံးမျိုးဖြစ်သည့် watermarking၊ classifiers နှင့် metadata-based approaches တို့အတွင်း ပါဝင်ပါသည်။
ကျွန်ုပ်တို့၏ ဆန္ဒအလျောက် ကတိကဝတ်များ ပြုလုပ်ပြီးကတည်းက ရုပ်ပုံတစ်ပုံကို DALL·E 3 က ဖန်တီးထားခြင်း ရှိမရှိ ခွဲခြားသိရှိရာတွင် ကူညီနိုင်ရန် provenance classifier တစ်ခုကို သုတေသနပြုလုပ်ပြီး စမ်းသပ်နေပါသည်။ လက်ရှိတွင် ၎င်းကို အတွင်းပိုင်းအနေဖြင့် အကဲဖြတ်နေပြီး DALL·E 3 ထုတ်ပြန်မှု၏ တစ်စိတ်တစ်ပိုင်းအဖြစ် အများပြည်သူသို့ အပ်ဒိတ်တစ်ခုလည်း ပေးထားပါသည်။
ChatGPT ကို အင်အားပေးသော မော်ဒယ်များ အပါအဝင် OpenAI ၏ ကြီးမားသော ဘာသာစကား မော်ဒယ်များကို အဓိက သတင်းအချက်အလက် ရင်းမြစ်သုံးမျိုးဖြင့် ဖွံ့ဖြိုးတိုးတက်စေပါသည် - (1) အင်တာနက်ပေါ်တွင် အများပြည်သူ ရယူနိုင်သော သတင်းအချက်အလက်များ၊ (2) ပြင်ပအဖွဲ့အစည်းများထံမှ ကျွန်ုပ်တို့ လိုင်စင်ရယူထားသော သတင်းအချက်အလက်များ၊ နှင့် (3) ကျွန်ုပ်တို့၏ သုံးစွဲသူများ သို့မဟုတ် လူသားသင်တန်းပေးသူများ ပေးသော သတင်းအချက်အလက်များ။
ကျွန်ုပ်တို့၏ လေ့ကျင့်ရေးဒေတာ အများစုသည် အင်တာနက်ပေါ်တွင် အခမဲ့နှင့် ပွင့်လင်းစွာ ရယူနိုင်သော အများပြည်သူဆိုင်ရာ သတင်းအချက်အလက်များမှ လာပါသည် - ဥပမာ ကျွန်ုပ်တို့သည် paywalls နောက်ကွယ်မှ သို့မဟုတ် “deep web” မှ သတင်းအချက်အလက်များကို မရှာဖွေပါ။ ကျွန်ုပ်တို့၏ မော်ဒယ်များ မသင်ယူစေလိုသော သို့မဟုတ် မထုတ်ပေးစေလိုသော ဒေတာအချို့ဖြစ်သည့် မုန်းတီးဖွယ်ပြောဆိုမှု၊ အရွယ်ရောက်ပြီးသူ အကြောင်းအရာ၊ ပုဂ္ဂိုလ်ရေးဆိုင်ရာ သတင်းအချက်အလက်များကို အဓိကစုစည်းထားသော sites များနှင့် spam တို့ကို စစ်ထုတ်ကာ ဖယ်ရှားပါသည်။
ဖန်တီးသူများ၊ အခွင့်အရေးပိုင်ရှင်များနှင့် ဝဘ်ဆိုက် စီမံသူများအနေဖြင့် ၎င်းတို့ ပိုင်ဆိုင်သည့် သို့မဟုတ် ထိန်းချုပ်သည့် အကြောင်းအရာများနှင့် စပ်လျဉ်း၍ AI လေ့ကျင့်ရေးအပေါ် ၎င်းတို့၏ ဆန္ဒကို ဖော်ပြနိုင်စေရန် အစီအမံများကိုလည်း ကျွန်ုပ်တို့ အကောင်အထည်ဖော်ထားပါသည်။ ဥပမာ OpenAI သည် robots.txt web standard ကို အသုံးပြုပြီး ဝဘ်ဆိုက် စီမံသူများအနေဖြင့် OpenAI ၏ “GPTBot” web crawler က ၎င်းတို့၏ အကြောင်းအရာများကို ဝင်ရောက်မရအောင် ပယ်ဖျက်နိုင်သည့် လွယ်ကူသော နည်းလမ်းတစ်ရပ်ကို အကောင်အထည်ဖော်ထားပါသည်။ အလားတူပင် ChatGPT နှင့် ChatGPT plugins များက ဝဘ်ဆိုက်များကို ဝင်ရောက်ရာတွင် အသုံးပြုသော user-agent-string (“ChatGPT‑user”) ကိုလည်း OpenAI က စာတမ်းတင်ထားပြီး၊ ထို့ကြောင့် site operators များသည် ထိုရည်ရွယ်ချက်များအတွက် ဝင်ရောက်မှုကိုလည်း ပိတ်ဆို့နိုင်ပါသည်။ bot နှစ်မျိုးစလုံးကို sites များသို့ ဝင်ရောက်ခွင့် မပေးရန် မည်သို့လုပ်ဆောင်ရမည်ကို အွန်လိုင်းတွင် ညွှန်ကြားချက်များ ပေးထားပါသည်။ အနာဂတ် DALL-E ရုပ်ပုံ ထုတ်လုပ်မှု မော်ဒယ်များ၏ လေ့ကျင့်ရေးမှ ၎င်းတို့၏ အကြောင်းအရာများကို ဖယ်ထုတ်လိုသော ရုပ်ပုံဖန်တီးသူများအတွက် self-service form(ဝင်းဒိုးအသစ်တွင် ဖွင့်မည်) တစ်ခုကိုလည်း ကျွန်ုပ်တို့ ပံ့ပိုးထားပါသည်။