open model weights အပေါ် NTIA သို့ OpenAI ၏ မှတ်ချက်

OpenAI သည် AI ကို တည်ဆောက်ခြင်း၊ ကျယ်ကျယ်ပြန့်ပြန့် အသုံးချဖြန့်နှံ့ခြင်းနှင့် အသုံးပြုခြင်းတို့က လူများ၏ ဘဝကို ပိုမိုကောင်းမွန်စေပြီး ပိုကောင်းသော အနာဂတ်ကို ဖွင့်လှစ်ပေးနိုင်သည်ဟု ယုံကြည်⁠(ဝင်းဒိုးအသစ်တွင် ဖွင့်မည်)ပါသည်။ တိုးတက်မှုသည် တီထွင်ဆန်းသစ်မှုနှင့် လွတ်လပ်သော စျေးကွက်ပြိုင်ဆိုင်မှုအပေါ် မှီခိုပါသည်။ ထိုကျယ်ပြန့်သော လမ်းညွှန်ချက်များအတွင်း လူများက AI ၏ အလားအလာကို ပိုမိုအကောင်အထည်ဖော်နိုင်မည့် လမ်းကြောင်းများစွာ ရှိပါသည်။ OpenAI သည် မကြုံစဖူး စွမ်းရည်မြင့် foundation မော်ဒယ်များ၏ အကျိုးကျေးဇူးများကို မည်သို့ ဖြန့်ဝေမည်ဆိုသော မေးခွန်းနှင့် အစောဆုံး ရင်ဆိုင်ခဲ့သော AI developer များအနက် တစ်ဦးဖြစ်ပြီး NTIA ၏ ဆွေးနွေးဆုံးဖြတ်မှုများကို အထောက်အကူဖြစ်စေရန် ဤသမိုင်းနောက်ခံကို ဦးစွာ တင်ပြပါသည်။

2019 ခုနှစ်တွင် ကျွန်ုပ်တို့သည် GPT‑2 ကို ဖန်တီးခဲ့ပြီး စာသားအပိုဒ်များကို ညီညွတ်စွာ ဖန်တီးနိုင်သည့် စွမ်းရည်သစ် ရှိလာခဲ့သည်၊ ထို့နောက် ၎င်းကို မည်သို့ အသုံးချဖြန့်ချိမည်ဆိုသည့် မေးခွန်းနှင့် ရင်ဆိုင်ခဲ့ရပါသည်။ တစ်ဖက်တွင် မော်ဒယ်သည် အလွန် အသုံးဝင်သည့်ပုံ ပေါ်ခဲ့သည်၊ အခြားတစ်ဖက်တွင်မူ ကျွန်ုပ်တို့ မသေချာခဲ့ပါ⁠၊ ၎င်းကို phishing email ဖန်တီးခြင်းကဲ့သို့ ရည်ရွယ်ချက်မကောင်းသော အသုံးများအတွက် အသုံးဝင်နိုင်မလားဆိုသည်။ ထို့ကြောင့် “အဆင့်လိုက် ဖြန့်ချိမှု” ကို စမ်းသပ်ရန် ကျွန်ုပ်တို့ ရွေးချယ်ခဲ့ပါသည်။ ထိုအချိန်က ကျွန်ုပ်တို့ ရေးသားခဲ့သကဲ့သို့⁠ “အဆင့်လိုက် ဖြန့်ချိမှုဆိုသည်မှာ အချိန်ကြာလာသည်နှင့်အမျှ မော်ဒယ်မိသားစုတစ်စုကို တဖြည်းဖြည်း ဖြန့်ချိသွားခြင်းကို ဆိုလိုသည်။ GPT‑2 ကို အဆင့်လိုက် ဖြန့်ချိရခြင်း၏ ရည်ရွယ်ချက်မှာ လူများအား ဤမော်ဒယ်များ၏ ဂုဏ်သတ္တိများကို အကဲဖြတ်ရန်၊ လူမှုရေးဆိုင်ရာ သက်ရောက်မှုများကို ဆွေးနွေးရန်နှင့် အဆင့်တိုင်းအပြီး ဖြန့်ချိမှု၏ အကျိုးသက်ရောက်မှုများကို သုံးသပ်ရန် အချိန်ပေးရန်ဖြစ်သည်။” သိသာထင်ရှားသော အလွဲသုံးစားလုပ်မှု သက်ရောက်မှုများကို မတွေ့ရသည့်အခါ ၎င်းက ကျွန်ုပ်တို့အား မော်ဒယ်အပြည့်၏ weight များကို openly ဖြန့်ချိရန်⁠ ယုံကြည်ချက်ပေးခဲ့ပါသည်။

2020 ခုနှစ်တွင် ကျွန်ုပ်တို့သည် GPT‑3 ကို ဖန်တီးခဲ့ပြီး ၎င်းသည် benchmark အားလုံးတွင် ယခင် ဘာသာစကား မော်ဒယ်များထက် များစွာ ပိုမိုစွမ်းဆောင်နိုင်ခဲ့ကာ ထပ်မံ၍ ၎င်းကို မည်သို့ ဖြန့်ချိမည်ဆိုသည့် မေးခွန်းနှင့် ရင်ဆိုင်ခဲ့ရပါသည်။ ဤတစ်ကြိမ်တွင် ကျွန်ုပ်တို့၏ ပထမဆုံး ထုတ်ကုန်ဖြစ်သော OpenAI API (Application Programming Interface ဖြစ်ပြီး developer များက ကျွန်ုပ်တို့၏ နည်းပညာပေါ်တွင် app များ တည်ဆောက်နိုင်စေသည်) မှတစ်ဆင့် ဖြန့်ချိရန် ဆုံးဖြတ်ခဲ့ပါသည်။ ထိုအချိန်က ကျွန်ုပ်တို့ ရေးသားခဲ့သကဲ့သို့⁠ ဤထုတ်ချိမှုမဟာဗျူဟာသစ်အတွက် လှုံ့ဆော်ချက်များ များစွာ ရှိခဲ့ပါသည်။ “နည်းပညာကို စီးပွားဖြစ်အသုံးချခြင်းက ကျွန်ုပ်တို့၏ ဆက်လက်လုပ်ဆောင်နေသော AI သုတေသန၊ လုံခြုံရေးနှင့် မူဝါဒ ကြိုးပမ်းမှုများအတွက် ကုန်ကျစရိတ်ကို ပံ့ပိုးပေးသည်” နှင့် “API မော်ဒယ်က နည်းပညာ အလွဲသုံးစားလုပ်မှုကို ပိုမိုလွယ်ကူစွာ တုံ့ပြန်နိုင်စေသည်။ ကျွန်ုပ်တို့၏ မော်ဒယ်များ၏ downstream အသုံးပြုမှုကိစ္စများကို ကြိုတင်ခန့်မှန်းရန် ခက်ခဲသောကြောင့်၊ အန္တရာယ်ရှိသော အသုံးများ ရှိကြောင်း နောက်ပိုင်းတွင် တွေ့ရှိပါက အသုံးပြုခွင့်ကို မပြင်ဆင်နိုင်တော့သော open source model အဖြစ် ဖြန့်ချိခြင်းထက် API မှတစ်ဆင့် ဖြန့်ချိပြီး အချိန်ကြာလာသည်နှင့်အမျှ အသုံးပြုခွင့်ကို တိုးချဲ့သွားခြင်းက မူလအားဖြင့် ပိုလုံခြုံသည်ဟု ခံစားရသည်။” နှစ်ပေါင်းများစွာအတွင်း ဤ API ဖြန့်ချိမှုက ကျွန်ုပ်တို့နှင့် အသိုင်းအဝိုင်းကို GPT‑3 အဆင့် မော်ဒယ်များ၏ လုံခြုံရေးနှင့် အလွဲသုံးစားလုပ်မှု ပုံစံများအကြောင်း သင်ခန်းစာများ⁠ ပေးခဲ့ပါသည်။

ထို့နောက် နှစ်များအတွင်း ကျွန်ုပ်တို့သည် open-source AI ecosystem ၏ အလားအလာကို ဆက်လက် ထောက်ခံယုံကြည်ခဲ့ပြီး၊ ၎င်းအတွက် ကျွန်ုပ်တို့၏ state-of-the-art မော်ဒယ်အချို့၏ weight များကို openly ဖြန့်ချိခြင်း (ဥပမာ CLIP နှင့် Whisper) နှင့် အခြား AI developer များအတွက် open-source infrastructure များကို ဖန်တီးခြင်း (ဥပမာ Triton GPU programming language) တို့ကို လုပ်ဆောင်ခဲ့ပါသည်။ openly ဖြန့်ချိထားသော weight များက အရေးပါသော အကျိုးကျေးဇူးမျိုးစုံကို ဆောင်ကြဉ်းပေးသည်ကို ကျွန်ုပ်တို့ တွေ့မြင်ခဲ့ရပါသည်။ ၎င်းတွင် AI မော်ဒယ်များ၏ အတွင်းပိုင်းဖွဲ့စည်းပုံအပေါ် ပညာရေးဆိုင်ရာ သုတေသနကို လွယ်ကူစေခြင်း၊ အသုံးပြုသူများနှင့် အဖွဲ့အစည်းများအား ၎င်းတို့၏ edge device များပေါ်တွင် မော်ဒယ်များကို local အဖြစ် လည်ပတ်ခွင့်ပေးခြင်းနှင့် အသုံးပြုသူများ၏ ရည်ရွယ်ချက်များနှင့် ကိုက်ညီအောင် မော်ဒယ်များကို ဖန်တီးမှုရှိစွာ ပြုပြင်ပြောင်းလဲနိုင်စေခြင်းတို့ ပါဝင်ပါသည်။ AI ကုမ္ပဏီများစွာသည် brand, ဝန်ထမ်းခေါ်ယူမှုနှင့် developer ecosystem ကို ဆွဲဆောင်ကာ ကုမ္ပဏီ၏ နည်းပညာအတွင်းပိုင်းကို အခြေခံ၍ တည်ဆောက်ပြီး အရှိန်မြှင့်တင်စေရန် စသည့် အကြောင်းရင်းမျိုးစုံကြောင့် open model weight ဖြန့်ချိမှုများတွင် အလွန်အမင်း ရင်းနှီးမြှုပ်နှံရန် ရွေးချယ်ခဲ့ကြပါသည်။

တစ်ချိန်တည်းတွင် ကျွန်ုပ်တို့၏ အဓိက AI မော်ဒယ်များကို API များနှင့် ChatGPT ကဲ့သို့ စီးပွားဖြစ်ထုတ်ကုန်များမှတစ်ဆင့် ဖြန့်ချိသည့် ချဉ်းကပ်မှုက မူလဖြန့်ချိပြီးနောက် တွေ့ရှိလာသော အန္တရာယ်များကို ဆက်လက်လေ့လာကာ လျှော့ချနိုင်စေခဲ့ပါသည်၊ အများအားဖြင့် weight များကို ကိုယ်တိုင် ဖြန့်ချိခဲ့ပါက မဖြစ်နိုင်လောက်သော နည်းလမ်းများဖြင့် ဖြစ်ပါသည်။ ဥပမာ မကြာသေးမီက ကျွန်ုပ်တို့သည် Microsoft နှင့် ပူးပေါင်းကာ ကျွန်ုပ်တို့၏ GPT‑3.5‑Turbo နှင့် GPT‑4 မော်ဒယ်များကို cyberoffensive operation များကို ကူညီရန် အလွဲသုံးစားလုပ်နေသော နိုင်ငံပိုင် cyber threat actor အချို့၏ လုပ်ဆောင်မှုများကို ရှာဖွေ၊ လေ့လာပြီး နှောင့်ယှက်တားဆီး⁠ခဲ့ပါသည်။ ထိုအချိန်က စွမ်းဆောင်ရည်အမြင့်ဆုံး မော်ဒယ်များ၏ weight များကို ကျယ်ပြန့်စွာ ဖြန့်ချိထားခဲ့ပါက ထို threat actor များကို တားဆီးနိုင်မည် မဟုတ်ခဲ့ပါ၊ အကြောင်းမှာ ထို cyber threat actor များက မော်ဒယ်ကို ကိုယ်ပိုင် hardware ပေါ်တွင် host လုပ်နိုင်ပြီး မူလ developer နှင့် မည်သည့်အခါမျှ အပြန်အလှန် မဆက်သွယ်တော့နိုင်သောကြောင့် ဖြစ်ပါသည်။ ဤချဉ်းကပ်မှုက ကျွန်ုပ်တို့အား AI ၏ အကျိုးကျေးဇူးများကို ကျယ်ကျယ်ပြန့်ပြန့် ဆက်လက် ဖြန့်ဝေနိုင်စေခဲ့ပြီး၊ အခမဲ့နှင့် ကုန်ကျစရိတ်နည်းသော service များအပါအဝင် ဖြစ်ပါသည်။

ဤအတွေ့အကြုံများက open weights ဖြန့်ချိမှုများနှင့် API နှင့် ထုတ်ကုန်အခြေပြု ဖြန့်ချိမှုများ နှစ်မျိုးစလုံးသည် အကျိုးရှိသော AI ကို ရရှိစေရန် ကိရိယာများဖြစ်ကြောင်း ကျွန်ုပ်တို့ကို ယုံကြည်စေခဲ့ပြီး၊ အကောင်းဆုံးသော အမေရိကန် AI ecosystem တွင် နှစ်မျိုးစလုံး ပါဝင်မည်ဟု ကျွန်ုပ်တို့ ယုံကြည်ပါသည်။

ထုတ်ကုန်ဖြန့်ချိမှုများနှင့် weight ဖြန့်ချိမှုများ နှစ်မျိုးစလုံးတစ်လျှောက် ထပ်ခါထပ်ခါ ကျွန်ုပ်တို့သည် “အဆင့်လိုက် အသုံးချဖြန့်ချိမှု” ၏ အံ့မခန်း အကျိုးကျေးဇူးများကို တွေ့မြင်ခဲ့ရပါသည်။ ၎င်းမှာ စွမ်းရည်ပိုမိုမြင့်မားလာသော AI ကို လူများ၏ လက်ထဲသို့ တဖြည်းဖြည်း ထည့်ပေးကာ ၎င်းတို့၏ ဘဝကို ပိုမိုကောင်းမွန်စေရန် အသုံးပြုနိုင်စေခြင်းနှင့် လူမှုအသိုင်းအဝိုင်းအား ဤနည်းပညာအသစ်များနှင့် လိုက်လျောညီထွေဖြစ်စေရန် ကူညီခြင်းဖြစ်ပါသည်။ 2023 ခုနှစ်တွင် ကျွန်ုပ်တို့ ရေးသားခဲ့သကဲ့သို့⁠ “ကျွန်ုပ်တို့သည် deployment မတိုင်မီ ကြိုတင်မြင်နိုင်သော အန္တရာယ်များကို ကာကွယ်ရန် အပြင်းအထန် ကြိုးစားပါသည်၊ သို့သော် lab အတွင်းတွင် သင်ယူနိုင်သည့်အရာများတွင် ကန့်သတ်ချက်ရှိပါသည်။ ကျယ်ပြန့်သော သုတေသနနှင့် စမ်းသပ်မှုများ ပြုလုပ်ထားသော်လည်း လူများက ကျွန်ုပ်တို့၏ နည်းပညာကို မည်သည့် အကျိုးရှိသော နည်းလမ်းများဖြင့် အသုံးပြုမည်ဆိုသည်ကိုလည်းကောင်း၊ မည်သည့် နည်းလမ်းများဖြင့် အလွဲသုံးစားလုပ်မည်ဆိုသည်ကိုလည်းကောင်း အားလုံးကို ကျွန်ုပ်တို့ မကြိုတင်ခန့်မှန်းနိုင်ပါ။ ထို့ကြောင့် လက်တွေ့ကမ္ဘာ အသုံးပြုမှုမှ သင်ယူခြင်းသည် အချိန်ကြာလာသည်နှင့်အမျှ ပိုမိုလုံခြုံသော AI စနစ်များကို ဖန်တီးရန်နှင့် ဖြန့်ချိရန် အရေးကြီးသော အစိတ်အပိုင်းတစ်ခုဖြစ်သည်ဟု ကျွန်ုပ်တို့ ယုံကြည်ပါသည်။”

AI မော်ဒယ်များ ပို၍ပင် အားကောင်းလာသည်နှင့် ၎င်းတို့ကို အသုံးချဖြန့်ချိခြင်း သို့မဟုတ် ဖြန့်ချိခြင်း၏ အကျိုးကျေးဇူးနှင့် အန္တရာယ်များ ပိုမိုကြီးမားလာသည့်အခါ မော်ဒယ်တစ်ခုကို deploy လုပ်သင့်မသင့်၊ လုပ်မည်ဆိုလျှင် မည်သို့လုပ်မည်ဆိုသည်တို့ကို ဆုံးဖြတ်ရာတွင် ကျွန်ုပ်တို့ ပိုမိုခေတ်မီနက်ရှိုင်းလာရန်လည်း အရေးကြီးပါသည်။ အထူးသဖြင့် AI စွမ်းရည်များသည် ပြည်သူ့ဘေးကင်းရေး သို့မဟုတ် နိုင်ငံတော်လုံခြုံရေးအတွက် အရေးပါသော သက်ရောက်မှုများ ရှိလာပါက ဤအချက်သည် ပိုမိုမှန်ကန်ပါသည်။ ပိုမိုအဆင့်မြင့်သော AI စနစ်များမှ ထိုကဲ့သို့သော “ကြီးမားပြင်းထန်သော” အန္တရာယ်များ အနာဂတ်တွင် ရှိလာနိုင်ခြင်းမှာ မူလအားဖြင့် မသေချာမှုများ ပါဝင်နေပြီး၊ ထိုအန္တရာယ်များ မည်မျှ ဖြစ်နိုင်သလဲ၊ မည်မျှ မြန်မြန် ပေါ်လာမည်လဲ ဆိုသည့်အပေါ် ပညာရှင်များအကြား သဘောထားမတူညီမှုများလည်း ရှိပါသည်။ ကျွန်ုပ်တို့အနေဖြင့် သက်သေထောက်အထား လုံလောက်စွာ မရှိသေးဟု ယုံကြည်ပါသည်။ ၎င်းတို့ကို မဖြစ်နိုင်ဟုလည်း မဆိုနိုင်သလို မကြာမီ ဖြစ်လာမည်ဟုလည်း သေချာ မဆိုနိုင်ပါ။ AI စွမ်းရည်များ၏ နယ်နိမိတ်ကို ရှေ့သို့ တိုးချဲ့ကာ ၎င်းတို့၏ အကျိုးကျေးဇူးများကို အများဆုံးဖြစ်စေရန် ကြိုးပမ်းနေသော developer များအနေဖြင့် ဤနည်းပညာ၏ အန္တရာယ်များဆိုင်ရာ သိပ္ပံကို တည်ဆောက်ခြင်း (၎င်းအန္တရာယ်များနှင့် ဆက်စပ်သည့် သက်သေများ စုဆောင်းခြင်းအပါအဝင်) ကို ကျွန်ုပ်တို့၏ အလုပ်၏ အဓိကအစိတ်အပိုင်းတစ်ခုအဖြစ် မြင်ပါသည်။

ဤမသေချာမှုများကို အထောက်အထားအခြေပြုနည်းဖြင့် ကိုင်တွယ်နိုင်ရန် OpenAI သည် ကျွန်ုပ်တို့၏ Preparedness Framework⁠(ဝင်းဒိုးအသစ်တွင် ဖွင့်မည်) ကို အများပြည်သူအတွက် စတင်မိတ်ဆက်ခဲ့ပါသည်။ ၎င်းသည် ကျွန်ုပ်တို့၏ AI မော်ဒယ်များက ဖြစ်ပေါ်စေနိုင်သော ကြီးမားပြင်းထန်သော အန္တရာယ်များကို ဆက်လက် အကဲဖြတ်ကာ လျှော့ချရန် သိပ္ပံအခြေပြု ချဉ်းကပ်မှုတစ်ရပ် ဖြစ်ပါသည်။ ကြိုတင်ပြင်ဆင်ထားခြင်းဆိုင်ရာ ဖွဲ့စည်းမှုသည် cybersecurity, autonomous operation, individualized persuasion နှင့် CBRN (Chemical, Biological, Radiological, and Nuclear) threats အပါအဝင် အန္တရာယ်မြင့်နယ်ပယ် အများအပြားတွင် ကျွန်ုပ်တို့၏ AI မော်ဒယ်များ၏ စွမ်းရည်အဆင့်များကို မည်သို့ အကဲဖြတ်မည်ကို သတ်မှတ်ပေးပါသည်။ ဤဖွဲ့စည်းမှု လက်တွေ့တွင် အလုပ်လုပ်ပုံ ဥပမာတစ်ခုအတွက် GPT‑4 ၏ ဇီဝအန္တရာယ်ဖန်တီးမှုကို ကူညီနိုင်စွမ်းကို စမ်းသပ်ထားသော ကျွန်ုပ်တို့၏ မကြာသေးမီ လေ့လာမှု⁠ ကို ကြည့်ပါ။ ထိုလေ့လာမှုက ၎င်းသည် သိသာထင်ရှားသော အပိုဆောင်းအန္တရာယ် မဖြစ်စေကြောင်း သတ်မှတ်ခဲ့ပါသည်။

ဤအကဲဖြတ်မှုများအပေါ် အခြေခံ၍ ကျွန်ုပ်တို့သည် အမျိုးအစားတစ်ခုချင်းစီတွင် မော်ဒယ်များ၏ အန္တရာယ်အဆင့်ကို Low, Medium, High သို့မဟုတ် Critical ဟု သတ်မှတ်ပါသည်။ အရေးကြီးဆုံးအချက်မှာ ကျွန်ုပ်တို့၏ ကြိုတင်ပြင်ဆင်ထားခြင်းဆိုင်ရာ ဖွဲ့စည်းမှုအောက်တွင် ကျွန်ုပ်တို့၏ taxonomy အရ “High” သို့မဟုတ် “Critical” အန္တရာယ်အဆင့်ရှိသော AI စနစ်များကို ၎င်းတို့၏ အန္တရာယ်ကို အနည်းဆုံး “Medium” အဆင့်အထိ လျှော့ချနိုင်မည့် လျှော့ချရေးအစီအမံများ မရှိပါက deploy လုပ်မည်မဟုတ်ပါ (၎င်းတို့၏ အန္တရာယ်အဆင့်ကြောင့် “Critical” များကို train ပင် မလုပ်ပါ)။ ကြိုတင်ပြင်ဆင်ထားခြင်းဆိုင်ရာ ဖွဲ့စည်းမှုသည် အရေးကြီးသည်၊ အကြောင်းမှာ ၎င်းက ကျွန်ုပ်တို့အား စွမ်းရည်ပိုမိုမြင့်မားလာသော AI ၏ အကျိုးကျေးဇူးများကို တည်ဆောက်ကာ ကျယ်ကျယ်ပြန့်ပြန့် မျှဝေနိုင်စေသလို ကြီးမားပြင်းထန်သော အန္တရာယ်များ ပေါ်ပေါက်လာပါက ၎င်းတို့ကို အစောဆုံး ရှာဖွေကာ ကာကွယ်နိုင်ရန် ပြင်ဆင်ပေးသောကြောင့် ဖြစ်ပါသည်။

ကျွန်ုပ်တို့၏ ယုံကြည်ချက်အရ လူများနှင့် ကုမ္ပဏီများသည် AI ၏ အကျိုးကျေးဇူးများကို ရရှိနိုင်ရန် မိမိတို့ရွေးချယ်သည့်ပုံစံအတိုင်း AI တွင် ပါဝင်နိုင်သင့်သည် — ၎င်းတွင် မိမိတို့၏ တန်ဖိုးများနှင့် အမြင်ကို ထင်ဟပ်စေသော AI ကို ဖန်တီးခြင်း သို့မဟုတ် အသုံးပြုခြင်းလည်း ပါဝင်နိုင်သည် — ဟု ယူဆပါသည်။ တစ်ချိန်တည်းတွင် စွမ်းရည်မြင့်သော AI စနစ်များကို ဘေးကင်းလုံခြုံစွာ တည်ဆောက်ကာ အသုံးပြုရမည်ဖြစ်ပြီး၊ တွေ့ရှိလာသော ကြီးမားပြင်းထန်သော အန္တရာယ်များကိုလည်း သင့်လျော်စွာ လျှော့ချထားရမည် ဖြစ်သည်။ ဤအကျိုးစီးပွားများသည် တခါတရံ အပြိုင်ဆန်မှုရှိနိုင်ပြီး လူမှုအသိုင်းအဝိုင်းအတွက် အကောင်းဆုံးရလဒ်များ ရရှိစေရန် ကိစ္စတစ်ခုချင်းအလိုက် စဉ်းစားဆင်ခြင်စွာ စီမံခန့်ခွဲရန် လိုအပ်သည်။

ဖန်တီးရန် အရင်းအမြစ်များစွာ လိုအပ်သော (ဒေါ်လာ သန်းရာချီ သို့မဟုတ် ထို့ထက်ပိုသော အဆင့်) စွမ်းရည်မြင့် foundation မော်ဒယ်များအတွက်ဆိုလျှင် AI ဖန်တီးသူများသည် ၎င်းတို့၏ မော်ဒယ်က ကြီးမားပြင်းထန်သော အန္တရာယ်များ ဖြစ်ပေါ်စေနိုင်သည့် အလားအလာကို အကဲဖြတ်သင့်ပြီး၊ အန္တရာယ်အဆင့် မြင့်မားသည်ဟု တွေ့ရှိပါက ထုတ်ချထားခြင်း သို့မဟုတ် ဖြန့်ချိခြင်းမပြုမီ သင့်လျော်သော လျှော့ချရေးအစီအမံများ ချထားသင့်သည်ဟု ကျွန်ုပ်တို့ ယုံကြည်ပါသည်။ ၎င်းသည် အန္တရာယ်စီမံခန့်ခွဲမှုနှင့် တီထွင်ဆန်းသစ်မှုအကြား သင့်လျော်သော ဟန်ချက်ညီမှုတစ်ရပ် ဖြစ်စေပါသည်။ ဤမော်ဒယ်များသည် အမြင့်ဆုံး စွမ်းရည်များကို ပိုင်ဆိုင်မည်ဟု မျှော်မှန်းထား⁠(ဝင်းဒိုးအသစ်တွင် ဖွင့်မည်)သော်လည်း၊ အကဲဖြတ်ခြင်း၏ ကုန်ကျစရိတ်သည် ၎င်းတို့၏ ဖွံ့ဖြိုးတိုးတက်မှု ကုန်ကျစရိတ်၏ အနည်းငယ်သာ ဖြစ်နိုင်ပါသည်။ ထိုသို့သော အကဲဖြတ်မှုများသည် မော်ဒယ်၏ weight များကို ကျယ်ပြန့်စွာ ဖြန့်ချိရန် ရည်ရွယ်ထားသည်ဖြစ်စေ API မှတစ်ဆင့် ပေးရန် ရည်ရွယ်ထားသည်ဖြစ်စေ အဓိပ္ပါယ်ရှိပါသည်။

အခြားတစ်ဖက်တွင် အရင်းအမြစ်သုံးစွဲမှု ပိုနည်းသော foundation မော်ဒယ်များအတွက် အကျိုးစီးပွားဟန်ချက်သည် ကွဲပြားပါသည်။ လက်ရှိ သက်သေအထောက်အထားများအရ ထိုမော်ဒယ်များသည် finetuning နှင့် model-modification နည်းလမ်းများ ပိုမိုတိုးတက်လာနိုင်သော်လည်းပင် ကြီးမားပြင်းထန်သော အန္တရာယ်များ ဖြစ်ပေါ်စေမည့် အလားအလာ ပိုမိုနည်းပါးနေသည်ဟု ထင်ရပါသည်။ ထိုအတောအတွင်း ကြီးမားပြင်းထန်သော အန္တရာယ်အတွက် အကဲဖြတ်မှုများသည် သေးငယ်သော training run များ၏ ဘတ်ဂျက်အတွင်း အချိုးအစားကြီးမားသော အစိတ်အပိုင်းတစ်ခု ကုန်ကျနိုင်ပြီး၊ ၎င်းက တီထွင်ဆန်းသစ်မှုနှင့် ပြိုင်ဆိုင်မှုအပေါ် အေးခဲသက်ရောက်မှု ဖြစ်စေနိုင်ပါသည်။ စိတ်လှုပ်ရှားဖွယ် AI စွမ်းရည်သစ်များပေါ်တွင် developer များ မတူကွဲပြားစွာ တီထွင်ဆန်းသစ်နိုင်စွမ်းကို ကာကွယ်ပေးခြင်း၊ အတွေးအခေါ်နှင့် ထုတ်ကုန်ဈေးကွက်ကို စည်ပင်ဖွံ့ဖြိုးစေခြင်းတို့တွင် အလွန်တန်ဖိုးရှိနေပြီး သိပ္ပံပညာကလည်း ဤမော်ဒယ်များ၏ အန္တရာယ်သည် နှိုင်းယှဉ်ရသော် နည်းပါးကြောင်း ပြသနေသဖြင့် ထိုမော်ဒယ်များအတွက် ကြီးမားပြင်းထန်သော အန္တရာယ်အကဲဖြတ်မှုများကို မျှော်မှန်းမထားသင့်ဟု ကျွန်ုပ်တို့ ယုံကြည်ပါသည်။

ကြိုတင်ပြင်ဆင်ထားခြင်းဆိုင်ရာ ဖွဲ့စည်းမှု ကဲ့သို့သော assessment protocol များသည် open model weight ဖြန့်ချိမှုများ အပါအဝင် မည်သည့် မော်ဒယ် ဖြန့်ချိမှုအမျိုးအစားမှမဆို ex ante အန္တရာယ်များကို အကဲဖြတ်ရန် အသုံးဝင်သော ကိရိယာများဖြစ်ပါသည်။ open weights ဖြန့်ချိမှုများတွင် ၎င်းတို့ကို မည်သို့ အသုံးချရမည်ဆိုသည်နှင့် ဆက်စပ်သည့် သီးသန့် ထည့်သွင်းစဉ်းစားစရာ အချက်အချို့ ရှိပါသည်။

ထိုအချက်များထဲမှ တစ်ခုမှာ စမ်းသပ်မှုအခြေအနေများသည် downstream actor များက မော်ဒယ်ကို ပြုပြင်နိုင်သည့် နည်းလမ်းအမျိုးမျိုးကို အတတ်နိုင်ဆုံး ထင်ဟပ်သင့်ခြင်းဖြစ်ပါသည်။ open model များ၏ အလွန်အသုံးဝင်သော ဂုဏ်သတ္တိများထဲမှ တစ်ခုမှာ downstream actor များက မော်ဒယ်များကို ပြုပြင်ကာ ၎င်းတို့၏ မူလစွမ်းရည်များကို ချဲ့ထွင်နိုင်ပြီး developer ၏ သီးခြား အသုံးချမှုများနှင့် ကိုက်ညီအောင် ချိန်ညှိနိုင်ခြင်းဖြစ်ပါသည်။ သို့ရာတွင် ၎င်းက ရည်ရွယ်ချက်မကောင်းသော ပါတီများက မော်ဒယ်၏ အန္တရာယ်ဖြစ်စေနိုင်သော စွမ်းရည်များကို ပိုမိုမြှင့်တင်နိုင်သည့် အဓိပ္ပါယ်လည်း ရှိပါသည်။ ထို့ကြောင့် open-weights ဖြန့်ချိမှုတစ်ခု၏ အန္တရာယ်များကို တင်းကျပ်စွာ အကဲဖြတ်ရာတွင် ရည်ရွယ်ချက်မကောင်းသော ပါတီတစ်ရပ်က လက်တွေ့ကျကျ ပြုပြင်နိုင်မည့် နည်းလမ်းအတိုင်းအတာတစ်ခုကို စမ်းသပ်ခြင်းပါဝင်သင့်ပြီး finetuning ဖြင့် ပြုပြင်ခြင်းလည်း ပါဝင်သင့်ပါသည်။ OpenAI သည် ကျွန်ုပ်တို့၏ ကြိုတင်ပြင်ဆင်ထားခြင်းဆိုင်ရာ ဖွဲ့စည်းမှု၏ အစိတ်အပိုင်းတစ်ရပ်အဖြစ် ပြုပြင်ပြောင်းလဲမှု စမ်းသပ်ခြင်းအချို့ကို လုပ်ဆောင်နေပြီးဖြစ်သည် (ဇီဝအန္တရာယ် အကဲဖြတ်မှု⁠တွင်ကဲ့သို့)။

အခြားသော အဓိက ထည့်သွင်းစဉ်းစားစရာတစ်ခုမှာ open model developer များသည် မော်ဒယ် weight များကို ပိုင်ဆိုင်ထားသော downstream အသုံးပြုသူတစ်ဦးက safeguard များကို မကြာခဏ ဖယ်ရှားပစ်နိုင်သောကြောင့် ၎င်းတို့၏ မော်ဒယ်ကို အလွဲသုံးစားလုပ်မှုအန္တရာယ် လျှော့ချရန် system-level safeguards များအပေါ် မမှီခိုနိုင်ခြင်း ဖြစ်နိုင်ပါသည်။ ယနေ့တွင် ဤကွာခြားချက်သည် လျှော့ချနိုင်စွမ်းပိုင်းတွင် အကျိုးဆက်အကန့်အသတ်သာ ရှိနေသည်၊ အကြောင်းမှာ ကျွန်ုပ်တို့၏ လက်ရှိ စွမ်းဆောင်ရည်အမြင့်ဆုံး မော်ဒယ်များပင် အထူးအန္တရာယ်မြင့်သည်ဟု အဆင့်သတ်မှတ်မထားသေးသောကြောင့် ဖြစ်ပါသည်။ သို့သော် အနာဂတ် မော်ဒယ်တစ်ခုကို ဖြန့်ချိပါက ပြင်းထန်သော အန္တရာယ်များ ဖြစ်ပေါ်စေနိုင်သည်ဟု သိပ္ပံနည်းကျ သတ်မှတ်ခံရပါက open-weights ဖြန့်ချိမှု၏ အန္တရာယ်ကို လျှော့ချရန် လမ်းကြောင်းသည် မော်ဒယ် ဖြန့်ချိမည့် ပြင်ပပတ်ဝန်းကျင်၏ ခံနိုင်ရည်အားကို မြှင့်တင်ခြင်းအပေါ် မှီခိုလာနိုင်ပါသည်။

AI ကို အလွဲသုံးစားလုပ်မှုအပေါ် လူမှုအသိုင်းအဝိုင်း၏ ခံနိုင်ရည်အား လိုအပ်ချက်သည် အဖွဲ့အစည်းတစ်ခုတည်း၏ ဖြန့်ချိမှုဆုံးဖြတ်ချက်များထက် ပိုမိုကျယ်ပြန့်ပါသည်။ AI algorithm များ၏ ဆက်လက်တိုးတက်မှုနှင့် ပြန့်ပွားမှု၊ compute ကို ပိုမိုကျယ်ပြန့်စွာ အသုံးပြုနိုင်လာမှု (အမေရိကန်ပြည်ထောင်စုအတွက် စိုးရိမ်ရသော နိုင်ငံများ အပါအဝင်) တို့ကြောင့် ယနေ့ ဖန်တီးချိန်တွင် actor အနည်းငယ်သာ အသုံးပြုနိုင်သော စွမ်းဆောင်ရည်အမြင့်ဆုံး AI စွမ်းရည်များသည် နောက်ဆုံးတွင် ကျယ်ပြန့်စွာ ပြန့်ပွားသွားမည် ဖြစ်ပါသည်။ အမေရိကန်ပြည်ထောင်စုနှင့် ကမ္ဘာတစ်ဝန်းရှိ နိုင်ငံများအနေဖြင့်လည်း အလွဲသုံးစားလုပ်မှု၏ အကျိုးဆက်များကို ကန့်သတ်ပေးမည့် လျှော့ချရေးလုပ်ဆောင်ချက်များတွင် ရင်းနှီးမြှုပ်နှံကာ ဦးဆောင်နိုင်မည့် အခွင့်အလမ်း ရှိပါသည်၊ ထို့ကြောင့် ရလဒ်များ၏ ဟန်ချက်သည် အတတ်နိုင်ဆုံး အပြုသဘောဆန်လာမည် ဖြစ်ပါသည်။

ဥပမာအားဖြင့် AI က အရှိန်မြှင့်ပေးသော cyberattack အန္တရာယ်များကို ဆန့်ကျင်သည့် ခံနိုင်ရည်အားကို အားကောင်းစေရန် အရေးပါသော အခြေခံအဆောက်အအုံ ပံ့ပိုးသူများအား ထို AI မော်ဒယ်များကို စောစီးစွာ အသုံးပြုခွင့်ပေးခြင်း ပါဝင်နိုင်သည်၊ ထို့ကြောင့် ၎င်းတို့ကို cyber-defense တိုးတက်စေရန် အသုံးပြုနိုင်မည်ဖြစ်သည် (ကျွန်ုပ်တို့က OpenAI Cybersecurity Grant Program⁠ ၏ အစိတ်အပိုင်းအဖြစ် ရန်ပုံငွေထောက်ပံ့ခဲ့သော အစောပိုင်း ပရောဂျက်များကဲ့သို့)။ AI က အရှိန်မြှင့်ပေးသော ဇီဝအန္တရာယ်ဖန်တီးမှု အန္တရာယ်များကို ဆန့်ကျင်သည့် ခံနိုင်ရည်အား အားကောင်းစေရန် AI နှင့် လုံးဝမသက်ဆိုင်သော ဖြေရှင်းနည်းများလည်း ပါဝင်နိုင်သည်၊ ဥပမာ nucleic acid synthesis စစ်ဆေးမှုယန္တရားများကို တိုးတက်ကောင်းမွန်စေခြင်း (Executive Order 14110 တွင် တောင်းဆိုထားသကဲ့သို့) သို့မဟုတ် ပြည်သူ့ကျန်းမာရေးစနစ်များ၏ ရောဂါပိုးအသစ် ပျံ့နှံ့မှုများကို စစ်ဆေးဖော်ထုတ်နိုင်စွမ်းကို မြှင့်တင်ခြင်းတို့ ဖြစ်ပါသည်။ AI မော်ဒယ်တစ်ခုသည် ပြည်သူ့ဘေးကင်းရေး သို့မဟုတ် နိုင်ငံတော်လုံခြုံရေးအတွက် ပြင်းထန်သော အန္တရာယ်များ ဖြစ်စေနိုင်ကြောင်း တင်းကျပ်စွာ သက်သေပြထားပါက developer သည် ကျယ်ပြန့်စွာ မဖြန့်ချိမီ ထိုစွမ်းရည်သစ်များအကြောင်း အသိပေးမှု တည်ဆောက်ရာတွင်လည်း အရေးကြီးသော အခန်းကဏ္ဍတစ်ရပ် ထမ်းဆောင်ရနိုင်သည် (ဥပမာ infrastructure provider များအား အသိပေးခြင်း သို့မဟုတ် API deployment ကို ကန့်သတ်ခြင်း)၊ ထို့ကြောင့် အရေးတကြီး လိုအပ်သော ခံနိုင်ရည်မြှင့်တင်ရေး ကြိုးပမ်းမှုများအတွက် အချိန်နှင့် လှုံ့ဆော်မှု နှစ်မျိုးလုံးကို ဖန်တီးပေးနိုင်မည် ဖြစ်သည်။ ၎င်းသည် cyber နယ်ပယ်မှ “တာဝန်ယူမှုရှိသော ထုတ်ဖော်ပြောကြားမှု” စံနှုန်းနှင့် ဆင်တူပါသည်။ ထိုနယ်ပယ်တွင် လုံခြုံရေးသုတေသီများသည် ၎င်းတို့တွေ့ရှိသော အားနည်းချက်များကို ကာကွယ်သူများက မိမိတို့စနစ်များကို ပြင်ဆင်ရန် အချိန်ရစေရန် ယာယီ ထုတ်ပြန်မှုဆိုင်းငံ့ထားတတ်ကြပြီး၊ တစ်ချိန်တည်းမှာပင် နောက်ထပ် လုံခြုံရေးသုတေသနကို နှောင့်နှေးစေခြင်း မရှိပါ။

စွမ်းရည်အမြင့်ဆုံး မော်ဒယ်များ၏ အန္တရာယ်များကို အကဲဖြတ်ခြင်းသည် အရေးကြီးသည်ဟု ကျွန်ုပ်တို့ ယုံကြည်သော်လည်း AI အန္တရာယ် အကဲဖြတ်သည့် သိပ္ပံသည် ယခုမှ စတင်ဖွံ့ဖြိုးဆဲ အဆင့်တွင်သာ ရှိသေးပါသည်။ OpenAI နှင့် AI အသိုင်းအဝိုင်းတစ်ရပ်လုံးသည် AI အန္တရာယ်များကို မည်သို့ အကဲဖြတ်ရမည်ဆိုသည့် အခြေခံများကို တည်ဆောက်နေဆဲဖြစ်ပြီး၊ ကြိုတင်ပြင်ဆင်ထားခြင်းဆိုင်ရာ ဖွဲ့စည်းမှုအတွင်း လက်တွေ့အကောင်အထည်ဖော်မှု အသေးစိတ်အချက်များစွာကိုလည်း ဆက်လက်တိုးတက်အောင် ပြင်ဆင်နေဆဲဖြစ်ပါသည်။ အစိုးရများသည် AI ecosystem အား ၎င်း၏ အန္တရာယ်နှင့် စွမ်းရည်အကဲဖြတ်မှု လုပ်ထုံးလုပ်နည်းများ ပိုမိုရင့်ကျက်လာစေရန် ကူညီရာတွင် အရေးကြီးသော အခန်းကဏ္ဍ ရှိပါသည်။ ဥပမာ တိုက်ခိုက်ရေးဆိုက်ဘာလုံခြုံရေး၊ အရေးပါသော အခြေခံအဆောက်အအုံနှင့် AI လောကမှ ကျွမ်းကျင်သူများကို ခေါ်ယူစုစည်းကာ ဦးစားပေး AI cyber threat model များအပေါ် သဘောတူညီမှု ရရှိစေခြင်းနှင့် ၎င်းတို့ကို အကဲဖြတ်ရန် တင်းကျပ်ပြီး အထောက်အထားအခြေပြု testbed များ တည်ဆောက်ခြင်းတို့ဖြစ်ပါသည်။ USAISI က လိုက်နာနေသော မိမိဆန္ဒအလျောက်၊ တီထွင်ဆန်းသစ်မှုကို အားပေးပြီး သိပ္ပံကို ဦးစားပေးသည့် ချဉ်းကပ်မှုကို ကျွန်ုပ်တို့ ပြင်းပြစွာ ထောက်ခံပါသည်။

2019 ခုနှစ်တွင် OpenAI သည် GPT‑2 ကို မည်သို့ ဖြန့်ချိမည်ဆိုသည့် ရွေးချယ်မှုနှင့် ရင်ဆိုင်ခဲ့ပြီး — အစပိုင်းတွင် မော်ဒယ်၏ ဗားရှင်းသေးသေးတစ်ခုကိုသာ ဖြန့်ချိရန် ရွေးချယ်ခဲ့သည် — ထိုအချိန်မှစ၍ foundation model weight များကို openly ဖြန့်ချိခြင်းနှင့် ပတ်သက်သော ထည့်သွင်းစဉ်းစားရမည့် အခြေအနေများသည် အသစ်တွေ့ရှိချက်များနှင့် ဖြစ်ရပ်များကြောင့် ဆက်တိုက် ပြောင်းလဲလာခဲ့ပြီး တခါတရံ လအနည်းငယ်အတွင်းတောင် ပြောင်းလဲခဲ့ပါသည်။ ဤလမ်းကြောင်းသည် ဆက်လက်ဖြစ်ပေါ်မည်ဟု ကျွန်ုပ်တို့ မျှော်လင့်ပါသည်။ အစိုးရမူဝါဒဆိုင်ရာ မည်သည့် ချဉ်းကပ်မှုမဆို အနာဂတ်ပြောင်းလဲမှုများနှင့် ကိုက်ညီအောင် လွယ်ကူစွာ ပြင်ဆင်နိုင်ပြီး လိုက်လျောညီထွေဖြစ်နိုင်ရမည် ဖြစ်ပါသည်။