AI alignment ဆိုင်ရာ လွတ်လပ်သီးခြား သုတေသနကို တိုးတက်စေခြင်း

AI စနစ်များသည် ပိုမိုစွမ်းဆောင်နိုင်လာပြီး ပိုမိုအလိုအလျောက် လုပ်ဆောင်လာသည့်အခါ alignment သုတေသနသည် လိုက်မီရုံသာမက မတူကွဲပြားမှုအတိုင်းအတာကိုလည်း ချဲ့ထွင်ရန် လိုအပ်သည်။ OpenAI တွင် ၎င်းသည် ကျွန်ုပ်တို့၏ မစ်ရှင်အတွက် အရေးကြီးသောကြောင့် စွမ်းဆောင်ရည်အမြင့်ဆုံး alignment နှင့် safety သုတေသနတွင် ကျွန်ုပ်တို့ အလွန်အမင်း ရင်းနှီးမြှုပ်နှံထားသည်။ AGI သည် လူတိုင်းအတွက် ဘေးကင်းပြီး အကျိုးရှိစေရန် အဖွဲ့အစည်းတစ်ခုတည်းဖြင့် မဆောင်ရွက်နိုင်ဟုလည်း ကျွန်ုပ်တို့ ယုံကြည်ပြီး စွမ်းဆောင်ရည်အမြင့်ဆုံး labs များအပြင်ဘက်တွင် လိုက်နာဆောင်ရွက်နိုင်သော လွတ်လပ်သီးခြား သုတေသနနှင့် အယူအဆဆိုင်ရာ ချဉ်းကပ်နည်းများကို ပံ့ပိုးလိုပါသည်။

ယနေ့ ကျွန်ုပ်တို့သည် UK AI Security Institute (UK AISI) က ဖန်တီးထားသော လွတ်လပ်သီးခြား alignment သုတေသနအတွက် ကမ္ဘာလုံးဆိုင်ရာ ရန်ပုံငွေဖြစ်သော The Alignment Project⁠(ဝင်းဒိုးအသစ်တွင် ဖွင့်မည်) သို့ $7.5 million ထောက်ပံ့ငွေကို ကြေညာလိုက်ပါသည်။ Renaissance Philanthropy က ထိုထောက်ပံ့ငွေ၏ စီမံခန့်ခွဲမှုကို ပံ့ပိုးပေးနေသည်။ ဤလှူဒါန်းမှုကြောင့် The Alignment Project သည် ယနေ့အထိ လွတ်လပ်သီးခြား alignment သုတေသနအတွက် ရည်ရွယ်ထားသော အကြီးမားဆုံး ရန်ပုံငွေကြိုးပမ်းမှုများထဲမှ တစ်ခုဖြစ်လာကာ ပိုမိုကျယ်ပြန့်သော လွတ်လပ်သီးခြား ecosystem ကိုလည်း အားကောင်းစေပါသည်။

OpenAI ကဲ့သို့ စွမ်းဆောင်ရည်အမြင့်ဆုံး labs များသည် စွမ်းဆောင်ရည်အမြင့်ဆုံး မော်ဒယ်များနှင့် အလွန်များသော compute ကို အသုံးပြုခွင့်အပေါ် မူတည်သည့် alignment သုတေသနကို ဆောင်ရွက်ရန် ထူးခြားသော အနေအထားတွင် ရှိကြသည်—ဤသည်မှာ လွတ်လပ်သီးခြား သုတေသီများအတွက် မကြာခဏ စူးစမ်းရန် ခက်ခဲသော အလုပ်ဖြစ်သည်။ စွမ်းဆောင်ရည် တိုးတက်မှုနှင့် alignment တိုးတက်မှုတို့ လိုက်မီနေစေရန် scalable နည်းလမ်းများ ဖွံ့ဖြိုးစေရေးအတွက် ကျွန်ုပ်တို့၏ အတွင်းပိုင်း alignment အားထုတ်မှု အများစုကို အပ်နှံထားသည်။ ထပ်ခါတလဲလဲ ဖြန့်ချိအသုံးချခြင်းကို ကျွန်ုပ်တို့ ယုံကြည်သည်—ကာကွယ်မှုများကို အားကောင်းစေသည့်အပြင် စွမ်းဆောင်ရည်ကို တဖြည်းဖြည်း မြှင့်တင်သွားခြင်းက—ပြဿနာများကို အစောပိုင်းတွင် ပေါ်လွင်စေပြီး လက်တွေ့တွင် မည်သည့်အရာများ အလုပ်ဖြစ်သည်ကို တိကျသော သက်သေများ ပေးစွမ်းသည်ဟု ကျွန်ုပ်တို့ ယုံကြည်သည်။ ထို့အပြင် တာဝန်ရှိသော ဖွံ့ဖြိုးတိုးတက်မှုအတွက် မော်ဒယ် တည်ဆောက်ခြင်းနှင့် ဖြန့်ချိအသုံးချခြင်းတို့နှင့် တင်းကျပ်စွာ ပေါင်းစည်းထားသော အရေးပါသော alignment နှင့် safety အလုပ်များ လိုအပ်သည်ဟုလည်း ယုံကြည်ပါသည်။

တစ်ပြိုင်နက်တည်းတွင် နယ်ပယ်အနေဖြင့် အကြံဉာဏ်အလားအလာကို ချဲ့ထွင်နိုင်ပြီး လမ်းကြောင်းအသစ်များကို ဖော်ထုတ်နိုင်သည့် လွတ်လပ်သီးခြား စမ်းသပ်ရှာဖွေသုတေသနအပေါ် ဆက်လက်ရင်းနှီးမြှုပ်နှံမှုမှ အကျိုးရရှိသည်။ လွတ်လပ်သီးခြား သုတေသနသည် ဆက်လက်၍ မရှိမဖြစ်လိုအပ်နေဆဲဖြစ်သည်။ အသုံးဝင်သော စူးစမ်းလေ့လာမှု အမျိုးအစားများစွာတွင် labs များမှာ နှိုင်းယှဉ်အားသာချက်ကို မထိန်းထားနိုင်ကြပေ။ ကျန်းမာသော alignment ecosystem တစ်ခုသည် မတူညီသော ယူဆချက်များကို စမ်းသပ်ခြင်း၊ အခြား framework များ ဖွံ့ဖြိုးစေခြင်းနှင့် အဖွဲ့အစည်းတစ်ခု၏ roadmap တစ်ခုတည်းနှင့် စနစ်တကျ မကိုက်ညီနိုင်သော အယူအဆဆိုင်ရာ၊ သီအိုရီဆိုင်ရာနှင့် blue-sky အကြံဉာဏ်များကို ရှာဖွေသော လွတ်လပ်သီးခြား အဖွဲ့များအပေါ် မူတည်နေသည်။

ထို့အပြင် AGI သို့ ဦးတည်သော တိုးတက်မှုသည် နောက်ဆုံးတွင် alignment ပြဿနာ၏ ပုံသဏ္ဍာန်နှင့် မည်သည့် ချဉ်းကပ်နည်းများက အများဆုံး အသုံးဝင်သည်ကို ပြောင်းလဲစေမည့် အခြေခံကျသော breakthroughs များအပေါ် မူတည်နေနိုင်သောကြောင့် ယနေ့၏ အဓိက နည်းလမ်းများသည် ကျွန်ုပ်တို့ မျှော်လင့်သလို scale မတက်လာခဲ့လျှင်တောင် အရေးပါမည့် သုတေသနကို ပံ့ပိုးရန် အရေးကြီးပါသည်။ ထိုကဲ့သို့သော အခြေအနေများတွင် အခြေခံကျသော၊ အယူအဆဆိုင်ရာနှင့် အပြန်အလှန်မဆက်စပ်သော အလုပ်များကို ဆောင်ရွက်နေသော ပြင်ပ ecosystem တစ်ခု အားကောင်းစွာ ရှိနေခြင်းသည် အထူးအရေးကြီးလာသည်။ AI alignment နှင့် safety ပြဿနာသည် မကြုံစဖူး အရေးပါမှုရှိပြီး စွမ်းဆောင်ရည်များ ဆက်လက်တိုးတက်နေချိန်တွင် မည်သည့် ချဉ်းကပ်နည်းများက အရှည်တည်တံ့ဆုံးဖြစ်မည်ကို ကျွန်ုပ်တို့ မသိသေးသောကြောင့် လူတိုင်း၏ အားထုတ်မှုကို လိုအပ်ပါသည်။

လက်ရှိ ငွေလဲနှုန်းအရ ခန့်မှန်းအားဖြင့် £5.6 million ဖြစ်သော ကျွန်ုပ်တို့၏ ထောက်ပံ့ငွေသည် The Alignment Project ကို ပူးတွဲငွေကြေးထောက်ပံ့မည်⁠(ဝင်းဒိုးအသစ်တွင် ဖွင့်မည်) ဖြစ်ပြီး အခြား အစိုးရ၊ ပရဟိတနှင့် စက်မှုလုပ်ငန်း ကျောထောက်နောက်ခံပေးသူများနှင့်အတူ ဆောင်ရွက်မည်ဖြစ်သည်။ စုစုပေါင်း ရန်ပုံငွေသည် £27 million ကျော်ပြီး ကမ္ဘာတစ်ဝန်းရှိ alignment သုတေသန ပရောဂျက်များ၏ ကျယ်ပြန့်သော portfolio တစ်ခုကို ပံ့ပိုးရန် ဒီဇိုင်းထုတ်ထားသည်။ ၎င်းတွင် computational complexity theory၊ economic theory နှင့် game theory၊ cognitive science နှင့် information theory နှင့် cryptography စသည့် မတူကွဲပြားသော အကြောင်းအရာများ ပါဝင်သည်။ ပရောဂျက်တစ်ခုချင်းစီကို ပုံမှန်အားဖြင့် £50,000 မှ £1 million အထိ ထောက်ပံ့ပြီး compute resources နှင့် ကျွမ်းကျင်သူ အထောက်အပံ့များကိုလည်း ရွေးချယ်နိုင်သည့် ပုံစံဖြင့် ရရှိနိုင်သည်။

ကျွန်ုပ်တို့၏ ရန်ပုံငွေထောက်ပံ့မှုသည် အစီအစဉ်အသစ်တစ်ခု သို့မဟုတ် ရွေးချယ်မှုလုပ်ငန်းစဉ်အသစ်တစ်ခုကို မဖန်တီးသလို ရှိပြီးသား လုပ်ငန်းစဉ်ကိုလည်း လွှမ်းမိုးခြင်း မရှိပါ။ ၎င်းသည် လက်ရှိအဆင့်တွင် ရန်ပုံငွေရနိုင်မည့် စိစစ်ပြီးသား အရည်အသွေးမြင့် projects⁠(ဝင်းဒိုးအသစ်တွင် ဖွင့်မည်) အရေအတွက်ကိုသာ တိုးစေပါသည်။

UK AISI သည် ဤအတိုင်းအတာနှင့် အကွာအဝေးရှိ alignment ရန်ပုံငွေကို ဦးတည်ခွဲဝေပေးရန် ကောင်းစွာ အဆင်သင့်ရှိသည်။ ၎င်းတွင် အစိုးရ၊ ပညာရေးလောက၊ ပရဟိတနှင့် စက်မှုလုပ်ငန်းတို့ကို လွှမ်းခြုံထားသော ကဏ္ဍစုံ ပူးပေါင်းအဖွဲ့အစည်းတစ်ခု ရှိပြီးသားဖြစ်သည့်အပြင် ထောက်ပံ့ငွေပေးအပ်ရေး pipeline တစ်ခုလည်း လှုပ်ရှားနေပြီး ကျွမ်းကျင်သူများ၏ သုံးသပ်ချက်ကို ခံယူပြီးသော အဆိုပြုချက်များစွာလည်း ရှိပါသည်။ Science, Innovation and Technology Department (DSIT) အတွင်းရှိ UK အစိုးရ သုတေသနအဖွဲ့အစည်းတစ်ခုအနေဖြင့်လည်း ၎င်းတွင် AI ၏ ပြင်းထန်သော အန္တရာယ်များအပေါ် အာရုံစိုက်ထားသော လုပ်ပိုင်ခွင့်ရှိပြီး သုတေသန ရန်ပုံငွေအစီအစဉ်များ လည်ပတ်ရာတွင်လည်း အတွေ့အကြုံရှိသည်။

AI ၏ အနာဂတ်သည် မည်သူမဆို ခန့်မှန်းသကဲ့သို့ တိတိကျကျ မဖြစ်ပေါ်လာမည်မဟုတ်သလို—အလွန်မြန်ဆန်စွာလည်း တိုးတက်သွားနိုင်သောကြောင့်—ဒီမိုကရက်တစ်ဖြန့်ကျက်မှု၊ “AI resilience” နှင့် ထပ်ခါတလဲလဲ ဖြန့်ချိအသုံးချခြင်းတို့သည် မရှိမဖြစ်လိုအပ်သည်ဟု ကျွန်ုပ်တို့ ယုံကြည်သည်။ OpenAI တွင် ကျွန်ုပ်တို့၏ စွမ်းဆောင်ရည်အမြင့်ဆုံး alignment နှင့် safety သုတေသနကို ဆက်လက်တိုးတက်စေသော်လည်း စွမ်းဆောင်ရည်များ တိုးတက်လာသည်နှင့်အမျှ ဖြည့်စွက်ချဉ်းကပ်နည်းများကို လိုက်စားနေသော အားကောင်းပြီး မတူကွဲပြားသည့် လွတ်လပ်သီးခြား ecosystem တစ်ခုမှ တိုးတက်မှုသည် အကျိုးရရှိမည်ဖြစ်သည်။ ဤထောက်ပံ့ငွေသည် ထိုရည်မှန်းချက်ဆီသို့ ခြေလှမ်းတစ်လှမ်း ဖြစ်သည်။ နယ်ပယ်တိုးတက်လာသည်နှင့်အမျှ ပိုမိုကျယ်ပြန့်သော သုတေသနအသိုင်းအဝိုင်းနှင့် ဆက်လက်ပူးပေါင်းလုပ်ဆောင်ရန် ကျွန်ုပ်တို့ မျှော်လင့်ပါသည်။