စဉ်ဆက်မပြတ် သင်ယူခြင်း၏ အားအင်

အထွေထွေ ဉာဏ်ရည်တု (AGI) သည် စီးပွားရေးတန်ဖိုးရှိသော အလုပ်အများစုတွင် လူသားများထက် ပိုမိုကောင်းမွန်သင့်ပါသည်။ AGI က လူ့အသိုင်းအဝိုင်းကို အောက်ပါနည်းလမ်းများဖြင့် ကူညီပေးမည်ကို ကျွန်ုပ် မျှော်လင့်နေပါသည်။

1. ထပ်တလဲလဲ ဖြစ်ပြီး တီထွင်ဆန်းသစ်မှုမလိုသော အလုပ်များတွင် လူသားအားထုတ်မှုကို အပြည့်အဝ အလိုအလျောက်လုပ်ဆောင်ပေးခြင်း သို့မဟုတ် သိသိသာသာ လျှော့ချပေးခြင်း။ တစ်နည်းအားဖြင့် AGI သည် လူသားတို့၏ ထုတ်လုပ်နိုင်စွမ်းကို အလွန်အမင်း မြှင့်တင်ပေးသင့်ပါသည်။
2. လူသားတို့၏ ဆုံးဖြတ်ချက်ချမှုလုပ်ငန်းစဉ်ကို ထပ်ဆောင်း ခွဲခြမ်းစိတ်ဖြာချက်များနှင့် အချက်အလက်များ ပံ့ပိုးပေးခြင်းအပါအဝင် သိပ္ပံဆိုင်ရာ အောင်မြင်တိုးတက်မှုအသစ်များ ရှာဖွေတွေ့ရှိမှုကို အလွန်မြန်ဆန်စေခြင်း။
3. ရုပ်ပိုင်းဆိုင်ရာ ကမ္ဘာကို ထိရောက်စွာ၊ ထုတ်လုပ်စွမ်းကောင်းစွာ၊ လုံခြုံစွာ နားလည်ပြီး အပြန်အလှန် ဆက်ဆံလုပ်ဆောင်နိုင်ခြင်း။

OpenAI တွင် ပထမ 2.5 နှစ်အတွင်း ကျွန်ုပ်သည် Robotics အဖွဲ့တွင် moonshot စိတ်ကူးတစ်ခုအပေါ် လုပ်ဆောင်ခဲ့ပါသည်။ ကျွန်ုပ်တို့၏ ရည်ရွယ်ချက်မှာ လူလက်နှင့်ဆင်တူသော စက်ရုပ်လက်တစ်ဖက်တည်းကို Rubik’s cube ဖြေရှင်းတတ်အောင် သင်ပေးရန် ဖြစ်သည်။ ဒါဟာ အလွန်စိတ်လှုပ်ရှားဖွယ်ကောင်းပြီး စိန်ခေါ်မှုကြီးမားသလို စိတ်ခံစားမှုများလည်း ပြင်းထန်ခဲ့သော အတွေ့အကြုံတစ်ခု ဖြစ်ခဲ့ပါသည်။ ကျွန်ုပ်တို့သည် နက်နဲစွာ အားဖြည့် သင်ယူလေ့လာခြင်း (RL)၊ domain randomization အလွန်များပြားစွာ အသုံးပြုခြင်းနှင့် လက်တွေ့ကမ္ဘာ လေ့ကျင့်ဒေတာ မလိုဘဲ ထိုစိန်ခေါ်မှုကို ဖြေရှင်းနိုင်ခဲ့⁠ပါသည်။ ပိုအရေးကြီးတာကတော့ ထိုစိန်ခေါ်မှုကို အဖွဲ့လိုက် အနိုင်ယူနိုင်ခဲ့ခြင်း ဖြစ်ပါသည်။

simulation နှင့် RL လေ့ကျင့်မှုမှစ၍ vision perception နှင့် hardware firmware အထိ ကျွန်ုပ်တို့သည် အလွန်နီးကပ်စွာ၊ တစ်သားတည်းကျစွာ ပူးပေါင်းလုပ်ဆောင်ခဲ့ကြပါသည်။ ဒါဟာ အံ့ဩဖွယ်ကောင်းသော စမ်းသပ်မှုတစ်ခုဖြစ်ပြီး အဲဒီအချိန်ကာလအတွင်း Steve Jobs ၏ reality distortion field⁠(ဝင်းဒိုးအသစ်တွင် ဖွင့်မည်) ကို မကြာခဏ စဉ်းစားမိခဲ့ပါသည်။ သင်က တစ်စုံတစ်ရာကို အလွန်ပြင်းပြစွာ ယုံကြည်ပြီး ဇွဲရှိရှိနဲ့ ဆက်လက်တွန်းအားပေးနေမယ်ဆိုရင် တစ်နည်းနည်းနဲ့ မဖြစ်နိုင်တာကို ဖြစ်နိုင်အောင် လုပ်နိုင်တတ်ပါတယ်။

2021 ခုနှစ်အစကတည်းက ကျွန်ုပ်သည် Applied AI Research အဖွဲ့ကို ဦးဆောင်လာခဲ့ပါသည်။ အဖွဲ့တစ်ဖွဲ့ကို စီမံခန့်ခွဲခြင်းက စိန်ခေါ်မှု အမျိုးအစားအသစ်တစ်ရပ်ကို ယူဆောင်လာပြီး အလုပ်လုပ်ပုံစံ ပြောင်းလဲမှုများလည်း လိုအပ်ပါသည်။ ကျွန်ုပ် အများဆုံး ဂုဏ်ယူရတာကတော့ Applied AI အတွင်း ဘာသာစကား မော်ဒယ် safety နှင့်ဆက်စပ်သော project အချို့ ဖြစ်ပါသည်။

1. ကြိုတင်လေ့ကျင့်ထားသော ဘာသာစကား မော်ဒယ်များက မုန်းတီးဖွယ်၊ လိင်ပိုင်းဆိုင်ရာ သို့မဟုတ် အကြမ်းဖက်အကြောင်းအရာများ ထုတ်လုပ်ရန် ဘယ်လောက် လွယ်ကူနေသလဲဆိုတာကို အကဲဖြတ်နိုင်ရန် evaluation data နှင့် task အစုတစ်ခုကို ကျွန်ုပ်တို့ ဒီဇိုင်းဆွဲကာ တည်ဆောက်ခဲ့ပါသည်။
2. မလိုလားအပ်သော အကြောင်းအရာကို ရှာဖွေဖော်ထုတ်⁠နိုင်ရန်နှင့် အဲဒီအကြောင်းအရာက ဘာကြောင့် မသင့်လျော်သလဲဆိုသည့် အကြောင်းရင်းကိုလည်း သိနိုင်ရန် အသေးစိတ် taxonomy တစ်ခု ဖန်တီးပြီး အားကောင်းသော classifier တစ်ခု တည်ဆောက်ခဲ့ပါသည်။
3. မော်ဒယ်မှ မလုံခြုံသော output များ ထုတ်ပေးနိုင်ချေကို လျော့နည်းစေရန် နည်းပညာမျိုးစုံအပေါ် ကျွန်ုပ်တို့ လုပ်ဆောင်နေပါသည်။

Applied AI အဖွဲ့သည် large pre-trained language models ကဲ့သို့ cutting-edge AI နည်းပညာများကို အကောင်းဆုံး deploy လုပ်နိုင်မည့် နည်းလမ်းကို လက်တွေ့ကျကျ ကျင့်သုံးနေစဉ် ၎င်းတို့က လက်တွေ့ကမ္ဘာ task များအတွက် ဘယ်လောက် အားကောင်းပြီး အသုံးဝင်သလဲဆိုတာကို ကျွန်ုပ်တို့ မြင်တွေ့နေရပါသည်။ ကျွန်ုပ်တို့၏ Charter⁠ တွင် အလေးပေးဖော်ပြထားသည့်အတိုင်း ထိုနည်းပညာများကို လုံခြုံစွာ deploy လုပ်ခြင်း၏ အရေးပါမှုကိုလည်း ကျွန်ုပ်တို့ သိရှိနားလည်ထားပါသည်။

လက်ရှိ နက်နဲစွာ သင်ယူလေ့လာခြင်း မော်ဒယ်များက ပြည့်စုံကောင်းမွန်နေသေးတာ မဟုတ်ပါ။ ၎င်းတို့ကို လူသားများက ဖန်တီးထားသော အလွန်များပြားသည့် ဒေတာများဖြင့် (ဥပမာ အင်တာနက်၊ စိစစ်ရွေးချယ်ထားသော အချက်အလက်များနှင့် စာပေဆိုင်ရာအကြောင်းအရာများ) လေ့ကျင့်ပေးထားသောကြောင့် ကျွန်ုပ်တို့၏ လူမှုအသိုင်းအဝိုင်းထဲတွင် ကာလရှည်ကြာတည်ရှိနေသည့် ချို့ယွင်းချက်များနှင့် ဘက်လိုက်မှုများကို မလွဲမသွေ စုပ်ယူမိကြပါသည်။ ဥပမာအားဖြင့် DALL·E ကို သူနာပြုတစ်ဦးကို သရုပ်ဖော်ပေးရန် တောင်းဆိုလျှင် အမျိုးသမီး ဇာတ်ကောင်များသာ ဖန်တီးပေးပြီး၊ ပါမောက္ခတစ်ဦးအတွက်ဆိုလျှင် လူဖြူများကိုသာ ဖန်တီးပေးတတ်ပါသည်။ မော်ဒယ်သည် လက်တွေ့ကမ္ဘာ၏ စာရင်းအင်းဆိုင်ရာ ဘက်လိုက်မှုများ သို့မဟုတ် ကျွန်ုပ်တို့၏ လေ့ကျင့်ဒေတာအတွင်းရှိ ဘက်လိုက်မှုများကို ဖမ်းယူထားပါသည်။

ဒီလို လူမှုရေးဘက်လိုက်မှုမျိုးကို လျော့ပါးစေနိုင်မည့် နည်းလမ်းတစ်ခုကို ဒီဇိုင်းဆွဲပြီး ထိုနည်းလမ်း၏ ထိရောက်မှုကို အကဲဖြတ်လိုစိတ်ကြောင့် ကျွန်ုပ် စတင်လုပ်ဆောင်ခဲ့ပါသည်။ အဖွဲ့နှင့်အတူ ထိုဘက်လိုက်မှုကို လျှော့ချရန် pipeline တစ်ခုနှင့် လူသားပါဝင်သည့် အကဲဖြတ်မှု workflow တစ်ခုကို ကျွန်ုပ်တို့ ဒီဇိုင်းဆွဲခဲ့ကြပါသည်။ လူမှုရေးဘက်လိုက်မှုကို လျှော့ချခြင်းသည် လွယ်ကူသော ပြဿနာမဟုတ်ပါ၊ အကြောင်းမှာ ၎င်းသည် ကျွန်ုပ်တို့၏ ဘဝအပိုင်းအစများစွာတွင် ပေါ်ပေါက်နေပြီး တခါတရံ သတိမပြုမိဘဲ ကျော်သွားနိုင်သောကြောင့် ဖြစ်ပါသည်။ သို့သော် DALL·E အဖွဲ့က ဒီပြဿနာကို အလေးအနက်ထားဆောင်ရွက်ပြီး အစောပိုင်းအဆင့်ကတည်းက လုပ်ဆောင်ချက်များ စတင်နေသည့်အတွက် ကျွန်ုပ် ဝမ်းသာပါသည်။ ယခု ကျွန်ုပ်တို့တွင်ရှိသည့်အရာက အစပဲဖြစ်ပြီး ရှေ့ဆက် တိုးတက်အောင် ဆက်လုပ်သွားမည်ဖြစ်သည်။ ဒီနယ်ပယ်မှာ အလုပ်လုပ်ရတာကို ကျွန်ုပ် ဂုဏ်ယူသလို တစ်လှမ်းချင်းစီဖြင့် ခေတ်မီ AI ကို ပိုမိုလုံခြုံပြီး ပိုမိုကောင်းမွန်လာအောင် လုပ်ဆောင်နေသည်ကို မြင်တွေ့ရသည့်အတွက်လည်း ဝမ်းသာပါသည်။

ကျွန်ုပ်သည် သင်ယူခြင်း၏ အားအင်ကို ယုံကြည်ပြီး သင်ယူရန် အချိန်မနှောင်းလွန်းဘူးလို့ ယုံကြည်ပါသည်။ ကိုယ်ပိုင် blog ကို ဆက်လက်ထိန်းသိမ်းရေးသားခြင်းက ဒီသိချင်စိတ်ကို ဆက်လက်ရှင်သန်စေပြီး နက်နဲစွာ သင်ယူလေ့လာခြင်း အသိုင်းအဝိုင်းထဲက တိုးတက်မှုအသစ်များကို ပုံမှန်လေ့လာနိုင်စေသော နည်းလမ်းကောင်းတစ်ခု ဖြစ်ပါသည်။ လက်ရှိ project များနှင့် ဆက်စပ်သည်ဖြစ်စေ မဆက်စပ်သည်ဖြစ်စေ ကျွန်ုပ်၏ အဖွဲ့ဝင်များကိုလည်း ဆက်လက်သင်ယူနေဖို့ အားပေးပါသည်။ ခေါင်းစဉ်ကွဲများ သို့မဟုတ် နယ်ပယ်ကွဲများအတွင်းရှိ အကြံဉာဏ်များက မကြာခဏ အကြံဉာဏ်အသစ်များကို လှုံ့ဆော်ပေးနိုင်ပြီး ဖြစ်နိုင်ချေရှိသော ဖြေရှင်းနည်းနယ်ပယ်ကို ချဲ့ထွင်ပေးနိုင်ပါသည်။

အဖွဲ့လိုက်ပူးပေါင်းလုပ်ဆောင်မှုကိုလည်း ကျွန်ုပ် အလွန်ယုံကြည်ပါသည်။ လူတိုင်းက ကိုယ့်ရဲ့ အကောင်းဆုံး အားသာချက်အတိုင်း တောက်ပနိုင်မယ်ဆိုရင် 1+1 > 2 ဖြစ်လာမှာပါ။ တစ်ချိန်တည်းမှာပဲ “ညစ်ပတ်တဲ့” အလုပ်မျိုးတွေကိုလည်း မကြာခဏ ကြုံရနိုင်ပြီး ကျွန်ုပ်ကိုယ်တိုင်က အဲဒီတာဝန်တွေကို အလွန်လိုလိုလားလား ယူဆောင်လုပ်တတ်ပါသည်။ အကြောင်းမှာ အဲဒီအရာက အကြီးမားဆုံး အတားအဆီးဖြစ်နေသော်လည်းကောင်း၊ project ထဲမှာ အကြီးမားဆုံး တန်ဖိုးကို ထည့်ပေးနိုင်သော်လည်းကောင်း “ညစ်ပတ်” သို့မဟုတ် “အသေးအဖွဲ” လို့ မယူဆသင့်ပါ။ ကျွန်ုပ် ပတ်ဝန်းကျင်က လူတွေကိုလည်း အဲဒီလိုပဲ လုပ်ဆောင်ဖို့ အားပေးပါသည်—အဖွဲ့လိုက်ကစားသမားကောင်းတစ်ယောက်ဖြစ်ပြီး အတူတကွ လုပ်ဆောင်ကာ အဖွဲ့၏ ထုတ်လုပ်နိုင်စွမ်းကို မြန်ဆန်စွာ တိုးတက်စေဖို့ပါ။

အစအားလုံးက ကိုယ်ပိုင်သင်ယူမှုမှတ်စုများအဖြစ် စတင်ခဲ့တာပါ။ ကျွန်ုပ်သည် နက်နဲစွာ သင်ယူလေ့လာခြင်း နယ်ပယ်ထဲကို အလွန်စောစော မဝင်ရောက်ခဲ့သေးဘဲ ကိုယ့်ကိုယ်ကို “အသစ်ဝင်လာသူ” လို့ပဲ သတ်မှတ်ထားဆဲဖြစ်ခဲ့ပါသည်။ အစပိုင်းတွင် စာတမ်းများစွာကို နက်နက်ရှိုင်းရှိုင်း ဖတ်ရှုလေ့လာရင်း ပြဿနာတစ်ခုကို ဖြေရှင်းရန် algorithm တစ်ခုကို ကိုယ်တိုင် ဒီဇိုင်းဆွဲခြင်းမဟုတ်ဘဲ၊ ပြဿနာကို ဖြေရှင်းပေးမည့် algorithm ကို သင်ယူနိုင်စေရန် မော်ဒယ်တစ်ခုကို လေ့ကျင့်ပေးခြင်းဆိုတဲ့ အယူအဆကြောင့် ကျွန်ုပ် အလွန်အံ့အားသင့်ခဲ့ပါသည်။ ဖတ်လေလေ သိချင်စိတ် ပိုများလေလေ ဖြစ်လာခဲ့သည်။ လက်တွေ့ကျကျဆိုရလျှင် ကျွန်ုပ်ဖတ်ပြီးသား စာတမ်းများနဲ့ အသစ်လေ့လာခဲ့တဲ့ အယူအဆတွေကို စနစ်တကျ စုစည်းထားဖို့ အလွန်ခက်ခဲလာခဲ့သည်။ ဒါကြောင့် ကိုယ့်သင်ယူမှုမှတ်စုတွေကို မှတ်တမ်းတင်ပြီး စုစည်းဖို့ blog တစ်ခု စတင်ဖို့ ဆုံးဖြတ်ခဲ့ပါသည်။ တစ်ခုခုကို အကောင်းဆုံး သင်ယူနိုင်မည့် နည်းလမ်းက အဲဒီအသိပညာကို အခြားသူများအား မှန်ကန်ရှင်းလင်းစွာ သင်ပေးနိုင်ကြောင်း သေချာစေခြင်းပဲလို့လည်း ကျွန်ုပ် ယုံကြည်ပါသည်။ ရေးသားခြင်းက ကျွန်ုပ်ကို အဲဒီအဆင့်ဆီ ရောက်အောင် ကူညီပေးပါသည်။

ဒါက ML အသိုင်းအဝိုင်းထဲမှာ လူကြိုက်များလာမယ်လို့ ကျွန်ုပ် မမျှော်လင့်ခဲ့ပါဘူး။ ဒါပေမယ့် တစ်ယောက်ယောက်က ကျေးဇူးတင်ကြောင်း email ပို့လာတိုင်း၊ ဒါမှမဟုတ် ကျွန်ုပ်၏ blog ကို ဖတ်ရင်း အများကြီး သင်ယူရကြောင်း မျက်နှာချင်းဆိုင် ပြောကြားလာတိုင်း ကျွန်ုပ် အလွန် ဂုဏ်ယူမိပြီး ကျေးဇူးတင်မိပါသည်။ 2017 ခုနှစ်က blog ကို စတင်ခဲ့တာကနေ အခုဆို 6 နှစ်နီးပါး ရှိလာပြီဖြစ်ပြီး တတ်နိုင်သမျှ ဆက်လက်လုပ်ဆောင်သွားပါမည်။

လတ်တလောနှစ်များအတွင်း AI အသိုင်းအဝိုင်းက တိုးတက်မှုအများကြီး လုပ်ဆောင်နိုင်ခဲ့ပါသည်။ ဟာ့ဒ်ဝဲ၊ မော်ဒယ် architecture နှင့် ဒေတာတို့၏ တိုးတက်လာမှုကြောင့် အလွန်ကြီးမားသော မော်ဒယ်များကို လေ့ကျင့်နိုင်လာပြီး၊ ထို့ကြောင့်လည်း ပိုမိုကြီးမားလာသော စွမ်းရည်များကို ဆက်တိုက် မြင်တွေ့နေရပါသည်။ AGI ဆီသို့ ဦးတည်ရာလမ်းကြောင်းပေါ်မှာ ကျွန်ုပ်တို့ မှန်ကန်စွာ ရောက်နေပြီလို့ ကျွန်ုပ် ယုံကြည်ပါသည်။ သို့သော် အရွယ်အစားချဲ့ထွင်ခြင်းက တစ်ခုတည်းသော နည်းလမ်းမဟုတ်ပါ။ ကျွန်ုပ်မြင်သလောက် အခုအချိန်မှာ အရေးတကြီးဆုံး စိန်ခေါ်မှုများက alignment နှင့် safety ဖြစ်ပါသည်။ တစ်စိတ်တစ်ပိုင်းအားဖြင့် ၎င်းတို့သည် controllability သို့မဟုတ် steerability အကြောင်း တစ်ခုတည်းသော ပြဿနာဖြစ်နိုင်ပါသည်။

ပထမဦးစွာ ကျွန်ုပ်တို့လက်ထဲတွင် အလွန်အားကောင်းသော AI စနစ်တစ်ခု ရှိနေပြီးသားဆိုပါစို့၊ သို့သော် ကျွန်ုပ်တို့၏ ရည်မှန်းချက်များကို ထိရောက်စွာ ဆက်သွယ်မပြောနိုင်ဘဲ မော်ဒယ်သည် ကျွန်ုပ်တို့လိုချင်သည့်အရာနှင့် ကိုက်ညီအောင် မသေချာစေနိုင်လျှင် လိုအပ်သလောက် တန်ဖိုးဖန်တီးနိုင်မည် မဟုတ်ပါ။ လက်ရှိ အင်အားအကောင်းဆုံး မော်ဒယ်သည် အလွန်များပြားသော ဒေတာများမှ သင်ယူထားပြီး dataset ထဲတွင် လက်တွေ့ကမ္ဘာမှ မပြည့်စုံသော ချို့ယွင်းချက်များနှင့် ဘက်လိုက်မှုများကို မလွဲမသွေ ဖမ်းယူထားပါသည်။ ဒီအခြေအနေမှာ ကိုက်ညီမှုမရှိသော မော်ဒယ်များသည် ရှောင်ရှားသင့်သည့်အရာကို မသိရှိကြသဖြင့် safety ဆိုင်ရာ စိုးရိမ်မှုများကို သယ်ဆောင်လာပါသည်။

ဒါက ကျွန်ုပ်အား တစ်ယောက်ယောက်က ပေးခဲ့တဲ့ သီးသန့်အကြံဉာဏ်တစ်ခုတော့ မဟုတ်ပါဘူး။ ဒါပေမယ့် OpenAI တွင် ယခုအချိန်အထိ ရရှိခဲ့တဲ့ အတွေ့အကြုံပေါ်မှာ အခြေခံထားတာပါ။ အဲဒါကတော့ ကြီးကြီးမားမား စဉ်းစားဖို့ပါ။ ကျွန်ုပ်တို့က အသစ်တစ်ခုကို ဖန်တီးနေကြတာဖြစ်လို့ ရည်မှန်းချက်ကြီးမားရမယ်၊ ရဲရင့်ရမယ်၊ ပြီးတော့ ကြိုးပမ်းမှုတွေကို ဆက်လက်သယ်ဆောင်သွားဖို့ လုံလောက်တဲ့ ဇွဲလုံ့လကိုလည်း ယူဆောင်ရမယ်။

စာအုပ်များပါ။ ကျွန်ုပ်သည် ပုံမှန်အားဖြင့် နက်နဲစွာ သင်ယူလေ့လာခြင်း နယ်ပယ်ပြင်ပက စာအုပ်များကို ဖတ်ရှုပြီး နယ်ပယ်စုံမှ လှုံ့ဆော်မှုရရှိပါသည်။ ဥပမာအားဖြင့် စာရေးဆရာတစ်ဦးအတွက် နှစ် 50 ကြာ တည်ကြည်မှုရှိနေခြင်းက ဘယ်လောက် အရေးကြီးသလဲ၊ ခွဲစိတ်ဆရာဝန်တစ်ဦးအတွက် အသေးစိတ်အချက်အလက်ကို လုံးဝတိကျစွာ ဂရုစိုက်နိုင်ခြင်းက ဘယ်လောက် အရေးကြီးသလဲ၊ စွန့်ဦးတီထွင်သူတစ်ဦးအတွက် “အလွန်ထူးဆန်းသော အကြံဉာဏ်များ” ရှိခြင်းက ဘယ်လောက် အရေးပါသလဲဆိုတာလိုမျိုးပါ။

ကျွန်ုပ်ပတ်ဝန်းကျင်က လူများလည်း ပါတယ်။ OpenAI တွင် အလွန်ပင် စွမ်းရည်ထူးချွန်သော လုပ်ဖော်ကိုင်ဖက်များအုပ်စုကြီးနှင့်အတူ အလုပ်လုပ်ရတာကို ကျွန်ုပ် ဂုဏ်ယူမိပါသည်။ လူတိုင်းမှာ တောက်ပစရာ၊ လှုံ့ဆော်စရာ သို့မဟုတ် လေးစားစရာ တစ်ခုခုရှိပြီး ၎င်းတို့ဆီက သင်ယူရတာကို ကျွန်ုပ် နှစ်သက်ပါသည်။