နီဇော်သစ်

လက်ရှိ အေအိုင်နည်းပညာတို့သည် အယ်လ်ဖာဂိုး(AlphaGo) နောက်ပိုင်းတွင်မှ ပြောင်းလဲတိုးတက်လာခြင်းဖြစ်ကြောင်း အပိုင်း(၅)တွင် ဖော်ပြခဲ့သည်။ သိပ္ပံ၊ နည်းပညာ သို့မဟုတ် ဘာသာရပ်တစ်ခုခု ၏ သမိုင်းကြောင်းစာအုပ်များထဲတွင်   စာရေးသူက  သူပြောလိုသည့် သဘောတရားကို အလေးအနက်ထားလိုသောအားဖြင့် ထိုသဘောတရားမတိုင်ခင်က   ဘာမှရှုပ်ရှုပ်ထွေးထွေးမရှိခဲ့ဆိုသည့် ပုံစံမျိုးရေးတတ်ကြသည်။ ဥပမာ အိုင်းစတိုင်းက နယူတန် နှစ် ၂၀၀ ပြည့် အခမ်းအနားသို့  ပေးပို့သောသဝဏ်လွှာတွင် ‘နယူတန်မတိုင်ခင်က ဘာမှမရှိခဲ့’ဆိုသည့်သဘော  ရေးထားသလိုမျိုး ဖြစ်သည်။ ထိုသို့ အသိအမှတ်ပြုရသည့်ဖြစ်စဉ်များမှာ ဆယ်စုနှစ်၊ ရာစုနှစ်နှင့်ချီ၍ ကြာပြီးမှ တစ်ကြိမ်လောက်ဖြစ်ခဲ့၍လည်း ထိုသို့ရေးကြပြောကြခြင်းဖြစ်သည်။ အေအိုင်သမိုင်းတွင်လည်း အယ်လ်ဖာဂိုးသည် ထိုကဲ့သို့ ဖြစ်စဉ်တစ်ခုဟု ဆိုနိုင်သည်။ သို့သော်  ထူးခြားသည်မှာ  နောက်မှ ကပ်လိုက်လာသည့်ဖြစ်စဉ်က နှစ်အနည်းငယ်သာကြာသည်။ အယ်လ်ဖာဂိုးသည် ၂၀၁၅ ခုနှစ်မှ စတင်ခဲ့ခြင်းဖြစ်သော်လည်း နှစ်နှစ်အကြာ ၂၀၁၇ ခုနှစ်ဝန်းကျင်မှာပင် အေအိုင်အတွက် နောက်ထပ် အချိုးအကွေ့ကြီးတစ်ခု ထပ်ပေါ်လာ၍ပင်။

အယ်လ်ဖာဂိုးနောက်ပိုင်းတွင် အေအိုင်သည် နက်နက်နဲနဲသင်ယူခြင်း (Deep Learning)နှင့် နျူရယ်ကွန်ရက် (Neural Network)နည်းပညာများနှင့်အတူ ခပ်မြန်မြန်တိုးတက်လာသည်။ သို့သော် ထိုစဉ်ကသုံးသည့်  အာရ်အင်န်အင်န်ဟု  အတိုကောက်ခေါ်သော Recurrent Neural Networks နည်းပညာမှာ စကားလုံးများကို တစ်လုံးချင်းစီ အလုပ်လုပ်သည်။ ဆိုလိုသည်မှာ ဝါကျတစ်ကြောင်းလုံးကို တစ်ပြိုင်နက်မဖတ်နိုင်။ ထို့ကြောင့် လေ့ကျင့်ပေးရသည့်အချိန် ကြာမြင့်သည်။ ထို့ပြင် နောက်ကြောင်းပြန်ဆန်းစစ်မှု (ထိုအကြောင်းကို ရှေ့အပိုင်းများတွင် ဖော်ပြထားပါသည်) လုပ်ရာ တွင် အားနည်းချက်ရှိသည်။ အလွှာများလျှင် သို့မဟုတ် လုပ်ငန်းစဉ်ရှည်လာလျှင် သတင်း အချက်အလက်များ ပျောက်ဆုံးသွားတတ်သည်။ ရေရှည်မှတ်ဉာဏ်မရှိသေးဟု ဆိုနိုင်သည်။

ထိုစဉ်က အာရ်အင်န်အင်န်ထက် ပိုမှတ်မိနိုင်သည့်နည်းပညာမှာ အယ်လ်အက်စ်တီအမ်ဟု အတိုကောက်ခေါ်သည့် Long Short-Term Memory နည်းပညာဖြစ်သည်။ အာရ်အင်န်အင်န်ထက် ပိုမှတ်နိုင်သည်။ သို့သော် ရေရှည်မှတ်ဉာဏ်မျိုးမဟုတ်သေး။ နောက်တစ်ချက်မှာ လေ့လာသင်ယူဖို့ ခက်သည်။   လူသစ်များ   ချက်ချင်းလုပ်ဖို့မလွယ်။ နျူရယ်ကွန်ရက်များ စတင်ပေါ်လာခါစကလိုမျိုး ဖြစ်သည်။ အဲလက်ဇ် နက်(AlexNet)အကြောင်း ပြောခဲ့စဉ်က စီအင်န်အင်န် နည်းပညာအကြောင်း ကို မှတ်မိမည်ဟုထင်ပါသည်။ စီအင်န်အင်န်သည်  ပုံများအတွက်တော့   အံ့ဩဖို့ကောင်းလောက် အောင်   အလုပ်ဖြစ်သည်။ ပစ်ဇယ်များဖြင့် အလုပ်ကောင်းကောင်းလုပ်နိုင်သည်။ သို့သော် စကားလုံးများဖြင့် အလုပ်လုပ်ရာတွင်မူ မတွင်ကျယ်။

ရှေ့ဆက်ပါမည်။ ၂၀၁၇ ခုနှစ်တွင် ဂူးဂဲလ်မှ သုတေသီတို့၏ ကမ္ဘာကျော် Attention Is All You Need စာတမ်းပေါ်ထွက်လာသည်။ အေအိုင်အတွက် အာကီတက်ချာ  မိုဒယ်အသစ်ကိုချပြသည်။ ရှေ့မိုဒယ်များလို စကားလုံးများကို   တစ်လုံးပြီးမှတစ်လုံး စိစစ်လုပ်ဆောင်မည်မဟုတ်။ ဝါကျတစ်ကြောင်း လုံးမှ စကားလုံးတိုင်းကို တစ်ပြိုင်နက် စိစစ်လုပ်ဆောင်မည်။ အင်မတန်ရဲတင်းသော စာတမ်းဖြစ်သည်။ အချို့က သံသယရှိကြသည်။ ထိုနည်းသစ်ကို ထရန်စဖော်မာဟု နာမည်ပေးထားသည်။ ထရန်စဖော်မာတို့သည် ၂၀၁၈ ခုနှစ် လောက်မှစတင်ပြီး အေအိုင်နယ်ပယ်ကိုစိုးမိုးဖို့ ကြိုးစားလာ ကြတော့သည်။ အစပိုင်း၌ ဘာသာစကားလုပ်ငန်းစဉ်အတွင်းသာ ရည်ရွယ်ခဲ့သော်လည်း နောက်ပိုင်းတွင် စာရော၊ ပုံရော လောကနှစ်ခုလုံးကို ခြုံငုံမိလာစေသည်။

Su Su gave the book to Mg Mg because she trusted him. ဆိုသည့် ဝါကျတစ်ကြောင်းကို အေအိုင်ထဲသို့ ထည့်လိုက်သည်ဆိုပါစို့။ ယခင်  အာရ်အင်န်အင်န်နည်းက  တစ်လုံးချင်းစီဖတ်သည်။ ထရန်စဖော်မာက  တစ်ကြောင်းလုံးကိုဖတ်ပြီး တစ်လုံးချင်းစီကို တင်ဆာ(Tensors)မေထရစ်များ အဖြစ် သတ်မှတ်သည်။ Su နှင့် Su အတွက် မေထရစ်တစ်ခုစီ၊   gave အတွက်  မေထရစ်တစ်ခု၊ the အတွက် မေထရစ်တစ်ခု၊ book အတွက် မေထရစ်တစ်ခု စသည်ဖြင့်ဖြစ်သည်။ ထိုသို့  ခွဲလိုက်သည်ကို  တိုကင်ခွဲသည်ဟုခေါ်သည်။ စာလုံးတစ်လုံးချင်းစီသည် တိုကင်တစ်ခုဖြစ်သည်။ ထို့နောက် လေ့ကျင့်ထားသည့် ဝါကျများနှင့် တိုက်ဆိုင်စစ်ဆေးသည်။ (တကယ်တမ်းတွင် စာလုံးတစ်လုံးချင်း စီသည်ပင် တိုကင်နှစ်ခုဖြစ်နိုင်သည်။ playing ဆိုသည့် စကားလုံးတွင် play သည် တိုကင်တစ်ခု ing သည် တိုကင်တစ်ခုဖြစ်သည်။ ရှုပ်ထွေးမည်စိုး၍ အသေးစိတ်မရေးတော့ပါ။)

အေအိုင်သည် Su Su ကို မြန်မာမိန်းကလေး နာမည်တစ်ခုဟု မသိပါ။ နာမည်တစ်ခုဟုပင် မသိပါ။ Su သည် တိုကင်တစ်ခု နောက်ထပ် Su သည် တိုကင်တစ်ခုဖြစ်သည်။ သို့သော် ရှေ့ဆုံးတွင် စာလုံးကြီးဖြင့် ရေးထားသောစကားလုံး နှစ်လုံးဆက်သည် နာမည်ဖြစ်မည်ဆိုသည်ကို လေ့ကျင့်ထား သော အချက်အလက်များအရ သိထားသည်။ ထို့ကြောင့် Su Su သည် အတွဲစာလုံး၊ နာမည်တစ်ခုဖြစ်သည်။ Mg Mg သည်လည်း အလားတူပင်။

နောက်တစ်ဆင့်တွင် she က ဘာလဲ၊ him က ဘာလဲဆိုသည်မှာ အရေးကြီးသည်။ she နှင့် Su Su ဆက်စပ်လား၊ she နှင့် Mg Mg ဆက်စပ်လား။ him နှင့် Su Su ဆက်စပ်သလား၊ him နှင့် Mg Mg ဆက်စပ်သလား။ ဂူးဂဲလ်မှ ဆရာများပြောသော attention ဆိုသည့် ကိစ္စဝင်လာသည်။ အလေးပေးမှုဟုဆိုကြပါစို့။ လေ့ကျင့်ပေးထားသော သန်းနှင့်ချီသည့်ဝါကျများအရ  she သည် Su Su ဖြစ်ရန် အလေးပေးမှုမြင့်သည်။ Mg Mg ဖြစ်ရန် အလေးပေးမှုနိမ့်သည်။ him လည်း အလားတူပင်။ အေအိုင်တွင် အဘိဓာန်မရှိ၊ သဒ္ဒါစာအုပ်မရှိပါ။ အဓိပ္ပာယ်နှင့် ဝါကျဖွဲ့စည်းပုံတို့ကို အလေ့အကျင့်ပေါ် မူတည်၍ အကောင်းဆုံး ခန့်မှန်းခြင်းသည်ရှိသည်။ စာရေးရာတွင်လည်း ပထမဆုံး ဘယ်တိုကင်ကို ရေးမည်၊ နောက်ထပ်ရေးရမည့် အကောင်းဆုံးတိုကင်က ဘာဖြစ်မည်ကို ခန့်မှန်းဟောကိန်းထုတ် ခြင်းသာဖြစ်သည်။

နျူရယ်ကွန်ရက်တို့တွင် အလွှာများစွာရှိသည်။ အကြီးစားများတွင် ရာဂဏန်းအထိရှိသည်။ ထို့ကြောင့် အလေးပေးမှုစိစစ်ခြင်းကို အမျိုးမျိုး လုပ်နိုင်သည်။ ဥပမာ ကတ္တား၊ ကြိယာ ဆက်စပ်မှုမျိုးကို သဒ္ဒါစည်းကမ်းများ ထည့်ပေးထားခြင်းမျိုးမဟုတ်ဘဲ အလွှာတစ်ခုတွင် တိုကင်များကို အလေးပေးခြင်းဖြင့် တကယ့်သဒ္ဒါစည်းကမ်းအတိုင်းထွက်လာအောင် လုပ်နိုင်သည်။ ပြောချင်သည်မှာ တစ်လုံးချင်း လုံးကောက်အဓိပ္ပာယ်ယူခြင်းထက် (ရှေ့အေအိုင်တို့တွင်  အဘိဓာန်နှင့်  အလားသဏ္ဌာန်တူသည့်   ထည့်သွင်းပေးမှုမျိုးရှိခဲ့သည်)  တစ်ကြောင်းလုံးဖတ်ပြီး အလေးပေးမှုဖြင့် စိစစ်ခြင်းမှာ ပိုမိုမြန်ဆန်သလို အေအိုင်လေ့ကျင့်သင်ယူမှုတွင်လည်း များစွာထိရောက်သည်ဆိုသည့် အကြောင်း ဖြစ်ပါသည်။ ရှေ့ကပြောခဲ့သည်ကို ပြန်ကောက်ရလျှင် အယ်လ်ဖာဂိုးမတိုင်ခင်က အေအိုင်များသည် ဘာမှမဟုတ်သေးဟု ပြောနေရာမှ ထရန်စဖော်မာများမတိုင်ခင် အေအိုင်များသည် ဘာမှမဟုတ်သေးဟု ပြောရမလိုဖြစ်သွားသည်။ သို့သော် ထိုစကားမှာ ဆယ်စုနှစ်မချီတော့ဘဲ နှစ်နှစ်အတွင်း ပြောရသည့်စကားဖြစ်သွားသည်။ အလွန်မြန်ပါသည်။ နောက်အပိုင်းတွင်  ထရန်စဖော်မာများ ဖွံ့ဖြိုးတိုးတက်လာမှုကို ဆက်ပြောပါမည်။