Solving math word problems

Waxaan tababbarnay nidaam xalliya dhibaatooyinka xisaabta ee dugsiga hoose, isagoo leh saxnaan ku dhowaad labanlaab ka ah nooca GPT‑3 ee hagaajin-tababarka lagu sameeyey. Wuxuu xalliyaa ku dhowaad 90% inta ay xalliyaan carruurta dhabta ah: muunad yar oo da’doodu tahay 9–12 sano ayaa heshay 60% imtixaan ka yimid xogtayada, halka nidaamkeenna uu helay 55% isla dhibaatooyinkaas.

Sababta ay muhiim u tahay

Tani waa muhiim sababtoo ah AI-da maanta weli aad bay ugu liidataa caqliyeynta caadiga ah ee tallaabooyin badan leh, taas oo xitaa u fudud carruurta dugsiga hoose. Natiijooyinkan waxaan ku gaarnay annagoo noocayaga baraynay inuu garto khaladaadkiisa, si uu marar badan isugu dayo ilaa uu ka helo xal shaqeeya.

Noocyada luqadda waaweyn sida GPT‑3 waxay leeyihiin xirfado badan oo cajiib ah, oo ay ku jirto awoodda ay ugu ekaan karaan qaabab qoraal oo badan, iyo aqoontooda xaqiiqo ee ballaaran. Si kastaba ha ahaatee, way ku dhibtoodaan qabashada hawlaha u baahan caqliyeyn sax ah oo tallaabooyin badan leh, sida xalinta dhibaatooyinka erayada xisaabta ee dugsiga hoose. In kasta oo noocu ku dayan karo hab-socodka xalal sax ah, haddana si joogto ah ayuu u sameeyaa khaladaad muhiim ah oo macquul ah.

Si waxqabadka bini’aadamka loola jaanqaado meelaha adag ee macquulka ah, noocyadeennu waa inay bartaan inay gartaan khaladaadkooda oo ay tallaabooyinkooda si taxaddar leh u doortaan. Taas awgeed, waxaan tababbarnaa xaqiijiyeyaasha si ay u qiimeeyaan in xal la soo jeediyey sax yahay iyo in kale. Si loo xalliyo dhibaato cusub, waxaan isticmaalnaa xaqiijiyeyaasha si ay uga doortaan kan ugu fiican xalal badan oo la soo jeediyey. Waxaan ururinnay xogta cusub ee GSM8K si aan u qiimeyno hababkeenna, waxaana sii deynaynaa xogtan si loo fududeeyo cilmi-baarista.

Tobanka tusaale ee hoose, waxaan ku muujinaynaa xalal uu soo saaray habkeenna cusub ee xaqiijinta, iyo habkeenna aasaasiga ah, hagaajin-tababar.

GSM8K waxa uu ka kooban yahay 8.5K dhibaatooyin erayo-xisaabeed tayo sare leh oo heerka dugsiga hoose ah. Dhibaato kastaa waxay u baahan tahay inta u dhexeysa 2 iyo 8 tallaabo si loo xalliyo, xalalkuna badanaa waxay ku lug leeyihiin fulinta taxane xisaab-celinno aasaasi ah iyadoo la adeegsanayo hawlgallada xisaabta ee aasaasiga ah (+ − × ÷) si loo gaaro jawaabta ugu dambaysa. Noocyada luqadda ee heerka ugu sarreeya ee hagaajin-tababarka lagu sameeyey waxay si liidata uga shaqeeyaan xogtan, inta badan sababtoo ah kala duwanaanshaha badan ee dhibaatooyinka. Isla markaasna, xalalka GSM8K waxay ku tiirsan yihiin oo keliya fikrado aasaasi ah, sidaas darteed gaarista waxqabad sare oo imtixaan waa yool la gaari karo.

Xalalka GSM8K waxaa loo qoraa luqad dabiici ah halkii laga qori lahaa tibaaxo xisaabeed saafi ah. Ku dhegganaanshaha luqadda dabiiciga ah waxay ka dhigaysaa xalalka uu noocu soo saaro kuwo aad ugu fudud in bini’aadamku fahmo, hababkeenuna waxay ahaanayaan kuwo aan si weyn ugu xirnayn goob gaar ah.

Hal caqabad oo weyn oo ku jirta caqliyeynta xisaabta waa nuglaanshaha sare ee khaladaadka gaarka ah. Noocyada autoregressive-ka ah, oo abuura xal kasta token token ahaan, ma laha hannaan ay khaladaadkooda ku saxaan. Xalalka jidka ka leexda si degdeg ah bay u noqdaan kuwo aan la soo celin karin, sida laga arki karo tusaalooyinka la bixiyey.

Waxaan dhibaatadan uga jawaabnaa annagoo tababbarayna xaqiijiyeyaal si ay u qiimeeyaan saxnaanta xalalka uu noocu soo saaro. Xaqiijiyeyaasha waxaa la siiyaa xalal badan oo suurtagal ah, dhammaantoodna uu nooca laftiisu qoray, waxaana loo tababbaraa inay go’aamiyaan kuwa saxda ah, haddii ay jiraan.

Si dhibaato cusub loo xalliyo waqtiga imtixaanka, waxaan soo saarnaa 100 xal oo musharrax ah dabadeedna waxaan doorannaa xalka uu xaqiijiyuhu ugu sarreysiiyo kala-sarraynta. Xaqiijiyeyaashu waxay ka faa’iidaystaan doorashooyinkan dabiiciga ah, iyo sidoo kale xaqiiqda ah in xaqiijintu inta badan tahay hawl ka sahlan soo-saarista.

Waxaan ogaanay in xaqiijintu si weyn u kordhiso waxqabadka, inta xogtu ku filan tahay. Marka xog-ururradu aad u yaryihiin, waxaan aaminsanahay in xaqiijiyeyaashu si xad-dhaaf ah ula qabsadaan xogta iyagoo xafidaya jawaabaha ugu dambeeya ee ku jira xogta tababarka, halkii ay ka baran lahaayeen sifooyin kale oo waxtar badan oo caqliyeynta xisaabta ah.

Xogta tababarka oo dhammaystiran, xaqiijin 6B-parameter ah wax yar bay ka fiicnaataa nooc 175B-parameter ah oo hagaajin-tababar lagu sameeyey, taas oo siinaysa koror waxqabad oo qiyaastii u dhigma 30x kordhin cabbirka nooca ah. Intaa waxaa dheer, xaqiijintu waxay u muuqataa inay si ka waxtar badan ugu sii fidayso marka xog dheeraad ah la helo, haddii aan ka sii odorosno natiijooyinka hadda jira.

Soo saarista dooddo sax ah iyo garashada kuwa khaldan waa caqabado muhiim ah oo ku jira horumarinta AI guud oo ballaaran. Xisaabta dugsiga hoose waa goob imtixaan oo ku habboon awoodahan. Dhibaatooyinka ku jira GSM8K fikrad ahaan way fudud yihiin, hase yeeshee hal qalad oo yar ayaa ku filan inuu khaldo xal dhan. Aqoonsiga iyo ka fogaanshaha khaladaadkaas waa xirfad muhiim u ah noocyadeenna inay yeeshaan. Annagoo tababbarayna xaqiijiyeyaal, waxaan noocyadeenna baraynaa inay kala saaraan xalalka wanaagsan iyo kuwa aan si fiican u hirgelin. Waxaan filaynaa in xirfadahani sii ahaan doonaan kuwo aad muhiim u noqda marka aan isku dayno inaan noocyadeenna ku dabaqno goobo leh kakanaanta macquul ee ka badan.