Horumarinta cilmi-baaris madax-bannaan oo ku saabsan waafajinta AI

Iyadoo nidaamyada AI ay sii noqonayaan kuwo karti badan oo is-maamul badan leh, cilmi-baarista waafajintu waxay u baahan tahay inay la jaanqaaddo xawaarahaas isla markaana ballaariso kala-duwanaanta. OpenAI, waxaan si weyn u maalgelinnaa cilmi-baarista waafajinta iyo badbaadada ee ugu casrisan maadaama ay muhiim u tahay himiladeenna. Waxa kale oo aan aaminsanahay in xaqiijinta in AGI ay ammaan oo waxtar u leedahay qof walba aan lagu gaari karin hal urur oo keliya, waxaana rabnaa inaan taageerno cilmi-baaris madax-bannaan iyo habab fikradeed oo laga daba geli karo meel ka baxsan shaybaarrada ugu casrisan.

Maanta, waxaan ku dhawaaqeynaa deeq dhan $7.5 milyan oo la siinayo The Alignment Project⁠(ku furmaa daaqad cusub), oo ah sanduuq caalami ah oo loogu talagalay cilmi-baarista waafajinta madax-bannaan, kana abuuray UK AI Security Institute (UK AISI). Renaissance Philanthropy ayaa taageeraysa maamulka deeqdan. Kaalmadan waxay ka dhigaysaa The Alignment Project mid ka mid ah dadaallada maalgelinta ee ugu waaweyn ee si gaar ah loogu qoondeeyay cilmi-baarista waafajinta madax-bannaan ilaa maanta, waxayna xoojisaa nidaamka ballaaran ee madax-bannaan.

Shaybaarrada ugu casrisan sida OpenAI waxay ku jiraan meel gaar ah oo ay ku wadi karaan cilmi-baaris waafajin ah oo ku xiran helitaanka noocyada ugu casrisan iyo xisaabinta ballaaran—shaqo inta badan ku adag cilmi-baarayaasha madax-bannaan inay sahamiyaan. Waxaan qayb weyn oo ka mid ah dadaalkeenna gudaha ee waafajinta u hurnaa horumarinta habab la ballaarin karo si horumarka waafajintu ula socdo horumarka kartida. Waxaan aaminsanahay daabacaad soo noqnoqota—inaan si tartiib ah u kordhinno kartida anagoo xoojinayna ilaalinnada—waxay naga caawisaa inaan dhibaatooyinka goor hore soo bandhigno oo ay na siiso caddeyn muuqata oo ku saabsan waxa si dhab ah u shaqeeya, iyo in horumarinta mas’uuliyadda leh ay u baahan tahay shaqo waafajin iyo badbaado oo weyn oo si dhow ula midoobay dhismaha nooca iyo hirgelinta.

Isla mar ahaantaana, waaxdu waxay ka faa’iidaysataa maalgelin joogto ah oo lagu sameeyo cilmi-baaris madax-bannaan oo sahamin ah—taas oo ballaarin karta meelaha fikradaha oo soo saari karta jihooyin cusub. Cilmi-baarista madax-bannaan weli waa lama huraan; noocyo badan oo baadhitaanno waxtar leh ah, shaybaarradu ma haystaan faa’iido isbarbardhig ah. Nidaam deegaan waafajin oo caafimaad qaba wuxuu ku tiirsan yahay kooxo madax-bannaan oo tijaabiya mala-awaallo kala duwan, horumariya qaab-dhismeedyo beddel ah, isla markaana sahamiya fikrado aragtiyeed, asaasi ah, iyo kuwo fog-fog oo laga yaabo inaanay si nadiif ah ugu habboonayn qorshaha hal urur.

Maaddaama horumarka AGI uu ugu dambayn ku xirnaan karo guulo asaasi ah oo beddela qaabka dhibaatada waafajinta iyo hababka ugu waxtarka badan, waa muhiim in la taageero cilmi-baaris muhiim noqon lahayd xitaa haddii hababka maanta ugu badan ay noqdaan kuwo aan u ballaaranayn sida aan filayno. Xaaladahaas, waxa si gaar ah muhiim u noqota in la helo nidaam deegaan dibadeed oo xooggan oo qabta shaqo asaasi ah, fikradeed, iyo mid aan isku xidhneyn. Dhibaatada waafajinta AI iyo badbaadadu waa mid leh muhiimad aan hore loo arag, waxaana u baahanahay dadaal wadajir ah maadaama aynaan weli garanayn hababka noqon doona kuwa ugu adkaysiga badan inta kartidu sii horumarayso.

Maalgelinteennu—qiyaastii £5.6 milyan marka loo eego sicirrada sarrifka ee hadda—waxay si wadajir ah u maalgelin doontaa The Alignment Project⁠(ku furmaa daaqad cusub) iyadoo ay la jiraan taageerayaal kale oo dowladeed, samafal, iyo warshadeed. Sanduuqa guud wuxuu ka badan yahay £27 milyan, waxaana loo qaabeeyey inuu taageero ururin ballaaran oo mashaariic cilmi-baaris waafajin ah oo dunida oo dhan ah, oo ka kooban mowduucyo u kala duwan sida aragtida kakanaanta xisaabinta, aragtida dhaqaalaha iyo aragtida ciyaaraha, cilmiga garashada, iyo aragtida macluumaadka iyo qarsoodi-qorista. Mashaariicda shaqsiga ah badanaa waxaa lagu maalgeliiyaa £50,000 ilaa £1 milyan, waxaana laga yaabaa inay sidoo kale helaan ikhtiyaar ahaan helitaanka kheyraadka xisaabinta iyo taageero khubaro.

Maalgelinteennu ma abuureyso barnaamij cusub ama hannaan xulasho cusub, mana saameyneyso hannaanka jira; waxay kordhisaa tirada mashaariicda⁠(ku furmaa daaqad cusub) tayada sare leh ee hore loo hubiyey ee lagu maalgelin karo wareeggan hadda socda.

UK AISI waxay ku jirtaa meel wanaagsan oo ay ku hagto maalgelinta waafajinta baaxaddan iyo kala-duwanaantan leh. Waxay keentaa isbahaysi hore u dhisan oo ka gudba dowladda, aqoonta, samafalka, iyo warshadaha, iyadoo ay la socoto hannaan bixinta deeqaha oo durba socda iyo kayd weyn oo soo jeedinno ah oo maray dib-u-eegis khubaro. Iyadoo ah urur cilmi-baaris oo ka tirsan dowladda UK oo hoos yimaada Department for Science, Innovation and Technology (DSIT), waxay sidoo kale leedahay waajib diiradda saaraya khataraha halista ah ee AI waxayna khibrad u leedahay socodsiinta barnaamijyada maalgelinta cilmi-baarista.

Sababtoo ah mustaqbalka AI si sax ah uma furmi doono sida qof walba u saadaaliyo—waxayna laga yaabaa inuu si aad u degdeg ah u hormaro—waxaan aaminsanahay in dimuqraadiyeynta, “adkaysiga AI,” iyo daabacaadda soo noqnoqota ay yihiin kuwo lama huraan ah. Inta aan sii wadno horumarinta cilmi-baaristeenna ugu casrisan ee waafajinta iyo badbaadada ee OpenAI, horumarku wuxuu ka faa’iidaysan doonaa nidaam deegaan adag, kala duwan, oo madax-bannaan oo daba socda habab is-kaabaya iyadoo kartidu sii kordhayso. Deeqdani waa hal tallaabo oo loo qaaday yoolkaas. Waxaan rajaynaynaa inaan sii wadno wada-shaqeynta bulshada cilmi-baarista ee ballaaran inta waaxdu sii horumarayso.