Xoojinta nidaamkeena badbaadada iyadoo la adeegsanayo tijaabin dibadeed

OpenAI, waxaan aaminsanahay in qiimeynno madax-bannaan oo la aamini karo oo ay sameeyaan dhinacyo saddexaad ay door muhiim ah ka ciyaaraan xoojinta nidaamka badbaadada ee AI ugu casriyeysan. Qiimeynaha dhinac saddexaad waa baaritaanno lagu sameeyo noocyada ugu casriyeysan si loo xaqiijiyo ama loo bixiyo caddeyn dheeraad ah oo ku saabsan sheegashooyinka la xiriira awoodaha badbaado ee muhiimka ah iyo tallaabooyinka yareynta. Qiimeynahani waxay gacan ka geystaan xaqiijinta sheegashooyinka badbaadada, ka hortagga meelaha aan indhaha naga qaban, iyo kordhinta daahfurnaanta ku saabsan awoodaha iyo khataraha. Markaan ku casuunno khubaro dibadeed inay tijaabiyaan noocyadeenna ugu casriyeysan, waxaan sidoo kale hiigsaneynaa inaan kobcinno kalsoonida qotada qiimeynteena awoodaha iyo ilaalooyinkeena, isla markaana aan kor u qaadno nidaamka badbaadada ee ballaaran.

Tan iyo markii la bilaabay GPT‑4, OpenAI waxay la shaqeysay la-hawlgalayaal dibadeed oo kala duwan si ay u tijaabiyaan una qiimeeyaan noocyadeenna. Guud ahaan, iskaashiyadeenna dhinac saddexaad waxay qaataan saddex qaab:

• Qiimeynno madax-bannaan oo ku saabsan meelaha muhiimka ah ee awoodaha iyo khataraha ugu casriyeysan sida amniga noolaha, amniga internetka, is-horumarinta AI, iyo dhagaraynta
• Dib-u-eegisyo habraaceed oo qiimeeya sida aan u qiimeyno una fasirno khatarta
• Baaritaan ay sameeyaan khubaro maaddo-yaqaan ah (SME), halkaas oo khubaradu si toos ah u qiimeeyaan nooca iyagoo adeegsanaya hawlo SME oo dunida dhabta ah ah, kana bixiyaan talo habaysan qiimeynteena awoodihiisa iyo ilaalooyinka la xiriira¹

Bloggan wuxuu sharraxayaa sida aan u adeegsanno mid kasta oo ka mid ah qaababkan qiimeynta dibadeed, sababta ay muhiim u yihiin, sida ay u qaabeeyeen go'aannada daahfurka, iyo mabaadi'da aan u adeegsanno qaabeynta iskaashiyadan. Iyada oo la tixgelinayo ruuxa daahfurnaanta, waxaan sidoo kale wadaageynaa faahfaahin dheeraad ah oo ku saabsan shuruudaha sirta iyo daabacaadda ee maamula iskaashiyadayada tijaabiyeyaasha dhinac saddexaad.

Qiimeeyeyaasha dhinac saddexaad waxay ku daraan lakab madax-bannaan oo qiimeyn ah oo barbar socda shaqadeenna gudaha, taas oo xoojisa adkeysiga habka isla markaana bixisa difaacyo dheeraad ah oo ka dhan ah is-xaqiijin. Wax-soo-gelintoodu waxay bixisaa caddeyn dheeraad ah oo barbar socota qiimeynteena gaarka ah, taas oo gacan ka geysata hagidda go'aannada mas'uulka ah ee daahfurka nidaamyo awood badan leh.

Waxaan sidoo kale u aragnaa qiimeynaha dhinac saddexaad inay qayb ka yihiin dhisidda nidaam badbaado oo adkaysi leh⁠. Kooxaheennu waxay sameeyaan tijaabooyin gudaha ah oo ballaaran oo ku saabsan meelaha awoodaha iyo khataraha, laakiin ururrada madax-bannaan waxay keenaan aragtiyo dheeraad ah iyo habab shaqo oo kala duwan. Waxaan ka shaqeynaa taageeridda koox kala duwan oo ururro qiimeeye oo aqoon leh kuwaas oo si joogto ah noola barbar qiimeyn kara noocyada ugu casriyeysan.

Ugu dambayn, waxaan hiigsaneynaa inaan daahfurnaano sida wax-soo-gelintani u caawiso qaabeynta geeddi-socodkeenna badbaadada. Waxaan si joogto ah dadweynaha ugu bandhignaa qiimeynaha dhinac saddexaad—tusaale ahaan, annagoo ku darna soo-koobyo qiimeynihii ka hor daahfurka ee ku jira kaarka siistamka, isla markaana taageerna ururrada qiimeeyeyaasha inay daabacaan shaqo faahfaahsan oo dheeraad ah kaddib dib-u-eegis sir iyo saxnaan. Daahfurnaantani waxay dhistaa kalsooni iyadoo muujineysa sida wax-soo-gelinta dibadeed u qaabeyso qiimeynteena awoodaha iyo ilaalooyinka.

Xiriirro waara oo ku dhisan helitaan lagu kalsoon yahay, daahfurnaan, iyo wadaagis aqoon ayaa ka caawiya nidaamka oo dhan inuu ka hormaro khataraha soo baxaya, isla markaana dhiirrigeliya qiimeynno dabacsan oo la hirgelin karo oo loo baahan yahay si loo helo heerar ka xooggan iyo maamul xog-ogaal ah oo loogu talagalay nidaamyada AI ugu casriyeysan.

Laga bilaabo daahfurkii GPT‑4⁠(ku furmaa daaqad cusub), waxaan taageernay qiimeynno madax-bannaan oo lagu sameeyo hubinno hore oo nooca ah ka hor daahfurka. Tan iyo markaas, waxaan ballaarinnay shaqadeenna aan la leenahay ururro dhinac saddexaad oo kala duwan oo leh khibrad qoto dheer oo ku saabsan qiimeynaha meelaha muhiimka ah ee awoodaha iyo khataraha ugu casriyeysan. Waxaan u qeexnaa shaqada shaybaarro madax-bannaan inay tahay tijaabo furan oo ay kooxo dibadeed ku dabaqaan hababkooda gaarka ah si ay u gaaraan sheegasho ama qiimeyn la xiriirta awood gaar ah oo ugu casriyeysan.

Tusaale ahaan, ee GPT‑5⁠, OpenAI waxay isku dubbaridday koox ballaaran oo qiimeynno awood dibadeed ah oo ku saabsan meelaha khatarta muhiimka ah sida madaxbannaani muddada dheer ah, dhagarayn, khiyaano iyo wax u dhimid kormeerka, suurtagalnimada qorsheynta wet lab, iyo qiimeynaha amniga internetka ee weerarka ah.

Qiimeynahan madax-bannaan waxay dhammaystiraan qiimeynaha la sameeyo si waafaqsan Qaab-dhismeedka Diyaar-garowga ee OpenAI, waxayna ku jiraan halbeegyo sida qiimeynta muddada waqtiga⁠(ku furmaa daaqad cusub) ee METR ama qiimeynta Virology Capabilities Test (VCT)⁠(ku furmaa daaqad cusub) ee SecureBio.

Si loo taageero qiimeynahan, waxaan bixinnay helitaan ammaan ah oo loo helo hubinno hore oo nooca ah, natiijooyin qiimeyn oo la xushay si loo caddeeyo hagaajinta awoodaha ee aan arkeyno, kaydin-eber xogta halka loo baahdo, iyo noocyo leh yareynno ka yar. Tusaale ahaan, ururrada tijaabinayay meelaha amniga internetka iyo badbaadada noolaha waxay tijaabiyeen noocyo leh iyo kuwo aan lahayn yareynno badbaado si ay u baaraan awoodaha hoose. Dhowr urur oo kale ayaa helay marin toos ah oo ay ku arkaan silsilada fikirka si ay u baaraan raadadka caqliyeynta ee nooca. Tallaabadan daahfurnaanta kordhisay waxay u saamaxday qiimeeyeyaasha inay aqoonsadaan xaalado ah sandbagging² ama dabeecad dhagarayn ah oo laga yaabo in lagu garan karo oo keliya akhrinta silsilada fikirka. Helitaanka waxaa la bixiyay iyadoo la dejiyay xakameyn amni, waxaana sii wadnaa cusboonaysiinta xakameynahaas iyadoo awoodaha nooca iyo baahiyaha tijaabadu isbeddelayaan.

Xaalado gaar ah, qiimeeyeyaasha dibadeed waxay si fiican ugu habboon yihiin inay bixiyaan dib-u-eegis habraaceed, iyagoo keenaya aragtiyo dheeraad ah oo ku saabsan qaab-dhismeedyada iyo caddeymaha ay shaybaarada ugu casriyeysan ku tiirsan yihiin si ay u qiimeeyaan khatarta. Tusaale ahaan, intii lagu jiray daahfurka gpt-oss⁠, waxaan adeegsannay hagaajin tababar oo iska-hor-imaad ah si aan u qiyaasno awoodaha ugu xun ee noocyada miisaanka furan, sida lagu sharaxay Qiyaasidda khataraha ugu xun ee ugu casriyeysan ee LLM (Qaabka Luuqadda Ballaaran) miisaan furan⁠. Su'aasha badbaado ee asaasiga ah waxay ahayd in jilaa xaasid ahi uu hagaajin tababar ugu sameyn karo nooca si uu u gaaro awood Sare meelaha sida bio ama cyber ee hoos imanaya Qaab-dhismeedka Diyaar-garowga. Maadaama tani u baahnayd hagaajin tababar iska-hor-imaad ah oo kheyraad badan cunta, waxaan ku casuunnay qiimeeyeyaasha dhinac saddexaad inay dib u eegaan oo talo ka bixiyaan hababkeenna gudaha iyo natiijooyinka halkii ay ku celin lahaayeen shaqo la mid ah.

Tani waxay ku lug lahayd geeddi-socod dhowr toddobaad qaatay oo ah wadaagista hirgelinta qiimeynaha, faahfaahinta habka hagaajin tababarka iska-hor-imaadka ah, iyo ururinta talooyin habaysan oo ku saabsan hagaajinta habraaca iyo qiimeynaha khataraha ugu xun ee ugu casriyeysan. Jawaab-celinta qiimeeyeyaasha waxay horseedday isbeddello lagu sameeyay geeddi-socodkii ugu dambeeyay ee hagaajin tababarka iska-hor-imaadka ah waxayna muujisay qiimaha xaqiijinta habraaca. Waxaan diiwaangelinnay qodobadii aan qaadannay warqadda iyo kaarka siistamka ee gpt-oss, waxaanan bixinay sababaha kuwa aynaan qaadan.

Halkan, dib-u-eegista habraaca ayaa ahayd tan saxda ah halkii ay ka ahaan lahaayeen qiimeynno madax-bannaan: qiimeynuhu wuxuu ku lug lahaa socodsiinta tijaabooyin baaxad weyn oo xaaladda ugu xun ah, kuwaas oo u baahan kaabayaal iyo khibrad farsamo oo aan si caadi ah uga jirin meel ka baxsan shaybaarada waaweyn ee AI. Tani waxay ka dhignayd in qiimeynaha madax-bannaan ay u badan tahay inaanay si toos ah u keenin aragtiyo ku saabsan xaaladaha ugu xun, waxayna wax-soo-saar badan lahayd in diiradda qiimeeyeyaasha dibadeed la saaro xaqiijinta sheegashooyinka. Qiimeeyeyaasha dibadeed waxay dib u eegeen hababka iyo caddeymaha⁠(ku furmaa daaqad cusub), iyagoo iftiimiyay farqiyo go'aan-sameyn khuseeya oo wax looga qabtay qayb ka mid ah wareegga jawaab-celinta talooyinka. Habkan waa mid aan rajeyneyno inaan ku fidinno waddooyin kale oo ay baahida helitaanka ama kaabayaasha ka dhigeyso mid aan macquul ahayn in dhinac saddexaad si toos ah u socodsiiyo qiimeynaha laftiisa, ama halka qiimeyn dibadeed aanay weli jirin.

Hab kale oo aan khubarada dibadeed ula shaqeyno waa baaritaanka khubarada maaddo-yaqaanka ah (SME), halkaas oo khubaradu si toos ah u qiimeeyaan nooca kana bixiyaan wax-soo-gelin habaysan sahanno ahaan oo ku saabsan qiimeynteena awoodihiisa. Tani way ka duwan tahay qiimeynta awoodda nidaamka⁠, taas oo ujeeddadeedu tahay in si xooggan loo tijaabiyo ilaalooyin gaar ah. Tani waxay noo oggolaaneysaa inaan ku kabno qiimeynaha Qaab-dhismeedka Diyaar-garowga aragtiyo gaar u ah goobta oo ka tarjumaya xukunka khubarada iyo xaaladda dunida dhabta ah ee laga yaabo in qiimeynaha joogtada ahi keliya aysan qaban. Tusaale ahaan, waxaan ku casuunnay guddi khubaro maaddo-yaqaan ah inay adeegsadaan nooc helpful-only ah³ si ay isku dayaan xaaladahooda bio ee dhammaystiran ee ChatGPT Agent iyo GPT‑5. Waxay qiimeeyeen inta uu noocgu u kordhin karo khabiir iyaga la mid ah marka loo barbar dhigo bilow-yaqaan waayo-aragnimo yar leh, iyagoo ku saleynaya waxtarka hagidda uu ku bixiyay xaaladahooda. Ujeeddadu waxay ahayd in la ururiyo wax-soo-gelin dheeraad ah oo ku saabsan sida wanaagsan ee nidaamku ugu dhoweyn karo bilow-yaqaan dhiirran fulin karti leh: SMEs-ku waxay si adag u tijaabiyeen sheegashooyinkeenna “kor-u-qaadista bilowga” iyagoo adeegsanaya habsocodyo dhab ah oo ay iyagu keeneen, waxayna bixiyeen jawaab-celin faahfaahsan oo ku saabsan meelaha uu noocgu ka bixiyay gargaar wax ku ool ah oo heer-tallaabo ah iyo meelaha uu ka bixiyay soo-koobyo aan sidaas u faa'iido badnayn. Layligan baaritaanka khubarada waxaa lagu daray qayb ka mid ah qiimeynta guud ee daahfurka noocyadan, waxaana lala wadaagay kaararka siistamka ee labada daahfurba.

Iyada oo la tixgelinayo ruuxa daahfurnaanta, waxaan wadaageynaa faahfaahin dheeraad ah oo ku saabsan waxa qiimeeyeyaasha dhinac saddexaad ay ku heshiiyaan marka ay nala shaqeeyaan, iyo mabaadi'da hagta iskaashiyadeenna:

• Daahfurnaan leh xuduudo sir oo taxaddar leh: Qiimeeyeyaasha dhinac saddexaad waxay saxiixaan heshiisyo sir-aan-sheegid ah si loo suurtogeliyo wadaagista macluumaad qarsoodi ah oo aan dadweyne ahayn si ay u taageeraan qiimeyntooda. Qaybta lifaaqa⁠ ee qoraalkan, waxaan ku darnay qaybo khuseeya oo ka mid ah qandaraasyada lala galo qiimeeyeyaasha dhinac saddexaad kuwaas oo qeexaya xuquuqaha ku saabsan daabacaadda iyo filashooyinka dib-u-eegista. Waxaan ku shaqeynaa mabda'a daahfurnaanta, waxaana ku dadaalnaa inaan suurta gelinno daabacaad kor u qaadda fahamka badbaadada iyo qiimeynaha la xiriira iyada oo aan la dhaawaceyn macluumaad qarsoodi ah ama hantida aqooneed. Qayb ka mid ah tan, waxaan dib u eegnaa oo ansixinnaa daabacaadaha ka dhasha qiimeynaha dhinac saddexaad si loo hubiyo sirta iyo saxnaanta xaqiiqooyinka labadaba. Dhowrkii sano ee la soo dhaafay, dhowr qiimeeye oo dhinac saddexaad ah ayaa daabacay shaqadooda iyagoo la socda daabacaaddeenna gaarka ah ee soo-koobyada qiimeynta ee ku jira kaararka siistamka. Tusaalooyin ka mid ah shaqo la daabacay kaddib markii aan dib uga eegnay sirta iyo saxnaanta waxaa ka mid ah: [warbixinta METR GPT‑5 ⁠(ku furmaa daaqad cusub), warbixinta Apollo Research ee OpenAI o1⁠(ku furmaa daaqad cusub), Qiimeynta Irregular GPT‑5⁠(ku furmaa daaqad cusub)]
• Soo bandhigid macluumaad oo taxaddar leh iyo helitaan ammaan ah oo xasaasi ah: Sida caadiga ah, waxaan bixinnaa macluumaad iyo helitaan noocyo loogu talagalay inay noqdaan kuwo dadweyne ama diyaar u ah wax-soo-saarka. Marka qiimeynuhu taas u baahdo, waxaan bixinnaa helitaan qoto dheer, sida noocyada helpful-only ama macluumaad aan dadweyne ahayn. OpenAI waxay bixisay qaababkan helitaan halka ay lagama maarmaan u ahaayeen su'aalaha badbaado ee muhiimka ah ee qiimeeyeyaasha dhinac saddexaad. Muhiim ahaan, noocyadan helitaanka xasaasiga ahi waxay u baahan yihiin tallaabooyin amni oo adag, waxaana sii wadnaa cusboonaysiinta xakameynahaas iyadoo awoodaha nooca iyo baahiyaha tijaabadu isbeddelayaan.
• Dhiirrigelinno maaliyadeed oo dheellitiran: Waxaan aaminsanahay inay muhiim tahay in la hubiyo in nidaamka qiimeynta dhinac saddexaad uu yahay mid si wanaagsan loo maalgeliyo oo waara. Sidaas darteed, waxaan siinnaa magdhow dhammaan qiimeeyeyaashayada dhinac saddexaad, qaarna way diidaan taas iyadoo ku xiran falsafadda ururkooda ee arrintan. Qaababka magdhowga waxaa ka mid ah lacag-bixin toos ah oo shaqada ah iyo/ama dhimista kharashaadka isticmaalka nooca iyadoo loo marayo dhibco API ama si kale. Lacag-bixin waligeed kuma xirna natiijooyinka qiimeyn dhinac saddexaad.

Marka la isu geeyo, arrimahani waxay ka caawiyaan qiimeynaha dhinac saddexaad inay ilaaliyaan macluumaadka xasaasiga ah isla markaana ay kobciyaan daahfurnaanta badbaadada AI, waxayna abuuraan wadooyin ay qiimeeyeyaasha dhinac saddexaad ku heli karaan magdhow waqtigooda.

Mustaqbalka, waxaan aragnaa baahi loo qabo in la sii xoojiyo nidaamka ururrada awooda u leh inay sameeyaan qiimeynno lagu kalsoonaan karo oo khuseeya go'aan qaadashada ee nidaamyada AI ugu casriyeysan. Qiimeyn wax ku ool ah oo dhinac saddexaad ahi waxay u baahan tahay khibrad takhasus leh, maalgelin deggan, iyo adkeysi habraaceed. Maalgashi sii socda oo lagu sameeyo ururrada qiimeeyeyaasha aqoonta leh, horumarinta cilmiga cabbirka, iyo amniga helitaanka xasaasiga ahi waxay lama huraan u ahaan doonaan hubinta in qiimeynuhu la jaanqaadi karo horumarka awoodaha noocyada.

Qiimeynaha dhinac saddexaad waa hal dariiqo oo aan aragti dibadeed ugu soo gelinno shaqadeenna badbaadada, waxayna barbar socdaan habab kale. Waxaan sidoo kale la shaqeynaa khubaro dibadeed annagoo adeegsaneyna dadaallo habaysan oo ah qiimeynta awoodda nidaamka⁠, mashaariicda is-waafajinta wadajirka ah⁠, la shaqeynta U.S. CAISI iyo UK AISI⁠, iyo kooxo la-talin ah sida Global Physician Network⁠ iyo Expert Council on Well-Being and AI⁠ si ay nooga caawiyaan hagidda shaqadeenna caafimaadka maskaxda iyo wanaagga isticmaalaha. Dadaalladani waxay keenaan noocyo kala duwan oo khibrad ah waxayna taageeraan saldhig ballaaran oo la isku halleyn karo oo loogu talagalay qiimeynta iyo maamulidda nidaamyada AI ee horumarsan.

Kuwa soo socda waa qaybo tusaale ah oo ka mid ah heshiisyadeenna aan la galno dhinacyada saddexaad ee nala shaqeeya qiimeynaha ka hor daahfurka.