Ka caawinta horumariyeyaasha inay dhalinyarada u dhisaan khibrado AI ka ammaan badan

Maanta, waxaan sii deynay xeerar badbaado⁠(ku furmaa daaqad cusub) ku salaysan weydiin si aan uga caawinno horumariyeyaasha inay u abuuraan ilaalin ku habboon da'da dhalinyarada. Waxaa loo dhisay inay la shaqeeyaan noocayaga badbaado ee miisaanka furan, gpt-oss-safeguard⁠(ku furmaa daaqad cusub), xeerarkan waxay fududeynayaan sida horumariyeyaashu ugu beddelaan shuruudaha badbaadada kala-soocayaal la adeegsan karo oo loogu talagalay nidaamyada dunida dhabta ah.

Waxaan sii deynay noocyada miisaanka furan si aan u dimuqraadiyeyno helitaanka AI awood leh oo aan u taageerno hal-abuur ballaaran. Isla markaas, waxaan aaminsanahay in badbaadada iyo hal-abuurku ay isla socdaan, iyo in horumariyeyaashu ay tahay inay helaan noocyo awood leh iyo sidoo kale aaladaha iyo xeerarka lagu hirgelinayo si badbaado iyo masuuliyad leh. Waxaan dejinnay xeerarkan si aan u taageerno horumariyeyaasha dadaalladooda badbaado ee ilaalinta isticmaaleyaasha da'da yar, annagoo ka helnay talo ururro dibadeed oo la aamini karo oo ay ku jiraan Common Sense Media⁠(ku furmaa daaqad cusub) iyo everyone.ai⁠(ku furmaa daaqad cusub).

Waxaan aqoonsannahay in dhalinyarada iyo dadka waaweyni ay leeyihiin baahiyo kala duwan, iyo in dhalinyaradu u baahan yihiin ilaalin dheeraad ah. Xeerarkan waxaa loo dejiyey inay ka caawiyaan horumariyeyaasha inay tixgeliyaan kala duwanaanshahaas oo ay dhisaan khibrado awood siinaya isla markaana ku habboon isticmaaleyaasha da'da yar.

Waxaan muddo dheer ka go'nayn dhisidda AI ballaarisa fursadaha dadka da'da yar iyadoo ammaan lagu ilaalinayo. Qayb ka mid ah shaqadan, waxaan cusboonaysiinnay sifooyinka nooca⁠(ku furmaa daaqad cusub)—hagayaasha qeexa hab-dhaqanka la doonayo ee noocyada OpenAI—si loogu daro mabaadi'da Ka Yar 18 (U18)⁠(ku furmaa daaqad cusub), waxaana soo bandhignay ilaalino heer-badeeco ah sida xooftiweeka xadidka isticmaalka⁠ iyo saadaalinta da'da⁠ si si ka wanaagsan loo ilaaliyo isticmaaleyaasha yaryar. Waxaan sidoo kale ku baaqnay ilaalino heer-warshadeed ah anagoo marayna Qorshaha Badbaadada Dhalinyarada⁠.

Sii-deynta maanta waxay ku dhisan tahay aasaaskaas. Waxaan xeerarkan badbaado u diyaarinaynaa horumariyeyaasha si aan uga taageerno hirgelinta ilaalinnada badbaado ee dhalinyarada iyo ka caawinta dimuqraadiyeynta helitaanka guud ahaan nidaamka noocyada miisaanka furan.

Inkastoo kala-soocayaal badbaado sida gpt-oss-safeguard ay ogaan karaan waxyaabo waxyeello leh, waxay ku tiirsan yihiin qeexitaanno cad oo waxa ku jiraasi yahay. Ficil ahaan, mid ka mid ah caqabadaha ugu waaweyn ee horumariyeyaashu wajahaan waa qeexidda xeerar si sax ah u qabta khataraha u gaarka ah dhalinyarada oo si joogto ah loogu dabaqi karo nidaamyada dhabta ah.

Xitaa kooxaha khibradda leh badanaa way ku dhibtoodaan inay u beddelaan yoolalka badbaado ee heer-sare xeerar sax ah oo hawlgal ah, gaar ahaan maadaama tani u baahan tahay khibrad mawduuceed iyo aqoon qoto dheer oo AI ah. Tani waxay keeni kartaa goldaloolo ilaalin ah, fulin aan joogto ahayn, ama shaandhayn aad u ballaaran. Xeerar cad oo si wanaagsan loo xaddiday waa saldhig muhiim ah oo loogu talagalay nidaamyo badbaado oo wax ku ool ah.

Si aan caqabaddan wax uga qabanno, waxaan sii deynay xirmo xeerar badbaado⁠(ku furmaa daaqad cusub), oo loo habeeyey khataraha caadiga ah ee ay la kulmaan dhalinyaradu laguna saleeyey dib-u-eegis taxaddar leh oo cilmi-baarista jirta ee ku saabsan kala duwanaanshaha gaarka ah ee korriinkooda. Xeerarkan waxaa loo qaabeeyey sidii weydiimo si toos ah loogu adeegsan karo gpt-oss-safeguard⁠(ku furmaa daaqad cusub) iyo noocyada caqliyeynta kale, taasoo u sahlaysa horumariyeyaasha inay si fudud ugu dabaqaan heerar badbaado oo joogto ah guud ahaan nidaamyadooda.

Sii-deynta bilowga ahi waxay ka kooban tahay xeerar daboolaya:

• Waxyaabo rabshado muuqaal adag leh
• Waxyaabo galmo muuqaal adag leh
• Aragtiyo iyo dabeecado jirka waxyeello u leh
• Hawlo iyo caqabado halis ah
• Door-ciyaar jacayl ama rabshad leh
• Alaabo iyo adeegyo da' lagu xaddiday

Xeerarkan waxaa loo adeegsan karaa shaandhaynta nuxurka waqtiga-dhabta ah, iyo sidoo kale falanqayn offline ah oo ku saabsan nuxurka ay adeegsadayaashu abuureen.

Iyadoo xeerarka loo qaabeynayo weydiimo, horumariyeyaashu waxay si sahlan ugu dhex dari karaan socod-shaqooyinkooda jira, ugu waafajin karaan kiisaskooda isticmaalka, isla markaana u hagaajin karaan waqti ka dib.

Waxaan la shaqaynay ururro dibadeed oo ay ku jiraan Common Sense Media⁠(ku furmaa daaqad cusub) iyo everyone.ai⁠(ku furmaa daaqad cusub) si ay uga xog bixiyaan dejinta xeerarkan. Khibraddoodu waxay gacan ka geysatay qaabaynta baaxadda nuxurka la daboolayo, xoojinta qaab-dhismeedka weydiimaha, iyo hagaajinta xaaladaha geeska ah ee la tixgelinayo marka la qiimeynayo. 

Shaqadani waxay ka tarjumaysaa dadaal socda oo lagu la shaqaynayo khubaro iyo nidaamka guud si loo hagaajiyo sida nidaamyada AI u taageeraan dadka da'da yar.

“Mid ka mid ah farqiyada ugu waaweyn ee badbaadada AI ee dhalinyarada ayaa ahaa maqnaanshaha xeerar cad oo hawlgal ah oo horumariyeyaashu ka bilaabi karaan. Marar badan, horumariyeyaashu waxay ka bilaabaan eber. Xeerarkan ku salaysan weydiin waxay caawinayaan dejinta heer badbaado oo macne leh guud ahaan nidaamka, maadaama loo sii daayey il furan ahaan, waa la waafajin karaa lana hagaajin karaa waqti ka dib. Waxaa nagu dhiirrigelinaya in kaabayaal noocan ahi si ballaaran loo heli karo, waxaana rajaynaynaa inay dardargeliso meelo bilow oo wadaag ah oo dheeraad ah oo ku saabsan badbaadada dhalinyarada guud ahaan warshadda.”

—Robbie Torney, Madaxa AI & Qiimeynta Dijitaalka, Common Sense Media

“Dadaallada noocan oo kale ah ee ka dhigaya xeerarka badbaadada dhalinyarada kuwo hawlgal ahaan loo adeegsan karo waa qiimo leh sababtoo ah waxay ka caawiyaan u rogista aqoonta khubarada hagid lagu adeegsan karo nidaamyada dhabta ah. Xeerarka nuxurku waa tallaabo hore oo muhiim ah, waxayna sidoo kale albaabka u furayaan shaqo ballaaran oo ku saabsan sida hab-dhaqanka noocu u qaabayn karo khataraha khuseeya dhalinyarada muddo ka dib. Waxaa nagu dhiirrigeliyey shaqadan iyo cilmi-baaristayada gaarka ah, everyone.ai⁠(ku furmaa daaqad cusub) sidoo kale waxay samaysay xeer dabeecadeed bilow ah oo diiradda saaraya khataraha sida gooni-u-xirnaanta iyo ku-tiirsanaanta xad-dhaafka ah."

—Dr. Mathilde Cerioli, Saynisyahanka Sare ee everyone.AI

Xeerarkan waxaa loogu talagalay inay noqdaan meel bilow ah, ee ma aha qeexid ama dammaanad dhammaystiran ama kama dambays ah oo badbaadada dhalinyarada ah. Codsi kastaa wuxuu leeyahay khataro, dhagaystayaal iyo duruufo u gaar ah, horumariyeyaashuna iyagaa ugu habboon fahamka khataraha ay badeecooyinkooda iyo isku-darradooda AI keeni karaan. Waxaan si adag ugu dhiirrigelinaynaa horumariyeyaasha inay waafajiyaan oo ballaariyaan xeerarkan iyagoo ku salaynaya baahiyahooda gaarka ah isla markaana ku daraan ilaalino kale sida go'aannada naqshadaynta badeecadda, xakamaynta isticmaalaha, daahfurnaan u roon dhalinyarada, nidaamyada kormeerka iyo jawaabo ku habboon da'da oo si taxaddar leh loo dejiyey. 

Waxaan aaminsanahay in habka difaac lakabyo badan leh⁠⁠ uu muhiim u yahay dhisidda nidaamyo AI oo ka ammaan badan. Xeerarkani waxay ka soo farcameen waayo-aragnimadeenna gudaha, laakiin ma metelaan baaxadda buuxda ee xeerarka ama ilaalinnada gudaha ee OpenAI.

Waxaan xeerarkan ugu sii deynay il furan annagoo marayna Bulshada Nooca ROOST⁠(ku furmaa daaqad cusub) si loo dhiirrigeliyo iskaashi iyo ku-celcelin. Si aad uga qayb qaadato, uga dhiibato ra'yi-celin, ama ula wadaagto xeerar dheeraad ah oo badbaado dhalinyaro ah, booqo keydka koodhka GitHub ee RMC.⁠(ku furmaa daaqad cusub)

Horumariyeyaasha iyo ururradu waxay xeerarkan ula qabsan karaan codsiyadooda gaarka ah, waxayna u tarjumi karaan luqado kala duwan, kuna ballaarin karaan si ay u daboolaan meelo khatar oo dheeraad ah. Waqti ka dib, waxaan rajaynaynaa in tani ay ka qayb qaadato aasaas adag oo la wadaago oo lagu hirgeliyo xeerarka badbaadada ee nidaamyada AI.

Si aad ugu bilowdo gpt-oss-safeguard, ka soo dejiso Hugging Face⁠(ku furmaa daaqad cusub).