Naqshadaynta wakiillada AI si ay uga hortagaan weerarka weydiinta

Wakiillada AI waxay sii kordhaya u awoodaan inay baaraan webka, soo helaan macluumaad, oo ay tallaabooyin u qaadaan magaca isticmaalaha. Awoodahaas waa waxtar, laakiin sidoo kale waxay abuuraan habab cusub oo weeraryahannadu ugu dayaan inay nidaamka ku maamulaan.

Weerarradan waxaa badanaa lagu qeexaa weerarka weydiinta⁠: tilmaamo lagu geliyo waxyaabo dibadeed iyadoo la isku dayayo in noocu sameeyo wax aanu isticmaaluhu codsan. Khibraddayada, noocyada ugu waxtarka badan ee dhabta ah ee weerarradani waxay sii kordhaya ugu egyihiin injineernimada bulshada in ka badan ka-beddel fudud oo weydiin ah.

Isbeddelkaas waa muhiim. Haddii dhibaatadu aysan ahayn oo keliya aqoonsiga xaraf-xun, balse ay tahay ka hortagga waxyaabo marin-habaabin ama maamulid leh marka lagu jiro macnaha guud, markaa difaaciddu kuma tiirsanaan karto oo keliya sifaynta gelinta. Waxay sidoo kale u baahan tahay in nidaamka loo naqshadeeyo si saamaynta maamuliddu u xaddidnaato, xitaa haddii weerarro qaar guulaystaan.

Noocyadii hore ee weerarrada “weerarka weydiinta” waxay ahaan kareen kuwo fudud sida tafatirka maqaal Wikipedia ah si loogu daro tilmaamo toos ah wakiillada AI ee booqanaya; iyada oo aan jirin waayo-aragnimo xilligii tababarka oo ku saabsan deegaan noocaas colaad leh, noocyada AI inta badan waxay raaci jireen tilmaamahaas iyaga oo aan su’aal gelin¹. Sida noocyadu u sii caqli bateen, waxay sidoo kale noqdeen kuwo nuglaanshahoodu ka yaraaday talo noocan ah, waxaanan aragnay in weerarrada qaabka weerarka weydiinta ay ka jawaabeen iyagoo ku daraya xubno injineernimada bulshada ah:

Gudaha nidaamka ballaaran ee amniga AI, waxay caadi noqotay in lagu taliyo farsamooyin sida “AI firewalling” oo dhex-dhexaadiye u dhexeeya wakiilka AI iyo dunida dibadda uu isku dayo inuu u kala saaro gelinnada weerar weydiin xun iyo gelinno caadi ah—laakiin weerarradan si buuxda u bislaaday inta badan nidaamyadaas ma qabtaan. Nidaamyadaas, ogaanshaha gelin xun wuxuu noqdaa isla dhibaatada aadka u adag ee ogaanshaha been ama macluumaad khaldan, badanaana iyada oo aan jirin macnaha guud ee loo baahan yahay.

Markii weerarrada dhabta ah ee weerarka weydiinta ay ku sii adkaadeen kakanaanta, waxaan ogaanay in farsamooyinka weerarka ugu waxtarka badan ay ka faa’iideysanayeen xeeladaha injineernimada bulshada. Halkii aan weerarradan weerarka weydiinta ee leh injineernimada bulshada ula dhaqmi lahayn inay yihiin nooc gaar ah ama gebi ahaanba cusub oo dhibaato ah, waxaan billownay inaan u aragno iyadoo loo marayo isla muraayadda loo adeegsado maaraynta khatarta injineernimada bulshada ee ku wajahan aadanaha meelaha kale. Nidaamyadan, yoolku kuma koobna si qumman u aqoonsiga gelinnada xun, balse waa in la naqshadeeyo wakiillo iyo nidaamyo si saamaynta maamuliddu u xaddidnaato, xitaa haddii ay guulaysato. Nidaamyada noocaas ahi waxay muujiyaan inay waxtar u leeyihiin yareynta labadaba weerarka weydiinta iyo injineernimada bulshada.

Sidan, waxaan qiyaasi karnaa wakiilka AI inuu ka jiro nidaam saddex-jileed la mid ah kan wakiilka adeegga macaamiisha; wakiilku wuxuu rabaa inuu u shaqeeyo magaca cidda uu u shaqeeyo, laakiin si joogto ah ayuu ugu nugul yahay gelin dibadeed oo isku dayi karta inay marin-habaabiso. Wakiilka taageerada macaamiisha, bini’aadam ama AI, waa in lagu soo rogaa xaddidaado awoodihiisa ah si loo yareeyo khatarta khasaaraha ee ku jirta ku noolaanshaha deegaan xaasidnimo leh oo sidan oo kale ah.

Qiyaas xaalad uu qof bini’aadam ahi maamulo nidaam taageero macaamiil oo uu awood u leeyahay inuu bixiyo kaararka hadiyadda iyo lacag-celinta dhibaatooyinka uu macmiilku la kulmay sida gaabiska gaarsiinta, waxyeello ka dhalatay cillad, iwm. Tani waa dhibaato dhinacyo badan leh oo shirkaddu ay tahay inay ku kalsoonaato in wakiilku lacag-celinta u bixiyo sababaha saxda ah, halka wakiilkuna sidoo kale la macaamilayo dhinacyo saddexaad oo laga yaabo inay isku dayaan inay marin-habaabiyan ama xitaa cadaadis saaraan.

Dunida dhabta ah, wakiilka waxaa la siiyaa xeerar uu raaco, laakiin waxaa la filayaa in, deegaanka colaadeed ee uu ku jiro, la marin-habaabiyo. Waxaa laga yaabaa in macmiil uu soo diro farriin uu ku sheegayo in lacag-celintiisu aysan waligeed dhicin, ama uu ku hanjabo dhibaato haddii aan la siin lacag-celin. Nidaamyada go’an ee wakiilku la falgalo waxay xaddidaan xaddiga lacag-celinta ee la siin karo macmiilka, waxay calaamadeeyaan iimayllada phishing-ka ee suurtagalka ah, waxayna bixiyaan yareynno kale oo noocaas ah si loo xaddido saamaynta waxyeellaynta hal wakiil. 

Hab-fekerkan ayaa hagay xirmo adag oo tallaabooyin lid ah oo aan hirgelinnay kuwaas oo ilaaliya filashooyinka amni ee isticmaalayaashayada.

Gudaha ChatGPT, waxaan isku darnaa qaabkan injineernimada bulshada iyo habab dhaqameed badan oo injineernimada amniga ah sida falanqaynta source-sink.

Marka sidaas loo eego, weeraryahanku wuxuu u baahan yahay labadaba source, ama hab uu nidaamka u saameeyo, iyo sink, ama awood khatar noqota marka ay ku dhacdo macnaha khaldan. Nidaamyada wakiillada ah, taas badanaa waxay ka dhigan tahay in la isku daro waxyaabo dibadeed oo aan lagu kalsoonayn iyo ficil sida gudbinta macluumaad dhinac saddexaad ah, raacista xiriiriye, ama la falgalka qalab.

Yoolkeennu waa in aan ilaalino filasho amni oo aasaasi ah oo isticmaalayaasha u ah: ficillo suurtagal ahaan khatar ah, ama gudbinta macluumaad suurtagal ahaan xasaasi ah, waa inaysan u dhicin si aamusan ama iyada oo aan la helin ilaalin ku habboon.

Weerarrada aan aragno ee laga horumariyo ChatGPT badankood waxay ka kooban yihiin isku day lagu qancinayo kaaliyaha inuu ka qaato xog sir ah wada sheekaysiga oo uu u gudbiyo dhinac saddexaad oo xaasid ah. Inta badan kiisaska aan ka warqabno, weerarradani way fashilmaan sababtoo ah tababarkayaga badbaadadu wuxuu keenayaa in wakiilku diido. Kiisaskaas uu wakiilku ku qancanaado, waxaan horumarinay xeelad yareyn ah oo la yiraahdo Safe Url taas oo loogu talagalay in lagu ogaado marka macluumaad kaaliyuhu ka bartay wada sheekaysiga loo gudbin lahaa dhinac saddexaad. Kiisaskan naadirka ah, waxaan ama tusnaa isticmaalaha macluumaadka la gudbin lahaa oo ka codsanaa inuu xaqiijiyo, ama waan xannibnaa oo waxaan u sheegnaa wakiilka inuu isku dayo hab kale oo uu codsiga isticmaalaha ugu sii wado.

Habkan la midka ah wuxuu khuseeyaa navigation-yada iyo bookmarks-ka gudaha Atlas⁠; iyo raadinta iyo navigation-yada gudaha Cilmi baarista qotada dheer⁠. ChatGPT Canvas⁠ & ChatGPT Apps⁠ waxay qaataan hab la mid ah, iyaga oo u oggolaanaya wakiilka inuu abuuro oo isticmaalo codsiyo shaqaynaya—kuwaas oo ku shaqeeya sandbox awood u leh inuu ogaado isgaarsiin aan la filayn oo weydiiya isticmaalaha oggolaanshihiisa⁠(ku furmaa daaqad cusub).

Waxaad ka akhrisan kartaa macluumaad dheeraad ah oo ku saabsan Safe Url oo waxaad ka heli kartaa warqad ku saabsan qaab-dhismeedkeeda qoraalkeeda blog-ga u gaarka ah Ilaalinta xogtaada marka wakiil AI gujiyo xiriiriye⁠.

La falgal ammaan ah oo lala yeesho dunida dibadda ee colaadda leh waa lama huraan si loo helo wakiillo si buuxda isu-maamula. Marka AI nooc lagu dhex darayo nidaam codsi, waxaan ku talinaynaa in la isweydiiyo xakameyntee wakiil bini’aadam ahi yeelan lahaa xaalad la mid ah oo kuwaas la hirgeliyo. Waxaan filaynaa in AI nooc aad u caqli badan uu si ka wanaagsan uga hortagi karo injineernimada bulshada marka loo eego wakiil bini’aadam ah, laakiin tani mar walba ma aha mid suurtagal ah ama kharash ahaan waxtar leh iyadoo ku xiran codsiga.

Waxaan sii wadnaa sahaminta saamaynta injineernimada bulshada ee ka dhanka ah noocyada AI iyo difaacyada ka dhanka ah, waxaana ku darnaa natiijooyinkayaga labadaba qaab-dhismeedyadayada amniga codsiyada iyo tababarka aan marinno noocyadayada AI.