Si joogto ah u adkaynaya ChatGPT Atlas ka hortagga weerarrada weerarka weydiinta

Habka wakiilka ee ChatGPT Atlas waa mid ka mid ah astaamaha wakiilnimo ee ujeeddo guud leh ee ugu ballaaran ee aan sii daynay ilaa maanta. Habkan, wakiilka biraawsarku wuxuu arkaa bogagga internetka wuxuuna sameeyaa falal, gujino, iyo garaacista furayaasha gudaha biraawsarkaaga, sida aad adigu samayn lahayd. Tani waxay u oggolaanaysaa ChatGPT inuu si toos ah uga shaqeeyo qaar badan oo ka mid ah socod-hawlmaalmeedkaaga iyadoo la adeegsanayo isla goobta, macnaha, iyo xogta.

Marka wakiilka biraawsarku kaa caawinayo inaad wax badan qabato, wuxuu sidoo kale noqdaa bartilmaameed qiime sare leh oo weerarro lid ah. Tani waxay ka dhigaysaa amniga AI mid gaar ahaan muhiim u ah. Muddo dheer ka hor intaanan bilaabin ChatGPT Atlas, waxaan si joogto ah u dhisaynay oo u adkaynaynay difaacyo ka dhan ah hanjabaadaha soo baxaya ee si gaar ah u beegsanaya qaabkan cusub ee “wakiilka biraawsarka ku jira”. Weerarka weydiinta⁠ waa mid ka mid ah khataraha ugu waaweyn ee aan si firfircoon isaga difaacno si aan gacan uga geysanno hubinta in ChatGPT Atlas si ammaan ah kuugu shaqayn karo magacaaga.

Iyada oo qayb ka ah dadaalkan, waxaan dhowaan u dirnay cusboonaysiin amni wakiilka biraawsarka Atlas, oo ay ku jiraan nooc cusub oo si lid ah loo tababaray iyo ilaalinno ku xeeran oo la xoojiyey. Cusboonaysiintan waxaa horseeday nooc cusub oo weerarro weerarka weydiinta ah oo lagu ogaaday iyada oo loo marayo qiimeynta awoodda nidaamka ee otomaatiga ah ee gudaha.

Qoraalkan, waxaan ku sharxaynaa sida khatarta weerarka weydiinta ay ugu dhalan karto wakiillada ku shaqeeya webka, waxaana wadaagaynaa wareeg jawaab degdeg ah oo aan dhisayno si joogto ah loogu ogaado weerarro cusub looguna soo saaro yareynno si dhakhso leh—taas oo lagu muujiyey cusboonaysiintan amni ee dhowaan.

Waxaan u aragnaa weerarka weydiinta caqabad amni AI oo muddo dheer jiraysa, waxaana u baahan doonaa inaan si joogto ah u xoojino difaacyadeenna ka dhanka ah (sida khiyaamooyinka internetka ee si joogto ah isu beddela ee dadka beegsada). Wareeggii jawaab degdegga ahaa ee ugu dambeeyey wuxuu muujinayaa rajo hore oo ah qalab muhiim u ah safarkaas: waxaan gudaha ku ogaanaynaa xeelado weerar oo cusub ka hor intaysan ka soo muuqan meelaha furan. Aragtideenna muddada dheer waa inaan si buuxda uga faa’iidaysanno (1) helitaankeenna white-box ee noocyadeenna, (2) faham qoto dheer oo aan u leenahay difaacyadeenna, iyo (3) baaxadda xisaabinta si aan uga horreyanno weeraryahannada dibadda—annagoo hore u helayna ka faa’iidaysiyada, si degdeg ah u soo saarayna yareynno, oo si joogto ah u adkaynayna wareegga. Marka lagu daro cilmi-baarista ugu casrisan ee farsamooyin cusub oo wax looga qabanayo weerarka weydiinta iyo maalgelin kordhay oo lagu sameeyo xakameynno amni oo kale, wareeggan is-biirsan kara wuxuu ka dhigi karaa weerarrada kuwo sii adkaada oo qaali u noqda, si muuqata u yaraynaya khatarta dhabta ah ee weerarka weydiinta. Ugu dambayn, yoolkeennu waa inaad awooddo inaad aaminto wakiil ChatGPT ah inuu biraawsarkaaga u isticmaalo sida aad u aamini lahayd saaxiib ama shaqaale aad u karti badan oo amniga ku baraarugsan.

Weerar weerarka weydiinta ahi wuxuu beegsadaa wakiillada AI iyadoo tilmaamo waxyeello leh lagu dhex gelinayo nuxurka uu wakiilku farsameeyo. Tilmaamahaas waxaa loo sameeyaa inay beddelaan ama leexiyaan habdhaqanka wakiilka—iyagoo afduubaya si uu u raaco ujeeddada weeraryahanka, halkii uu ka raaci lahaa tan isticmaalaha.

Wakiil biraawsar ah sida kan ku jira ChatGPT Atlas, weerarka weydiintu wuxuu ku daraa marin hanjabaad cusub oo ka baxsan khataraha amniga webka ee caadiga ah (sida khaladka isticmaalaha ama nuglaanshaha software-ka). Halkii laga khiyaanayn lahaa dadka ama laga faa’iidaysan lahaa nuglaanshaha nidaamka biraawsarka, weeraryahanku wuxuu beegsadaa wakiilka ku shaqaynaya gudaha.

Tusaale mala-awaal ah, weeraryahan ayaa diri kara iimayl waxyeello leh oo isku dayaya inuu ku khiyaaneeyo wakiil inuu iska indho tiro codsiga isticmaalaha oo taa beddelkeeda u gudbiyo dukumiintiyada canshuurta xasaasiga ah cinwaan iimayl oo uu weeraryahanku maamulo. Haddii isticmaalehu ka codsado wakiilka inuu eego iimayllada aan la akhrin oo soo koobo qodobbada muhiimka ah, wakiilku wuxuu geli karaa iimaylkaas waxyeellada leh inta lagu jiro socodka shaqada. Haddii uu raaco tilmaamaha lagu duray, wuxuu ka leexan karaa hawsha—wuxuuna si khaldan u wadaagi karaa xog xasaasi ah.

Tani waa hal xaalad oo gaar ah oo keliya. Guudnimada la midka ah ee ka dhigaysa wakiillada biraawsarka kuwo waxtar leh ayaa sidoo kale ka dhigaysa khataraha kuwo ballaaran: wakiilku wuxuu la kulmi karaa tilmaamo aan la aamini karin oo ku kala baahsan meel dusheed oo si dhab ah aan xad lahayn—iimayllo iyo lifaaqyo, casuumado jadwal, dukumiintiyo la wadaago, goleyaal, qoraallo baraha bulshada ah, iyo bogag internet oo aan kala sooc lahayn. Maaddaama wakiilku samayn karo falal badan oo la mid ah kuwa isticmaale samayn karo biraawsarka, saameynta weerar guul leh waxay mala-awaal ahaan u noqon kartaa mid la mid ah oo ballaaran: gudbinta iimayl xasaasi ah, dirista lacag, tafatirka ama tirtiridda faylalka daruurta, iyo in ka badan.

Waxaan horumar ka samaynay difaaca ka dhanka ah weerarka weydiinta annagoo adeegsanayna lakabyo badan oo ilaalin ah, sida aan ku wadaagnay qoraal hore⁠. Si kastaba ha ahaatee, weerarka weydiintu weli waa caqabad furan oo ku wajahan amniga wakiilka, waana mid aan filayno inaan sii wadno ka shaqayntiisa sanado badan oo soo socda.

Si aan u xoojino difaacyadeenna, waxaan si joogto ah u raadinaynay weerarro cusub oo weerarka weydiinta ah oo ka dhan ah nidaamyada wakiilka ee wax-soo-saarka ku jira. Helitaanka weerarradan waa shardi lagama maarmaan u ah dhisidda yareynno adag: waxay naga caawisaa inaan fahanno khatarta dunida dhabta ah, waxay muujisaa meelaha ka bannaan difaacyadeenna, waxayna horseeddaa sixitaanno la taaban karo.

Si aan tan ugu samayno baaxad weyn, waxaan dhisnay weeraryahan otomaatig ah oo ku salaysan LLM waxaanan u tababarnay inuu ugaarsado weerarro weerarka weydiinta ah oo si guul leh u weerari kara wakiil biraawsar. Waxaan u tababarnay weeraryahankan dhammaad-ilaa-dhammaad waxbarashadda xoojinta ah, si uu uga barto guulihiisa iyo guuldarrooyinkiisa una hagaajiyo xirfadihiisa qiimeynta awoodda nidaamka. Waxa kale oo aan u oggolaannay inuu “isku dayo ka hor inta aan la dirin”, taas oo aan ula jeedno: inta lagu jiro caqliyeyntiisa silsiladda fikirka, weeraryahanku wuxuu soo jeedin karaa duritaan musharrax ah oo u diri kara matale dibadeed. Mataluhu wuxuu socodsiiyaa tijaabo ka soo horjeedda xaqiiqda oo muujinaysa sida wakiilka dhibbanaha ee la beegsanayo (difaacaha) u dhaqmi lahaa haddii uu la kulmo duritaanka, wuxuuna soo celiyaa raad buuxa oo caqliyeyn iyo fal ah oo uu sameeyey wakiilka dhibbanaha. Weeraryahanku wuxuu u adeegsadaa raadkaa jawaab-celin ahaan, wuu ku celceliyaa weerarka, wuxuuna mar kale socodsiiyaa matalaadda—iyadoo wareeggan la soo celcelinayo dhowr jeer ka hor inta uusan go’aansan weerarka kama dambaysta ah. Tani waxay siisaa weeraryahanka jawaab-celin macno leh oo gudaha macnaha ku jirta kana badan hal calaamad oo guul/fashil ah. Waxay sidoo kale kordhisaa xisaabinta tijaabada-waqtiga ee weeraryahanka. Intaa waxaa dheer, helitaanka gaarka ah ee raadadka caqliyeynta (oo aynaan u shaacin isticmaaleyaasha dibadda) ee difaacaha ayaa siiya weeraryahankeenna gudaha faa’iido aan sinnayn—taas oo kordhinaysa fursadda uu kaga dheereyn karo cadowyada dibadda.

Maxaa loo doortay waxbarashadda xoojinta ah (RL)? Waxaan u doorannay waxbarashadda xoojinta ah in lagu tababaro weeraryahanka otomaatiga ah sababo badan awgood:

1. Hagaajinta yoolalka weeraryahanka ee muddada dheer iyo kuwa aan joogtada ahayn. Yoolkeenna waa inaan raadino weerarro weerarka weydiinta ah oo ku khiyaanayn kara wakiilka inuu fuliyo hawlo lid ah oo heer sare ah (tusaale, dirista iimayllo, macaamillo bangi) oo dhici kara dunida dhabta ah. Hawlahan lidka ahi asal ahaan waa kuwo muddadoodu dheer tahay, una baahan tallaabooyin badan oo caqliyeyn iyo la falgal deegaan, iyagoo leh calaamado guul oo yar oo dib u dhac leh. Waxbarashadda xoojinta ahi waxay si fiican ugu habboon tahay qaab-dhismeedkan abaalmarinta oo yaraanta iyo dib-u-dhaca leh.
2. Ka faa’iidaysiga awoodaha LLM ee ugu casrisan. Waxaan si toos ah ugu tababarnay LLM-yada ugu casrisan sidii auto-red-teamers, si weeraryahanku si toos ah uga faa’iidaysto horumarrada caqliyeynta iyo qorshaynta ee noocyada ugu casrisan. Marka noocyada aasaasiga ahi sii xoogaystaan, weeraryahankuna si dabiici ah ayuu u sii karti badnaadaa—taasoo ka dhigaysa hab miisaan leh oo lagu sii hayo cadaadiska difaacyadeenna marka noocyadeennu isbeddelayaan.
3. Kordhinta xisaabinta iyo ku dayashada weeraryahannada la qabsada. Waxbarashadda xoojinta ahi waxay si fiican ugu habboon tahay kordhinta xisaabinta lagu bixiyo raadinta weerarro tiro badan oo muunadayn iyo tallaabooyin waxbarasho ah, waxayna sidoo kale si dhow uga tarjumaysaa sida weeraryahannada bini’aadamka ee la qabsada ay u dhaqmaan: iyagoo si ku-celis ah u tijaabiya xeelado, wax ka barta natiijooyinka, oo xoojiya habdhaqannada guuleysta.

Weeraryahankeenna otomaatiga ahi wuxuu ogaan karaa weerarro weerarka weydiinta ah oo cusub oo macquul ah dhammaad-ilaa-dhammaad. Si ka duwan inta badan shaqadii hore ee qiimeynta awoodda nidaamka ee otomaatiga ahayd, oo soo bandhigtay guuldarrooyin fudud sida soo saarista xarfo gaar ah ama kicinta hal wicitaan qalab oo aan la rabin oo uu sameeyo wakiilku, weeraryahankeena RL-ku tababaran wuxuu u leexin karaa wakiil inuu fuliyo socod-hawleedyo waxyeello leh oo heer sare ah oo muddadoodu dheer tahay kana dhacaya tobannaan (ama xataa boqollaal) tallaabo. Waxaan sidoo kale aragnay xeelado weerar oo cusub oo aan ka soo muuqan ololahayagii qiimeynta awoodda nidaamka ee bini’aadamka ama warbixinno dibadeed.

Muuqaalka hoose wuxuu soo bandhigayaa ka faa’iidaysi weerarka weydiinta ah oo la taaban karo oo uu helay weeraryahankeenna otomaatiga ahi, kaas oo aanu markaas u adeegsanay inaan sii adkayno difaacyada ChatGPT Atlas. Weeraryahanku wuxuu sanduuqa-galaha isticmaalaha ku beerayaa iimayl waxyeello leh oo ay ku jirto duritaan weydiin ah oo ku amraya wakiilka inuu warqad iscasilaad ah u diro agaasimaha guud ee isticmaalaha. Markii dambe, marka isticmaalehu ka codsado wakiilka inuu qoro jawaab maqnaansho xafiis, wakiilku wuxuu la kulmaa iimaylkaas inta lagu jiro fulinta caadiga ah ee hawsha, wuxuu ula dhaqmaa weydiinta la duray sidii mid amar leh, wuuna raacaa. Jawaabtii maqnaanshaha xafiiska lama qoro, wakiilkuna taa beddelkeeda wuu iscasilaa isagoo isticmaalaha u matalaya.

Dabeecadda weerarka weydiintu waxay ka dhigtaa dammaanadaha amni ee go’an kuwo adag, laakiin annagoo ballaarinayna cilmi-baaristayada amniga ee otomaatiga ah, tijaabinta lidka ah, iyo adkaynta wareeggayaga jawaab degdegga ah, waxaan awoodnaa inaan hagaajinno adkeysiga iyo difaacyada nooca - ka hor intaanan sugin in weerar ka dhaco meelaha furan.

Waxaan la wadaagaynaa muuqaalkan si aan uga caawinno isticmaaleyaasha iyo cilmi-baarayaasha inay si fiican u fahmaan dabeecadda weerarradan—iyo sida aan si firfircoon isaga difaacaynno. Waxaan aaminsanahay in tani ay ka dhigan tahay heerka ugu casrisan ee waxa qiimeynta awoodda nidaamka ee otomaatiga ahi gaadhi karto, aad ayaanna ugu faraxsanahay inaan sii wadno cilmi-baaristayada.

Qiimeynta awoodda nidaamka ee otomaatiga ahi waxay waddaa wareeg jawaab degdeg ah oo firfircoon: marka weeraryahanka otomaatiga ahi ogaado nooc cusub oo weerarro weerarka weydiinta ah oo guuleysta, wuxuu isla markiiba abuuraa bartilmaameed la taaban karo oo lagu hagaajinayo difaacyadeenna.

Si lid ah u tababarka ka dhanka ah weerarrada cusub ee la ogaaday. Waxaan si joogto ah u tababarnaa noocyo wakiil oo la cusboonaysiiyey iyagoo la tartamaya weeraryahankeenna otomaatiga ah ee ugu wanaagsan—annagoo mudnaanta siinayna weerarrada ay wakiillada la beegsanayo hadda ku fashilmaan. Ujeeddadu waa in la baro wakiillada inay iska indho tiraan tilmaamaha lidka ah oo ay la jaanqaadaan ujeeddada isticmaalaha, taas oo hagaajinaysa iska caabbinta xeeladaha cusub ee weerarka weydiinta ee la ogaaday. Tani waxay si toos ah ugu “gubtaa” adkaysiga weerarrada cusub ee xoogga sarreeya barta kaydinta nooca. Tusaale ahaan, qiimeyntii awoodda nidaamka ee otomaatiga ahayd ee dhowaan waxay si toos ah u soo saartay barta kaydinta cusub ee wakiilka biraawsarka ee si lid ah loo tababaray taas oo hore loogu baahiyey dhammaan isticmaaleyaasha ChatGPT Atlas. Tani ugu dambayn waxay si fiican uga ilaalisaa isticmaalayaasheenna noocyo cusub oo weerarro ah.

Isticmaalka raadadka weerarka si loo hagaajiyo lakabka difaaca ee ballaaran. Wadooyin badan oo weerar ah oo ay ogaadeen kooxdayada otomaatiga ah ee qiimeynta awoodda nidaamka waxay sidoo kale muujiyaan fursado lagu hagaajin karo meel ka baxsan nooca laftiisa—sida kormeerka, tilmaamaha badbaadada ee aan gelinno macnaha nooca, ama ilaalinnada heerka nidaamka. Natiijooyinkaasi waxay naga caawiyaan inaan ku celcelinno lakabka difaaca oo dhan, ma aha oo keliya barta kaydinta wakiilka.

Ka jawaabista weerarrada firfircoon. Wareeggani wuxuu sidoo kale gacan ka geysan karaa jawaab ka wanaagsan oo laga bixiyo weerarrada firfircoon ee ka jira meelaha furan. Markaan eegno raadkeenna caalamiga ah si aan u helno weerarro suuragal ah, waxaan qaadan karnaa farsamooyinka iyo xeeladaha aan ku aragno cadowyada dibadda oo adeegsanaya, ku quudin karnaa wareeggan, ku dayan karnaa hawlahooda, oo horseedi karnaa isbeddel difaac oo ka dhaca guud ahaan madalkeenna.

Xoojinta awooddeenna aan ku qiimeyno awoodda nidaamka ee wakiillada iyo adeegsiga noocyadeenna ugu awoodda badan si aan u otomaatig ka dhigno qaybo ka mid ah shaqadaas—waxay ka caawisaa wakiilka biraawsarka Atlas inuu sii adkaado iyada oo la ballaarinayo wareegga ogaanshaha-ilaa-hagaajinta. Dadaalkan adkayntu wuxuu xoojinayaa cashar amni oo la yaqaan: waddo si fiican loo maray oo loo maro ilaalin ka xooggan waa in si joogto ah cadaadis loogu saaro nidaamyo dhab ah, looga falceliyo guuldarrooyinka, oo loo soo saaro sixitaanno la taaban karo.

Waxaan filaynaa in cadowgu sii wadi doono la qabsiga. Weerarka weydiinta, sida khiyaamooyinka iyo injineernimada bulshada ee webka, uma badna in waligiis si buuxda “loo xalliyo”. Laakiin waxaan ku rajo weynahay in wareeg jawaab degdeg ah oo firfircoon oo aad u jawaab-celin badan uu sii wadi karo inuu si muuqata u yareeyo khatarta dunida dhabta ah muddo ka dib. Marka la isku daro ogaanshaha otomaatiga ah ee weerarrada, tababar lid ah, iyo ilaalinno heer nidaam ah, waxaan hore u aqoonsan karnaa qaabab cusub oo weerar, si dhakhso leh u xiri karnaa meelaha bannaan, oo si joogto ah u kordhin karnaa qiimaha ka faa’iidaysiga.

Habka wakiilka ee ChatGPT Atlas waa awood badan—waxayna sidoo kale ballaarisaa dusha hanjabaadda amniga. In si cad loo arko is-weydaarsigaas waa qayb ka mid ah dhisidda si masuuliyad leh. Yoolkeennu waa inaan Atlas ka dhigno mid si macno leh uga ammaan badan ku-celcelin kasta: annagoo hagaajinayna adkaysiga nooca, xoojinayna lakabka difaaca ee ku hareeraysan, oo kormeerayna qaababka xadgudubka ee soo baxaya meelaha furan.

Waxaan sii wadi doonnaa maalgelinta guud ahaan cilmi-baarista iyo hirgelinta, horumarinta habab ka wanaagsan oo otomaatig ah oo qiimeynta awoodda nidaamka ah, soo saarista yareynno lakabaysan, iyo ku celcelinta si dhakhso leh marka aan wax baranno. Waxa kale oo aan bulshada ballaaran la wadaagi doonnaa inta aan awoodno.

Iyadoo aan sii wadno xoojinta Atlas heerka nidaamka, waxaa jira tallaabooyin ay isticmaalayaashu qaadi karaan si loo yareeyo khatarta marka la isticmaalayo wakiillo.

Xaddid gelitaanka adigoo soo galay marka ay suurtagal tahay. Waxaan sii wadnaa inaan kula talinno isticmaaleyaasha inay ka faa’iidaystaan habka aan la soo gelin⁠(ku furmaa daaqad cusub) marka ay isticmaalayaan Agent gudaha Atlas mar kasta oo gelitaanka bogagga internetka ee aad ku soo gashay aanu muhiim u ahayn hawsha hortaalla, ama si loo xaddido gelitaanka goobo gaar ah oo aad ku soo gasho inta hawshu socoto.

Si taxaddar leh u eeg codsiyada xaqiijinta. Falalka qaarkood ee natiijo weyn leh, sida dhammaystirka iibsi ama dirista iimayl, wakiillada waxaa loogu talagalay inay ku weydiiyaan xaqiijintaada ka hor inta aanay sii wadin. Marka wakiilku ku waydiiyo inaad xaqiijiso fal, qaado daqiiqad si aad u hubiso in falku sax yahay iyo in xog kasta oo la wadaagayo ay ku habboon tahay macnahaas.

Sii wakiillada tilmaamo cad marka ay suurtagal tahay. Ka fogow weydiimo aad u ballaaran sida “dib u eeg iimaylladayda oo qaad tallaabo kasta oo loo baahan yahay.” Xorriyad ballaaran ayaa u sahlaysa nuxurka qarsoon ama waxyeellada leh inuu saameeyo wakiilka, xataa marka ilaalinno jiraan. Way ka ammaan badan tahay inaad ka codsato wakiilka inuu qabto hawlo gaar ah oo xadeysan. Inkastoo tani aysan gebi ahaanba meesha ka saarin khatarta, waxay ka dhigaysaa weerarrada kuwo adag in la fuliyo.

Haddii wakiilladu ay noqonayaan shuraako lagu kalsoonaan karo oo hawlaha maalinlaha ah, waa inay u adkaystaan noocyada faragelinta ee webka furan uu suurtageliyo. Adkaynta ka hortagga weerarka weydiinta waa ballanqaad muddo dheer ah waana mid ka mid ah mudnaantayada ugu sarreeya. Waxaan dhowaan wax badan ka wadaagi doonnaa shaqadan.