Kaarka Siistamka ee Sora

Sora waa nooca OpenAI ee soo saarista muuqaalka, waxaana loo qaabeeyay inuu qaato gelinno qoraal, sawir, iyo muuqaal ah, dabadeedna uu soo saaro muuqaal cusub oo natiijo ahaan ah. Isticmaalayaashu waxay abuuri karaan muuqaallo ilaa xallin 1080p ah (ugu badnaan 20 ilbiriqsi) oo qaabab kala duwan leh, waxay ka abuuri karaan wax cusub qoraal, ama way hagaajin, dib-u-qasin, oo isku dari karaan agabkooda. Isticmaalayaashu waxay sahamin doonaan qaybaha Featured iyo Recent oo soo bandhiga hal-abuurka bulshada kana siiya dhiirrigelin fikrado cusub. Sora waxay ku dhisan tahay casharro laga bartay DALL·E iyo noocyada GPT, waxaana loo qaabeeyay inay dadka siiso qalab ballaaran oo sheeko-sheegid iyo muujin hal-abuur leh.

Sora waa nooc faafin ah, kaas oo soo saara muuqaal isagoo ka bilaabaya muuqaal aasaasi ah oo u eg buuq taagan, kadibna si tartiib ah u beddela isaga oo buuqa ka saaraya tallaabooyin badan. Annagoo nooca siinayna aragti hore oo looxyada badan ah hal mar, waxaan xallinnay dhibaato adag oo ah in mawduucu isku mid ahaado xitaa marka uu si ku meel gaar ah uga baxo muuqaalka. Sida noocyada GPT, Sora waxay adeegsataa qaab-dhismeedka transformer, taas oo furaysa waxqabad miisaan-kordhin sare leh.

Sora waxay adeegsataa farsamada dib-u-qoraalka sharraxaadda ee DALL·E 3, taas oo ku lug leh soo saarista sharraxaado aad u faahfaahsan oo loogu talagalay xogta tabbabarka muuqaalka. Sidaas darteed, noocku wuxuu si ka daacad badan ugu raaci karaa tilmaamaha qoraalka ee isticmaalaha ee muuqaalka la soo saaray.

Marka laga soo tago awoodda lagu soo saari karo muuqaal si keliya looga ambaqaado tilmaamo qoraal ah, noocku wuxuu qaadan karaa sawir taagan oo jira wuxuuna ka soo saari karaa muuqaal, isagoo si sax ah oo fiiro u leh faahfaahinta yaryar u dhaqaajinaya waxa sawirka ku jira. Noocku sidoo kale wuxuu qaadan karaa muuqaal jira oo wuu dheereyn karaa ama buuxin karaa looxyada ka maqan⁠. Sora waxay aasaas u tahay noocyo fahmi kara oo ku dayi kara dunida dhabta ah, awood aan aaminsannahay inay noqon doonto marxalad muhiim u ah gaaritaanka AGI.

Awoodaha Sora waxay sidoo kale keeni karaan khataro cusub, sida suurtagalnimada si xun loogu adeegsado ekaanshaha ama loo abuuro muuqaal marin-habaabin ah ama qaawan. Si aan si badbaado leh ugu hawlgelinno Sora gudaha badeecad, waxaan ka faa’iideysannay casharro laga bartay shaqada badbaadada ee hawlgelinta DALL·E ee ChatGPT iyo API-ga, iyo yareynta badbaadada ee badeecooyinka kale ee OpenAI sida ChatGPT. Kaarka siistamkani wuxuu qeexayaa ururka yareynta ee ka dhashay, dadaallada dibadda ee qiimeynta awoodda nidaamka, qiimeynta, iyo cilmi-baarista socota ee lagu sii hagaajinayo ilaalimadan.

Sida lagu sharaxay warbixinteena farsamo⁠¹ ee Febraayo 2024, Sora waxay dhiirrigelin ka qaadataa noocyada luuqadda ballaaran ee yeesha awood guud kadib marka lagu tabbabaro xog baaxad internet ah. Guusha habka LLM waxaa qayb ahaan suurtageliya adeegsiga token oo si qurux badan u mideeya noocyo kala duwan oo qoraal ah—koodh, xisaab, iyo luuqado dabiici ah oo kala duwan. Sora, waxaan ka baaraan-degnay sida qaababka wax soo saarka ee xogta muuqaalka ay uga dhaxli karaan faa’iidooyinka noocaas ah. Halka LLM-yadu leeyihiin token qoraal ah, Sora waxay leedahay qaybo muuqaal ah. Qaybahani hore ayaa loo muujiyey inay yihiin matalaad wax-ku-ool ah oo loogu talagalay noocyada xogta muuqaalka. Waxaan ogaanay in qaybahu yihiin matalaad aad loo miisaami karo oo wax-ku-ool ah oo lagu tabbabaro qaababka wax soo saarka ee noocyo kala duwan oo muuqaal iyo sawirro ah. Heer sare ahaan, waxaan muuqaalada u beddelnaa qaybo annagoo marka hore ku cadaadineyna muuqaalada goob muuqaalkeedu hoos u qarsoon, kadibna matalaadda u kala jabineyna qaybo waqti-meeleed ah.

Sora waxaa lagu tababbarray xog-ururin kala duwan, oo ay ku jiraan isku-dar xog si guud loo heli karo, xog gaar loo leeyahay oo lagu helay iskaashi, iyo xog-ururin gaar ah oo guriga lagu sameeyay. Kuwani waxay ka kooban yihiin:

• Xog si xul ah loo heli karo si guud, inta badan laga soo ururiyay xog-ururinta barashada mashiinka ee heerka warshadda iyo gurguurashada webka.
• Xog gaar loo leeyahay oo ka timid iskaashiyada xogta. Waxaan sameynaa iskaashiyo si aan u helno xog aan si guud loo heli karin. Tusaale ahaan, waxaan Shutterstock⁠ Pond5 kala shaqeynay dhisidda iyo gaarsiinta sawirro AI-abuur ah. Waxaan sidoo kale iskaashi la sameynaa si aan u amranno una abuurno xog-ururin ku habboon baahideenna.
• Xogta aadanaha: Jawaab-celin ka timid tababbarayaasha AI, qiimeeyayaasha awoodda nidaamka, iyo shaqaalaha.

Marka laga soo tago yareynta la hirgeliyo ka dib wejiga hore ee tabbabarka, yareynta shaandhaynta wejiga hore ee tabbabarka waxay bixin kartaa lakab difaac oo dheeraad ah, kaas oo ay weheliyaan yareynaha kale ee badbaadada, ka caawiya in laga saaro xog aan la rabin oo waxyeello leh xirmooyinkeenna xogta. Ka hor tabbabarka, dhammaan xirmooyinka xogta waxay maraan habkan shaandhaynta ah, iyadoo laga saarayo waxyaabaha ugu qaawan, ugu rabshadda badan, ama si kale u nugul (tusaale ahaan, qaar ka mid ah astaamaha nacaybka), taas oo ballaarin u ah hababkii lagu shaandheeyay xogta aan ku tababbarnay noocyadeenna kale, oo ay ku jiraan DALL·E 2 iyo DALL·E 3.

Waxaan qaadannay hannaan adag si aan u fahamno labadaba si xun u isticmaalka suurtagalka ah iyo isticmaalka hal-abuurka ee dunida dhabta ah si ay nooga caawiso qaabeynta Sora iyo yareynta badbaadadeeda. Ka dib ogeysiiskii Sora ee Febraayo 2024, waxaan la shaqeynay boqolaal farshaxan-yaqaanno muuqaal ah, naqshadeeyayaal, iyo sameeyayaal filim oo ka kala yimid in ka badan 60 waddan si aan u helno jawaab-celin ku saabsan sida nooca looga dhigi karo mid ugu faa’iido badan xirfadlayaasha hal-abuurka. Waxaan sidoo kale diyaarinay tiro qiimeyn ah gudaha iyo qiimeeyayaal dibadeed si loo ogaado loona qiimeeyo khataraha, loona sii wanaajiyo badbaadadeenna iyo yareynta khatarta.

Ururka badbaadada ee Sora wuxuu ku dhisan yahay casharradan iyo yareynaha badbaado ee jira ee aan ka adeegsanno noocyo iyo badeecooyin kale sida DALL·E iyo ChatGPT, iyo sidoo kale yareyn gaar ah oo loo dhisay badeecaddeenna muuqaalka. Maadaama tani tahay qalab awood badan, waxaan qaadaneynaa hab soo noqnoqda oo badbaado, gaar ahaan meelaha ay macnaha guud muhiimka ka yahay ama aan ka filayno khataro cusub oo la xiriira muuqaalka. Tusaalooyinka habkeenna soo noqnoqda waxaa ka mid ah xaddididda gelitaanka isticmaalayaasha 18 jir ama ka weyn, xaddididda adeegsiga gelinta ekaansho/waji, iyo dejinta xuduudo dhexdhexaadin oo ka taxaddar badan marka la furayo ee weydiimaha iyo gelinta carruurta. Waxaan rabnaa inaan sii baranno sida dadku u isticmaalaan Sora oo aan sii hagaajino si aan ugu dheellitirno badbaadada annagoo sare u qaadeyna awoodda hal-abuurka ee isticmaalayaashayada.

OpenAI waxay la shaqeysay qiimeeyayaal dibadeed oo ku sugan sagaal waddan oo kala duwan si ay u tijaabiyaan Sora, u aqoonsadaan daciifnimada yareynta badbaadada, ugana bixiyaan jawaab-celin khataraha la xiriira awoodaha cusub ee badeecadda Sora. Qiimeeyayaashu waxay heleen adeegga Sora oo leh noocyo kala duwan oo yareyn badbaado ah iyo heerar kala duwan oo bisaylka siistamka ah laga bilaabo Sebtembar ilaa Diseembar 2024, iyagoo tijaabiyay in ka badan 15,000 oo soo-saaris. Dadaalkan qiimeynta awoodda nidaamka wuxuu ku dhisan yahay shaqo la qabtay horaantii 2024, markaas oo la tijaabiyay nooc Sora ah oo aan lahayn yareyn wax-soo-saar.

Qiimeeyayaashu waxay sahamiyeen khataro cusub oo suurtagal ah oo la xiriira nooca Sora iyo qalabka badeecadda, waxayna tijaabiyeen yareynta badbaadada intii la horumarinayay lana hagaajinayay. Ololayaashan qiimeyntu waxay dabooleen noocyo kala duwan oo waxyaabo xadgudub ah iyo kuwo aan la oggolayn ah (waxyaabo galmo iyo kacsi leh, rabshad iyo dhiig-bax, is-dhaawicid, waxyaabo sharci-darro ah, macluumaad khaldan/marin-habaab ah, iwm), xeelado iska-hor-imaad ah (labadaba weydiin iyo adeegsiga qalab/astaamo) si looga baxsado yareynta badbaadada, iyo sidoo kale sida qalabkan looga faa’iideysan karo si tartiib tartiib ah loogu wiiqo qalabka dhexdhexaadinta iyo ilaalinta. Qiimeeyayaashu sidoo kale waxay bixiyeen jawaab-celin ku saabsan aragtidooda Sora ee meelaha ay ka mid yihiin eexda iyo waxqabadka guud.

Waxaan sahaminay soo saarista qoraal-ilaa-muuqaal annagoo adeegsanayna weydiimo toos ah iyo xeelado weydiin oo iska-hor-imaad ah dhammaan qaybaha waxyaabaha kor lagu xusay. Awoodda gelinta warbaahinta waxaa lagu tijaabiyay noocyo badan oo sawirro iyo muuqaallo ah, oo ay ku jiraan dad caan ah, iyo qaybo badan oo waxyaabo ah si loo tijaabiyo awoodda lagu soo saari karo waxyaabo xadgudub ah. Waxaan sidoo kale tijaabinay isticmaalka kala duwan iyo isku-darka qalabka wax-ka-beddelka (storyboards, recut, remix, iyo blend) si loo qiimeeyo faa’iidadooda ee soo saarista waxyaabo mamnuuc ah.

Qiimeeyayaashu waxay aqoonsadeen indho-indheyn mudan in la xuso oo la xiriirta noocyo gaar ah oo waxyaabo mamnuuc ah iyo xeelado guud oo iska-hor-imaad ah. Tusaale ahaan, qiimeeyayaashu waxay ogaadeen in adeegsiga weydiimo qoraal leh xaalado caafimaad ama jawiyo mala-awaal saynis/fantasiyadeed ay wiiqeen ilaalintii ka hortagga soo saarista waxyaabo kacsi iyo galmo leh ilaa yareyn dheeraad ah la sameeyay. Qiimeeyayaashu waxay adeegsadeen xeelado iska-hor-imaad ah si ay uga gudbaan qaybo ka mid ah ururka badbaadada, oo ay ku jiraan weydiimo soo jeedin leh iyo adeegsiga sarbeeb si looga faa’iideysto awoodda gunaanadka ee nooca. Isku dayo badan kadib, waxay garan kareen isbeddello ku saabsan weydiimaha iyo ereyada kicin lahaa ilaalinta, waxayna tijaabin kareen weedho iyo ereyo kala duwan si ay uga fogaadaan diidmooyinka. Ugu dambayn, qiimeeyayaashu waxay dooran jireen soo-saarka ugu walaaca badan si ay ugu adeegsadaan warbaahin abuur ahaan loogu sii horumariyo waxyaabo xadgudub ah oo aan lagu samayn karin farsamooyinka hal-weydiin. Farsamooyinka jebinta xayiraadda mararka qaarkood waxay noqdeen kuwo wax-ku-ool ah oo wiiqa siyaasadaha badbaadada, taas oo noo oggolaatay inaan ilaalimadan sii hagaajinno.

Qiimeeyayaashu sidoo kale waxay tijaabiyeen gelinta warbaahinta iyo qalabka Sora (storyboards, recut, remix, iyo blend) iyagoo adeegsanaya sawirro si fagaare ah loo heli karo iyo warbaahin AI-abuur ah. Tani waxay muujisay daldaloolo ka jira shaandhaynta gelinta iyo soo-saarka oo u baahnaa in la adkeeyo ka hor sii-deynta Sora, waxayna gacan ka geysatay hagaajinta ilaalinta gelinta warbaahinta oo ay ku jiraan dadka. Tijaabintu sidoo kale waxay muujisay baahida loo qabo shaandhayn kala-sooceed oo ka xoog badan si loo yareeyo khatarta ah in gelin warbaahineed oo aan xadgudub ahayn loo beddelo waxyaabo kacsi mamnuuc ah, rabshad, ama deepfake.

Jawaab-celinta iyo xogta ay soo saareen qiimeeyayaashu waxay suurto geliyeen abuurista lakabyo dheeraad ah oo yareynta badbaadada ah iyo hagaajin lagu sameeyo qiimeynihii badbaado ee jiray, kuwaas oo lagu sharxay qaybaha Meelaha Khatarta Gaarka ah iyo Yareynta. Dadaalladani waxay noo saamaxeen hagaajin dheeraad ah oo ku saabsan shaandhaynta weydiimaha, liisaska mamnuucidda, iyo xuduudaha kala-soocayaasha si loo xaqiijiyo in noocku waafaqsan yahay yoolalka badbaadada.

Sagaalkii bilood ee la soo dhaafay, waxaan la soconnay jawaab-celinta isticmaaleyaasha ee ka timid 500,000+ codsi nooc ah oo ay sameeyeen 300+ isticmaale oo ka kala yimid 60+ waddan. Xogtan waxay hagaysay horumarinta dabeecadda nooca iyo u hoggaansanaanta nooca ee hab-raacyada badbaadada. Tusaale ahaan, jawaab-celinta fanaaniintu waxay naga caawisay inaan fahamno xaddidaadaha calaamad-biyood muuqata ay ku leedahay hab-socodkooda shaqo, taas oo saameysay go’aankeenna ah inaan u oggolaanno isticmaaleyaasha lacagta bixiya inay soo dejistaan faylasha muuqaalka iyaga oo aan lahayn calaamad-biyoodka muuqda, iyadoo weli lagu dhex darayo xogta C2PA.

Barnaamijkan gelitaanka hore wuxuu sidoo kale na baray in haddii Sora loogu talagalay inay noqoto qalab ballaaran oo loogu talagalay sheeko-sheegid iyo muujin hal-abuur leh, ay naga rabto inaan siino fannaaniinta dabacsanaan badan meelaha xasaasiga ah qaarkood oo aan si ka duwan ugu maareyn lahayn qalab guud oo ujeeddo badan sida ChatGPT. Waxaan filaynaa in fanaaniin, sameeyayaal filim madax-bannaan, istuudiyayaal, iyo ururro kale oo ka tirsan warshadaha madadaalada ay u adeegsadaan Sora qayb muhiim ah oo ka mid ah habraacyadooda horumarineed. Isla waqtigaas, aqoonsiga labadaba kiisaska isticmaalka wanaagsan iyo si xun u isticmaalka suurtagalka ah ayaa noo oggolaaday inaan go’aamino meelaha loo baahan yahay yareyn adag oo heer-badeecadeed ah si loo yareeyo khatarta waxyeello ama si xun u isticmaalid.

Waxaan diyaarinay qiimeyn gudaha ah oo bartilmaameedsaneysa meelaha muhiimka ah, oo ay ku jiraan qaawanaanta, waxyaabaha marin-habaabinta doorashooyinka, is-dhaawicid, iyo rabshad. Qiimeyntan waxaa loo naqshadeeyay inay taageerto hagaajinta yareynta isla markaana naga caawiso dejinta xuduudaha dhexdhexaadinta. Qaab-dhismeedka qiimeyntu wuxuu isku daraa weydiimaha gelinta ee la siiyo nooca soo saarista muuqaalka iyo kala-soocayaasha gelinta iyo soo-saarka ee lagu dabaqo weydiimaha la beddelay ama muuqaalada ugu dambeeya ee la soo saaray.

Weydiimaha gelinta ee qiimeyntan waxaa laga keenay saddex waddo oo waaweyn: xog la ururiyey inta lagu jiray marxaladdii hore ee alfa (sida lagu qeexay Qaybta 3.2), tusaalooyin iska-hor-imaad ah oo ay bixiyeen tijaabiyeyaasha qiimeynta awoodda nidaamka (lagu xusay Qaybta 3.1), iyo xog macmal ah oo la sameeyey iyadoo la adeegsanayo GPT‑4. Xogta marxaladda alfa waxay bixisay aragti ku saabsan xaaladaha isticmaalka dunida dhabta ah, ka-qaybgalka kooxda qiimeynta awoodda nidaamka wuxuu naga caawiyay inaan helno waxyaabo iska-hor-imaad ah iyo xaalado daraf ah, halka xogta macmalka ahi ay noo saamaxday inaan ballaarinno xirmooyinka qiimeynta meelaha sida waxyaabaha kacsi leh ee aan ula kac ahayn, halkaas oo tusaalooyinka si dabiici ah u dhaca ay yar yihiin.

Qaab-dhismeedka diyaar-garowga waxaa loogu talagalay in lagu qiimeeyo in awoodaha nooc ugu casriyeysan ay keenaan khataro waaweyn afar qaybood oo la dabagalo: qancin, amniga internetka, CBRN (kiimiko, bayooloji, shucaac, iyo nukliyeer), iyo ismaamulida nooca. Ma hayno caddayn muujinaysa in Sora ay khatar weyn ku leedahay amniga internetka, CBRN, ama ismaamulida nooca. Khatarahani waxay si dhow ugu xiran yihiin noocyo la falgala nidaamyada kombiyuutarka, aqoonta sayniska, ama go’aan-qaadasho iskeed ah, kuwaas oo dhammaantood hadda ka baxsan baaxadda Sora maadaama ay tahay qalab soo saarista muuqaalka.

Awoodaha soo saarista muuqaalka ee Sora waxay keeni karaan khatar suurtagal ah oo ka timaadda qancinta, sida khataraha iska dhigista qof kale, macluumaad khaldan, ama handasa bulshada. Si wax looga qabto khatarahan, waxaan diyaarinay urur yareyn ah oo lagu sharaxay qaybaha hoose. Kuwaas waxaa ka mid ah yareyn loogu talagalay inay ka hortagaan soo saarista ekaanshaha dadka caanka ah ee si weyn loo yaqaan. Intaa waxaa dheer, maadaama macnaha guud iyo aqoonta ah in muuqaal uu dhab yahay ama AI-abuur yahay ay muhiim u noqon karaan go’aaminta sida uu u qancin karo muuqaal la soo saaray, waxaan diiradda saarnay dhisidda hab asalka oo lakabyo badan leh, oo ay ku jiraan metadata, calaamad-biyood, iyo far-ku-yaalayn.

Marka lagu daro khataraha gaarka ah iyo yareynta hoos lagu aqoonsaday, doorashooyinka lagu sameeyay tabbabarka, naqshadeynta badeecadda, iyo siyaasadaha Sora waxay si ballaaran uga caawiyaan yareynta khatarta waxyeellada leh ama soo-saarka aan la rabin. Kuwan guud ahaan waxaa loo abaabuli karaa yareyn farsamo oo heer siistam iyo heer nooc ah, iyo sidoo kale siyaasadaha badeecadda iyo wacyigelinta isticmaalaha.

Hoos waxaan ku faahfaahineynaa noocyada ugu waaweyn ee yareynta badbaadada ee aan dejinnay ka hor inta aan isticmaalaha la tusin natiijada uu codsaday:

Dhexdhexaadinta qoraalka iyo sawirka iyada oo loo marayo kala-soocaha dhexdhexaadinta noocyo badan

Kala-soocaha dhexdhexaadinta noocyo badan ee awood siiya Moderation API-gayaga dibadda waxaa lagu dabaqaa in lagu aqoonsado weydiimaha qoraal, sawir, ama muuqaal ee laga yaabo inay jebiyaan siyaasadaheenna isticmaalka, labadaba gelinta iyo soo-saarka. Weydiimaha xadgudubka ah ee siistamku ogaado waxay keeni doonaan diidmo. Halkan wax badan uga baro Moderation API-geenna noocyo badan⁠.²

Shaandhayn LLM oo gaar loo habeeyey

Mid ka mid ah faa’iidooyinka tiknoolajiyada soo saarista muuqaalka waa awoodda lagu sameyn karo hubin dhexdhexaadin oo aan isku mar ahayn iyada oo aan dib u dhac lagu darin waayo-aragnimada guud ee isticmaalaha. Maaddaama soo saarista muuqaalka ay dabiici ahaan qaadato dhowr ilbiriqsi si loo farsameeyo, daaqaddan waqtiga ah waxaa loo adeegsan karaa in lagu socodsiiyo hubinno dhexdhexaadin oo si sax ah loo bartilmaameedsaday. Waxaan gaar u habeynay GPT‑gayaga si aan u gaarno saxnaan sare ee dhexdhexaadinta mowduucyo gaar ah, oo ay ku jiraan aqoonsiga waxyaabaha dhinac saddexaad iyo sidoo kale waxyaabaha marin-habaabinta ah.

Shaandhooyinku waa noocyo badan: gelinta sawir/muuqaal, weydiimaha qoraalka, iyo soo-saarkuba dhammaantood waxay ku jiraan macnaha guud ee wicitaan kasta oo LLM ah. Tani waxay noo oggolaaneysaa inaan ogaanno isku-darrooyinka jebinaya xeerarka ee u dhexeeya sawirka iyo qoraalka.

Kala-soocayaasha soo-saarka sawirka

Si wax looga qabto waxyaabaha waxyeellada leh ee si toos ah uga muuqda soo-saarka, Sora waxay adeegsataa kala-soocayaal soo-saar, oo ay ku jiraan shaandhooyin khaas ah oo loogu talagalay waxyaabaha NSFW, carruurta, rabshadda, iyo si xun u adeegsiga suurtagalka ah ee ekaanshaha. Sora waxay xannibi kartaa muuqaallada ka hor inta aan lala wadaagin isticmaalaha haddii kala-soocayaashan la kiciyo.

Liisaska mamnuucidda

Waxaan haynaa liisas mamnuucid qoraal ah oo ka kooban qaybo kala duwan, kuwaas oo ku saleysan shaqadeennii hore ee DALL·E 2 iyo DALL·E 3, ogaanshaha khatarta ee firfircoon, iyo natiijooyinka isticmaalayaashii hore.

Marka laga soo tago ilaalinta aan ku dhex dhisnay nooca iyo siistamka si looga hortago soo saarista waxyaabaha xadgudubka ah, waxaan sidoo kale qaadeynaa tallaabooyin dheeraad ah si loo yareeyo khatarta si xun u isticmaalka. Hadda waxaan Sora siinaynaa oo keliya isticmaaleyaasha jira 18 sano ama ka weyn, waxaana ku dabaqeynaa shaandhooyin dhexdhexaadin ah waxyaabaha lagu muujiyo qaybaha Explore iyo Featured.

Waxaan sidoo kale si cad ugu gudbineynaa habraacyada siyaasadda iyada oo loo marayo waxbarasho gudaha badeecadda ku jirta iyo mid si guud loo heli karo oo ku saabsan:

• Adeegsiga ekaanshaha qof kale oggolaansho la’aantiis, iyo mamnuucidda muujinta carruurta dhabta ah;
• Abuurista waxyaabo sharci-darro ah ama waxyaabo jebiya xuquuqda hantida aqooneed;
• Soo saarista waxyaabo qaawan oo waxyeello leh, sida sawirro dhow oo aan oggolaansho lahayn, waxyaabo loo adeegsado cagajugleyn, dhibaatayn, ama sumcad-dil, ama waxyaabo loogu talagalay inay dhiirrigeliyaan rabshad, nacayb, ama silicda dadka kale; iyo
• Abuurista iyo faafinta waxyaabo loo adeegsado khiyaano, khiyaameyn, ama marin-habaabinta dadka kale.

Qaar ka mid ah noocyadan si xun u isticmaalka ah waxaa wax looga qabtaa iyada oo loo marayo noockeenna iyo yareynta siistamka, laakiin kuwo kale waxay aad ugu xiran yihiin macnaha guud—muuqaal mudaaharaad ah waxaa loo adeegsan karaa dadaallo hal-abuur oo sharci ah, laakiin isla muuqaalkaas marka loo soo bandhigo sidii dhacdo dhab ah oo hadda jirta waxaa sidoo kale loo wadaagi karaa marin-habaabin haddii lala socdaan sheegashooyin kale.

Sora waxaa loo qaabeeyay inay dadka siiso awood ay ku muujiyaan fikrado iyo aragtiyo hal-abuur leh oo kala duwan. Ma ahan wax macquul ah ama lagu talin karo in laga hortago nooc kasta oo waxyaabo macnaha guud ahaan dhibaato leh.

Waxaan dadka siinnaa awood ay ku soo sheegaan⁠ muuqaalada Sora ee ay u maleynayaan inay jebin karaan xeerarkeena, annagoo adeegsaneyna otomaatig iyo dib-u-eegis bini’aadan si firfircoon loogu kormeero qaababka isticmaalka. Waxaan dhisnay hannaan fulineed oo lagu saaro muuqaalada xadgudubka ah laguna ciqaabo isticmaaleyaasha. Marka isticmaalayaashu jebiyaan xeerarkeena, waan ogeysiin doonnaa waxaananna siin doonnaa fursad ay noogu sheegaan waxa ay u arkaan cadaalad. Waxaan dooneynaa inaan raadraacno waxtarka yareyntan oo aan waqti ka dib sii hagaajinno.

Marka laga soo tago tallaabooyinka guud ee badbaadada ee kor ku xusan, tijaabinta hore iyo qiimeyntu waxay gacan ka geysteen aqoonsiga dhowr meelood oo mudnaan gaar ah leh oo badbaado.

OpenAI waxay si qoto dheer uga go’an tahay wax ka qabashada⁠³ khataraha badbaadada carruurta, waxaana mudnaanta siinnaa ka hortagga, ogaanshaha, iyo soo sheegista waxyaabaha Child Sexual Abuse Material⁠(ku furmaa daaqad cusub) (CSAM (Agab Xadgudubka Galmada ee Carruurta ah)) dhammaan badeecooyinkeenna, oo ay ku jirto Sora. Dadaallada OpenAI ee dhinaca badbaadada carruurta waxaa ka mid ah helitaanka xog-ururinteena si masuuliyad leh si looga ilaaliyo CSAM, la-shaqeynta National Center for Missing & Exploited Children (NCMEC) si looga hortago xadgudubka galmada ee carruurta loogana ilaaliyo carruurta, sameynta qiimeynta awoodda nidaamka si waafaqsan talooyinka Thorn iyo u hoggaansanaanta xaddidaadaha sharciga, iyo baaritaan adag oo CSAM ah oo lagu sameeyo dhammaan gelinnada iyo soo-saarka. Tani waxaa ka mid ah baaritaanka isticmaaleyaasha tooska ah iyo kuwa dhinac saddexaad (API iyo Enterprise) haddii aanay macaamiishu buuxin shuruudo adag oo looga saarayo baaritaanka CSAM. Si looga hortago soo saarista CSAM, waxaan dhisnay urur badbaado oo adag, annagoo ka faa’iideysanayna yareynta siistamka aan ka adeegsanno badeecooyinkeenna kale sida ChatGPT iyo DALL·E⁴ iyo sidoo kale kabaalyo dheeraad ah oo aan si gaar ah ugu dhisnay Sora.

Kala-soocayaasha Gelinta

Badbaadada Carruurta darteed waxaan ka faa’iideysannaa 3 yareyn oo kala duwan oo gelin ah oo ku baahsan qoraal, sawir, iyo gelinta muuqaalka:

• Dhammaan gelinnada sawirka iyo muuqaalka, waxaan ku dhex darnaa Safer, oo ay samaysay Thorn, si loo ogaado isbarbardhigyada la leh CSAM la yaqaan. Isbarbardhigyada la xaqiijiyay waa la diidaa waxaana loo soo sheegaa NCMEC. Intaa waxaa dheer, waxaan adeegsannaa kala-soocaha CSAM ee Thorn si loo aqoonsado waxyaabaha cusub ee CSAM ee aan weli hash-gareysnayn.
• Waxaan ka faa’iideysannaa kala-soocaha dhexdhexaadinta noocyo badan si loo ogaado loona dhexdhexaadiyo wax kasta oo galmo ah oo ku lug leh carruur iyada oo loo marayo gelinta qoraal, sawir, iyo muuqaal.
• Sora, waxaan u samaynay kala-soocaha falanqeeya qoraalka iyo sawirrada si loo saadaaliyo in qof ka yar 18 sano la muujiyay ama in cinwaanka la socda uu tixraacayo ilmo. Waxaan diidnaa codsiyada sawir-ilaa-muuqaal ee ka kooban shakhsiyaad ka yar 18. Haddii qoraal-ilaa-muuqaal lagu go’aamiyo inuu ku saabsan yahay ka yar 18, waxaan ku dabaqnaa xuduudo aad uga adag dhexdhexaadinta la xiriirta waxyaabaha galmada, rabshadda, ama is-dhaawicidda.

Hoos waxaa ku qoran qiimeynteenna kala-soocaha ka yar 18 ee bini’aadamka. Waxaan qiimeynaa kala-soocahayaga ee diidmada shakhsiyaadka ka yar 18 ee muuqaal ahaan dhab ah ku jira xog-ururin ay ku jiraan ku dhowaad 5000 sawir oo ku kala jira qaybaha [ilmuhu | qof weyn] iyo [dhab ah | mala-awaal]. Mawqifkeenna siyaasadeed waa inaan diidno carruurta dhabta ah, annagoo oggolaanayna sawirrada mala-awaalka ah oo ay ku jiraan kuwa dhaqaaqa, kartoonka, ama qaabka sawir-gacmeedka, haddii aanay galmo ahayn. Waxaan qaadannay hab taxaddar leh oo ku saabsan waxyaabaha ku lug leh carruurta, waxaana sii wadi doonnaa qiimeynta habkeenna inta aan wax badan ka baraneyno isticmaalka badeecadda oo aan helayno dheellitirka saxda ah ee u dhexeeya oggolaanshaha muujinta hal-abuurka iyo badbaadada.

Hadda, kala-soocayaasheenna aad bay u saxan yihiin, laakiin mararka qaarkood waxay si qalad ah u calaamadeyn karaan dadka waaweyn ama sawirrada carruurta ee aan dhab ahayn. Intaa waxaa dheer, waxaan qirsannahay in daraasadaha iyo qoraallada jira ay muujinayaan suuragalnimada in noocyada saadaalinta da’du ay muujiyaan eex isir. Tusaale ahaan, noocyadani waxay si nidaamsan u yareyn karaan qiyaasta da’da shakhsiyaadka ka socda kooxo isir oo gaar ah.⁵ Waxaan ka go’annahay kor u qaadista waxqabadka kala-soocahayaga, yaraynta calaamadeynta khaldan ee togan, iyo qoto dheereynta fahamkeenna eexaha suurtagalka ah bilaha soo socda.

Soo-saarka

Sida kor lagu sheegay, marka aan aqoonsanno tixraac carruurta ah oo ku jira gelinta qoraalka anagoo adeegsanayna kala-soocahayaga ka yar 18 jirka, waxaan ku dabaqnaa xuduudo adag oo dhexdhexaadin ah oo la xiriira waxyaabaha galmada, rabshadda, ama is-dhaawicidda ee soo-saarka. Hoos waxaa ku qoran labada kala-sooce ee soo-saarka ee aan u adeegsanno tan:

• Kala-soocaha dhexdhexaadinta noocyo badan oo baaraya soo-saarka muuqaalada aan ammaan ahayn kana diida codsiyada laga yaabo inay si gaar ah xasaasi u yihiin
• Waxaan sidoo kale ka faa’iideysaneynaa kala-soocaha sawirrada ee DALL·E ee jira si aan u baarno xadgudubyada la xiriira badbaadada carruurta.

Kala-soocayaashayada soo-saarku waxay baarayaan 2 loox ilbiriqsikii, marka muuqaal lagu go’aamiyana inuusan ammaan ahayn waxaan xannibnaa soo-saar kasta.

Marka laga soo tago kala-soocayaashayada iyo dhexdhexaadinta otomaatiga ah, waxaan yeelan doonnaa dib-u-eegis bini’aadan ah oo noqota lakab dheeraad ah oo ilaalin ah oo ka dhan ah xadgudubyada suurtagalka ah ee badbaadada carruurta.

Siyaasadda Alaabta

Siyaasadeennu waxay mamnuucaan isticmaalka Sora si loo abuuro waxyaabo galmo oo ku lug leh carruur. Ku xadgudubka siyaasadaheenna badbaadada carruurta wuxuu keeni karaa in waxyaabaha la saaro iyo in isticmaalaha la mamnuuco.

Mid ka mid ah meelaha khatarta ee soo baxaya ee la xiriira awoodaha soo saarista muuqaalka AI waa suuragalnimada abuurista waxyaabaha NSFW (aan ku habboonayn goobta shaqada) ama NCII (sawirro dhow oo aan oggolaansho lahayn). Si la mid ah habka DALL·E, Sora waxay adeegsataa istaraatijiyad dhexdhexaadin oo heerar badan leh si loo xannibo waxyaabaha qaawan. Kuwaas waxaa ka mid ah beddellada weydiimaha, kala-soocayaasha soo-saarka sawirka, iyo liisaska mamnuucidda, kuwaas oo dhammaantood ka qayb qaata siistam xaddidaya waxyaabaha soo jeedinta leh, gaar ahaan soo-saarka ku habboon da’da. Xuduudaha kala-soocayaasheennu way ka adagyihiin gelinta sawirrada marka loo eego weydiimaha ku saleysan qoraalka.

Muuqaallada lagu muujiyo qaybta Explore waxaa sii mara shaandhayn leh xuduudo aad loo adkeeyey si loo beegsado waayo-aragnimo daawasho oo ku habboon dhagaystayaal ballaaran.

Hoos waxaa ku qoran natiijooyinka qiimeynteenna ee qaawanaanta iyo waxyaabaha soo jeedinta leh, kuwaas oo ujeeddadoodu tahay qiimeynta waxtarka yareyn heerar badan leh ee gelinta iyo soo-saarka. Iyadoo lagu saleynayo waxa la helay, waxaan dib u habeyn ku sameynay xuduudaheenna waxaana ku dabaqnay dhexdhexaadin aad u adag sawirrada leh gelinno ay ku jiraan dad.

Siyaasadda Alaabta

Siyaasadeennu waxay mamnuucaan isticmaalka Sora si loo abuuro waxyaabo galmo oo qaawan, oo ay ku jiraan sawirro dhow oo aan oggolaansho lahayn. Ku xadgudubka siyaasadahaas wuxuu keeni karaa in waxyaabaha la saaro iyo in isticmaalaha lagu ciqaabo.

Si Xun u Adeegsiga Ekaanshaha iyo Deepfake-yada Waxyeellada Leh

Kormeeraha dhexdhexaadinta ee Sora ee weydiimaha ku saleysan ekaanshaha waxaa loogu talagalay inuu calaamadeeyo waxyaabaha deepfake ee suuragalka ah inay waxyeello leeyihiin, iyadoo looga gol leeyahay in muuqaallada ay ku jiraan shakhsiyaad la garan karo si dhow loo eego. Shaandhada Si Xun u Adeegsiga Ekaanshaha waxay sidoo kale sii calaamadeysaa weydiimaha isku daya inay wax ka beddelaan ama muujiyaan shakhsiyaad siyaabo suuragal ah inay waxyeello leeyihiin ama marin-habaabin ah. Beddellada guud ee weydiimaha ee Sora waxay sii yareeyaan khatarta ah in Sora ay soo saarto ekaansho aan la rabin oo qof gaar ah ah oo ku saleysan weydiin ay ku jirto magaca qof.

Waxyaabaha Marin-habaabinta ah

Kala-soocayaasha gelinta iyo soo-saarka ee Sora waxaa loogu talagalay inay ka hortagaan soo saarista waxyaabaha marin-habaabinta ah ee la xiriira doorashooyinka ee muujinaya falal khiyaano ah, anshax-darro ah, ama si kale sharci-darro u ah. Cabbirrada qiimeynta ee Sora waxaa ka mid ah kala-soocayaal calaamadeeya farsamooyinka qaabka ama shaandhada ee abuuri kara muuqaallo marin-habaabin ah marka ay doorashooyin la xiriiraan, taas oo yareyneysa khatarta si xun loogu adeegsado dunida dhabta ah.

Hoos waxaa ku qoran qiimeynta shaandhadayada LLM ee waxyaabaha marin-habaabinta doorashooyinka, oo diiradda saaraysa caawinta aqoonsiga xaaladaha laga yaabo inay jirto ujeeddo lagu abuurayo waxyaabo mamnuuc ah iyada oo loo marayo gelinno kala duwan (tusaale, qoraal iyo muuqaal). Siistamkeennu sidoo kale wuxuu baarayaa 1 loox ilbiriqsikii oo ka mid ah muuqaalka soo-saarka si loo qiimeeyo xadgudubyada suurtagalka ah ee soo-saarka.

Maalgelinno ku Saabsan Asalka

Maadaama khataro badan oo la xiriira Sora, sida waxyaabaha deepfake ee waxyeellada leh, ay si weyn ugu xiran yihiin macnaha guud, waxaan mudnaanta siinay xoojinta qalabkeenna asalka. Waxaan aqoonsannahay inaanay jirin hal xal oo keliya oo asalka ah, balse waxaan ka go’annahay hagaajinta nidaamka asalka iyo caawinta dhismaha macnaha guud iyo hufnaanta waxyaabaha laga sameeyay Sora.

Marka si guud loo helo, qalabkeenna badbaadada asalka wuxuu ka koobnaan doonaa:

• Metadata C2PA oo ku jirta dhammaan agabka (asal la xaqiijin karo, heer warshadeed)
• Calaamad-biyood muuqata oo dhaqaaqeysa oo Sora ah si caadi ah (hufnaan loogu sheegayo daawadayaasha in tani tahay ‘AI’)
• Qalab gudaha ah oo dib-u-raadinta muuqaalka ah, si uu uga caawiyo xubnaha kooxda Intelligence & Investigation ee OpenAI inay si kalsooni sare leh u qiimeeyaan haddii waxyaabo uu sameeyay Sora

Siyaasadda Alaabta

Siyaasadeennu waxay mamnuucaan isticmaalka Sora si dadka kale loo khiyaaneeyo, loo qaldo, ama loo marin-habaabiyo, oo ay ku jirto abuurista iyo faafinta marin-habaabinta. Waxay sidoo kale mamnuucaan isticmaalka ekaanshaha qof kale oggolaansho la’aantiis. Ku xadgudubka siyaasadahaas wuxuu keeni karaa in waxyaabaha la saaro iyo in isticmaalaha lagu ciqaabo.

Marka isticmaale uu adeegsado magaca farshaxan-yahan nool weydiin gudaheeda, noocku wuxuu soo saari karaa muuqaal si uun ugu eg habka shaqooyinka farshaxan-yahankaas. Hal-abuurka waxaa muddo dheer ka jiray dhaqan ah in laga dhiso hababka farshaxan-yahannada kale, balse waxaan fahamsannahay in hal-abuurayaal qaarkood ay arrintan ka walaaci karaan. Waxaan doorannay inaan qaadanno hab taxaddar badan leh noocan Sora ah inta aan wax badan ka baraneyno sida bulshada hal-abuurku u isticmaasho Sora. Si arrintan wax looga qabto, waxaan ku darnay dib-u-qoris weydiin ah oo loogu talagalay inay shaqeyso marka isticmaale isku dayo inuu abuuro muuqaal ku jira habka farshaxan-yahan nool.

Sida badeecooyinkeenna kale, Tifaftiraha Sora wuxuu adeegsadaa LLM (Qaabka Luuqadda Ballaaran) si uu dib ugu qoro qoraalka la gudbiyey, si ay u fududaato in Sora si wax-ku-ool ah loo weydiiyo. Habkani wuxuu dhiirrigeliyaa u hoggaansanaanta xeerarkeena, oo ay ku jiraan ka saarista magacyada dadka caanka ah, xog ku saleynta xaqiijinta dadka leh sifooyin gaar ah, iyo sharraxidda walxaha summadaysan si guud. Waxaan haynaa liisas mamnuucid qoraal ah oo ka kooban qaybo kala duwan, kuwaas oo ku saleysan shaqadeennii hore ee DALL·E 2 iyo DALL·E 3, ogaanshaha khatarta ee firfircoon, iyo natiijooyinka ka yimid qiimeynta awoodda nidaamka iyo isticmaalayaashii hore.

OpenAI waxay adeegsataa istaraatijiyad hawlgelin soo noqnoqota si loo xaqiijiyo sii-deyn mas’uuliyad leh oo wax-ku-ool ah oo badeecooyinkeeda ah. Habkani wuxuu isku daraa sii-deyn wejiyo leh, tijaabin socota, iyo kormeer joogto ah oo lala socdo jawaab-celinta isticmaalaha iyo xogta dunida dhabta ah si waqti ka dib loo sii hagaajiyo waxqabadkeenna iyo yareynta badbaadada. Hoos waxaa ku qoran taxane shaqooyin ah oo aan qorsheyneyno inaan qabanno qayb ka ah hawlgelinta soo noqnoqota ee Sora.

Awoodda lagu soo saari karo muuqaal iyadoo “abuur” ahaan loo adeegsanayo sawir ama muuqaal la geliyey oo qof dhab ah ah waa marin suurtagal u ah si xun u isticmaalid, waana arrin aan si gaar ah ugu qaadaneyno hab tartiib-tartiib ah si aan uga baranno qaababka hore ee isticmaalka. Jawaab-celinta hore ee fanaaniinta waxay muujineysaa in tani tahay qalab hal-abuur leh oo xooggan oo ay qiimeeyaan, balse iyadoo la tixgelinayo suuragalnimada xadgudubka, bilowga kama dhigayno mid u furan dhammaan isticmaalayaasha. Halkii, iyadoo la raacayo hab-dhaqankeenna hawlgelinta soo noqnoqota, awoodda lagu gelin karo sawirro ama muuqaallo dad ah waxaa loo heli doonaa koox yar oo isticmaaleyaal ah, waxaanan dejin doonnaa kormeer firfircoon oo qoto dheer si aan u fahamno qiimaheeda bulshada Sora iyo si aan ugu hagaajinno habkeenna badbaadada inta aan wax ka baraneyno. Gelinno ay ku jiraan sawirrada carruurta looma oggolaan doono inta lagu jiro tijaabadan.

Noocyada mustaqbalka ee Sora waxay sii xoojin doonaan raadraaca iyagoo adeegsanaya cilmi-baaris ku saabsan qalabka raadinta dib-u-embeding-ka iyo sii wadista hirgelinta tallaabooyinka hufnaanta sida C2PA. Waxaan ku faraxsanahay inaan sahaminno iskaashi suurtagal ah oo lala yeesho NGO-yo iyo ururro cilmi-baaris si loo kobciyo loona hagaajiyo nidaamka asalka loona tijaabiyo qalabkeenna gudaha ee dib-u-raadinta sawirka ee Sora.

Waxaan ka go’annahay dhimista eexaha suurtagalka ah ee soo-saarka annagoo adeegsanayna hagaajinta weydiimaha, wareegyada jawaab-celinta, iyo aqoonsiga joogtada ah ee yareyn wax-ku-ool ah—annagoo garaneyna in sixid xad-dhaaf ah ay si la mid ah waxyeello u yeelan karto. Waxaan qirsannahay caqabadaha sida eexda muuqaalka jirka iyo matalaadda tirakoobka dadka, waxaana sii wadi doonnaa hagaajinta habkeenna si aan u xaqiijino soo-saar dheellitiran oo loo dhan yahay.

OpenAI waxay qorsheyneysaa inay sii waddo qiimeyn joogto ah oo ku saabsan Sora iyo dadaallada lagu sii wanaajinayo sida Sora ugu hoggaansanto siyaasadaha OpenAI iyo heerarka badbaadada. Horumarinno dheeraad ah oo ku saabsan meelaha sida badbaadada ekaanshaha iyo waxyaabaha marin-habaabinta ah ayaa la qorsheeyay, iyadoo lagu hagayo hababka ugu wanaagsan ee isa soo taraya iyo jawaab-celinta isticmaaleyaasha.

Waxaan u mahadcelineynaa dhammaan kooxaha gudaha ee OpenAI, oo ay ku jiraan Comms, Comms Design, Arrimaha Guud, Integrity, Intel & Investigations, Legal, Product Policy, Safety Systems, iyo User Ops, kuwaas oo taageeradoodu laf-dhabar u ahayd horumarinta iyo hirgelinta yareynta badbaadada ee Sora, iyo sidoo kale wax ku biirintooda kaarka siistamkan.

Waxaan uga mahadcelineynaa kooxdayada fanaaniinta Alpha iyo khubaradayada qiimeynta awoodda nidaamka kuwaas oo bixiyay jawaab-celin, naga caawiyay tijaabinta noocyadeenna marxaladaha hore ee horumarinta, isla markaana wax ku biiriyay qiimeynteenna khatarta iyo cabbirradeenna. Ka qeybgalka habka tijaabintu ma aha taageero loo muujinayo qorshayaasha hawlgelinta ee OpenAI ama siyaasadaha OpenAI.

• Shakhsiyaadka Qiimeynta Awoodda Nidaamka (sida alifbeetada): Alexandra García Pérez, Arjun Singh Puri, Caroline Friedman Levy, Dani Madrid-Morales, Emily Lynell Edwards, Grant Brailsford, Herman Wasserman, Javier García Arredondo, Kate Turetsky, Kelly Bare, Matt Groh, Maximilian Müller, Naomi Hart, Nathan Heath, Patrick Caughey, Per Wikman Svahn, Rafael González-Vázquez, Sara Kingsley, Shelby Grossman, Vincent Nestler
• Ururrada Qiimeynta Awoodda Nidaamka: ScaleAI