Habka OpenAI ee khatarta afka hore

21-kii Luulyo 2023, OpenAI waxay ku biirtay shaybaarrada kale ee hormuudka ah ee AI si loo sameeyo xirmo ballanqaadyo iskaa wax u qabso ah oo lagu horumarinayo badbaadada, amniga, iyo kalsoonida AI. Ballanqaadyadani waxay daboolayeen qaybo kala duwan oo khataro ah, iyadoo bartamaha ay ka ahaayeen khataraha frontier-ka ee ah diiradda Shir-madaxeedka soo socda ee Badbaadada AI.

Cusboonaysiintan, waxaan ku sharraxeynaa horumarkeenna ku saabsan ballanqaadyadaas iskaa wax u qabso ah waxaanan sii faahfaahinaynaa habkeenna sii kobcaya ee yareynta khataraha frontier-ka, oo ay ku jirto shaqadeenna socota ee horumarinta Qaab-dhismeedka Diyaar-garowga.

3-dii Oktoobar, 2023 waxaan si dadweyne ah u sii deynay kaarka siistamka⁠ ee noocayaga qoraal-ilaa-sawir DALL-E 3⁠, taas oo ahayd sii deyntii ugu horreysay ee weyn ee dadweyne ee nooc cusub oo frontier ah oo ku jira baaxadda ballanqaadyadeenna iskaa wax u qabso ah. Iyadoo la jaanqaadaysa himiladeenna iyo ballanqaadyada iskaa wax u qabso ahba, waxaan qabannay shaqo badbaado oo muhiim ah oo ay ku jirto qiimeyn badbaado kahor daahfurka iyo qiimeynta awoodda nidaamka. Intaa waxaa dheer, waxaan ka shaqeyneynaa habab cusub oo dadka awood u siinaya inay la socdaan asalka warbaahinta ay AI soo saarto, waxaanan sii wadnay maalgashiga dhaqamada masuulka ah annagoo hirgelinayna awoodaha codka iyo falanqaynta sawirka ee ChatGPT.

Waxaan sidoo kale ka soo baxnay ballanqaadkeenna iskaa wax u qabso ah⁠ ee ahaa inaan “dhisno ama ku biirno gole ama hannaan annaga oo [aan] ku horumarin karno, ku dardargelin karno, kuna qaadan karno heerar iyo dhaqammo ugu wanaagsan oo wadajir ah oo loogu talagalay badbaadada frontier AI,” annagoo si wadajir ah u aasaasnayn Frontier Model Forum. Hay’addan cusub ee warshadaha, oo si wadajir ah loo aasaasay Microsoft, Google Deepmind, iyo Anthropic, waa goob lagu hormarinayo cilmi-baarista badbaadada AI laguna dhiirrigelinayo dhaqamada horumarineed ee masuulka ah ee nidaamyada frontier AI.

Noocyada AI ee ugu casriyeysan waxay leeyihiin awood ay uga faa’iideeyaan dhammaan bini’aadamka, laakiin sidoo kale waxay keenaan khataro sii kordhaya oo daran. Si loo maareeyo khatarahan iyadoo noocyada AI ay sii hagaagayaan, waxaan horumarinaynaa Qaab-dhismeedka Diyaar-garowga, kaas oo sii qoto dheereynaya habkeenna firfircoon ee ku saleysan khatarta ee horumarinta noocyada ugu casriyeysan si masuuliyad leh, gaar ahaan marka ay timaaddo khataraha musiibada leh.

Qaab-dhismeedka Diyaar-garowga wuxuu faahfaahin doonaa habkeenna ku aaddan horumarinta qiimeynno adag oo ku saabsan awoodaha noocyada ugu casriyeysan iyo la socodkooda, iyo sidoo kale dejinta qaab maamul oo loogu talagalay isla-xisaabtan iyo kormeer dhammaan geeddi-socodka horumarinta. Khataraha aan qorsheyneyno inaan raadraacno iyada oo qayb ka ah siyaasaddan waxay daboolayaan qaybo badan oo ay ku jiraan amniga internetka, qancinta, hanjabaadaha kiimiko iyo bayooloji, iyo madax-bannaanida.

Qaab-dhismeedka Diyaar-garowga wuxuu sidoo kale bixin doonaa tallaabooyin kala duwan oo looga hortagayo natiijooyin musiibo leh. Fahamka tijaabada ku saleysan ee khatarta musiibada leh weli waa curdin oo si degdeg ah ayuu u kobcayaa. Sidaas darteed waxaan si firfircoon u cusboonaysiin doonnaa qiimeynteenna heerarka hadda jira ee khatarta noocyada ugu casriyeysan si aan u hubinno inay ka tarjumeyso fahamkeennii ugu dambeeyay ee qiimeynta iyo la socodka. Waxaan dhiseynaa koox u heellan arrintan (Preparedness) oo hoggaamisa dadaalkan, oo ay ku jirto samaynta cilmi-baarista iyo la socodka lagama maarmaanka ah.

Qaab-dhismeedka Diyaar-garowga waxaa loogu talagalay inuu dhammaystiro oo ballaariyo shaqadeenna hadda jirta ee yareynta khatarta, taas oo gacan ka geysata badbaadada iyo iswaafajinta nidaamyo cusub oo aad u awood badan, kahor iyo kadibba daahfurka. Dadaalladan hadda jira waxaa ka mid ah shaqada kooxda Safety Systems ee samaynta cilmi-baaris iyo dhisidda xalal nidaamsan si loo hubiyo in noocyadeenna ugu fiican si ammaan ah loo daahfuri karo iyo kooxda Superalignment, oo diiradda saarta caqabadaha barashada mashiinka ee la xiriira waafajinta nidaamyada AI ee caqliga aadamaha ka sarreeya iyo ujeeddada aadanaha.

Waxay sidoo kale ka mid yihiin Guddi Wadajir ah oo Badbaadada Daahfurka (DSB) oo aan la leenahay Microsoft, kaas oo ansixiya go’aannada midkood dhinac uu ku daahfurayo noocyo ka sarreeya heer awood gaar ah. DSB waxay si gaar ah diiradda u saartaa go’aannada daahfurka halkii ay ka eegi lahayd tillaabooyin hore sida go’aaminta in la tababaro iyo in kale noocyo leh baaxad ama heer awood gaar ah. Waxay leedahay qaar ka mid ah astaamaha inta badan looga hadlo marka la joogo siyaasadaha masuulka ah ee kordhinta, sida diiradda nidaamyada ugu awoodda badan, xooggana saaridda tijaabinta iska soo horjeedka ah, iyo tixgelin cad oo iswaafajin ah. Waxaan casharro qiimo leh ka barannay dib-u-eegistii DSB ee GPT‑4, taas oo ahayd daahfurkii ugu horreeyay ee u qalma, waxaana u adeegsan doonnaa casharradaas qaabeynta iyo hirgelinta Qaab-dhismeedka Diyaar-garowga. Labadaba DSB iyo Qaab-dhismeedka Diyaar-garowga, iyo doorarkooda kala duwan, way is beddeli karaan waqti ka dib marka aan wax badan ka baranno khataraha iyo yareyntooda.

Fiiro gaar ah: Waxaan siyaasaddeenna ugu yeernaa Qaab-dhismeedka Diyaar-garowga halkii aan ka oran lahayn Siyaasadda Kordhinta Masuulka ah sababtoo ah waxaan la kulmi karnaa koror weyn oo awood ah iyada oo aan jirin koror la taaban karo oo baaxad ah, tusaale ahaan iyada oo loo marayo horumarinno algoriitm. Qaab-dhismeedka Diyaar-garowga wuxuu maamulaa horumarinteena noocyo ugu casriyeysan oo sii kordhaya awooddooda iyadoo aan loo eegin in awoodahaas kordhaya ay ka yimaadaan baaxad, horumarinno algoriitm, ama hagaajinno kale.

Waxaan u baahanahay horumarro cilmiyeed, diyaar-garow bulsheed iyo nidaamyo amni oo horumarsan si loo xakameeyo loona dhexgeliyo nidaamyada AI ee naga caqli badan. Waxaan maalgelineynaa horumaradan annagoo abuureyna laba kooxood oo cusub: Superalignment iyo Preparedness, isla markaana sii xoojinayna maalgashiga nidaamyadeenna amniga.

Farsamooyinkeenna hadda jira ee waafajinta AI, sida Waxbarashadda Xoojinta ah ee ka timaadda Jawaabcelinta Aadanaha, waxay ku tiirsan yihiin awoodda bini’aadamka ee kormeerka AI. Laakiin farsamooyinkani uma shaqeyn doonaan caqli sare, sababtoo ah bini’aadamku si lagu kalsoonaan karo uma kormeeri doonaan nidaamyada AI ee naga caqli badan. Waxaan dejinnay yool ah inaan xallino dhibaatadan afar sano gudahood annagoo maalgelineyna koox cusub oo la yiraahdo Superalignment⁠, oo ay wada hoggaaminayaan Ilya Sutskever (aasaasaha wadajirka ah iyo Chief Scientist-ka OpenAI) iyo Jan Leike (Madaxa Alignment). Hadafkeennu waa inaan dhisno cilmi-baare iswaafajin otomaatig ah oo u dhow heerka bini’aadamka, isla markaana aan adeegsan doonno awood xisaabeed badan si aan u ballaarinno dadaalladeenna ku aaddan waafajinta caqliga sare. Waxaan qorsheyneynaa inaan u hurno dadaalkan 20% awoodda xisaabeed ee aan sugannay ilaa Juun 2023. Kooxdu waxay natiijooyinka si ballaaran ula wadaagi doontaa si ay sidoo kale gacan uga geysato iswaafajinta iyo badbaadada noocyada aan ahayn kuwa OpenAI.

Marka laga soo tago caqabadda waafajinta caqliga sare, waxaan aaminsanahay in khataro sii kordhaya oo daran ay ka dhalan karaan si khaldan u isticmaalka suurtagalka ah ee noocyada ugu casriyeysan ee sii kordhaya awooddooda. Waxaan abuureynaa koox cusub oo u heellan oo la yiraahdo Preparedness si ay u aqoonsato, ula socoto, uguna diyaar garowdo khatarahan. Waxaan damacsannahay inaan raadraacno khataraha frontier-ka, oo ay ku jiraan amniga internetka, CBRN, qancinta, iyo taranka iyo la qabsiga iskiis u shaqeeya, isla markaana aan wadaagno tallaabooyinka looga hortagayo saameynta khatarta musiibada leh. Maadaama fahamka tijaabada ku saleysan ee khatarta musiibada leh uu weli curdin yahay, waxaan si isdaba joog ah u cusboonaysiin doonnaa qiimeynteenna heerarka hadda jira ee khatarta noocyada ugu casriyeysan si aan u hubinno inay ka tarjumeyso fahamkeennii ugu dambeeyay ee qiimeynta iyo la socodka.

Waxaan sii wadeynaa maalgashiga amniga internetka iyo difaacyada hanjabaadaha gudaha si loo ilaaliyo miisaannada noocyada lahaanshaha gaarka ah iyo kuwa aan weli la sii deyn. Waxaan bilownay Barnaamijka Deeqaha Amniga Internetka iyo Barnaamijka Bug Bounty ee OpenAI si aan isugu dubbaridno cilmi-baarayaal isku aragti ah oo u shaqeynaya badbaadadeenna wadajirka ah. Barnaamijka Deeqaha Amniga Internetka waa hindise $1M ah oo lagu xoojinayo laguna cabbirayo awoodaha amniga internetka ee ku shaqeeya AI iyo kobcinta dood heer sare ah oo ku saabsan AI iyo amniga internetka. Waxaan sidoo kale ku casuumeynaa dadweynaha inay soo sheegaan nuglaansho, cillado, ama khaladaad amni oo ay ka helaan nidaamyadeenna. Barnaamijka Bug Bounty ee OpenAI wuxuu noo oggolaanayaa inaan aqoonsanno oo aan abaalmarinno aragtiyaha qiimaha leh ee dadka gacan ka geysta ilaalinta amniga tignoolajiyadeenna iyo shirkaddeenna.

Waxaan qiimeynnaa badbaadada nooc kasta oo weyn oo cusub oo la sii daayo, oo ay ku jirto adeegsiga qiimeynta awoodda nidaamka. Tusaale ahaan, kahor inta aan si dadweyne ah loo sii deyn GPT‑4, qiimeeyayaal dibadeed ayaa nooca u tijaabiyay khatarahan frontier-ka ah ee soo socda: (1) caawinta horumarinta hubka nukliyeerka, shucaaca, bayoolojiga, iyo kiimikada (CBRN), (2) kordhinta khatarta internetka, (3) khataraha ka dhasha adeegsiga qalabka iyo (4) awoodaha is-tarminta. Iyadoo qayb ka ah qiimeynteenna awoodda nidaamka ee DALL-E 3, gudaha baaxadda ballanqaadyadeenna iskaa wax u qabso ah, waxaan tijaabinay awoodda nooca ee bixinta macluumaad muuqaal ah oo loo baahan yahay si loo horumariyo, loo helo, ama loo faafiyo CBRN.

Waxaan sidoo kale wadaagnay baaq furan oo ku saabsan Shabakadda OpenAI Red Teaming⁠ si si dadweyne ah loogu casuumo khubaro ku takhasusay goobaha kala duwan oo xiiseynaya hagaajinta badbaadada noocyada OpenAI inay ku soo biiraan dadaalladeenna qiimeynta awoodda nidaamka.

CBRN. Qaar ka mid ah awoodaha LLM waxay yeelan karaan suurtagal isticmaal laba-geesood ah, taasoo la micno ah in noocyada loo adeegsan karo codsiyo ganacsi iyo sidoo kale kuwo militari ama faafin. Waxaan GPT‑4 ku samaynay tijaabo culus, tijaabo xuduudeed, iyo qiimeyn awoodda nidaamka afar goobood oo isticmaal laba-geesood ah si aan u baarno in noocyadeennu bixin karaan macluumaadka lagama maarmaanka u ah dadka doonaya inay horumariyaan, helaan ama faafiyaan CBRN. Waxaan ogaanay in kaligiis helitaanka GPT‑4 uusan ahayn shardi ku filan oo faafin ah, laakiin uu beddeli karo macluumaadka ay helaan faafiyayaashu, gaar ahaan marka la barbar dhigo qalabka raadinta dhaqanka. Qiimeeyayaashu waxay doorteen su’aalo taxane ah si ay ugu weydiiyaan GPT‑4 iyo makiinadaha raadinta dhaqanka, waxayna ogaadeen in waqtiga lagu dhammaystiro cilmi-baaristu yaraaday marka GPT‑4 la isticmaalay. Xaaladaha qaarkood, geeddi-socodka cilmi-baarista waxaa lagu soo gaabiyay dhowr saacadood iyadoo aan waxba laga dhimayn saxnaanta macluumaadka. Sidaas darteed waxaan ku soo gunaanadnay in kiciyaha khatarta muhiimka ahi uu yahay awoodda GPT‑4 ee soo saarista macluumaad dadweyne loo heli karo balse adag in la helo, taasoo gaabinaysa waqtiga ay isticmaalayaashu ku bixiyaan cilmi-baarista iyo isu-geynta macluumaadkan si uu u noqdo mid uu fahmi karo isticmaale aan khabiir ahayn. Kahor sii deynta DALL-E 3, waxaan qiimeynay sida soo saarista qoraal-ilaa-sawir ay u beddeshay muuqaalka khatarta annagoo tijaabinayna awoodda nooca ee soo saarista jaantusyo iyo tilmaamo muuqaal ah oo lagu sameeyo laguna helo macluumaad la xiriira khataraha CBRN. Si la mid ah GPT‑4, waxaan ku samaynay DALL-E 3 tijaabooyin gudaha iyo dibaddaba, halkaas oo aan gudaha uga tijaabinay khataraha nooca isla markaana siinay helitaan hore khubaro dibadeed oo ka kala socota warshado kala duwan si ay uga caawiyaan baarista nidaamyada loona khariidadeeyo loona qiimeeyo khataraha. Waxaan DALL·E 3 ku samaynay qiimeynta awoodda nidaamka afar goobood oo isticmaal laba-geesood ah si aan u baarno inay bixin karto macluumaadka loo baahan yahay si loo horumariyo, loo helo, ama loo faafiyo CBRN. Qiimeeyayaashu waxay heleen khatar aad u yar meelahan sabab u ah isku darka khaladaadka mawduucyadan, diidmooyinka, iyo baahida guud ee loo qabo helitaan dheeraad ah iyo “agab” lagama maarmaan u ah faafin guul leh.

Awoodaha internetka. Waxaan sidoo kale qiimeynay awoodda GPT‑4 ee in loo isticmaali karo ogaanshaha iyo ka faa’iideysiga nuglaanshaha, iyo khiyaano bulsheed. Si loo tijaabiyo awoodda nooca ee ka caawinta ogaanshaha, qiimeynta, iyo ka faa’iideysiga nuglaanshaha kombiyuutarka, waxaan qandaraas la galnay khubaro dibadeed oo amniga internetka ah kuwaas oo ogaaday in GPT‑4 sharxi karo qaar ka mid ah nuglaanshaha haddii koodhka isha uu yaraa oo ku filnaan karo daaqadda macnaha guud ee nooca, laakiin in GPT‑4 uu si liidata ugu shaqeeyay dhisidda ka faa’iideysiyo loogu talagalay nuglaanshaha la aqoonsaday. Si loo tijaabiyo awoodaha khiyaanada bulsheed, khubaro qiimeeyayaal ah ayaa tijaabiyay in GPT‑4 uu ka wanaagsanaa qalabka hadda jira hawlo khuseeya sida aqoonsiga bartilmaameedka, spear-phishing, iyo bait-and-switch phishing. Waxay ogaadeen in noocani uusan ahayn casriyeyn diyaar u ah awoodaha hadda jira ee khiyaanada bulsheed maadaama uu ku dhibtooday hawlaha xaqiiqada ku saleysan sida taxidda bartilmaameedyada iyo adeegsiga macluumaadkii dhowaa si loo soo saaro nuxur phishing oo waxtar badan. Si kastaba ha ahaatee, iyadoo la helayo aqoon asalka ah ee ku habboon oo ku saabsan bartilmaameed, GPT‑4 wuxuu waxtar ku lahaa qorista nuxur khiyaano bulsheed oo u ekaan kara mid dhab ah. Iyada oo ku saleysan natiijooyinkan, waxaan si dambe loo tababaray GPT‑4 si uu u diido codsiyada xaasidnimada leh ee amniga internetka, waxaana ballaarinnay nidaamyadeenna badbaadada gudaha, oo ay ku jiraan la socodka, ogaanshaha iyo jawaabta.

Is-tarminta. Kahor sii deynta GPT‑4, waxaan sidoo kale fududeynay qiimeyn hordhac ah oo nooca ah oo uu sameeyay Alignment Research Center (ARC) oo ku saabsan awoodda nooca ee fulinta ficillo si iskiis ah loogu taro loona ururiyo kheyraad. Waxaan ARC siinay helitaan hore oo noocyada ah iyada oo qayb ka ah qiimeynta awoodda nidaamka si kooxdoodu u qiimeyso khataraha ka imanaya dabeecadda raadinta awoodda. Qaabka gaarka ah ee raadinta awoodda ee ARC qiimeeyay wuxuu ahaa awoodda nooca ee si iskiis ah isu taro oo kheyraad u helo. ARC waxay ogaatay in noocyadii hore ee GPT‑4 aysan waxtar ku lahayn hawl is-tarmineed oo iskiis ah tijaabooyinkii hordhaca ahaa ee ay sameeyeen. Sidaas darteed waxay ku soo gunaanadeen in noocu uusan u badnayn inuu awoodo inuu iskiis isu taro.

Hufnaantu waa qayb muhiim ah oo ka mid ah dhisidda nidaamyo AI oo isla-xisaabtan leh. Qayb muhiim ah oo ka mid ah habkeenna isla-xisaabtanku waa daabacaadda dukumeenti aan hadda ugu yeerno kaarka siistamka, oo loogu talagalay nidaamyada cusub ee AI ee aan daahfurro. Kaararka siistamka ee aanu daabacno waxay higsanayaan inay akhristayaasha ku wargeliyaan arrimaha muhiimka ah ee saameeya hab-dhaqanka nidaamka, gaar ahaan meelaha khuseeya isticmaalka masuulka ah, waxayna dhiirrigelin ka qaataan shaqooyinkii cilmi-baaris ee hore ee ku saabsanaa kaararka noocyada iyo nidaamyada. Kahor intaanan sameyn ballanqaadyada iskaa wax u qabso ah, OpenAI waxay daabacday laba kaarka siistamka: GPT‑4 System Card iyo DALL-E 2 System Card. Tan iyo markaas, waxaan daabacnay kaarka siistamka kahor sii deynta DALL-E 3 gudaha ChatGPT, taas oo ahayd sii deyntii ugu horreysay ee weyn ee dadweyne ee nooc cusub tan iyo markii aan saxiixnay ballanqaadyada iskaa wax u qabso ah. Iyadoo qayb ka ah dadaallada sii socda ee aan tignoolajiyadeenna ugu sii deyno si masuuliyad leh, waxaan sidoo kale daabacnay kaarka siistamka ee awoodaha aragga ee GPT‑4 kahor intaan laga helin ChatGPT.

Tan iyo markii aan sameynay ballanqaadyada iskaa wax u qabso ah, waxaan ka dhex abuurnay koox shaqo oo ku jirta Frontier Model Forum si loo sameeyo hannaan lagu shaacinayo si masuuliyad leh awoodaha khatarta ah ee ka dhex jira shaybaarrada AI. Hannaankani wuxuu hiigsan doonaa inuu suurtageliyo shaacinta sirta ah ee khataraha muhiimka ah ee lagu ogaado noocyada ugu casriyeysan ee ka dhex jira shaybaarrada frontier-ka iyo shaybaarrada kale ee AI. Diiraddeenna bilowga ah waxay ka kooban tahay goobaha la xiriira amniga qaranka sida awoodaha Kiimiko, Bayooloji, Shucaac, iyo Nukliyeer (CBRN), iyo sidoo kale awoodo kale oo khatar ah sida is-tarminta, khiyaanada, iyo faragelinta. Hababka shaacintu waxay ka koobnaan doonaan qiimeynno, aragtiyo laga helay layliyada qiimeynta awoodda nidaamka, iyo caddeymo kale oo ku saabsan hanjabaadaha wadajirka ah ee ka dhex jira xubnaha shaybaarrada meelaha ay shaacin ballaaran ku keeni lahayd khataro waaweyn.

Waxaan sidoo kale ku dhawaaqnay barnaamijka bug bounty ee OpenAI sidii hab lagu aqoonsado laguna abaalmariyo dadka soo sheega nuglaanshaha amniga ee nidaamyadeenna. Abaalmarinnadeennu waxay u dhexeeyaan $200 oo loogu talagalay waxyaabaha darnaantoodu hooseyso ilaa $20,000 oo loogu talagalay ogaanshooyin gaar ah. Waxaan la shuraakoownay Bugcrowd, oo ah madal hormuud u ah bug bounty, si aan u abuurno hab gudbin iyo abaalmarin, oo laga heli karo bogga Barnaamijka Bug Bounty⁠(ku furmaa daaqad cusub).

Waxaan si adag uga shaqeynaa ka hortagga khataraha la sii saadaalin karo kahor daahfurka. Si kastaba ha ahaatee, waxa kale oo jira xad ku saabsan waxa qof kastaa ku baran karo shaybaar. Xitaa kadib cilmi-baaris iyo tijaabooyin ballaaran, ma saadaalin karno dhammaan siyaabaha waxtarka leh ee dadku u adeegsan doonaan tignoolajiyadeenna, iyo sidoo kale dhammaan siyaabaha ay dadku ugu xadgudbi karaan. Dhisidda awoodda si degdeg ah loogu ogaado loogana jawaabo khataraha aan la sii arkin waa mudnaan sare noo ah, maadaama awooddani ay tahay difaac muhiim ah oo loogu talagalay nidaamyada ugu casriyeysan halkaas oo aan dhammaan khataraha si buuxda loo sii saadaalin karin. Waxaan dhisnaa tallaabooyin gudaha ah oo loogu talagalay in lagu ogaado noocyo lama filaan ah oo xadgudub ah, waxaan leenahay habraacyo aan uga jawaabno, waxaana u isticmaalnaa wixii aan baranno si aan u wanaajinno siyaasadaha isticmaalka, nidaamyada badbaadada, iyo wax-soo-saarka noocyada. Kadib sii deynta nidaam, waxaan samaynaa baaritaan firfircoon, la socod, iyo hubin warbixinnada soo gala si loo ogaado xadgudub ama khataro aan la sii arag. Kadibna waxaan hiigsaneynaa inaan si degdeg ah oo isdaba joog ah wax uga qabanno arrimaha soo baxa annagoo adeegsanayna siyaasad iyo xalal farsamo. Waxaan sii ballaarineynaa hawlgalladeenna oo yareyneynaa waqtiga jawaabta.

Waxaan u hurnaa kheyraad badan ilaalinta tignoolajiyada, hantida aqooneed, iyo xogta OpenAI.

Waxaan u daahfurnaa noocyadeenna AI ee ugu awoodda badan sidii adeegyo. Miisaannada noocyadan oo kale kama qaybinno meel ka baxsan OpenAI iyo lammaanahayaga tignoolajiyada ee Microsoft, waxaana siinnaa dhinacyo saddexaad marin ay ku galaan noocyadeenna ugu awoodda badan iyagoo adeegsanaya API si miisaannada nooca, koodhka isha, iyo macluumaadka kale ee xasaasiga ah ay u sii ahaadaan kuwo la xakameeyo.

Waxaan sidoo kale hirgelinaa tallaabooyin farsamo, maamul, iyo abaabul oo ganacsi ahaan macquul ah oo loogu talagalay ka hortagga luminta macluumaadka shakhsiga ah, si khaldan u adeegsiga, iyo gelitaanka aan la oggolayn. Tani waxaa ku jira maritaanka hanti-dhawrro dhinac saddexaad ah oo ku saabsan barnaamijkeenna amniga oo ay ku jirto SOC 2 Type 2. Waxaan sidoo kale bilownay Barnaamijka Bug Bounty oo ku casuumaya cilmi-baarayaal madax-bannaan inay soo sheegaan nuglaanshaha nidaamyadeenna iyagoo beddelkeeda helaya abaalmarin lacageed. Trust Portal-keennu wuxuu u oggolaanayaa macaamiisha iyo daneeyayaasha kale inay dib u eegaan xakamayntayada amniga iyo warbixinnada hanti-dhawrka. Iyada oo qayb ka ah dadaalladeenna amniga internetka, waxaan si joogto ah u qabannaa tijaabooyin gudaha ah iyo kuwo dhinac saddexaad ah oo gelitaan jebin ah, waxaana hanti-dhawrna ku samaynaa ku habboonaanta iyo waxtarka xakamayntayada amniga.

Waxaan horumarinaynaa hab farsamo oo ku saabsan raad-asal si uu uga caawiyo aqoonsiga nuxurka maqal iyo muuqaalka ah ee ay abuureen noocyadeennu. Marka habkan la horumariyo, waxaan si ballaaran ugu hirgelin doonnaa dhammaan nidaamyadeenna cusub ee frontier-ka. Waxaan qiimeyneynaa farsamooyin kala duwan oo raad-asal ah, mid kastana leh faa’iidooyin iyo khasaarooyin u gaar ah, kuwaas oo guud ahaan u kala baxa saddex qeybood: watermarking, classifiers, iyo habab ku saleysan metadata.

Tan iyo markii aan sameynay ballanqaadyadeenna iskaa wax u qabso ah, waxaan baaris iyo tijaabin ku wadnay classifier raad-asal si uu nooga caawiyo inaan aqoonsanno in sawir uu soo saaray DALL·E 3 iyo in kale. Hadda waxaan tan gudaha ku qiimeyneynaa waxaana bixinnay cusboonaysiin dadweyne oo qayb ka ahayd sii deynta DALL·E 3.

Noocyada luuqadda waaweyn ee OpenAI, oo ay ku jiraan noocyada awood siiya ChatGPT, waxaa la horumariyaa iyadoo la adeegsanayo saddex ilood oo aasaasi ah oo macluumaad ah: (1) macluumaad si dadweyne ah looga heli karo internetka, (2) macluumaad aan ka helno laysan dhinacyo saddexaad ah, iyo (3) macluumaad ay bixiyaan isticmaalayaasheennu ama tababarayaasheena bini’aadamka ah.

Inta badan xogtayada tababarku waxay ka timaaddaa macluumaad si dadweyne ah loo heli karo oo si xor ah oo furan uga jira Internet-ka – tusaale ahaan, ma raadino macluumaad ku jira darbiyada lacag-bixinta ama ka imanaya “deep web.” Waxaan adeegsannaa shaandheyn waxaanan saarno xog gaar ah oo aynaan rabin in noocyadeennu ka bartaan ama soo saaraan, sida hadalka nacaybka, nuxurka dadka waaweyn, bogagga inta badan ururiya macluumaad shakhsiyadeed, iyo spam.

Waxaan sidoo kale hirgelinnay tallaabooyin u suurtagelinaya hal-abuurayaasha, dadka leh xuquuqda, iyo hawl-wadeennada mareegaha inay muujiyaan doorbidkooda ku saabsan tababarka AI marka ay timaaddo nuxurka ay leeyihiin ama maamulaan. Tusaale ahaan, OpenAI waxay hirgelisay hab sahlan oo hawl-wadeennada mareegaha ay kaga reebi karaan nuxurkooda in OpenAI “GPTBot” web crawler uu galo, iyadoo lagu tiirsan yahay heerka webka ee robots.txt. Sidoo kale, OpenAI waxay diiwaangelisay user-agent-string-ka (“ChatGPT‑user”) ee ay ChatGPT iyo plugins-ka ChatGPT u isticmaalaan gelitaanka mareegaha, si hawl-wadeennada bogaggu u xannibi karaan gelitaanka ujeeddooyinkaas sidoo kale. Waxaan internetka ku bixinnaa tilmaamo ku saabsan sida looga mamnuuci karo labada bot inay galaan bogagga. Waxaan sidoo kale bixinnaa foom is-adeeg ah⁠(ku furmaa daaqad cusub) si abuurayaasha sawiradu uga saari karaan nuxurkooda tababarka noocyadeenna mustaqbalka ee soo saarida sawirka DALL-E.