Faallada OpenAI ee ku socota NTIA ee ku saabsan miisaannada open model

OpenAI waxay aaminsan tahay⁠(ku furmaa daaqad cusub) in dhisidda, si ballaaran u faafinta, iyo adeegsiga AI ay wanaajin karaan nolosha dadka ayna furi karaan mustaqbal ka wanaagsan. Horumarku wuxuu ku tiirsan yahay hal-abuur iyo tartan suuq xor ah. Gudaha tilmaamahaas ballaaran, waxaa jira waddooyin badan oo kala duwan oo dadku ku sii wadi karaan ballanqaadka AI. OpenAI waxay ka mid ahayd horumariyeyaashii ugu horreeyay ee AI ee la daalaa-dhacay su’aasha ah sida loo qaybiyo faa’iidooyinka noocyada aasaaska ah ee awood aan hore loo arag leh, waxaana ku bilaabaynaa bixinta macnaha taariikheedkan si uu uga caawiyo doodaha NTIA.

Sannadkii 2019, waxaan abuurnay GPT‑2, kaas oo lahaa awood cusub oo ah soo saarista cutubyo qoraal ah oo isku xiran, waxaana wajahnnay su’aasha ah sida loo faafiyo. Dhinac, noocu wuxuu u muuqday mid aad waxtar u leh; dhinaca kale, ma aanan hubin⁠ inuu waxtar u yeelan karo ujeeddooyin xun sida soo saarista iimayllada phishing-ka. Waxaan doorannay inaan tijaabino “sii-dayn heerar leh”. Sida aan markaas qornay⁠, “sii-daynta heerarka leh waxay ku lug leedahay si tartiib tartiib ah loo sii daayo qoys noocyo ah waqti ka dib. Ujeeddada sii-dayntayada heerarka leh ee GPT‑2 waa in dadka la siiyo waqti ay ku qiimeeyaan sifooyinka noocyadan, uga doodaan saameyntooda bulsho, oo ay qiimeeyaan saameynta sii-daynta ka dib marxalad kasta.” Markii aanan arkin saameyn weyn oo si xun loo adeegsaday, tani waxay na siisay kalsooni aan si furan ugu sii dayno miisaannada nooca oo dhan⁠.

Sannadkii 2020, waxaan abuurnay GPT‑3, kaas oo aad uga awood badnaa nooc kasta oo luqadeed oo ka horreeyay dhammaan cabbirrada, waxaana mar kale wajahnnay su’aasha ah sida loo sii daayo. Markan, waxaan go’aansannay inaan ku sii dayno badeecaddeennii ugu horreysay, OpenAI API (Application Programming Interface, oo u oggolaanaya horumariyeyaasha inay ku dhisaan apps farsamadeenna). Sida aan markaas qornay⁠, waxaan lahayn dhowr dhiirrigelin oo ku saabsan istaraatiijiyaddan cusub ee sii-daynta: “ganacsiyeeynta farsamadu waxay naga caawisaa inaan bixino kharashka cilmi-baaristayada AI ee socota, badbaadada, iyo dadaallada siyaasadda” iyo “qaabka API-ga wuxuu noo oggolaanayaa inaan si sahlan uga jawaabno si xun u adeegsiga farsamada. Maadaama ay adag tahay in la saadaaliyo isticmaalka hoose ee noocyadeenna, waxay dareemaysaa inay asal ahaan ka ammaan badan tahay in lagu sii daayo API oo gelitaanka la ballaariyo waqti ka dib, halkii la sii dayn lahaa nooc il-furan ah oo gelitaankiisa aan la hagaajin karin haddii ay soo baxdo inuu leeyahay adeegsiyo waxyeello leh.” Muddo dhowr sano ah, sii-dayntan API-ga ahi waxay na bartay annaga iyo bulshada casharro ku saabsan badbaadada iyo qaababka si xun loo adeegsado ee noocyada heerka GPT‑3⁠.

Sannadihii xigay, waxaan sii wadnay taageeridda oo aan rumaysnahay ballanqaadka nidaamka deegaanka AI ee il-furan, oo ay ku jirto inaan si furan u sii dayno miisaannada qaar ka mid ah noocyadeenna heer-sare ah (sida CLIP iyo Whisper) iyo horumarinta kaabayaal il-furan oo loogu talagalay horumariyeyaasha kale ee AI (sida luqadda barnaamijinta GPU ee Triton). Waxaan aragnay in miisaannada si furan loo sii daayay ay keenaan faa’iidooyin muhiim ah oo kala duwan, oo ay ku jiraan fududeynta cilmi-baarista tacliinta ee gudaha noocyada AI, awoodsiinta isticmaaleyaasha iyo ururrada inay noocyada ku maamulaan maxalli ahaan aaladahooda geeska, iyo fududeynta wax-ka-beddellada hal-abuurka leh ee noocyada si ay ugu habboonaadaan ujeeddooyinka isticmaaleyaasha. Shirkado badan oo AI ah ayaa doortay inay si weyn u maalgashadaan sii-daynta miisaannada open model sababo kala duwan awgood, oo ay ku jiraan sumcad, shaqaaleysiin, iyo soo jiidashada nidaam deegaan horumariyeyaal ah oo ku dhisa kuna dedejiya gudaha farsamada shirkad.

Isla waqtigaas, habkayaga sii-daynta noocyadeenna hormuudka ah ee AI iyada oo loo marayo API-yo iyo badeecooyin ganacsi sida ChatGPT ayaa noo saamaxay inaan sii wadno daraasadda iyo yaraynta khataraha aan ogaanay ka dib sii-dayntii hore, inta badan siyaabo aan suurtagal ahaan jiri lahayn haddii miisaannada laftooda la sii dayn lahaa. Tusaale ahaan, dhowaan waxaan la shaqeynay Microsoft si aan u ogaanno, u daraasayno, una carqaladeyno⁠ hawlgallada tiro ka mid ah jilayaasha hanjabaadaha cyber-ka ee dowladuhu taageeraan kuwaas oo ku xadgudbay noocyadeenna GPT‑3.5‑Turbo iyo GPT‑4 si ay uga caawiyaan hawlgallada weerarka internetka. Carqaladeynta jilayaashan hanjabaadda ma suurtageli lahayn haddii miisaannada noocyadan xilligaas ugu casrisanaa si ballaaran loo sii dayn lahaa, maadaama isla jilayaasha hanjabaadaha cyber-ku ay nooca ku martigelin lahaayeen qalabkooda gaarka ah, iyagoo marnaba la falgelin horumariyihii asalka ahaa. Habkani wuxuu noo saamaxay inaan sii wadno qaybinta faa’iidooyinka AI si ballaaran, oo ay ku jiraan adeegyo bilaash ah ama qiimo jaban oo si weyn loo heli karo.

Khibradahani waxay nagu qanciyeen in sii-daynta miisaannada furan iyo sii-daynta ku salaysan API iyo badeecaduhuba ay yihiin qalab lagu gaaro AI faa’iido leh, waxaana aaminsanahay in nidaamka deegaanka AI ee ugu fiican ee Ameerika uu ku jiri doono labadaba.

Marar badan, labadaba sii-daynta badeecadaha iyo sii-daynta miisaannada, waxaan aragnay faa’iidooyinka cajiibka ah ee “faafin soo noqnoqda”: si tartiib tartiib ah AI sii kordheysa u awood badan loogu geliyo gacmaha dadka si ay ugu adeegsadaan hagaajinta noloshooda, iyo in bulshada laga caawiyo la qabsiga farsamooyinkan cusub. Sida aan sannadkii 2023 qornay⁠: “Waxaan si adag uga shaqeynaa ka hortagga khataraha la saadaalin karo ka hor faafinta, hase yeeshee, waxaa jira xad waxa aan ku baran karno shaybaar. In kasta oo cilmi-baaris iyo tijaabin ballaaran la sameeyay, ma saadaalin karno dhammaan siyaabaha waxtarka leh ee dadku u adeegsan doonaan farsamadeenna, iyo dhammaan siyaabaha ay si xun ugu adeegsan doonaan. Taasi waa sababta aan u aaminsanahay in wax ka barashada isticmaalka dunida dhabta ahi ay tahay qayb muhiim ah oo ka mid ah abuurista iyo sii-daynta nidaamyada AI ee sii kordhaya amniga waqti ka dib.”

Marka noocyada AI ay noqdaan kuwo xitaa ka awood badan oo faa’iidooyinka iyo khataraha faafintooda ama sii-dayntoodu ay sii weynaadaan, sidoo kale waa muhiim in aan sii kordhino xeeldheeraanta aan ku go’aaminayno in nooc la faafiyo iyo sida loo faafiyo. Tani gaar ahaan waa run haddii awoodaha AI ay yeeshaan saameyn weyn oo ku saabsan badbaadada dadweynaha ama amniga qaranka. Jiritaanka mustaqbalka ee khataraha noocaas ah ee “masiibada ah” ee ka iman kara nidaamyada AI ee ka horumarsan asal ahaan waa aan la hubin, waxaana jira khilaaf aqooneed oo ku saabsan sida ay u badan tahay iyo sida ugu dhakhsaha badan ee khataraha noocaas ahi u soo bixi doonaan. Ma aaminsanin inay weli jirto caddayn ku filan; kama saari karno, mana hubi karno inay soo dhow yihiin. Annaga oo ah horumariyeyaal riixaya xadka ugu casrisan ee awoodaha AI si loo kordhiyo faa’iidooyinkooda, waxaan u aragnaa dhisidda cilmiga khataraha farsamadan (oo ay ku jirto ururinta caddayn la xiriirta khatarahaas) inay tahay qayb lagama maarmaan ah oo shaqadeenna ka mid ah.

Si loo maro hubanti-la’aantan qaab caddayn-ku-kaxeeyo ah, OpenAI waxay si dadweyne u bilowday Qaab-dhismeedka Diyaar-garowga⁠(ku furmaa daaqad cusub), oo ah hab ku salaysan cilmiga oo si joogto ah loogu qiimeeyo looguna yareeyo khatar kasta oo masiibo ah oo ay noocyadeenna AI keeni karaan. Qaab-dhismeedka Diyaar-garowgu wuxuu qeexayaa sida aan u qiimeyno heerarka awoodda noocyadeenna AI dhowr goobood oo khatar sare leh, oo ay ku jiraan cybersecurity, hawlgal madax-bannaan, qancinta shakhsiga ah, iyo hanjabaadaha CBRN (Kiimiko, Bayooloji, Shucaac, iyo Nukliyeer). Tusaale ahaan qaab-dhismeedkan oo shaqaynaya, eeg daraasaddeennii dhoweyd⁠ ee tijaabinaysay awoodda GPT‑4 ee kaalmaynta abuurista hanjabaadaha bayoolojiga, taas oo gunaanadkeedu ahaa inaysan keenayn khatar dheeri ah oo muhiim ah.

Iyada oo ku salaysan qiimeyntan, waxaan ku qiimeynaa heerarka khatarta noocyada qayb kasta sida Hoose, Dhexdhexaad, Sare, ama Halis. Muhiimad ahaan, sida uu qabo Qaab-dhismeedka Diyaar-garowga, ma faafin doonno nidaamyada AI ee leh heer khatar “Sare” ama “Halis” marka loo eego kala-soociddeenna (xitaa ma tababari doonno kuwa “Halis” ah, marka la eego heerka khatartooda), ilaa yaraynteennu ay hoos u keeni karto khatarta nidaamyadan ugu badnaan heer “Dhexdhexaad” ah. Qaab-dhismeedka Diyaar-garowgu waa muhiim sababtoo ah wuxuu noo oggolaanayaa inaan dhisno oo si ballaaran u wadaagno faa’iidooyinka AI sii kordheysa u awoodda badan, isla markaana na diyaarinaya inaan ogaanno oo ka difaacno khataraha masiibada ah sida ugu horreysa ee suurtagalka ah haddii ay soo baxaan.

Waxaan aaminsanahay in dadka iyo shirkaduhu ay tahay inay awood u yeeshaan inay uga qaybqaataan AI sida ay doortaan —taas oo ay ku jiri karto horumarinta ama isticmaalka AI ka tarjumaya qiyamkooda iyo aragtidooda —si loo gaaro faa’iidooyinka AI. Isla markaasna, nidaamyada AI ee aadka u awoodda badan waa in si ammaan ah loo dhisaa loona adeegsadaa, iyadoo khatar kasta oo masiibo keeni karta oo la ogaado si habboon loo yareeyo. Danahani mararka qaarkood way is khilaafi karaan, waxaana loo baahan yahay in si taxaddar leh loogu maareeyo hab kiis-gaar ah si loo gaaro natiijooyinka ugu fiican ee bulshada.

Marka laga hadlayo noocyada aasaaska ah ee aadka u awoodda badan ee u baahan kheyraad badan si loo sameeyo (heer boqolaal milyan oo doolar ama ka badan), waxaan aaminsanahay in horumariyeyaasha AI ay tahay inay qiimeeyaan awoodda noocooda ee keeni karta khataro masiibo ah, iyo in, haddii heerka khatarta nooca lagu ogaado inuu sarreeyo, ay hirgeliyaan yarayno ku habboon ka hor inta aan la faafin ama la sii dayn. Tani waxay samaynaysaa isu-dheelitirnaan ku habboon oo u dhexeysa maaraynta khatarta iyo hal-abuurka: noocyadan waxaa la filayaa inay yeeshaan awoodaha ugu sarreeya⁠(ku furmaa daaqad cusub), halka kharashka qiimeyntu ugu badnaan yahay qayb yar oo ka mid ah kharashka horumarintooda. Qiimeynaha noocan ahi waa macquul iyadoon loo eegin haddii miisaannada nooca loogu talagalay in si ballaaran loo sii daayo ama loo maro API.

Dhanka kale ee baaxadda, marka laga hadlayo noocyada aasaaska ah ee aan sidaas u badnayn kheyraad-isticmaalkooda, isu-dheelitirka danuhu wuu ka duwan yahay. Marka la eego caddeymaha hadda jira, noocyadan waxay u muuqdaan inay aad uga yar tahay suurtagalnimada inay keenaan khataro masiibo ah, xitaa iyadoo la tixgelinayo horumarka laga yaabo inuu ku yimaado farsamooyinka finetuning iyo wax-ka-beddelka nooca. Dhanka kale, qiimeynaha khatarta masiibada ahi waxay cuni karaan qayb weyn oo ka mid ah miisaaniyadda tababarro yaryar, taas oo keeni karta qaboojin ku timaadda hal-abuurka iyo tartanka. Waxaan aaminsanahay in qiimeynaha noocan ah ee khataraha masiibada aan laga filayn noocyadan, maadaama ay jirto qiime weyn oo ku jirta ilaalinta kala-duwanaanshaha awoodda horumariyeyaasha ee hal-abuurka ku saabsan awoodaha cusub ee xiisaha leh ee AI iyo oggolaanshaha suuqa fikradaha iyo badeecaduhu inay kobcaan, isla markaana cilmigu muujinayo in khatarta noocyadani ay tahay mid ahaan hooseysa.

Habraacyada qiimeynta sida Qaab-dhismeedka Diyaar-garowga waa qalab waxtar leh oo lagu qiimeeyo khataraha ex ante ee ka imaan kara nooc kasta oo sii-dayn nooc ah, oo ay ku jiraan sii-daynta miisaannada open model. Waxaa jira dhowr tixgelin oo gaar u ah sida loogu dabaqo sii-daynta miisaannada furan.

Mid ka mid ah tixgelinnadaas waa in xaaladaha tijaabadu si fiican uga tarjumaan noocyada kala duwan ee ay jilayaasha hoose u beddeli karaan nooca. Mid ka mid ah sifooyinka ugu waxtarka badan ee open model waa in jilayaasha hoose ay wax ka beddeli karaan noocyada si ay u ballaariyaan awoodahooda bilowga ah oo ay ugu habeeyaan codsiyada gaarka ah ee horumariyaha. Hase yeeshee, tani waxay sidoo kale ka dhigan tahay in dhinacyada xun ay suurtagal ahaan kor u qaadi karaan awoodaha waxyeellada leh ee nooca. Sidaas darteed, si adag loo qiimeeyo khataraha sii-daynta miisaannada furan waa inay ku jirtaa tijaabinta xad macquul ah oo ah hababka uu dhinac xun si dhab ah wax uga beddeli karo nooca, oo ay ku jirto finetuning. OpenAI durba waxay qabataa qaar ka mid ah tijaabooyinka wax-ka-beddelka oo qayb ka ah Qaab-dhismeedka Diyaar-garowga (sida aan ku sameynay qiimeyntayada khatarta bayooloji⁠).

Tixgelin kale oo muhiim ah waa in horumariyeyaasha open model aysan awoodin inay ku tiirsanaadaan ilaalinno heer-nidaam ah si loo yareeyo khatarta si xun loogu isticmaalo noocooda, maadaama ilaalinnadaas inta badan laga saari karo isticmaalaha hoose ee xun ee haysta miisaannada nooca. Maanta, farqigan awoodda yarayntu wuxuu leeyahay cawaaqib kooban, maadaama xitaa noocyadeenna hadda ugu awoodda badan aan loo qiimeyn kuwo si gaar ah khatar u ah. Laakiin haddii nooc mustaqbalka ah si cilmiyeed loo go’aamiyo inuu keeni karo khataro daran haddii la sii daayo, markaas jidka lagu yareyn karo khatarta sii-daynta miisaannada furan wuxuu ku tiirsanaan karaa kordhinta adkaysiga deegaanka dibadda ee lagu sii daayo nooca.

Baahida adkaysiga bulshada ee ka dhanka ah si xun u adeegsiga AI way ka ballaaran tahay go’aannada sii-daynta ee hal urur. Iyadoo la tixgelinayo horumarka joogtada ah iyo faafitaanka algorithms-ka AI, iyo helitaan sii kordhaya oo xisaabeed (oo ay ku jiraan dalalka walaaca ku haya Maraykanka), awoodaha AI ee ugu casrisan —oo inta badan ay heli karaan oo keliya dhowr jilaa xilliga la abuurayo —ugu dambayn si ballaaran bay u fidi doonaan. Maraykanka, iyo dalalka adduunka oo dhan, waxay sidoo kale haystaan fursad ay ku maalgashadaan kuna hoggaamiyaan yarayno xaddidi doonta cawaaqibka si xun loo adeegsado, si isu-dheelitirka natiijooyinku u noqdo mid ugu wanaagsan ee suurtagalka ah.

Tusaale ahaan, xoojinta adkaysiga ka dhanka ah khataraha weerarrada internetka ee AI-dedejisay waxay ku lug yeelan kartaa in la siiyo bixiyeyaasha kaabeyaasha muhiimka ah helitaan hore oo isla noocyadaas AI ah, si loogu adeegsado hagaajinta difaaca internetka (sida mashruucyadii hore ee aan maalgelinnay ee qaybta ka ahaa Barnaamijka Deeqaha Cybersecurity-ga ee OpenAI⁠). Xoojinta adkaysiga ka dhanka ah khataraha abuurista hanjabaadaha bayooloji ee AI-dedejisay waxay ku lug yeelan kartaa xalal gebi ahaanba aan la xiriirin AI, sida hagaajinta hababka baarista samayska nucleic acid (sida lagu dalbaday Amarka Fulinta 14110), ama hagaajinta awoodda nidaamyada caafimaadka dadweynaha ee baarista iyo aqoonsiga dillaacyada cudur-sidayaasha cusub. Haddii nooc AI ah si adag loo muujiyo inuu khataro daran ku hayo badbaadada dadweynaha ama amniga qaranka, markaas horumariyuhu wuxuu sidoo kale yeelan karaa door muhiim ah oo ku saabsan dhisidda wacyiga awoodahan cusub ka hor sii-dayn ballaaran (sida iyada oo la ogeysiinayo bixiyeyaasha kaabeyaasha ama la xaddidayo faafinta API), si loo abuuro waqti iyo dhiirrigelinba dadaallada adkaysiga ee sida degdegga ah loogu baahan yahay. Tani waxay la mid tahay caadada “shaacinta mas’uuliyadda leh” ee ka jirta dhinaca cyber-ka, halkaas oo cilmi-baarayaasha amniga ay si ku-meel-gaar ah u xannibaan sii-daynta nuglaanshaha ay helaan si ay difaacayaashu waqti ugu helaan inay nidaamyadooda hagaajiyaan, iyagoo aan gaabinayn cilmi-baarista amniga ee dheeraadka ah.

Inkasta oo aan aaminsanahay in qiimeynta khataraha noocyada ugu awoodda badan ay muhiim tahay, cilmiga qiimeynta khataraha AI weli waa curdan. OpenAI iyo bulshada AI ee ka ballaaran wali waxay dhisayaan aasaaska sida loo qiimeeyo khataraha AI, waxaana wali si joogto ah dib ugu hagaajinayna faahfaahin badan oo ku saabsan sida loo hawlgeliyo Qaab-dhismeedka Diyaar-garowga. Dowladuhu waxay leeyihiin door muhiim ah oo ay ka ciyaaraan ka caawinta nidaamka deegaanka AI inuu bislaado dhaqamadiisa qiimeynta khatarta iyo awoodda, sida iyagoo isu keenaya khubaro ka kala socda amniga weerarka internetka, kaabeyaasha muhiimka ah, iyo dunida AI si ay ugu heshiiyaan urur ah tusaalooyinka hanjabaadaha cyber-ka AI ee mudnaanta leh, iyo inay dhisaan goobaha tijaabada adag ee ku saleysan caddaynta si loo qiimeeyo. Waxaan si xooggan u taageernaa habka ikhtiyaariga ah, u roon hal-abuurka, ee cilmiga-hortaagan ee ay USAISI waddo.

Tan iyo markii OpenAI ay wajahday doorashada sida loo sii daayo GPT‑2 sannadkii 2019 – iyadoo dooratay in marka hore la sii daayo oo keliya nooc yar oo ka mid ah nooca — helitaanno cusub iyo dhacdooyin ayaa si joogto ah u beddelay muuqaalka tixgelinnada ku xeeran sii-daynta furan ee miisaannada noocyada aasaaska ah, mararka qaarkood dhowrkii biloodba mar. Waxaan filaynaa in isbeddelkani sii socdo. Hab kasta oo siyaasad dowladeed ah waa inuu noqdaa mid dabacsan oo la jaanqaadi kara isbeddellada mustaqbalka.