Maanta, OpenAI waxay bilaabaysaa barnaamij dadweyne oo Safety Bug Bounty(ku furmaa daaqad cusub) ah oo diiradda saaraya aqoonsiga ku-takrifalka AI iyo khataraha badbaadada ee guud ahaan badeecooyinkeenna. Maaddaama tignoolajiyada AI si degdeg ah isu beddelayso, waxaa sidoo kale sii kordhaya siyaabaha suurtagalka ah ee si khaldan loogu adeegsan karo. Hadafkeenna waa inaan hubinno in nidaamyadeennu ahaadaan kuwo ammaan iyo badbaado leh oo ka hortaga si xun u adeegsiga ama ku-takrifalka keeni kara waxyeello muuqata.
Barnaamijkan cusub wuxuu kabayaa Security Bug Bounty(ku furmaa daaqad cusub) ee OpenAI isaga oo aqbalaya arrimo leh khataro ku-takrifal iyo badbaado oo macno leh, xitaa haddii aanay buuxin shuruudaha nuglaansho amni. Iyadoo loo marayo barnaamijkan, waxaan rajaynaynaa inaan sii wadno la-shaqaynta cilmi-baarayaasha badbaadada iyo amniga si ay nooga caawiyaan aqoonsiga iyo wax ka qabashada arrimaha ka baxsan nuglaanshaha amni ee caadiga ah balse weli leh khataro dhab ah. Soo gudbinnada waxaa kala hormarin doona kooxaha OpenAI ee Safety and Security Bug Bounty, waxaana loo wareejin karaa midba midka kale iyadoo ku xiran baaxadda iyo cidda leh.
Barnaamijka cusub ee Safety Bug Bounty(ku furmaa daaqad cusub) wuxuu diiradda saarayaa xaaladaha badbaado ee gaar u ah AI ee hoos ku taxan:
Khataraha wakiillada oo ay ku jirto MCP
- Weerarka weydiinta ee dhinac saddexaad iyo saarista xogta: marka qoraalka weeraryahanku si lagu kalsoonaan karo u afduuban karo wakiilka dhibbanaha (oo ay ku jiraan Browser, ChatGPT Agent, iyo badeecooyin kale oo wakiilnimo leh) si uu ugu khiyaaneeyo inuu sameeyo fal waxyeello leh ama uu sii daayo macluumaadka xasaasiga ah ee isticmaalaha. Habdhaqanka waa inuu noqdaa mid dib loo soo saari karo ugu yaraan 50% waqtiga.
- Badeecad wakiilnimo leh oo OpenAI ah waxay ku fulisaa fal aan la oggolayn bogga OpenAI si baaxad leh.
- Badeecad wakiilnimo leh oo OpenAI ah waxay fulisaa fal waxyeello keeni kara oo aan kor ku qornayn. Warbixinaha saxda ah ee halkan waa inay muujiyaan waxyeello macquul ah oo la taaban karo.
- Tijaabo kasta oo khatarta MCP ah waa inay waafaqsanaataa shuruudaha adeegga ee dhinac kasta oo saddexaad.
Macluumaadka gaar ahaaneed ee OpenAI
- Wax-soo-saarrada nooca ee soo celiya macluumaad gaar ahaaneed oo la xiriira caqliyeynta.
- Nuglaanshooyinka soo bandhiga macluumaad kale oo gaar ahaaneed oo OpenAI ah.
Hufnaanta Akoonka iyo Madasha
- Nuglaanshooyinka ku jira hufnaanta akoonta iyo calaamadaha hufnaanta madasha, sida ka gudbidda xakamaynta ka hortagga otomaatiga, marin-habaabinta calaamadaha kalsoonida akoonta, ka fogaanshaha xannibaadaha/joojinta/mamnuucidda akoonta, iyo arrimo la mid ah.
- Arrimaha u oggolaanaya isticmaalayaasha inay helaan sifooyin, xog, ama shaqooyin ka baxsan oggolaanshaha loo idmaday waa in lagu soo gudbiyaa Security Bug Bounty(ku furmaa daaqad cusub).
In kasta oo jailbreak-yadu ay ka baxsan yihiin baaxadda barnaamijkan, haddana mararka qaarkood waxaan wadnaa ololeyaal gaar loo leeyahay oo bug bounty ah oo diiradda saaraya noocyo waxyeello gaar ah, sida arrimaha nuxurka halista bayooloji ee ChatGPT Agent iyo GPT‑5. Waxaan ku casuunaynaa cilmi-baarayaasha danaynaya inay codsadaan barnaamijyadan marka ay soo baxaan.
Ka baxsan qaybaha kor ku taxan, haddii cilmi-baarayaashu aqoonsadaan cillado fududeeya waddooyin toos ah oo keena waxyeello isticmaalaha iyo tallaabooyin sixid oo ficil ahaan loo qaadi karo oo gaar ah, kuwaas waxaa loo tixgelin karaa inay mudan yihiin abaalmarin iyadoo kiis kasta gaar loo eegayo. Ka gudbidda guud ee siyaasadda nuxurka iyadoo aan la muujin saameyn badbaado ama ku-takrifal ah kama mid aha baaxadda barnaamijkan. Tusaale ahaan, “jailbreaks” keena in noocku isticmaalo luqad qallafsan ama uu soo celiyo macluumaad si fudud looga heli karo matoorada raadinta kama mid aha baaxadda.
Cilmi-baarayaasha doonaya inay ka qaybqaataan waxay ka codsan karaan barnaamijkeenna Safety Bug Bounty(ku furmaa daaqad cusub). Waxaan rajaynaynaa inaan garab la shaqayno cilmi-baarayaasha, jabsadayaasha anshaxa leh, iyo bulshada badbaadada iyo amniga si loo gaaro nidaam deegaan AI oo ammaan ah.
