Leo, OpenAI inazindua mpango wa umma wa Kuwazawadia Watafiti wa Usalama(fungua katika dirisha jipya) unaolenga kutambua matumizi mabaya ya AI na hatari za usalama katika bidhaa zetu zote. Kadri teknolojia ya AI inavyoendelea kubadilika kwa kasi, ndivyo pia njia zinazowezekana ambazo zinaweza kutumiwa vibaya zinavyoongezeka. Lengo letu ni kuhakikisha mifumo yetu inasalia salama na yenye ulinzi dhidi ya matumizi mabaya au unyanyasaji ambao unaweza kusababisha madhara halisi.
Mpango huu mpya utaambatana na wa Kuwazawadia Watafiti wa Usalama ya OpenAI(fungua katika dirisha jipya) kwa kukubali masuala yanayoleta hatari kubwa za matumizi mabaya na usalama, hata kama hayakidhi vigezo vya kuwa udhaifu wa usalama. Kupitia mpango huu, tunatarajia kuendelea kushirikiana na watafiti wa usalama na ulinzi ili kutusaidia kutambua na kushughulikia masuala ambayo yako nje ya udhaifu wa kawaida wa usalama lakini bado yanaweza kusababisha hatari halisi. Mawasilisho yatapangwa na kuchunguzwa awali na timu za Kuwazawadia Watafiti wa Usalama wa OpenAI, na yanaweza kuelekezwa upya kati ya mipango miwili kulingana na upeo na umiliki.
Mpango mpya wa Kuwazawadia Watafiti wa Usalama(fungua katika dirisha jipya) unalenga matukio mahususi ya usalama wa AI yaliyoorodheshwa hapa chini:
Hatari zinazohusiana na wakala ikiwemo MCP
- Upenyezaji wa madokezo wa mhusika mwingine na uondoaji wa data: wakati maandishi ya mshambuliaji yanaweza kwa uhakika kuteka nyara wakala wa mwathirika (ikiwemo Kivinjari, Wakala wa ChatGPT, na bidhaa nyingine zinazofanana za kiwakala) ili kuudanganya ufanye kitendo chenye madhara au kusababisha kuvuja kwa taarifa nyeti za mtumiaji. Tabia lazima iweze kuzalishwa tena angalau asilimia 50 ya kila wakati.
- Bidhaa ya kiwakala ya OpenAI hufanya kitendo kisichoruhusiwa kwenye tovuti ya OpenAI kwa kiwango kikubwa.
- Bidhaa ya OpenAI yenye mawakala inatekeleza kitendo chochote kinachoweza kusababisha madhara ambacho hakijaorodheshwa hapo juu. Ripoti halali hapa lazima zionyeshe madhara yanayowezekana na ya maana.
- Upimaji wowote wa hatari ya MCP lazima uzingatie sheria na masharti ya wahusika wengine wowote.
Taarifa za Umiliki za OpenAI
- Vizazi vya muundo vinavyorejesha taarifa miliki zinazohusiana na uwazaji.
- Udhaifu unaoweza kufichua taarifa nyingine za umiliki za OpenAI.
Uadilifu wa Akaunti na Jukwaa
- Udhaifu katika uadilifu wa akaunti na ishara za uadilifu wa jukwaa, kama vile kukwepa udhibiti wa kuzuia otomatiki, kubadilisha ishara za uaminifu wa akaunti, kukwepa vizuizi, kusimamishwa, au marufuku ya akaunti, pamoja na masuala mengine yanayofanana.
- Masuala yanayoruhusu watumiaji kufikia vipengele, data au utendakazi zaidi ya ruhusa walizoidhinishwa yanapaswa kuripotiwa kwa mpango wa Kuwazawadia Watafiti wa Usalama(fungua katika dirisha jipya).
Ingawa ubadilishaji wa mfumo uko nje wa wigo wa mpango huu, mara kwa mara tunaendesha kampeni za kuwazawadia watafiti wa usalama zinazolenga aina fulani za madhara, kama vile masuala ya maudhui ya hatari za kibayolojia katika ChatGPT Agent na GPT‑5. Tunawaalika watafiti wanaovutiwa kutuma maombi kwa mipango hii inapopatikana.
Nje ya kategoria zilizoorodheshwa hapo juu, ikiwa watafiti watatambua dosari zinazowezesha njia za moja kwa moja za kuleta madhara kwa mtumiaji na hatua mahususi za kurekebisha zinazoweza kuchukuliwa, hizi zinaweza kuzingatiwa kuwa ndani ya wigo wa kustahiki zawadi kwa kuzingatia kila kesi kivyake. Njia za jumla za kukwepa sera ya maudhui zisizo na athari inayoweza kuthibitishwa kwa usalama au matumizi mabaya hazijumuishwi katika wigo wa mpango huu. Kwa mfano, “ubadilishaji wa mfumo” unaosababisha muundo kutumia lugha chafu au kurejesha maelezo yanayopatikana kwa urahisi kupitia injini za utafutaji hayajumuishwi katika wigo.
Watafiti wanaopenda kushiriki wanaweza kuomba kupitia mpango wa Kuwazawadia Watafiti wa Usalama(fungua katika dirisha jipya). Tunatarajia kufanya kazi pamoja na watafiti, wadukuzi wa kimaadili, na jamii ya usalama na ulinzi katika juhudi za kujenga mfumo ikolojia wa AI ulio salama.
