Kuwasilisha Hali ya Kufunga na lebo thabiti za Hatari Iliyoongezeka katika ChatGPT

Kadiri mifumo ya AI inavyochukua majukumu changamani zaidi—hasa yale yanayohusisha mtandao na programu zilizounganishwa—hatari za usalama hubadilika.

Hatari moja inayoibuka imekuwa muhimu sana: shambulio la vidokezo⁠. Katika mashambulio haya, mhusika wa tatu hujaribu kupotosha mfumo wa AI ya mazungumzo ili ufuate maagizo hatari au kufichue taarifa nyeti.

Leo, tunatanguliza aina mbili za ulinzi mpya zilizoundwa kuwasaidia watumiaji na mashirika kupunguza mashambulio ya vidokezo, kwa mwonekano wazi zaidi wa hatari na udhibiti imara zaidi:

• Hali ya Kufunga katika ChatGPT, mpangilio wa usalama wa hali ya juu na wa hiari kwa watumiaji walio katika hatari kubwa
• Lebo za “Hatari Iliyoongezeka” kwa uwezo fulani unaoweza kuleta hatari ya ziada katika ChatGPT, ChatGPT Atlas na Codex

Nyongeza hizi zinaongezwa juu ya ulinzi wetu uliopo katika viwango vya muundo, bidhaa na mfumo. Hii inajumuisha kuweka kwenye mazingira ya majaribio yaliyotengwa(sandbox), ulinzi dhidi ya uhamishaji wa data unaotegemea URL⁠, ufuatiliaji na utekelezaji, na vidhibiti vya biashara⁠ kama vile udhibiti wa ufikiaji kulingana na wajibu na kumbukumbu za ukaguzi.

Hali ya Kufunga ni mpangilio wa usalama wa hiari na wa hali ya juu ulioundwa kwa ajili ya kundi dogo la watumiaji wanaojali sana usalama—kama vile watendaji wakuu au timu za usalama katika mashirika mashuhuri—wanaohitaji ulinzi ulioimarishwa dhidi ya vitisho vya hali ya juu. Si lazima kwa watumiaji wengi. Hali ya Kufunga huweka vikwazo vikali kuhusu jinsi ChatGPT inavyoweza kuingiliana na mifumo ya nje ili kupunguza hatari ya uhamishaji wa data unaotokana na shambulio la vidokezo.

Hali ya Kufunga huzima kwa njia ya kubainika zana na uwezo fulani katika ChatGPT ambazo adui anaweza kujaribu kutumia vibaya ili kutoa data nyeti kutoka kwenye mazungumzo ya watumiaji au programu zilizounganishwa kupitia mashambulio kama vile mashambulio ya vidokezo.

Kwa mfano, kutumia mtandao katika Hali ya Kufunga kunazuiliwa kwa maudhui yaliyohifadhiwa kwenye kache, hivyo hakuna maombi ya moja kwa moja ya mtandao hutoka kwenye mtandao unaodhibitiwa na OpenAI. Kizuizi hiki kimeundwa kuzuia data nyeti isichukuliwe na mshambuliaji kupitia kuvinjari. Baadhi ya vipengele huzimwa kabisa wakati hatuwezi kutoa hakikisho thabiti za usalama wa data.

Mipango ya biashara ya ChatGPT tayari inatoa usalama wa data wa kiwango cha biashara⁠. Hali ya Kufunga inajengwa juu ya ulinzi huo na inapatikana kwa ChatGPT Enterprise, ChatGPT Edu, ChatGPT for Healthcare na ChatGPT for Teachers. Wasimamizi wanaweza kuiwezesha katika Mipangilio ya Eneokazi⁠(fungua katika dirisha jipya) kwa kuunda jukumu⁠(fungua katika dirisha jipya) jipya. Inapowezeshwa, Hali ya Kufunga huweka vikwazo vya ziada juu ya mipangilio iliyopo ya msimamizi.

Pata maelezo zaidi kuhusu Hali ya Kufunga katika Kituo cha Usaidizi⁠(fungua katika dirisha jipya).

Kwa sababu baadhi ya michakato muhimu ya kazi hutegemea programu, Wasimamizi wa Eneokazi hudumisha udhibiti wa kina zaidi. Wanaweza kuchagua programu zipi maalum—na ni vitendo vipi maalum ndani ya programu hizo—zinapatikana kwa watumiaji katika Hali ya Kufunga. Zaidi ya hayo, na tofauti na Hali ya Kufunga, Jukwaa la Rekodi za API za Uzingatiaji⁠(fungua katika dirisha jipya) linatoa mwonekano wa kina wa matumizi ya programu, data iliyoshirikiwa, na vyanzo vilivyounganishwa, na kuwasaidia wasimamizi kudumisha usimamizi.

Tunapanga kutoa Hali ya Kufunga kwa watumiaji katika miezi ijayo.

Bidhaa za AI zinaweza kuwa za manufaa zaidi zinapounganishwa na programu zako na wavuti, na tumewekeza sana katika kulinda data iliyounganishwa⁠. Wakati huohuo, baadhi ya uwezo unaohusiana na mtandao huleta hatari mpya ambazo bado hazijashughulikiwa kikamilifu na mikakati ya usalama na ulinzi ya sekta. Baadhi ya watumiaji wanaweza kuwa tayari kukubali hatari hizi, na tunaamini kwamba ni muhimu kwa watumiaji kuwa na uwezo wa kuamua kama watazitumia na jinsi ya kuzitumia, hasa wanapofanya kazi na data zao za kibinafsi.

Mbinu yetu imekuwa kutoa mwongozo ndani ya bidhaa kwa vipengele vinavyoweza kusababisha hatari ya zaidi. Ili kufanya hili liwe wazi na thabiti zaidi, tunasanifisha jinsi tunavyoweka lebo kwenye orodha fupi ya uwezo uliopo. Vipengele hivi sasa vitatumia lebo thabiti ya “Hatari Iliyoongezeka” katika ChatGPT, ChatGPT Atlas, na Codex ili watumiaji wapate mwongozo sawa popote wanapokutana navyo.

Kwa mfano, katika Codex, msaidizi wetu wa usimbaji, wasanidi programu wanaweza kuipa Codex ruhusa ya mtandao ili iweze kuchukua hatua kwenye mtandao kama vile kutafuta nyaraka. Skrini husika ya mipangilio inajumuisha lebo ya “Hatari Iliyoongezeka”, pamoja na maelezo wazi ya mabadiliko yanayofanyika, hatari zinazoweza kuletwa, na wakati ufikiaji huo unafaa.

Tunaendelea kuwekeza katika kuimarisha hatua zetu za usalama na ulinzi, hasa kwa hatari mpya, zinazoibuka, au zinazoongezeka. Tunapoimarisha hatua za ulinzi kwa vipengele hivi, tutaondoa lebo ya “Hatari Iliyoongezeka” mara tu tutakapobaini kuwa maendeleo ya usalama yamepunguza vya kutosha hatari hizo kwa matumizi ya jumla. Tutaendelea pia kusasisha vipengele vilivyo na lebo hii kwa muda ili kuwasilisha vyema hatari kwa watumiaji.