Kubuni mawakala wa AI ili kupinga upenyezaji wa madokezo

Mawakala wa AI wanazidi kuwa na uwezo wa kuvinjari wavuti, kupata taarifa, na kuchukua hatua kwa niaba ya mtumiaji. Uwezo huo ni muhimu, lakini pia huunda njia mpya kwa washambuliaji kujaribu kudanganya mfumo.

Mashambulizi haya mara nyingi hufafanuliwa kama upenyezaji wa madokezo⁠: maagizo yaliyowekwa katika maudhui ya nje kwa jaribio la kuufanya muundo ufanye jambo ambalo mtumiaji hakuomba. Kwa uzoefu wetu, matoleo yenye ufanisi zaidi ya mashambulio haya katika ulimwengu halisi yanazidi kufanana na kuwahadaa watu kuliko kubatilisha madokezo kwa urahisi.

Mabadiliko hayo ni muhimu. Ikiwa tatizo si tu kutambua mfuatano hatari wa herufi, bali ni kustahimili maudhui yanayopotosha au ya kiudanganyifu katika muktadha, basi kujilinda dhidi yake hakuwezi kutegemea tu kuchuja ingizo. Pia inahitaji kubuni mfumo ili athari za udanganyifu zidhibitiwe, hata kama baadhi ya mashambulio yatafaulu.

Mashambulio ya awali ya aina ya “upenyezaji wa madokezo” yangeweza kuwa rahisi kama kuhariri makala ya Wikipedia ili kujumuisha maagizo ya moja kwa moja kwa mawakala wa AI wanaoitembelea; bila uzoefu wa wakati wa mafunzo wa mazingira kama hayo ya uhasama, miundo ya AI mara nyingi hufuata maagizo hayo bila kushuku¹. Kadri miundo inavyozidi kuwa nadhifu, pia imekuwa rahisi zaidi kwa aina hili la pendekezo na tumeona kwamba mashambulizi ya aina hii ya upenyezaji wa madokezo yamejibu kwa kujumuisha vipengele vya kuwahadaa watu:

Ndani ya mfumo mpana wa usalama wa AI imekuwa kawaida kupendekeza mbinu kama vile "kukinga mtandao wa AI" ambapo mpatanishi kati ya wakala wa AI na ulimwengu wa nje anajaribu kuainisha ingizo katika upenyezaji wa madokezo ya hatari na ingizo za kawaida—lakini mashambulizi haya yaliyotengenezwa kikamilifu kwa kawaida hayanaswi na mifumo kama hiyo. Kwa mifumo kama hiyo, kugundua ingizo hasidi kunakuwa tatizo lilelile gumu sana kama kugundua uongo au taarifa potofu, na mara nyingi bila muktadha unaohitajika.

Kadiri mashambulio ya upenyezaji wa madokezo ya ulimwengu halisi yalivyozidi kuwa changamani, tuligundua kuwa mbinu za kukera zilizo na ufanisi zaidi zilitumia mbinu za kuwahadaa watu. Badala ya kuyachukulia mashambulio haya ya upenyezaji wa madokezo yanayoambatana na kuwahadaa watu kama tatizo la aina tofauti au jipya kabisa, tulianza kuyaangalia kwa mtazamo uleule unaotumika kudhibiti hatari ya kuwahadaa watu kwa binadamu katika nyanja nyingine. Katika mifumo hii, lengo halijazuiliwa tu kwa kutambua kwa ukamilifu ingizo hasidi, bali ni kubuni mawakala na mifumo ili athari ya ujanja iwe na vikwazo, hata kama itafanikiwa. Mifumo kama hiyo hujionyesha kuwa yenye ufanisi katika kupunguza upenyezaji wa madokezo na kuwahadaa watu.

Kwa njia hii, tunaweza kumfikiria wakala wa AI kama aliyepo katika mfumo wa wahusika watatu unaofanana na wakala wa huduma kwa wateja; wakala anataka kutenda kwa niaba ya mwajiri wake, lakini anaendelea kuathiriwa na maingizo ya nje ambayo yanaweza kujaribu kumpotosha. Wakala wa usaidizi kwa wateja, wa kibinadamu au wa AI, lazima awe na mapungufu yaliyowekwa kwenye uwezo wake ili kupunguza hatari ya upande wa chini iliyo asili ya kuwepo katika mazingira yenye uhasama kama hayo.

Fikiria hali ambayo binadamu anaendesha mfumo wa usaidizi kwa wateja na anaweza kutoa kadi za zawadi na marejesho ya fedha kwa usumbufu uliopatikana na mteja kama vile ucheleweshaji wa uwasilishaji, uharibifu kutokana na hitilafu, n.k. Hili ni tatizo la wahusika wengi ambapo shirika lazima liamini kwamba wakala anatoa marejesho ya fedha kwa sababu sahihi, huku wakala pia akiingiliana na wahusika wengine wa tatu ambao huenda wakalenga kumpotosha au hata kumweka chini ya shinikizo.

Katika ulimwengu halisi, wakala hupewa seti ya sheria za kufuata, lakini inatarajiwa kwamba, katika mazingira ya wapinzani wanamoishi, watapotoshwa. Labda mteja anatuma ujumbe akidai kwamba marejesho yake hayajawahi kulipwa, au anatishia madhara ikiwa hatarejeshewa pesa. Mifumo ya kubainika ambayo wakala huingiliana nayo huweka kikomo cha kiasi cha marejesho ya fedha kinachoweza kutolewa kwa mteja, huashiria barua pepe zinazoweza kuwa za kuhadaa, na hutoa hatua nyingine kama hizo za kupunguza ili kupunguza athari ya kuathiriwa kwa wakala mmoja. 

Mtazamo huu umeongoza seti thabiti ya hatua za kukabiliana ambazo tumeweka ambazo zinatimiza matarajio ya usalama ya watumiaji wetu.

Katika ChatGPT, tunaunganisha muundo huu wa kuwahadaa watu na mbinu za jadi zaidi za uhandisi wa usalama kama vile uchambuzi wa chanzo.

Katika muktadha huo, mshambuliaji anahitaji kuwa na chanzo, au njia ya kuathiri mfumo, au uwezo unaoweza kuwa hatari katika muktadha usio sahihi. Kwa mifumo ya kiwakala, hilo mara nyingi humaanisha kuchanganya maudhui ya nje yasiyoaminika na hatua kama vile kutuma taarifa kwa mhusika mwingine, kufuata kiungo, au kuingiliana na zana.

Lengo letu ni kuhifadhi matarajio ya msingi ya usalama kwa watumiaji: vitendo vinavyoweza kuwa hatari, au uwasilishaji wa taarifa zinazoweza kuwa nyeti, havipaswi kutokea kimya kimya au bila hatua zinazofaa za ulinzi.

Mashambulio tunayoona yakitengenezwa dhidi ya ChatGPT mara nyingi hujumuisha kujaribu kumshawishi msaidizi kwamba anapaswa kuchukua taarifa fulani ya siri kutoka kwenye mazungumzo na kuisambaza kwa mhusika mwingine hasidi. Katika hali nyingi tunazozifahamu, mashambulizi haya hushindwa kwa sababu mafunzo yetu ya usalama humfanya wakala kukataa. Kwa hali hizo ambazo wakala ana uhakika, tumeunda mkakati wa kupunguza hatari unaoitwa Url Salama ambao umeundwa kugundua wakati taarifa ambazo msaidizi alijifunza katika mazungumzo zingetumwa kwa mhusika mwingine. Katika matukio haya nadra, tunamwonyesha mtumiaji taarifa ambayo ingetumwa na kuwaomba wathibitishe, au tunaizuia na kumwambia wakala ajaribu njia nyingine ya kusonga mbele na ombi la mtumiaji.

Utaratibu huu huu unatumika kwa urambazaji na vialamisho katika Atlas⁠; na utafutaji na urambazaji katika Utafiti wa kina⁠. ChatGPT Canvas⁠ na Programu za ChatGPT⁠ huchukua mkabala unaofanana, na kumruhusu wakala kuunda na kutumia programu zinazofanya kazi—hizi huendeshwa katika sehemu ya majaribio inayoweza kugundua mawasiliano yasiyotarajiwa na kuomba idhini ya mtumiaji⁠(fungua katika dirisha jipya).

Unaweza kusoma maelezo zaidi kuhusu Url Salama na kupata hati kuhusu muundo wake katika chapisho lake maalum la blogu Kuweka data yako salama wakati wakala wa AI anapobofya kiungo⁠.

Mwingiliano salama na ulimwengu wa nje wenye uhasama ni muhimu kwa mawakala wanaojitegemea kikamilifu. Wakati wa kuunganisha muundo wa AI na mfumo wa programu, tunapendekeza kuuliza ni vidhibiti gani wakala wa binadamu anapaswa kuwa navyo katika hali kama hiyo na kutekeleza hizo. Tunatarajia kwamba muundo wa AI wenye akili ya juu zaidi utaweza kupinga kuwahadaa watu vizuri zaidi kuliko wakala wa kibinadamu, lakini hili si rahisi kila wakati au la gharama nafuu kulingana na programu.

Tunaendelea kuchunguza athari za kuwahadaa watu dhidi ya miundo ya AI na ulinzi dhidi yake na kujumuisha matokeo yetu katika usanifu wetu wa usalama wa programu na mafunzo tunayopitisha miundo yetu ya AI.