Operesheni za ulaghai: Mitandao ya ulaghai mtandaoni

Uchunguzi huu kifani ulichapishwa awali katika ripoti ya OpenAI ya Oktoba 2025⁠(fungua katika dirisha jipya).

Mitandao ambayo huenda ilianzia Kambodia, Myanmar na Nigeria ikitumia ChatGPT vibaya katika juhudi zinazoonekana kulenga kuwalaghai watu mtandaoni.

Tumejitolea kutambua, kuzuia na kukomesha juhudi za kutumia miundo yetu vibaya kwa madhumuni hatari. Matumizi hayo mabaya yanajumuisha ulaghai, ambapo tunagundua na kupiga marufuku wahusika hasidi wanaojaribu kutumia miundo yetu vibaya ili kuwadanganya na kuwalaghai watu. Katika miezi mitatu iliyopita, tumekomesha mitandao ya ulaghai ambayo huenda ilianzia Kambodia, Myanmar na Nigeria. Kama ishara ya mchango ambao AI inaweza kutoa katika kupambana na ulaghai, wakati wa kuchunguza mifumo hii ya matumizi mabaya, tumeona pia watu wengi wakitumia miundo yetu kuwasaidia kutambua ulaghai. Ripoti hii inajadili hali zote mbili za matumizi.

Matumizi mabaya ya miundo yetu kuendeleza ulaghai huanzia kwa wahusika binafsi wanaojaribu kulaghai hadi operesheni kubwa na za kudumu ambazo huenda zinahusishwa na makundi ya uhalifu uliopangwa. Bila kujali zilikotokea na mbinu mahususi zinazotumiwa, shughuli zinazohusiana na ulaghai ambazo tumekomesha kwa kawaida hufuata mtindo mmoja: mwito (kuwasiliana bila kutarajiwa), msisimko (kujaribu kuibua hamasa au hofu), na mtego (kuchukua pesa au taarifa muhimu).

Walaghai hawa huanza kwa kusambaza maudhui, yawe yamezalishwa na AI au la, katika huduma za ujumbe na kwenye intaneti, ikiwemo kupitia matangazo ya mitandao ya kijamii. Kisha hujaribu kumfanya yeyote anayejibu asisimkie fursa yenye faida kubwa au aogope hasara ya kifedha inayokaribia, na kutumia hisia hiyo kumshawishi mlengwa awape pesa au taarifa nyeti.

Pia tumeona visa vingi ambapo huenda miundo yetu imesaidia kuwalinda watu dhidi ya ulaghai. Tumeona ushahidi wa watu kutumia ChatGPT kuwasaidia kutambua na kuepuka ulaghai wa mtandaoni mara mamilioni kila mwezi; katika kila operesheni ya ulaghai iliyo kwenye ripoti hii, tumeona muundo ukiwasaidia watu kutambua ulaghai kwa usahihi na kuwashauri kuhusu hatua mwafaka za usalama. Makadirio yetu ya sasa ni kwamba ChatGPT inatumiwa kutambua ulaghai hadi mara tatu zaidi kuliko inavyotumiwa kuufanya.

Mfano wa mchunguzi wa OpenAI akiweka kwenye ChatGPT picha ya skrini ya ujumbe wa SMS wa ulaghai aliopokea na kufanikiwa kutumia muundo kuutambua kama ulaghai. Katika kisa hiki, wahusika tishio walijaribu kujifanya waajiri wa TikTok.

Tumeimarisha uwezo wetu wa kugundua na kukomesha ulaghai tangu ripoti yetu ya mwisho. Tumekomesha mitandao mingine ya ulaghai iliyoonekana kuanzia Kambodia, Myanmar na Nigeria. Pamoja na operesheni tulizokomesha awali, hatua hizi hutuwezesha kutambua baadhi ya mielekeo inayoibuka katika operesheni nyingi za ulaghai kutoka nchi tofauti.

Shughuli nyingi za ulaghai tulizokomesha zililenga kuingiza AI katika mbinu zilizopo za ulaghai, badala ya kuunda mbinu mpya zinazotegemea AI. Operesheni zote za ulaghai tulizotambua na kupiga marufuku mwaka huu zilitumia AI hasa kama zana ya kupanua shughuli na kuongeza ufanisi. Kwa kawaida, hii ilihusisha kutumia miundo yetu kutafsiri, kuandika ujumbe na kuunda maudhui ya mitandao ya kijamii.

Kwa mfano, hivi karibuni tulipiga marufuku operesheni za ulaghai ambazo huenda zilianzia Kambodia na Nigeria na zilizojifanya “kampuni za uwekezaji” ili kuwalaghai waathiriwa katika nchi kadhaa. Walaghai hao waliunda tovuti na matangazo ya mtandaoni ili kutangaza kampuni hizo bandia na wakatumia akaunti za mitandao ya kijamii ambazo huenda hazikuwa halisi, wakijifanya wataalamu wa biashara ili kuwaalika watu wajiunge na vikundi vya faragha vya ujumbe. Wakiahidi fursa zenye faida kubwa na zisizo na hatari, wahusika tishio walijaribu kuwashawishi waathiriwa watarajiwa walipe pesa kwenye mifumo bandia ya biashara. Katika ulaghai huo wote, walaghai walitumia miundo yetu hasa kuandaa na kutafsiri mawasiliano, kuunda maudhui ya tovuti na akaunti zao za mitandao ya kijamii, na kufanya utafiti wa msingi.

Katika kisa kingine, tulipiga marufuku kituo cha ulaghai ambacho kuna uwezekano mkubwa kilikuwa Myanmar na kilitumia miundo yetu kuunda maudhui ya mipango yake ya ulaghai na kutekeleza majukumu ya kila siku ya biashara. Hii ilijumuisha kupanga ratiba, kuandaa matangazo ya ndani, kutenga madawati na malazi ya mabweni, na kusimamia akaunti za fedha. Baadhi ya waendeshaji waliuliza kuhusu adhabu za jinai kwa watu wanaopatikana wakifanya ulaghai mtandaoni.

Si walaghai wote tuliokomesha waliotumia miundo yetu kwa njia sawa au kwa kiwango sawa cha utata. Mwingiliano mwingi wa walaghai na ChatGPT ulihusisha majukumu rahisi kama kutafsiri, lakini baadhi ya operesheni za ulaghai zilikuwa na malengo makubwa na mipango tata zaidi.

Kwa mfano, operesheni moja ya ulaghai tuliyokomesha, ambayo huenda ilianzia Kambodia, ilitumia miundo yetu kuunda wasifu wa kina wa wataalamu bandia wa uwekezaji na wafanyakazi wa kubuniwa wa kampuni bandia za biashara. Kisha walaghai waliomba ChatGPT iandike ujumbe wa mitandao ya kijamii kwa sauti za wahusika hao. Mara nyingi, wahusika tishio waliingiza kwenye muundo wetu ujumbe ambao walionekana kupokea kutoka kwa walengwa wao, kisha wakauomba uendeleze mazungumzo kama mhusika huyo bandia.

Operesheni ya pili ya ulaghai, ambayo pia huenda ilianzia Kambodia, ilianza kwa kutumia miundo yetu kuunda ujumbe wa SMS wa kuwasiliana bila kutarajiwa, uliotumwa kwa wingi kwenye nambari za simu za Marekani. Mojawapo ya ujumbe huu ilitumwa kwa mchunguzi wa OpenAI, sawa na kisa tulichoripoti mwezi Juni. Ujumbe huu wa SMS ulijumuisha mialiko ya kujiunga na vikundi vya WhatsApp vilivyopigwa marufuku baadaye, ambavyo majina yake yalifanana na ya kampuni halali ya uwekezaji.

Kulingana na mfululizo wa ujumbe wa WhatsApp uliotumwa kwa mchunguzi wa OpenAI, mlengwa anayetarajiwa akijiunga na mojawapo ya vikundi hivi, angeona haraka “mazungumzo” kati ya takribani akaunti sita tofauti, zote zikizungumzia uwekezaji. Mojawapo ilijifanya “mtaalamu wa uwekezaji”, huku nyingine zikijifanya wawekezaji wenye viwango tofauti vya kujiamini na uzoefu. Kila sehemu ya mazungumzo haya iliundwa na walaghai, walioitafsiri kwa pamoja kutoka Kichina—huenda ili kuonyesha kwamba kikundi hicho kilikuwa hai na kilijaa wafanyabiashara wenye ari na mafanikio. Hatimaye, “mtaalamu wa uwekezaji” angependekeza kwamba mlengwa pia ajaribu kuwekeza.

Kando na hayo, operesheni ya ulaghai wa uwekezaji ambayo kuna uwezekano mkubwa ilianzia Nigeria iliomba muundo ushauri wa hatua kwa hatua kuhusu jinsi ya kutumia matangazo ya mitandao ya kijamii kuwafikia matajiri Amerika ya Kusini, kuficha ilipo na kuepuka vizuizi vya majukwaa ya mitandao ya kijamii. Hii ilihusisha kuelekeza muundo kwenye masharti ya umma ya huduma ya jukwaa na kuuomba ukague maudhui yaliyopendekezwa ya tangazo ili kuthibitisha kuwa yanatii masharti.

Walaghai, hasa vituo vikubwa vya ulaghai, hawakati tamaa. Mara nyingi sana, wanapokabiliwa na hatua za kuwakomesha, hujaribu kuanzisha upya shughuli zao zinazokiuka sheria huku wakibadilisha baadhi ya tabia zao, huenda ili kuepuka kugunduliwa tena. Hii ni sababu mojawapo ya umuhimu wa kushirikisha sekta nzima maarifa kuhusu shughuli zao zinazobadilika, kama wakati OpenAI na Meta ziliposhirikiana taarifa kuhusu wahusika tishio ambazo zilichangia uchunguzi na utekelezaji zaidi.

Huenda kutokana na hatua za kukomesha shughuli zao au mijadala mipana mtandaoni kuhusu ishara zinazoweza kufichua matumizi ya AI, tumeona walaghai wakijaribu kuficha matumizi yao ya AI katika maudhui ya mtandaoni na mawasiliano na walengwa. Hii inajumuisha operesheni za ulaghai ambazo huenda zilianzia Kambodia na zilizoelekeza muundo uondoe vistari virefu kwenye matokeo.

Katika kisa kimoja, walaghai walijaribu kueleza kukomeshwa kwa kiwango kikubwa kwa rasilimali zao za mitandao ya kijamii kwa kutunga kisingizio cha kupigwa marufuku. Hii ilihusu kituo cha ulaghai kilichoelezwa hapo juu, ambacho huenda kilianzia Kambodia na kilifanya shughuli zake kupitia SMS na WhatsApp. Baada ya WhatsApp kupiga marufuku “vikundi vya uwekezaji” vilivyohusishwa na operesheni hiyo, waendeshaji walianza kuunda ujumbe uliodai kuwa vikundi hivyo viliripotiwa kwa uongo na mshindani, huenda ili kutoa kisingizio cha kupigwa marufuku.

Picha ya skrini ya ujumbe wa WhatsApp uliotumwa na operesheni ya ulaghai iliyohusishwa na Kambodia kwa mchunguzi wa OpenAI baada ya WhatsApp kuiondoa.