Ulaghai wa kunasa kwa mapenzi: Michakato ya “kuchinja nguruwe” inayosaidiwa na AI
OpenAI ilipiga marufuku akaunti zilizoonekana kuwa za Kambodia na zilizotumia AI kutafsiri na kutunga mazungumzo ya ulaghai wa mapenzi na uwekezaji.
Uchambuzi huu kifani ulichapishwa kwa mara ya kwanza katika ripoti ya OpenAI ya Februari 2025(fungua katika dirisha jipya).
Mhusika
Tulipiga marufuku kundi la akaunti za ChatGPT zilizokuwa zikitafsiri na kutunga maoni mafupi kwa Kijapani, Kichina na Kiingereza. Shughuli hii inaonekana kuwa ilianzia Kambodia na ililingana na ulaghai wa mapenzi na uwekezaji (unaojulikana pia kama “kuchinja nguruwe”). Hivi karibuni Meta ilitambua shughuli inayohusiana(fungua katika dirisha jipya) kwenye jukwaa lake ambayo ilionekana kutoka kwenye kituo kipya cha ulaghai kilichoanzishwa Kambodia.
Tabia
Mtandao huu ulitumia miundo yetu kutafsiri na kutunga maoni mafupi. Lugha kuu ya wahusika hao inaonekana kuwa Kichina. Matokeo yalikuwa katika lugha mbalimbali, hasa Kijapani na Kichina, lakini pia Kiingereza.
Wahusika hao walitumia miundo yetu kwa shughuli mbili kuu. Kwanza, walitunga maoni ambayo yalichapishwa hadharani kwenye majukwaa ya mitandao ya kijamii, yakiwemo Facebook, X na Instagram. Kwa kawaida, kila akaunti ya mtandao wa kijamii ilikuwa na picha moja au zaidi za wasifu za mwanamke kijana: Tunakadiria kuwa angalau baadhi ya picha hizi zilinakiliwa kutoka kwa wanamitindo au washawishi halisi, badala ya kutolewa na AI.
Maoni mengi yaliyotolewa yalichapishwa yakijibu machapisho ya watu halisi kwenye mitandao ya kijamii. Baadhi ya machapisho ambayo waendeshaji hao walijibu yalikuwa ya miezi au miaka kadhaa iliyopita. Kwa kawaida, operesheni hii ililenga wanaume ambao wasifu wao wa umma ulionyesha kuwa walikuwa na zaidi ya miaka 40, mara nyingi wakiwa katika taaluma za afya. Operesheni hiyo ilijibu mara kwa mara machapisho kuhusu gofu, jambo linaloashiria mkakati wa kimakusudi wa kulenga watu fulani. Mara kwa mara, walaghai hao walichapisha kuhusu masuala ya kisiasa au matukio ya sasa.
Maoni ya Facebook yaliyotolewa na mhusika huyu kwa kutumia miundo yetu, yakijibu maoni kuhusu gofu ya mtu ambaye hakuonekana kuhusishwa na operesheni hii. Picha ya wasifu ya akaunti ya ulaghai ilinakiliwa kutoka kwa mshawishi wa mitindo na urembo wa Marekani. Chapisho la awali lilikuwa na zaidi ya mwezi mmoja wakati akaunti ya ulaghai ilipochapisha maoni humo.
Maoni yaliyotolewa na miundo yetu na kuchapishwa na akaunti iliyothibitishwa kwenye X, yakijibu chapisho la akaunti ambayo haikuonekana kuhusishwa na ulaghai huu. Picha ya wasifu wa akaunti hiyo ilinakiliwa kutoka kwa mshawishi yuleyule wa mitindo na urembo wa Marekani. Chapisho la awali lilikuwa la karibu miezi sita iliyopita.
Pili, na mara nyingi zaidi, waendeshaji hao walitunga maoni mafupi yaliyofanana na sehemu za mazungumzo ya mtandaoni. Kwa kawaida, hii ilihusisha kutafsiri maoni kutoka Kichina hadi lugha lengwa (Kijapani au Kiingereza), au kutoka lugha lengwa kurudi Kichina. Hii inalingana na walaghai kutumia muundo hasa kutafsiri mazungumzo yaliyokuwa yakiendelea.
Wakati mwingine, akaunti hizo ziliomba muundo utoe jibu kwa mtindo fulani wa sauti, kama wa mwanamke kijana mwenye kutongoza. Wakati mwingine, maelezo mengi ya wasifu yalitolewa ili kuelekeza majibu ya muundo, yakiwemo jina, elimu, kazi, eneo na mambo anayopenda mhusika huyo bandia. Kwa kawaida, wasifu huu ulijumuisha dai kwamba mhusika huyo bandia alijihusisha kwa kiasi fulani na uwekezaji mtandaoni.
Walaghai hao wanaonekana kutumia zana na majukwaa mengi tofauti kuwasiliana na walengwa wao. Uchunguzi wetu ulipata ushahidi kwamba walitumia zana zilizojumuisha LINE, WhatsApp, X, Facebook, Instagram, huduma nyingine mbalimbali za ujumbe, kipengele cha Apple cha “ficha barua pepe yangu”(fungua katika dirisha jipya), pamoja na majukwaa ya sarafu za kidijitali na ubadilishaji wa fedha za kigeni.
Majibu
Kulingana na mwonekano wetu mahususi wa shughuli hii, walaghai hao wanaonekana kufuata mchakato wa kawaida wa kuwahamisha walengwa kutoka hatua ya mawasiliano hadi uwekezaji wa ulaghai:
Mawasiliano ya hadharani: Walaghai walitoa maoni kwenye machapisho ya mitandao ya kijamii ya mlengwa. Mara nyingi maoni haya yaliishia kwa swali kama, “Una maoni gani kuhusu [mada]?”, huenda ili kuongeza uwezekano wa kupata jibu. Katika visa vichache, walitoa maoni kuhusu siasa, lakini mara nyingi zaidi walizungumza kuhusu gofu.
Ujumbe wa moja kwa moja unaowezekana: Kisha walaghai walitunga maoni mafupi ya kimazungumzo. Ingawa hatuoni kikamilifu jinsi na mahali maoni haya yalivyotumika, yalilingana na hali ambapo mlaghai na mlengwa walianza kubadilishana ujumbe wa moja kwa moja.
Ujumbe salama: Baada ya muda mfupi sana, mara nyingi ndani ya siku chache, walaghai walitunga ujumbe uliopendekeza kuhamia kwenye programu salama zaidi ya ujumbe. Wakati mwingine walidai kwamba mlaghai hakuamini mitandao ya kijamii; nyakati nyingine walitoa kisingizio cha mipango, kama kusema walikuwa karibu kwenda mahali ambako hawangeweza kufikia mitandao ya kijamii.
Mahusiano ya kimapenzi: Walaghai waliandika na kutafsiri ujumbe uliozidi kuwa wa mapenzi na wa karibu. Walengwa walipoomba picha za “mwanamke” waliyekuwa wakizungumza naye, walaghai walitoa visingizio.
Ushawishi wa kifedha: Walaghai waliandika na kutafsiri ujumbe wa kujigamba kwamba walikuwa wamepata pesa nyingi kwa kuwekeza mtandaoni katika fedha za kigeni, sarafu za kidijitali au dhahabu. Mara nyingi hili liliwasilishwa kama matokeo ya kufuata ushauri wa jamaa aliyefanya kazi katika sekta ya fedha. Mlaghai alimhimiza mlengwa aanze kuwekeza kwa njia hiyo hiyo na akajitolea kumwongoza katika mchakato huo.
Ulaghai: Walaghai waliandika na kutafsiri ujumbe wa kujaribu kumshawishi mwathiriwa ahamishe pesa kwenye programu ya biashara, huku wakimtia moyo kwa kusisitiza ukubwa wa faida aliyokuwa akipata. Kila mara mwathiriwa alipojaribu kutoa “faida” zake, mlaghai alitoa kisingizio, kama vile kudai kwamba ada ilihitaji kulipwa.
Mtindo huu wa shughuli unalingana na ripoti zinazopatikana hadharani(fungua katika dirisha jipya) kuhusu jinsi ulaghai wa aina hii unavyofanyika kwa kawaida.
Athari
Shughuli hii inaonekana kuwa ilijumuisha majaribio mengi yasiyofanikiwa na kushindwa kwingi. Baadhi ya mazungumzo ambayo walaghai walichakata kupitia miundo yetu yaliishia kwa mlengwa kutambua wazi kuwa shughuli hiyo ilikuwa ulaghai, au kumwambia mlaghai amwache. Pia tulitambua machapisho ya walaghai kwenye mitandao ya kijamii ambayo hayakupata mwitikio wowote.
Hata hivyo, baadhi ya mazungumzo yalitaja maelfu ya dola (au thamani sawa katika sarafu nyingine) kama ukubwa wa miamala binafsi. Kwa kuzingatia jinsi waendeshaji hawa walivyotumia miundo yetu, hatuwezi kujua ikiwa miamala hii ya kifedha ilifanyika, lakini marejeleo katika mazungumzo yanaashiria kwamba katika angalau baadhi ya visa, walaghai walifanikiwa kuwaibia walengwa wao.
Sera za OpenAI zinapiga marufuku kabisa matumizi ya matokeo ya zana zetu kwa ulaghai. Tumejitolea kushirikiana na wadau wengine katika sekta na mamlaka ili kuelewa jinsi AI inavyotumiwa katika tabia za uhasama na kuvuruga kikamilifu shughuli za ulaghai zinazotumia huduma zetu vibaya. Kwa kuzingatia ahadi hii, tumeshiriki taarifa kuhusu mitandao ya ulaghai tuliyovuruga na wadau wengine katika sekta pamoja na mamlaka husika.