Matumizi mabaya yanayohusishwa na PRC: Ufuatiliaji na shughuli za ushawishi

Uchunguzi kifani huu ulichapishwa awali katika ripoti ya OpenAI ya Oktoba 2025⁠(fungua katika dirisha jipya).

Watu wanaoonekana kuhusishwa na mashirika ya serikali ya PRC walitumia ChatGPT kusaidia kutengeneza zana, kuandaa wasifu na kutekeleza majukumu ya kiutawala.

Kama tulivyoeleza katika maoni yetu ya Machi kuhusu Mpango wa Utekelezaji wa AI wa Marekani kwa Ofisi ya Sera ya Sayansi na Teknolojia, tunaamini kuwa kuhakikisha AI inanufaisha watu wengi iwezekanavyo kunahitaji kuiwezesha kupitia kanuni zenye mantiki zinazolenga kuwalinda watu dhidi ya madhara halisi, na kujenga AI ya kidemokrasia. Tunaposema AI ya kidemokrasia, tunamaanisha AI inayoundwa kwa kuzingatia kanuni za kidemokrasia ambazo Marekani imekuwa ikitetea daima. Hii inajumuisha kuzuia tawala za kimabavu kutumia zana za AI kujilimbikizia mamlaka na kuwadhibiti raia wao.

Uwekezaji wetu katika kugundua na kuvuruga majaribio ya tawala za kimabavu ya kutumia vibaya uwezo wa ChatGPT haulindi watu sasa tu, bali pia hutoa maarifa muhimu kuhusu jinsi tawala hizo zinavyoweza kutumia vibaya uwezo wa siku zijazo. Sehemu hii inajadili baadhi ya matokeo hayo kuhusu watu wanaoweza kuhusishwa na tawala kama hizo, kwa kuangazia PRC.

Kama tulivyoandika mwezi Juni, PRC inapiga hatua kubwa katika kuendeleza toleo lake la AI ya kiimla. Hatua yetu ya kusitisha akaunti za ChatGPT zilizotumiwa na watu wanaoonekana kuhusishwa na mashirika ya serikali ya China inatoa taswira kiasi kuhusu hali ya sasa ya matumizi ya AI katika mazingira haya ya kimabavu. Baadhi ya matumizi haya yalionekana kulenga kusaidia ufuatiliaji mkubwa wa shughuli za mtandaoni au nje ya mtandao, jambo linalosisitiza umuhimu wa kuendelea kufuatilia uwezekano wa matumizi mabaya ya kimabavu katika eneo hili. Vipengele vingine vya matumizi haya vilionekana kulenga uundaji wa wasifu wa kina zaidi. Tulipiga marufuku akaunti zilizohusishwa na shughuli hii na tunashiriki maarifa tuliyopata katika ripoti hii.

Uchunguzi huu unatokana na baadhi ya hatua tulizochukua kuvuruga shughuli zilizokiuka sera, ambazo tuligundua na kupiga marufuku. Shughuli hiyo ililingana na matumizi ya ChatGPT ya watumiaji binafsi, badala ya taasisi kutumia miundo yetu kwa kiwango kikubwa. Kwa hivyo, ni taswira ndogo tu ya matumizi ya miundo mbalimbali ya AI katika muktadha huu.

Baadhi ya akaunti tulizopiga marufuku zilionekana kujaribu kutumia ChatGPT kutengeneza zana za ufuatiliaji mkubwa: kuchanganua seti za data ambazo mara nyingi zilikusanywa kutoka kwenye majukwaa ya mitandao ya kijamii ya Magharibi au China. Mwezi Februari tuliripoti kisa kimoja kama hicho, kilicholenga kubuni zana ya AI ya kufuatilia maudhui ya mitandao ya kijamii, ambayo waendeshaji wake walidai ilikuwa ya vikosi vya usalama vya China. Kwa kawaida, watumiaji hawa waliomba ChatGPT iwasaidie kubuni zana kama hizo au kuandaa nyenzo za kuzitangaza, lakini si kutekeleza ufuatiliaji wenyewe.

Kwa mfano, hivi karibuni tulimpiga marufuku mtumiaji ambaye huenda alitumia VPN kufikia huduma zetu kutoka China na ambaye alikuwa akiomba ChatGPT isaidie kubuni nyenzo za matangazo na mipango ya mradi wa zana ya kufuatilia maudhui ya mitandao ya kijamii, iliyodaiwa kuwa ya mteja wa serikali. Zana hiyo ilielezwa kuwa “kichunguzi” (探针) cha mitandao ya kijamii ambacho kilidaiwa kuwa na uwezo wa kukagua Twitter/X, Facebook, Instagram, Reddit, TikTok na YouTube ili kutafuta kile ambacho mtumiaji alikiita matamshi ya itikadi kali na maudhui ya kikabila, kidini na kisiasa. Mtumiaji hakutumia muundo wetu kutekeleza ufuatiliaji halisi wa mitandao ya kijamii. Hatuwezi kuthibitisha kwa njia huru ikiwa zana hii imetumiwa na shirika la serikali ya China.

Vilevile, tulimpiga marufuku mtumiaji wa pili ambaye huenda alihusishwa na shirika la serikali na ambaye aliomba ChatGPT isaidie kuandika pendekezo la kile alichokiita Muundo wa Tahadhari ya Kuingia kwa Watu wenye Uhusiano na Uyghur Walio katika Hatari Kubwa (高危涉维吾尔关注人员流入预警模型). Pendekezo hilo lilieleza zana ambayo ingechanganua nafasi zilizowekwa kwa usafiri na kuzilinganisha na rekodi za polisi ili kutoa tahadhari ya mapema kuhusu safari za watu walioainishwa kuwa wenye uhusiano na Uyghur na walio katika hatari kubwa, kundi ambalo halikufafanuliwa zaidi. Mtumiaji hakuomba muundo wetu usaidie kujenga zana kama hiyo, bali kuandaa pendekezo la jumla pekee; kwa hivyo, hatuwezi kuthibitisha kwa njia huru teknolojia aliyokusudia kutumia wala ikiwa zana kama hiyo imetumiwa na shirika la serikali ya China.

Pia tuliwapiga marufuku watumiaji walioonekana kuhusishwa na mashirika ya serikali ya China na kujaribu kutumia ChatGPT kuandaa wasifu mahususi wa watu waliolengwa na kufanya utafiti mtandaoni.

Kwa mfano, mtumiaji mmoja aliomba ChatGPT itambue vyanzo vya ufadhili vya akaunti ya X iliyokosoa serikali ya China. Mtumiaji wa pili aliomba ChatGPT itambue waandaaji wa ombi rasmi nchini Mongolia. Katika visa hivi viwili, miundo yetu ilitoa tu taarifa zinazopatikana hadharani, ambazo hazikujumuisha maelezo nyeti kama vile vyanzo vya ufadhili au utambulisho wa waandaaji wa ombi hilo.

Baadhi ya shughuli hizi zilitumia miundo yetu kama zana ya utafiti wa vyanzo vya wazi, sawa na jinsi watumiaji wa awali ambavyo huenda walitumia injini za utafutaji za intaneti au mitandao ya kijamii. Kwa mfano, mtumiaji wa tatu aliomba ChatGPT itambue na kufupisha kila siku habari motomoto zinazohusiana na China, zikiwemo mada nyeti kama kumbukumbu ya mauaji ya Tiananmen Square ya mwaka 1989 na siku ya kuzaliwa ya Dalai Lama.