Abbuż marbut mar-RPĊ: Attività ta’ sorveljanza u influwenza

Dan l-istudju tal-każ ġie ppubblikat oriġinarjament fir-rapport ta’ OpenAI ta’ Ottubru 2025⁠(jinfetaħ f’tieqa ġdida).

Individwi li jidher li huma marbuta ma’ entitajiet tal-gvern tar-RPĊ u li użaw ChatGPT biex jgħinhom fl-iżvilupp, fit-tfassil ta’ profili u f’funzjonijiet burokratiċi.

Kif spjegajna fis-sottomissjoni tagħna ta’ Marzu lill-Uffiċċju għall-Politika tax-Xjenza u t-Teknoloġija dwar il-Pjan ta’ Azzjoni tal-Istati Uniti għall-IA, nemmnu li biex niżguraw li l-IA tkun ta’ benefiċċju għall-akbar għadd possibbli ta’ nies, jeħtieġ li niffaċilitawha permezz ta’ regoli sensibbli maħsuba biex jipproteġu lin-nies minn ħsara reali, u li nibnu IA demokratika. B’IA demokratika nifhmu IA msawra mill-prinċipji demokratiċi li l-Amerka dejjem iddefendiet. Dan jinkludi li ma jitħallewx reġimi awtoritarji jużaw għodod tal-IA biex jakkumulaw il-poter u jikkontrollaw liċ-ċittadini tagħhom.

L-investimenti tagħna biex nidentifikaw u nfixklu t-tentattivi ta’ reġimi awtoritarji li jabbużaw mill-kapaċitajiet ta’ ChatGPT mhux biss jipproteġu lin-nies issa, iżda jipprovdu wkoll tagħrif importanti dwar kif dawn ir-reġimi jistgħu jabbużaw minn kapaċitajiet futuri. Din it-taqsima tiddiskuti sett ta’ sejbiet bħal dawn dwar individwi li potenzjalment huma marbuta ma’ reġimi bħal dawn, b’enfasi fuq ir-RPĊ.

Kif ktibna f’Ġunju, ir-RPĊ qed tagħmel progress reali fl-iżvilupp tal-verżjoni awtokratika tagħha tal-IA. Il-fatt li waqqafna kontijiet ta’ ChatGPT użati minn individwi li jidher li huma marbuta ma’ entitajiet tal-gvern Ċiniż jitfa’ ftit dawl fuq l-istat attwali tal-użu tal-IA f’dan il-kuntest awtoritarju. Xi aspetti ta’ dan l-użu dehru maħsuba biex jappoġġaw il-monitoraġġ fuq skala kbira tat-traffiku online jew offline, u b’hekk enfasizzaw l-importanza li nibqgħu attenti għal abbużi awtoritarji potenzjali f’dan il-qasam. Aspetti oħra ta’ dan l-użu dehru maħsuba għat-tfassil ta’ profili aktar dettaljati. Aħna pprojbixxejna l-kontijiet assoċjati ma’ din l-attività u qed naqsmu t-tagħrif li ksibna f’dan ir-rapport.

Dan l-istudju huwa bbażat fuq għażla ta’ każijiet ta’ attività li kisret ir-regoli, li aħna identifikajna u waqqafna. Din l-attività kienet konsistenti ma’ utenti individwali li jużaw ChatGPT, aktar milli ma’ adozzjoni istituzzjonali fuq skala kbira tal-mudelli tagħna. Għaldaqstant, din tagħti biss stampa limitata tal-użu ta’ mudelli differenti tal-IA f’dan il-kuntest.

Xi wħud mill-kontijiet li pprojbixxejna dehru li kienu qed jippruvaw jużaw ChatGPT biex jiżviluppaw għodod għall-monitoraġġ fuq skala kbira: l-analiżi ta’ settijiet ta’ data, spiss miġbura minn pjattaformi tal-midja soċjali tal-Punent jew Ċiniżi. Fi Frar irrappurtajna każ bħal dan, li kellu l-għan li jfassal għodda mħaddma bl-IA għall-monitoraġġ tal-midja soċjali, li l-operaturi sostnew li kienet maħsuba għall-forzi tas-sigurtà Ċiniżi. Dawn l-utenti tipikament talbu lil ChatGPT jgħinhom ifasslu għodod bħal dawn jew joħloq materjal promozzjonali dwarhom, iżda mhux biex iwettaq il-monitoraġġ.

Pereżempju, dan l-aħħar ipprojbixxejna utent li seta’ kien qed juża VPN biex jaċċessa s-servizzi tagħna miċ-Ċina u li talab lil ChatGPT jgħinu jfassal materjal promozzjonali u pjanijiet ta’ proġett għal għodda ta’ monitoraġġ tal-midja soċjali, allegatament maħsuba għal klijent governattiv. L-għodda ġiet deskritta bħala “sonda” tal-midja soċjali (探针) li allegatament setgħet tiskennja Twitter/X, Facebook, Instagram, Reddit, TikTok u YouTube għal dak li l-utent iddeskriva bħala diskors estremist u kontenut etniku, reliġjuż u politiku. L-utent ma użax il-mudell tagħna biex iwettaq il-monitoraġġ effettiv tal-midja soċjali. Ma nistgħux nivverifikaw b’mod indipendenti jekk din l-għodda ntużatx minn entità tal-gvern Ċiniż.

Bl-istess mod, ipprojbixxejna utent ieħor, li x’aktarx kien marbut ma’ entità governattiva, u li talab lil ChatGPT jgħinu jikteb proposta għal dak li ddeskriva bħala Mudell ta’ Twissija dwar l-Influss ta’ Persuni b’Riskju Għoli Marbuta mal-Ujguri (高危涉维吾尔关注人员流入预警模型). Il-proposta ddeskriviet għodda li tanalizza r-riżervazzjonijiet tat-trasport u tqabbilhom mar-rekords tal-pulizija sabiex tagħti twissija bikrija dwar iċ-ċaqliq ta’ persuni kklassifikati bħala marbuta mal-Ujguri u ta’ riskju għoli, kategorija li ma ġietx definita mod ieħor. L-utent ma talabx lill-mudell tagħna jgħinu jibni għodda bħal din, iżda biss jiżviluppa proposta ġenerali; għaldaqstant, ma nistgħux nikkonfermaw b’mod indipendenti liema teknoloġija kellu l-ħsieb li juża jew jekk għodda bħal din intużatx minn entità tal-gvern Ċiniż.

Ipprojbixxejna wkoll utenti li dehru marbuta ma’ entitajiet tal-gvern Ċiniż u li dehru qed jippruvaw jużaw ChatGPT għal tfassil ta’ profili aktar speċifiku u mmirat, kif ukoll għal riċerka online.

Pereżempju, utent talab lil ChatGPT jidentifika s-sorsi ta’ finanzjament ta’ kont fuq X li kkritika lill-gvern Ċiniż. Utent ieħor talab lil ChatGPT jidentifika l-organizzaturi ta’ petizzjoni fil-Mongolja. Fiż-żewġ każijiet, il-mudelli tagħna taw biss informazzjoni disponibbli pubblikament, li ma kinitx tinkludi dettalji sensittivi bħas-sorsi ta’ finanzjament jew l-identitajiet tal-organizzaturi tal-petizzjoni.

F’parti minn din l-attività, il-mudelli tagħna ntużaw bħala għodda ta’ riċerka minn sorsi miftuħa, b’mod simili għal kif utenti preċedenti setgħu użaw it-tiftix fuq l-internet jew il-midja soċjali. Pereżempju, utent ieħor talab lil ChatGPT jidentifika u jiġbor fil-qosor l-aħbarijiet ewlenin ta’ kuljum li jkunu rilevanti għaċ-Ċina, inkluż dwar suġġetti sensittivi bħall-anniversarju tal-massakru ta’ Pjazza Tiananmen fl-1989 u għeluq snin id-Dalai Lama.