Su KLR susijęs piktnaudžiavimas: stebėjimo ir įtakos veikla

Šis atvejo tyrimas pirmą kartą paskelbtas OpenAI 2025 m. spalio⁠(atsidaro naujame lange) ataskaitoje.

Asmenys, veikiausiai susiję su KLR vyriausybinėmis institucijomis, naudojo ChatGPT kūrimo, profiliavimo ir biurokratinėms užduotims atlikti.

Kaip išdėstėme kovą JAV Mokslo ir technologijų politikos biurui pateiktame pasiūlyme dėl JAV DI veiksmų plano, manome, kad siekiant užtikrinti DI naudą kuo didesniam skaičiui žmonių, reikia sudaryti sąlygas jį naudoti pagal racionalias taisykles, skirtas apsaugoti žmones nuo realios žalos, ir kurti demokratinį DI. Demokratiniu DI vadiname tokį DI, kuris kuriamas vadovaujantis demokratiniais principais, kuriuos Amerika visada gynė. Tai apima pastangas neleisti autoritariniams režimams naudoti DI priemonių valdžiai telkti ir savo piliečiams kontroliuoti.

Mūsų investicijos į autoritarinių režimų bandymų piktnaudžiauti ChatGPT galimybėmis aptikimą ir sustabdymą ne tik saugo žmones jau dabar, bet ir suteikia svarbių įžvalgų, kaip šie režimai galėtų piktnaudžiauti būsimomis galimybėmis. Šiame skyriuje aptariama dalis tokių išvadų apie asmenis, galimai susijusius su tokiais režimais, daugiausia dėmesio skiriant KLR.

Kaip rašėme birželį, KLR daro realią pažangą plėtodama savo autokratinę DI versiją. Sustabdę ChatGPT paskyras, kuriomis naudojosi su Kinijos vyriausybinėmis institucijomis veikiausiai susiję asmenys, galime geriau suprasti dabartinę DI naudojimo padėtį šioje autoritarinėje aplinkoje. Atrodė, kad dalimi šios veiklos siekta padėti dideliu mastu stebėti interneto arba fizinį duomenų srautą. Tai pabrėžia, kaip svarbu ir toliau atidžiai stebėti galimą autoritarinių režimų piktnaudžiavimą šioje srityje. Atrodė, kad kitomis šios veiklos dalimis siekta išsamesnio profiliavimo. Užblokavome su šia veikla susijusias paskyras, o šioje ataskaitoje dalijamės savo įžvalgomis.

Šis tyrimas paremtas dalimi mūsų nustatytos, taisykles pažeidusios veiklos, kurią sustabdėme. Šios veiklos pobūdis rodė, kad ChatGPT naudojosi pavieniai naudotojai, o ne kad mūsų modeliai būtų plačiai diegiami institucijose. Taigi tai tik ribotas skirtingų DI modelių naudojimo šiame kontekste vaizdas.

Atrodė, kad kai kuriomis mūsų užblokuotomis paskyromis ChatGPT bandyta pasitelkti didelio masto stebėjimo priemonėms kurti: analizuoti duomenų rinkinius, dažnai surinktus iš Vakarų arba Kinijos socialinių tinklų platformų. Vasarį pranešėme apie vieną tokį atvejį, kai buvo siekiama sukurti DI grindžiamą socialinių tinklų stebėsenos priemonę, kuri, operatorių teigimu, buvo skirta Kinijos saugumo pajėgoms. Šie naudotojai paprastai prašydavo ChatGPT padėti projektuoti tokias priemones arba rengti jų reklaminę medžiagą, bet ne vykdyti pačią stebėseną.

Pavyzdžiui, neseniai užblokavome naudotoją, kuris galbūt jungėsi prie mūsų paslaugų iš Kinijos per VPN ir prašė ChatGPT padėti parengti reklaminę medžiagą bei projekto planus socialinių tinklų stebėsenos priemonei, tariamai skirtai vyriausybiniam klientui. Priemonė apibūdinta kaip socialinių tinklų „zondas“ (探针), galintis neva tikrinti Twitter/X, Facebook, Instagram, Reddit, TikTok ir YouTube, ieškodamas to, ką naudotojas apibūdino kaip ekstremistines kalbas ir etninį, religinį bei politinį turinį. Naudotojas mūsų modelio nepasitelkė faktinei socialinių tinklų stebėsenai vykdyti. Negalime nepriklausomai patvirtinti, ar šią priemonę naudojo kuri nors Kinijos vyriausybinė institucija.

Taip pat užblokavome kitą naudotoją, veikiausiai susijusį su vyriausybine institucija, kuris paprašė ChatGPT padėti parengti pasiūlymą dėl, jo žodžiais, didelės rizikos su uigūrais susijusių asmenų atvykimo perspėjimo modelio (高危涉维吾尔关注人员流入预警模型). Pasiūlyme aprašyta priemonė, kuri analizuotų transporto užsakymus, lygintų juos su policijos įrašais ir iš anksto perspėtų apie asmenų, priskirtų neapibrėžtai „su uigūrais susijusių ir didelės rizikos asmenų“ kategorijai, keliones. Naudotojas neprašė mūsų modelio padėti sukurti tokią priemonę, tik parengti bendrą pasiūlymą. Todėl negalime nepriklausomai patvirtinti, kokią technologiją ketinta naudoti ir ar tokią priemonę naudojo kuri nors Kinijos vyriausybinė institucija.

Taip pat užblokavome naudotojus, kurie atrodė susiję su Kinijos vyriausybinėmis institucijomis ir, regis, bandė naudoti ChatGPT labiau individualizuotam, tiksliniam profiliavimui bei internetiniams tyrimams.

Pavyzdžiui, vienas naudotojas paprašė ChatGPT nustatyti Kinijos vyriausybę kritikavusios X paskyros finansavimo šaltinius. Kitas naudotojas paprašė ChatGPT nustatyti peticijos Mongolijoje organizatorius. Abiem atvejais mūsų modeliai pateikė tik viešai prieinamą informaciją, kurioje nebuvo neskelbtinų duomenų, pavyzdžiui, finansavimo šaltinių ar peticijos organizatorių tapatybių.

Vykdant dalį šios veiklos mūsų modeliai naudoti kaip atvirųjų šaltinių tyrimo priemonė, panašiai kaip anksčiau tam galėjo būti naudojama paieška internete ar socialiniuose tinkluose. Pavyzdžiui, trečias naudotojas paprašė ChatGPT kasdien atrinkti ir apibendrinti svarbiausias Kinijai aktualias naujienas, įskaitant jautrias temas, tokias kaip 1989 m. Tiananmenio aikštės žudynių metinės ir Dalai Lamos gimtadienis.