Ar ĶTR saistīta ļaunprātīga izmantošana: uzraudzības un ietekmēšanas darbības

Šis gadījuma pētījums sākotnēji tika publicēts OpenAI 2025. gada oktobra⁠(atveras jaunā logā) ziņojumā.

Personas, kas acīmredzami saistītas ar ĶTR valdības struktūrām, izmantoja ChatGPT izstrādes, profilēšanas un birokrātisko funkciju veikšanai.

Kā martā norādījām savā iesniegumā Zinātnes un tehnoloģiju politikas birojam par ASV MI rīcības plānu, mēs uzskatām: lai MI sniegtu labumu pēc iespējas vairāk cilvēkiem, tā izmantošana jāveicina ar saprātīgiem noteikumiem, kuru mērķis ir pasargāt cilvēkus no reāla kaitējuma, un jāveido demokrātisks MI. Ar demokrātisku MI mēs saprotam MI, ko veidojuši demokrātiskie principi, kurus Amerika vienmēr ir aizstāvējusi. Tas ietver arī liegumu autoritāriem režīmiem izmantot MI rīkus, lai vairotu savu varu un kontrolētu iedzīvotājus.

Mūsu ieguldījumi, lai atklātu un izjauktu autoritāro režīmu mēģinājumus ļaunprātīgi izmantot ChatGPT iespējas, ne vien aizsargā cilvēkus jau tagad, bet arī sniedz būtisku ieskatu par to, kā šie režīmi varētu ļaunprātīgi izmantot nākotnes iespējas. Šajā sadaļā aplūkota daļa šādu konstatējumu par personām, kuras varētu būt saistītas ar šādiem režīmiem, galveno uzmanību pievēršot ĶTR.

Kā rakstījām jūnijā, ĶTR gūst reālus panākumus, attīstot savu autokrātisko MI versiju. Apturot ChatGPT kontus, kurus izmantoja ar Ķīnas valdības struktūrām acīmredzami saistītas personas, mēs guvām zināmu ieskatu par MI pašreizējo izmantošanu šajā autoritārajā vidē. Daļa šīs izmantošanas, šķiet, bija vērsta uz tiešsaistes vai bezsaistes datplūsmas plaša mēroga uzraudzību, uzsverot, cik svarīgi mums arī turpmāk pievērst uzmanību iespējamai autoritāru režīmu ļaunprātīgai rīcībai šajā jomā. Cita daļa šīs izmantošanas, šķiet, bija vērsta uz padziļinātu profilēšanu. Mēs bloķējām ar šo darbību saistītos kontus un šajā ziņojumā dalāmies ar gūtajām atziņām.

Šā pētījuma pamatā ir atlasīti mūsu atklātie un apturētie noteikumu pārkāpumi. Šī darbība atbilda tam, kā ChatGPT izmanto atsevišķi lietotāji, nevis mūsu modeļu plaša mēroga ieviešanai iestādēs. Tādēļ tas sniedz tikai ierobežotu ieskatu dažādu MI modeļu izmantošanā šajā kontekstā.

Šķiet, daži no mūsu bloķēto kontu lietotājiem mēģināja izmantot ChatGPT, lai izstrādātu plaša mēroga uzraudzības rīkus un analizētu datu kopas, kas bieži bija iegūtas Rietumu vai Ķīnas sociālo tīklu platformās. Februārī ziņojām par vienu šādu gadījumu, kura mērķis bija izstrādāt MI darbinātu sociālo tīklu uzraudzības rīku, kas, pēc tā operatoru teiktā, bija paredzēts Ķīnas drošības dienestiem. Šie lietotāji parasti lūdza ChatGPT palīdzēt izstrādāt šādus rīkus vai sagatavot to reklāmas materiālus, bet ne veikt pašu uzraudzību.

Piemēram, nesen bloķējām lietotāju, kurš, iespējams, izmantoja VPN, lai no Ķīnas piekļūtu mūsu pakalpojumiem, un lūdza ChatGPT palīdzēt sagatavot reklāmas materiālus un projekta plānus sociālo tīklu uzraudzības rīkam, kas it kā bija paredzēts valsts iestādes vajadzībām. Rīks tika raksturots kā sociālo tīklu „zonde” (探针), kas it kā varētu pārbaudīt Twitter/X, Facebook, Instagram, Reddit, TikTok un YouTube, meklējot lietotāja raksturoto ekstrēmistisko runu, kā arī etnisku, reliģisku un politisku saturu. Lietotājs neizmantoja mūsu modeli, lai faktiski uzraudzītu sociālos tīklus. Mēs nevaram neatkarīgi pārbaudīt, vai šo rīku ir izmantojusi kāda Ķīnas valdības struktūra.

Tāpat mēs bloķējām vēl vienu lietotāju, kurš, visticamāk, bija saistīts ar kādu valsts iestādi un lūdza ChatGPT palīdzēt sagatavot priekšlikumu par tā dēvēto augsta riska ar uiguriem saistītu personu ierašanās agrīnās brīdināšanas modeli (高危涉维吾尔关注人员流入预警模型). Priekšlikumā bija aprakstīts rīks, kas analizētu transporta rezervācijas un salīdzinātu tās ar policijas datiem, lai laikus brīdinātu par tādu personu pārvietošanos, kuras klasificētas kā saistītas ar uiguriem un augsta riska personas; citādi šī kategorija nebija definēta. Lietotājs nelūdza mūsu modelim palīdzēt izveidot šādu rīku, bet tikai sagatavot vispārīgu priekšlikumu. Tādēļ mēs nevaram neatkarīgi apstiprināt, kādu tehnoloģiju bija paredzēts izmantot un vai šādu rīku ir izmantojusi kāda Ķīnas valdības struktūra.

Mēs bloķējām arī lietotājus, kuri, šķiet, bija saistīti ar Ķīnas valdības struktūrām un mēģināja izmantot ChatGPT individuālākai, mērķētai profilēšanai un izpētei tiešsaistē.

Piemēram, kāds lietotājs lūdza ChatGPT noskaidrot finansējuma avotus kādam X kontam, kurā tika kritizēta Ķīnas valdība. Cits lietotājs lūdza ChatGPT noskaidrot Mongolijā iesniegtas petīcijas organizatorus. Abos gadījumos mūsu modeļi sniedza tikai publiski pieejamu informāciju, kurā nebija sensitīvu datu, piemēram, finansējuma avotu vai petīcijas organizatoru identitātes.

Dažās no šīm darbībām mūsu modeļi tika izmantoti kā atklāto avotu izpētes rīki — līdzīgi tam, kā agrāk lietotāji būtu izmantojuši meklēšanu internetā vai sociālajos tīklos. Piemēram, vēl kāds lietotājs lūdza ChatGPT katru dienu atrast un apkopot jaunākās Ķīnai nozīmīgās ziņas, tostarp par sensitīviem tematiem, piemēram, 1989. gada Tjaņaņmeņas laukuma slaktiņa gadadienu un Dalailamas dzimšanas dienu.