Zloupotreba povezana s NR Kinom: nadzor i aktivnosti utjecaja

Ova studija slučaja izvorno je objavljena u izvješću OpenAI-ja za listopad 2025.⁠(otvara se u novom prozoru)

Osobe koje su očito povezane s tijelima vlasti NR Kine koristile su ChatGPT kao pomoć u razvoju, profiliranju i administrativnim poslovima.

Kao što smo naveli u svojem podnesku američkom Uredu za znanstvenu i tehnološku politiku o Akcijskom planu za AI u ožujku, vjerujemo da osigurati korist od umjetne inteligencije za što veći broj ljudi znači omogućiti njezin razvoj uz razumna pravila usmjerena na zaštitu ljudi od stvarne štete te graditi demokratsku umjetnu inteligenciju. Pod demokratskom umjetnom inteligencijom podrazumijevamo onu koju oblikuju demokratska načela za koja se Amerika oduvijek zalagala. To obuhvaća sprečavanje autoritarnih režima da alatima umjetne inteligencije učvršćuju svoju moć i kontroliraju građane.

Naša ulaganja u otkrivanje i ometanje pokušaja autoritarnih režima da zloupotrijebe mogućnosti ChatGPT‑a ne samo da već sada štite ljude nego pružaju i važne uvide u to kako bi ti režimi mogli zloupotrijebiti buduće mogućnosti. U ovom se odjeljku razmatraju neki od tih nalaza o osobama potencijalno povezanima s takvim režimima, s naglaskom na NR Kinu.

Kao što smo napisali u lipnju, NR Kina ostvaruje stvaran napredak u razvoju svoje autokratske inačice umjetne inteligencije. Ometanje računa na ChatGPT‑u kojima su se služile osobe očito povezane s tijelima kineske vlasti pruža određeni uvid u trenutačnu uporabu umjetne inteligencije u tom autoritarnom okruženju. Čini se da su neki oblici te uporabe bili namijenjeni opsežnom praćenju internetskog ili fizičkog prometa, što naglašava važnost naše stalne pozornosti prema mogućim autoritarnim zloupotrebama na ovom području. Čini se da su drugi oblici te uporabe bili usmjereni na podrobnije profiliranje. Blokirali smo račune povezane s tim aktivnostima, a svoje uvide iznosimo u ovom izvješću.

Ova se studija temelji na odabranim slučajevima kršenja pravila koje smo otkrili i omeli blokiranjem računa. Te su aktivnosti odgovarale načinu na koji pojedinačni korisnici upotrebljavaju ChatGPT, a ne opsežnom institucijskom prihvaćanju naših modela. Stoga je riječ o ograničenom prikazu uporabe različitih modela umjetne inteligencije u tom kontekstu.

Čini se da se nekim računima koje smo blokirali pokušavao upotrijebiti ChatGPT za razvoj alata za opsežno praćenje, odnosno analizu skupova podataka često prikupljenih sa zapadnih ili kineskih društvenih mreža. U veljači smo izvijestili o jednom takvom slučaju usmjerenom na osmišljavanje alata za praćenje društvenih mreža s pomoću umjetne inteligencije, za koji su operateri tvrdili da je namijenjen kineskim sigurnosnim snagama. Ti su korisnici obično tražili da im ChatGPT pomogne osmisliti takve alate ili izraditi promotivne materijale za njih, ali ne i provoditi praćenje.

Primjerice, nedavno smo blokirali korisnika koji je možda pristupao našim uslugama iz Kine putem VPN-a i od ChatGPT‑a tražio pomoć pri izradi promotivnih materijala i projektnih planova za alat za praćenje društvenih mreža, navodno namijenjen državnom klijentu. Alat je opisan kao „sonda” za društvene mreže (探针) koja je navodno mogla pretraživati Twitter/X, Facebook, Instagram, Reddit, TikTok i YouTube radi otkrivanja onoga što je korisnik opisao kao ekstremistički govor te etnički, vjerski i politički sadržaj. Korisnik se nije služio našim modelom za stvarno praćenje društvenih mreža. Ne možemo neovisno potvrditi je li se tim alatom služilo neko tijelo kineske vlasti.

Slično tome, blokirali smo drugog korisnika, vjerojatno povezanog s nekim državnim tijelom, koji je od ChatGPT‑a zatražio pomoć pri pisanju prijedloga za ono što je opisao kao Model ranog upozorenja na priljev visokorizičnih osoba povezanih s Ujgurima (高危涉维吾尔关注人员流入预警模型). U prijedlogu je opisan alat koji bi analizirao rezervacije prijevoza i uspoređivao ih s policijskim evidencijama kako bi unaprijed upozoravao na putovanja osoba svrstanih u inače nedefiniranu kategoriju visokorizičnih osoba povezanih s Ujgurima. Korisnik nije zatražio da naš model pomogne izraditi takav alat, nego samo sastaviti opći prijedlog. Stoga ne možemo neovisno potvrditi koju su tehnologiju namjeravali upotrijebiti ni je li se takvim alatom služilo neko tijelo kineske vlasti.

Blokirali smo i korisnike koji su naizgled bili povezani s tijelima kineske vlasti te su, čini se, pokušavali upotrijebiti ChatGPT za prilagođeno, ciljano profiliranje i internetsko istraživanje.

Primjerice, jedan je korisnik od ChatGPT‑a zatražio da utvrdi izvore financiranja računa na platformi X koji je kritizirao kinesku vlast. Drugi je korisnik od ChatGPT‑a zatražio da utvrdi identitet organizatora peticije u Mongoliji. U oba su slučaja naši modeli pružili samo javno dostupne informacije, koje nisu uključivale osjetljive pojedinosti poput izvora financiranja ili identiteta organizatora peticije.

U dijelu tih aktivnosti naši su se modeli upotrebljavali kao alat za istraživanje otvorenih izvora, slično načinu na koji su se korisnici prije služili internetskim tražilicama ili pretraživanjem društvenih mreža. Primjerice, treći je korisnik od ChatGPT‑a zatražio da svakodnevno pronalazi i sažima najnovije vijesti važne za Kinu, uključujući osjetljive teme poput obljetnice masakra na Trgu Tiananmen 1989. i rođendana Dalaj Lame.