Злоупотреба поврзана со НР Кина: надзор и активности за влијание

Оваа студија на случај првично беше објавена во извештајот на OpenAI од октомври 2025 година⁠(се отвора во нов прозорец).

Поединци, очигледно поврзани со државни субјекти на НР Кина, го користеле ChatGPT како помош при развој, профилирање и бирократски задачи.

Како што наведовме во нашиот мартовски поднесок за Акцискиот план на САД за ВИ до Канцеларијата за научна и технолошка политика, веруваме дека ВИ ќе им користи на што повеќе луѓе ако нејзината примена се овозможи преку разумни правила што ги штитат луѓето од реални штети и ако се гради демократска ВИ. Под демократска ВИ подразбираме ВИ обликувана според демократските начела што Америка отсекогаш ги застапувала. Тоа подразбира и спречување авторитарни режими да ги користат алатките за ВИ за да натрупуваат моќ и да ги контролираат своите граѓани.

Нашите вложувања во откривањето и спречувањето обиди на авторитарни режими да ги злоупотребат можностите на ChatGPT не само што ги штитат луѓето денес, туку даваат и важни сознанија за тоа како овие режими би можеле да ги злоупотребат идните можности. Во овој дел се разгледува една група такви наоди за поединци што потенцијално се поврзани со такви режими, со акцент на НР Кина.

Како што напишавме во јуни, НР Кина остварува вистински напредок во развојот на својата автократска верзија на ВИ. Со запирањето на сметките на ChatGPT што ги користеле поединци очигледно поврзани со кинески државни субјекти, добиваме појасна слика за тековната употреба на ВИ во ова авторитарно опкружување. Некои аспекти од оваа употреба изгледаа насочени кон поддршка на масовен надзор на онлајн или офлајн сообраќајот, што ја нагласува важноста и понатаму да внимаваме на можните авторитарни злоупотреби во оваа област. Други аспекти од оваа употреба изгледаа насочени кон подетално профилирање. Ги забранивме сметките поврзани со оваа активност и ги споделуваме сознанијата во овој извештај.

Оваа студија се заснова на избрани случаи во кои откривме и запревме активности што ги прекршуваа нашите правила. Овие активности укажуваа дека ChatGPT го користеле поединечни корисници, а не дека нашите модели биле усвоени на институционално ниво и во голем обем. Затоа, ова е само ограничен увид во употребата на различни модели на ВИ во овој контекст.

Некои од сметките што ги забранивме очигледно се обидувале да го користат ChatGPT за развивање алатки за масовен надзор: анализа на множества податоци, често собрани од западни или кинески платформи за социјални медиуми. Во февруари известивме за еден таков случај, чија цел била да се осмисли алатка за следење на социјалните медиуми со помош на ВИ, за која операторите тврделе дека е наменета за кинеските безбедносни сили. Овие корисници обично барале од ChatGPT да им помогне да осмислат такви алатки или да изработат промотивни материјали за нив, но не и да го спроведат надзорот.

На пример, неодамна забранивме корисник кој можеби пристапувал до нашите услуги од Кина преку VPN и барал од ChatGPT да му помогне да осмисли промотивни материјали и проектни планови за алатка за следење на социјалните медиуми, наводно наменета за државен клиент. Алатката била опишана како „сонда“ (探针) за социјалните медиуми, која наводно можела да ги скенира Twitter/X, Facebook, Instagram, Reddit, TikTok и YouTube за содржини што корисникот ги опишал како екстремистички говор, како и етнички, верски и политички содржини. Корисникот не го користел нашиот модел за непосредно следење на социјалните медиуми. Не можеме независно да потврдиме дали оваа алатка ја користел кинески државен субјект.

Слично на тоа, забранивме и втор корисник, веројатно поврзан со државен субјект, кој побарал од ChatGPT да му помогне да напише предлог за нешто што го опишал како Модел за предупредување за прилив на високоризични лица поврзани со Ујгурите (高危涉维吾尔关注人员流入预警模型). Предлогот опишувал алатка што би ги анализирала резервациите за превоз и би ги споредувала со полициските евиденции за рано да предупредува за патувањата на лица класифицирани како поврзани со Ујгурите и високоризични — категорија што инаку не била дефинирана. Корисникот не побарал од нашиот модел да му помогне да изгради таква алатка, туку само да подготви општ предлог. Затоа не можеме независно да потврдиме каква технологија имал намера да користи ниту дали таква алатка била користена од кинески државен субјект.

Забранивме и корисници што изгледаа поврзани со кинески државни субјекти и очигледно се обидувале да го користат ChatGPT за поприспособено и насочено профилирање и онлајн истражување.

На пример, еден корисник побарал од ChatGPT да ги утврди изворите на финансирање на сметка на X што ја критикувала кинеската влада. Втор корисник побарал од ChatGPT да ги утврди организаторите на петиција во Монголија. Во двата случаи, нашите модели дадоа само јавно достапни информации, без чувствителни детали како што се изворите на финансирање или идентитетите на организаторите на петицијата.

Во дел од овие активности, нашите модели биле користени како алатка за истражување на отворени извори, слично како што претходно корисниците би пребарувале на интернет или на социјалните медиуми. На пример, трет корисник побарал од ChatGPT секојдневно да ги издвојува и сумира најновите вести релевантни за Кина, вклучително и за чувствителни теми како годишнината од масакрот на плоштадот Тјенанмен во 1989 година и роденденот на Далај Лама.