Злоупотреби, свързани с КНР: наблюдение и дейности за влияние

Този казус първоначално е публикуван в доклада на OpenAI от октомври 2025 г.⁠(отваря се в нов прозорец)

Лица, привидно свързани с държавни структури на КНР, използват ChatGPT за съдействие при разработването на инструменти, профилирането и изпълнението на бюрократични функции.

Както изложихме през март в становището си относно Плана за действие на САЩ в областта на ИИ, представено пред Службата за научна и технологична политика, смятаме, че за да може ИИ да е от полза за възможно най-много хора, са необходими разумни правила, насочени към защита от реални вреди, както и изграждането на демократичен ИИ. Под демократичен ИИ разбираме ИИ, изграден според демократичните принципи, които Америка винаги е отстоявала. Това включва предотвратяване на използването на инструменти с ИИ от авторитарни режими за съсредоточаване на власт и контрол над гражданите им.

Инвестициите ни в откриването и прекъсването на опити от страна на авторитарни режими да злоупотребяват с възможностите на ChatGPT не само защитават хората сега, но и дават важна представа как тези режими биха могли да злоупотребят с бъдещи възможности. В този раздел разглеждаме част от тези констатации относно лица, които може да са свързани с подобни режими, като се съсредоточаваме върху КНР.

Както писахме през юни, КНР постига реален напредък в развитието на своята автократична версия на ИИ. Прекъсването от наша страна на достъпа до акаунти в ChatGPT, използвани от лица, привидно свързани с китайски държавни структури, хвърля известна светлина върху настоящото използване на ИИ в тази авторитарна среда. Някои аспекти от тази употреба изглеждаха насочени към подпомагане на широкомащабно наблюдение на онлайн или офлайн трафик, което подчертава колко е важно да продължим да следим за потенциални авторитарни злоупотреби в тази област. Други аспекти от тази употреба изглеждаха насочени към по-задълбочено профилиране. Блокирахме акаунтите, свързани с тази дейност, и споделяме изводите си в настоящия доклад.

Това проучване се основава на подбор от установени и блокирани от нас дейности в нарушение на правилата, които сме прекъснали. Тази дейност съответстваше на използване на ChatGPT от отделни потребители, а не на широкомащабно внедряване на нашите модели от организации. Поради това тя представлява ограничена моментна снимка на използването на различни модели с ИИ в този контекст.

Изглежда, че с някои от блокираните от нас акаунти са правени опити ChatGPT да бъде използван за разработване на инструменти за широкомащабно наблюдение чрез анализ на набори от данни, често събрани от западни или китайски социални платформи. През февруари съобщихме за един такъв случай, насочен към проектиране на базиран на ИИ инструмент за наблюдение на социални медии, за който операторите твърдяха, че е предназначен за китайските сили за сигурност. Обикновено тези потребители искаха от ChatGPT да им помогне при проектирането на подобни инструменти или да създаде рекламни материали за тях, но не и да извършва самото наблюдение.

Например наскоро блокирахме потребител, който вероятно е използвал VPN за достъп до услугите ни от Китай и е поискал от ChatGPT помощ при изготвянето на рекламни материали и проектни планове за инструмент за наблюдение на социални медии, за който се твърди, че е предназначен за държавен клиент. Инструментът беше описан като „сонда“ (探针) за социални медии, която уж може да сканира Twitter/X, Facebook, Instagram, Reddit, TikTok и YouTube за определяна от потребителя като екстремистка реч, както и за етническо, религиозно и политическо съдържание. Потребителят не използва нашия модел за извършване на самото наблюдение на социалните медии. Не можем независимо да потвърдим дали този инструмент е използван от китайска държавна структура.

По подобен начин блокирахме втори потребител, вероятно свързан с държавна структура, който поиска от ChatGPT да помогне за написването на предложение за описан от него „Модел за ранно предупреждение при приток на високорискови лица, свързани с уйгурите“ (高危涉维吾尔关注人员流入预警模型). В предложението се описваше инструмент, който да анализира резервации за пътуване и да ги сравнява с полицейски регистри, за да предупреждава своевременно за пътувания на хора, определени като свързани с уйгурите и високорискови — категория, която не беше допълнително дефинирана. Потребителят не поиска от нашия модел помощ за създаването на такъв инструмент, а само за изготвянето на общо предложение. Поради това не можем независимо да потвърдим каква технология е възнамерявал да използва или дали подобен инструмент е използван от китайска държавна структура.

Блокирахме и потребители, които изглеждаха свързани с китайски държавни структури и се опитваха да използват ChatGPT за по-специализирано и целенасочено профилиране и онлайн проучвания.

Например един потребител поиска от ChatGPT да установи източниците на финансиране на акаунт в X, който критикува китайското правителство. Втори потребител поиска от ChatGPT да установи организаторите на петиция в Монголия. И в двата случая нашите модели предоставиха само публично достъпна информация, която не включваше чувствителни данни като източниците на финансиране или самоличността на организаторите на петицията.

При част от тази дейност нашите модели бяха използвани като инструмент за проучване на открити източници — подобно на начина, по който по-рано потребителите биха използвали търсачки в интернет или социалните медии. Например трети потребител поиска от ChatGPT ежедневно да намира и обобщава актуални новини от значение за Китай, включително по чувствителни теми като годишнината от клането на площад „Тянанмън“ през 1989 г. и рождения ден на Далай Лама.