Злоупотребления, связанные с КНР: слежка и деятельность по оказанию влияния

Этот разбор случая первоначально был опубликован в отчете OpenAI за октябрь 2025 года⁠(открывается в новом окне).

Лица, предположительно связанные с государственными структурами КНР, использовали ChatGPT для помощи в разработке, профилировании и выполнении бюрократических задач.

Как мы отметили в марте в материалах, представленных Управлению научно-технической политики США для Плана действий США в области ИИ, чтобы ИИ приносил пользу как можно большему числу людей, необходимо развивать его на основе разумных правил, направленных на защиту людей от реального вреда, и создавать демократический ИИ. Под демократическим ИИ мы понимаем ИИ, сформированный в соответствии с демократическими принципами, которые Америка всегда отстаивала. В частности, необходимо не допускать, чтобы авторитарные режимы использовали инструменты ИИ для усиления своей власти и контроля над гражданами.

Наши усилия по выявлению и пресечению попыток авторитарных режимов злоупотреблять возможностями ChatGPT не только защищают людей уже сейчас, но и позволяют лучше понять, как такие режимы могут злоупотреблять будущими возможностями. В этом разделе рассматривается одна группа таких выводов, касающихся лиц, потенциально связанных с подобными режимами, прежде всего с КНР.

Как мы писали в июне, КНР добивается реальных успехов в развитии своей автократической версии ИИ. Блокировка аккаунтов ChatGPT, которыми пользовались лица, предположительно связанные с государственными структурами Китая, позволяет отчасти понять, как сегодня применяется ИИ в этой авторитарной среде. Некоторые виды такого использования, по всей видимости, были направлены на поддержку масштабного мониторинга сетевого или физического трафика, что подчеркивает важность нашего постоянного внимания к потенциальным злоупотреблениям авторитарных режимов в этой области. Другие виды такого использования, по всей видимости, были направлены на более глубокое профилирование. Мы заблокировали аккаунты, связанные с этой деятельностью, и делимся своими выводами в настоящем отчете.

Это исследование основано на выборке выявленных нами случаев деятельности, нарушавшей наши правила, которую мы пресекли, заблокировав соответствующие аккаунты. Характер этой деятельности указывал на использование ChatGPT отдельными пользователями, а не на масштабное внедрение наших моделей организациями. Таким образом, это лишь ограниченный срез использования различных моделей ИИ в данном контексте.

Некоторые заблокированные нами аккаунты, по всей видимости, пытались использовать ChatGPT для разработки инструментов масштабного мониторинга — анализа наборов данных, зачастую собранных в западных или китайских социальных сетях. В феврале мы сообщали об одном таком случае: создавался проект инструмента на базе ИИ для мониторинга социальных сетей, который, по утверждению операторов, предназначался для китайских силовых структур. Обычно эти пользователи просили ChatGPT помочь спроектировать такие инструменты или подготовить рекламные материалы о них, но не осуществлять сам мониторинг.

Например, недавно мы заблокировали пользователя, который, возможно, подключался к нашим сервисам из Китая через VPN и просил ChatGPT помочь подготовить рекламные материалы и планы проекта инструмента для мониторинга социальных сетей, якобы предназначенного для государственного заказчика. Инструмент описывался как «зонд» (探针) для социальных сетей, якобы способный сканировать Twitter/X, Facebook, Instagram, Reddit, TikTok и YouTube на предмет высказываний, которые пользователь называл экстремистскими, а также материалов этнической, религиозной и политической тематики. Пользователь не применял нашу модель для непосредственного мониторинга социальных сетей. Мы не можем независимо подтвердить, использовался ли этот инструмент какой-либо государственной структурой Китая.

Аналогичным образом мы заблокировали второго пользователя, вероятно связанного с государственной структурой, который попросил ChatGPT помочь составить предложение по созданию так называемой «Модели предупреждения о прибытии лиц высокого риска, связанных с уйгурами» (高危涉维吾尔关注人员流入预警模型). В предложении описывался инструмент, который должен был анализировать бронирования билетов и сопоставлять их с полицейскими данными, чтобы заранее предупреждать о перемещениях лиц, отнесенных к неопределенной категории «связанных с уйгурами и представляющих высокий риск». Пользователь не просил нашу модель помочь создать такой инструмент, а лишь подготовить общее предложение. Поэтому мы не можем независимо подтвердить, какую технологию планировалось использовать и применялся ли подобный инструмент какой-либо государственной структурой Китая.

Мы также заблокировали пользователей, которые, по всей видимости, были связаны с государственными структурами Китая и пытались использовать ChatGPT для более специализированного и адресного профилирования и поиска информации в интернете.

Например, один пользователь попросил ChatGPT определить источники финансирования аккаунта в X, критиковавшего правительство Китая. Другой пользователь попросил ChatGPT установить организаторов петиции в Монголии. В обоих случаях наши модели предоставили только общедоступную информацию, не содержавшую конфиденциальных сведений, таких как источники финансирования или личности организаторов петиции.

В рамках некоторых из этих действий наши модели использовались как инструмент исследования открытых источников — примерно так же, как раньше пользователи искали информацию в интернете или социальных сетях. Например, третий пользователь попросил ChatGPT ежедневно находить и кратко излагать актуальные новости, имеющие значение для Китая, в том числе на чувствительные темы — годовщину бойни на площади Тяньаньмэнь в 1989 году и день рождения Далай-ламы.