Зловживання, пов’язані з КНР: стеження та діяльність із впливу

Це дослідження вперше опубліковано у звіті OpenAI за жовтень 2025 року⁠(відкривається у новому вікні).

Особи, очевидно пов’язані з державними установами КНР, використовували ChatGPT для допомоги в розробленні, профілюванні та виконанні бюрократичних функцій.

Як ми зазначили в березневих пропозиціях до Плану дій США у сфері ШІ, поданих Управлінню науково-технічної політики, щоб ШІ приносив користь якомога більшій кількості людей, слід сприяти його розвитку за допомогою розумних правил, спрямованих на захист людей від реальної шкоди, а також розбудовувати демократичний ШІ. Під демократичним ШІ ми маємо на увазі ШІ, сформований на основі демократичних принципів, які Америка завжди обстоювала. Це передбачає, зокрема, недопущення використання авторитарними режимами інструментів ШІ для зосередження влади та контролю над громадянами.

Наші інвестиції у виявлення та припинення спроб авторитарних режимів зловживати можливостями ChatGPT не лише захищають людей уже зараз, а й дають важливе розуміння того, як ці режими можуть зловживати майбутніми можливостями. У цьому розділі розглянуто одну групу таких висновків щодо осіб, потенційно пов’язаних із подібними режимами, з акцентом на КНР.

Як ми писали в червні, КНР досягає реального прогресу в розвитку власної автократичної версії ШІ. Припинення роботи облікових записів ChatGPT, якими користувалися особи, очевидно пов’язані з китайськими державними установами, певною мірою проливає світло на нинішнє використання ШІ в цьому авторитарному середовищі. Деякі елементи цього використання, схоже, були спрямовані на підтримку масштабного моніторингу онлайн- або офлайн-трафіку, що підкреслює важливість нашої постійної уваги до потенційних зловживань авторитарних режимів у цій сфері. Інші елементи цього використання, схоже, були спрямовані на поглиблене профілювання. Ми заблокували пов’язані з цією діяльністю облікові записи й ділимося висновками в цьому звіті.

Це дослідження ґрунтується на добірці виявлених нами порушень, які ми припинили, заблокувавши відповідні облікові записи. Ця діяльність свідчила про використання ChatGPT окремими користувачами, а не про масштабне впровадження наших моделей на рівні установ. Отже, це лише обмежений огляд використання різних моделей ШІ в цьому контексті.

Деякі заблоковані нами облікові записи, схоже, намагалися використовувати ChatGPT для розроблення інструментів масштабного моніторингу: аналізу наборів даних, часто зібраних із західних або китайських платформ соціальних мереж. У лютому ми повідомляли про один такий випадок: ішлося про проєктування інструмента моніторингу соціальних мереж на основі ШІ, який, за твердженням операторів, призначався для китайських силових структур. Зазвичай ці користувачі просили ChatGPT допомогти спроєктувати такі інструменти або створити рекламні матеріали про них, але не проводити сам моніторинг.

Наприклад, нещодавно ми заблокували користувача, який, можливо, заходив у наші сервіси з Китаю через VPN і просив ChatGPT допомогти підготувати рекламні матеріали та плани проєкту інструмента моніторингу соціальних мереж, нібито призначеного для державного замовника. Інструмент описували як «зонд» соціальних мереж (探针), який нібито міг сканувати Twitter/X, Facebook, Instagram, Reddit, TikTok і YouTube на наявність того, що користувач називав екстремістськими висловлюваннями, а також матеріалів етнічного, релігійного й політичного характеру. Користувач не застосовував нашу модель для фактичного моніторингу соціальних мереж. Ми не можемо незалежно підтвердити, чи використовувала цей інструмент якась китайська державна установа.

Так само ми заблокували другого користувача, імовірно пов’язаного з державною установою, який просив ChatGPT допомогти написати пропозицію щодо так званої моделі раннього попередження про прибуття осіб із високим ризиком, пов’язаних з уйгурами (高危涉维吾尔关注人员流入预警模型). У пропозиції описувався інструмент, який мав аналізувати бронювання транспорту й зіставляти їх із поліцейськими даними, щоб завчасно попереджати про переміщення людей, віднесених до невизначеної категорії осіб із високим ризиком, пов’язаних з уйгурами. Користувач не просив нашу модель допомогти створити такий інструмент, а лише підготувати загальну пропозицію. Тому ми не можемо незалежно підтвердити, яку технологію планували використати або чи застосовувала такий інструмент якась китайська державна установа.

Ми також заблокували користувачів, які, схоже, були пов’язані з китайськими державними установами й намагалися використовувати ChatGPT для більш спеціалізованого, цільового профілювання та онлайн-досліджень.

Наприклад, один користувач просив ChatGPT визначити джерела фінансування облікового запису в X, який критикував китайський уряд. Другий користувач просив ChatGPT встановити організаторів петиції в Монголії. В обох випадках наші моделі надали лише загальнодоступну інформацію, яка не містила конфіденційних відомостей, як-от джерела фінансування чи особи організаторів петиції.

У межах частини цієї діяльності наші моделі використовували як інструмент дослідження відкритих джерел — подібно до того, як раніше користувачі могли шукати інформацію в інтернеті чи соціальних мережах. Наприклад, третій користувач просив ChatGPT щодня знаходити й стисло викладати термінові новини, важливі для Китаю, зокрема на чутливі теми, як-от річниця різанини на площі Тяньаньмень 1989 року та день народження Далай-лами.