Abus liés à la RPC : activités de surveillance et d’influence

Cette étude de cas a été publiée initialement dans le rapport d’OpenAI d’octobre 2025⁠(ouverture dans une nouvelle fenêtre).

Des personnes apparemment liées à des entités gouvernementales de la RPC ont utilisé ChatGPT pour les aider dans des tâches de développement, de profilage et d’administration.

Comme nous l’avons indiqué en mars dans notre contribution au plan d’action américain pour l’IA du Bureau de la politique scientifique et technologique, nous pensons que, pour que l’IA profite au plus grand nombre, il faut favoriser son développement au moyen de règles de bon sens visant à protéger les personnes contre des préjudices réels, et construire une IA démocratique. Par IA démocratique, nous entendons une IA façonnée par les principes démocratiques que l’Amérique a toujours défendus. Cela implique notamment d’empêcher les régimes autoritaires d’utiliser des outils d’IA pour accroître leur pouvoir et contrôler leurs citoyens.

Nos investissements visant à détecter et à contrer les tentatives de régimes autoritaires d’exploiter abusivement les capacités de ChatGPT protègent les personnes dès aujourd’hui, tout en apportant des enseignements importants sur la manière dont ces régimes pourraient détourner de futures capacités. Cette section présente un ensemble de constatations de ce type concernant des personnes potentiellement liées à de tels régimes, en particulier à la RPC.

Comme nous l’avons écrit en juin, la RPC réalise de véritables progrès dans le développement de sa version autocratique de l’IA. La neutralisation de comptes ChatGPT utilisés par des personnes apparemment liées à des entités gouvernementales chinoises éclaire quelque peu l’état actuel de l’utilisation de l’IA dans ce contexte autoritaire. Certains aspects de cette utilisation semblaient viser à faciliter la surveillance à grande échelle du trafic en ligne ou hors ligne, ce qui souligne l’importance de rester attentifs aux possibles abus autoritaires dans ce domaine. D’autres aspects de cette utilisation semblaient viser un profilage plus approfondi. Nous avons banni les comptes associés à cette activité et présentons nos constatations dans ce rapport.

Cette étude repose sur une sélection d’activités non conformes que nous avons détectées, neutralisées et bannies. Cette activité correspondait à une utilisation de ChatGPT par des utilisateurs individuels, plutôt qu’à une adoption institutionnelle à grande échelle de nos modèles. Il ne s’agit donc que d’un aperçu limité de l’utilisation des différents modèles d’IA dans ce contexte.

Certains des comptes que nous avons bannis semblaient tenter d’utiliser ChatGPT pour développer des outils de surveillance à grande échelle, en analysant des ensembles de données souvent recueillies sur des plateformes de réseaux sociaux occidentales ou chinoises. En février, nous avons rendu compte d’un cas de ce type, qui visait à concevoir un outil d’écoute des réseaux sociaux basé sur l’IA et dont les opérateurs affirmaient qu’il était destiné aux forces de sécurité chinoises. Ces utilisateurs demandaient généralement à ChatGPT de les aider à concevoir de tels outils ou à produire des supports promotionnels les concernant, mais pas à mettre en œuvre la surveillance.

Par exemple, nous avons récemment banni un utilisateur, qui employait peut-être un VPN pour accéder à nos services depuis la Chine, après qu’il a demandé à ChatGPT de l’aider à concevoir des supports promotionnels et des plans de projet pour un outil d’écoute des réseaux sociaux prétendument destiné à un client gouvernemental. L’outil était décrit comme une « sonde » (探针) pour les réseaux sociaux, censée analyser Twitter/X, Facebook, Instagram, Reddit, TikTok et YouTube afin d’y repérer ce que l’utilisateur qualifiait de discours extrémistes, ainsi que des contenus ethniques, religieux et politiques. L’utilisateur n’a pas employé notre modèle pour effectuer la surveillance proprement dite des réseaux sociaux. Nous ne sommes pas en mesure de vérifier de manière indépendante si cet outil a été utilisé par une entité gouvernementale chinoise.

De même, nous avons banni un deuxième utilisateur, probablement lié à une entité gouvernementale, qui avait demandé à ChatGPT de l’aider à rédiger une proposition concernant ce qu’il décrivait comme un modèle d’alerte sur l’afflux de personnes à haut risque liées aux Ouïghours (高危涉维吾尔关注人员流入预警模型). La proposition décrivait un outil qui analyserait les réservations de transport et les comparerait aux dossiers de police afin d’alerter rapidement sur les déplacements de personnes classées comme liées aux Ouïghours et à haut risque, une catégorie qui n’était pas définie autrement. L’utilisateur n’a pas demandé à notre modèle de l’aider à créer un tel outil, mais seulement à élaborer une proposition générale. Nous ne pouvons donc pas confirmer de manière indépendante quelle technologie il comptait utiliser, ni si un tel outil a été employé par une entité gouvernementale chinoise.

Nous avons également banni des utilisateurs qui semblaient liés à des entités gouvernementales chinoises et tentaient apparemment d’utiliser ChatGPT pour effectuer des recherches en ligne et un profilage plus ciblé et sur mesure.

Par exemple, un utilisateur a demandé à ChatGPT d’identifier les sources de financement d’un compte X qui critiquait le gouvernement chinois. Un deuxième utilisateur a demandé à ChatGPT d’identifier les organisateurs d’une pétition en Mongolie. Dans ces deux cas, nos modèles n’ont renvoyé que des informations accessibles au public, qui ne comprenaient aucun renseignement sensible tel que les sources de financement ou l’identité des organisateurs des pétitions.

Certaines de ces activités utilisaient nos modèles comme outils de recherche en sources ouvertes, de la même manière que des utilisateurs auraient auparavant effectué des recherches sur Internet ou les réseaux sociaux. Par exemple, un troisième utilisateur a demandé à ChatGPT d’identifier et de résumer chaque jour les dernières nouvelles susceptibles d’intéresser la Chine, notamment sur des sujets sensibles comme l’anniversaire du massacre de la place Tian’anmen en 1989 et l’anniversaire du dalaï-lama.