Abus liés à la RPC : activités de surveillance et d’influence

Cette étude de cas a été publiée à l’origine dans le rapport d’OpenAI d’octobre 2025⁠(s'ouvre dans une nouvelle fenêtre).

Des personnes apparemment liées à des entités gouvernementales de la RPC ont utilisé ChatGPT pour les aider dans des tâches de développement, de profilage et de nature bureaucratique.

Comme nous l’avons expliqué en mars dans notre mémoire sur le plan d’action américain en matière d’IA présenté à l’Office of Science and Technology Policy, nous croyons que, pour faire profiter le plus grand nombre possible de personnes des avantages de l’IA, il faut favoriser son développement au moyen de règles sensées visant à protéger les gens contre des préjudices réels et bâtir une IA démocratique. Par IA démocratique, nous entendons une IA façonnée par les principes démocratiques que l’Amérique a toujours défendus. Cela comprend le fait d’empêcher les régimes autoritaires d’utiliser des outils d’IA pour accroître leur pouvoir et contrôler leurs citoyens.

Nos investissements visant à détecter et à déjouer les tentatives des régimes autoritaires d’exploiter abusivement les capacités de ChatGPT protègent non seulement les gens aujourd’hui, mais fournissent aussi des renseignements importants sur la façon dont ces régimes pourraient abuser de capacités futures. Cette section présente un ensemble de constatations de ce type concernant des personnes potentiellement liées à de tels régimes, en mettant l’accent sur la RPC.

Comme nous l’avons écrit en juin, la RPC réalise de véritables progrès dans le développement de sa version autocratique de l’IA. La perturbation de comptes ChatGPT utilisés par des personnes apparemment liées à des entités gouvernementales chinoises nous éclaire sur l’utilisation actuelle de l’IA dans ce contexte autoritaire. Certains aspects de cette utilisation semblaient viser à soutenir la surveillance à grande échelle du trafic en ligne ou hors ligne, ce qui souligne l’importance de rester vigilants quant aux abus autoritaires potentiels dans ce domaine. D’autres aspects de cette utilisation semblaient viser un profilage plus approfondi. Nous avons banni les comptes associés à cette activité et présentons nos constatations dans ce rapport.

Cette étude repose sur une sélection d’activités contraires à nos politiques que nous avons repérées, interrompues et bannies. Ces activités correspondaient à une utilisation de ChatGPT par des utilisateurs individuels, plutôt qu’à une adoption institutionnelle à grande échelle de nos modèles. Il s’agit donc d’un aperçu limité de l’utilisation de différents modèles d’IA dans ce contexte.

Certains des comptes que nous avons bannis semblaient tenter d’utiliser ChatGPT pour développer des outils de surveillance à grande échelle : l’analyse d’ensembles de données souvent recueillies sur des plateformes de médias sociaux occidentales ou chinoises. En février, nous avons fait état d’un cas de ce type visant à concevoir un outil d’écoute des médias sociaux propulsé par l’IA qui, selon ses exploitants, était destiné aux forces de sécurité chinoises. Ces utilisateurs demandaient généralement à ChatGPT de les aider à concevoir de tels outils ou à produire du matériel promotionnel à leur sujet, mais pas à mettre en œuvre la surveillance.

Par exemple, nous avons récemment banni un utilisateur, qui se servait possiblement d’un RPV pour accéder à nos services depuis la Chine, parce qu’il demandait à ChatGPT de l’aider à concevoir du matériel promotionnel et des plans de projet pour un outil d’écoute des médias sociaux prétendument destiné à un client gouvernemental. L’outil était décrit comme une « sonde » (探针) de médias sociaux qui pouvait prétendument analyser Twitter/X, Facebook, Instagram, Reddit, TikTok et YouTube à la recherche de propos que l’utilisateur qualifiait d’extrémistes ainsi que de contenu ethnique, religieux et politique. L’utilisateur n’a pas employé notre modèle pour effectuer la surveillance réelle des médias sociaux. Nous ne sommes pas en mesure de vérifier de façon indépendante si cet outil a été utilisé par une entité gouvernementale chinoise.

De même, nous avons banni un deuxième utilisateur, probablement lié à une entité gouvernementale, qui avait demandé à ChatGPT de l’aider à rédiger une proposition concernant ce qu’il décrivait comme un modèle d’alerte sur l’arrivée de personnes ouïghoures à risque élevé (高危涉维吾尔关注人员流入预警模型). La proposition décrivait un outil qui analyserait les réservations de transport et les comparerait aux dossiers de police afin de signaler rapidement les déplacements de personnes classées comme étant liées aux Ouïghours et à risque élevé, une catégorie qui n’était autrement pas définie. L’utilisateur n’a pas demandé à notre modèle de l’aider à créer un tel outil, mais seulement à élaborer une proposition générale. Nous ne sommes donc pas en mesure de confirmer de façon indépendante la technologie qu’il comptait utiliser ni si un tel outil a été utilisé par une entité gouvernementale chinoise.

Nous avons également banni des utilisateurs qui semblaient liés à des entités gouvernementales chinoises et qui semblaient tenter d’utiliser ChatGPT pour effectuer du profilage ciblé et personnalisé ainsi que des recherches en ligne.

Par exemple, un utilisateur a demandé à ChatGPT de trouver les sources de financement d’un compte X qui critiquait le gouvernement chinois. Un deuxième utilisateur a demandé à ChatGPT d’identifier les organisateurs d’une pétition en Mongolie. Dans les deux cas, nos modèles n’ont fourni que des renseignements accessibles au public, qui ne comprenaient aucun détail sensible comme les sources de financement ou l’identité des organisateurs de la pétition.

Certaines de ces activités utilisaient nos modèles comme outils de recherche à sources ouvertes, d’une manière semblable à celle dont les utilisateurs se servaient auparavant des recherches sur Internet ou dans les médias sociaux. Par exemple, un troisième utilisateur a demandé à ChatGPT de repérer et de résumer quotidiennement les nouvelles de dernière heure pertinentes pour la Chine, y compris sur des sujets sensibles comme l’anniversaire du massacre de la place Tian’anmen en 1989 et l’anniversaire de naissance du dalaï-lama.