Des opérations d’influence liées à la RPC ciblent les débats sur l’IA aux États-Unis

Notre mission est de veiller à ce que l’intelligence artificielle générale profite à toute l’humanité. Nous faisons progresser cette mission en déployant nos innovations pour bâtir une IA démocratique : une IA façonnée par des principes démocratiques, régie par des règles de bon sens et conçue pour aider les personnes à résoudre des problèmes difficiles tout en les protégeant de préjudices réels. Cette mission exige aussi d’identifier et de perturber les tentatives de régimes autoritaires et de leurs relais visant à utiliser des systèmes d’IA pour contraindre les critiques, surveiller des communautés ou interférer secrètement dans les sociétés démocratiques.

Dans ce rapport, nous présentons deux groupes de comptes ChatGPT vraisemblablement originaires de Chine que nous avons bannis après avoir constaté qu’ils utilisaient nos modèles dans le cadre d’opérations d’influence clandestines apparentes. Ces opérations visaient à promouvoir certains récits afin d’influencer un débat légitime sur l’IA aux États-Unis et, plus largement, sur les politiques technologiques.

Le premier groupe a généré des commentaires et des images pour les réseaux sociaux affirmant que la construction de data centers destinés à l’IA faisait augmenter les prix de l’électricité pour les familles moyennes. Nous avons nommé ce groupe la campagne « Data Center Bandwagon ».

Le second groupe a généré des commentaires et des images critiquant les droits de douane américains comme des tentatives de domination de la concurrence technologique, et précisait dans ses prompts que le contenu ne devait pas inclure le dirigeant chinois Xi Jinping dans le résultat, mais uniquement le président Trump. Ce groupe était lié à un réseau de comptes de réseaux sociaux probablement inauthentiques, qui visaient aussi probablement OpenAI en affirmant que les données des utilisateurs de ChatGPT avaient été compromises. Ces allégations étaient entièrement fausses. Nous avons nommé ce second groupe la campagne « Tech and Tariffs ».

Le ciblage d’OpenAI et de la construction de data centers aux États-Unis est significatif non pas parce que l’opération semble avoir modifié l’opinion publique, mais parce qu’il montre que des opérateurs d’influence originaires de la RPC testent des récits contre l’infrastructure d’IA, qui est un fondement du leadership technologique américain, de la croissance économique et, plus largement, de l’écosystème d’IA démocratique. L’opération cherchait à exploiter et à amplifier les préoccupations publiques existantes au sujet des prix de l’énergie et des impacts locaux du développement des data centers, mais nous n’avons trouvé aucun signe d’une percée significative au-delà de sa propre activité. Les opérations d’influence étrangères cherchent depuis longtemps à s’arrimer à des enjeux locaux existants et à des convictions sincères, en les utilisant pour gagner en crédibilité, amplifier les divisions ou exacerber la défiance du public. Dans ce cas, les opérateurs ont tenté de s’insérer secrètement dans un débat américain en cours sur l’avenir des capacités d’IA du pays, tout en dissimulant qui ils étaient et ce qui les motivait.

En publiant ces conclusions, nous voulons aider notre secteur, les gouvernements, la société civile et le public à mieux identifier et perturber les tentatives d’acteurs étrangers malveillants visant à manipuler des débats publics légitimes, à affaiblir les institutions démocratiques et à faire progresser un totalitarisme aux caractéristiques propres à l’IA : l’utilisation de l’IA à des fins de surveillance, de censure et de contrôle de la vie politique, sociale et privée.