Des opérations d’influence liées à la RPC ciblent les débats sur l’AI aux É.-U.

Notre mission est de veiller à ce que l’intelligence artificielle générale profite à toute l’humanité. Nous faisons progresser cette mission en déployant nos innovations pour bâtir une AI démocratique : une AI façonnée par des principes démocratiques, régie par des règles de bon sens et conçue pour aider les gens à résoudre des problèmes difficiles tout en les protégeant contre des préjudices réels. Cette mission exige aussi de repérer et de perturber les tentatives de régimes autoritaires et de leurs intermédiaires d’utiliser des systèmes d’AI pour contraindre les critiques, surveiller des communautés ou s’ingérer secrètement dans des sociétés démocratiques.

Dans ce rapport, nous décrivons deux groupes de comptes ChatGPT provenant probablement de Chine que nous avons bannis après qu’ils ont utilisé nos modèles à l’appui d’opérations d’influence clandestines apparentes, qui faisaient la promotion de récits visant à manipuler un débat légitime sur les politiques américaines en matière d’AI et de technologies plus largement.

Le premier groupe a généré des commentaires et des images pour les médias sociaux affirmant que la construction de centres de données pour l’AI faisait augmenter les prix de l’électricité pour les familles moyennes. Nous avons nommé ce groupe la campagne « Data Center Bandwagon ».

Le deuxième groupe a généré des commentaires et des images critiquant les tarifs douaniers américains comme des tentatives de dominer la concurrence technologique, et précisait dans ses invites que le contenu ne devait pas inclure le dirigeant chinois Xi Jinping dans la réponse, mais seulement le président Trump. Ce groupe était lié à un réseau de comptes de médias sociaux probablement inauthentiques qui ciblaient aussi vraisemblablement OpenAI en affirmant que des données d’utilisateurs de ChatGPT avaient été compromises. Ces allégations étaient entièrement fausses. Nous avons nommé ce deuxième groupe la campagne « Tech and Tariffs ».

Le ciblage d’OpenAI et de la construction de centres de données aux États-Unis est important, non pas parce que l’opération semble avoir influencé l’opinion publique, mais parce qu’il montre que des opérateurs d’influence originaires de la RPC mettent à l’essai des récits visant l’infrastructure d’AI — un fondement du leadership technologique américain, de la croissance économique et de l’écosystème plus large de l’AI démocratique. L’opération cherchait à exploiter et à amplifier les préoccupations publiques existantes concernant les prix de l’énergie et les répercussions locales du développement des centres de données, mais nous n’avons trouvé aucune preuve d’une percée significative au-delà de sa propre activité. Les opérations d’influence étrangères cherchent depuis longtemps à s’accrocher à des enjeux locaux existants et à des convictions sincères, en les utilisant pour gagner en crédibilité, amplifier les divisions ou exacerber la méfiance du public. Dans ce cas, les opérateurs ont tenté de s’insérer secrètement dans un débat américain en cours sur l’avenir des capacités d’AI du pays, tout en dissimulant leur identité et leurs motivations.

En publiant ces constatations, nous souhaitons aider notre secteur, les gouvernements, la société civile et le public à mieux identifier et perturber les tentatives d’acteurs étrangers menaçants de manipuler des débats publics légitimes, d’affaiblir les institutions démocratiques et de promouvoir un totalitarisme aux caractéristiques de l’AI — l’utilisation de l’AI à des fins de surveillance, de censure et de contrôle de la vie politique, sociale et privée.