Kina-kopplade inflytandeoperationer riktar in sig på AI-debatter i USA
Vårt uppdrag är att säkerställa att artificiell generell intelligens kommer hela mänskligheten till del. Vi driver detta uppdrag framåt genom att lansera våra innovationer för att bygga demokratisk AI: AI som formas av demokratiska principer, styrs av sunt förnuft-baserade regler och är utformad för att hjälpa människor att lösa svåra problem samtidigt som de skyddas från verklig skada. Det uppdraget kräver också att identifiera och störa försök från auktoritära regimer och deras ombud att använda AI-system för att tysta kritiker, övervaka samhällen eller i hemlighet blanda sig i demokratiska samhällen.
I den här rapporten beskriver vi två kluster av ChatGPT‑konton som sannolikt har sitt ursprung i Kina och som vi stängde av efter att de använt våra modeller till stöd för till synes dolda påverkansoperationer som främjade narrativ i ett försök att manipulera en legitim debatt om amerikansk AI-politik och bredare teknikpolitik.
Det första klustret genererade kommentarer och bilder för sociala medier som hävdade att utbyggnaden av datacenter för AI höjde elpriserna för vanliga familjer. Vi kallade detta kluster ”Data Center Bandwagon-kampanjen”.
Det andra klustret genererade kommentarer och bilder som kritiserade amerikanska tullar som försök att dominera den tekniska konkurrensen och angav i sina promptar att innehållet inte skulle inkludera Kinas ledare Xi Jinping i resultatet utan i stället endast president Trump. Detta kluster var kopplat till ett nätverk av sannolikt oäkta konton på sociala medier som sannolikt också riktade in sig på OpenAI genom att hävda att användardata från ChatGPT hade äventyrats. Dessa anklagelser var helt falska. Vi kallade detta andra kluster ”Tech and Tariffs-kampanjen”.
Inriktningen mot OpenAI och utbyggnaden av amerikanska datacenter är betydelsefull inte för att operationen verkar ha påverkat den allmänna opinionen, utan för att den visar hur påverkansaktörer med ursprung i Kina testar narrativ mot AI-infrastruktur – en grund för USA:s tekniska ledarskap, ekonomiska tillväxt och det bredare demokratiska AI-ekosystemet. Operationen försökte utnyttja och förstärka befintlig oro hos allmänheten kring energipriser och lokala effekter av datacenterutveckling, men vi fann inga bevis för något betydande genomslag utöver den egna aktiviteten. Utländska påverkansoperationer har länge försökt haka på befintliga lokala frågor och uppriktigt hållna övertygelser och använda dem för att bygga trovärdighet, förstärka splittring eller förvärra allmänhetens misstro. I det här fallet försökte operatörerna i hemlighet placera sig själva i en pågående amerikansk debatt om framtiden för landets AI-kapacitet, samtidigt som de dolde vilka de var och vad som drev dem.
Genom att publicera dessa resultat vill vi hjälpa vår bransch, regeringar, civilsamhället och allmänheten att bättre identifiera och störa försök från utländska hotaktörer att manipulera legitima offentliga debatter, försvaga demokratiska institutioner och främja totalitarism med AI-kännetecken – användning av AI för övervakning, censur och kontroll över politiskt, socialt och privat liv.
