Kina-forbundne påvirkningsoperationer går efter AI-debatter i USA

Vores mission er at sikre, at kunstig generel intelligens gavner hele menneskeheden. Vi fremmer denne mission ved at udbrede vores innovationer for at opbygge demokratisk AI: AI formet af demokratiske principper, styret af fornuftige regler og designet til at hjælpe mennesker med at løse svære problemer, samtidig med at de beskyttes mod reel skade. Den mission kræver også, at vi identificerer og forstyrrer forsøg fra autoritære regimer og deres stedfortrædere på at bruge AI-systemer til at tvinge kritikere, overvåge lokalsamfund eller i det skjulte blande sig i demokratiske samfund.

I denne rapport beskriver vi to klynger af ChatGPT‑konti, der sandsynligvis stammer fra Kina, og som vi udelukkede, efter at de havde brugt vores modeller til støtte for tilsyneladende skjulte påvirkningsoperationer, der fremmede narrativer i et forsøg på at manipulere en legitim debat om amerikansk AI og bredere teknologipolitikker.

Den første klynge genererede kommentarer og billeder til sociale medier, der hævdede, at udbygningen af datacentre til AI øgede elpriserne for almindelige familier. Vi kaldte denne klynge kampagnen “Data Center Bandwagon”.

Den anden klynge genererede kommentarer og billeder, der kritiserede amerikanske toldsatser som forsøg på at dominere den teknologiske konkurrence, og angav i deres prompts, at indholdet ikke skulle inkludere Kinas leder Xi Jinping i outputtet, men i stedet kun præsident Trump. Denne klynge var forbundet med et netværk af sandsynligvis uautentiske konti på sociale medier, som sandsynligvis også målrettede OpenAI ved at hævde, at ChatGPT‑brugerdata var blevet kompromitteret. Disse påstande var fuldstændig falske. Vi kaldte denne anden klynge kampagnen “Tech and Tariffs”.

Målretningen mod OpenAI og udbygningen af amerikanske datacentre er betydningsfuld, ikke fordi operationen ser ud til at have ændret den offentlige mening, men fordi den viser påvirkningsoperatører med oprindelse i Folkerepublikken Kina teste narrativer mod AI-infrastruktur – et fundament for amerikansk teknologisk lederskab, økonomisk vækst og det bredere demokratiske AI-økosystem. Operationen forsøgte at udnytte og forstærke eksisterende offentlige bekymringer om energipriser og lokale konsekvenser af datacenterudvikling, men vi fandt ingen tegn på et meningsfuldt gennembrud ud over dens egen aktivitet. Udenlandske påvirkningsoperationer har længe forsøgt at hægte sig på eksisterende lokale spørgsmål og oprigtigt holdte overbevisninger og bruge dem til at opbygge troværdighed, forstærke splittelser eller øge offentlig mistillid. I dette tilfælde forsøgte operatørerne i det skjulte at indplacere sig i en igangværende amerikansk debat om fremtiden for landets AI-kapaciteter, mens de skjulte, hvem de var, og hvad der motiverede dem.

Ved at offentliggøre disse resultater ønsker vi at hjælpe vores branche, regeringer, civilsamfundet og offentligheden med bedre at identificere og forstyrre forsøg fra udenlandske trusselsaktører på at manipulere legitime offentlige debatter, svække demokratiske institutioner og fremme totalitarisme med AI-karakteristika - brugen af AI til overvågning, censur og kontrol over det politiske, sociale og private liv.