Kina-tilknyttede påvirkningsoperasjoner retter seg mot AI-debatter i USA

Vårt oppdrag er å sikre at kunstig generell intelligens kommer hele menneskeheten til gode. Vi fremmer dette oppdraget ved å ta i bruk innovasjonene våre for å bygge demokratisk AI: AI formet av demokratiske prinsipper, styrt av sunn fornuft-baserte regler og utviklet for å hjelpe mennesker med å løse vanskelige problemer samtidig som de beskyttes mot reell skade. Dette oppdraget krever også at vi identifiserer og avbryter forsøk fra autoritære regimer og deres stedfortredere på å bruke AI-systemer til å tvinge kritikere, overvåke samfunnsgrupper eller i det skjulte blande seg inn i demokratiske samfunn.

I denne rapporten beskriver vi to klynger av ChatGPT‑kontoer som sannsynligvis hadde opphav i Kina, og som vi utestengte etter at de brukte modellene våre til å støtte tilsynelatende skjulte påvirkningsoperasjoner som fremmet narrativer i et forsøk på å manipulere en legitim debatt om amerikansk AI og bredere teknologipolitikk.

Den første klyngen genererte kommentarer og bilder til sosiale medier som hevdet at utbygging av datasentre for AI økte strømprisene for vanlige familier. Vi kalte denne klyngen kampanjen «Datasenterbølgen».

Den andre klyngen genererte kommentarer og bilder som kritiserte amerikanske tollsatser som forsøk på å dominere teknologisk konkurranse, og spesifiserte i promptene sine at innholdet ikke skulle inkludere Kinas leder Xi Jinping i resultatet, men i stedet bare inkludere president Trump. Denne klyngen var knyttet til et nettverk av sannsynligvis uautentiske kontoer på sosiale medier som også sannsynligvis rettet seg mot OpenAI ved å hevde at ChatGPT‑brukerdata var kompromittert. Disse påstandene var fullstendig falske. Vi kalte denne andre klyngen kampanjen «Teknologi og toll».

Målrettingen mot OpenAI og amerikanske datasenterutbygginger er betydningsfull, ikke fordi operasjonen ser ut til å ha endret opinionen, men fordi den viser at påvirkningsoperatører med opphav i Folkerepublikken Kina tester narrativer mot AI-infrastruktur – et fundament for USAs teknologiske lederskap, økonomiske vekst og det bredere demokratiske AI-økosystemet. Operasjonen forsøkte å utnytte og forsterke eksisterende offentlig bekymring for energipriser og lokale konsekvenser av datasenterutvikling, men vi fant ingen bevis for betydelig gjennomslag utover dens egen aktivitet. Utenlandske påvirkningsoperasjoner har lenge forsøkt å hekte seg på eksisterende lokale saker og oppriktig holdte overbevisninger, og bruke dem til å bygge troverdighet, forsterke splittelser eller øke offentlig mistillit. I dette tilfellet forsøkte operatørene i det skjulte å sette seg selv inn i en pågående amerikansk debatt om fremtiden til landets AI-kapasiteter, samtidig som de skjulte hvem de var og hva som motiverte dem.

Ved å publisere disse funnene ønsker vi å hjelpe bransjen vår, myndigheter, sivilsamfunnet og offentligheten med å bedre identifisere og avbryte forsøk fra utenlandske trusselaktører på å manipulere legitime offentlige debatter, svekke demokratiske institusjoner og fremme totalitarisme med AI-kjennetegn – bruk av AI til overvåking, sensur og kontroll over politisk, sosialt og privat liv.