Mit der VR China verbundene Einflussoperationen zielen auf KI-Debatten in den USA ab

Unsere Mission ist es, sicherzustellen, dass künstliche allgemeine Intelligenz der gesamten Menschheit zugutekommt. Wir bringen diese Mission voran, indem wir unsere Innovationen einsetzen, um demokratische KI aufzubauen: KI, die von demokratischen Prinzipien geprägt, durch vernünftige Regeln gesteuert und dafür entwickelt ist, Menschen bei der Lösung schwieriger Probleme zu helfen und sie zugleich vor realem Schaden zu schützen. Diese Mission erfordert auch, Versuche autoritärer Regime und ihrer Stellvertreter:innen zu erkennen und zu unterbinden, KI-Systeme dafür zu nutzen, Kritiker:innen zu nötigen, Gemeinschaften zu überwachen oder verdeckt in demokratische Gesellschaften einzugreifen.

In diesem Bericht beschreiben wir zwei Cluster von ChatGPT‑Konten, die wahrscheinlich aus China stammen und die wir gesperrt haben, nachdem sie unsere Modelle zur Unterstützung mutmaßlicher verdeckter Einflussoperationen genutzt hatten. Diese verbreiteten Narrative mit dem Ziel, eine legitime Debatte über amerikanische KI und breitere Technologiepolitik zu manipulieren.

Das erste Cluster erzeugte Social-Media-Kommentare und Bilder, in denen behauptet wurde, dass der Ausbau von Rechenzentren für KI die Strompreise für durchschnittliche Familien erhöhe. Wir nannten dieses Cluster die Kampagne „Data Center Bandwagon“.

Das zweite Cluster erzeugte Kommentare und Bilder, die US-Zölle als Versuche kritisierten, den technologischen Wettbewerb zu dominieren, und gab in seinen Prompts vor, dass die Inhalte Chinas Staatschef Xi Jinping nicht in der Ausgabe enthalten sollten, sondern nur Präsident Trump. Dieses Cluster war mit einem Netzwerk vermutlich unauthentischer Social-Media-Konten verbunden, die wahrscheinlich auch OpenAI ins Visier nahmen, indem sie behaupteten, ChatGPT‑Nutzerdaten seien kompromittiert worden. Diese Anschuldigungen waren vollständig falsch. Wir nannten dieses zweite Cluster die Kampagne „Tech and Tariffs“.

Die Ausrichtung auf OpenAI und den Ausbau von US-Rechenzentren ist nicht deshalb bedeutsam, weil die Operation offenbar die öffentliche Meinung verändert hätte, sondern weil sie zeigt, dass Einflussoperator:innen mit Ursprung in der VR China Narrative gegen KI-Infrastruktur testen – eine Grundlage der technologischen Führungsrolle der USA, des Wirtschaftswachstums und des breiteren demokratischen KI-Ökosystems. Die Operation versuchte, bestehende öffentliche Sorgen über Energiepreise und lokale Auswirkungen des Rechenzentrumsausbaus auszunutzen und zu verstärken. Wir fanden jedoch keine Hinweise auf eine nennenswerte Verbreitung über die eigene Aktivität hinaus. Ausländische Einflussoperationen versuchen seit Langem, an bestehende lokale Themen und aufrichtig vertretene Überzeugungen anzuknüpfen und sie zu nutzen, um Glaubwürdigkeit aufzubauen, Spaltungen zu verstärken oder öffentliches Misstrauen zu verschärfen. In diesem Fall versuchten die Operator:innen, sich verdeckt in eine laufende amerikanische Debatte über die Zukunft der KI-Fähigkeiten des Landes einzuschleusen, während sie verbargen, wer sie waren und was sie motivierte.

Mit der Veröffentlichung dieser Erkenntnisse wollen wir unserer Branche, Regierungen, der Zivilgesellschaft und der Öffentlichkeit helfen, Versuche ausländischer Bedrohungsakteur:innen besser zu erkennen und zu unterbinden, legitime öffentliche Debatten zu manipulieren, demokratische Institutionen zu schwächen und Totalitarismus mit KI-Merkmalen voranzutreiben – den Einsatz von KI zur Überwachung, Zensur und Kontrolle des politischen, sozialen und privaten Lebens.