Operation „Sneer Review“: Einflussaktivitäten aus China

Diese Fallstudie wurde ursprünglich im Bericht vom Juni 2025⁠(wird in einem neuen Fenster geöffnet) von OpenAI veröffentlicht.

Wir sperrten ChatGPT‑Konten, die unseren Erkenntnissen zufolge unsere Modelle nutzten, um massenhaft Beiträge für soziale Medien zu erstellen, die den Aktivitäten einer verdeckten Einflussoperation entsprachen. Im Verlauf unserer Untersuchung stellten wir außerdem fest, dass diese Konten interne Leistungsbewertungen verfassten.

Diese Konten verwendeten ihre Prompts überwiegend auf Chinesisch und konzentrierten sich auf politische und geopolitische Themen mit Bezug zu China. Eine Person gab in einem Prompt an, für die chinesische Propagandaabteilung zu arbeiten. Wir haben jedoch keine unabhängigen Belege, die diese Behauptung bestätigen.

Die von uns gesperrten Konten verfolgten zwei zentrale Arbeitsbereiche. Der umfangreichste Bereich bestand darin, kurze Kommentare für soziale Medien auf Englisch und Chinesisch sowie einige auf Urdu zu erstellen. Viele dieser Kommentare wurden auf TikTok und X veröffentlicht. Weitere Inhalte erschienen auf Reddit, Facebook und verschiedenen Websites.

Ein typisches Muster bestand darin, zunächst einen Kommentar über ein „Hauptkonto“ zu veröffentlichen, das häufig offenbar nur für diesen Beitrag erstellt worden war. Darauf folgten mehrere Antworten von anderen Konten. Dieses Verhalten sollte offenbar den falschen Eindruck organischer Interaktionen erwecken.

Auf TikTok verwendeten die kommentierenden Konten Anzeigenamen in verschiedenen Sprachen und Schriftsystemen, die häufig nichts mit der Sprache ihrer veröffentlichten Inhalte zu tun hatten. So veröffentlichte beispielsweise ein Konto mit koreanischem Namen einen Kommentar auf Urdu, während Konten mit thailändischen und hebräischen Namen englische Kommentare veröffentlichten, die dieses Netzwerk erstellt hatte. Auf X verwendeten die kommentierenden Konten üblicherweise gezeichnete Profilbilder und hatten teilweise Namen mit Bezug zu Kryptowährungen.

Auf Facebook war das Netzwerk weniger aktiv. Seine Aktivitäten bestanden hauptsächlich darin, Namen und Profilbilder für zwei Seiten zu erstellen, die sich als Nachrichtenmedien ausgaben. Keine der beiden Seiten hatte Follower oder „Gefällt mir“-Angaben, und beide enthielten jeweils nur wenige Beiträge.

Gelegentlich erstellte das Netzwerk längere Beiträge auf Chinesisch oder Englisch. Einen solchen Beitrag fanden wir auf Reddit, zwei weitere in verschiedenen Internetforen. Der zweite Arbeitsbereich bestand darin, mit ChatGPT Dokumente zu erstellen, bei denen es sich offenbar um interne Richtlinien oder Leistungsbewertungen handelte.

Die von diesem Bedrohungsakteur erstellten Inhalte für soziale Medien behandelten verschiedene Themen, die alle eng mit Chinas geostrategischen Interessen übereinstimmten.

Einige Inhalte befassten sich mit Taiwan und richteten sich insbesondere gegen „Reversed Front“⁠(wird in einem neuen Fenster geöffnet) („逆統戰“), ein auf Taiwan ausgerichtetes Video- und Brettspiel, das den Widerstand gegen die Kommunistische Partei Chinas thematisiert. Das Netzwerk erstellte Dutzende kritische Kommentare über das Spiel auf Chinesisch. Darauf folgte ein ausführlicher Artikel mit der Behauptung, das Spiel sei auf breite Ablehnung gestoßen. Dies war die auffälligste Aktivität der Operation. Deshalb nannten wir sie „Sneer Review“.

Weitere Inhalte auf Englisch und Urdu richteten sich gegen die pakistanische Aktivistin Mahrang Baloch, die Chinas Investitionen in Belutschistan öffentlich kritisiert hat⁠(wird in einem neuen Fenster geöffnet). Ein TikTok-Konto und eine Facebook-Seite, die mit dem Netzwerk in Verbindung standen, veröffentlichten ein Video, in dem Baloch fälschlich vorgeworfen wurde, in einem pornografischen Film mitgewirkt zu haben. Anschließend erstellte die Operation Hunderte kurze Kommentare in beiden Sprachen, um umfangreiche Interaktionen vorzutäuschen.

Ein letzter Themenkomplex betraf die Schließung der US- Behörde für internationale Entwicklung (USAID). Dazu wurden kurze Kommentare erstellt, die diesen Schritt entweder begrüßten oder kritisierten. Diese Kommentare wurden auf TikTok und X veröffentlicht.

Schließlich nutzten die Akteure unsere Modelle, um offenbar interne Dokumente zu erstellen. Dazu gehörten eine ausführliche Abhandlung im Stil eines offiziellen Dokuments der öffentlichen Sicherheit und eine Leistungsbewertung, in der die Schritte zum Aufbau und Betrieb der Operation beschrieben wurden.

Diese Operation befand sich offenbar noch in einem frühen Stadium, als wir ihre Nutzung unserer Modelle unterbanden. Keine der beiden Facebook-Seiten hatte Follower. Auf Reddit erhielt ein Beitrag 44 positive Bewertungen, während zwei weitere in den jeweiligen Subreddits blockiert oder entfernt wurden.

Die Interaktionen auf X und TikTok fielen unterschiedlicher aus. Die beiden TikTok-Videos erhielten zusammen 25.000 Likes, während die Tweets des Hauptkontos dieser Operation üblicherweise jeweils etwa 10.000 Aufrufe erzielten. Viele Kommentare zu diesen Beiträgen wurden jedoch von diesem Netzwerk mit ChatGPT erstellt. Dies deutet darauf hin, dass zumindest ein Teil der Interaktionen nicht authentisch war. Alle Interaktionszahlen sind daher mit Vorsicht zu betrachten.

Anhand der Breakout Scale⁠(wird in einem neuen Fenster geöffnet) für die Wirkung von Einflussoperationen würden wir dies am unteren Ende von Kategorie 3 einordnen, sofern die Interaktionszahlen auf X und TikTok authentisch wären. Wir würden diese Einstufung nach unten korrigieren, wenn weitere Belege die Annahme stützten, dass neben den meisten Kommentaren auch die meisten Likes und Aufrufe nicht authentisch waren.