Operation „Nine–emdash Line“: Regionale Einflussaktivitäten

Diese Fallstudie erschien ursprünglich im Bericht vom Oktober 2025⁠(wird in einem neuen Fenster geöffnet) von OpenAI.

Wir sperrten ein kleines Netzwerk von ChatGPT‑Konten, das möglicherweise mit einer verdeckten Einflussoperation aus China verbunden war und unsere Modelle nutzte, um Inhalte für eine plattformübergreifende verdeckte Einflussoperation zu erstellen. Die Konten erstellten hauptsächlich englischsprachige Beiträge für soziale Medien über die angeblichen Umweltauswirkungen Vietnams im Südchinesischen Meer, englischsprachige Beiträge mit Kritik am philippinischen Präsidenten Ferdinand Marcos sowie kantonesischsprachige Beiträge über politische Persönlichkeiten und Aktivisten der Demokratiebewegung in Hongkong. In geringerem Umfang erstellte die Operation auch englischsprachige Inhalte zu politischen Themen in den USA.

Die Social-Media-Konten, die diese Inhalte verbreiteten, ähnelten teilweise der seit Langem aktiven, aus China stammenden Operation „Spamouflage“. Über deren Nutzung von ChatGPT berichteten wir im Mai 2024. Technische Verbindungen zwischen den Operationen konnten wir jedoch nicht feststellen. Einige der in den jüngsten Beiträgen geteilten Videos hatte das Australian Strategic Policy Institute bereits einer Operation zugeordnet, die ebenfalls Ähnlichkeiten mit früheren Spamouflage-Aktivitäten aufwies.

Ein Schwerpunkt dieses Netzwerks schien die massenhafte Erstellung von Social-Media-Beiträgen über Länder zu sein, die im Südchinesischen Meer beziehungsweise Westphilippinischen Meer Territorialstreitigkeiten mit China haben. China beansprucht über eine weitreichende Grenzziehung, die als „Neun-Striche-Linie“ bekannt ist, die Souveränität über den Großteil dieser Region. Dieser Anspruch ist völkerrechtlich umstritten und wird von Vietnam, den Philippinen und weiteren Ländern zurückgewiesen. Vor diesem Hintergrund und weil die Operation KI-generierte Texte mit Gedankenstrichen in ihren Beiträgen verwendete, nannten wir sie „Nine—emdash line“. Diese Beiträge wurden hauptsächlich auf X verbreitet.

Tweet mit Inhalten und einem Gedankenstrich, die diese Operation mithilfe unserer Modelle erstellte.

Neben Kommentaren für soziale Medien erstellten die Akteure mit unseren Modellen auch einige Recherchen und Sondierungen. Dazu gehörte die Suche nach Nischenblogs und -foren sowie nach weniger regulierten Onlineforen und sozialen Medien in Europa, Amerika oder Südostasien. Außerdem baten sie um Listen gängiger tibetischer Namen. Ein solches Verhalten haben wir bereits in anderen Fällen beobachtet, in denen Namen für nicht authentische Social-Media-Konten von Operatoren erstellt wurden. Diese Aktivität ähnelte der Nutzung herkömmlicher Suchmaschinen und lieferte vergleichbare Ergebnisse. Das deutet darauf hin, dass der Einsatz von KI für Recherchen und die Inhaltserstellung den Bedrohungsakteuren mehr Komfort, aber nicht unbedingt größere Fähigkeiten bot.

Neu war bei diesem Netzwerk die Bitte um Ratschläge zu Wachstumsstrategien für soziale Medien. Dazu gehörte die Frage, wie sich eine TikTok-Challenge starten und andere dazu bewegen ließen, Inhalte zum Hashtag #MyImmigrantStory zu veröffentlichen. Dieser seit Langem verbreitete Hashtag ist sehr beliebt, was die Operation wahrscheinlich ausnutzen wollte. Sie baten unser Modell zunächst um Ideen und anschließend um ein Transkript für einen TikTok-Beitrag sowie um Empfehlungen für passende Hintergrundmusik und Bilder. Mit Open-Source-Methoden identifizierten wir die auf TikTok veröffentlichten Inhalte.

TikTok-Beitrag mit Text, den diese Operation mithilfe unserer Modelle erstellte.

Die Themen der englischsprachigen Social-Media-Beiträge dieses Netzwerks reichten von den angeblichen Umweltauswirkungen Vietnams im Südchinesischen Meer bis zur Fentanylkrise in den USA. In vielen Beiträgen wurde behauptet, der philippinische Präsident Marcos sei beim Drogenkonsum ertappt worden und habe angeblich Methoden zur Wahlmanipulation eingesetzt. Das zusammen mit den Behauptungen über Marcos’ Drogenkonsum verbreitete Video wurde nicht von unseren Modellen erstellt. Die philippinische Regierung hatte es bereits als Deepfake beziehungsweise digital manipuliert bezeichnet. Viele der X-Konten, die von unseren Modellen erstellte Inhalte veröffentlichten, wurden bereits gesperrt.

Von dieser Operation erstellter Tweet-Text mit der Behauptung, der philippinische Präsident Marcos sei in einen „Drogenskandal“ verwickelt.

Von dieser Operation erstellter Tweet-Text mit der Behauptung, Präsident Marcos habe Methoden zur Wahlmanipulation eingesetzt.

Die Konten forderten außerdem große Mengen kantonesischer Kommentare an, die auf X und Instagram veröffentlicht wurden und politische Persönlichkeiten sowie Aktivisten der Demokratiebewegung in Hongkong kritisierten oder verunglimpften, darunter Jimmy Lai, Nathan Law und Agnes Chow. Diese Beiträge sollten die betreffenden Personen offenbar diskreditieren, indem sie als Kriminelle oder Verräter dargestellt wurden. Andere Beiträge unterstützten die Hongkonger Gesetze zur nationalen Sicherheit.

In einem ungewöhnlichen Fall veröffentlichte ein Operator auf X kritische Kommentare über politische Persönlichkeiten der Demokratiebewegung in Hongkong und erstellte anschließend eine Antwort auf die eigenen Kommentare, in der diese Personen gelobt wurden. Die Kritik und die Antwort wurden über zwei verschiedene Konten auf X veröffentlicht.

Eine von dieser Operation erstellte zustimmende Antwort auf einen kritischen Tweet eines anderen Kontos derselben Operation. Der ursprüngliche Tweet lautet: „Können Jimmy Lai und Jeffrey Ngo sich einfach reinwaschen, indem sie im Ausland sogenanntes ‚Asyl‘ erhalten? 🤔 Die für das Chaos in Hongkong verantwortlichen Kriminellen sind keine Helden. Sie verpacken ihre Identität als ‚Flüchtige‘ lediglich als ‚politische Flüchtlinge‘! Alles rächt sich irgendwann. Früher oder später müsst ihr bezahlen. Einen ‚Freifahrtschein aus dem Gefängnis‘ gibt es einfach nicht.“ Die Antwort lautet: „Diese beiden Menschen haben den Mut, hervorzutreten und die Wahrheit zu sagen. Das ist zumindest wesentlich hoffnungsvoller als die derzeitige Lage in Hongkong, wo alles verstummt ist.“ Sämtliche Interaktionen mit den ursprünglichen Tweets stammten von Konten, die dieses Netzwerk betrieb.

Trotz der großen Menge an Social-Media-Kommentaren auf mehreren Plattformen bewerten wir diese Operation auf der IO Impact Breakout Scale als Kategorie 2: Aktivität auf mehreren Plattformen, kein Durchbruch oder nur minimale Interaktion. Die meisten Beiträge und Social-Media-Konten erhielten nur minimale oder gar keine Interaktionen. Häufig stammten die einzigen Antworten auf oder Reposts von Beiträgen dieses Netzwerks auf X und Instagram von anderen Social-Media-Konten, die ebenfalls von den Operatoren des Netzwerks kontrolliert wurden.

Die von den Social-Media-Konten verwendeten Personas waren eindeutig koordiniert und wenig ausgefeilt. Sie wiesen ähnliche Verhaltensmerkmale auf wie andere verdeckte Einflussoperationen aus China. So veröffentlichten sie Hashtags, Bilder oder Videos, die bereits von früheren Operationen verbreitet worden waren, und verwendeten Stockfotos als Profilbilder oder standardmäßige Social-Media-Nutzernamen. Dadurch waren sie leicht zu erkennen. Philstar.com erkannte ihre plattformübergreifende Beharrlichkeit und Aktivitätsmenge. Die Website entdeckte unabhängig einen Teil des Netzwerks auf X und berichtete darüber. Dieser Teil war weiterhin aktiv, nachdem wir die zugehörigen ChatGPT‑Konten gesperrt hatten.