Operation „Stop News“: Erneute Einflussaktivitäten

Diese Fallstudie erschien ursprünglich im Bericht vom Oktober 2025⁠(wird in einem neuen Fenster geöffnet) von OpenAI.

Wir sperrten mehrere Konten, die versucht hatten, mit unseren Modellen Inhalte für die verdeckte Einflussoperation zu erstellen, über die wir im Oktober 2024 unter dem Namen „Stop News“ berichtet hatten. Diese Aktivitäten gingen von Russland aus und schienen zu einer von einem Marketingunternehmen betriebenen Operation zu gehören. Unsere Untersuchung ergab, dass dieser Akteur versucht hatte, mit den KI-Tools anderer Unternehmen Videos zu erstellen, die anschließend auf YouTube und TikTok veröffentlicht wurden. Wir können nicht unabhängig bestätigen, welche Modelle die Verantwortlichen letztlich verwendeten.

Ähnlich wie bei den Aktivitäten, die wir im Oktober 2024 unterbanden, nutzte diese Operation unsere Modelle hauptsächlich, um Inhalte zu erstellen. Diese wurden anschließend in sozialen Medien und auf mehreren Websites veröffentlicht, die sich als dieselben Nachrichtenmedien in Afrika und im Vereinigten Königreich ausgaben, über die wir im vergangenen Jahr berichtet hatten.

Diese Aktivitäten schienen ein Versuch zu sein, die frühere Operation fortzusetzen, nachdem wir und andere Unternehmen der Branche dagegen vorgegangen waren. Wir stellten jedoch einige bemerkenswerte Unterschiede fest. Erstens war der Anteil der Bildgenerierung deutlich geringer. Während die ursprünglichen Aktivitäten von Stop News, wie wir damals feststellten, ungewöhnlich viele Bilder umfassten, konzentrierten sich die jüngsten Aktivitäten stärker auf die Textgenerierung. Bildgenerierung kam vergleichsweise selten vor. Dies deckt sich mit der Einschätzung der französischen Digitalbehörde VIGINUM, wonach „die Verwendung KI-generierter Bilder seit der Veröffentlichung der Berichte von Meta und OpenAI drastisch zurückgegangen ist“.

Zweitens nutzte die Operation ChatGPT auch, um Skripte und Beschreibungen für kurze Videos im Nachrichtenstil zu erstellen. In der Regel gaben die Verantwortlichen einen längeren russischen Text ein und ließen daraus ein Videoskript erstellen. Anschließend ließen sie das Modell den Text ins Französische übersetzen. Drittens ließen sie das Modell eine SEO-optimierte Beschreibung und Hashtags erstellen.

Einige dieser Skripte wurden in Videos auf einem YouTube-Kanal verwendet, der mit der auf Afrika ausgerichteten Website newstop[.]africa der Operation Stop News verknüpft war. Andere erschienen auf einem YouTube- und einem TikTok-Kanal, die nicht unter der Marke „Stop News“ auftraten. Auf diesen Kanälen las eine KI-generierte Person die Nachrichten vor. Meist wurden kurze Ausschnitte mit dem Nachrichtensprecher mit Videoaufnahmen von Ereignissen in Afrika oder mit Bezug zu Afrika kombiniert. Die Ausschnitte mit dem Nachrichtensprecher scheinen nicht mit unseren Modellen erstellt worden zu sein. Wir können nicht unabhängig bestätigen, welcher Dienst dafür verwendet wurde. Das Erscheinungsbild des Nachrichtensprechers veränderte sich im Laufe des Jahres 2025, wie die folgenden Screenshots aus TikTok-Videos zeigen.

In den aufwendigsten Fällen erstellten die Verantwortlichen mit unseren Modellen Video-Prompts, die offenbar für andere KI-Modelle bestimmt waren. Dabei erstellten sie zunächst ein russisches Videoskript, teilten es dann in Abschnitte von jeweils zwei Sätzen auf und ließen ChatGPT für jeden Abschnitt einen Video-Prompt erstellen. Nachdem die Video-Prompts erstellt worden waren, ließen die Verantwortlichen das Modell das gesamte Skript ins Französische übersetzen.

Die Aktivitäten dieser Operation ließen sich in drei Hauptkategorien einteilen. Erstens erstellte sie französischsprachige Inhalte, die Frankreichs und die Vereinigten Staaten für ihre Rolle in Afrika kritisierten und Russlands Rolle dort lobten. Zweitens erstellte sie englischsprachige Inhalte, die die Ukraine und ihre internationalen Unterstützer kritisierten. Gelegentlich erstellten die Verantwortlichen auch Bilder als Ergänzung zu ihren Textinhalten. In seltenen Fällen ließen sie ChatGPT Werbeartikel und Texte für Google-Anzeigen zu ihrer wichtigsten Nachrichtenmarke „Newstop Africa“ erstellen. Einige dieser Werbeartikel konzentrierten sich nicht allein auf Newstop Africa, sondern nannten die Marke Newstop zusammen mit seriösen Nachrichtenmedien. Wahrscheinlich sollte die Verbindung zu diesen Medien glaubwürdiger wirken.

Die dritte Gruppe von Aktivitäten bestand darin, Werbematerialien für mehrere offenbar kommerzielle Unternehmen in Russland zu erstellen. Dazu gehörten Anzeigen für nicht lizenzierte Online-Glücksspiele. Eine solche Kombination verschiedener Arten der Inhaltserstellung passt zu einem kommerziellen Unternehmen, das neben klassischer Werbung auch verdeckte Einflussoperationen im Auftrag durchführt. Sie entspricht zudem den Aktivitäten, über die wir im vergangenen Jahr berichtet haben.

Obwohl sich diese Operation stärker auf kurze Videoinhalte konzentrierte und mehrere KI-Tools komplexer einsetzte, scheinen die veröffentlichten Inhalte nur wenige Aufrufe und ein begrenztes Publikum erreicht zu haben. Das zentrale X-Konto „Newstop Africa“ hatte im August 2025 lediglich 172 Follower. Laut der X-Funktion „Top-Tweets“ wurde keiner seiner Beiträge öfter als viermal repostet.

Die YouTube- und TikTok-Kanäle mit einem KI-Nachrichtensprecher hatten jeweils etwa 1.900 Follower. Der TikTok-Kanal verzeichnete 5.855 Likes, also durchschnittlich 105 Likes für jedes der 56 veröffentlichten Videos. Das meistgesehene Video verzeichnete 63.300 Aufrufe, das am wenigsten gesehene lediglich 87. Für die 50 Videos des YouTube-Kanals wurden insgesamt rund 255.000 Aufrufe ausgewiesen, im Durchschnitt also 5.100 Aufrufe pro Video. Wir fanden jedoch keine Hinweise darauf, dass diese Videos weiterverbreitet, in den Medien zitiert oder anderweitig von einer breiteren Öffentlichkeit wahrgenommen wurden.

In unserem Bericht vom Oktober 2024 stuften wir diese Operation ursprünglich auf Stufe 3 der Breakout Scale ein. Ausschlaggebend waren vor allem mehrere vermeintliche „Informationspartnerschaften“, die offenbar mit Websites im Vereinigten Königreich eingerichtet worden waren. Spätere Untersuchungen von VIGINUM und Forschenden, die mit öffentlich zugänglichen Quellen arbeiten, zeigten jedoch, dass diese „Partnerschaften“ wahrscheinlich erfunden waren und „technische Schwachstellen dieser externen Websites ausnutzten“, um ohne Wissen der zuständigen Personen Inhalte hinzuzufügen. Auf dieser Grundlage würden wir die Aktivitäten dieser Operation derzeit eher Stufe 2 zuordnen: Aktivitäten auf mehreren Internetplattformen, jedoch ohne nennenswerten Durchbruch in authentische Gemeinschaften.