Eine neue verdeckte Einflusskampagne aus Russland unterbinden

Unsere Mission ist es, dafür zu sorgen, dass künstliche allgemeine Intelligenz der gesamten Menschheit zugutekommt. Wir verfolgen diese Mission, indem wir unsere Innovationen einsetzen, um KI-Tools zu entwickeln, die Menschen beim Lösen schwieriger Probleme helfen. Dazu gehört die Entwicklung von Tools, mit denen wir verdeckte Einflussoperationen erkennen, untersuchen, unterbinden und aufdecken können. Dabei handelt es sich um Täuschungsversuche, die öffentliche Meinung oder politische Ergebnisse zu beeinflussen, ohne die wahre Identität oder die Absichten der Verantwortlichen offenzulegen.

Vor Kurzem haben wir eine Gruppe mutmaßlich aus Russland stammender ChatGPT‑Konten gesperrt. Sie wurden genutzt, um für das International Burke Institute (IBI) zu werben, das sich selbst als „Expertengemeinschaft“ mit Sitz in Israel bezeichnet. Was als Untersuchung KI-generierter Beiträge in sozialen Medien begann, führte uns zu einer deutlich umfassenderen Einflussoperation. In ihrem Zentrum stand eine Website mit kopierten und falsch zugeschriebenen wissenschaftlichen Arbeiten, einem „Souveränitätsindex“, der Russland positiv darstellte, und Versuchen, die russische Herkunft der für die Operation tätigen Personen zu verschleiern. Obwohl die Kampagne offenbar nur ein relativ kleines Publikum erreichte, unterscheidet sie sich durch ihren aufwendigen Aufbau von anderen mit Russland verbundenen⁠(wird in einem neuen Fenster geöffnet) Einfluss⁠(wird in einem neuen Fenster geöffnet)operationen⁠(wird in einem neuen Fenster geöffnet), die wir seit Beginn des Krieges in der Ukraine unterbunden⁠(wird in einem neuen Fenster geöffnet) haben. Dieser Bericht erläutert, wie die Operation funktionierte, welche Rolle ChatGPT dabei spielte und was wir unternommen haben, um sie zu unterbinden.

Wir haben eine Gruppe von ChatGPT‑Konten gesperrt, die sehr wahrscheinlich aus Russland stammten. Die an der Operation beteiligten Nutzer:innen gaben ihre Anweisungen auf Russisch ein, um Kommentare für soziale Medien zu erstellen, die auf Substack, Telegram, X, Facebook und LinkedIn veröffentlicht wurden. Die meisten erstellten Kommentare waren auf Englisch. Die der Operation zugehörigen Personen wiesen ChatGPT an, alle sprachlichen Hinweise auf ihre russische Herkunft zu verbergen. Da wir aus Russland keinen Zugriff auf unsere Modelle erlauben, nutzten sie VPNs, um auf unsere Plattform zuzugreifen.

Ein Großteil der erstellten Inhalte sollte für eine selbst ernannte „Expertengemeinschaft“ namens International Burke Institute (IBI) werben. Die Marke IBI war mit einer im Februar 2025 registrierten Website verbunden. Diese behauptete, das Institut habe seinen Sitz in Israel. Die auf der Website veröffentlichten Artikel wurden nicht mit unseren Modellen erstellt. Viele waren aus echten wissenschaftlichen Arbeiten kopiert und wurden teilweise falschen Personen zugeschrieben. Einige scheinen von einer slawischsprachigen Person verfasst und maschinell übersetzt worden zu sein. Der folgende Screenshot von der IBI-Website enthält beispielsweise eine unnatürliche Formulierung, die sich am ehesten als wörtliche maschinelle Übersetzung aus einer slawischen Sprache erklären lässt.

Nach unserem Kenntnisstand handelt es sich um eine neue, bisher nicht dokumentierte verdeckte Einflusskampagne. Ihr auffälligstes Merkmal ist der vom vermeintlichen „Thinktank“ beworbene „Souveränitätsindex“, mit dem Russland gelobt und westliche Länder abgewertet wurden. Zum ersten Mal haben wir eine mit Russland verbundene Einflussoperation unterbunden, die einen derart hohen Aufwand betrieb.

Die Operation nutzte ChatGPT hauptsächlich, um Beiträge für soziale Medien zu erstellen, die Artikel auf der IBI-Website bewarben. Wir fanden diese Beiträge auf X, LinkedIn, Facebook, Substack und Telegram. Einige wurden von Konten veröffentlicht, die den Namen und das Logo des IBI trugen. Andere schienen von gewöhnlichen, vermutlich nicht authentischen Konten zu stammen, deren Hauptaktivität darin bestand, IBI-Artikel zu veröffentlichen.

Neben diesen eigenständigen Beiträgen erstellten die an der Operation beteiligten Personen auch Antworten auf Beiträge realer Substack-Nutzender zu verschiedenen Themen. Diese Antworten enthielten meist die Aufforderung, dem IBI-Kanal zu folgen, und wurden vom IBI-Konto auf Substack veröffentlicht.

Einer der beteiligten Personen erstellte nicht nur Inhalte über das IBI, sondern auch deutschsprachige Beiträge, die auf einem Telegram-Kanal namens „Lahme Ente“ veröffentlicht wurden. Diese Beiträge kritisierten regelmäßig die Ukraine, die EU und die Bundesregierung und warben für bessere Beziehungen zu Russland.

Eine zweite Person erstellte im Rahmen der Operation neben IBI-bezogenen Inhalten Logos für zwölf Telegram-Kanäle, darunter Lahme Ente, die sich mit Deutschland, den USA, Frankreich, Polen und der Türkei befassten. Einige dieser Kanäle berichteten gelegentlich über das IBI oder teilten dessen Beiträge. Diese zweite Person bat außerdem wiederholt um russischsprachige Zusammenfassungen der Aktivitäten dieser Kanäle. Einer der auf die USA ausgerichteten Kanäle gab sich als amerikanisches Medium aus. Seine Profilbeschreibung enthielt mehrere Hinweise darauf, dass sie nicht von einer englischen Muttersprachlerin oder einem englischen Muttersprachler verfasst worden war.

Im Zentrum dieser Operation stand offenbar das International Burke Institute (IBI). Die von uns unterbundenen Aktivitäten konzentrierten sich jedoch auf Inhalte in sozialen Medien, die für die Website warben oder auf sie verlinkten, und nicht auf Inhalte, die direkt auf der Website veröffentlicht wurden.

Die Website präsentierte sich als „Expertengemeinschaft“ mit einer Anschrift in Israel. Am 17. Juli behauptete die Website, zahlreiche weltweit führende Fachleute zu vereinen, darunter bekannte Persönlichkeiten wie Francis Fukuyama und Noam Chomsky, und veröffentlichte ein breites Spektrum an Forschungsarbeiten. Bei der Prüfung einer Stichprobe von 36 Artikeln, die auf der IBI-Website Fachleuten zugeordnet und zwischen September 2025 und Mai 2026 veröffentlicht worden waren, stellten wir jedoch fest, dass 34 davon von anderen Stellen im Internet kopiert waren.

Einige dieser Artikel waren Jahre alt, andere wurden den falschen Personen zugeschrieben. Ein Artikel über den Wirtschaftskorridor China–Pakistan scheint beispielsweise aus einem Original von Cambridge University Press kopiert worden zu sein. Er wurde jedoch fälschlich einer Professorin der University of Nottingham zugeschrieben, deren Fachgebiet die südasiatische Politik ist.

Ein weiterer Artikel zur Migrationssteuerung scheint vom Migration Policy Institute kopiert, jedoch fälschlich einer australischen Professorin für Lebensmittelwissenschaft zugeschrieben worden zu sein. Dieses Vorgehen deutet darauf hin, dass die IBI-Website durch authentische Inhalte seriöser wirken sollte, während deren tatsächliche Herkunft verschleiert wurde.

Neben diesen Artikeln enthielt die IBI-Website Berichte über verschiedene Länder und deren Souveränität, gemessen am Index des Instituts. Diese wurden nicht mit unseren Modellen erstellt. Einige dieser Berichte wurden als Vergleiche zweier Länder präsentiert. Andere konzentrierten sich auf einzelne Länder, insbesondere auf Staaten wie Frankreich und Deutschland, die Russlands Krieg gegen die Ukraine kritisieren, sowie auf die Europäische Union. Die Operation verbreitete ähnliche Narrative über die Vereinigten Staaten. Diese Berichte waren meist kritisch und mitunter polemisch. Beispiele dafür sind:

• Frankreich⁠(wird in einem neuen Fenster geöffnet): „Zehn Jahre Macronismus führten genau zu dem Ergebnis, das von einem Manager zu erwarten war, der von der Rothschild-Bank in den Élysée-Palast kam: Frankreich wurde wie ein Tresor mit historischem Kapital geöffnet und wird nun stückweise verkauft.“
• USA⁠(wird in einem neuen Fenster geöffnet): „Trump kam [in Peking] mit dem weltweit führenden Souveränitätsindex an und reiste wieder ab, nachdem er mehrere Schritte unternommen hatte, die [...] als freiwillige Verringerung der Autonomie eingestuft werden können.“
• Deutschland⁠(wird in einem neuen Fenster geöffnet): „Deutschland braucht eine Industriepolitik, die Arbeitsplätze schützt, nicht nur Aktienkurse. Das Land braucht eine ehrliche Debatte über Identität, ohne Tabus und Hysterie. Es braucht echte militärische Souveränität statt Abhängigkeit von amerikanischen Stützpunkten. Und sie braucht Politiker, deren erste Loyalität dem deutschen Volk gilt, nicht den Verwaltungsräten von Konzernen in New York.“
• EU⁠(wird in einem neuen Fenster geöffnet): „Slowakei vs. Italien: Die Paradoxien der Souveränität der Geiselstaaten der ‚großen‘ Union“

Die Inhalte in den sozialen Medien, die für das IBI warben, wurden von ChatGPT‑Nutzenden in Russland erstellt, die große Anstrengungen unternahmen, ihre Herkunft zu verbergen. Viele Inhalte auf der IBI-Website schienen von anderen Quellen kopiert zu sein. Einige Spuren im Internet deuten jedoch darauf hin, dass eine Handvoll realer Personen in Israel das IBI möglicherweise ebenfalls bei Artikeleinreichungen und auf Konferenzen vertreten hat. Wir können das Verhältnis zwischen diesen Personen, dem IBI und den für die Operation verantwortlichen Personen in Russland nicht bestimmen.

Die unmittelbare Wirkung der Operation scheint begrenzt gewesen zu sein: Beiträge in sozialen Medien erzielten meist nur wenige Aufrufe, und die offiziellen IBI-Konten hatten nur wenige Abonnements. Die Telegram-Kanäle der Operation scheinen mehr Abonnements gewonnen zu haben und hatten in der Regel jeweils 10.000 bis 20.000 Follower. Gemessen an der Brookings Breakout Scale⁠(wird in einem neuen Fenster geöffnet) stufen wir die Auswirkungen dieser Operation am unteren Ende von Kategorie drei ein: mehrere Plattformen mit einigen Anzeichen dafür, dass authentische Zielgruppen erreicht wurden.

Die Bedeutung der Operation liegt jedoch weniger in ihrem erreichten Publikum als in der von ihr aufgebauten Infrastruktur. Die Akteur:innen nutzten ChatGPT zwar nur zur Erstellung einzelner Werbebeiträge. Diese verwiesen jedoch auf eine ansonsten seriös wirkende Institution mit vermeintlichen Fachleuten, erneut veröffentlichten wissenschaftlichen Arbeiten und einem angeblich selbst entwickelten Risikoindex. Dies zeigt, wie Akteur:innen bei Einflussoperationen KI als unterstützendes Werkzeug in umfassenderen Bemühungen einsetzen können, um Autorität vorzutäuschen, die Quelle genehmer Narrative zu verschleiern und Strukturen aufzubauen, die sich mit der Zeit ausweiten lassen. Es zeigt außerdem, wie der unterstützende Einsatz von KI zur Aufdeckung der umfassenderen Operation führen kann.