Operation „False Witness“: Gefälschter Dienst zur Geldrückholung gibt sich als Behörde aus

Diese Fallstudie erschien ursprünglich im Bericht von OpenAI vom Februar 2026⁠(wird in einem neuen Fenster geöffnet) über die Bekämpfung des Missbrauchs von KI.

Wir haben eine Gruppe von ChatGPT‑Konten gesperrt, über die unsere Modelle genutzt wurden, um sich als fiktive Anwaltskanzleien, real existierende Personen aus der Anwaltschaft und US-Strafverfolgungsbehörden auszugeben. Ziel war es, Betrugsopfer mit dem Versprechen einer Geldrückholung erneut zu betrügen. Diese Aktivitäten gingen sehr wahrscheinlich von Kambodscha aus und passen zu aktuellen öffentlichen Berichten über chinesisch geführte kriminelle Betrugsoperationen in dem Land.

Über die Konten wurde ChatGPT genutzt, um eine betrügerische Operation zur angeblichen Rückholung verlorener Gelder zu unterstützen. Sie stützte sich auf gefälschte Anwaltskanzleien und die vorgetäuschte Identität vertrauenswürdiger Personen und Stellen, etwa real existierender Mitglieder der Anwaltschaft und des Internet Crime Complaint Center (IC3) des FBI.

1. Kontaktaufnahme: Die Betrugsgruppe nutzte ChatGPT, um Inhalte zu erstellen, die angeblich von mindestens sechs gefälschten Anwaltskanzleien stammten. Ein Teil dieser Inhalte wurde anschließend über Social-Media-Konten und Onlineanzeigen veröffentlicht, die fiktive Dienste zur Rückholung von Betrugsverlusten bewarben. Mehrere öffentlich zugängliche Hinweise deuteten darauf hin, dass die Kanzleien betrügerisch waren: Es fehlten Nachweise für eine Zulassung durch die zuständige Anwaltskammer, die verwendeten Webdomains passten nicht zu den Kanzleien, die angegebenen Anschriften schienen nicht zu existieren, und zur Kontaktaufnahme mit der angeblichen Rechtsvertretung wurde auf Messaging-Apps verwiesen.

2. Vertrauen gewinnen: Die Betrugsgruppe versuchte, das Vertrauen ihrer Zielpersonen zu gewinnen. Dazu ließ sie Kommentare generieren, die den Ton und die Professionalität einer auf die Rückholung von Betrugsverlusten spezialisierten Anwaltschaft nachahmen sollten. Sie generierte Inhalte, die angeblich von Personen mit anwaltlicher Qualifikation stammten. Wir fanden einige dieser vorgetäuschten Identitäten auf verschiedenen Websites. Ihre Profilbilder waren offenbar aus sozialen Medien übernommen oder mit KI erstellt worden. In einigen Fällen wurden dieselben „anwaltlichen“ Identitäten für mehrere vermeintliche Kanzleien verwendet. Eine der von uns identifizierten Websites gab sich als IC3 aus.

Die auf diesen verschiedenen Betrugswebsites veröffentlichten Kontaktdaten verwiesen auf private Messaging-Apps wie Telegram. In Nachrichten an Zielpersonen, die mithilfe von ChatGPT verfasst wurden, behauptete die Betrugsgruppe fälschlich, unter Aufsicht des International Criminal Court zu arbeiten. Sie erklärte, dass erst dann Gebühren anfielen, wenn sämtliche Gelder eines Opfers erfolgreich zurückgeholt worden seien.

3. Geld abschöpfen: Die Betrugsgruppe versuchte, Zielpersonen Geld abzunehmen, indem sie schon vor einer „Rückholung“ Gebühren und Einzahlungen verlangte. So sollten Zielpersonen eine „Servicegebühr“ von 15 % zahlen, bevor sie angeblich zurückgeholte Gelder erhalten würden. Außerdem wurden Einzahlungen zur Aktivierung eines Kontos verlangt und „Beratungsgebühren“ erhoben. Die mithilfe von ChatGPT verfassten Nachrichten der Betrugsgruppe wiesen Zielpersonen unter anderem an, Zahlungen in Kryptowährungen zu leisten und Screenshots der Transaktionsbestätigungen als Zahlungsnachweis vorzulegen.

Die Betrugsgruppe nutzte unsere Modelle für mehrere Arbeitsschritte, etwa zum Erstellen von Werbeinhalten für soziale Medien und von Nachrichten zur unaufgeforderten Kontaktaufnahme mit Zielpersonen. Am häufigsten nutzte die Betrugsgruppe ChatGPT jedoch, um Nachrichten an und von Zielpersonen in privaten Messaging-Apps zu übersetzen. Dazu gehörten auch Anfragen, eine Antwort auf „amerikanischem Englisch“ oder im Stil einer anwaltlichen Nachricht zu verfassen.

Über einen Teil der Betrugskonten wurden unsere Modelle auch genutzt, um täuschende Materialien zu erstellen, die die Glaubwürdigkeit erhöhen sollten. Dazu gehörten gefälschte Nachweise einer anwaltlichen Zulassung und gefälschte Mitgliedsausweise von Anwaltskammern sowie fingierte Vertraulichkeitsvereinbarungen, die Opfer davon abhalten sollten, sich Hilfe von außen zu holen.

Bei der Bewertung der Auswirkungen ist Vorsicht geboten, da die Eingaben der Betrugsgruppe selbst eine der wichtigsten Belegquellen sind. Diese Eingaben deuten darauf hin, dass die Betrugsgruppe einzelne Opfer möglicherweise um Tausende US-Dollar gebracht hat. Wir können diese Angaben jedoch nicht unabhängig überprüfen. Das FBI und mindestens eine Anwaltskanzlei, deren Identität vorgetäuscht wurde, haben öffentlich vor dieser Betrugsmasche gewarnt. FBI-Verantwortliche warnten, dass die Operation auf besonders gefährdete Menschen abzielt, insbesondere auf ältere. Dabei nutzt sie die emotionale Lage von Betrugsopfern und deren Wunsch aus, verlorene Gelder schnell zurückzuerhalten.

Die Richtlinien von OpenAI verbieten es strikt, Ergebnisse unserer Tools für Betrug zu verwenden. Wir arbeiten entschlossen mit anderen Unternehmen der Branche und Behörden zusammen, um zu verstehen, wie KI das Vorgehen böswilliger Akteure beeinflusst, und um Betrugsaktivitäten, bei denen unsere Dienste missbraucht werden, aktiv zu unterbinden.