Eine kriminelle Betrugsoperation in Kambodscha unterbinden

Anfang dieses Jahres unterbanden wir eine in Kambodscha ansässige Betrugsoperation, die ChatGPT für Anlage-, Liebes- und Glücksspielbetrug sowie für Betrugsmaschen einsetzte, bei denen sich Beteiligte als Strafverfolgungsbehörden ausgaben. Wir begannen mit der Untersuchung dieser Aktivitäten nach einem Hinweis von WhatsApp. Seitdem haben wir weitere Hinweise auf Bedrohungen an Branchenpartner und zuständige Behörden weitergegeben.

Die Operation verdeutlicht eine wichtige Realität moderner Betrugsnetzwerke: Organisierte kriminelle Gruppen beschränken sich selten auf eine einzige Betrugsmasche. Stattdessen setzen sie opportunistisch auf die Geschichten, Rollen und Taktiken, mit denen sie Opfer ihrer Einschätzung nach am wirksamsten täuschen können. Bei unseren Untersuchungen beobachten wir regelmäßig, dass Beteiligte zwischen verschiedenen Betrugsmaschen wechseln oder innerhalb einer Operation mehrere Methoden kombinieren.

Einige Personen im Netzwerk erstellten zudem Inhalte, die auf Verbindungen zu Menschenhandel und erzwungener Beteiligung an Straftaten hindeuteten. Diese Beobachtungen decken sich mit umfangreichen öffentlichen Berichten⁠(wird in einem neuen Fenster geöffnet), die beschreiben⁠(wird in einem neuen Fenster geöffnet), wie organisierte kriminelle Gruppen in Südostasien Arbeitskräfte mit dem Versprechen regulärer Beschäftigung anwerben und sie anschließend durch Schuldknechtschaft und Zwang festhalten. Wir können die Umstände der einzelnen Beteiligten nicht unabhängig feststellen. Die Aktivitäten führen jedoch vor Augen, dass auch Menschen, die Betrug begehen, selbst Opfer von Ausbeutung sein können.

Wir sperrten ein koordiniertes Netzwerk von ChatGPT‑Konten, das sehr wahrscheinlich aus Kambodscha stammte und vermutlich in oder um Poipet aktiv war. Die Stadt in der Provinz Banteay Meanchey wurde in öffentlichen Berichten⁠(wird in einem neuen Fenster geöffnet) wiederholt⁠(wird in einem neuen Fenster geöffnet) mit Anlagen für Onlinebetrug und Menschenhandel in Verbindung gebracht⁠(wird in einem neuen Fenster geöffnet).

Das Netzwerk nutzte unsere Modelle, um falsche Onlineidentitäten zu erstellen und zu betreiben, Nachrichten an potenzielle Betrugsopfer zu verfassen und zu übersetzen, Werbeinhalte für betrügerische Angebote zu erstellen und das Tagesgeschäft zu unterstützen.

Wie bei früheren⁠(wird in einem neuen Fenster geöffnet) Betrugsnetzwerken, die wir unterbanden, nutzte ein Teil der Personen ChatGPT auch für Verwaltungsaufgaben. Dazu gehörten interne Mitteilungen, die Übersetzung von Nachrichten zwischen Beschäftigten sowie die Dokumentation von Angelegenheiten, die offenbar mit Personalgewinnung, Aufenthaltsstatus, Arbeitsbedingungen und Disziplinarmaßnahmen zusammenhingen.

Das Netzwerk betrieb gleichzeitig mehrere Arten von Betrug und kombinierte dabei häufig Elemente verschiedener Maschen. So bauten Beteiligte mit erfundenen Identitäten auf Datingplattformen Vertrauen auf, bevor sie betrügerische Anlagemöglichkeiten mit Kryptowährungen und Gold-Kassageschäften anboten. Andere Personen führten unter erfundenen Identitäten lange romantische Gespräche mit ihren Zielpersonen, gaben sich als Mitarbeitende von Onlineglücksspiel-Plattformen aus und versprachen falsche Boni und Gewinne oder traten als Strafverfolgungsbehörden auf und forderten wegen angeblich schwerer Straftaten Bußgelder.

Obwohl sich die Geschichten unterschieden, folgten die Personen im gesamten Netzwerk durchgehend demselben grundlegenden Täuschungsmuster. Sie erstellten und betrieben beispielsweise falsche Datingprofile und erfundene Anlagefachleute und gaben sich in betrügerischer Absicht als Strafverfolgungsbehörden aus. Außerdem erzeugten sie Bilder gefälschter Dokumente, darunter Reisepässe, amtliche Schreiben, Aktienkaufbestätigungen und Benutzeroberflächen von Glücksspielplattformen.

Wie wir in⁠(wird in einem neuen Fenster geöffnet) früheren⁠(wird in einem neuen Fenster geöffnet) Berichten⁠(wird in einem neuen Fenster geöffnet) erläutert haben, folgten die Betrüger bei der Interaktion mit ihren Zielpersonen einem verbreiteten Muster: Kontaktaufnahme, Emotionalisierung und Geldforderung.

• Kontaktaufnahme: Das Netzwerk nutzte ChatGPT, um Gespräche mit Zielpersonen auf Messagingplattformen wie WhatsApp und Telegram zu übersetzen und zu erstellen. Die Betrüger erstellten außerdem Inhalte für soziale Medien und recherchierten Material für Datingprofile, um ihre falschen Identitäten glaubwürdig erscheinen zu lassen.

• Emotionalisierung: Die Nachrichten der Betrüger setzten häufig auf emotionalen Druck und vertrauensbildende Methoden. Dazu gehörten Versprechen garantierter Renditen und „risikofreier“ Anlagen, romantische Formulierungen, die Aufforderung, Gespräche geheim zu halten, sowie dringende Handlungsaufforderungen, bevor erfundene Boni angeblich verfielen.

• Geldforderung: Die Betrüger wiesen ihre Opfer an, Einzahlungen zu leisten, um angebliche Prämien freizuschalten, Aktivierungsgebühren zu bezahlen und erfundene Bußgelder zu begleichen. Anschließend sollten sie Screenshots der Überweisungen oder Kontodaten als Zahlungsnachweis vorlegen.

Neben Betrugsinhalten erstellten einige Personen Inhalte, die auf eine Beteiligung an anderen regelwidrigen Aktivitäten hindeuteten, die wir erkennen und unterbinden, etwa Menschenhandel oder Zwangsarbeit. Dazu gehörten Anzeigen in sozialen Medien für Stellen als „Chatter“ in Poipet, die Flüge, Unterkunft, Verpflegung, Visa und Arbeitserlaubnisse versprachen.

Andere Aktivitäten schienen mit der Verwaltung der Beschäftigten innerhalb der Operation zusammenzuhängen. Die Personen führten Aufzeichnungen über Schulden von Beschäftigten, Gehaltsabzüge, Disziplinarstrafen und Kreditrückzahlungen. Zudem übersetzten sie Gespräche über Aufenthaltsstatus, Arbeitserlaubnisse, überzogene Visa und Anreize für die Personalgewinnung.

Einige Gespräche erwähnten zudem mutmaßliche Gefangenschaft, Fluchtversuche und eine mögliche strafrechtliche Haftung von Menschen, die verschleppt und zur Arbeit in Betrugsoperationen gezwungen worden waren. Aus diesen Gesprächen lassen sich die Umstände einzelner Personen nicht feststellen. Sie decken sich jedoch mit umfangreichen öffentlichen Berichten⁠(wird in einem neuen Fenster geöffnet), die die Aktivitäten organisierter krimineller Gruppen in Südostasien beschreiben⁠(wird in einem neuen Fenster geöffnet).

Wir sperrten die mit dieser Operation verbundenen ChatGPT‑Konten, gaben relevante Indikatoren an Branchenpartner und zuständige Behörden weiter und erschwerten es den Beteiligten, erneut auf unsere Produkte und Dienste zuzugreifen.

Das vollständige Ausmaß der finanziellen Verluste im Zusammenhang mit dem Netzwerk ist unbekannt. Den eigenen Mitteilungen der Betrüger zufolge könnte die Operation jedoch bei mehreren Betrugsmaschen mit Hunderten von Zielpersonen interagiert haben. In Gesprächen wurde erwähnt, dass einzelne Opfer Tausende Dollar verloren hätten. Wir können diese Behauptungen jedoch nicht unabhängig bestätigen.

Allgemeiner bestätigt dieser Fall zwei Entwicklungen. Erstens können organisierte Betrugsnetzwerke stark diversifiziert sein und gleichzeitig mehrere Betrugsmaschen betreiben, statt sich auf eine einzige zu beschränken. Zweitens sind die Grenzen zwischen Onlinebetrug, organisierter Kriminalität und Menschenhandel oft fließend. Um solche Aktivitäten wirksam zu unterbinden, müssen daher nicht nur die unmittelbar gegen Opfer gerichteten Betrugshandlungen bekämpft werden, sondern auch die kriminellen Organisationen, die sie steuern und davon profitieren.