Betrugsoperationen: Netzwerke für Onlinebetrug

Diese Fallstudie wurde ursprünglich im Bericht vom Oktober 2025⁠(wird in einem neuen Fenster geöffnet) von OpenAI veröffentlicht.

Netzwerke, die wahrscheinlich aus Kambodscha, Myanmar und Nigeria stammen und ChatGPT offenbar für Versuche missbrauchen, Menschen online zu betrügen.

Wir setzen uns dafür ein, Versuche zu erkennen, zu verhindern und zu unterbinden, bei denen unsere Modelle für schädliche Zwecke missbraucht werden. Dazu gehören Betrugsversuche. Wir erkennen und sperren böswillige Akteure, die unsere Modelle missbrauchen wollen, um Menschen zu täuschen und zu betrügen. In den vergangenen drei Monaten haben wir Betrugsnetzwerke unterbunden, die wahrscheinlich aus Kambodscha, Myanmar und Nigeria stammten. Bei der Untersuchung dieser Missbrauchsmuster haben wir zudem viele Menschen beobachtet, die unsere Modelle nutzen, um Betrugsversuche zu erkennen. Dies zeigt, welche Rolle KI bei der Betrugsbekämpfung spielen kann. Dieser Bericht behandelt beide Anwendungsfälle.

Der Missbrauch unserer Modelle zur Unterstützung von Betrugsversuchen reicht von einzelnen Tätern bis hin zu groß angelegten, dauerhaften Operationen, die wahrscheinlich mit organisierten kriminellen Gruppen in Verbindung stehen. Unabhängig von Herkunft und genauer Vorgehensweise folgen die von uns unterbundenen Betrugsaktivitäten meist einem gemeinsamen Muster: dem „Ping“ (unaufgeforderte Kontaktaufnahme), dem „Zing“ (Begeisterung oder Panik auslösen) und dem „Sting“ (Geld oder wertvolle Informationen erlangen).

Diese Betrüger verbreiten zunächst Inhalte über Nachrichtendienste und im Internet, ob KI-generiert oder nicht, unter anderem durch Werbung in sozialen Medien. Anschließend versuchen sie, bei allen, die antworten, entweder Begeisterung für eine lukrative Gelegenheit oder Angst vor einem unmittelbar drohenden finanziellen Verlust auszulösen. Diese Emotion nutzen sie, um die Zielperson zur Herausgabe von Geld oder vertraulichen Informationen zu bewegen.

Wir haben auch viele Fälle beobachtet, in denen unsere Modelle wahrscheinlich dazu beigetragen haben, Menschen vor Betrug zu schützen. Wir sehen jeden Monat millionenfach Hinweise darauf, dass Menschen ChatGPT nutzen, um Onlinebetrug zu erkennen und zu vermeiden. Bei jeder in diesem Bericht behandelten Betrugsoperation haben wir beobachtet, wie das Modell Menschen half, den Betrug richtig zu erkennen, und ihnen geeignete Schutzmaßnahmen empfahl. Nach unserer aktuellen Schätzung wird ChatGPT bis zu dreimal häufiger zum Erkennen von Betrugsversuchen eingesetzt als für deren Durchführung.

Beispiel: Eine ermittelnde Person bei OpenAI fügt einen Screenshot einer erhaltenen betrügerischen SMS in ChatGPT ein und erkennt sie mithilfe des Modells erfolgreich als Betrugsversuch. In diesem Fall gaben sich die Angreifer als Personalvermittler von TikTok aus.

Seit unserem letzten Bericht haben wir unsere Fähigkeit zur Erkennung und Unterbindung von Betrugsversuchen weiter verbessert. Wir haben weitere Betrugsnetzwerke unterbunden, die offenbar aus Kambodscha, Myanmar und Nigeria stammten. Zusammen mit unseren früheren Maßnahmen ermöglichen uns diese Stilllegungen, neue Trends über mehrere Betrugsoperationen aus verschiedenen Ländern hinweg zu erkennen.

Bei den meisten von uns unterbundenen Betrugsaktivitäten wurde KI in bestehende Betrugsmaschen eingebunden, statt neue, auf KI ausgerichtete Maschen zu entwickeln. Alle Betrugsoperationen, die wir in diesem Jahr erkannt und gesperrt haben, nutzten KI vor allem, um ihre Aktivitäten auszuweiten und effizienter zu gestalten. Typischerweise nutzten sie unsere Modelle für Übersetzungen, zum Verfassen von Nachrichten und zum Erstellen von Inhalten für soziale Medien.

So haben wir kürzlich Betrugsoperationen gesperrt, die wahrscheinlich aus Kambodscha und Nigeria stammten, sich als „Investmentfirmen“ ausgaben und Opfer in mehreren Ländern zu betrügen versuchten. Die Betrüger erstellten Websites und Onlineanzeigen, um für die fingierten Firmen zu werben. Über mutmaßlich gefälschte Konten in sozialen Medien, die sich als Handelsexperten ausgaben, luden sie Menschen in private Chatgruppen ein. Mit dem Versprechen lukrativer und risikofreier Verdienstmöglichkeiten versuchten die Angreifer anschließend, potenzielle Opfer zu Zahlungen auf fingierten Handelsplattformen zu verleiten. Bei allen Betrugsmaschen nutzten die Betrüger unsere Modelle hauptsächlich, um Korrespondenz zu erstellen und zu übersetzen, Inhalte für ihre Websites und Social-Media-Konten zu verfassen und einfache Recherchen durchzuführen.

In einem anderen Fall sperrten wir ein höchstwahrscheinlich in Myanmar ansässiges Betrugszentrum, das unsere Modelle sowohl zur Erstellung von Inhalten für seine Betrugsmaschen als auch für alltägliche geschäftliche Aufgaben nutzte. Dazu gehörten die Organisation von Zeitplänen, das Verfassen interner Mitteilungen, die Zuteilung von Arbeitsplätzen und Schlafplätzen sowie die Verwaltung von Finanzkonten. Einige Betreiber erkundigten sich nach den strafrechtlichen Folgen für Menschen, die bei Onlinebetrug ertappt werden.

Nicht alle von uns gestoppten Betrüger nutzten unsere Modelle auf dieselbe Weise oder mit derselben Komplexität. Die meisten Interaktionen der Betrüger mit ChatGPT betrafen relativ einfache Aufgaben wie Übersetzungen. Einige Betrugsoperationen waren jedoch ehrgeiziger und aufwendiger.

So nutzte eine von uns unterbundene Betrugsoperation, die wahrscheinlich aus Kambodscha stammte, unsere Modelle, um ausführliche Biografien für fingierte Anlageexperten und erfundene Beschäftigte vorgetäuschter Handelsfirmen zu erstellen. Anschließend ließen die Betrüger ChatGPT Social-Media-Nachrichten im Stil dieser erfundenen Personen verfassen. Häufig gaben die Angreifer Nachrichten in unser Modell ein, die sie offenbar von ihren Zielpersonen erhalten hatten, und baten das Modell, das Gespräch in der Rolle der erfundenen Person fortzusetzen.

Eine zweite Betrugsoperation, die wahrscheinlich ebenfalls aus Kambodscha stammte, nutzte unsere Modelle zunächst zur Erstellung unaufgeforderter SMS, die massenhaft an Telefonnummern in den USA gesendet wurden. Eine davon wurde an eine ermittelnde Person bei OpenAI gesendet, ähnlich wie in dem Fall, über den wir im Juni berichteten. Diese SMS enthielten Einladungen zu später gesperrten WhatsApp-Gruppen, deren Namen dem einer seriösen Investmentfirma ähnelten.

Aus einer Reihe von WhatsApp-Nachrichten an die ermittelnde Person bei OpenAI geht hervor: Trat eine potenzielle Zielperson einer dieser Gruppen bei, sah sie schon bald eine „Unterhaltung“ zwischen einem halben Dutzend verschiedener Konten, in der es ausschließlich um Geldanlagen ging. Eines dieser Konten gab sich als „Anlageexperte“ aus, die übrigen als Anleger mit unterschiedlich viel Selbstvertrauen und Erfahrung. Die Betrüger hatten die gesamte Unterhaltung erstellt und in einem einzigen Block aus dem Chinesischen übersetzt, vermutlich um den Eindruck einer lebhaften Gruppe engagierter und erfolgreicher Händler zu erwecken. Schließlich schlug der „Anlageexperte“ der Zielperson vor, ebenfalls zu investieren.

Unabhängig davon bat eine höchstwahrscheinlich aus Nigeria stammende Anlagebetrugsoperation das Modell um schrittweise Anleitungen: wie sich über Werbung in sozialen Medien wohlhabende Menschen in Lateinamerika erreichen, der eigene Standort verschleiern und Einschränkungen der Social-Media-Plattformen umgehen ließen. Dazu verwiesen die Betreiber das Modell auf die öffentlichen Nutzungsbedingungen einer Plattform und baten es, geplante Werbeinhalte auf deren Einhaltung zu prüfen.

Betrüger, insbesondere große Betrugszentren, sind hartnäckig. Sehr häufig reagieren sie auf Gegenmaßnahmen, indem sie versuchen, ihre regelwidrigen Aktivitäten wieder aufzunehmen. Dabei ändern sie einzelne Verhaltensweisen, vermutlich um einer erneuten Erkennung zu entgehen. Deshalb ist es wichtig, branchenweit Erkenntnisse über ihre sich wandelnden Aktivitäten auszutauschen. So teilten OpenAI und Meta jeweils Informationen über Angreifer, die zu weiteren Ermittlungen und Maßnahmen beitrugen.

Möglicherweise als Reaktion auf Gegenmaßnahmen oder auf breitere Onlinediskussionen über Anzeichen für den Einsatz von KI haben Betrüger versucht, ihre KI-Nutzung in Onlineinhalten und in der Kommunikation mit Zielpersonen zu verschleiern. So wiesen Betrugsoperationen, die wahrscheinlich aus Kambodscha stammten, das Modell an, Gedankenstriche aus den Modellergebnissen zu entfernen.

In einem Fall versuchten die Betrüger, eine groß angelegte Sperrung ihrer Social-Media-Ressourcen mit einer erfundenen Begründung für die Sperren zu erklären. Dies betraf das oben beschriebene, wahrscheinlich aus Kambodscha stammende Betrugszentrum, das per SMS und WhatsApp operierte. Nachdem WhatsApp mit der Operation verbundene „Investmentgruppen“ gesperrt hatte, erstellten die Betreiber Nachrichten, in denen sie behaupteten, ein Wettbewerber habe die Gruppen fälschlich gemeldet. Damit wollten sie die Sperren vermutlich herunterspielen.

Screenshot einer WhatsApp-Nachricht, die die mit Kambodscha verbundene Betrugsoperation nach der Sperrung durch WhatsApp an eine ermittelnde Person bei OpenAI sandte.