Aufgabenbetrug: KI-gestützte Jobs mit gefälschten Bewertungen

Diese Fallstudie wurde ursprünglich im Bericht vom Februar 2025⁠(wird in einem neuen Fenster geöffnet) von OpenAI veröffentlicht.

Wir sperrten eine Gruppe von ChatGPT‑Konten, die kurze Kommentare zwischen Urdu und Englisch übersetzten. Das entsprach einem Betrug mit „Aufgaben⁠(wird in einem neuen Fenster geöffnet)“, bei dem den Opfern ein hoch bezahlter Job angeboten wird. Bevor sie jedoch auf ihre vermeintlichen „Einnahmen“ zugreifen können, müssen sie eigenes Geld in das System einzahlen. Diese Aktivität ging offenbar von Kambodscha aus. Bei solchen Betrugsmaschen verlieren die Opfer in der Regel sowohl die „Einnahmen“ als auch ihr eigenes Geld. Wir begannen nach einem Hinweis von Meta mit der Untersuchung dieser Aktivität.

Dieses Netzwerk nutzte unsere Modelle hauptsächlich, um kurze Kommentare zwischen Urdu und Englisch zu übersetzen, wie sie für Chats zwischen Betrügern und ihren Opfern typisch sind. Wir fanden Hinweise auf Kommunikation über Telegram, offenbar die wichtigste Plattform der Beteiligten, sowie über WhatsApp, SMS und verschiedene Jobforen und Gruppen, in denen Stellenangebote veröffentlicht werden konnten.

Die Betrüger gaben sich offenbar hauptsächlich als zwei Arten von Personen aus. Eine davon war die „Personalvermittlung“: Mit unaufgeforderten Nachrichten und Anzeigen warb sie für gut bezahlte Fernarbeit. Die andere Rolle, die deutlich mehr Aktivität erzeugte, war die „Betreuung“. Sie knüpfte an die Kontaktaufnahme der „Personalvermittlung“ an und erklärte der Zielperson, wie sie ihre Arbeit erledigen sollte. Die Betreuung verwies sehr häufig auf Schulungen über Telegram.

Gelegentlich nutzten die Betrüger unsere Modelle auch, um Texte für Websites Korrektur lesen zu lassen. Diese Websites ahmten offenbar die Namen und das Erscheinungsbild von Luxus-, Mode- und Reisemarken nach. Die Personen in der Rolle der „Betreuung“ behaupteten, im Auftrag dieser Marken Personal anzuwerben. Das deutet darauf hin, dass die Websites den Betrug glaubwürdiger erscheinen lassen sollten.

Nach unseren begrenzten Einblicken folgten die Betrüger offenbar einem üblichen Ablauf, um ihre Zielpersonen vom ersten Kontakt in die Betrugsmasche zu führen:

1. Stellenanzeige: Den Prompts und generierten Texten zufolge begannen die Betrüger offenbar damit, Stellenangebote in verschiedenen Onlineforen zu veröffentlichen. Bei der Anwerbung ging es üblicherweise um Fernarbeit. Offenbar wurden dabei für einen geringen Arbeitsaufwand vergleichsweise hohe Vergütungen angeboten, beispielsweise 300 US-Dollar pro Tag zuzüglich Boni für wenige Arbeitsstunden. Diese Angebote wurden normalerweise von Personen in der Rolle der „Personalvermittlung“ veröffentlicht.

2. Anwerben: Anschließend ließen die Betrüger Kommentare in der Rolle der „Betreuung“ erstellen, um potenzielle Beschäftigte über vermutlich verschiedene Messaging-Apps zu kontaktieren. Dabei behaupteten sie, mit der „Personalvermittlung“ zusammenzuarbeiten. Die „Betreuung“ gab vor, für eine der Luxusmarken zu arbeiten, für die die Gruppe eine Website eingerichtet hatte. Die Aufgabe bestand angeblich darin, auf den Websites dieser Luxusmarken Fünf-Sterne-Bewertungen abzugeben, um deren Kundenbewertungen zu verbessern.

3. Vertrauen schaffen: In generierten Texten versicherten die Betrüger ihren Zielpersonen häufig, die Arbeit sei seriös, da sie im Auftrag eines traditionsreichen Unternehmens erfolge. Äußerte die Zielperson Bedenken, behauptete der Betrüger, selbst schon einmal betrogen worden zu sein, dieses Angebot sei jedoch sicher.

4. Schulen: Zeigte die Zielperson weiterhin Interesse, bot die „Betreuung“ den generierten Texten zufolge eine Schulung an, meist über Telegram. Die Zielperson erhielt zunächst Zugang zu einem „Schulungskonto“, über das sie täglich 25 bis 35 Bewertungsaufgaben erledigen sollte. Auf dem „Schulungskonto“ stiegen die „Einnahmen“ der Zielperson rasch an.

5. Begeistern: Setzte die Zielperson die Schulung fort, wurde ihr den generierten Texten zufolge häufig eine „besondere“ oder „ultimative“ Bewertungsaufgabe mit einem höheren Bonus angeboten. Die „Betreuung“ betonte, wie selten diese Gelegenheit sei und wie viel Glück die Zielperson habe.

6. „Aktivierungsgebühr“: Sobald die „Einnahmen“ der Zielperson eine bestimmte Höhe erreicht hatten, erklärte die „Betreuung“ ihr laut den generierten Texten, sie müsse eine „Aktivierungsgebühr“ zahlen, um ihre „Einnahmen“ abheben zu können. Falls nötig, drängte der Betrüger sie dazu, sich das Geld von Freunden oder der Familie zu leihen.

7. Unter Druck setzen: Die generierten Texte zeigten, dass die Betrüger zunehmend aggressiv wurden, wenn eine Zielperson vor der Zahlung zurückschreckte. Sie verglichen sie mit anderen, effizienteren Arbeitskräften und behaupteten, sie verliere ihre Einnahmen, wenn sie nicht einzahle.

8. Ausreden finden: Deuteten die generierten Texte darauf hin, dass die Zielperson Geld eingezahlt hatte, erfanden die Betrüger immer neue Gründe, warum sie ihre Einnahmen nicht abheben könne. Häufig behaupteten sie, sie müsse noch mehr einzahlen.

Einige Gespräche zeigten, dass die Zielpersonen sehr skeptisch waren. Manche der von den Betrügern erstellten Kommentare waren aus Sicht der Betreuung formuliert und fragten, warum die Zielperson keine Nachrichten mehr schrieb. Dies deutet darauf hin, dass die Betrugsmasche insgesamt wahrscheinlich nur selten erfolgreich war. Einige Gespräche und Onlineberichte deuten jedoch darauf hin, dass zumindest manche Opfer tatsächlich Geld in diese Betrugsmaschen einzahlten. Aktivitäten außerhalb unserer Tools können wir nicht unabhängig überprüfen.

Die Richtlinien von OpenAI untersagen ausdrücklich, Ergebnisse unserer Tools für Betrug oder Betrugsmaschen zu verwenden. Wir arbeiten eng mit anderen Unternehmen der Branche und Behörden zusammen, um zu verstehen, wie KI missbräuchliches Verhalten beeinflusst, und um Betrugsaktivitäten, die unsere Dienste missbrauchen, aktiv zu unterbinden. Im Einklang mit diesem Engagement haben wir Informationen über die von uns unterbundenen Betrugsnetzwerke an andere Unternehmen der Branche und die zuständigen Behörden weitergegeben, um die gemeinsame Sicherheit zu erhöhen.