Απάτη με ερωτικό δόλωμα: ροές «σφαγής χοίρων» με τη βοήθεια ΤΝ

Αυτή η μελέτη περίπτωσης δημοσιεύτηκε αρχικά στην έκθεση της OpenAI του Φεβρουαρίου 2025⁠(ανοίγει σε νέο παράθυρο).

Αποκλείσαμε μια ομάδα λογαριασμών ChatGPT που μετέφραζαν και δημιουργούσαν σύντομα σχόλια στα ιαπωνικά, τα κινεζικά και τα αγγλικά. Η δραστηριότητα αυτή φαίνεται να προερχόταν από την Καμπότζη και ήταν συμβατή με απάτη ερωτικού και επενδυτικού δολώματος (γνωστή και ως «σφαγή χοίρων»). Η Meta εντόπισε πρόσφατα σχετική δραστηριότητα⁠(ανοίγει σε νέο παράθυρο) στην πλατφόρμα της, η οποία φαινόταν να προέρχεται από ένα νεοσύστατο κέντρο απάτης στην Καμπότζη.

Το δίκτυο αυτό χρησιμοποιούσε τα μοντέλα μας για να μεταφράζει και να δημιουργεί σύντομα σχόλια. Η κύρια γλώσσα των δραστών φαίνεται να ήταν τα κινεζικά. Το παραγόμενο περιεχόμενο ήταν σε διάφορες γλώσσες, κυρίως στα ιαπωνικά και τα κινεζικά, αλλά και στα αγγλικά.

Οι δράστες χρησιμοποιούσαν τα μοντέλα μας για δύο κύριες δραστηριότητες. Πρώτον, δημιουργούσαν σχόλια τα οποία δημοσιεύονταν δημόσια σε πλατφόρμες κοινωνικής δικτύωσης, όπως το Facebook, το X και το Instagram. Κάθε λογαριασμός κοινωνικής δικτύωσης συνήθως περιλάμβανε μία ή περισσότερες φωτογραφίες προφίλ μιας νεαρής γυναίκας. Εκτιμούμε ότι τουλάχιστον ορισμένες από αυτές είχαν αντιγραφεί από πραγματικά μοντέλα ή influencer και δεν είχαν δημιουργηθεί με ΤΝ.

Τα περισσότερα σχόλια που δημιουργήθηκαν δημοσιεύτηκαν ως απαντήσεις σε αναρτήσεις πραγματικών ανθρώπων στα μέσα κοινωνικής δικτύωσης. Ορισμένες από τις αναρτήσεις στις οποίες απαντούσαν οι χειριστές ήταν μηνών ή ακόμη και ετών. Η επιχείρηση στόχευε συνήθως άνδρες των οποίων τα δημόσια προφίλ υποδήλωναν ότι ήταν άνω των 40 ετών, συχνά επαγγελματίες του ιατρικού κλάδου. Η επιχείρηση απαντούσε συχνά σε αναρτήσεις για το γκολφ, γεγονός που υποδηλώνει σκόπιμη στρατηγική στόχευσης. Περιστασιακά, οι απατεώνες δημοσίευαν περιεχόμενο για πολιτικά ζητήματα ή θέματα της επικαιρότητας.

Δεύτερον, και συχνότερα, οι χειριστές δημιουργούσαν σύντομα σχόλια που έμοιαζαν με αποσπάσματα διαδικτυακής συνομιλίας. Συνήθως μετέφραζαν σχόλια από τα κινεζικά σε μια γλώσσα-στόχο, δηλαδή στα ιαπωνικά ή τα αγγλικά, ή από τη γλώσσα-στόχο πίσω στα κινεζικά. Αυτό συνάδει με τη χρήση του μοντέλου από τους απατεώνες κυρίως για τη μετάφραση συνομιλιών που βρίσκονταν σε εξέλιξη.

Μερικές φορές, οι λογαριασμοί ζητούσαν από το μοντέλο να δημιουργήσει μια απάντηση με συγκεκριμένο ύφος, όπως αυτό μιας νεαρής γυναίκας που φλερτάρει. Ορισμένες φορές παρείχαν εκτενή βιογραφικά στοιχεία για να καθοδηγήσουν τις απαντήσεις του μοντέλου, όπως το όνομα, η εκπαίδευση, το επάγγελμα, η τοποθεσία και τα χόμπι της ψεύτικης περσόνας. Αυτά τα βιογραφικά συνήθως ανέφεραν ότι η ψεύτικη περσόνα ασχολούνταν περιστασιακά με διαδικτυακές επενδύσεις.

Οι απατεώνες φαίνεται να χρησιμοποιούσαν πολλά διαφορετικά εργαλεία και πλατφόρμες για να προσεγγίζουν τους στόχους τους. Η έρευνά μας αποκάλυψε στοιχεία ότι χρησιμοποιούσαν εργαλεία όπως τα LINE, WhatsApp, X, Facebook και Instagram, διάφορες άλλες υπηρεσίες ανταλλαγής μηνυμάτων, τη λειτουργία «Απόκρυψη email» της Apple⁠(ανοίγει σε νέο παράθυρο), καθώς και πλατφόρμες κρυπτονομισμάτων και συναλλάγματος.

Με βάση την περιορισμένη οπτική που διαθέτουμε για αυτή τη δραστηριότητα, οι απατεώνες φαίνεται να ακολουθούσαν μια κοινή ροή εργασίας, οδηγώντας τους στόχους τους από την αρχική επαφή στη δόλια επένδυση:

1. Δημόσια αλληλεπίδραση: Οι απατεώνες σχολίαζαν αναρτήσεις του στόχου στα μέσα κοινωνικής δικτύωσης. Αυτά τα σχόλια συχνά τελείωναν με μια ερώτηση, όπως «Τι πιστεύετε για το [θέμα];», πιθανότατα για να αυξηθούν οι πιθανότητες αλληλεπίδρασης. Σε λίγες περιπτώσεις σχολίαζαν πολιτικά θέματα, αλλά συχνότερα μιλούσαν για το γκολφ.

2. Πιθανή ανταλλαγή άμεσων μηνυμάτων: Στη συνέχεια, οι απατεώνες δημιουργούσαν σύντομα σχόλια σε ύφος συνομιλίας. Παρότι δεν έχουμε πλήρη εικόνα για το πώς και πού χρησιμοποιήθηκαν, τα σχόλια παρέπεμπαν σε μια κατάσταση όπου ο απατεώνας και ο στόχος άρχιζαν να ανταλλάσσουν άμεσα μηνύματα.

3. Ασφαλής ανταλλαγή μηνυμάτων: Πολύ σύντομα, συχνά μέσα σε λίγες ημέρες, οι απατεώνες δημιουργούσαν μηνύματα που πρότειναν τη μετάβαση σε μια ασφαλέστερη εφαρμογή ανταλλαγής μηνυμάτων. Μερικές φορές το δικαιολογούσαν λέγοντας ότι δεν εμπιστεύονταν τα μέσα κοινωνικής δικτύωσης. Άλλοτε πρόβαλλαν μια πρακτική δικαιολογία, όπως ότι επρόκειτο να πάνε κάπου χωρίς πρόσβαση σε αυτά.

4. Ερωτική προσέγγιση: Οι απατεώνες έγραφαν και μετέφραζαν ολοένα πιο τρυφερά και προσωπικά μηνύματα. Αν οι στόχοι ζητούσαν φωτογραφίες της «γυναίκας» με την οποία συνομιλούσαν, οι απατεώνες έβρισκαν δικαιολογίες.

5. Οικονομική προσέγγιση: Οι απατεώνες έγραφαν και μετέφραζαν μηνύματα στα οποία καυχιόνταν ότι είχαν κερδίσει πολλά χρήματα από διαδικτυακές επενδύσεις σε συνάλλαγμα, κρυπτονομίσματα ή χρυσό. Συχνά το παρουσίαζαν ως αποτέλεσμα της εφαρμογής των συμβουλών ενός συγγενή που εργαζόταν στον χρηματοοικονομικό κλάδο. Ο απατεώνας παρότρυνε τον στόχο να αρχίσει να επενδύει με τον ίδιο τρόπο και προσφερόταν να τον καθοδηγήσει στη διαδικασία.

6. Εξαπάτηση: Οι απατεώνες έγραφαν και μετέφραζαν μηνύματα προσπαθώντας να πείσουν το θύμα να μεταφέρει χρήματα σε μια εφαρμογή συναλλαγών και το ενθάρρυναν υπερβάλλοντας για τα κέρδη που αποκόμιζε. Κάθε φορά που το θύμα προσπαθούσε να αποσύρει τα «κέρδη» του, ο απατεώνας πρόβαλλε κάποια δικαιολογία, όπως ότι έπρεπε να καταβληθεί ένα τέλος.

Αυτό το μοτίβο δραστηριότητας συνάδει με δημόσια διαθέσιμες αναφορές⁠(ανοίγει σε νέο παράθυρο) σχετικά με τον τρόπο με τον οποίο λειτουργούν συνήθως τέτοιες απάτες.

Η δραστηριότητα αυτή φαίνεται να περιλάμβανε πολλές αποτυχημένες απόπειρες και αδιέξοδα. Ορισμένες από τις συνομιλίες που οι απατεώνες επεξεργάστηκαν μέσω των μοντέλων μας έληξαν με τον στόχο να καταγγέλλει τη δραστηριότητα ως απάτη ή να ζητά από τον απατεώνα να τον αφήσει ήσυχο. Εντοπίσαμε επίσης αναρτήσεις των απατεώνων στα μέσα κοινωνικής δικτύωσης που δεν είχαν καμία απολύτως ανταπόκριση.

Ωστόσο, ορισμένες συνομιλίες αναφέρονταν σε ποσά χιλιάδων δολαρίων ή ισοδύναμα ποσά σε άλλα νομίσματα ως ύψος μεμονωμένων συναλλαγών. Λόγω του τρόπου με τον οποίο αυτοί οι χειριστές χρησιμοποιούσαν τα μοντέλα μας, δεν γνωρίζουμε αν πραγματοποιήθηκαν αυτές οι οικονομικές συναλλαγές. Ωστόσο, οι αναφορές στις συνομιλίες υποδηλώνουν ότι, τουλάχιστον σε ορισμένες περιπτώσεις, οι απατεώνες κατάφεραν να εξαπατήσουν οικονομικά τους στόχους τους.

Οι πολιτικές της OpenAI απαγορεύουν αυστηρά τη χρήση αποτελεσμάτων των εργαλείων μας για απάτες ή άλλες μορφές εξαπάτησης. Δεσμευόμαστε να συνεργαζόμαστε με άλλους φορείς του κλάδου και με τις αρχές, ώστε να κατανοούμε πώς χρησιμοποιείται η ΤΝ σε κακόβουλες δραστηριότητες και να διακόπτουμε ενεργά τις απάτες που καταχρώνται τις υπηρεσίες μας. Στο πλαίσιο αυτής της δέσμευσης, κοινοποιήσαμε πληροφορίες για τα δίκτυα απάτης που εξαρθρώσαμε σε άλλους φορείς του κλάδου και στις αρμόδιες αρχές.