Επιχειρήσεις απάτης: Δίκτυα διαδικτυακής απάτης

Αυτή η μελέτη περίπτωσης δημοσιεύτηκε αρχικά στην έκθεση της OpenAI του Οκτωβρίου 2025⁠(ανοίγει σε νέο παράθυρο).

Δίκτυα που πιθανότατα προέρχονται από την Καμπότζη, τη Μιανμάρ και τη Νιγηρία και καταχρώνται το ChatGPT σε φαινομενικές απόπειρες διαδικτυακής εξαπάτησης.

Είμαστε προσηλωμένοι στον εντοπισμό, την αποτροπή και την αναχαίτιση προσπαθειών κατάχρησης των μοντέλων μας για επιβλαβείς σκοπούς. Στις καταχρήσεις αυτές περιλαμβάνονται οι απάτες, στο πλαίσιο των οποίων εντοπίζουμε και αποκλείουμε κακόβουλους παράγοντες που επιχειρούν να χρησιμοποιήσουν καταχρηστικά τα μοντέλα μας για να παραπλανήσουν και να εξαπατήσουν ανθρώπους. Τους τελευταίους τρεις μήνες, αναχαιτίσαμε δίκτυα απάτης που πιθανότατα προέρχονταν από την Καμπότζη, τη Μιανμάρ και τη Νιγηρία. Ως ένδειξη του ρόλου που μπορεί να διαδραματίσει η AI στην καταπολέμηση της απάτης, κατά τη διερεύνηση αυτών των μοτίβων κατάχρησης διαπιστώσαμε επίσης ότι πολλοί άνθρωποι χρησιμοποιούν τα μοντέλα μας για να εντοπίζουν απάτες. Η παρούσα έκθεση εξετάζει και τις δύο περιπτώσεις χρήσης.

Η κατάχρηση των μοντέλων μας για τη διευκόλυνση απατών εκτείνεται από μεμονωμένους δράστες που επιχειρούν να εξαπατήσουν έως μεγάλης κλίμακας, επίμονες επιχειρήσεις που πιθανότατα συνδέονται με ομάδες οργανωμένου εγκλήματος. Ανεξάρτητα από την προέλευση και τις ακριβείς τακτικές τους, η δραστηριότητα που σχετίζεται με απάτες και την οποία έχουμε αναχαιτίσει ακολουθεί συνήθως ένα κοινό μοτίβο: την πρώτη επαφή (απρόσκλητη προσέγγιση), την πρόκληση έντονου συναισθήματος (ενθουσιασμού ή πανικού) και, τέλος, το πλήγμα (απόσπαση χρημάτων ή πολύτιμων πληροφοριών).

Αρχικά, οι απατεώνες διασπείρουν περιεχόμενο, παραγόμενο με AI ή μη, σε υπηρεσίες ανταλλαγής μηνυμάτων και στο διαδίκτυο, μεταξύ άλλων μέσω διαφημίσεων στα μέσα κοινωνικής δικτύωσης. Στη συνέχεια, επιχειρούν να προκαλέσουν σε όσους απαντήσουν είτε ενθουσιασμό για μια επικερδή ευκαιρία είτε φόβο για κάποια επικείμενη οικονομική απώλεια και αξιοποιούν αυτό το συναίσθημα για να πείσουν τον στόχο να παραδώσει χρήματα ή ευαίσθητες πληροφορίες.

Έχουμε επίσης παρατηρήσει πολλές περιπτώσεις στις οποίες τα μοντέλα μας πιθανότατα συνέβαλαν στην προστασία ανθρώπων από απάτες. Έχουμε δει στοιχεία που δείχνουν ότι άνθρωποι χρησιμοποιούν το ChatGPT εκατομμύρια φορές τον μήνα για να εντοπίζουν και να αποφεύγουν διαδικτυακές απάτες. Σε κάθε επιχείρηση απάτης που περιγράφεται στην παρούσα έκθεση, είδαμε το μοντέλο να βοηθά ανθρώπους να αναγνωρίσουν σωστά την απάτη και να τους συμβουλεύει για τα κατάλληλα μέτρα ασφαλείας. Σύμφωνα με την τρέχουσα εκτίμησή μας, το ChatGPT χρησιμοποιείται για τον εντοπισμό απατών έως και τρεις φορές συχνότερα απ’ ό,τι χρησιμοποιείται για τη διάπραξή τους.

Παράδειγμα ερευνητή της OpenAI που επικόλλησε στο ChatGPT ένα στιγμιότυπο οθόνης από μήνυμα SMS απάτης που είχε λάβει και χρησιμοποίησε επιτυχώς το μοντέλο για να το αναγνωρίσει ως απάτη. Σε αυτή την περίπτωση, οι δράστες επιχείρησαν να παρουσιαστούν ως υπεύθυνοι προσλήψεων του TikTok.

Από την τελευταία μας έκθεση, έχουμε ενισχύσει την ικανότητά μας να εντοπίζουμε και να αναχαιτίζουμε απάτες. Αναχαιτίσαμε επιπλέον δίκτυα απάτης που φαίνεται ότι προέρχονταν από την Καμπότζη, τη Μιανμάρ και τη Νιγηρία. Σε συνδυασμό με τις προηγούμενες παρεμβάσεις μας, αυτές οι εξαρθρώσεις μάς επιτρέπουν να εντοπίσουμε ορισμένες αναδυόμενες τάσεις σε πολλές επιχειρήσεις απάτης από διαφορετικές χώρες.

Το μεγαλύτερο μέρος της δραστηριότητας απάτης που αναχαιτίσαμε επικεντρωνόταν στην ενσωμάτωση της AI σε υπάρχουσες μεθόδους απάτης και όχι στη δημιουργία νέων μεθόδων βασισμένων στην AI. Όλες οι επιχειρήσεις απάτης που εντοπίσαμε και αποκλείσαμε φέτος χρησιμοποιούσαν την AI κυρίως ως εργαλείο κλιμάκωσης και αύξησης της αποδοτικότητας. Αυτό συνήθως περιλάμβανε τη χρήση των μοντέλων μας για μεταφράσεις, σύνταξη μηνυμάτων και δημιουργία περιεχομένου για τα μέσα κοινωνικής δικτύωσης.

Για παράδειγμα, πρόσφατα αποκλείσαμε επιχειρήσεις απάτης που πιθανότατα προέρχονταν από την Καμπότζη και τη Νιγηρία και παρουσιάζονταν ως «επενδυτικές εταιρείες», επιχειρώντας να εξαπατήσουν θύματα σε πολλές χώρες. Οι απατεώνες δημιούργησαν ιστοτόπους και διαδικτυακές διαφημίσεις για να προωθήσουν τις ψεύτικες εταιρείες και χρησιμοποίησαν πιθανότατα πλαστούς λογαριασμούς στα μέσα κοινωνικής δικτύωσης, οι οποίοι παρουσιάζονταν ως ειδικοί στις συναλλαγές, για να προσκαλούν ανθρώπους σε ιδιωτικές ομάδες ανταλλαγής μηνυμάτων. Υποσχόμενοι επικερδείς ευκαιρίες κέρδους χωρίς κανέναν κίνδυνο, οι δράστες επιχείρησαν στη συνέχεια να δελεάσουν πιθανά θύματα ώστε να καταθέσουν χρήματα σε ανύπαρκτες πλατφόρμες συναλλαγών. Σε όλες τις απάτες, οι δράστες χρησιμοποίησαν τα μοντέλα μας κυρίως για να συντάσσουν και να μεταφράζουν αλληλογραφία, να δημιουργούν περιεχόμενο για τους ιστοτόπους και τους λογαριασμούς τους στα μέσα κοινωνικής δικτύωσης και να διεξάγουν βασική έρευνα.

Σε άλλη περίπτωση, αποκλείσαμε ένα κέντρο απάτης που κατά πάσα πιθανότητα βρισκόταν στη Μιανμάρ και χρησιμοποιούσε τα μοντέλα μας τόσο για τη δημιουργία περιεχομένου για τα δόλια σχέδιά του όσο και για καθημερινές επιχειρηματικές εργασίες. Αυτό περιλάμβανε την οργάνωση προγραμμάτων, τη σύνταξη εσωτερικών ανακοινώσεων, την κατανομή θέσεων εργασίας και κλινών στους κοιτώνες, καθώς και τη διαχείριση οικονομικών λογαριασμών. Ορισμένοι υπεύθυνοι ρώτησαν ποιες ποινικές κυρώσεις αντιμετωπίζουν όσοι συλλαμβάνονται να διαπράττουν διαδικτυακές απάτες.

Δεν χρησιμοποιούσαν όλοι οι απατεώνες που αναχαιτίσαμε τα μοντέλα μας με τον ίδιο τρόπο ή με τον ίδιο βαθμό πολυπλοκότητας. Οι περισσότερες αλληλεπιδράσεις των απατεώνων με το ChatGPT αφορούσαν σχετικά απλές εργασίες, όπως η μετάφραση, όμως ορισμένες επιχειρήσεις απάτης ήταν πιο φιλόδοξες και περίτεχνες.

Για παράδειγμα, μία επιχείρηση απάτης που αναχαιτίσαμε και πιθανότατα προερχόταν από την Καμπότζη χρησιμοποίησε τα μοντέλα μας για να δημιουργήσει λεπτομερείς βιογραφίες ανύπαρκτων ειδικών στις επενδύσεις και εικονικών υπαλλήλων ψεύτικων εταιρειών συναλλαγών. Στη συνέχεια, οι απατεώνες ζήτησαν από το ChatGPT να γράψει μηνύματα για τα μέσα κοινωνικής δικτύωσης με τη φωνή αυτών των χαρακτήρων. Συχνά, οι δράστες εισήγαγαν στο μοντέλο μας μηνύματα που φαίνεται ότι είχαν λάβει από τους στόχους τους και ζητούσαν από το μοντέλο να συνεχίσει τη συνομιλία υποδυόμενο την πλαστή περσόνα.

Μια δεύτερη επιχείρηση απάτης, που επίσης πιθανότατα προερχόταν από την Καμπότζη, ξεκίνησε χρησιμοποιώντας τα μοντέλα μας για να δημιουργεί απρόσκλητα μηνύματα SMS, τα οποία αποστέλλονταν μαζικά σε τηλεφωνικούς αριθμούς στις ΗΠΑ. Ένα από αυτά στάλθηκε σε ερευνητή της OpenAI, όπως και στην περίπτωση για την οποία αναφέραμε τον Ιούνιο. Αυτά τα μηνύματα SMS περιλάμβαναν προσκλήσεις συμμετοχής σε ομάδες του WhatsApp, οι οποίες αποκλείστηκαν αργότερα και είχαν ονόματα που παρέπεμπαν σε νόμιμη επενδυτική εταιρεία.

Με βάση μια σειρά μηνυμάτων WhatsApp που στάλθηκαν στον ερευνητή της OpenAI, αν ένας πιθανός στόχος γινόταν μέλος μιας από αυτές τις ομάδες, σύντομα θα παρακολουθούσε μια «συνομιλία» μεταξύ έξι διαφορετικών λογαριασμών, οι οποίοι μιλούσαν όλοι για επενδύσεις. Ένας από αυτούς παρουσιαζόταν ως ο «ειδικός στις επενδύσεις», ενώ οι υπόλοιποι ως επενδυτές με διαφορετικό βαθμό αυτοπεποίθησης και εμπειρίας. Κάθε μέρος αυτής της συνομιλίας είχε δημιουργηθεί από τους απατεώνες, οι οποίοι τη μετέφρασαν ως ενιαίο κείμενο από τα κινεζικά, πιθανότατα για να δώσουν την εντύπωση μιας δραστήριας ομάδας πρόθυμων και επιτυχημένων επενδυτών. Τελικά, ο «ειδικός στις επενδύσεις» πρότεινε στον στόχο να δοκιμάσει και εκείνος να επενδύσει.

Σε ξεχωριστή περίπτωση, μια επιχείρηση επενδυτικής απάτης που κατά πάσα πιθανότητα προερχόταν από τη Νιγηρία ζήτησε από το μοντέλο αναλυτικές οδηγίες για το πώς να χρησιμοποιήσει διαφημίσεις στα μέσα κοινωνικής δικτύωσης ώστε να προσεγγίσει εύπορους ανθρώπους στη Λατινική Αμερική, πώς να αποκρύψει την τοποθεσία της και πώς να παρακάμψει τους περιορισμούς των πλατφορμών κοινωνικής δικτύωσης. Στο πλαίσιο αυτό, παρέπεμψαν το μοντέλο στους δημόσια διαθέσιμους όρους χρήσης μιας πλατφόρμας και του ζήτησαν να ελέγξει αν το προτεινόμενο διαφημιστικό περιεχόμενο συμμορφωνόταν με αυτούς.

Οι απατεώνες, ιδίως τα μεγάλης κλίμακας κέντρα απάτης, επιμένουν. Πολύ συχνά, αντιδρούν στην αναχαίτιση επιχειρώντας να επανεκκινήσουν την παραβατική δραστηριότητά τους, αλλάζοντας παράλληλα ορισμένα στοιχεία της συμπεριφοράς τους, πιθανότατα για να αποφύγουν νέο εντοπισμό. Αυτός είναι ένας από τους λόγους για τους οποίους είναι σημαντικό να ανταλλάσσονται σε ολόκληρο τον κλάδο πληροφορίες σχετικά με την εξελισσόμενη δραστηριότητά τους, όπως όταν η OpenAI και η Meta κοινοποίησαν στοιχεία για δράστες, συμβάλλοντας σε περαιτέρω έρευνες και μέτρα επιβολής.

Πιθανώς ως αντίδραση στις παρεμβάσεις ή στις ευρύτερες διαδικτυακές συζητήσεις σχετικά με τα σημάδια που μπορούν να προδώσουν τη χρήση AI, έχουμε δει απατεώνες να επιχειρούν να συγκαλύψουν τη χρήση AI στο διαδικτυακό περιεχόμενο και στις επικοινωνίες τους με τους στόχους. Μεταξύ άλλων, επιχειρήσεις απάτης που πιθανότατα προέρχονταν από την Καμπότζη έδιναν εντολή στο μοντέλο να αφαιρεί τις μεγάλες παύλες από τις απαντήσεις.

Σε μία περίπτωση, οι απατεώνες επιχείρησαν να εξηγήσουν μια μεγάλης κλίμακας εξάρθρωση των λογαριασμών τους στα μέσα κοινωνικής δικτύωσης, επινοώντας μια δικαιολογία για τον αποκλεισμό τους. Η περίπτωση αφορούσε το κέντρο απάτης που περιγράφηκε παραπάνω, το οποίο πιθανότατα προερχόταν από την Καμπότζη και δραστηριοποιούνταν μέσω SMS και WhatsApp. Αφού το WhatsApp απέκλεισε τις «επενδυτικές ομάδες» που συνδέονταν με την επιχείρηση, οι υπεύθυνοι άρχισαν να δημιουργούν μηνύματα στα οποία ισχυρίζονταν ότι οι ομάδες είχαν καταγγελθεί ψευδώς από κάποιον ανταγωνιστή, πιθανότατα για να δικαιολογήσουν τους αποκλεισμούς.

Στιγμιότυπο οθόνης μηνύματος WhatsApp που εστάλη σε ερευνητή της OpenAI από την επιχείρηση απάτης με συνδέσεις στην Καμπότζη, μετά την εξάρθρωσή της από το WhatsApp.