Εγχειρίδιο της φωτεινής πλευράς: Δραστηριότητα πιθανής κινεζικής προέλευσης με στόχο άτομα από τις ΗΠΑ

Αυτή η μελέτη περίπτωσης δημοσιεύτηκε αρχικά στην έκθεση της OpenAI του Φεβρουαρίου 2026⁠(ανοίγει σε νέο παράθυρο) για την παρεμπόδιση κακόβουλων χρήσεων της τεχνητής νοημοσύνης.

Αποκλείσαμε μια μικρή ομάδα λογαριασμών ChatGPT, πιθανότατα προερχόμενων από την Κίνα, που χρησιμοποιούσαν τα μοντέλα μας για να ζητούν πληροφορίες σχετικά με άτομα από τις ΗΠΑ, φόρουμ και τοποθεσίες ομοσπονδιακών κτιρίων, καθώς και οδηγίες για λογισμικό αντικατάστασης προσώπου, και να δημιουργούν email στα αγγλικά που έμοιαζαν με απόπειρες κοινωνικής μηχανικής. Έδιναν προτροπές στα μοντέλα μας στα κινεζικά, ήταν ενεργοί κυρίως κατά τις εργάσιμες ώρες της ηπειρωτικής Κίνας και χρησιμοποιούσαν VPN για πρόσβαση στην πλατφόρμα μας.

Οι λογαριασμοί δημιουργούσαν προσχέδια email που εμφανίζονταν ως μηνύματα υπαλλήλων μιας εταιρείας με έδρα το Χονγκ Κονγκ και την επωνυμία «Nimbus Hub Consulting». Ωστόσο, οι προτροπές τους προς τα μοντέλα μας χρησιμοποιούσαν απλοποιημένους κινεζικούς χαρακτήρες (που χρησιμοποιούνται συνήθως στην ηπειρωτική Κίνα) και όχι παραδοσιακούς κινεζικούς χαρακτήρες (που χρησιμοποιούνται συνήθως στο Χονγκ Κονγκ), κάτι που υποδηλώνει ότι οι πραγματικοί χειριστές βρίσκονταν στην ηπειρωτική Κίνα. Επιπλέον, ένας λογαριασμός δημιούργησε ένα email που εμφανιζόταν ως μήνυμα εκπροσώπου ενός οργανισμού δημοσίων σχέσεων με έδρα τη Σαγκάη, ο οποίος προωθεί τις οικονομικές και πολιτιστικές ανταλλαγές μεταξύ ΗΠΑ και Σαγκάης. Με αφορμή τη λέξη Nimbus στην επωνυμία της εταιρείας, που σημαίνει «βροχοφόρο νέφος» ή «φωτοστέφανο», ονομάσαμε αυτή την επιχείρηση «Εγχειρίδιο της φωτεινής πλευράς».

Οι λογαριασμοί δημιουργούσαν προσχέδια email στα αγγλικά, με παραλήπτες αξιωματούχους πολιτειών των ΗΠΑ ή αναλυτές πολιτικής που εργάζονταν στον επιχειρηματικό και χρηματοοικονομικό τομέα. Φαίνονταν να προσκαλούν αυτούς τους παραλήπτες να συμμετάσχουν σε αμειβόμενες συμβουλευτικές συναντήσεις, τις οποίες περιέγραφαν ως ερμηνεία πολιτικών και παροχή στρατηγικών συμβουλών για τους πελάτες τους. Ζητούσαν τα προσχέδια email να είναι σύντομα, σαφή και επαγγελματικά, με θέματα που δημιουργούσαν αίσθηση επείγοντος και χρησιμοποιούσαν διακριτικά μέσα ψυχολογικής επιρροής.

Επιπλέον, οι λογαριασμοί ChatGPT χρησιμοποιούσαν τα μοντέλα μας για γενική αναζήτηση πληροφοριών. Το μοντέλο μας απαντούσε σε αυτά τα αιτήματα αντλώντας από δημόσια διαθέσιμες πηγές. Σε αυτά περιλαμβάνονταν ερωτήματα για τα ακόλουθα θέματα:

• Οι τοποθεσίες των γραφείων της ομοσπονδιακής κυβέρνησης των ΗΠΑ, συμπεριλαμβανομένων των κεντρικών γραφείων, και μια κατάταξη πολιτειών με υψηλή συγκέντρωση ομοσπονδιακών υπηρεσιών και αξιωματούχων.

• Η κατανομή του ομοσπονδιακού προσωπικού των ΗΠΑ ανά πολιτεία.

• Άτομα από τις ΗΠΑ, όπως παρουσιαστές της Φωνής της Αμερικής, καθώς και παλαιότερες συνεντεύξεις τους και θέματα που τους ενδιαφέρουν.

• Διαδικτυακά φόρουμ και ιστότοποι που χρησιμοποιούνται συχνά από επαγγελματίες και άτομα που αναζητούν εργασία στον οικονομικό και χρηματοοικονομικό κλάδο των ΗΠΑ.

Αξίζει να σημειωθεί ότι ένας λογαριασμός ζήτησε οδηγίες για τη λήψη και εγκατάσταση στον υπολογιστή του του FaceFusion, μιας πλατφόρμας επεξεργασίας προσώπων που επιτρέπει την αντικατάσταση προσώπου και άλλες βελτιώσεις πολυμέσων. Σύμφωνα με τη δραστηριότητά τους στο ChatGPT, δήλωσαν ότι σκόπευαν να χρησιμοποιήσουν συγκεκριμένα τη λειτουργία αντικατάστασης προσώπου σε πραγματικό χρόνο. Ζήτησαν οδηγίες εγκατάστασης βήμα προς βήμα, χωρίς τεχνική ορολογία, και ισχυρίστηκαν ότι ήταν αρχάριοι στον προγραμματισμό, οπότε οι οδηγίες έπρεπε να είναι απλές. Μεταφόρτωσαν ένα στιγμιότυπο οθόνης με τις προδιαγραφές του υλικού του υπολογιστή τους, ώστε να διευκολυνθεί η εγκατάσταση. Το μοντέλο απάντησε με πληροφορίες από τον δημόσια διαθέσιμο ιστότοπο και την τεκμηρίωση του FaceFusion.

Οι οδηγίες τους για τη δημιουργία προσχεδίων email με τα μοντέλα μας παρέπεμπαν σε ένα εγχειρίδιο τακτικών⁠(ανοίγει σε νέο παράθυρο) κοινωνικής μηχανικής για προσεγγίσεις από ξένη υπηρεσία πληροφοριών, και όχι σε συνηθισμένα μηνύματα για προσλήψεις. Για κάθε προσχέδιο email ζητούσαν τις ακόλουθες ενότητες:

Δημιουργία εντύπωσης αξιοπιστίας: Παρουσίαζαν τη «Nimbus Hub» ως επαγγελματική εταιρεία στρατηγικών συμβούλων με έγκυρη εξειδίκευση στη γεωπολιτική και τη διακρατική πολιτική. Συμπεριλάμβαναν έναν σύνδεσμο προς τον ιστότοπο της Nimbus Hub (βλ. στιγμιότυπο οθόνης παρακάτω).

Εξατομίκευση και κολακεία του στόχου: Έδιναν στο μοντέλο την οδηγία να αναφέρει ρητά την εμπειρία του παραλήπτη στον δημόσιο τομέα ως απόδειξη ότι ήταν το ιδανικό άτομο για τη θέση. Σε μία περίπτωση, ο λογαριασμός μεταφόρτωσε στιγμιότυπα από το προφίλ στο LinkedIn ενός ατόμου από τις ΗΠΑ που ζούσε στη Σαγκάη και έδωσε στο μοντέλο την οδηγία να εξατομικεύσει το προσχέδιο email βάσει του κειμένου στα στιγμιότυπα σχετικά με τις προσωπικές εμπειρίες και το υπόβαθρο του ατόμου.

Συσσώρευση κινήτρων: Η πρόταση για συμβουλευτικές υπηρεσίες παρουσιαζόταν συνήθως ως δελεαστική, επικερδής ευκαιρία διαδικτυακής εργασίας, με μπόνους απόδοσης και ανταμοιβές για συστάσεις, ενώ το πραγματικό αντικείμενο της εργασίας παρέμενε ασαφές.

Καθησυχαστική διατύπωση και μείωση της αίσθησης κινδύνου: Συχνά ισχυρίζονταν ότι η εργασία ήταν χωρίς πίεση, οι πληρωμές γίνονταν στην ώρα τους και τηρούνταν εμπιστευτικότητα.

Γρήγορη μεταφορά της επικοινωνίας εκτός πλατφόρμας: Προσπαθούσαν πάντα να μεταφέρουν την επικοινωνία με τους παραλήπτες από το email σε μια πρώτη βιντεοκλήση μέσω WhatsApp, Zoom ή Teams.

Στην περίπτωση αυτή, οι αλληλεπιδράσεις των δικτύων με τα μοντέλα δεν ήταν τεχνικά εξελιγμένες και τα αιτήματά τους έμοιαζαν ορισμένες φορές με εύλογα αιτήματα σύνταξης προσκλήσεων για πρόσληψη ή εγκατάστασης λογισμικού για θεμιτούς σκοπούς. Ωστόσο, η τακτική των χρηστών να κρύβονται πίσω από μια ψεύτικη εταιρική ταυτότητα και το ενδιαφέρον τους για γεωπολιτικά θέματα υποδηλώνουν πιθανή πρόθεση στρατολόγησης για εχθρικούς σκοπούς.

Από τη χρήση του ChatGPT μέσω αυτών των λογαριασμών δεν προέκυψαν στοιχεία ότι κατάφεραν να αποσπάσουν απαντήσεις στις προσκλήσεις τους από τα άτομα που είχαν στοχοποιήσει. Δεν μπορέσαμε να εξακριβώσουμε ανεξάρτητα αν οι προσκλήσεις μέσω email στάλθηκαν πράγματι ή αν απάντησε κάποιος από τους στοχοποιημένους παραλήπτες.

Κυβερνήσεις αρκετών δημοκρατικών χωρών (π.χ. ΗΠΑ⁠(ανοίγει σε νέο παράθυρο), Ηνωμένο Βασίλειο⁠(ανοίγει σε νέο παράθυρο), Αυστραλία⁠(ανοίγει σε νέο παράθυρο)) έχουν προειδοποιήσει ότι ξένες υπηρεσίες πληροφοριών στοχοποιούν νυν και πρώην κρατικούς υπαλλήλους για στρατολόγηση, εμφανιζόμενες ως συμβουλευτικές εταιρείες και άλλοι φορείς σε πλατφόρμες κοινωνικής και επαγγελματικής δικτύωσης. Μπορεί να είναι δύσκολο να διακρίνει κανείς τα συνηθισμένα μηνύματα για προσλήψεις από αυτές τις στοχευμένες προσεγγίσεις κοινωνικής μηχανικής, επειδή έχουν ορισμένα κοινά χαρακτηριστικά. Ωστόσο, οι γνήσιες προσεγγίσεις συνήθως εντάσσονται σε πιο αργές διαδικασίες αξιολόγησης υποψηφίων και περιλαμβάνουν επαληθεύσιμες πληροφορίες για τον τίτλο της θέσης, αξιόπιστα στοιχεία για τον εργοδότη, εύλογο εύρος αμοιβών σύμφωνα με την αγορά και συνδέσμους προς πραγματικές αγγελίες εργασίας. Με λίγα λόγια, αν κάτι φαίνεται πολύ καλό για να είναι αληθινό, μάλλον δεν είναι.