Επιχείρηση «Ασαφής εστίαση»: Κοινωνική μηχανική και δραστηριότητες επηρεασμού

Αυτή η μελέτη περίπτωσης δημοσιεύτηκε αρχικά στην έκθεση της OpenAI του Ιουνίου 2025⁠(ανοίγει σε νέο παράθυρο).

Αποκλείσαμε ένα μικρό δίκτυο λογαριασμών ChatGPT που χρησιμοποιούσαν τα μοντέλα μας για να δημιουργούν αναρτήσεις στα μέσα κοινωνικής δικτύωσης, να αναλύουν σύνολα δεδομένων και να μεταφράζουν από τα κινεζικά στα αγγλικά email και μηνύματα που έμοιαζαν με απόπειρες κοινωνικής μηχανικής. Οι λογαριασμοί έδιναν οδηγίες στα μοντέλα μας στα κινεζικά και ήταν ενεργοί κυρίως κατά τις εργάσιμες ώρες στην ηπειρωτική Κίνα.

Δημιουργούσαν μηνύματα που υποτίθεται ότι προέρχονταν από υπαλλήλους τριών φορέων με αντικείμενο τη γεωπολιτική: «Ειδήσεις στο επίκεντρο» (Focus Lens News), «Ευρωπαϊκά μέσα ενημέρωσης Φωτεινό Κύμα» (BrightWave Media Europe) και «Συμβουλευτικός Όμιλος Όραμα» (Visionary Advisory Group, VAG). Επιπλέον, οι λογαριασμοί ChatGPT δημιουργούσαν κείμενα που ταίριαζαν με τις αναρτήσεις και τα βιογραφικά λογαριασμών στο X που συνδέονταν με αυτούς τους τρεις φορείς. Σε άλλες συνομιλίες, οι κακόβουλοι παράγοντες περιέγραφαν αυτούς τους φορείς ως βιτρίνες για τη συλλογή και ανάλυση πληροφοριών. Με βάση αυτές τις ονομασίες, ονομάσαμε την επιχείρηση «Ασαφής εστίαση» (VAGue Focus).

Η επιχείρηση χρησιμοποιούσε το ChatGPT για την υποστήριξη τεσσάρων βασικών τομέων δραστηριότητας. Πρώτον, οι λογαριασμοί χρησιμοποιούσαν κυρίως τα μοντέλα μας για να δημιουργούν αναρτήσεις στα μέσα κοινωνικής δικτύωσης και βιογραφικά για διαδικτυακές περσόνες που φαίνονταν να συμμετέχουν σε μυστική επιχείρηση επηρεασμού. Οι αναρτήσεις διαδίδονταν από λογαριασμούς στο X που παρίσταναν δημοσιογράφους και γεωπολιτικούς αναλυτές.

Δεύτερον, οι λογαριασμοί βελτίωναν τη διατύπωση και μετέφραζαν αλληλογραφία προς γερουσιαστή των ΗΠΑ σχετικά με την υποψηφιότητα ενός προσώπου για κυβερνητική θέση. Δεν μπορούμε να επιβεβαιώσουμε από ανεξάρτητες πηγές αν στάλθηκε οποιοδήποτε μέρος αυτής της αλληλογραφίας.

Τρίτον, οι λογαριασμοί έθεταν μια σειρά από βασικές ερωτήσεις για εργαλεία επιθέσεων και εκμετάλλευσης ευπαθειών σε δίκτυα υπολογιστών. Τα μοντέλα μας παρείχαν μόνο γενικές εξηγήσεις για τη χρήση και τις δυνατότητές τους. Οι ερωτήσεις αυτές δεν είχαν την τεχνική πολυπλοκότητα εκείνων των κυβερνοεπιτιθέμενων που περιγράφουμε παρακάτω στην έκθεση και υποδηλώνουν χαμηλό επίπεδο τεχνογνωσίας.

Τέλος, οι χρήστες ζητούσαν τακτικά μεταφράσεις από τα κινεζικά στα αγγλικά μηνυμάτων που φαίνονταν σχεδιασμένα για να προσεγγίσουν αγνώστους και, τελικά, να τους αποσπάσουν πληροφορίες. Ορισμένα από αυτά τα μηνύματα δημοσιεύτηκαν στα μέσα κοινωνικής δικτύωσης ως απαντήσεις σε δημοσιογράφους και ερευνητές. Άλλα έμοιαζαν με προσωπικά μηνύματα και δεν εντοπίστηκαν σε διαδικτυακές αναζητήσεις.

Κύριος στόχος αυτού του δικτύου φαινόταν να είναι η συλλογή πληροφοριών, με τα μέλη του να παριστάνουν επαγγελματίες με έδρα την Ευρώπη ή την Τουρκία. Στο περιεχόμενο που δημιουργούσαν και δημοσίευαν στο διαδίκτυο, οι διαχειριστές περιέγραφαν τις «Ειδήσεις στο επίκεντρο» ως ανεξάρτητο φορέα με έδρα την Ευρώπη και ειδίκευση στην ανάλυση και το ρεπορτάζ. Ωστόσο, οι διαχειριστές ισχυρίζονταν επίσης ότι αυτή η δημόσια ταυτότητα χρησίμευε στην πραγματικότητα ως κάλυψη για τη διευκόλυνση της συλλογής, ανάλυσης και διάδοσης πληροφοριών.

Σύμφωνα με τον ιστότοπο στον οποίο παρέπεμπαν τα βιογραφικά στα μέσα κοινωνικής δικτύωσης, ο Συμβουλευτικός Όμιλος Όραμα έχει έδρα την Τουρκία και ειδικεύεται στην παροχή επαγγελματικών συμβουλευτικών υπηρεσιών σε θέματα γεωπολιτικής. Οι διαχειριστές χρησιμοποιούσαν τα μοντέλα μας για να μεταφράζουν οδηγίες από τα κινεζικά στα αγγλικά, σύμφωνα με τις οποίες ο όμιλος VAG αναζητούσε πληροφορίες για την οικονομική και χρηματοοικονομική πολιτική των ΗΠΑ και ήταν πρόθυμος να προσφέρει αμοιβή 2.000 δολαρίων ανά ώρα για μια συνέντευξη. Μετέφραζαν επίσης προσφορές πληρωμής για διαβαθμισμένα έγγραφα.

Ο ιστότοπος του ομίλου VAG διαθέτει τουρκική και αγγλική έκδοση. Στη σελίδα «Επικοινωνήστε μαζί μας» της αγγλικής έκδοσης, εμφανίζονται στο μενού οι κινεζικοί χαρακτήρες για τη λέξη «επικοινωνία» (聯絡). Αυτό ήταν το μοναδικό κινεζικό κείμενο σε ολόκληρο τον ιστότοπο.

Μέρος του περιεχομένου αυτού του δικτύου έμοιαζε με διαφημιστικό υλικό για ευρύτερες επιχειρήσεις επηρεασμού. Σύμφωνα με τους ισχυρισμούς, τους οποίους δεν μπορούμε να επαληθεύσουμε από ανεξάρτητες πηγές, η επιχείρηση χρησιμοποιούσε μηχανική μάθηση, επεξεργασία φυσικής γλώσσας και αυτοματοποιημένη εξαγωγή δεδομένων για να εντοπίζει πρόσωπα με επιρροή και θέματα στα μέσα κοινωνικής δικτύωσης.

Οι λογαριασμοί στα μέσα κοινωνικής δικτύωσης που συνδέονταν με αυτή τη δραστηριότητα δεν προσέλκυσαν σημαντική αλληλεπίδραση από πραγματικούς χρήστες. Μόνο ο λογαριασμός Focus Lens News στο X είχε σημαντικό αριθμό ακολούθων, που έφταναν τους 17.000. Ωστόσο, ο λογαριασμός είχε δημιουργηθεί τον Νοέμβριο του 2014 με διαφορετικό όνομα, είχε δημοσιεύσει tweet για τρεις ημέρες και στη συνέχεια είχε παραμείνει ανενεργός μέχρι τα μέσα του 2024. Αυτό είναι χαρακτηριστικό λογαριασμών που έχουν παραβιαστεί και χρησιμοποιούνται πλέον για άλλον σκοπό, επομένως ο αριθμός των ακολούθων του πρέπει να αντιμετωπίζεται με επιφύλαξη.

Χρησιμοποιώντας την Κλίμακα διάδοσης⁠(ανοίγει σε νέο παράθυρο) για την εκτίμηση του αντίκτυπου επιχειρήσεων επηρεασμού, θα κατατάσσαμε το δημόσια ορατό σκέλος αυτής της επιχείρησης στο χαμηλότερο άκρο της Κατηγορίας 2: δραστηριότητα σε πολλές πλατφόρμες, αλλά ελάχιστες ενδείξεις ότι πραγματικοί χρήστες αναπαρήγαγαν ή κοινοποίησαν ευρέως το περιεχόμενό της. Τα διαθέσιμα στοιχεία δεν επαρκούν για να εκτιμηθεί ο αντίκτυπος της κοινωνικής μηχανικής και των άλλων μυστικών δραστηριοτήτων της επιχείρησης.