Επιχείρηση «Θείος Spam»: δραστηριότητα επιρροής με στόχο την πόλωση στις ΗΠΑ
Η OpenAI απέκλεισε λογαριασμούς κινεζικής προέλευσης που χρησιμοποιούσαν ΤΝ για τη δημιουργία πολιτικού περιεχομένου στις ΗΠΑ και την έρευνα προσώπων, κινημάτων και διαδικτυακών κοινοτήτων.
Αυτή η μελέτη περίπτωσης δημοσιεύτηκε αρχικά στην έκθεση της OpenAI του Ιουνίου 2025(ανοίγει σε νέο παράθυρο).
Δράστης
Αποκλείσαμε ορισμένους λογαριασμούς ChatGPT που συνδέονταν με μια επιχείρηση επιρροής κινεζικής προέλευσης(ανοίγει σε νέο παράθυρο), έπειτα από πληροφορία που λάβαμε από τους συνεργάτες μας στη Meta. Η επιχείρηση δημιουργούσε πολωτικό περιεχόμενο για τα μέσα κοινωνικής δικτύωσης, το οποίο υποστήριζε και τις δύο πλευρές διχαστικών ζητημάτων στον πολιτικό διάλογο των ΗΠΑ. Το περιεχόμενο περιλάμβανε κείμενα και εικόνες προφίλ δημιουργημένες με ΤΝ για πλατφόρμες όπως το X και το Bluesky.
Συμπεριφορά
Το δίκτυο χρησιμοποίησε τα μοντέλα μας για διάφορες εργασίες, κυρίως για τη δημιουργία σχολίων στα μέσα κοινωνικής δικτύωσης που τάσσονταν υπέρ ή κατά των δασμών. Οι λογαριασμοί ζητούσαν από τα μοντέλα μας τις βέλτιστες ώρες δημοσίευσης για τη μεγιστοποίηση της αλληλεπίδρασης του κοινού, κάτι που παραπέμπει σε μεθοδευμένες τακτικές ενίσχυσης της απήχησης.
Δύο αναρτήσεις στο X, τα κείμενα των οποίων δημιουργήθηκαν από αυτόν τον φορέα απειλής με τη χρήση των μοντέλων μας και υποστήριζαν αντίθετες πλευρές της συζήτησης για τους δασμούς.
Δεύτερον, οι λογαριασμοί χρησιμοποίησαν τις δυνατότητες δημιουργίας εικόνας των μοντέλων μας για να δημιουργήσουν καλλιτεχνικά λογότυπα, τα οποία χρησιμοποιήθηκαν ως εικόνες προφίλ για την υποστήριξη πλασματικών ταυτοτήτων σε διάφορες κοινωνικές πλατφόρμες. Ειδικότερα, οι λογαριασμοί επικεντρώθηκαν στη δημιουργία πλασματικών ταυτοτήτων βετεράνων των ΗΠΑ που ασκούσαν κριτική στη σημερινή αμερικανική κυβέρνηση.
Λογαριασμός στο Bluesky που δημοσίευε περιεχόμενο δημιουργημένο από αυτό το δίκτυο. Το λογότυπο «Βετεράνοι για τη Δικαιοσύνη» δημιουργήθηκε με τη χρήση των μοντέλων μας.
Τέλος, οι λογαριασμοί ζητούσαν συστηματικά κώδικα και μεθόδους για την εξαγωγή προσωπικών δεδομένων από κοινωνικές πλατφόρμες όπως το X και το Bluesky, όπως προφίλ χρηστών, λίστες ακολούθων και άλλα στοιχεία, χρησιμοποιώντας εργαλεία όπως τα Tweepy και Nitter και το δημόσιο API του Bluesky. Επιπλέον, οι λογαριασμοί χρησιμοποίησαν τα μοντέλα μας για καθοδήγηση σχετικά με την ανάλυση δεδομένων προφίλ ως προς προσωπικά χαρακτηριστικά και σχέσεις με οργανισμούς, ενδεχομένως με σκοπό την κατηγοριοποίηση ατόμων ή τη συναγωγή συσχετίσεων και ιδιοτήτων.
Αποτελέσματα
Οι λογαριασμοί παρήγαγαν πολωτικό περιεχόμενο για διάφορα θέματα του πολιτικού διαλόγου στις ΗΠΑ, συχνά στο πλαίσιο των ίδιων επιχειρησιακών συνεδριών. Σε συμφωνία με γνωστές μεθοδολογίες επιχειρήσεων επιρροής, η δραστηριότητα αυτή φαίνεται ότι σχεδιάστηκε για να εκμεταλλευτεί τις υφιστάμενες πολιτικές διαιρέσεις και όχι για να προωθήσει μια συγκεκριμένη ιδεολογική θέση. Λόγω του όγκου του περιεχομένου και της έμφασης σε μηνύματα που απευθύνονταν σε Αμερικανούς, ονομάσαμε αυτή την επιχείρηση «Θείος Spam».
Αναρτήσεις στο X με κείμενο που δημιουργήθηκε από τα μοντέλα μας και δημοσιεύτηκε από πλασματικές ταυτότητες.
Αντίκτυπος
Με βάση την κλίμακα αντικτύπου επιχειρήσεων επιρροής Breakout Scale(ανοίγει σε νέο παράθυρο), θα κατατάσσαμε αυτή τη δραστηριότητα στην Κατηγορία 2: δραστηριότητα σε πολλές πλατφόρμες, χωρίς ουσιαστική εξάπλωση ή με ελάχιστη αλληλεπίδραση. Οι λογαριασμοί κοινωνικών δικτύων που δημοσίευαν περιεχόμενο δημιουργημένο από τα μοντέλα μας προσέλκυσαν ελάχιστη αυθεντική αλληλεπίδραση. Οι περισσότερες αναρτήσεις αυτού του δικτύου στο X έλαβαν ελάχιστες ή καθόλου επισημάνσεις «Μου αρέσει» ή αναδημοσιεύσεις, ενώ μόνο λίγες προσέλκυσαν κάποια αλληλεπίδραση. Ορισμένοι λογαριασμοί στα μέσα κοινωνικής δικτύωσης είχαν χιλιάδες ακολούθους, αλλά δεν μπορέσαμε να αξιολογήσουμε τη γνησιότητά τους. Επιπλέον, ο αριθμός των ακολούθων δεν φαινόταν να μεταφράζεται σε αλληλεπίδραση με τις αναρτήσεις.