Επιχείρηση «A2Z»: Πολύγλωσση δραστηριότητα επιρροής

Αυτή η μελέτη περίπτωσης δημοσιεύτηκε αρχικά στην έκθεση Οκτωβρίου 2024⁠(ανοίγει σε νέο παράθυρο) της OpenAI.

Αποκλείσαμε μια συστάδα λογαριασμών που δεν είχε αναφερθεί στο παρελθόν και χρησιμοποιούσε το API μας για να δημιουργεί σχόλια, τα οποία στη συνέχεια δημοσιεύονταν στο X και στο Facebook. Πολλά από αυτά τα σχόλια επαινούσαν το Αζερμπαϊτζάν ή υπερασπίζονταν τις επιδόσεις του στα ανθρώπινα δικαιώματα, όμως η δραστηριότητα κάλυπτε και πολλά άλλα θέματα, γεγονός που ενδεχομένως υποδηλώνει μια επιχείρηση εμπορικού χαρακτήρα. Λόγω της συχνότητας με την οποία επαινούσε το Αζερμπαϊτζάν και της προσπάθειάς της να χρησιμοποιήσει ΤΝ σε πολλές φάσεις της επιχείρησης, ονομάσαμε αυτό το δίκτυο «A2Z».

Όπως και η ρωσόφωνη επιχείρηση στο Telegram, την οποία αποκαλύψαμε τον Μάιο και ονομάσαμε «Bad Grammar», έτσι και αυτή η επιχείρηση χρησιμοποίησε τα μοντέλα μας για τη δημοσίευση σχολίων στα μέσα κοινωνικής δικτύωσης. Αξιοποίησε την ΤΝ για τη διαχείριση πλαστών προφίλ στα μέσα κοινωνικής δικτύωσης, τη δημιουργία βιογραφικών, την ανάλυση αναρτήσεων και σχολίων, τη σύνταξη απαντήσεων σε πολλές γλώσσες και τη διόρθωσή τους. Οι απαντήσεις δημοσιεύονταν στη συνέχεια στο X ή στο Facebook. Το μεγαλύτερο μέρος του περιεχομένου είχε τη μορφή σύντομων σχολίων, αλλά περιλάμβανε και στιλιζαρισμένες εικόνες. Αυτές συχνά μιμούνταν το ύφος αφισών της δεκαετίας του 1930 και, επομένως, φαίνεται ότι είχαν σχεδιαστεί για να προσελκύουν την προσοχή και την αλληλεπίδραση και όχι για να εξαπατούν. Ωστόσο, οι συνήθεις αναρτήσεις με αυτές τις στιλιζαρισμένες εικόνες λάμβαναν μόλις 0–5 αλληλεπιδράσεις η καθεμία.

Αυτή η χρήση της ΤΝ επέτρεψε στην επιχείρηση να διαχειρίζεται ταυτόχρονα πολλούς λογαριασμούς κοινωνικής δικτύωσης: εντοπίσαμε περίπου 150 λογαριασμούς στο X και στο Facebook που αντιστοιχούσαν σε αυτή τη δραστηριότητα, ενώ υπήρχαν υποψίες και για άλλους. Επέτρεψε επίσης στην επιχείρηση να συμμετέχει κατά καιρούς σε νήματα σχολίων με πραγματικούς χρήστες στο διαδίκτυο. Περιστασιακά παρατηρήσαμε σύντομες συνομιλίες μεταξύ πραγματικών χρηστών και πλαστών λογαριασμών, στις οποίες οι απαντήσεις των πλαστών λογαριασμών δημιουργούνταν με τα μοντέλα μας.

Πριν από την ΤΝ, μια επιχείρηση τέτοιας κλίμακας θα απαιτούσε πιθανότατα μια μεγάλη ομάδα τρολ, με όλο το κόστος και τους κινδύνους διαρροών που συνεπάγεται ένα τέτοιο εγχείρημα. Ωστόσο, η εξάρτηση αυτής της επιχείρησης από την ΤΝ την κατέστησε επίσης ασυνήθιστα ευάλωτη στις ενέργειές μας για τη διακοπή της. Επειδή αξιοποιούσε την ΤΝ σε τόσα πολλά σημεία της αλυσίδας επίθεσης, η παρέμβασή μας διέκοψε ταυτόχρονα πολλούς κρίκους της αλυσίδας. Αφού διακόψαμε αυτή τη δραστηριότητα στις αρχές Ιουνίου, οι λογαριασμοί κοινωνικής δικτύωσης που είχαμε ταυτοποιήσει ως μέρος της επιχείρησης σταμάτησαν να δημοσιεύουν σε όλη τη διάρκεια των εκλογικών περιόδων στην ΕΕ, το Ηνωμένο Βασίλειο και τη Γαλλία. Ορισμένοι άρχισαν να δημοσιεύουν ξανά στα τέλη Αυγούστου. Ένας μικρός αριθμός αναρτήσεων έφερε ενδείξεις ότι πιθανότατα είχε δημιουργηθεί από ΤΝ. Το περιεχόμενο που έφερε τέτοιες ενδείξεις δεν προερχόταν από τα μοντέλα μας.

Αυτή η εκστρατεία δημιούργησε σύντομα σχόλια που εστίαζαν σε ένα ευρύ φάσμα πολιτικών θεμάτων. Το κυριότερο ήταν οι έπαινοι προς την κυβέρνηση του Αζερμπαϊτζάν και τον ρόλο της στην εσωτερική, περιφερειακή και διεθνή πολιτική — για παράδειγμα, στην προώθηση της ενότητας μεταξύ των χωρών της Κεντρικής Ασίας ή στη φιλοξενία της Διάσκεψης του ΟΗΕ για την Κλιματική Αλλαγή. Αγγλόφωνοι και ιταλόφωνοι λογαριασμοί επαινούσαν τον ρόλο του Αζερμπαϊτζάν ως προμηθευτή ενέργειας στην Ευρώπη — μερικές φορές ως απάντηση σε επικρίσεις για τις επιδόσεις της αζερικής κυβέρνησης στα ανθρώπινα δικαιώματα.

Άλλα σκέλη της δραστηριότητας εστίαζαν στα οφέλη και την εξέλιξη της ΤΝ, στις χρηματοπιστωτικές αγορές, σε οικολογικά ζητήματα, στα κρυπτονομίσματα και στην τεχνολογία γενικότερα. Μία συστάδα εστίαζε στα Ηνωμένα Αραβικά Εμιράτα, παρουσιάζοντάς τα ως σταθερό επενδυτικό προορισμό και συχνά αντιπαραβάλλοντάς τα με ισχυρισμούς περί πολιτικής αστάθειας στις Ηνωμένες Πολιτείες.

Ορισμένες πλαστές περσόνες εστίαζαν στην πολιτική της Ευρώπης ή των Ηνωμένων Πολιτειών. Η ιδεολογική κατεύθυνση αυτής της δραστηριότητας διέφερε από περιοχή σε περιοχή. Για παράδειγμα, ένας λογαριασμός στο X που εστίαζε στις Ηνωμένες Πολιτείες εμφανιζόταν ως φιλελεύθερος και επέκρινε τον πρώην πρόεδρο των ΗΠΑ Trump, ενώ ορισμένοι γαλλόφωνοι λογαριασμοί στο Facebook επέκριναν τον πρόεδρο Macron και υποστήριζαν το κόμμα Εθνικός Συναγερμός (RN). Μερικές φορές, αυτή η κριτική εστίαζε σε εσωτερικά ζητήματα, προκειμένου να υποστηρίξει ότι η εκάστοτε χώρα δεν θα έπρεπε να παρεμβαίνει σε διεθνή ζητήματα, συμπεριλαμβανομένης της εισβολής της Ρωσίας στην Ουκρανία.

Αυτή η επιχείρηση ήταν ιδιαίτερα ενεργή στο Facebook και στο X, πιθανότατα με εκατοντάδες λογαριασμούς. Στο X, ορισμένοι λογαριασμοί της έφεραν το μπλε σήμα επί πληρωμή επαλήθευσης. Από τους περίπου 150 λογαριασμούς που εξετάσαμε δειγματοληπτικά και στις δύο πλατφόρμες, δεν εντοπίσαμε κανέναν με σημαντικό αριθμό ακολούθων: ο μεγαλύτερος αριθμός ακολούθων στο X που εντοπίσαμε κατά την έρευνά μας ήταν 222, ενώ οι συνηθέστεροι αριθμοί κυμαίνονταν από περίπου 15 έως λίγο πάνω από 20 και οι τυπικές αναρτήσεις στο X λάμβαναν μονοψήφιο αριθμό αλληλεπιδράσεων. Παρομοίως, ο μεγαλύτερος αριθμός αντιδράσεων σε ανάρτηση στο Facebook που παρατηρήσαμε κατά την έρευνά μας ήταν 36, ενώ οι συνηθέστεροι αριθμοί κυμαίνονταν από 0 έως 5. Ωστόσο, εντοπίσαμε ορισμένες περιπτώσεις στις οποίες οι αναρτήσεις της επιχείρησης προσέλκυσαν απαντήσεις από πραγματικούς χρήστες. Οι απαντήσεις αυτές δεν ήταν πάντα θετικές και μερικές φορές περιλάμβαναν πραγματικούς χρήστες που αντέκρουαν τους πλαστούς λογαριασμούς, δείχνουν όμως ότι υπήρχε τουλάχιστον κάποια δυνατότητα προσέλκυσης κοινού σε πολλές πλατφόρμες, γλώσσες και θεματικές.

Χρησιμοποιώντας την Κλίμακα Breakout για την αξιολόγηση του αντικτύπου των επιχειρήσεων επιρροής, η οποία τις βαθμολογεί από το 1 (χαμηλότερο) έως το 6 (υψηλότερο), θα κατατάσσαμε αυτή την επιχείρηση στο ανώτατο άκρο της Κατηγορίας 2, με κίνδυνο μετάβασης στην Κατηγορία 3: χαρακτηριζόταν από δραστηριότητα αναρτήσεων σε πολλές πλατφόρμες, με ορισμένες ενδείξεις ότι πραγματικοί χρήστες αλληλεπιδρούσαν με το περιεχόμενό της. Ωστόσο, αφού απαγορεύσαμε στην επιχείρηση να χρησιμοποιεί τα μοντέλα μας και κοινοποιήσαμε πληροφορίες σε άλλους φορείς του κλάδου, οι λογαριασμοί κοινωνικής δικτύωσης που είχαμε εντοπίσει παρέμειναν ανενεργοί για πολλές εβδομάδες. Επομένως, αυτή η επιχείρηση αναδεικνύει τόσο τις αυξημένες δυνατότητες που μπορεί να προσφέρει η χρήση ΤΝ στους φορείς τέτοιων επιχειρήσεων όσο και την αυξημένη ευπάθεια σε παρεμβάσεις που συνεπάγεται η εξάρτησή τους από ένα μοντέλο ΤΝ.