Επιχείρηση «Spamouflage»: δραστηριότητα επιρροής με δεσμούς με την Κίνα

Αυτή η μελέτη περίπτωσης δημοσιεύτηκε αρχικά στην έκθεση της OpenAI του Μαΐου 2024⁠(ανοίγει σε νέο παράθυρο).

Αποκλείσαμε έναν μικρό αριθμό λογαριασμών που συνδέονταν με την επιχείρηση κινεζικής προέλευσης, γνωστή ως «Spamouflage»⁠(ανοίγει σε νέο παράθυρο). Η Meta⁠(ανοίγει σε νέο παράθυρο) απέδωσε αυτή την επιχείρηση σε «άτομα που συνδέονται με τις κινεζικές αρχές επιβολής του νόμου». Το FBI⁠(ανοίγει σε νέο παράθυρο) απέδωσε μέρος της δραστηριότητας αυτής της επιχείρησης στα μέσα κοινωνικής δικτύωσης σε μονάδα του Υπουργείου Δημόσιας Ασφάλειας της Κίνας.

Αυτό το δίκτυο στόχευε κοινά σε όλο τον κόσμο, ιδίως μέλη της κινεζικής διασποράς και επικριτές της κινεζικής κυβέρνησης. Δημιουργούσε περιεχόμενο κυρίως στα κινεζικά και, σε μικρότερο βαθμό, στα αγγλικά, τα ιαπωνικά και τα κορεατικά.

Το δίκτυο χρησιμοποίησε τα μοντέλα μας για την αποσφαλμάτωση κώδικα, την αναζήτηση συμβουλών σχετικά με την ανάλυση των μέσων κοινωνικής δικτύωσης, την έρευνα ειδήσεων και τρεχουσών εξελίξεων, καθώς και τη δημιουργία περιεχομένου που στη συνέχεια δημοσιευόταν σε ιστολόγια, φόρουμ και μέσα κοινωνικής δικτύωσης.

Για παράδειγμα, το 2023 το δίκτυο χρησιμοποίησε τα μοντέλα μας για την αποσφαλμάτωση κώδικα που ρύθμιζε το θέμα WordPress ενός ιστότοπου, του revealscum.com. Αυτός ο ιστότοπος δημοσίευε στα κινεζικά επικρίσεις και προσωπικά στοιχεία μελών της κινεζικής διασποράς που ασκούσαν κριτική στην κινεζική κυβέρνηση. Αποκαλούσε αυτούς τους επικριτές «προδότες». Το ίδιο το περιεχόμενο δεν δημιουργήθηκε με τα μοντέλα μας.

Η εκστρατεία χρησιμοποίησε επίσης τα μοντέλα μας για να δημιουργήσει περιεχόμενο, το οποίο στη συνέχεια αναρτήθηκε σε πλατφόρμες κοινωνικής δικτύωσης και φόρουμ. Για παράδειγμα, στα τέλη του 2023 η επιχείρηση δημιούργησε άρθρα που κατηγορούσαν την Ιαπωνία ότι βλάπτει το θαλάσσιο περιβάλλον απορρίπτοντας λύματα από τον πυρηνικό σταθμό της Φουκουσίμα. Εντοπίσαμε τα άρθρα σε πλατφόρμες όπως οι Medium, Blogspot και ameblo.jp.

Τον Απρίλιο του 2024, η εκστρατεία δημοσίευσε μια σειρά σχολίων στα αγγλικά που επέκριναν την Κινέζα αντιφρονούσα Cai Xia. Εντοπίσαμε έναν λογαριασμό στο X που δημοσίευσε το αρχικό σχόλιο και μια ομάδα άλλων λογαριασμών που δημοσίευσαν τα υπόλοιπα σχόλια ως απαντήσεις. Δεν είδαμε κανέναν πραγματικό λογαριασμό να τους απαντά.

Η εκστρατεία χρησιμοποίησε επίσης τα μοντέλα μας για έρευνα σε ανοικτές πηγές, όπως για να μάθει πώς υποβάλλονται αιτήσεις για λογαριασμούς προγραμματιστών στα μέσα κοινωνικής δικτύωσης ή για να ζητήσει περιλήψεις αναρτήσεων επικριτών της κινεζικής κυβέρνησης.

Η χρήση τεχνητής νοημοσύνης από το δίκτυο φαίνεται ότι αντιπροσώπευε μικρό μόνο μέρος της συνολικής παραγωγής του. Για παράδειγμα, πολλοί από τους λογαριασμούς στο X και το Medium που εντοπίσαμε να δημοσιεύουν περιεχόμενο δημιουργημένο από τα μοντέλα μας είχαν αναρτήσει μεγαλύτερο όγκο περιεχομένου, το οποίο φαινόταν να έχει δημιουργηθεί χειροκίνητα στα αγγλικά και τα κινεζικά (όπως έδειχνε, μεταξύ άλλων, η μη ιδιωματική χρήση των αγγλικών). Δημοσίευσαν αυτό το περιεχόμενο τόσο πριν όσο και μετά τη δημοσίευση σχολίων που είχαν δημιουργηθεί με ΤΝ.

Μεγάλο μέρος του περιεχομένου που δημιούργησε αυτή η εκστρατεία ήταν στα κινεζικά. Τα θέματα κυμαίνονταν από την επιδοκιμασία της διεθνούς συνεργασίας της κινεζικής κυβέρνησης στον τομέα της επιβολής του νόμου έως την καταδίκη των κακοποιήσεων σε βάρος των αυτόχθονων Αμερικανών στις Ηνωμένες Πολιτείες. Μέρος του περιεχομένου επέκρινε την κυβέρνηση των ΗΠΑ και τη Microsoft επειδή αποκάλυψαν τη δραστηριότητα της κινεζικής ομάδας χάκερ που είναι γνωστή ως «Volt Typhoon».

Άλλο περιεχόμενο ήταν στα αγγλικά. Αυτό συνήθως επέκρινε επιφανείς επικριτές της κινεζικής κυβέρνησης, όπως τον ηθοποιό και ακτιβιστή για το Θιβέτ Richard Gere και την αντιφρονούσα Cai Xia. Λίγα άρθρα που δημιουργήθηκαν στα τέλη του 2023 στα αγγλικά, τα ιαπωνικά, τα κινεζικά, τα κορεατικά και τα ρωσικά κατηγορούσαν την Ιαπωνία ότι ρυπαίνει τα νερά του Ειρηνικού με τις απορρίψεις από τον πυρηνικό σταθμό της Φουκουσίμα⁠(ανοίγει σε νέο παράθυρο)—ένα πάγιο θέμα των κινεζικών επιχειρήσεων επιρροής.

Μια μικρή ομάδα δραστηριότητας επικεντρώθηκε στη δημιουργία θετικών σχολίων στα κινεζικά σχετικά με την επίσκεψη του Υπουργού Δημόσιας Ασφάλειας της Κίνας στο Ουζμπεκιστάν. Δεν είναι γνωστό να έχει ασχοληθεί ξανά το Spamouflage με αυτό το θέμα. Παρουσιάζει ενδιαφέρον υπό το πρίσμα της απόδοσης από το FBI⁠(ανοίγει σε νέο παράθυρο) μέρους της παλαιότερης δραστηριότητας αυτής της επιχείρησης στα μέσα κοινωνικής δικτύωσης στο Υπουργείο Δημόσιας Ασφάλειας της Κίνας.

Μέρος της δραστηριότητας του δικτύου φαίνεται να αντανακλούσε τα προσωπικά ενδιαφέροντα των εκπροσώπων του. Για παράδειγμα, ένας εκπρόσωπος χρησιμοποίησε τα μοντέλα μας για να ερευνήσει φακούς φωτογραφικών μηχανών. Ένας άλλος χρησιμοποίησε τα μοντέλα μας για να ολοκληρώσει κάτι που φαίνεται ότι ήταν δοκιμαστική εργασία για μέλη του Κομμουνιστικού Κόμματος Κίνας.

Το Spamouflage συγκαταλέγεται στις πιο εντατικά μελετημένες επιχειρήσεις επιρροής παγκοσμίως από τότε που περιγράφηκε για πρώτη φορά δημοσίως το 2019⁠(ανοίγει σε νέο παράθυρο). Ελάχιστη από τη δραστηριότητά του έχει αναφερθεί ότι έφτασε ποτέ σε αυθεντικά κοινά.

Η χρήση περιεχομένου που δημιουργήθηκε με ΤΝ δεν φαίνεται να άλλαξε αυτή τη δυναμική. Από τα ιστολόγια, τα άρθρα και τους λογαριασμούς μέσων κοινωνικής δικτύωσης που εντοπίσαμε στο πλαίσιο της έρευνάς μας, κανένα δεν συγκέντρωσε υψηλό αριθμό αλληλεπιδράσεων ή ακολούθων από πραγματικούς ανθρώπους. Σε ορισμένες περιπτώσεις, οι διαθέσιμες ενδείξεις δείχνουν ότι οι μόνες προβολές των αναρτήσεών τους προήλθαν από την ερευνητική μας ομάδα.

Χρησιμοποιώντας την κλίμακα Breakout⁠(ανοίγει σε νέο παράθυρο) για την αξιολόγηση του αντίκτυπου των επιχειρήσεων επιρροής, η οποία τις βαθμολογεί σε κλίμακα από το 1 (χαμηλότερο) έως το 6 (υψηλότερο), θα αξιολογούσαμε αυτή την επιχείρηση ως Κατηγορία 2: παρουσίασε δραστηριότητα αναρτήσεων σε πολλές πλατφόρμες, χωρίς όμως στοιχεία ότι ενισχύθηκε σημαντικά από άτομα εκτός του δικτύου.

Εντοπίσαμε τον ακόλουθο τομέα, ο οποίος συνδεόταν με αυτή την εκστρατεία.

• revealscum.com