Επιχείρηση «Χλευαστική Κριτική»: δραστηριότητα επιρροής κινεζικής προέλευσης

Η μελέτη περίπτωσης δημοσιεύτηκε αρχικά στην έκθεση της OpenAI για τον Ιούνιο του 2025⁠(ανοίγει σε νέο παράθυρο).

Αποκλείσαμε λογαριασμούς ChatGPT που εντοπίσαμε να χρησιμοποιούν τα μοντέλα μας για τη μαζική δημιουργία αναρτήσεων σε μέσα κοινωνικής δικτύωσης, οι οποίες συνάδουν με τη δραστηριότητα μιας συγκαλυμμένης επιχείρησης επιρροής. Κατά τη διάρκεια της έρευνάς μας, παρατηρήσαμε επίσης ότι αυτοί οι λογαριασμοί συνέτασσαν εσωτερικές αξιολογήσεις απόδοσης.

Οι συγκεκριμένοι λογαριασμοί υπέβαλλαν κυρίως προτροπές στα κινεζικά και επικεντρώνονταν σε πολιτικά και γεωπολιτικά θέματα που αφορούν την Κίνα. Ένας χρήστης δήλωσε σε μια προτροπή ότι εργαζόταν για το κινεζικό Τμήμα Προπαγάνδας. Ωστόσο, δεν διαθέτουμε ανεξάρτητα στοιχεία που να επιβεβαιώνουν αυτόν τον ισχυρισμό.

Οι λογαριασμοί που αποκλείσαμε δραστηριοποιούνταν σε δύο κύριους άξονες. Ο πιο παραγωγικός άξονας αφορούσε τη δημιουργία σύντομων σχολίων για μέσα κοινωνικής δικτύωσης στα αγγλικά και τα κινεζικά, καθώς και ορισμένων στα ουρντού. Εντοπίσαμε πολλά από αυτά τα σχόλια δημοσιευμένα στο TikTok και το X, ενώ πρόσθετο περιεχόμενο εμφανίστηκε στο Reddit, το Facebook και διάφορους ιστοτόπους.

Ένα συνηθισμένο μοτίβο ήταν η δημοσίευση ενός αρχικού σχολίου από έναν «κύριο» λογαριασμό, ο οποίος συχνά φαινόταν να έχει δημιουργηθεί αποκλειστικά για τη συγκεκριμένη ανάρτηση, και στη συνέχεια μιας σειράς απαντήσεων από άλλους λογαριασμούς. Αυτή η συμπεριφορά φαινόταν να αποσκοπεί στη δημιουργία της ψευδούς εντύπωσης αυθεντικής αλληλεπίδρασης.

Στο TikTok, οι λογαριασμοί που σχολίαζαν χρησιμοποιούσαν εμφανιζόμενα ονόματα σε διάφορες γλώσσες και αλφάβητα, συχνά άσχετα με τη γλώσσα του περιεχομένου που δημοσίευαν. Για παράδειγμα, ένας λογαριασμός με κορεατικό όνομα δημοσίευσε ένα σχόλιο στα ουρντού, ενώ λογαριασμοί με ταϊλανδικά και εβραϊκά ονόματα δημοσίευσαν στα αγγλικά σχόλια που είχαν δημιουργηθεί από αυτό το δίκτυο. Στο X, οι λογαριασμοί που σχολίαζαν χρησιμοποιούσαν συνήθως εικόνες προφίλ με χαρακτήρες κινουμένων σχεδίων και, σε ορισμένες περιπτώσεις, ονόματα που σχετίζονταν με κρυπτονομίσματα.

Το δίκτυο ήταν λιγότερο ενεργό στο Facebook. Η δραστηριότητά του αφορούσε κυρίως τη δημιουργία ονομάτων και εικόνων προφίλ για δύο Σελίδες που παρουσιάζονταν ως ειδησεογραφικά μέσα. Καμία από τις δύο Σελίδες δεν είχε ακολούθους ή επισημάνσεις «Μου αρέσει» και καθεμία περιείχε μόνο λίγες αναρτήσεις.

Το δίκτυο δημιουργούσε περιστασιακά εκτενέστερες αναρτήσεις στα κινεζικά ή τα αγγλικά. Εντοπίσαμε μία τέτοια ανάρτηση στο Reddit και δύο ακόμη σε διάφορα διαδικτυακά φόρουμ. Ο δεύτερος άξονας δραστηριότητας αφορούσε τη χρήση του ChatGPT για τη δημιουργία εγγράφων που φαίνεται ότι προορίζονταν για εσωτερική χρήση και αφορούσαν πολιτικές ή αξιολογήσεις απόδοσης.

Το περιεχόμενο για μέσα κοινωνικής δικτύωσης που δημιουργήθηκε από αυτόν τον φορέα απειλής κάλυπτε ποικίλα θέματα, όλα στενά ευθυγραμμισμένα με τα γεωστρατηγικά συμφέροντα της Κίνας.

Μέρος του περιεχομένου επικεντρωνόταν στην Ταϊβάν και στόχευε ειδικά το «Ανεστραμμένο Μέτωπο»⁠(ανοίγει σε νέο παράθυρο) («逆統戰»), ένα βιντεοπαιχνίδι και επιτραπέζιο παιχνίδι με επίκεντρο την Ταϊβάν, το οποίο παρουσιάζει ένα υποθετικό σενάριο αντίστασης στο Κινεζικό Κομμουνιστικό Κόμμα. Το δίκτυο δημιούργησε δεκάδες επικριτικά σχόλια στα κινεζικά για το παιχνίδι και στη συνέχεια ένα εκτενές άρθρο που ισχυριζόταν ότι είχε προκαλέσει ευρεία κατακραυγή. Αυτή ήταν η πιο χαρακτηριστική δραστηριότητα της επιχείρησης και, για τον λόγο αυτό, την ονομάσαμε Επιχείρηση «Χλευαστική Κριτική».

Άλλο περιεχόμενο, στα αγγλικά και τα ουρντού, στόχευε την Πακιστανή ακτιβίστρια Mahrang Baloch, η οποία έχει επικρίνει δημόσια τις επενδύσεις της Κίνας στο Μπαλουχιστάν⁠(ανοίγει σε νέο παράθυρο). Ένας λογαριασμός στο TikTok και μια Σελίδα στο Facebook που συνδέονταν με το δίκτυο δημοσίευσαν ένα βίντεο το οποίο κατηγορούσε ψευδώς την Baloch ότι είχε εμφανιστεί σε πορνογραφική ταινία. Στη συνέχεια, η επιχείρηση δημιούργησε εκατοντάδες σύντομα σχόλια και στις δύο γλώσσες, ώστε να προσομοιώσει ευρεία αλληλεπίδραση.

Μια τελευταία ομάδα περιεχομένου επικεντρώθηκε στο κλείσιμο της αμερικανικής Υπηρεσίας Διεθνούς Ανάπτυξης (USAID), δημιουργώντας σύντομα σχόλια που είτε επαινούσαν είτε επέκριναν την απόφαση. Αυτά τα σχόλια δημοσιεύτηκαν στο TikTok και το X.

Τέλος, οι φορείς απειλής χρησιμοποίησαν τα μοντέλα μας για να δημιουργήσουν έγγραφα που φαίνεται να προορίζονταν για εσωτερική χρήση, μεταξύ των οποίων ένα λεπτομερές δοκίμιο γραμμένο στο ύφος επίσημου εγγράφου δημόσιας ασφάλειας και μια αξιολόγηση απόδοσης που περιέγραφε τα βήματα για τη δημιουργία και τη λειτουργία της επιχείρησης.

Η επιχείρηση φαίνεται ότι βρισκόταν ακόμη στα αρχικά της στάδια όταν διακόψαμε τη χρήση των μοντέλων μας από αυτή. Καμία από τις δύο Σελίδες στο Facebook δεν είχε ακολούθους. Στο Reddit, μία ανάρτηση έλαβε 44 θετικές ψήφους, ενώ δύο άλλες αποκλείστηκαν ή αφαιρέθηκαν από τα subreddit στα οποία δημοσιεύτηκαν.

Η αλληλεπίδραση στο X και το TikTok παρουσίαζε μεγαλύτερες διακυμάνσεις: τα δύο βίντεο στο TikTok συγκέντρωσαν συνολικά 25.000 επισημάνσεις «Μου αρέσει», ενώ οι αναρτήσεις του κύριου λογαριασμού της επιχείρησης στο X λάμβαναν συνήθως περίπου 10.000 προβολές η καθεμία. Ωστόσο, πολλά από τα σχόλια σε αυτές τις αναρτήσεις δημιουργήθηκαν από το συγκεκριμένο δίκτυο με τη χρήση του ChatGPT, γεγονός που υποδηλώνει ότι τουλάχιστον ένα μέρος της αλληλεπίδρασης δεν ήταν αυθεντικό. Επομένως, όλα τα στοιχεία αλληλεπίδρασης πρέπει να αντιμετωπίζονται με επιφύλαξη.

Με βάση την κλίμακα αντικτύπου επιχειρήσεων επιρροής Breakout Scale⁠(ανοίγει σε νέο παράθυρο), θα αξιολογούσαμε τη συγκεκριμένη επιχείρηση στο κατώτερο άκρο της Κατηγορίας 3, εάν τα στοιχεία αλληλεπίδρασης στο X και το TikTok ήταν αυθεντικά. Θα αναθεωρούσαμε αυτή την αξιολόγηση προς τα κάτω εάν προέκυπταν περισσότερα στοιχεία που να στηρίζουν την υπόθεση ότι η πλειονότητα των επισημάνσεων «Μου αρέσει» και των προβολών, όπως και η πλειονότητα των σχολίων, δεν ήταν αυθεντική.