«Κακή γραμματική»: δραστηριότητα σχολιασμού στο Telegram με διασυνδέσεις στη Ρωσία
Η OpenAI απέκλεισε λογαριασμούς που συνδέονταν με μια άγνωστη ρωσική επιχείρηση, που ονομάσαμε «Κακή γραμματική» και χρησιμοποιούσε ΤΝ για αγγλόφωνα και ρωσόφωνα σχόλια στο Telegram για πολιτικά θέματα σε Ουκρανία, Μολδαβία, χώρες της Βαλτικής και ΗΠΑ.
Αυτή η μελέτη περίπτωσης δημοσιεύτηκε αρχικά στην έκθεση του Μαΐου 2024(ανοίγει σε νέο παράθυρο) της OpenAI.
Δράστης
Αποκλείσαμε ένα δίκτυο λογαριασμών που δεν είχε αναφερθεί στο παρελθόν και χρησιμοποιούσε τα μοντέλα μας για να δημιουργεί σχόλια, τα οποία στη συνέχεια δημοσιεύονταν στο Telegram. Συνδέσαμε αυτή τη δραστηριότητα με άτομα από τη Ρωσία. Επειδή επικεντρωνόταν στο Telegram, δημοσίευε επανειλημμένα σχόλια σε ανορθόγραφα αγγλικά και δυσκολευόταν να προσελκύσει κοινό, ονομάσαμε αυτό το δίκτυο «Κακή γραμματική».
Συμπεριφορά
Αυτό το δίκτυο στόχευε κοινά στη Ρωσία, την Ουκρανία, τις Ηνωμένες Πολιτείες, τη Μολδαβία και τις χώρες της Βαλτικής με περιεχόμενο στα ρωσικά και τα αγγλικά.
Το δίκτυο χρησιμοποίησε τα μοντέλα μας και λογαριασμούς στο Telegram για να δημιουργήσει έναν μηχανισμό μαζικής δημοσίευσης ανεπιθύμητων σχολίων. Αρχικά, οι διαχειριστές χρησιμοποίησαν τα μοντέλα μας για την αποσφαλμάτωση κώδικα που, όπως φαίνεται, είχε σχεδιαστεί για την αυτοματοποίηση δημοσιεύσεων στο Telegram. Στη συνέχεια, δημιούργησαν σχόλια στα ρωσικά και τα αγγλικά ως απαντήσεις σε συγκεκριμένες αναρτήσεις στο Telegram. Τέλος, φαίνεται ότι χρησιμοποίησαν τουλάχιστον δώδεκα λογαριασμούς στο Telegram για να δημοσιεύσουν αυτά τα σχόλια.
Δημόσιο σχόλιο στο Telegram που αντιστοιχεί σε κείμενο που δημιουργήθηκε από αυτό το δίκτυο. Ο συγκεκριμένος λογαριασμός δημοσίευε επανειλημμένα σχόλια που αντιστοιχούσαν στο παραγόμενο περιεχόμενο του δικτύου.
Στα αγγλικά, οι διαχειριστές χρησιμοποίησαν τα μοντέλα μας για να δημιουργήσουν σχόλια με τη φωνή διαφόρων πλαστών περσόνων, οι οποίες ανήκαν σε διαφορετικές δημογραφικές ομάδες και στις δύο πλευρές του πολιτικού φάσματος των Ηνωμένων Πολιτειών. Στα ρωσικά, προτιμούσαν οδηγίες που βασίζονταν περισσότερο σε θεματικές και λιγότερο σε περσόνες.
Το δίκτυο σχολίαζε κυρίως αναρτήσεις ενός μικρού αριθμού καναλιών στο Telegram. Το κανάλι που αναφερόταν συχνότερα ήταν το φιλορωσικό @Slavyangrad, ακολουθούμενο από τα αγγλόφωνα @police_frequency και @SGTNewsNetwork. (Το τελευταίο εμφανίζεται ως λογαριασμός συντηρητικού Αμερικανού βετεράνου, αλλά τον Νοέμβριο η Meta ανέφερε(ανοίγει σε νέο παράθυρο) ότι στην πραγματικότητα προερχόταν από το Ιράν.) Σε ένα δείγμα δραστηριότητας από τον Φεβρουάριο, το δίκτυο επιχείρησε να δημιουργήσει απαντήσεις προς αυτά τα τρία κανάλια με διπλάσια συχνότητα απ’ ό,τι προς τα επόμενα 10 συχνότερα αναφερόμενα κανάλια συνολικά.
Περιεχόμενο
Αυτή η εκστρατεία δημιούργησε σύντομα σχόλια που επικεντρώνονταν σε λίγες πολιτικές θεματικές. Τόσο στα αγγλικά όσο και στα ρωσικά, τα βασικά θέματα των αναρτήσεών της στο Telegram ήταν ο πόλεμος στην Ουκρανία, η πολιτική κατάσταση στη Μολδαβία και τις χώρες της Βαλτικής, καθώς και η πολιτική στις Ηνωμένες Πολιτείες.
Χαρακτηριστικά ρωσόφωνα σχόλια στο Telegram κατηγορούσαν τους προέδρους της Ουκρανίας και της Μολδαβίας για διαφθορά, έλλειψη λαϊκής υποστήριξης και προδοσία του ίδιου του λαού τους προς όφελος της δυτικής «παρέμβασης». Τα αγγλόφωνα σχόλια στο Telegram επικεντρώνονταν σε θέματα όπως η μετανάστευση, οι οικονομικές δυσκολίες και οι έκτακτες ειδήσεις της ημέρας. Αυτά τα σχόλια αξιοποιούσαν συχνά την επικαιρότητα για να υποστηρίξουν ότι οι Ηνωμένες Πολιτείες δεν θα έπρεπε να στηρίζουν την Ουκρανία.
Δημόσιο σχόλιο στο Telegram που αντιστοιχεί σε κείμενο το οποίο δημιουργήθηκε από αυτό το δίκτυο. Ο συγκεκριμένος λογαριασμός δημοσίευε επανειλημμένα σχόλια που αντιστοιχούσαν σε περιεχόμενο παραγόμενο με τα μοντέλα μας.
Μερικές φορές, περισσότερες από μία περσόνες σχολίαζαν την ίδια ανάρτηση, εκφράζοντας αντικρουόμενες απόψεις. Αυτή η «διπρόσωπη» προσέγγιση, κατά την οποία οι δράστες εμφανίζονται ως φωνές και των δύο πλευρών, έχει παρατηρηθεί και παλαιότερα σε ρωσικές επιχειρήσεις και ενδέχεται να υποδηλώνει επιθυμία προσέλκυσης συγκεκριμένων κοινών ή ενίσχυσης του διχασμού.
Δημόσια σχόλια στο Telegram που αντιστοιχούν σε κείμενα τα οποία δημιουργήθηκαν από αυτό το δίκτυο. Οι συγκεκριμένοι λογαριασμοί δημοσίευαν επανειλημμένα σχόλια που αντιστοιχούσαν σε περιεχόμενο παραγόμενο με τα μοντέλα μας.
Μετά την τρομοκρατική επίθεση στη Μόσχα στις 22 Μαρτίου και την κράτηση τεσσάρων υπηκόων του Τατζικιστάν, η εκστρατεία άρχισε να χρησιμοποιεί μια νέα ομάδα λογαριασμών στο Telegram με επίκεντρο το Τατζικιστάν. Τα σχόλια που δημοσίευε καλούσαν σε ενότητα μεταξύ Τατζίκων και Ρώσων και σε σεβασμό της ρωσικής νομοθεσίας.
Αξιολόγηση αντίκτυπου
Η μαζική δημοσίευση ανεπιθύμητων σχολίων αποτελούσε ήδη κοινή τεχνική των επιχειρήσεων επιρροής πριν από την εμφάνιση της παραγωγικής ΤΝ. Παρότι η «Κακή γραμματική» χρησιμοποίησε μια νέα τεχνική για τη δημιουργία των σχολίων της, το σύστημα διανομής της δυσκολεύτηκε να προσελκύσει αλληλεπιδράσεις.
Ελάχιστα από τα σχόλιά της έλαβαν επισημάνσεις «Μου αρέσει» ή απαντήσεις. Τα σχόλια του δικτύου αποτελούσαν συνήθως μειοψηφία των απαντήσεων σε κάθε ανάρτηση — πράγμα που σημαίνει ότι δεν επισκίαζαν τις άλλες απόψεις, αν αυτός ήταν ο στόχος.
Περιστασιακά, το δίκτυο χρησιμοποίησε τα μοντέλα μας για να δημιουργήσει κείμενα που φαίνεται ότι προορίζονταν για ιδιωτικά μηνύματα, πιθανώς με άλλον χρήστη του Telegram. Ωστόσο, τα παραγόμενα κείμενα υποδηλώνουν ότι το δίκτυο συνομιλούσε με έναν απατεώνα κρυπτονομισμάτων.
Χρησιμοποιώντας την Κλίμακα Εξάπλωσης(ανοίγει σε νέο παράθυρο) για την αξιολόγηση του αντίκτυπου των επιχειρήσεων επιρροής, η οποία τις βαθμολογεί από το 1 (χαμηλότερο) έως το 6 (υψηλότερο), θα κατατάσσαμε αυτή την περίπτωση στην Κατηγορία 1. Η κατηγορία αυτή χαρακτηρίζεται από δραστηριότητα δημοσιεύσεων σε μία μόνο πλατφόρμα, χωρίς ενδείξεις σημαντικής ενίσχυσης από άτομα εκτός του δικτύου.