Διακόπτοντας μια νέα συγκεκαλυμμένη εκστρατεία επιρροής από τη Ρωσία
Αποστολή μας είναι να διασφαλίσουμε ότι η τεχνητή γενική νοημοσύνη ωφελεί ολόκληρη την ανθρωπότητα. Προωθούμε αυτή την αποστολή αξιοποιώντας τις καινοτομίες μας για την ανάπτυξη εργαλείων ΤΝ που βοηθούν τους ανθρώπους να επιλύουν δύσκολα προβλήματα. Σε αυτά περιλαμβάνονται εργαλεία που μας επιτρέπουν να εντοπίζουμε, να ερευνούμε, να διακόπτουμε και να αποκαλύπτουμε συγκεκαλυμμένες επιχειρήσεις επιρροής: παραπλανητικές απόπειρες χειραγώγησης της κοινής γνώμης ή επηρεασμού πολιτικών αποτελεσμάτων, χωρίς να αποκαλύπτονται η πραγματική ταυτότητα ή οι προθέσεις των δραστών.
Πρόσφατα αποκλείσαμε μια ομάδα λογαριασμών ChatGPT προερχόμενων από τη Ρωσία, οι οποίοι χρησιμοποιούνταν για την προώθηση του International Burke Institute (IBI), μιας αυτοαποκαλούμενης «κοινότητας ειδικών» με έδρα το Ισραήλ. Αυτό που ξεκίνησε ως έρευνα για αναρτήσεις στα μέσα κοινωνικής δικτύωσης παραγόμενες από ΤΝ μάς οδήγησε σε μια πολύ ευρύτερη επιχείρηση επιρροής, οργανωμένη γύρω από έναν ιστότοπο με αντιγραμμένες ακαδημαϊκές εργασίες που αποδίδονταν σε λάθος πρόσωπα, έναν δείκτη «κυριαρχίας» που παρουσίαζε ευνοϊκά τη Ρωσία και προσπάθειες απόκρυψης της ρωσικής προέλευσης των χειριστών. Παρότι η εκστρατεία φαίνεται ότι προσέγγισε σχετικά μικρό κοινό, η περίτεχνη οργάνωσή της την ξεχωρίζει από άλλες συνδεόμενες με τη Ρωσία(ανοίγει σε νέο παράθυρο) επιχειρήσεις(ανοίγει σε νέο παράθυρο) επιρροής(ανοίγει σε νέο παράθυρο) που έχουμε διακόψει(ανοίγει σε νέο παράθυρο) από την έναρξη του πολέμου στην Ουκρανία. Η παρούσα έκθεση επεξηγεί πώς λειτουργούσε η επιχείρηση, ποιος ήταν ο ρόλος του ChatGPT και τι κάναμε για να τη διακόψουμε.
Αποκλείσαμε μια ομάδα λογαριασμών ChatGPT που κατά πάσα πιθανότητα προέρχονταν από τη Ρωσία. Οι χειριστές έδιναν εντολές στα ρωσικά για τη δημιουργία σχολίων στα μέσα κοινωνικής δικτύωσης, τα οποία δημοσιεύονταν σε Substack, Telegram, X, Facebook και LinkedIn. Τα περισσότερα σχόλια που δημιουργούσαν ήταν στα αγγλικά και οι εκπρόσωποι έδιναν οδηγίες στο ChatGPT να αποκρύπτει κάθε γλωσσική ένδειξη της ρωσικής προέλευσής τους. Καθώς δεν επιτρέπουμε την πρόσβαση στα μοντέλα μας από τη Ρωσία, χρησιμοποιούσαν VPN για να αποκτούν πρόσβαση στην πλατφόρμα μας.
Μεγάλο μέρος του παραγόμενου περιεχομένου προωθούσε μια αυτοαποκαλούμενη «κοινότητα ειδικών» με την ονομασία International Burke Institute (IBI). Η επωνυμία IBI συνδεόταν με έναν ιστότοπο που καταχωρίστηκε τον Φεβρουάριο του 2025. Ο ιστότοπος ισχυριζόταν ότι το Ινστιτούτο είχε έδρα στο Ισραήλ. Τα άρθρα που δημοσιεύτηκαν στον ιστότοπο δεν δημιουργήθηκαν από τα μοντέλα μας. Πολλά είχαν αντιγραφεί από πραγματικές ακαδημαϊκές εργασίες, ορισμένες φορές με ψευδή απόδοση. Κάποια φαίνεται ότι συντάχθηκαν από ομιλητή σλαβικής γλώσσας και μεταφράστηκαν αυτόματα. Για παράδειγμα, το παρακάτω στιγμιότυπο από τον ιστότοπο του IBI χρησιμοποιεί μια αφύσικη φράση, η οποία εξηγείται πιθανότερα ως κυριολεκτική αυτόματη μετάφραση από σλαβική γλώσσα.
Στιγμιότυπο από άρθρο για τη Γερμανία στον ιστότοπο του IBI. Η φράση «ο συνασπισμός Svetofor» υποτίθεται ότι αναφέρεται στον συνασπισμό σοσιαλιστών, φιλελευθέρων και πρασίνων της Γερμανίας, ο οποίος, λόγω των κομματικών χρωμάτων —κόκκινο, κίτρινο και πράσινο— είναι γνωστός ως «συνασπισμός-φανάρι» ή, στα γερμανικά, «Ampelkoalition». Η λέξη «svetofor» (светофор) σημαίνει «φανάρι» σε αρκετές σλαβικές γλώσσες, μεταξύ των οποίων τα ρωσικά, ωστόσο είναι εξαιρετικά απίθανο να τη χρησιμοποιούσε αγγλόφωνος ή γερμανόφωνος για να περιγράψει τον συνασπισμό. Πιθανότατα προέκυψε από αυτόματη μετάφραση σλαβικού πρωτοτύπου.
Απ’ όσο γνωρίζουμε, πρόκειται για μια νέα συγκεκαλυμμένη εκστρατεία επιρροής που δεν είχε αναφερθεί στο παρελθόν. Το πιο αξιοσημείωτο χαρακτηριστικό της είναι η δημιουργία του «δείκτη κυριαρχίας», τον οποίο προωθούσε η φερόμενη «δεξαμενή σκέψης» για να εξυμνήσει τη Ρωσία και να δυσφημίσει δυτικές χώρες. Είναι η πρώτη φορά που διακόπτουμε επιχείρηση επιρροής συνδεόμενη με τη Ρωσία, η οποία είχε οργανωθεί με τόσο περίτεχνο τρόπο.
Η κύρια χρήση του ChatGPT από την επιχείρηση ήταν η δημιουργία αναρτήσεων στα μέσα κοινωνικής δικτύωσης που προωθούσαν άρθρα στον ιστότοπο του IBI. Εντοπίσαμε αυτές τις αναρτήσεις σε X, LinkedIn, Facebook, Substack και Telegram. Ορισμένες δημοσιεύτηκαν από λογαριασμούς που έφεραν το όνομα και το λογότυπο του IBI, ενώ άλλες φαίνονταν να προέρχονται από απλούς χρήστες —πιθανότατα μη αυθεντικούς— των οποίων η κύρια δραστηριότητα ήταν η ανάρτηση άρθρων του IBI.
Ανάρτηση στο LinkedIn που δημιουργήθηκε από αυτή την επιχείρηση και δημοσιεύτηκε στην πλατφόρμα
Παράλληλα με αυτές τις αυτοτελείς αναρτήσεις, οι εκπρόσωποι δημιουργούσαν επίσης απαντήσεις σε αναρτήσεις πραγματικών χρηστών του Substack για διάφορα θέματα. Οι απαντήσεις αυτές περιλάμβαναν συνήθως παρότρυνση να ακολουθήσουν το κανάλι του IBI και δημοσιεύονταν στο Substack από τον λογαριασμό του IBI.
Σχόλιο στο Substack που δημιουργήθηκε από αυτή την επιχείρηση ως απάντηση σε ανάρτηση στην πλατφόρμα.
Εκτός από τη δημιουργία περιεχομένου για το IBI, ένας από τους εκπροσώπους δημιούργησε αναρτήσεις στα γερμανικά, οι οποίες δημοσιεύτηκαν σε κανάλι του Telegram με την ονομασία «Lahme Ente» («κουτσή πάπια»). Οι αναρτήσεις αυτές επέκριναν συστηματικά την Ουκρανία, την ΕΕ και τη γερμανική κυβέρνηση και τάσσονταν υπέρ των καλύτερων σχέσεων με τη Ρωσία.
Ένας δεύτερος εκπρόσωπος, παράλληλα με το περιεχόμενο για το IBI, δημιούργησε λογότυπα για δώδεκα κανάλια στο Telegram —μεταξύ αυτών το Lahme Ente— τα οποία επικεντρώνονταν στη Γερμανία, στις ΗΠΑ, στη Γαλλία, στην Πολωνία και στην Τουρκία. Ορισμένα από αυτά τα κανάλια δημοσίευαν ενίοτε περιεχόμενο για το IBI ή κοινοποιούσαν αναρτήσεις του. Ο δεύτερος χειριστής ζητούσε επίσης επανειλημμένα περιλήψεις στα ρωσικά για τη δραστηριότητα αυτών των καναλιών. Ένα από τα κανάλια που επικεντρώνονταν στις ΗΠΑ και παρουσιαζόταν ως αμερικανικό μέσο διέθετε βιογραφικό με πολλαπλές ενδείξεις ότι το κείμενο δεν είχε γραφτεί από φυσικό ομιλητή.
Προφίλ του λογαριασμού «American Observer» στο Telegram. Ένας από τους χρήστες του ChatGPT σε αυτή την υπόθεση δημιούργησε εικόνα προφίλ για το κανάλι και ζήτησε επανειλημμένα περιλήψεις στη ρωσική γλώσσα. Αξιοσημείωτα είναι τα αφύσικα αγγλικά, μεταξύ άλλων η μυστηριώδης φράση (a totally unhackneyed perspective on hazzy) «μια εντελώς μη τετριμμένη οπτική για το hazzy».
Στο επίκεντρο αυτής της επιχείρησης φαινόταν να βρίσκεται το International Burke Institute (IBI), αν και η δραστηριότητα που διακόψαμε αφορούσε περιεχόμενο στα μέσα κοινωνικής δικτύωσης το οποίο προωθούσε τον ιστότοπο ή παρέπεμπε σε αυτόν, και όχι περιεχόμενο που φιλοξενούνταν απευθείας εκεί.
Ο ιστότοπος παρουσιαζόταν ως «κοινότητα ειδικών» με ταχυδρομική διεύθυνση στο Ισραήλ. Στις 17 Ιουλίου, ο ιστότοπός του ισχυριζόταν ότι διέθετε ευρύ φάσμα κορυφαίων ειδικών διεθνούς κύρους, μεταξύ των οποίων εξέχουσες προσωπικότητες όπως ο Φράνσις Φουκουγιάμα και ο Νόαμ Τσόμσκι, και δημοσίευε πληθώρα ερευνών. Ωστόσο, εξετάζοντας δείγμα 36 άρθρων που συνδέονταν με ειδικούς στον ιστότοπο του IBI και δημοσιεύτηκαν από τον Σεπτέμβριο του 2025 έως τον Μάιο του 2026, διαπιστώσαμε ότι 34 είχαν αντιγραφεί από άλλα σημεία του διαδικτύου.
Ορισμένα από αυτά τα άρθρα ήταν παλιά, ακόμη και πολλών ετών, ενώ άλλα αποδίδονταν σε λάθος συγγραφείς. Για παράδειγμα, ένα άρθρο για τον Οικονομικό Διάδρομο Κίνας-Πακιστάν φαίνεται ότι αντιγράφηκε από πρωτότυπο των εκδόσεων Cambridge University Press, ωστόσο αποδόθηκε εσφαλμένα σε καθηγήτρια του Πανεπιστημίου του Νότιγχαμ με ειδίκευση στην πολιτική της Νότιας Ασίας.
Άρθρο στον ιστότοπο του IBI(ανοίγει σε νέο παράθυρο), το οποίο αποδίδεται στην καθηγήτρια Katharine Adeney του Πανεπιστημίου του Νότιγχαμ(ανοίγει σε νέο παράθυρο) και φέρει ημερομηνία 28 Δεκεμβρίου 2025
Το πρωτότυπο άρθρο, το οποίο έγραψε ο ομότιμος καθηγητής Yunas Samad του Πανεπιστημίου του Bradford και δημοσίευσαν οι εκδόσεις Cambridge University Press(ανοίγει σε νέο παράθυρο) στις 7 Ιουλίου 2025.
Ένα άλλο άρθρο για τη διακυβέρνηση της μετανάστευσης φαίνεται ότι αντιγράφηκε από το Migration Policy Institute, ωστόσο αποδόθηκε εσφαλμένα σε Αυστραλή καθηγήτρια επιστήμης τροφίμων. Αυτή η συμπεριφορά υποδηλώνει προσπάθεια να προσδοθεί μεγαλύτερη αξιοπιστία στον ιστότοπο του IBI, μέσω ανάρτησης αυθεντικού περιεχομένου και ταυτόχρονης απόκρυψης της πραγματικής προέλευσής του.
Στιγμιότυπο οθόνης μιας σελίδας συντάκτη(ανοίγει σε νέο παράθυρο) στον ιστότοπο του IBI, η οποία περιλαμβάνει άρθρο με ημερομηνία 21 Ιανουαρίου 2026 και αποδίδεται στην Kate Howell, φερόμενη ως ειδικός στο Migration Policy Institute.
Το πρωτότυπο άρθρο, το οποίο δημοσιεύτηκε από το Migration Policy Institute(ανοίγει σε νέο παράθυρο) τον Απρίλιο του 2025 και γράφτηκε από τις Meghan Benton, Natalia Banulescu-Bogdan και Kate Hooper.
Σελίδα ομιλήτριας(ανοίγει σε νέο παράθυρο) του 2017 για την Kate Howell, η οποία είναι στην πραγματικότητα Αυστραλή καθηγήτρια χημείας τροφίμων(ανοίγει σε νέο παράθυρο), με την ίδια ακριβώς φωτογραφία που εμφανίζεται στη σελίδα του IBI.
Μαζί με αυτά τα άρθρα, ο ιστότοπος του IBI περιλάμβανε εκθέσεις για διάφορες χώρες και την κυριαρχία τους, όπως αυτή μετριόταν βάσει του δείκτη του ινστιτούτου. Αυτές δεν δημιουργήθηκαν με τα μοντέλα μας. Ορισμένες από αυτές τις εκθέσεις παρουσιάζονταν ως συγκρίσεις μεταξύ δύο χωρών. Άλλες επικεντρώνονταν σε μεμονωμένες χώρες, ιδίως σε όσες επικρίνουν τον πόλεμο της Ρωσίας στην Ουκρανία, όπως η Γαλλία και η Γερμανία, καθώς και στην Ευρωπαϊκή Ένωση. Η επιχείρηση προωθούσε παρόμοια αφηγήματα για τις Ηνωμένες Πολιτείες. Οι εκθέσεις αυτές ήταν κατά κανόνα επικριτικές, αγγίζοντας συχνά τα όρια της πολεμικής. Ενδεικτικά αποσπάσματα:
- Γαλλία(ανοίγει σε νέο παράθυρο): «Δέκα χρόνια Μακρονισμού παρήγαγαν ακριβώς το αποτέλεσμα που αναμενόταν από έναν μάνατζερ ο οποίος ήρθε στο Μέγαρο των Ηλυσίων από την Τράπεζα Rothschild: η Γαλλία ανοίχτηκε σα χρηματοκιβώτιο γεμάτο ιστορικό κεφάλαιο και τώρα εκποιείται τμηματικά».
- ΗΠΑ(ανοίγει σε νέο παράθυρο): «Ο Τραμπ έφτασε [στο Πεκίνο] με τον υπ’ αριθμόν 1 δείκτη κυριαρχίας στον κόσμο και έφυγε αφότου πρώτα προχώρησε σε σειρά ενεργειών που [...] μπορούν να χαρακτηριστούν οικειοθελής μείωση της αυτονομίας».
- Γερμανία(ανοίγει σε νέο παράθυρο): «Η Γερμανία χρειάζεται μια βιομηχανική πολιτική που να προστατεύει τις θέσεις εργασίας, όχι μόνο τις τιμές των μετοχών. Η χώρα χρειάζεται μια ειλικρινή συζήτηση για την ταυτότητα, χωρίς ταμπού και υστερίες. Χρειάζεται πραγματική στρατιωτική κυριαρχία και όχι εξάρτηση από αμερικανικές βάσεις. Και χρειάζεται πολιτικούς των οποίων η πρώτη αφοσίωση είναι προς τον γερμανικό λαό, όχι προς τα διοικητικά συμβούλια εταιρειών στη Νέα Υόρκη».
- ΕΕ(ανοίγει σε νέο παράθυρο): «Σλοβακία εναντίον Ιταλίας: Τα παράδοξα της κυριαρχίας των χωρών-ομήρων της 'Μεγάλης' Ένωσης»
Παρότι το περιεχόμενο των μέσων κοινωνικής δικτύωσης που προωθούσε το IBI δημιουργήθηκε από χρήστες του ChatGPT στη Ρωσία, οι οποίοι κατέβαλαν προσπάθειες να αποκρύψουν την προέλευσή τους, και μεγάλο μέρος του περιεχομένου στον ιστότοπο του IBI φαινόταν αντιγραμμένο από αλλού, ορισμένα διαδικτυακά ίχνη υποδηλώνουν ότι ένας μικρός αριθμός αληθινών ανθρώπων στο Ισραήλ ενδέχεται επίσης να εκπροσώπησε το IBI σε υποβολές άρθρων και σε συνέδρια. Δεν είμαστε σε θέση να προσδιορίσουμε τη σχέση μεταξύ αυτών των προσώπων, του IBI και των χειριστών στη Ρωσία.
Ο άμεσος αντίκτυπος της επιχείρησης φαίνεται ότι ήταν περιορισμένος: οι συνήθεις αναρτήσεις στα μέσα κοινωνικής δικτύωσης συγκέντρωναν λίγες μόνο προβολές και οι επίσημοι λογαριασμοί του IBI είχαν μικρό αριθμό συνδρομητών. Τα κανάλια της επιχείρησης στο Telegram φαίνεται ότι προσέλκυσαν περισσότερους συνδρομητές, συνήθως 10.000-20.000 ακολούθους το καθένα. Χρησιμοποιώντας την Κλίμακα διάδοσης(ανοίγει σε νέο παράθυρο) του Brookings για αξιολόγηση του αντικτύπου αυτής της επιχείρησης, θα την κατατάσσαμε στο κατώτερο άκρο της Κατηγορίας Τρία (πολλαπλές πλατφόρμες, με ορισμένες ενδείξεις διάδοσης σε αυθεντικό κοινό).
Ωστόσο, η σημασία της επιχείρησης έγκειται λιγότερο στο κοινό που προσέγγισε και περισσότερο στην υποδομή που είχε δημιουργήσει. Παρότι οι δράστες χρησιμοποίησαν το ChatGPT μόνο για την παραγωγή μεμονωμένων προωθητικών αναρτήσεων, αυτές παρέπεμπαν σε έναν κατά τα άλλα φαινομενικά αξιόπιστο οργανισμό, με φερόμενους ειδικούς, αναδημοσιευμένες ακαδημαϊκές εργασίες κι έναν υποτιθέμενο ιδιόκτητο δείκτη κινδύνου. Αυτό δείχνει πώς οι φορείς επιρροής μπορούν να χρησιμοποιούν την ΤΝ ως υποστηρικτικό εργαλείο στο πλαίσιο μιας ευρύτερης προσπάθειας να κατασκευάσουν επίπλαστο κύρος, να αποκρύψουν την προέλευση αφηγημάτων που ευνοούν και να δημιουργήσουν πόρους οι οποίοι θα μπορούσαν να αναπτυχθούν σε μεγαλύτερη κλίμακα με την πάροδο του χρόνου. Δείχνει επίσης πώς η υποστηρικτική χρήση της ΤΝ μπορεί να οδηγήσει στην αποκάλυψη της ευρύτερης επιχείρησης.
