Επιχείρηση «Ιχθυοτροφή»: δραστηριότητα φάρμας περιεχομένου ρωσικής προέλευσης

Αυτή η μελέτη περίπτωσης δημοσιεύτηκε αρχικά στην έκθεση του Φεβρουαρίου 2026⁠(ανοίγει σε νέο παράθυρο) της OpenAI για την αντιμετώπιση κακόβουλων χρήσεων της τεχνητής νοημοσύνης.

Αποκλείσαμε ένα σύνολο λογαριασμών ChatGPT που συνδέονταν με το δίκτυο «Rybar» («Рыбарь», δηλαδή «ψαράς» στα ρωσικά) στο Telegram και το X. Τουλάχιστον ορισμένοι από τους λογαριασμούς πιθανότατα προέρχονταν από τη Ρωσία. Το δίκτυο παρήγαγε περιεχόμενο που αναρτήθηκε σε διάφορα σημεία του διαδικτύου, άλλοτε από λογαριασμούς με την επωνυμία «Rybar» και άλλοτε από λογαριασμούς κοινωνικών δικτύων χωρίς δηλωμένη σχέση με το «Rybar». Ένας χρήστης ζήτησε επίσης από το ChatGPT να βοηθήσει στην κατάρτιση εμπορικών σχεδίων εκ μέρους του «Rybar» για συγκαλυμμένες εκστρατείες παρέμβασης στην Αφρική. Με βάση τον τρόπο με τον οποίο οι δρώντες χρησιμοποίησαν το ChatGPT για να τροφοδοτούν με περιεχόμενο το δίκτυο «Rybar» και άλλους αποδέκτες, ονομάσαμε αυτή την επιχείρηση «Ιχθυοτροφή».

Η κύρια δραστηριότητα που εντοπίσαμε σε αυτό το δίκτυο ήταν η παραγωγή περιεχομένου για ανάρτηση στα μέσα κοινωνικής δικτύωσης. Οι χρήστες υπέβαλλαν συνήθως προτροπές στα ρωσικά, αλλά παρήγαγαν περιεχόμενο σε διάφορες γλώσσες, κυρίως στα ρωσικά, τα αγγλικά και τα ισπανικά. Μέρος αυτού του περιεχομένου αναρτήθηκε κατόπιν στο διαδίκτυο από λογαριασμούς κοινωνικών δικτύων με την επωνυμία «Rybar» και στον κεντρικό ιστότοπο του «Rybar». Ένας χρήστης δημιούργησε επίσης βίντεο με το Sora για την προώθηση της επωνυμίας «Rybar».

Εκτός από το περιεχόμενο που παρήχθη και αναρτήθηκε στο διαδίκτυο από επώνυμους λογαριασμούς του «Rybar», ο κύριος χρήστης σε αυτή την υπόθεση παρήγαγε επίσης ομάδες σχολίων στα αγγλικά. Με τεχνικές έρευνας ανοικτών πηγών, εντοπίσαμε στο κανάλι του Rybar στο Telegram πολλές αναρτήσεις που ταυτίζονταν λέξη προς λέξη με αυτά τα σχόλια. Επάνω δεξιά, αγγλόφωνη ανάρτηση στο X με την επωνυμία Rybar. στο διαδίκτυο από διάφορους λογαριασμούς στο X και το Telegram, κανένας από τους οποίους Κάτω δεξιά, ισπανικό κείμενο και επώνυμο ενημερωτικό γράφημα του Rybar σε ισπανόφωνο δεν είχε δηλωμένη σχέση με το Rybar. Ουσιαστικά, η δραστηριότητα του ChatGPT ισπανόφωνος ιστότοπος andaluciamorisca[.]org. έμοιαζε να λειτουργεί ως φάρμα περιεχομένου για αυτούς τους λογαριασμούς. Δεν είμαστε σε θέση να επιβεβαιώσουμε ανεξάρτητα τον μηχανισμό μέσω του οποίου το περιεχόμενο που παρήχθη από ΤΝ αναρτήθηκε τελικά στο διαδίκτυο από αυτούς τους λογαριασμούς, οι οποίοι φαίνεται ότι ορισμένες φορές δημοσίευαν και περιεχόμενο που δεν είχε παραχθεί από τα μοντέλα μας.

Αξίζει να σημειωθεί ότι, σε τουλάχιστον μία περίπτωση (η οποία απεικονίζεται παρακάτω), ο κακόβουλος δρών παρήγαγε μια ομάδα επτά αναρτήσεων στο X με μία μόνο προτροπή. Εντοπίσαμε έξι από αυτές δημοσιευμένες από διαφορετικούς λογαριασμούς στο X. Σύμφωνα με τα στατιστικά στοιχεία του X, η ανάρτηση με τη μεγαλύτερη απήχηση προβλήθηκε περισσότερες από 150.000 φορές, ενώ εκείνη με τη μικρότερη μόλις 57 φορές. Ο λογαριασμός του οποίου η ανάρτηση συγκέντρωσε τις περισσότερες προβολές είχε πάνω από 600.000 ακολούθους στις 26 Ιανουαρίου 2026, ενώ ο λογαριασμός με τη λιγότερο προβεβλημένη ανάρτηση είχε 827 ακολούθους την ίδια ημερομηνία. Καθώς όλες οι αναρτήσεις δημιουργήθηκαν μαζί από μία προτροπή, αυτό υποδηλώνει ότι καθοριστικός παράγοντας για τον αριθμό των προβολών κάθε ανάρτησης ήταν πιθανότερα ο αριθμός ακολούθων του αντίστοιχου λογαριασμού και όχι το γεγονός ότι το περιεχόμενο είχε παραχθεί από ΤΝ.

Παράλληλα με την παραγωγή περιεχομένου, ο κύριος λογαριασμός της επιχείρησης ζήτησε επίσης από το ChatGPT να μεταφράσει στα αγγλικά έναν κατάλογο υπηρεσιών που το «Rybar» θα μπορούσε να προσφέρει σε μη κατονομαζόμενους πελάτες. Σε αυτές περιλαμβάνονταν η διαχείριση λογαριασμών στο X και το Telegram, ένας δίγλωσσος ιστότοπος «ερευνητικής δημοσιογραφίας» με επίκεντρο την Αφρική, πληρωμένες δημοσιεύσεις σε γαλλόφωνα μέσα ενημέρωσης και ένα δίκτυο ενίσχυσης μηνυμάτων. Σε ξεχωριστή προτροπή, ζητήθηκε από το μοντέλο να επιμεληθεί μια πρόταση για μια ομάδα παρέμβασης σε εκλογές, η οποία φαινόταν ότι είχε αναπτυχθεί στην Αφρική. Η πρόταση περιλάμβανε τόσο επιτόπιες όσο και διαδικτυακές δραστηριότητες, όπως τη δημιουργία δικτύου τοπικών συνεργατών και τη διοργάνωση εκδηλώσεων μεγάλης κλίμακας. Μια τρίτη προτροπή αφορούσε εκστρατεία ενημέρωσης με επίκεντρο τη Λαϊκή Δημοκρατία του Κονγκό (ΛΔΚ). Άλλες προτροπές περιείχαν ερωτήματα για την εκλογική διαδικασία στο Μπουρούντι και το Καμερούν και περιέγραφαν πιθανές επιλογές για μια εκστρατεία στη Μαδαγασκάρη, μεταξύ των οποίων και η υποδαύλιση επιτόπιων διαδηλώσεων. Τα σχετικά ποσά ήταν σημαντικά: ο εκτιμώμενος ετήσιος προϋπολογισμός για το πιο φιλόδοξο έργο ανερχόταν έως και σε 600.000 δολάρια.

Ο ίδιος χρήστης παρήγαγε περιστασιακά προωθητικό υλικό για ένα μέσο ενημέρωσης με την ονομασία «REST Media», το οποίο ερευνητές ανοικτών πηγών έχουν συνδέσει⁠(ανοίγει σε νέο παράθυρο) με το Rybar. Μέρος αυτού του προωθητικού υλικού αναρτήθηκε στο διαδίκτυο από τα ίδια κανάλια του Telegram που περιγράφηκαν παραπάνω. Για παράδειγμα, τον Αύγουστο, ο κύριος χρήστης του ChatGPT σε αυτή την υπόθεση εισήγαγε ένα άρθρο του REST Media, το οποίο κατηγορούσε τη Γερμανία ότι δημιουργούσε δίκτυο επιρροής στη Μολδαβία, και ζήτησε από το μοντέλο μας να παραγάγει μια σειρά σχολίων σχετικά με αυτό. Τρία από τα σχόλια αναρτήθηκαν κατόπιν στο Telegram από τρία διαφορετικά κανάλια, καθένα από τα οποία παρέπεμπε στο άρθρο του REST.

Το περιεχόμενο που παρήγαγε αυτή η επιχείρηση ήταν χαρακτηριστικό των συγκαλυμμένων ρωσικών επιχειρήσεων επιρροής που έχουν πραγματοποιηθεί όλα αυτά τα χρόνια. Κατά κανόνα, εξυμνούσε τη Ρωσία και τους συμμάχους της, όπως τη Λευκορωσία, επέκρινε την Ουκρανία και κατηγορούσε δυτικές χώρες για ξένη παρέμβαση.

Το δίκτυο Rybar έχει πολλούς ακολούθους στα μέσα κοινωνικής δικτύωσης, καθώς μόνο το κύριο ρωσόφωνο κανάλι του στο Telegram αριθμεί περίπου 1,4 εκατομμύρια συνδρομητές. Πολλοί από τους λογαριασμούς στο X και το Telegram που δημοσίευσαν το περιεχόμενο της επιχείρησης είχαν επίσης δεκάδες χιλιάδες ακολούθους. Ωστόσο, δεν παρατηρήσαμε αναπαραγωγή του περιεχομένου της από καθιερωμένα μέσα ενημέρωσης ούτε μπορέσαμε να εντοπίσουμε επιτόπια δραστηριότητα στην Αφρική που να αντιστοιχεί στην περιγραφή των εμπορικών προτάσεων.

Χρησιμοποιώντας την κλίμακα Breakout⁠(ανοίγει σε νέο παράθυρο) για τον αντίκτυπο των επιχειρήσεων επιρροής, η οποία τις βαθμολογεί από το 1 (χαμηλότερη βαθμίδα) έως το 6 (υψηλότερη), θα κατατάσσαμε αυτή την επιχείρηση στο ανώτατο άκρο της Κατηγορίας 3 (πολλαπλές κοινότητες σε πολλαπλές πλατφόρμες), λόγω της ευρείας διάδοσής της στα μέσα κοινωνικής δικτύωσης.