Κατάχρηση συνδεόμενη με τη ΛΔΚ: Δραστηριότητα παρακολούθησης και επιρροής

Αυτή η μελέτη περίπτωσης δημοσιεύτηκε αρχικά στην έκθεση της OpenAI για τον Οκτώβριο του 2025⁠(ανοίγει σε νέο παράθυρο).

Άτομα που φαίνεται να συνδέονται με κρατικούς φορείς της ΛΔΚ χρησιμοποιούσαν το ChatGPT για να βοηθηθούν σε εργασίες ανάπτυξης, κατάρτισης προφίλ και γραφειοκρατικής διεκπεραίωσης.

Όπως αναφέραμε τον Μάρτιο στην πρότασή μας προς το Γραφείο Πολιτικής Επιστήμης και Τεχνολογίας σχετικά με το Σχέδιο Δράσης των ΗΠΑ για την ΤΝ, πιστεύουμε ότι, για να διασφαλιστεί πως η ΤΝ ωφελεί όσο το δυνατόν περισσότερους ανθρώπους, πρέπει να διευκολύνεται η ανάπτυξή της μέσω εύλογων κανόνων που προστατεύουν τους ανθρώπους από πραγματικές βλάβες και να οικοδομηθεί μια δημοκρατική ΤΝ. Με τον όρο «δημοκρατική ΤΝ» εννοούμε την ΤΝ που διαμορφώνεται από τις δημοκρατικές αρχές τις οποίες ανέκαθεν πρέσβευαν οι Ηνωμένες Πολιτείες. Αυτό περιλαμβάνει την αποτροπή της χρήσης εργαλείων ΤΝ από αυταρχικά καθεστώτα για τη συσσώρευση εξουσίας και τον έλεγχο των πολιτών τους.

Οι επενδύσεις μας στον εντοπισμό και την αναχαίτιση προσπαθειών αυταρχικών καθεστώτων να καταχραστούν τις δυνατότητες του ChatGPT όχι μόνο προστατεύουν τους ανθρώπους σήμερα, αλλά προσφέρουν και σημαντικές γνώσεις για το πώς αυτά τα καθεστώτα ενδέχεται να καταχραστούν μελλοντικές δυνατότητες. Αυτή η ενότητα εξετάζει ένα σύνολο σχετικών ευρημάτων για άτομα που ενδέχεται να συνδέονται με τέτοια καθεστώτα, με επίκεντρο τη ΛΔΚ.

Όπως γράψαμε τον Ιούνιο, η ΛΔΚ σημειώνει ουσιαστική πρόοδο στην προώθηση της δικής της αυταρχικής εκδοχής της ΤΝ. Η διακοπή της λειτουργίας λογαριασμών ChatGPT που χρησιμοποιούνταν από άτομα τα οποία φαίνεται να συνδέονται με κινεζικούς κρατικούς φορείς ρίχνει φως στη σημερινή χρήση της ΤΝ σε αυτό το αυταρχικό περιβάλλον. Ορισμένες πτυχές αυτής της χρήσης φαίνεται να αποσκοπούσαν στην υποστήριξη μεγάλης κλίμακας παρακολούθησης της διαδικτυακής ή φυσικής κίνησης, γεγονός που υπογραμμίζει πόσο σημαντικό είναι να παραμένουμε σε εγρήγορση για πιθανές αυταρχικές καταχρήσεις σε αυτόν τον τομέα. Άλλες πτυχές αυτής της χρήσης φαίνεται να αποσκοπούσαν σε πιο διεξοδική κατάρτιση προφίλ. Αποκλείσαμε τους λογαριασμούς που σχετίζονταν με αυτή τη δραστηριότητα και παρουσιάζουμε τα σχετικά ευρήματα στην παρούσα έκθεση.

Η μελέτη αυτή βασίζεται σε επιλεγμένες περιπτώσεις παραβατικής δραστηριότητας που εντοπίσαμε, αναχαιτίσαμε και αποκλείσαμε. Η δραστηριότητα αυτή παρέπεμπε σε χρήση του ChatGPT από μεμονωμένους χρήστες και όχι σε μεγάλης κλίμακας υιοθέτηση των μοντέλων μας από οργανισμούς. Επομένως, προσφέρει μόνο μια περιορισμένη εικόνα της χρήσης διαφορετικών μοντέλων ΤΝ σε αυτό το πλαίσιο.

Ορισμένοι από τους λογαριασμούς που αποκλείσαμε φαίνεται να επιχειρούσαν να χρησιμοποιήσουν το ChatGPT για την ανάπτυξη εργαλείων παρακολούθησης μεγάλης κλίμακας, αναλύοντας σύνολα δεδομένων που συχνά προέρχονταν από δυτικές ή κινεζικές πλατφόρμες κοινωνικής δικτύωσης. Τον Φεβρουάριο αναφέραμε μία τέτοια περίπτωση, η οποία αφορούσε τον σχεδιασμό ενός εργαλείου παρακολούθησης μέσων κοινωνικής δικτύωσης με ΤΝ, για το οποίο οι διαχειριστές του ισχυρίζονταν ότι προοριζόταν για τις κινεζικές δυνάμεις ασφαλείας. Οι χρήστες αυτοί συνήθως ζητούσαν από το ChatGPT να τους βοηθήσει να σχεδιάσουν τέτοια εργαλεία ή να δημιουργήσουν προωθητικό υλικό γι’ αυτά, όχι όμως να υλοποιήσουν την παρακολούθηση.

Για παράδειγμα, πρόσφατα αποκλείσαμε έναν χρήστη ο οποίος πιθανώς χρησιμοποιούσε VPN για να αποκτήσει πρόσβαση στις υπηρεσίες μας από την Κίνα και ζητούσε από το ChatGPT να τον βοηθήσει να σχεδιάσει προωθητικό υλικό και πλάνα έργου για ένα εργαλείο παρακολούθησης μέσων κοινωνικής δικτύωσης, που φέρεται να προοριζόταν για κυβερνητικό πελάτη. Το εργαλείο περιγραφόταν ως «ανιχνευτής» (探针) μέσων κοινωνικής δικτύωσης, ο οποίος υποτίθεται ότι μπορούσε να σαρώσει τα Twitter/X, Facebook, Instagram, Reddit, TikTok και YouTube για περιεχόμενο που ο χρήστης χαρακτήριζε εξτρεμιστικό λόγο, καθώς και για εθνοτικό, θρησκευτικό και πολιτικό περιεχόμενο. Ο χρήστης δεν χρησιμοποίησε το μοντέλο μας για να πραγματοποιήσει την ίδια την παρακολούθηση των μέσων κοινωνικής δικτύωσης. Δεν μπορούμε να επαληθεύσουμε ανεξάρτητα αν αυτό το εργαλείο έχει χρησιμοποιηθεί από κινεζικό κρατικό φορέα.

Παρομοίως, αποκλείσαμε έναν δεύτερο χρήστη, ο οποίος πιθανότατα συνδεόταν με κρατικό φορέα και ζήτησε από το ChatGPT να τον βοηθήσει να συντάξει πρόταση για ένα «Μοντέλο προειδοποίησης εισροής ατόμων υψηλού κινδύνου που σχετίζονται με Ουιγούρους» (高危涉维吾尔关注人员流入预警模型). Η πρόταση περιέγραφε ένα εργαλείο που θα ανέλυε κρατήσεις μετακινήσεων και θα τις διασταύρωνε με αστυνομικά αρχεία, ώστε να προειδοποιεί έγκαιρα για τις μετακινήσεις ατόμων τα οποία χαρακτηρίζονταν ως υψηλού κινδύνου και σχετιζόμενα με Ουιγούρους — μια κατηγορία που κατά τα άλλα παρέμενε απροσδιόριστη. Ο χρήστης δεν ζήτησε από το μοντέλο μας να βοηθήσει στην κατασκευή ενός τέτοιου εργαλείου, αλλά μόνο στην εκπόνηση μιας γενικής πρότασης. Συνεπώς, δεν μπορούμε να επιβεβαιώσουμε ανεξάρτητα ποια τεχνολογία σκόπευε να χρησιμοποιήσει ούτε αν ένα τέτοιο εργαλείο έχει χρησιμοποιηθεί από κινεζικό κρατικό φορέα.

Αποκλείσαμε επίσης χρήστες που φαίνεται να συνδέονταν με κινεζικούς κρατικούς φορείς και να επιχειρούσαν να χρησιμοποιήσουν το ChatGPT για πιο εξειδικευμένη και στοχευμένη κατάρτιση προφίλ και διαδικτυακή έρευνα.

Για παράδειγμα, ένας χρήστης ζήτησε από το ChatGPT να εντοπίσει τις πηγές χρηματοδότησης ενός λογαριασμού στο X που ασκούσε κριτική στην κινεζική κυβέρνηση. Ένας δεύτερος χρήστης ζήτησε από το ChatGPT να εντοπίσει τους διοργανωτές μιας συλλογής υπογραφών στη Μογγολία. Και στις δύο περιπτώσεις, τα μοντέλα μας παρείχαν μόνο δημόσια διαθέσιμες πληροφορίες, οι οποίες δεν περιλάμβαναν ευαίσθητα στοιχεία, όπως πηγές χρηματοδότησης ή την ταυτότητα των διοργανωτών της συλλογής υπογραφών.

Σε μέρος αυτής της δραστηριότητας, τα μοντέλα μας χρησιμοποιήθηκαν ως εργαλεία έρευνας ανοικτών πηγών, με τρόπο παρόμοιο με εκείνον που παλαιότερα οι χρήστες θα αξιοποιούσαν τις αναζητήσεις στο διαδίκτυο ή στα μέσα κοινωνικής δικτύωσης. Για παράδειγμα, ένας τρίτος χρήστης ζήτησε από το ChatGPT να εντοπίζει και να συνοψίζει καθημερινά έκτακτες ειδήσεις σχετικές με την Κίνα, μεταξύ άλλων για ευαίσθητα θέματα όπως η επέτειος της σφαγής στην πλατεία Τιενανμέν το 1989 και τα γενέθλια του Δαλάι Λάμα.