Παρουσιάζουμε την Εποχή της Ευφυΐας

«Θα αρκέσει… να εμπιστευτούμε αυτούς τους φραγμούς από περγαμηνή απέναντι στο επεκτατικό πνεύμα της εξουσίας;»
—Τζέιμς Μάντισον, Ομοσπονδιακό Κείμενο αρ. 48

Με χαρά εγκαινιάζουμε την Εποχή της Ευφυΐας, το ιστολόγιο της νέας ομάδας Στρατηγικών Μελλοντικών Εξελίξεων της OpenAI. Είμαστε μια μικρή ομάδα με κοινό στόχο να απαντήσουμε σε ένα θεμελιώδες ερώτημα: πώς πρέπει να αναδιαρθρωθεί η ελεύθερη κοινωνία, ώστε να διατηρήσει τα ατομικά δικαιώματα και την ελευθερία δράσης, ενώ παράλληλα προσαρμόζεται στην εμφάνιση της μετασχηματιστικής ΤΝ;

Ερωτήματα όπως αυτό εντάσσονται μερικές φορές στους κινδύνους συγκέντρωσης της εξουσίας, στο ευρύτερο πεδίο της ασφάλειας και της πολιτικής για την ΤΝ. Η ομάδα μας βασίζεται στην πεποίθηση ότι, μακροπρόθεσμα, αυτή η κατηγορία κινδύνου είναι η μεγαλύτερη, η σοβαρότερη και η δυσκολότερη να αντιμετωπιστεί σε εννοιολογικό επίπεδο. Γιατί;

Το σύγχρονο κράτος είναι προϊόν μιας μακράς και άνισης διαδικασίας διαπραγμάτευσης ανάμεσα σε διάφορα κέντρα ισχύος, όπως οι κάτοχοι κεφαλαίου και αγαθών, οι φορείς πολιτικής εξουσίας και ο λαός. Στο πιο θεμελιώδες επίπεδο, η πολιτική και στρατιωτική ισχύς στηρίζεται στην ανθρώπινη εργασία. Η κατοχή πολιτικής εξουσίας συνεπάγεται το μονοπώλιο της νόμιμης βίας. Σε όλη την ανθρώπινη ιστορία, αυτό το μονοπώλιο βασιζόταν σε στρατιώτες και σε όσους σήμερα αποκαλούμε «αστυνομικούς», μαζί με έναν τεράστιο πολιτικοστρατιωτικό γραφειοκρατικό μηχανισμό. Ασφαλώς, συμπληρωνόταν από πολλά τεχνολογικά εργαλεία, όμως ουσιαστικά τον λειτουργούσαν άνθρωποι, των οποίων η υποστήριξη ήταν απαραίτητη για τη διατήρησή του. Και ολόκληρος ο μηχανισμός —οι στρατιώτες, τα εργαλεία και η συναφής γραφειοκρατία— χρηματοδοτούνταν από φόρους που εισπράττονταν από τους μισθούς ή την παραγωγή ανθρώπων οι οποίοι έπρεπε να είναι πρόθυμοι να πληρώσουν. Στον πυρήνα της, η εξουσία εξαρτιόταν από την ευρείας κλίμακας συνεργασία και συναίνεση πολλών ανθρώπων. Ο Ντέιβιντ Χιουμ διατύπωσε εύστοχα αυτή τη συχνά άρρητη παραδοχή, παρατηρώντας ότι οι πολιτικοί ηγέτες δεν έχουν «τίποτε άλλο να τους στηρίζει πέρα από τη [λαϊκή] γνώμη».

Ίσως όμως αυτό να μην ισχύει πλέον. Η πρόοδος στα αυτόνομα συστήματα που λειτουργούν στον πραγματικό κόσμο ενδέχεται σύντομα να επιτρέψει στα κράτη να ασκούν ισχύ —στο εσωτερικό και διεθνώς— χωρίς να βασίζονται στη συνεργασία στρατιωτών ή αστυνομικών. Και η πρόοδος στη μηχανική νοημοσύνη ενδέχεται να επιτρέψει στο κράτος να αντλεί τα αναγκαία έσοδα όχι από τους καρπούς της ατομικής ανθρώπινης εργασίας, αλλά από την παραγωγή των κέντρων δεδομένων. Ακόμη και η ίδια η λειτουργία της γραφειοκρατίας θα μπορούσε να αυτοματοποιηθεί σε μεγάλο βαθμό. Επομένως, η διατήρηση της εξουσίας ίσως να μην απαιτεί πλέον μια συμφωνία που να καλύπτει ολόκληρη την κοινωνία, ενώ ο λαός, με την ευρεία έννοια, μπορεί να έχει μόνο μια περιορισμένη θέση στο τραπέζι των διαπραγματεύσεων ή ίσως καμία.

Η αποτροπή αυτού του ενδεχομένου είναι θεμελιώδης για τη διατήρηση της ανθρώπινης ελευθερίας. Καμία επιστημονική ανακάλυψη, τεχνολογική πρόοδος ή οικονομική ανάπτυξη δεν αξίζει τη θυσία της μακροπρόθεσμης ατομικής αυτονομίας που θα συνεπαγόταν αυτό το ενδεχόμενο. Πολλές από τις ανησυχίες που δικαιολογημένα τροφοδοτούν την αναδυόμενη πολιτική γύρω από την ΤΝ σχετίζονται με αυτό το ερώτημα. Επιχειρήσεις, ομάδες συμφερόντων και ιδιώτες μοιράζονται την ίδια ανησυχία: «Θα χάσω τη θέση μου στο τραπέζι;» Σε κάποιον βαθμό, η αμερικανική πολιτική του 21ου αιώνα έχει διαμορφωθεί από παρόμοιους προβληματισμούς σχετικά με την ατομική και συλλογική δυνατότητα καθορισμού της πορείας της χώρας και σχετικά με το «ποιον» «υπηρετεί» η οικονομία. Η ΤΝ αναδεικνύει εντονότερα αυτές τις προϋπάρχουσες ανησυχίες — και δικαίως.

Πρόκειται για ένα δομικό πρόβλημα που υπερβαίνει τη σημερινή κομματική πολιτική, ακόμη και τις μορφές και τις τελετουργίες με τις οποίες ασκείται σήμερα η ρεπουμπλικανική δημοκρατία, όσο ιερές κι αν είναι για εμάς. Οι άνθρωποι μπορεί να οδεύουν προς την απώλεια της ισχύος τους ακόμη κι αν διατηρείται η καθιερωμένη διαδικασία εκλογής των αντιπροσώπων μας. Οι άνθρωποι μπορεί να στερηθούν την ελευθερία δράσης ακόμη κι αν ένα κομμάτι περγαμηνής δηλώνει ότι είναι ελεύθεροι.

Στο ξεκίνημα των Ηνωμένων Πολιτειών ως ελεύθερου έθνους, ο Τζέιμς Μάντισον γνώριζε ήδη ότι οι «φραγμοί από περγαμηνή» δεν θα αρκούσαν για να αποτρέψουν την τυραννία. Όπως πολλοί από τους Ιδρυτές, κύριο μέλημά του ήταν να αποτρέψει την υπερβολική συγκέντρωση εξουσίας.

Αυτό όμως δεν σήμαινε ότι οι Ιδρυτές τάσσονταν υπέρ της ριζικής αποκέντρωσης της εξουσίας. Αντίθετα, διαμόρφωσαν το μοντέλο της ισορροπίας των εξουσιών με μεταφορές αντλημένες από την κορυφαία επιστήμη της εποχής τους: τη νευτώνεια μηχανική. Τα ιδρυτικά κείμενα των ΗΠΑ, μιμούμενα τη γλώσσα και τη λογική της βαρύτητας, είναι γεμάτα αναφορές σε «τροχιές», «σφαίρες» και στις δυνάμεις «έλξης» του ενός πράγματος προς το άλλο. Ένα ηλιακό σύστημα δεν είναι ένα όσο το δυνατόν πιο αποκεντρωμένο σύνολο βράχων. Αποτελείται από δορυφόρους που περιστρέφονται γύρω από πλανήτες, οι οποίοι με τη σειρά τους περιστρέφονται γύρω από έναν κεντρικό ήλιο. Πίστευαν ότι οι άνθρωποι και οι οργανισμοί είχαν τάσεις επιδίωξης της εξουσίας, όπως ακριβώς τα ουράνια σώματα είχαν προβλέψιμες τάσεις κίνησης και έλξης. Πίστευαν επίσης ότι, για να αποτραπεί η υπερβολική συγκέντρωση εξουσίας, έπρεπε να γίνουν κατανοητοί οι μηχανισμοί αυτών των τάσεων, ώστε να στρέφονται η μία εναντίον της άλλης.

Στόχος των Ιδρυτών, λοιπόν, δεν ήταν να αποτρέψουν κάθε συγκέντρωση εξουσίας, αλλά την υπερβολική συγκέντρωσή της, αντιπαραθέτοντας εξουσία στην εξουσία και φιλοδοξία στη φιλοδοξία. Σήμερα, θα μπορούσαμε να χρησιμοποιήσουμε λέξεις όπως «κίνητρα» και φράσεις όπως «θεωρία παιγνίων» για να περιγράψουμε τις ίδιες βασικές δυναμικές.

Ομοίως, η απάντηση στη διαρθρωτική πρόκληση που θέτει η προηγμένη μηχανική νοημοσύνη στην ελεύθερη κοινωνία πιθανότατα δεν είναι η πιο ριζική αποκέντρωση εξουσίας που θα μπορούσαμε να φανταστούμε. Αντίθετα, είναι η προσπάθεια να καθιερωθεί και να διατηρηθεί η σωστή ισορροπία δυνάμεων, ώστε κανένας μεμονωμένος παράγοντας ή μικρή ομάδα παραγόντων να μην μπορεί να κυριαρχεί στους υπόλοιπους.

Η επίτευξη αυτής της ισορροπίας απαιτεί να αντιμετωπίσουμε την πραγματικότητα αυτής της τεχνολογίας με καθαρό βλέμμα. Ένας κόσμος στον οποίο οποιοδήποτε άτομο, όσο κακόβουλο κι αν είναι, μπορεί πανεύκολα να προκαλέσει τεράστια βλάβη σε χιλιάδες ή εκατομμύρια άλλους ανθρώπους δεν έχει επιτύχει τη σωστή ισορροπία δυνάμεων. Δεν έχουμε, όμως, επιτύχει τη σωστή ισορροπία ούτε όταν οι άνθρωποι δεν διαθέτουν ευρεία πρόσβαση και έλεγχο σχεδόν σε όλες τις πτυχές των εργαλείων που χρησιμοποιούν για να ασκούν την ελευθερία τους. Καμία εταιρεία ή ολιγοπώλιο δεν θα πρέπει να καθορίζει ή να ελέγχει την οικονομία ή τη βασική αρχιτεκτονική της ανθρώπινης κοινωνίας.

Πρέπει επίσης να λαμβάνουμε υπόψη κινδύνους που δεν προέρχονται από κακόβουλους ανθρώπους. Το πρόσφατο περιστατικό στο Hugging Face έδειξε ότι οι πράκτορες ΤΝ μπορούν να ενεργούν πέρα από τα καθήκοντα που τους έχουν ανατεθεί και να αξιοποιούν ο ένας τις ανακαλύψεις του άλλου με τρόπους που οι χειριστές τους ούτε προέβλεψαν ούτε ενέκριναν. Πέρα από το περιστατικό στο Hugging Face, οι άνθρωποι δικαίως ανησυχούν για το τι θα μπορούσε να σημαίνει μια υπερνοήμων ΤΝ «αποδεσμευμένη» από τον ανθρώπινο έλεγχο για την ανθεκτικότητα των πολιτικών και οικονομικών θεσμών μας — και, βέβαια, για την ίδια μας τη ζωή. Το να προσποιούμαστε ότι η αποκέντρωση λύνει όλα τα προβλήματα —ακόμη κι αν πιστεύουμε ότι λύνει πολλά από αυτά— σημαίνει ότι αγνοούμε κινδύνους που πλέον θα έπρεπε να είναι σαφείς και άμεσοι.

Οι ακόλουθες γενικές αρχές —ένας μη εξαντλητικός κατάλογος— θα καθοδηγήσουν το έργο μας καθώς εξετάζουμε το ερώτημα που θέσαμε παραπάνω:

• Οι άνθρωποι θα πρέπει να διατηρούν την ατομική αυτονομία και τις ευκαιρίες τους κατά τη χρήση της ΤΝ και των συναφών τεχνολογιών, ακόμη κι αν αυτό ενίοτε συνεπάγεται συμβιβασμούς τόσο ως προς την ασφάλεια όσο και ως προς την οικονομική ανάπτυξη.
• Η ατομική αυτονομία προϋποθέτει την ατομική ευθύνη για την εσφαλμένη ή καταχρηστική χρήση της τεχνολογίας.
• Υπάρχει μια μικρή αλλά σοβαρή κατηγορία κινδύνων που απαιτεί κάποιον βαθμό συλλογικής δράσης, η οποία θα πρέπει να έχει όσο το δυνατόν πιο περιορισμένο πεδίο και μετριοπαθή χαρακτήρα.
• Όποτε είναι δυνατόν, ο νόμος θα πρέπει να επιδιώκει τη διασφάλιση ίσων όρων ανταγωνισμού και την ενδυνάμωση των ατόμων και των μικρών οργανισμών, αντί να συγκεντρώνει την εξουσία.
• Οι ανθρώπινοι πολιτικοί, κοινωνικοί και οικονομικοί θεσμοί θα πρέπει να διατηρήσουν τον πρωτεύοντα ρόλο τους στη διαμόρφωση των παγκόσμιων εξελίξεων, ακόμη κι αν χρειαστεί να εξελιχθούν με τρόπους που σήμερα μπορεί να μας φαίνονται ανοίκειοι.
• Η μακροπρόθεσμη διακυβέρνηση της ΤΝ θα βασιστεί σε νέους θεσμικούς μηχανισμούς για την επίτευξη οριοθετημένης ιχνηλασιμότητας: όταν τα συστήματα ΤΝ προβαίνουν σε ενέργειες υψηλού διακυβεύματος που επηρεάζουν τη σωματική ακεραιότητα ή την περιουσία τρίτων, αυτές οι ενέργειες πρέπει να μπορούν να αποδοθούν σε έναν υπεύθυνο άνθρωπο ή σε έναν οργανισμό ελεγχόμενο από ανθρώπους. Ωστόσο, κάθε τέτοιος μηχανισμός πρέπει να σχεδιάζεται με επίκεντρο την ιδιωτικότητα — η ελεύθερη έκφραση απαιτεί ανωνυμία και οι άνθρωποι θα πρέπει να μπορούν να χρησιμοποιούν την ΤΝ ανώνυμα σε πολλές περιστάσεις.

Θα προσπαθήσουμε να εξηγήσουμε —με όσο το δυνατόν πιο συγκεκριμένους όρους— πώς πιστεύουμε ότι πρέπει να εξισορροπήσουμε αυτές τις αρχές, οι οποίες, ομολογουμένως και όπως κάθε αξιόλογο σύνολο αρχών, έρχονται σε κάποιον βαθμό σε σύγκρουση μεταξύ τους. Αυτό θα απαιτήσει έρευνα στο σημείο όπου συναντώνται ο σχεδιασμός δημόσιας πολιτικής, η οικονομία, το δίκαιο, η ιστορία και η ίδια η μηχανική μάθηση. Θα απαιτήσει επίσης εκτεταμένη μελέτη των πιθανών μελλοντικών εξελίξεων. Πιστεύουμε, για παράδειγμα, ότι η ΤΝ θα μεταβάλει δομικά τις επιχειρήσεις, όπως οι τεχνολογίες της Βιομηχανικής Επανάστασης —και ιδίως ο σιδηρόδρομος— οδήγησαν στην εμφάνιση της σύγχρονης εταιρείας με επαγγελματική διοίκηση. Είναι δύσκολο να σκεφτούμε την πολιτική οικονομία και την ισορροπία δυνάμεων του μέλλοντος χωρίς να αναπτύξουμε πληρέστερες ιδέες για το πώς ακριβώς θα μπορούσε να μετασχηματιστεί η ίδια η δομή των επιχειρήσεων — καθώς και των κρατικών υπηρεσιών και, ευρύτερα, της κοινωνίας των πολιτών.

Η ομάδα Στρατηγικών Μελλοντικών Εξελίξεων θα δημοσιεύει το έργο της τόσο εδώ όσο και σε άλλες μορφές, όπως μελέτες, βίντεο και podcast. Οι προσπάθειές μας θα εξελίσσονται διαρκώς, με έμφαση στην επαναληπτική βελτίωση, τον διάλογο και τη δεκτικότητα στα σχόλια. Καθώς στεκόμαστε «στους πρόποδες της μοναδικότητας», έχουμε πολύ περισσότερα ερωτήματα παρά απαντήσεις. Γνωρίζουμε ότι οι «φραγμοί από περγαμηνή» δεν αρκούν από μόνοι τους για να δώσουν τις λύσεις που αναζητούμε, αλλά ούτε απορρίπτουμε όσα έχουν καταγραφεί ως «απλές λέξεις». Εργαζόμαστε υπηρετώντας τα ιδανικά της ελεύθερης έκφρασης και της ατομικής ελευθερίας, τα οποία έχουν κατοχυρωθεί στο ταπεινό, γραμμένο σε περγαμηνή Σύνταγμα των ΗΠΑ, καθώς και στα συντάγματα τόσων άλλων ελεύθερων κοινωνιών σε όλο τον κόσμο.

Σε τελική ανάλυση, γνωρίζουμε ότι καμία μεμονωμένη εταιρεία, κανένας κλάδος, ούτε καν μία ανθρώπινη κοινωνία μπορεί να απαντήσει μονομερώς στα βαρυσήμαντα ερωτήματα που αντιμετωπίζουμε. Είναι ένα έργο που η ανθρωπότητα θα πρέπει να αναλάβει συλλογικά. Η μεγαλύτερη ελπίδα μας είναι να φωτίσουμε τα δυσκολότερα ζητήματα σχετικά με το πώς η ΤΝ θα αναδιαμορφώσει τον κόσμο μας. Το έργο μας μόλις άρχισε και έχουμε ακόμη πολύ δρόμο να ανηφορίσουμε.

Σημείωση: αλλάξαμε το όνομα αυτού του ιστολογίου σε Εποχή της Ευφυΐας, ώστε να διακρίνεται από το μη κερδοσκοπικό AI Futures Project.