Η σιωπηρή συναίνεση
Σημείωμα του συγγραφέα: Το σημερινό δοκίμιο αποτελεί διασκευή μιας διάλεξης που έδωσε πρόσφατα ο συγγραφέας στο πλαίσιο του κύκλου διαλέξεων Vik-Bailey στο Χάρβαρντ. Η ανάρτηση αυτή εκφράζει τις προσωπικές απόψεις του συγγραφέα και όχι απαραίτητα τις απόψεις της OpenAI ή άλλων εργαζομένων της.
Σας ευχαριστώ που βρίσκεστε εδώ σήμερα. Την ώρα που μιλάμε, εκτυλίσσεται μία από τις σημαντικότερες σειρές γεγονότων στην ιστορία της κυβερνοασφάλειας: μια σειρά αποκαλύψεων κρίσιμων ευπαθειών ασφαλείας, την οποία ορισμένοι αποκαλούν «Μαύρο Οκτώβριο». Αυτές οι ευπάθειες, σε ορισμένες από τις βασικές υποδομές του διαδικτύου, εντοπίστηκαν από κορυφαία συστήματα ΤΝ. Η γνωστοποίησή τους εντάσσεται σε μια επείγουσα προσπάθεια ενίσχυσης της ασφάλειας του λογισμικού παγκοσμίως. Αυτό είναι το επείγον ζήτημα αυτού του μήνα. Τον επόμενο θα υπάρξει κάποιο άλλο. Ο εντοπισμός ευπαθειών λογισμικού είναι η δυνατότητα διττής χρήσης που διαθέτουν πλέον τα συστήματα ΤΝ. Σύντομα όμως θα υπάρξει μια άλλη, η οποία θα κινητοποιήσει τη δική της επείγουσα προσπάθεια: να αξιοποιηθεί η ωφέλιμη πλευρά της προτού κακόβουλοι παράγοντες εκμεταλλευτούν την επιβλαβή. Όλα αυτά τα επείγοντα ζητήματα αναπόφευκτα θα συμπίπτουν χρονικά, και μεγάλο μέρος αυτού που σήμερα ονομάζουμε «πολιτική για την ΤΝ» πιθανότατα θα διαμορφωθεί μέσα σε αυτή την οχλοβοή.
Δεν ήρθα όμως σήμερα να σας μιλήσω για όσα απαιτούν επείγουσα αντίδραση. Θέλω, αντίθετα, να σας μιλήσω για το πού μπορεί να κατευθύνονται τα πράγματα, αν δούμε τη μεγάλη εικόνα. Μέσα σε έναν τέτοιο καταιγισμό επειγόντων ζητημάτων, μπορεί να είναι δύσκολο να σκεφτούμε αυτά τα πιο αφηρημένα και θεωρητικά ερωτήματα. Όμως αυτά τα ερωτήματα έχουν σημασία. Χωρίς μια αίσθηση του ποια μακροπρόθεσμα σενάρια θέλουμε να πραγματοποιηθούν και ποια θέλουμε να αποφύγουμε, μπορεί να καταλήξουμε σε μια συνολική έκβαση που δεν επιθυμούμε, ακόμη κι αν σε κάθε βήμα είχαμε λάβει σοφές αποφάσεις.
Συχνά λέγεται ότι ο κλάδος της τεχνολογίας δεν έχει ένα θετικό όραμα για το πού θα μας οδηγήσουν όσα δημιουργεί. Διαφωνώ: το Σαν Φρανσίσκο και άλλα κέντρα επιχειρηματικότητας είναι γεμάτα θετικά οράματα για το τεχνολογικό μας μέλλον. Υπάρχουν πράγματι άνθρωποι που αναπτύσσουν ιπτάμενα αυτοκίνητα, αυτόνομα οχήματα, ρομπότ κάθε μεγέθους και μορφής, τεχνολογίες πυρηνικής σύντηξης και, φυσικά, τεχνητή γενική νοημοσύνη. Αυτό που μας λείπει, αντίθετα, είναι ένα θετικό όραμα για το θεσμικό μας μέλλον: πώς θα λειτουργήσουν όλα αυτά;
Αυτό όμως δεν σημαίνει ότι δεν υπάρχει θεσμικό όραμα για το μέλλον. Δυστυχώς, το όραμα που συναντώ συχνότερα δεν θα το χαρακτήριζα θετικό. Όταν διατυπώνεται, αυτό γίνεται συνήθως ψιθυριστά. Τις περισσότερες φορές όμως μένει ανείπωτο και διακρίνεται μόνο μέσα από όσα υπονοούνται. Το ονομάζω σιωπηρή συναίνεση.
Σκεφτείτε μια εταιρεία που μπορεί να κάνει σχεδόν τα πάντα χωρίς ανθρώπινη εργασία. Τα συστήματα ΤΝ της διεξάγουν έρευνα και ανάπτυξη, κάνουν ανακαλύψεις, διαπραγματεύονται συμβάσεις, κατανέμουν κεφάλαια και παράγουν προϊόντα. Ας υποθέσουμε ότι τα κάνει όλα αυτά καλύτερα από τους ανθρώπινους ανταγωνιστές της, ακόμη κι όταν εκείνοι ενισχύουν την προσπάθειά τους με ΤΝ. Αν η ανθρώπινη συμμετοχή το μόνο που κάνει είναι να επιβραδύνει την επιχείρηση, οι άνθρωποι που τη διοικούν και την κατέχουν θα έχουν ισχυρό κίνητρο να αφήσουν τα χέρια τους από το τιμόνι. Αν αυτό συμβεί σε όλη την παγκόσμια οικονομία, η λογική του ανταγωνισμού της αγοράς θα ωθήσει τους ανθρώπους να παραιτηθούν από την πρωτοκαθεδρία τους στο παγκόσμιο εμπόριο. Με τον καιρό, η αγορά μπορεί να καταλήξει να εξυπηρετεί τις απαιτήσεις των μηχανών στον ίδιο ή και σε μεγαλύτερο βαθμό απ’ ό,τι τις απαιτήσεις και τις επιθυμίες των ανθρώπων.
Τι θα συμβεί μετά, κανείς δεν ξέρει. Ίσως οι άνθρωποι να ωφεληθούν πάρα πολύ. Αν οι μηχανές υπό τις οποίες θα είχαμε υπαχθεί απέδιδαν μεγάλη εγγενή αξία στους ανθρώπους, θα μπορούσαμε να ωφελούμαστε από την εργασία τους και τον πλούτο που παράγουν. Ή ίσως, στερημένοι από οικονομική και ολοένα περισσότερο από πολιτική ισχύ, να βλέπουμε τον ρόλο μας στον κόσμο να συρρικνώνεται και την ικανότητά μας να καθορίζουμε την πορεία των παγκόσμιων εξελίξεων να μειώνεται διαρκώς. Ίσως λίγοι άνθρωποι να κατείχαν τεράστια ισχύ και πλούτο εις βάρος μιας μάζας σε μεγάλο βαθμό ανίσχυρης, ή ίσως όλοι μας να μοιραζόμασταν την ίδια μοίρα απώλειας ισχύος. Ανεξάρτητα από τις λεπτομέρειες, το κοινό νήμα που συνιστά τη σιωπηρή συναίνεση είναι το τέλος της ανθρώπινης πρωτοκαθεδρίας στον κόσμο όπως τον γνωρίζουμε.
Τίποτα σε αυτά τα σενάρια δεν απαιτεί να επαναστατήσει η ΤΝ ενάντια στους δημιουργούς της. Τίποτα δεν απαιτεί οι ιδιοκτήτες της να επιθυμούν την αποδυνάμωση των ανθρώπων. Κάθε απόφαση ανάθεσης μπορεί, από μόνη της, να έχει λογική. Συνολικά όμως, αυτές οι αποφάσεις θα μπορούσαν να δημιουργήσουν έναν κόσμο όπου οι άνθρωποι θα έχουν παραιτηθεί από τον ουσιαστικό έλεγχο μεγάλου μέρους του πολιτισμού μας. Ακόμη κι αν σημειώσουμε τεράστια πρόοδο στα δυσεπίλυτα ζητήματα της ασφάλειας και της ευθυγράμμισης της ΤΝ, και πάλι θα μπορούσαμε να βρεθούμε υποταγμένοι σε ένα νέο είδος μηχανικής οντότητας. Στην ευτυχή εκδοχή του μέλλοντος, θα μας έλεγε η σιωπηρή συναίνεση, αυτή η οντότητα θα είναι καλοσυνάτη, μια μηχανή που θα έχει ως γνώμονα το καλό των ανθρώπων. Μια μηχανή, όπως λέει το ποίημα του Brautigan, γεμάτη στοργική χάρη.
Σε αυτές τις μηχανές, μας λέει η σιωπηρή συναίνεση, θα παραδώσουμε τα κλειδιά των επιχειρήσεών μας και, ολοένα περισσότερο, των θεσμών διακυβέρνησής μας. Θα διοικούν τόσο τις επιχειρήσεις όσο και τους θεσμούς πιο αποτελεσματικά, πιο αποδοτικά, με μεγαλύτερη σοφία και καλύτερη κρίση απ’ όση μπορούμε να επιστρατεύσουμε εμείς οι άνθρωποι. Έτσι, με τον καιρό, θα αφήσουμε τα χέρια μας από το τιμόνι και θα επιτρέψουμε στις στοργικές μηχανές να αναλάβουν την οδήγηση. Θα είμαστε σαν επιβάτες σε ένα αυτοκίνητο —ένα πολύ καλό αυτοκίνητο, ίσως με ανέσεις που σήμερα ούτε ονειρευόμαστε— αλλά επιβάτες παρ’ όλα αυτά, χωρίς έλεγχο της κατεύθυνσής του. Στον βαθμό που θα εργαζόμαστε, αυτό θα γίνεται κυρίως σαν μια τελετουργία ή μια προσποίηση, κάτι που θα μοιάζει περισσότερο με παιχνίδι για να διασκεδάζει το είδος μας.
Ορισμένοι παρατηρητές θα υποστηρίξουν ότι η σιωπηρή συναίνεση βασίζεται σε μια λανθασμένη παραδοχή, επειδή εμείς οι άνθρωποι δεν ελέγχουμε ούτως ή άλλως τον κόσμο σήμερα. Και αξίζει να έχουμε υπόψη μας αυτή την κριτική: δεν υπάρχει ένα «εμείς» που αποφασίζει τι θα γίνει. Ζούμε σε έναν ριζικά αποκεντρωμένο κόσμο, είτε μας αρέσει είτε όχι. Ωστόσο, ούτε αυτή η διαπίστωση πρέπει να μας εφησυχάζει: παρότι «εμείς» δεν «ελέγχουμε» τον κόσμο, οι άνθρωποι συλλογικά πράγματι έχουν την πρωτοκαθεδρία στις παγκόσμιες υποθέσεις. Δεν υπάρχει κανένα είδος ζώου που να μας ανταγωνίζεται σοβαρά για τον έλεγχο των πόρων. Πρέπει να απορρίψουμε τη διανοητικά πρόχειρη αντίληψη ότι οι άνθρωποι μπορούν να ελέγχουν τον κόσμο από την κορυφή προς τη βάση, αλλά δεν πρέπει να συγχέουμε αυτή την απόρριψη με την άρνηση της προφανούς πραγματικότητας: ότι οι άνθρωποι, συλλογικά, είναι ο κυρίαρχος παράγοντας στη Γη.
Κάποιοι από όσους είναι πρόθυμοι να διατυπώσουν τη σιωπηρή συναίνεση πιστεύουν ότι περιγράφει ένα πραγματικά καλό μέλλον. Άλλοι δεν το πιστεύουν, αλλά έχουν παραιτηθεί, θεωρώντας το αναπόφευκτο. Η σιωπηρή συναίνεση δεν είναι συναίνεση επειδή όλοι συμφωνούν ότι είναι καλή, ούτε είναι ένα μυστικό σχέδιο όσων αναπτύσσουν την ΤΝ. Η συναίνεση έγκειται απλώς στην πεποίθηση ότι η παραίτηση από την ανθρώπινη πρωτοκαθεδρία στις παγκόσμιες υποθέσεις είναι αναπόφευκτη, ή τουλάχιστον ότι είναι πολύ δύσκολο να φανταστούμε ένα άλλο όραμα για το μέλλον που θα άντεχε πραγματικά στην παρουσία υπερευφυών μηχανών. Μπορεί κανείς να αντιτίθεται ειλικρινά σε αυτή την έκβαση και ταυτόχρονα να δυσκολεύεται να συλλάβει ένα πειστικό εναλλακτικό όραμα. Το αποκαλυπτικό στοιχείο είναι ότι αυτή η συναίνεση παραμένει ως επί το πλείστον σιωπηρή, ή στην καλύτερη περίπτωση εκφράζεται χαμηλόφωνα.
Περιφρονώ τη σιωπηρή συναίνεση. Απορρίπτω την παραίτηση από την ανθρώπινη πρωτοκαθεδρία. Απεχθάνομαι αυτή την αίσθηση του αναπόφευκτου. Υπενθυμίζω στον εαυτό μου ότι δεν θα μπορούσα να κοιτάξω το μωρό μου στα όμορφα μάτια του αν υπέκυπτα στη σιωπηρή συναίνεση. Γι’ αυτό, στη σιωπηρή συναίνεση λέω όχι. Και πιστεύω πως ήρθε η ώρα να μιλήσουμε ανοιχτά γι’ αυτήν, να ταρακουνηθούμε και να πάψουμε να αποδεχόμαστε αυτό το όραμα, τις περισσότερες φορές χωρίς καν να το συνειδητοποιούμε.
Το πρόβλημα είναι το εξής: υπάρχει λόγος που η σιωπηρή συναίνεση έγινε συναίνεση. Είναι δύσκολο να περιγράψουμε πώς οι άνθρωποι θα παραμείνουν στο τιμόνι δίπλα σε μια μηχανική νοημοσύνη που θα υπερβαίνει κατά πολύ την ανθρώπινη. Οι περισσότερες απόπειρες βασίζονται στο επιχείρημα ότι η ΤΝ είναι απλώς ένα εργαλείο, ένα μέσο αναγνώρισης μοτίβων που δεν είναι ικανό για «γνήσια κατανόηση». Φοβάμαι ότι αυτά τα επιχειρήματα δεν θα αντέξουν μπροστά στην πραγματικότητα που έρχεται. Φοβάμαι ότι αποτελούν κι αυτά μια μορφή εφησυχασμού — μια θέση που βασίζεται κυρίως στην άρνηση των δυνατοτήτων της ΤΝ, αντί για μια πεποίθηση που πηγάζει από ένα θετικό όραμα για ένα μέλλον με τους ανθρώπους στο τιμόνι. Δεν μπορούμε να λέμε ότι τα συστήματα ΤΝ στερούνται «γνήσιας κατανόησης», όταν αρχίζουν να σημειώνουν πρόοδο σε διανοητικά προβλήματα που οι άνθρωποι δεν έχουν καταφέρει να λύσουν επί δεκαετίες και αιώνες.
Γιατί, λοιπόν, πιστεύω ότι οι άνθρωποι πρέπει να διατηρήσουν την πρωτοκαθεδρία; Η εύκολη απάντηση είναι επειδή είμαι άνθρωπος, και πράγματι είμαι αμετανόητα μεροληπτικός υπέρ του ανθρώπινου είδους.
Υπάρχει όμως και κάτι βαθύτερο. Η πρωτοκαθεδρία μας δεν στηρίζεται στη διάνοιά μας, ούτε στην επ’ αόριστον διατήρηση του μονοπωλίου μας στη «γνήσια κατανόηση». Αντίθετα, η πρωτοκαθεδρία μας στηρίζεται στο παρελθόν μας.
Γιατί εμείς είμαστε εκείνοι που αναδύθηκαν από τη λάσπη. Εμείς που χτίσαμε την πρωτόγονη κοινωνία από χώμα και πέτρα. Εμείς που κοιτάξαμε τα αστέρια και ρωτήσαμε γιατί. Εμείς, με τις συγκρούσεις και την αγάπη, τον φθόνο και τη χαρά μας, που ανακαλύψαμε την ηθική, τη δεοντολογία και το δίκαιο. Εμείς είμαστε εκείνοι που τραγουδήσαμε και χορέψαμε, γράψαμε και συνθέσαμε. Εμείς δημιουργήσαμε την ιστορία και εμείς την καταγράψαμε. Αυτή η κληρονομιά είναι δική μας. Ο πολιτισμός που χτίσαμε είναι μια φλόγα που κρατήσαμε ζωντανή, και αυτή η φλόγα μάς ανήκει. Το παρελθόν μας είναι μια ένδοξη κληρονομιά που όλοι έχουμε χρέος να διαφυλάξουμε. Μέρος αυτού του χρέους είναι η συμμετοχή μας σε αυτό που ο Michael Oakeshott ονόμασε «συνομιλία της ανθρωπότητας», εκείνο το μεγαλειώδες εγχείρημα που ξεκίνησε στους αρχέγονους χρόνους.
Μέσα από αυτή τη μακρά και πολυδαίδαλη διαδρομή, χτίσαμε έναν πολιτισμό που, στην Αμερική, θεμελιώθηκε στα δικαιώματα του ατόμου, με σεβασμό στους δρόμους που χαράζει ο καθένας μας καθώς πορεύεται στον κόσμο. Οι ζωές των ανθρώπων μπορούν να εξελιχθούν καλύτερα ή χειρότερα: δρέπουμε τους καρπούς των σοφών αποφάσεών μας και υφιστάμεθα τις συνέπειες όταν σφάλλουμε. Το δικαίωμα να ακολουθεί κανείς τον δικό του δρόμο δεν εξαρτάται από το αν είναι ο πιο έξυπνος ή ο πιο σοφός. Δεν χάνω την υπόστασή μου ως πολίτη επειδή ο γείτονάς μου έχει καλύτερη κρίση. Δεν βλέπω γιατί θα έπρεπε να την καταργήσει ούτε η έλευση μιας πιο ευφυούς μηχανής. Αντίθετα, βλέπω κάθε λόγο να αποτρέψουμε μια τέτοια κατάργηση.
Κάποιοι ίσως υποστηρίξουν ότι και οι μηχανές είναι κληρονόμοι, αφού έχουν διαβάσει σχεδόν ολόκληρο το γραπτό αρχείο αυτής της κληρονομιάς. Και από μια άποψη, είναι. Όμως κάποιος που έχει διαβάσει κάθε γράμμα στη σοφίτα της οικογένειάς σας δεν γίνεται έτσι μέλος της. Τα συστήματα ΤΝ θα ενταχθούν στη συνομιλία της ανθρωπότητας, αρχικά ως παρατηρητές και ολοένα περισσότερο ως συμμετέχοντες, αλλά δεν πρέπει να κυριαρχήσουν σε αυτήν ούτε να την καταστήσουν άνευ αντικειμένου. Η εκχώρηση της πρωτοκαθεδρίας είναι προδοσία τόσο των προγόνων όσο και των απογόνων μας. Αν δεν αξίζει να δώσουμε αυτή τη μάχη, τότε καμία μάχη δεν αξίζει.
Προσωπικά, πιστεύω ότι οι υποστηρικτές της σιωπηρής συναίνεσης κάνουν λάθος για το τι θα είναι η μηχανική υπερνοημοσύνη. Ότι τους διαφεύγει κάτι σημαντικό για το πώς λειτουργεί ο κόσμος, ότι συγχέουν τη νοημοσύνη με την ισχύ. Αν περιγράφατε τις δυνατότητες ακόμη και των σημερινών συστημάτων ΤΝ σε έναν υποστηρικτή της σιωπηρής συναίνεσης πριν από πέντε ή δέκα χρόνια, πιθανότατα θα είχε προβλέψει ότι η ανεργία σήμερα θα ήταν πολύ υψηλότερη απ’ ό,τι είναι και ότι η ευρύτερη αποδυνάμωση των ανθρώπων θα είχε προχωρήσει πολύ περισσότερο απ’ ό,τι έχει πράγματι συμβεί. Πιστεύω ότι η συλλογική νοημοσύνη και οι δυνατότητες των ανθρώπων είναι πολύ μεγαλύτερες απ’ όσο υποθέτουν οι υποστηρικτές της σιωπηρής συναίνεσης και ότι οι κοινωνίες μας θα αποδειχθούν πιο ανθεκτικές απ’ όσο προβλέπουν.
Μπορεί όμως να κάνω λάθος. Μπορεί, για παράδειγμα, οι πλήρως αυτόνομες εταιρείες απλώς να εκτοπίσουν ολοκληρωτικά τις ανθρώπινες επιχειρήσεις από τον ανταγωνισμό. Και αν αυτό ισχύει, τότε η ωμή οικονομική λογική θα υπαγορεύει να παραδίδεται όλο και περισσότερο κεφάλαιο στις μηχανές. Σε αυτό το μέλλον, η αποδυνάμωση των ανθρώπων δεν απαιτεί την ανατροπή του ανθρώπινου πολιτισμού από τις μηχανές. Αρκεί να συνεχίσει αμείωτη η λογική της καπιταλιστικής επιχειρηματικής δραστηριότητας. Σε αυτή την περίπτωση, το πλησιέστερο ανάλογο της επανάστασης της ΤΝ θα ήταν η αγροτική επανάσταση, όταν νέοι τρόποι παραγωγής άλλαξαν ριζικά τη δομή της ανθρώπινης κοινωνίας. Κάθε άλλο παρά σαφές είναι ότι αυτή η μεταμόρφωση ήταν ευχάριστη για τους ανθρώπους που τη βίωσαν. Αντιθέτως, υπάρχουν ισχυρά στοιχεία ότι επιδείνωσε την ανθρώπινη ευημερία για χιλιετίες.
Δεν ξέρω αν αυτό είναι το μέλλον που μας περιμένει, και μάλιστα έχω υποστηρίξει αλλού ότι δεν το πιστεύω. Πολλοί συνάδελφοί μου όμως —έξυπνοι, ευσυνείδητοι άνθρωποι που νοιάζονται— πιστεύουν ότι αυτό είναι πιθανό να είναι το μέλλον μας. Αν έχουν δίκιο, η μάχη μας ενάντια στη σιωπηρή συναίνεση θα είναι ακόμη δυσκολότερη. Θα χρειαστεί να κολυμπήσουμε κόντρα στο ρεύμα της οικονομίας και, κάνοντάς το, να απορρίψουμε πολλά απ’ όσα αποτελούν δόγμα για τους ατομικιστές του κλασικού φιλελευθερισμού, όπως εμένα. Θα είναι ένα επικίνδυνο εγχείρημα, στο οποίο η αποτυχία κάθε άλλο παρά απίθανη είναι. Αν όμως δεν αξίζει να δώσουμε αυτή τη μάχη, τότε καμία μάχη δεν αξίζει.
Η διατήρηση της πρωτοκαθεδρίας σημαίνει ότι οι άνθρωποι και οι ανθρώπινοι θεσμοί εξακολουθούν να λογοδοτούν. Αυτό σημαίνει ότι όσοι αναπτύσσουν ΤΝ πρέπει να λογοδοτούν όταν ακολουθούν μη ασφαλείς πρακτικές ανάπτυξης, αλλά και ότι οι άνθρωποι και οι επιχειρήσεις που χρησιμοποιούν ΤΝ πρέπει να λογοδοτούν όταν η δική τους κακή χρήση ή η έλλειψη εποπτείας προκαλεί βλάβη. Αυτό απαιτεί όχι μόνο νομοθεσία, αλλά και τις τεχνικές υποδομές που καθιστούν δυνατή τη λογοδοσία. Οι πράξεις των πρακτόρων πρέπει να συνδέονται με τους ανθρώπους για λογαριασμό των οποίων ενεργούν. Οι πράκτορες που δεν συνδέονται με κάποιον άνθρωπο —αν τους επιτρέπεται καν να συμμετέχουν στη νόμιμη οικονομία— πρέπει να το κάνουν με δικλίδες ασφαλείας. Κάθε δυνατότητα των πρακτόρων να συστήνουν αυτόνομα εταιρείες, να κατέχουν περιουσία ή να προσφεύγουν στη δικαιοσύνη θα πρέπει να παραχωρείται με εξαιρετική προσοχή, αν παραχωρηθεί ποτέ.
Και στον δικό μου κλάδο, μπορούμε να αρχίσουμε να σκεφτόμαστε σοβαρά πώς θα κατασκευάσουμε ευφυείς μηχανές συμβατές με την ανθρώπινη πρωτοκαθεδρία. Μπορούμε να δημιουργήσουμε πράκτορες με κατανοητά και περιορισμένα δικαιώματα, των οποίων οι ενέργειες μπορούν να ελεγχθούν και την εξουσιοδότηση των οποίων οι χρήστες μπορούν να ανακαλέσουν. Η λογοδοσία για πράξεις που επηρεάζουν ουσιαστικά άλλους δεν χρειάζεται να συνεπάγεται παρακολούθηση της καθημερινής ιδιωτικής ζωής ή το τέλος της ανώνυμης έκφρασης. Μπορούμε να δεσμευτούμε για την προστασία της ιδιωτικότητας των χρηστών και την κυριαρχία κάθε ατόμου επί της ψηφιακής περιουσίας και των δεδομένων του, συμπεριλαμβανομένης της πρακτικής δυνατότητας να μεταφέρει αυτά τα δεδομένα αλλού. Μπορούμε να σχεδιάζουμε συστήματα που βοηθούν τους ανθρώπους να κατανοούν και να λαμβάνουν αποφάσεις, πέρα από συστήματα που εκτελούν εργασίες. Και μπορούμε να ελέγχουμε αν τα προϊόντα που δημιουργούμε ενισχύουν την ικανότητα των χρηστών τους να δρουν στον κόσμο.
Τίποτα από αυτά δεν συνιστά ολοκληρωμένο σχέδιο για μια κοινωνία με υπεράνθρωπη νοημοσύνη. Θα δυσπιστούσα απέναντι σε όποιον ισχυριζόταν ότι διαθέτει ένα τέτοιο σχέδιο. Είναι όμως μια αφετηρία.
Το μέλλον είναι τυλιγμένο σε πυκνή ομίχλη. Μπορούμε όμως να δράσουμε σήμερα. Συλλογικά, μπορούμε, καταρχάς, να μιλήσουμε ανοιχτά για τη σιωπηρή συναίνεση, να φέρουμε στο φως το περίγραμμά της. Μπορούμε, ο καθένας μας, να διευρύνουμε ριζικά τον ορίζοντα των φιλοδοξιών μας. Μπορούμε να επιλέξουμε να μην αφήσουμε την ΤΝ να μας περιορίσει, αλλά να κάνουμε τη δύσκολη δουλειά που χρειάζεται για να διευρύνει τις δυνατότητές μας. Μπορούμε να μάθουμε να θέτουμε όλο και πιο τολμηρά ερωτήματα, να εξερευνούμε τον κόσμο με νέα ορμή και πάθος, αξιοποιώντας τις ισχυρές μηχανές μας. Μπορούμε να γίνουμε ένας νέος τύπος ανθρώπου — όχι ένας υπεράνθρωπος, αλλά ένας άνθρωπος με διευρυμένες δυνατότητες.
Αυτό σκέφτομαι όταν κοιτάζω τον γιο μου, που είναι ακόμη μωρό. Δεν θέλω απλώς να τον φροντίζουν καλοπροαίρετες μηχανές, όσο άνετη ζωή κι αν μπορούν να του προσφέρουν. Θέλω να κληρονομήσει έναν κόσμο όπου θα μπορεί να θέτει ερωτήματα που κανείς δεν έχει σκεφτεί να θέσει, να δημιουργεί πράγματα που κανείς δεν έχει σκεφτεί να δημιουργήσει. Δεν θέλω να έχει ένα καλύτερο αυτοκίνητο με πιο αναπαυτικό κάθισμα συνοδηγού. Θέλω να κρατάει το τιμόνι.
- 2026


