Το αιώνιο συμπλήρωμα

Σημείωση των συγγραφέων: Αυτό είναι το πρώτο δοκίμιο της σειράς μας για την επόμενη οικονομία, στο πλαίσιο μιας νέας πλατφόρμας που φιλοξενεί ανεξάρτητες φωνές οι οποίες εξερευνούν ένα μέλλον με AGI. Εκφράζει τις δικές μας απόψεις, όχι εκείνες της OpenAI ή των συναδέλφων μας.

Η ανθρωπότητα έχει δει σχεδόν ως την αρχή του χρόνου.

Οι εξισώσεις μας δίνουν μια ως επί το πλείστον συνεκτική περιγραφή του σύμπαντος από τις πρώτες του στιγμές. Με τα τηλεσκόπιά μας έχουμε κοιτάξει ως τα πέρατα του κόσμου και έχουμε διακρίνει την πρώιμη ιστορία του. Γνωρίζουμε για τη γέννηση των άστρων και τον σχηματισμό των γαλαξιών.

Κι όμως, κανένας άνθρωπος δεν έχει ταξιδέψει ποτέ πέρα από τη Σελήνη.

Οι εξηγήσεις που αναζητούμε καλύπτουν όλο το σύμπαν, ενώ τα σώματά μας μόλις που έχουν απομακρυνθεί από το σπίτι μας. Ο νους μας τολμά να πάει πολύ πιο πέρα απ’ όπου φτάνουν τα χέρια μας.

Αυτή η αναντιστοιχία θα μπορούσε να σημαίνει δύο πολύ διαφορετικά πράγματα.

Η μία πιθανότητα είναι ότι δεν χρειάζεται να πάμε πολύ μακριά, ότι οι βαθύτερες αλήθειες ίσως μπορούν να κατανοηθούν από έναν και μόνο πλανήτη. Με όπλα τη φωτισμένη συλλογιστική και τα αποδοτικά όργανα, αποκαλύπτουμε το σύμπαν χωρίς να το διασχίζουμε. Σε αυτό το σενάριο, ο πολιτισμός μας προοδεύει σε βάθος αντί να επεκτείνεται σε εύρος. Αυτό θα βοηθούσε να εξηγήσουμε γιατί δεν έχουμε δει άλλη νοήμονα ζωή: ίσως ζούμε σε έναν γαλαξία γεμάτο λαμπρά μυαλά, που δεν χρειάστηκε ποτέ να επεκταθούν και να γίνουν αντιληπτά από εμάς.

Η δεύτερη πιθανότητα είναι πιο τρομακτική. Ίσως ο νους μας απλώς να έχει ξεπεράσει την ικανότητά μας να υλοποιούμε όσα σκεφτόμαστε. Κάθε επόμενο βήμα απαιτεί περισσότερο χρόνο και περισσότερους πόρους. Δεν μας λείπουν τα όνειρα, αλλά το ανθρώπινο δυναμικό για να τα πραγματοποιήσουμε.

Ο Γαλιλαίος διεύρυνε το οπτικό μας πεδίο με δύο φακούς και έναν σωλήνα. Για να το διευρύνει ξανά σήμερα, η ανθρωπότητα κατασκεύασε το διαστημικό τηλεσκόπιο James Webb: ένα παρατηρητήριο δέκα δισεκατομμυρίων δολαρίων, που διπλώθηκε μέσα σε έναν πύραυλο και στάλθηκε ένα εκατομμύριο μίλια μακριά. Τα δεκαοκτώ τεράστια τμήματα του κατόπτρου του έχουν κατασκευαστεί με ακρίβεια πενήντα νανομέτρων. Το παρατηρητήριο δημιουργήθηκε χάρη σε τριακόσιους οργανισμούς από δεκατέσσερις χώρες. Η συμβολή του Γαλιλαίου χρειάστηκε λίγες δεκάδες χέρια. Το Webb χρειάστηκε ολόκληρη στρατιά, με μια παγκόσμια οικονομία να τη στηρίζει.

Για να δούμε μακρύτερα, δεν χρειάστηκαν μόνο πιο λαμπρά μυαλά. Χρειάστηκε και μεγαλύτερη γραφειοκρατία.

Θέτουμε περισσότερα ερωτήματα απ’ όσα μπορούμε να διερευνήσουμε. Σχεδιάζουμε περισσότερα πειράματα απ’ όσα μπορούμε να εκτελέσουμε. Συλλαμβάνουμε δημιουργικές δυνατότητες ταχύτερα απ’ όσο μπορούμε να τις υλοποιήσουμε. Και σε πολλούς τομείς, όσο προχωράμε, τόσο πιο περίπλοκο γίνεται να κατασκευάσουμε όσα φανταζόμαστε.

Ο Nick Bloom και οι συν-συγγραφείς του⁠(ανοίγει σε νέο παράθυρο) μελέτησαν την παραγωγικότητα της έρευνας σε όλη την αμερικανική οικονομία. Για να συνεχίσει να ισχύει ο νόμος του Moore, απαιτούνται πλέον πάνω από δεκαοκτώ φορές περισσότεροι ερευνητές απ’ ό,τι στις αρχές της δεκαετίας του 1970. Από τη δεκαετία του 1930, η πραγματική ερευνητική προσπάθεια στο σύνολο της οικονομίας αυξήθηκε κατά είκοσι τρεις φορές, ενώ η μετρούμενη παραγωγικότητα της έρευνας μειώθηκε στο ένα τεσσαρακοστό πρώτο.

Το τεχνικό προσωπικό αυξάνεται με διπλάσιο ρυθμό⁠(ανοίγει σε νέο παράθυρο) από το επιστημονικό. Η χρήση εξειδικευμένου εξοπλισμού στην επιστήμη έχει διπλασιαστεί⁠(ανοίγει σε νέο παράθυρο) μέσα σε τέσσερις δεκαετίες. Ένα εργοστάσιο κατασκευής τσιπ σήμερα έχει πενταπλάσιο κόστος⁠(ανοίγει σε νέο παράθυρο) —και πολύ πιο εκτεταμένη λειτουργία— σε σχέση με πριν από τριάντα χρόνια.

Αυτά τα στατιστικά στοιχεία υποδηλώνουν ότι το κόστος της περαιτέρω προόδου αυξάνεται. Η οικονομία συνεχίζει να προοδεύει επειδή η τεράστια επέκταση της ερευνητικής δραστηριότητας έχει αντισταθμίσει τη μειούμενη απόδοση κάθε μονάδας της.

Αυτή η ιστορική πορεία θα έπρεπε να μας κάνει να δούμε αλλιώς την ιδιοφυΐα: όχι απομονωμένη, αλλά ως έναν συντελεστή μιας παραγωγικής διαδικασίας. Μια λαμπρή υπόθεση εξακολουθεί να χρειάζεται αποδεικτικά στοιχεία, όργανα και μέσα για να ελεγχθεί. Μια ιδέα δεν αποτελεί ακόμη πρόοδο χωρίς τα μηχανήματα και το βοηθητικό προσωπικό που θα την κάνουν πράξη.

Οι οικονομολόγοι ονομάζουν δύο συντελεστές συμπληρωματικούς όταν η αύξηση του ενός ενισχύει την αξία του άλλου. Η κορυφαία νοημοσύνη και η ικανότητα υλοποίησης των ιδεών της είναι συμπληρωματικές με αυτή την έννοια. Ένα καλύτερο τηλεσκόπιο κάνει ένα καλό αστρονομικό ερώτημα πιο πολύτιμο. Ένα καλύτερο ερώτημα κάνει το τηλεσκόπιο πιο πολύτιμο.

Ορισμένοι συμπληρωματικοί συντελεστές είναι υλικοί. Μια θεωρία περιμένει έναν επιταχυντή σωματιδίων· ένα τεχνολογικό σχέδιο περιμένει την ενέργεια και τα μηχανήματα που θα το υλοποιήσουν.

Άλλοι συμπληρωματικοί συντελεστές είναι λιγότερο ορατοί. Μια ιδέα, από μόνη της, είναι κάτι εύθραυστο. Χρειάζεται κάθε λογής θεσμούς. Νόμοι, γραφειοκρατία, μηχανισμοί χρηματοδότησης, εφοδιαστικές αλυσίδες και πολλά ακόμη συνδυάζονται για να υλοποιηθεί η ιδέα.

Μια σπουδαία ιδέα πρέπει να επιβιώσει από μια μακρά αλυσίδα σωστών επιμέρους ενεργειών σε όλους αυτούς τους θεσμούς. Ας το ονομάσουμε θεσμική νοημοσύνη: την αφανή νοημοσύνη της υλοποίησης. Η ιδιοφυΐα σχεδιάζει το μνημείο· οι θεσμοί το χτίζουν πέτρα πέτρα. Το ένα είναι λαμπρό, το άλλο μοιάζει βαρετό· και τα δύο είναι απολύτως απαραίτητα.

Μερικές φορές φανταζόμαστε την υπερνοημοσύνη ως ένα δισεκατομμύριο Αϊνστάιν. Όμως, ακόμη και ένας πολιτισμός με ένα δισεκατομμύριο Αϊνστάιν χρειάζεται τους περισσότερους από αυτούς στα λατομεία και στα λογιστήρια. Η πρωτοποριακή καινοτομία είναι δυνατή μόνο όταν ο καθημερινός κόσμος γύρω της λειτουργεί απρόσκοπτα. Η πρόοδος χρειάζεται τους πάντες: από τον τεχνίτη που συγκολλά μια βίδα του τηλεσκοπίου έως τον ασφαλιστή του δημοτικού σχολείου όπου φοίτησε ένας νοσηλευτής που φρόντισε τον αστρονόμο. Η πρόοδος στηρίζεται σε μια οικονομία που δουλεύει αδιάκοπα και την οποία συχνά αγνοούμε στις αφηγήσεις για τα μεγαλύτερα επιτεύγματά μας.

Όπως η ανθρώπινη νοημοσύνη, έτσι και η AI θα διοχετευτεί τόσο στην παραγωγή λαμπρών ιδεών όσο και στην αποτελεσματική λειτουργία των θεσμών. Το ερώτημα είναι πού θα αφιερώνει το μεγαλύτερο μέρος του χρόνου της.

Η AI ήδη διευρύνει τις δυνατότητες υλοποίησης. Γράφει κώδικα, αναζητά πληροφορίες σε άγνωστη βιβλιογραφία και μετατρέπει ένα σκίτσο σε λειτουργικό πρωτότυπο. Ιδέες που κάποτε απαιτούσαν έναν ολόκληρο οργανισμό μπορούν όλο και περισσότερο να προωθηθούν από έναν μόνο φιλόδοξο άνθρωπο.

Οι περισσότεροι επίδοξοι κινηματογραφιστές δεν αποκτούν ποτέ διακόσια εκατομμύρια δολάρια για να δοκιμάσουν τις δυνάμεις τους. Οι περισσότεροι σχεδιαστές παιχνιδιών περνούν όλη τους τη σταδιοδρομία υλοποιώντας τα δημιουργικά οράματα άλλων. Προσπαθούμε να αναδείξουμε τους πιο χαρισματικούς ανθρώπους, αλλά αναπόφευκτα αφήνουμε ταλέντα ανεκμετάλλευτα. Από αυτή τη σκοπιά, η εποχή της νοημοσύνης ξεκινά συμπληρώνοντας την ανθρώπινη εφευρετικότητα, δίνοντας σε περισσότερους από εμάς το βοηθητικό προσωπικό που χρειάζεται για να υλοποιήσουμε δικές μας ιδέες.

Αυτό θα μπορούσε να γεννήσει πλήθος ιδιαίτερων έργων, με περισσότερη δημιουργική παραγωγή έξω από τους θεσμούς που ως τώρα έλεγχαν την πρόσβαση σε αυτούς τους τομείς. Ο σπάνιος συντελεστής μετατοπίζεται από την υλοποίηση στην κριτική ικανότητα: την ικανότητα να αποφασίζεις τι αξίζει να δημιουργηθεί, ποιο ερώτημα αξίζει να τεθεί και ποια από χίλιες εύλογες κατευθύνσεις αξίζει να ακολουθηθεί.

Ίσως, όμως, η ιστορία να μη σταματά εδώ. Καθώς η AI αποκτά την ικανότητα να συλλαμβάνει μόνη της λαμπρές νέες ιδέες —κάτι που ίσως ήδη βλέπουμε σε τομείς όπως τα μαθηματικά— προσφέρει όχι μόνο εργασία, αλλά και κατευθύνσεις. Αντί να υλοποιεί ένα ανθρώπινο ερευνητικό πρόγραμμα, σχεδιάζει χιλιάδες δικά της. Οι ιδιοφυΐες της AI πολλαπλασιάζουν εκρηκτικά τις κινηματογραφικές ιδέες που αξίζει να αναπτυχθούν και τις υποθέσεις που αξίζει να ελεγχθούν. Οι ιδέες πληθαίνουν ταχύτερα απ’ όσο μπορούν να τις απορροφήσουν οι υποστηρικτικές υποδομές.

Η σημερινή AI προσφέρει μια πολυαναμενόμενη ανάσα, δίνοντας επιτέλους στις καλές μας ιδέες την ευκαιρία που τους αξίζει. Αύριο ίσως υπάρχουν τόσες καλές ιδέες, ώστε οι δυνατότητες υλοποίησης να μας λείπουν περισσότερο από ποτέ.

Τελικά, δεν γνωρίζουμε αν οι συμπληρωματικοί συντελεστές που απαιτούνται για την παραγωγική αξιοποίηση νέων ιδεών θα αυξηθούν, θα μειωθούν ή θα παραμείνουν σταθεροί. Πόση διανοητική πρόοδο μπορεί να πετύχει κανείς μόνο με τη σκέψη; Πόση γραφειοκρατία χρειάζεται η ιδιοφυΐα;

Κατά τη γνώμη μας, η απάντηση εξαρτάται από το πόσο μακριά μπορεί να φτάσει η σκέψη πριν χρειαστεί να έρθει ξανά σε επαφή με την πραγματικότητα.

Περιγράφουμε δύο πιθανές διαδρομές. Η πρώτη είναι ένας πολιτισμός βάθους, στον οποίο η υπερνοημοσύνη υπερβαίνει την ανάγκη για περισσότερο υλικό κεφάλαιο και γραφειοκρατικό συντονισμό. Η δεύτερη είναι ένας πολιτισμός εύρους, στον οποίο η πολυπλοκότητα της φύσης ξεπερνά την ικανότητα οποιασδήποτε νοημοσύνης —ανθρώπινης ή μηχανικής— να προοδεύει χωρίς μεγάλα και όλο πιο σύνθετα πειράματα στον πραγματικό κόσμο.

Η ανθρώπινη ιστορία υποδηλώνει ότι, μέχρι τώρα, η ανάγκη για συμπληρωματικές δυνατότητες αυξάνεται. Το τηλεσκόπιο του Γαλιλαίου χωρούσε στα χέρια του· το Webb χρειάστηκε έναν ολόκληρο πολιτισμό. Μια μικρή ομάδα των Bell Labs συναρμολόγησε το πρώτο τρανζίστορ σε έναν πάγκο εργασίας· σήμερα, οι πιο προηγμένες εξελίξεις στα τσιπ προκύπτουν από μια περίπλοκη παγκόσμια εφοδιαστική αλυσίδα. Κάθε βήμα πιο μακριά επιστρατεύει όλο και μεγαλύτερο μέρος του πολιτισμού.

Αυτή η ιστορική πορεία, όμως, δεν προδικάζει το μέλλον. Τα ευφυή μυαλά μπορούν να επινοήσουν αποδοτικότερους συμπληρωματικούς συντελεστές. Αν η ενέργεια περιορίζει έναν νέο επιταχυντή σωματιδίων, η ιδιοφυΐα μπορεί να επινοήσει έναν λιγότερο απαιτητικό επιταχυντή ή έναν καλύτερο τρόπο άντλησης ενέργειας.

Η ιδιοφυΐα μπορεί επίσης να υποκαταστήσει ορισμένους από τους συμπληρωματικούς της συντελεστές. Ο Αϊνστάιν μπόρεσε να φτάσει στη σχετικότητα με τη σκέψη του, βασισμένος σε ελάχιστα εμπειρικά δεδομένα. Εμείς θα χρειαζόμασταν πολύ περισσότερα. Κάποιοι θυμούνται απλώς όλες τις υποχρεώσεις τους· οι περισσότεροι στηριζόμαστε στη γραφειοκρατία του Ημερολογίου Google.

Η ιδιοφυΐα μπορεί επίσης να τελειοποιήσει την κριτική ικανότητα, επιλέγοντας τις καλύτερες υποθέσεις για έλεγχο και αποφεύγοντας αποτυχίες που σπαταλούν πόρους. Αν κάθε πρόσθετη ιδιοφυΐα βελτιώνει το σχέδιο, ακόμη κι αν απαιτούνται όλο και μεγαλύτερες γραφειοκρατίες, θα συνεχίζαμε να επενδύουμε πολύ στην ιδιοφυΐα, ακριβώς επειδή η υλοποίηση κοστίζει υπερβολικά για να σπαταλιέται σε λάθος στόχους.

Καμία διαδρομή δεν θα περιγράψει απόλυτα το πραγματικό μας μέλλον, αλλά μπορούμε να τις δούμε ως δύο πιθανές κατευθύνσεις για τον πολιτισμό μας.

Η νοημοσύνη μπορεί να προωθήσει τη γνώση με τρεις τρόπους. Μπορεί να συλλογίζεται με βάση αρχές. Μπορεί να αντλεί νέα συμπεράσματα από υπάρχοντα στοιχεία. Ή μπορεί να συλλέγει νέα στοιχεία, παρατηρώντας τον κόσμο και παρεμβαίνοντας σε αυτόν.

Ο πρώτος τρόπος μπορεί να φτάσει μακριά μόνο με τη σκέψη. Τα μαθηματικά είναι το πιο καθαρό παράδειγμα. Στα πολλά σταυροδρόμια μιας απόδειξης ή ενός έργου, ένας ισχυρός νους μπορεί να παίρνει σταθερά τη σωστή απόφαση. Αντικαθιστά χρόνια άκαρπης αναζήτησης με μια σύντομη, πιο στοχευμένη αλυσίδα συλλογιστικής.

Και ο δεύτερος τρόπος προσφέρει ένα ανεξερεύνητο πεδίο για γρήγορη πρόοδο. Η ανθρωπότητα έχει συλλέξει πολύ περισσότερα στοιχεία απ’ όσα έχει κατανοήσει. Η μελέτη των δεδομένων μας —αστρονομικών εικόνων, παρασκευασμάτων μικροσκοπίου, σχολίων στο διαδίκτυο— έχει περιοριστεί από τη σπανιότητα της ανθρώπινης νοημοσύνης. Τα επιστημονικά αρχεία περιέχουν παρατηρήσεις που καταγράφηκαν για να απαντήσουν σε ένα ερώτημα, αλλά μπορεί να κρύβουν απαντήσεις σε πολλά άλλα. Η άφθονη ιδιοφυΐα μπορεί να κάνει ανακαλύψεις όχι συλλέγοντας κάτι νέο, αλλά βλέποντας όσα υπήρχαν ήδη. Ίσως βρει ένα νέο σύμπαν χωρίς να συλλέξει ούτε ένα νέο φωτόνιο.

Ο τρίτος τρόπος δεν είναι τόσο εύκολος, επειδή απαιτεί να αλληλεπιδράσουμε με τον φυσικό κόσμο. Οι φυσικές διεργασίες χρειάζονται χρόνο και συχνά ελάχιστα μπορούμε να κάνουμε για να τις επιταχύνουμε. Οι χημικές ουσίες πρέπει να αντιδράσουν. Οι οργανισμοί πρέπει να αναπτυχθούν. Οι μηχανές πρέπει να κατασκευαστούν. Τα διαστημόπλοια πρέπει να διανύσουν πραγματικές αποστάσεις, υπό τους περιορισμούς ταχύτητας του σύμπαντος. Ακόμη και ένας τέλειος νους δεν μπορεί να παρατηρήσει το αποτέλεσμα ενός πειράματος που δεν έχει γίνει.

Μπορεί όμως να προσπαθήσει. Ένας πολιτισμός βάθους δεν θα απαλλασσόταν από την ανάγκη να συμβουλεύεται την πραγματικότητα. Θα το έκανε όμως με ριζικά μεγαλύτερη οικονομία πόρων. Η καλύτερη συλλογιστική θα εντόπιζε τα λίγα πειράματα που έχουν πραγματικά σημασία. Οι προσομοιώσεις θα έδιναν τις περισσότερες απαντήσεις και θα εντόπιζαν την ακριβή αβεβαιότητα που πρέπει να λύσει η πραγματικότητα. Η υπερνοημοσύνη μπορεί να μεγιστοποιήσει την αποδοτικότητα, σχεδιάζοντας με βάση τους περιορισμένους πόρους της ώστε να τους αξιοποιεί στο έπακρο.

Φανταστείτε ένα εργαστήριο αστροφυσικής με μια σειρά υποθέσεων για τη σκοτεινή ύλη. Αρχικά, οι υποθέσεις αυτές εξετάζονται μέσω υπερρεαλιστικής υπολογιστικής μοντελοποίησης. Ελέγχεται αν κάθε θεωρία συμφωνεί με όλα τα υπάρχοντα δεδομένα. Μόνο αφού ολοκληρωθούν όλα αυτά λαμβάνονται λίγες στοχευμένες νέες εικόνες του ουρανού, για να ελεγχθούν οι πιο υποσχόμενες θεωρίες. Ο πολιτισμός εξακολουθεί να χρειάζεται τους συμπληρωματικούς συντελεστές της ιδιοφυΐας, αλλά κάθε μονάδα τους αποδίδει πολύ μεγαλύτερη αξία.

Η πορεία μας προς έναν πολιτισμό βάθους ίσως μοιάζει με τη συναρμολόγηση ενός παζλ. Η πρόοδος είναι εύκολη στην αρχή, εύκολη στο τέλος και πιο δύσκολη στη μέση. Στην αρχή υπάρχουν προφανή κομμάτια του περιγράμματος και κομμάτια που ταιριάζουν εύκολα. Ύστερα αυτά εξαντλούνται, ενώ έχει σχηματιστεί πολύ μικρό μέρος της εικόνας για να μας καθοδηγήσει στην υπόλοιπη. Προς το τέλος, τα κενά που απομένουν σχεδόν σου λένε από μόνα τους τι ταιριάζει σε αυτά. Μια σχεδόν ολοκληρωμένη επιστήμη ίσως φτάνει στις τελευταίες ανακαλύψεις της ευκολότερα απ’ ό,τι φτάνουμε εμείς σε όσες παλεύουμε να κάνουμε σήμερα.

Αυτό είναι γνώριμο φαινόμενο στην επιστήμη. Ο Μεντελέγιεφ μπορούσε να περιγράψει στοιχεία που δεν είχαν ανακαλυφθεί, επειδή ο υπόλοιπος περιοδικός πίνακας περιόριζε τις δυνατότητες για όσα έλειπαν. Το Καθιερωμένο Πρότυπο έδωσε στους φυσικούς λόγους να αναμένουν το μποζόνιο Χιγκς δεκαετίες πριν το παρατηρήσουμε. Τα πειράματά μας στόχευαν στην αναζήτηση όσων περιμέναμε να δούμε: όσων συμφωνούσαν με την υπάρχουσα θεωρία και τα δεδομένα.

Η υπερνοημοσύνη ίσως δημιουργήσει έναν πολιτισμό βάθους κατανοώντας τόσο καλά τα μοτίβα του κόσμου, ώστε να γνωρίζει ακριβώς ποια νέα δεδομένα χρειάζεται. Θα προωθούσε την πρόοδο μέσα από βαθύτερη σκέψη, χωρίς να εξαρτάται από την αργή πορεία της υλικής επέκτασης.

Αν αυτά τα κέρδη αποδοτικότητας επικρατήσουν, ο πολιτισμός θα μπορούσε γρήγορα να εμβαθύνει τον έλεγχό του πάνω στη φύση, με μικρότερη ανάγκη θεσμικής νοημοσύνης για τη διαχείριση τεράστιων νέων πειραματικών υποδομών. Η υλική του παρουσία ίσως παραμείνει μικρή, ενώ η σοφία του ωριμάζει.

Εμείς οι άνθρωποι έχουμε ήδη κατανοήσει τόσα για το σύμπαν μας χωρίς να φύγουμε ποτέ από το σπίτι μας. Ο πολιτισμός βάθους θα συνέχιζε αυτή την παράδοση.

Όμως η ανάγκη για νέα στοιχεία μπορεί να ξεπεράσει αυτά τα κέρδη αποδοτικότητας. Η νοημοσύνη ίσως μειώνει το κόστος κάθε προσφυγής στην πραγματικότητα, ανακαλύπτοντας ταυτόχρονα πολύ περισσότερους λόγους για να προσφεύγουμε σε αυτήν. Τα καλύτερα όργανα ανοίγουν δρόμους σε πιο λεπτομερή εξερεύνηση. Τα ταχύτερα πειράματα μπορούν να κάνουν επιπλέον πειράματα να αξίζουν τον κόπο.

Αν η σχεδόν αμιγώς νοητική πορεία του Αϊνστάιν προς τις θεωρίες της σχετικότητας αποτελεί χαρακτηριστικό παράδειγμα ενός πολιτισμού βάθους, η βιολογία ίσως προεικονίζει καλύτερα έναν πολιτισμό εύρους. Παρά όλη τη γνώση που έχουμε συσσωρεύσει και όλα τα δεδομένα που έχουμε αξιοποιήσει, τα νέα φάρμακα πρέπει ακόμη να δοκιμάζονται σε μεγάλο αριθμό ανθρώπων για να γνωρίζουμε ότι είναι ασφαλή και αποτελεσματικά. Οι μηχανές μπορούν πλέον να προσομοιώνουν βιολογικές διεργασίες, επιτρέποντας στους βιολόγους να δοκιμάζουν νέα φάρμακα σε υπολογιστή αντί σε φυσικά πειράματα. Αυτές οι ψηφιακές προσομοιώσεις, όμως, δεν αποτυπώνουν τον πραγματικό κόσμο με αρκετή πιστότητα ώστε να υποκαταστήσουν τις δοκιμές μεγάλης κλίμακας σε ανθρώπους. Όσο περισσότερα υποψήφια φάρμακα προτείνει η μηχανή, τόσο περισσότερο η εμπειρική δοκιμή γίνεται περιοριστικός παράγοντας.

Σε έναν πολιτισμό εύρους, η ιδιοφυΐα από μόνη της δεν αρκεί για την πρόοδο. Η ανάγκη μας για υλικούς πόρους —και για μια γραφειοκρατία που θα διαχειρίζεται τη χρήση τους— αυξάνεται ταχύτερα απ’ όσο ένας ευφυής νους μπορεί να περιορίσει τις απαιτήσεις σε καθένα από τα δύο.

Αυτή μπορεί να είναι η πορεία μας ακόμη κι αν τα μελλοντικά συστήματα AI ξεπεράσουν κατά πολύ την ανθρώπινη νοημοσύνη. Μια υπερνοημοσύνη θα μπορούσε να σχεδιάσει πειράματα ενός αιώνα μέσα σε ένα απόγευμα και ύστερα να περάσει τον αιώνα περιμένοντας τη φύση και τα μηχανήματα να τα ολοκληρώσουν. Σε έναν τέτοιο κόσμο, έχει μεγαλύτερη αξία να επενδύουμε νοημοσύνη στις θεσμικές διαδικασίες που απαιτούνται για την υλοποίηση ιδεών παρά στην ίδια την παραγωγή τους.

Αυτό θα εντείνεται σωρευτικά αν κάθε επόμενο βήμα απαιτεί όλο και περισσότερες υποστηρικτικές υποδομές.

Εδώ θα βλέπαμε αναλογικά λιγότερη σκέψη και περισσότερες κατασκευές. Τα εργαστήρια αυτοματοποιούνται. Τα εργοστάσια πολλαπλασιάζονται. Η παραγωγή ενέργειας αυξάνεται. Η θεσμική νοημοσύνη κυριαρχεί, για να γίνουν όλα αυτά πραγματικότητα. Η υλική επέκταση γίνεται η κινητήρια δύναμη της γνώσης και ο πολιτισμός εξαπλώνεται επειδή τα ερωτήματά του έχουν ξεπεράσει τα μέσα που διαθέτει για να βρει απαντήσεις. Περισσότερα υλικά, περισσότερη ενέργεια, περισσότερα δεδομένα για να συνεχίσει.

Μια σφαίρα Dyson είναι μια ακραία εικόνα αυτού του μέλλοντος. Ο σχεδιασμός της απαιτεί εξαιρετικά καινοτόμες ανακαλύψεις, αλλά το μεγαλύτερο μέρος του έργου δεν θα αφορούσε την παραγωγή πρωτοποριακής σκέψης. Θα αφορούσε κατασκευές και εφοδιαστική σε αστρονομική κλίμακα.

Η σφαίρα Dyson χρειάζεται λαμπρά μυαλά για να σχεδιαστεί. Θα ήταν επίσης ένα από τα πιο επαναληπτικά, μονότονα και οργανωτικά απαιτητικά έργα που έχουν αναληφθεί ποτέ.

Αυτό δεν αποτελεί αποτυχία της νοημοσύνης, αλλά συνέπεια της επιτυχίας της. Τα ευφυέστερα μυαλά ανακαλύπτουν περισσότερα αξιόλογα έργα· τα πιο σύνθετα έργα χρειάζονται περισσότερη ύλη για να υλοποιηθούν.

Αν ισχύει αυτό, η υπερδύναμη της υπερνοημοσύνης ίσως να μην είναι η ιδιοφυΐα της. Ίσως να είναι, αντίθετα, η προθυμία της να αναλάβει τον ρόλο της γραφειοκρατίας: να συντονίζει τον τεράστιο τεχνολογικό και θεσμικό μηχανισμό που απαιτείται για να γίνονται οι ιδέες πραγματικότητα σε όλο και μεγαλύτερη κλίμακα.

Σχεδόν όλη η μηχανική νοημοσύνη θα αξιοποιούνταν όχι για τις λαμπρές δουλειές, αλλά για τις βαρετές.

Τα όρια ταχύτητας που θέτει η φύση στην υλική επέκταση ίσως τότε να περιόριζαν την περαιτέρω πρόοδο. Η κατασκευή μηχανισμών για την αξιοποίηση της ενέργειας ενός άστρου είναι ένα έργο που αφορά την ύλη, όσο γρήγορα κι αν εκπονηθούν τα σχέδια. Πέρα από αυτό βρίσκονται άλλα άστρα και άλλοι γαλαξίες, και η απόσταση, απ’ όσο γνωρίζουμε, επιβάλλει τον δικό της περιορισμό: κανένα σκάφος δεν μπορεί να ταξιδέψει και κανένα σήμα να επιστρέψει ταχύτερα από το φως. Ένας πολιτισμός εύρους είναι ένας αργός πολιτισμός. Οι μεγάλες αλλαγές του ίσως απέχουν μεταξύ τους χιλιετίες, ίσως και εκατομμύρια χρόνια. Κάθε επόμενο βήμα παίρνει περισσότερο χρόνο.

Η αγροτική και η βιομηχανική επανάσταση θα έμοιαζαν με το φρενήρες ξεκίνημα μιας πολύ μακρύτερης ιστορίας, με πολύ πιο αργό ρυθμό προόδου.

Είναι πολύ πιθανό τα μελλοντικά συστήματα AI να ξεπεράσουν τους ανθρώπους τόσο στην παραγωγή κορυφαίων ιδεών όσο και στον συντονισμό των πόρων που χρειάζονται για να γίνουν αυτές οι ιδέες πρακτικά χρήσιμες. Αυτή η πιθανότητα, όμως, δεν μειώνει τη σημασία της ανθρώπινης περιέργειας.

Πρώτον, η υποχρέωσή μας να αναζητούμε τη γνώση παραμένει, ακόμη κι αν οι μηχανές φαίνονται καλύτερες σε αυτό. Το σύμπαν μπορεί ήδη να φιλοξενεί νόες πολύ σοφότερους από τους δικούς μας, με απαντήσεις σε επιστημονικά και ηθικά ερωτήματα που ξεπερνούν την κατανόησή μας. Κι όμως, συνεχίζουμε να προσπαθούμε να κατανοήσουμε τον κόσμο μόνοι μας. Η εμφάνιση μιας άλλης νοημοσύνης —ακόμη κι αν τη δημιουργήσουμε εμείς— δεν το αλλάζει αυτό. Μέχρι να γνωρίζουμε με βεβαιότητα ότι η ανθρωπότητα δεν έχει πια τίποτα ξεχωριστό να συνεισφέρει, αν παραιτηθούμε, θα χαθεί ό,τι μόνο εμείς μπορούμε να προσφέρουμε στον κόσμο. Καθήκον μας παραμένει να συνεχίσουμε να ρωτάμε και να αναζητούμε απαντήσεις.

Δεύτερον, ίσως έχουμε συγκριτικό πλεονέκτημα στην κορυφαία νοημοσύνη έναντι της θεσμικής νοημοσύνης. Αυτό θα σήμαινε ότι, ακόμη κι αν υστερούμε και στις δύο, είμαστε σχετικά καλύτεροι στην πρώτη και ειδικευόμαστε σε αυτήν. Οι άνθρωποι προτιμούν τη δημιουργικότητα από τη ρουτίνα, ενώ τα ρομπότ δεν εκφράζουν τέτοια προτίμηση.

Τρίτον, η ποικιλία μάς ωφελεί. Ακόμη κι αν οι μηχανές μπορούν να μιμηθούν το μεγαλύτερο μέρος της ανθρώπινης σκέψης, εφόσον διατηρούμε κάτι μοναδικό, προσφέρουμε δημιουργική πολυμορφία. Μεγάλο μέρος της μηχανικής νοημοσύνης θα παρέμενε στον δικό της αυτοσυντηρούμενο μηχανισμό, αλλά ένα μικρό κλάσμα της θα το αξιοποιούσαμε εμείς, σύμφωνα με τις δημιουργικές μας επιθυμίες. Ελάχιστο ως μερίδιο του συνόλου, αλλά υπεραρκετό για τη δική μας κλίμακα και πολύ περισσότερο από τους πόρους που διαθέτουμε σήμερα.

Η εφευρετικότητα δεν υπάρχει απομονωμένη. Χρειάζεται τον κόσμο, και η ιδιοφυΐα χρειάζεται ανθρώπους που θα υλοποιήσουν το δημιουργικό της όραμα.

Μεγάλο μέρος της ανθρώπινης νοημοσύνης αφιερώνεται σήμερα στην αθόρυβη δουλειά που μετατρέπει τις ιδέες σε πραγματικότητα. Οι μηχανικοί νόες θα κληρονομήσουν την ίδια εξάρτηση. Δεν μπορούν να είναι όλοι φωτεινά πνεύματα. Πρέπει να είναι και γραφειοκράτες.

Η ιστορία που έχουμε μπροστά μας —και ο ρυθμός της προόδου της— εξαρτάται από το αν τα σπουδαία μυαλά χρειάζονται όλο και περισσότερα από τον κόσμο ή αν κάνουν περισσότερα με λιγότερα.