Η TN έχει τη δυνατότητα να βελτιώσει σημαντικά πολλές πτυχές της κοινωνίας.
Αυτή η τεχνολογία, όπως και άλλες πριν από αυτή, θα δώσει στους ανθρώπους περισσότερες δυνατότητες και αυτονομία· αυτά που θα μπορούν να κάνουν οι άνθρωποι με την TN θα ξεπερνούν κατά πολύ όσα μπορούσαν να κάνουν με τις ατμομηχανές ή τον ηλεκτρισμό.
Οραματιζόμαστε έναν κόσμο με ευρεία ευημερία σε επίπεδο που σήμερα είναι δύσκολο να φανταστεί κανείς, και έναν κόσμο στον οποίο οι ατομικές δυνατότητες, η αυτονομία και η ολοκλήρωση αυξάνονται σημαντικά. Πολλά από όσα τολμούσαμε να ονειρευτούμε μόνο στην επιστημονική φαντασία θα μπορούσαν να γίνουν πραγματικότητα, και οι περισσότεροι άνθρωποι θα μπορούσαν να ζουν πιο ουσιαστικές ζωές απ’ ό,τι μπορούν οι περισσότεροι σήμερα.
Όμως αυτό το αποτέλεσμα δεν είναι εγγυημένο. Η δύναμη στο μέλλον μπορεί είτε να βρίσκεται στα χέρια μιας πολύ μικρής ομάδας εταιρειών που χρησιμοποιούν και ελέγχουν την υπερνοημοσύνη, είτε να κατανέμεται αποκεντρωμένα στους ανθρώπους. Πιστεύουμε ότι το δεύτερο είναι πολύ καλύτερο και στόχος μας είναι να βάλουμε την πραγματικά γενική TN στα χέρια όσο το δυνατόν περισσότερων ανθρώπων. Όπως και το παρόν, το μέλλον δεν θα είναι ούτε εντελώς κακό ούτε εντελώς καλό, αλλά οι αποφάσεις που παίρνουμε τώρα μπορούν να βοηθήσουν να μεγιστοποιηθεί το καλό.
Η αποστολή μας είναι να διασφαλίσουμε ότι το AGI ωφελεί όλη την ανθρωπότητα. Αυτές είναι οι αρχές που καθοδηγούν το έργο μας.
1. Εκδημοκρατισμός. Θα αντισταθούμε στην πιθανότητα αυτή η τεχνολογία να συγκεντρώσει την εξουσία στα χέρια των λίγων.
Αυτό σημαίνει ότι, πέρα από το να δίνουμε σε όλους πρόσβαση στην TN, πρέπει να διασφαλίσουμε ότι οι βασικές αποφάσεις για την TN λαμβάνονται μέσω δημοκρατικών διαδικασιών και με ισονομικές αρχές, και όχι μόνο από τα εργαστήρια TN.
2. Ενδυνάμωση. Πιστεύουμε ότι η TN μπορεί να ενδυναμώσει τους πάντες ώστε να πετυχαίνουν τους στόχους τους, να μαθαίνουν περισσότερα, να είναι πιο ευτυχισμένοι και πιο ολοκληρωμένοι και να κυνηγούν τα όνειρά τους, και ότι η κοινωνία συνολικά θα ωφεληθεί από αυτό.
Για να το πετύχουμε αυτό, χρειάζεται να αφήσουμε τους ανθρώπους να εξερευνήσουν το τεράστιο δυναμικό που ανοίγεται μπροστά μας, και πρέπει να δημιουργήσουμε προϊόντα που το καθιστούν δυνατό. Οι χρήστες θα πρέπει να μπορούν με συνέπεια να ολοκληρώνουν ολοένα και πιο πολύτιμες εργασίες με τις υπηρεσίες μας.
Ο κόσμος είναι διαφορετικός και οι άνθρωποι έχουν διαφορετικές ανάγκες. Θέλουμε να δώσουμε στους χρήστες μας την αυτονομία που χρειάζονται και να επιτρέψουμε όσο περισσότερα μπορούμε λογικά.
Παρόλο που θέλουμε να δώσουμε στους χρήστες μας πολύ ευρύ περιθώριο στον τρόπο με τον οποίο χρησιμοποιούν τις υπηρεσίες μας και πιστεύουμε ακράδαντα ότι η TN θα είναι συνολικά εξαιρετικά ωφέλιμη, έχουμε ευθύνη να την αναπτύσσουμε και να τη διαθέτουμε με τρόπο που ελαχιστοποιεί τη βλάβη. Αυτό περιλαμβάνει βέβαια την αποτροπή καταστροφικής βλάβης, αλλά και την ελαχιστοποίηση τοπικών βλαβών και την αποφυγή πιθανών διαβρωτικών κοινωνικών επιπτώσεων. Αυτό σημαίνει ότι, απέναντι στην αβεβαιότητα, θα προτιμούμε την προσεκτική στάση και θα χαλαρώνουμε τους περιορισμούς όταν θα έχουμε περισσότερα στοιχεία.
3. Καθολική ευημερία. Θέλουμε ένα μέλλον όπου όλοι θα μπορούν να έχουν μια εξαιρετική ζωή.
Βάζοντας εύχρηστα συστήματα TN με μεγάλη υπολογιστική ισχύ στα χέρια όλων, πιστεύουμε ότι οι άνθρωποι θα βρουν νέους τρόπους να παράγουν αξία και να βελτιώσουν μαζικά την ποιότητα ζωής για όλους, ειδικά μέσω της ανακάλυψης νέας επιστήμης.
Για να υλοποιηθεί πλήρως και να μοιραστεί ευρέως η ευημερία, πιστεύουμε ότι 1) οι κυβερνήσεις μας ίσως χρειαστεί να εξετάσουν νέα οικονομικά μοντέλα ώστε να διασφαλιστεί ότι όλοι μπορούν να συμμετέχουν στη δημιουργία αξίας που ανοίγεται μπροστά μας και 2) χρειάζεται να κατασκευάσουμε τεράστιες ποσότητες υποδομών TN και να αναπτύξουμε νέα τεχνολογία ώστε να μειωθεί δραστικά το κόστος των υποδομών TN.
Πολλά από όσα κάνουμε και φαίνονται παράξενα —όπως το να αγοράζουμε τεράστια ποσά υπολογιστικής ισχύος ενώ τα έσοδά μας είναι σχετικά μικρά, να καθετοποιούμε δραστηριότητες για να μειώνουμε το κόστος και να κάνουμε την τεχνολογία μας πιο εύχρηστη, να πιέζουμε για την κατασκευή κέντρων δεδομένων σε όλο τον κόσμο και πολλά άλλα— καθοδηγούνται από τη θεμελιώδη πίστη μας σε ένα μέλλον καθολικής ευημερίας.
4. Ανθεκτικότητα. Η TN θα εισαγάγει νέους κινδύνους και θα συνεργαστούμε με άλλες εταιρείες, οικοσυστήματα, κυβερνήσεις και την κοινωνία για να τους αντιμετωπίσουμε. Θα αξιοποιήσουμε σημαντικά τους πόρους του Ιδρύματός μας για να στηρίξουμε αυτό το έργο.
Κανένα εργαστήριο TN δεν μπορεί να διασφαλίσει μόνο του ένα καλό μέλλον. Ένα προφανές παράδειγμα είναι ότι μπορεί να υπάρξουν εξαιρετικά ικανά μοντέλα που διευκολύνουν τη δημιουργία ενός νέου παθογόνου, και χρειαζόμαστε μια προσέγγιση σε επίπεδο κοινωνίας για να αμυνθούμε απέναντι σε αυτό με αντίμετρα που δεν εξαρτώνται από συγκεκριμένα παθογόνα. Ένα άλλο παράδειγμα είναι ότι, καθώς αυξάνονται οι δυνατότητες των μοντέλων στην κυβερνοασφάλεια, πρέπει να χρησιμοποιούμε γρήγορα αυτά τα μοντέλα για να βοηθήσουμε στην ασφάλεια του λογισμικού ανοιχτού κώδικα και των κρίσιμων υποδομών, ενώ παράλληλα να εκπαιδεύουμε τα μοντέλα ώστε να βοηθούν όλους να δημιουργούν πιο ασφαλές λογισμικό.
Αυτό αποτελεί επέκταση της μακρόχρονης στρατηγικής μας της σταδιακής διάθεσης· πιστεύουμε ότι η κοινωνία πρέπει να αντιμετωπίζει κάθε διαδοχικό επίπεδο δυνατοτήτων TN, να το κατανοεί, να το ενσωματώνει και να βρίσκει μαζί την καλύτερη πορεία προς τα εμπρός. Αυτό δεν μπορεί να γίνει σε κενό· κοινωνία και τεχνολογία συνεξελίσσονται, και αυτό απαιτεί χρόνο.
Δεν εννοούμε ότι αυτή είναι η μοναδική στρατηγική μας για την ασφάλεια· χρειάζεται επίσης να δημιουργούμε ασφαλή συστήματα και να συνεχίσουμε να κάνουμε σπουδαία δουλειά στην τεχνική ευθυγράμμιση.
Αναμένουμε ότι θα υπάρξουν περίοδοι όπου θα χρειαστεί να συνεργαστούμε με κυβερνήσεις, διεθνείς οργανισμούς και άλλες προσπάθειες AGI ώστε να διασφαλίσουμε ότι έχουμε επιλύσει επαρκώς σοβαρά ζητήματα ευθυγράμμισης, ασφάλειας ή κοινωνικών επιπτώσεων πριν προχωρήσουμε περαιτέρω στο έργο μας.
5. Προσαρμοστικότητα. Συνεχίζουμε να πιστεύουμε ότι ο μόνος τρόπος να ανταποκριθούμε στις προκλήσεις ενός πολύ απρόβλεπτου μέλλοντος είναι να είμαστε έτοιμοι να επικαιροποιούμε τις θέσεις μας καθώς μαθαίνουμε περισσότερα. Αναγνωρίζουμε επίσης ότι η OpenAI είναι μια πολύ μεγαλύτερη δύναμη στον κόσμο από ό,τι ήταν πριν από λίγα χρόνια και θα είμαστε διαφανείς σχετικά με το πότε, πώς και γιατί αλλάζουν οι αρχές λειτουργίας μας. Ως συγκεκριμένο παράδειγμα, παρότι είμαστε αρκετά βέβαιοι ότι η καθολική ευημερία θα παραμείνει πραγματικά σημαντική, μπορούμε να φανταστούμε περιόδους στο μέλλον όπου θα χρειαστεί να ανταλλάξουμε λίγη ενδυνάμωση με περισσότερη ανθεκτικότητα.
Η ανάπτυξη της TN έχει φέρει πολλές εκπλήξεις και έρχονται ακόμη περισσότερες. Καθώς η τεχνολογία προχωρά, οι αναδυόμενες συμπεριφορές της θα γίνονται ολοένα πιο δύσκολο να προβλεφθούν. Αγκαλιάζουμε αυτή την αβεβαιότητα προωθώντας τις δυνατότητες με προσοχή, διαθέτοντας τα συστήματα σταδιακά και μαθαίνοντας από τις αλληλεπιδράσεις τους με τον κόσμο.
Δεν έχει περάσει πολύς καιρός από τότε που ήμασταν νευρικοί για τη δημοσίευση των weights του GPT‑2 επειδή δεν ήμασταν βέβαιοι για το ποιες θα ήταν οι επιπτώσεις στην κοινωνία. Προφανώς, εκ των υστέρων, αυτή ήταν μια αβάσιμη ανησυχία, αλλά μας οδήγησε στην ανακάλυψη της στρατηγικής της σταδιακής διάθεσης, που είναι ένα από τα σημαντικότερα πράγματα που έχουμε καταλάβει.
__
Μπαίνουμε σε μια φάση πολύ μεγάλου αντίκτυπου καθώς η τεχνολογία συνεχίζει να βελτιώνεται. Είναι απολύτως θεμιτό να μας ασκείται κριτική για κάθε απόφαση· μας αναλογεί τεράστιος έλεγχος δεδομένου του βάρους όσων κάνουμε. Δεν θα τα κάνουμε όλα σωστά, αλλά θα μαθαίνουμε γρήγορα και θα διορθώνουμε την πορεία μας.
Δεσμευόμαστε να κάνουμε το μέρος που μας αναλογεί ώστε το μέλλον να είναι καλύτερο από το παρελθόν· νιώθουμε τυχεροί που μπορούμε να αναλάβουμε ένα τόσο σημαντικό έργο.
