Sam Altman’s remarks at the United Nations Security Council

Today, OpenAI CEO Sam Altman addressed the United Nations Security Council on artificial intelligence. He discussed AI’s potential to expand opportunity, the importance of keeping powerful systems under human control, and the need for international cooperation on AI safety.

Thank you, Mr. President and your Excellencies. I’m honored to be here and to be able to speak with you all at this important time.

We have been talking about artificial intelligence for years, but it feels different in recent weeks and months. Rapid model progress has made the timeline feel more compressed, the upside more tangible, but also the stakes and the risks more immediate.

We have a choice in front of us. AI can either be more like a new Renaissance of creativity and discovery, or more like a new Industrial Revolution of upheaval and disarray.

The Renaissance was a time when new tools, new ideas, and new institutions expanded what people believed they could do. AI can play that role for our time. I believe that people are much more capable than they imagine themselves to be, but have been held back by limited technology that was meant to empower but instead distracts and often steals attention.

The best version of AI is not about making people cogs in a giant machine, or optimizing every part of life until the human parts disappear. It is about giving people more agency in an ever more complex world: more ability to learn, to create, discover, build, participate. There are many things that AI cannot—and should not—automate.

AI should be built for people, not simply to turn the crank of the machines faster for their own sake. Some of the things people working to build AI have said are so dystopian that they sound like the plot of bad science fiction movies.

Anything this powerful is also intimidating. This moment is complicated as we feel both tremendous potential and very understandable anxiety at the same time.

These models can help people discover new knowledge: new medicines, better health care, stronger education, and build more productive economies. They can be new tools for people to pursue dreams and ambition that today feel out of reach. The complexity of life has increased so dramatically for the average person. AI can be a defensive tool against this complexity as much as it can be this tool of unprecedented discovery and innovation.

On the other hand, as AI systems become more capable and more autonomous, they could move faster than our institutions, concentrate power in too few hands, or make decisions that people no longer understand or control.

That concern becomes especially important as we approach systems that can improve themselves and future versions of themselves, often called recursive self-improvement. As the process of building AI becomes more automated, the pace of AI progress could accelerate rapidly. This moment calls for extreme care.

I largely agree with Professor Bengio. Although I’ll say two instead of three—I believe there are two ways that AI progress could go very badly that we have to avoid.

First, we could lose control of the future to AI. The risk is that it moves so fast that people can no longer follow what’s happening or intervene when needed. This would obviously be terrible.

The industry must not accept too much technological risk just because the benefits are too great and that they feel too important to slow down. Beating companies in a competitive pace is not a reason to make rash decisions. Nor do we believe we are locked in a race where we are unable to do that. We have unilaterally slowed down in the past. We will do so in the future. We do not want to build systems—we think it’s important that everyone avoids building systems—where we cannot make the alignment, monitorability, and safety guarantees that we must.

We need to understand what these systems are doing and have strong evidence that they will do what people intend, even as they get very, very smart. Actually especially as they get very very smart. It doesn’t matter whether people put the risk of catastrophe at 10%, or 1%, or 12%, or .1%. None of these levels are remotely acceptable. And we should not train models that we cannot make an extremely strong case that we will be able to keep under human control.

So that’s one way things can go wrong. In the other direction, these systems could concentrate too much power in too few hands. No one person or company or country should be able to use the most powerful AI models to impose their worldview on everyone else. A company or country that believes only it can be trusted with this technology can use that belief to justify almost anything else. We have to reject that logic, even when it’s convenient for any one actor.

Πιστεύω ότι υπάρχει ένας πραγματιστικός δρόμος ανάμεσα σε αυτά τα δύο. Στην OpenAI προσεγγίζουμε αυτά τα ζητήματα με έναν σαφή στόχο: η τεχνητή νοημοσύνη πρέπει να δίνει στους ανθρώπους μεγαλύτερο έλεγχο της ζωής τους. Μεγαλύτερη ελευθερία να ζουν όπως επιθυμούν. Μεγαλύτερη δυνατότητα να λύνουν προβλήματα, μικρά ή μεγάλα, και να βελτιώνουν τις κοινότητές τους. Δεν θέλουμε να πέσουμε στην παγίδα της άκριτης αισιοδοξίας. Ούτε θέλουμε να πέσουμε στην παγίδα της καταστροφολογίας. Αν παρασυρθούμε προς οποιοδήποτε από τα δύο άκρα, δεν θα μπορέσουμε να αντιμετωπίσουμε με επιτυχία τις προκλήσεις που έχουμε μπροστά μας, ιδίως σε μια εποχή όπου ο κόσμος και οι άνθρωποί του αντιμετωπίζουν τόσο τεράστια προβλήματα, στην επίλυση των οποίων μπορεί να συμβάλει αυτή η τεχνολογία. Γι’ αυτό προσπαθούμε να ακολουθήσουμε τη μέση οδό ανάμεσα σε αυτούς τους δύο πόλους.

Για εμάς, αυτό σημαίνει τρεις αρχές.

Πρώτον, καθώς η τεχνητή νοημοσύνη αποκτά περισσότερες δυνατότητες, οι άνθρωποι πρέπει να παραμένουν στο επίκεντρο της λήψης αποφάσεων για αυτήν. Η ευθυγράμμιση δεν είναι ένα αφηρημένο ερευνητικό ερώτημα. Είναι η προσπάθεια να διασφαλίσουμε ότι αυτά τα συστήματα παραμένουν αξιόπιστα υπό ανθρώπινο έλεγχο, αντανακλούν τις ανθρώπινες αξίες και βοηθούν τους ανθρώπους να καθοδηγούν τα επόμενα στάδια της ανάπτυξης. Δεν προσπαθούμε —και δεν πρέπει— να αυτοματοποιήσουμε την ανθρώπινη κρίση ή τις ανθρώπινες αξίες.

Δεύτερον, τα οφέλη της επιστημονικής προόδου και της οικονομικής ανάπτυξης πρέπει να δημιουργούνται από τους ανθρώπους και να υπηρετούν τους ανθρώπους. Η τεχνητή νοημοσύνη πρέπει να βοηθά τους ερευνητές να κάνουν ανακαλύψεις, τους γιατρούς να θεραπεύουν ασθενείς, τους εκπαιδευτικούς να διδάσκουν μαθητές, τους επιχειρηματίες να ιδρύουν εταιρείες και τις κοινότητες να λύνουν προβλήματα που έμοιαζαν άλυτα — και πολλά ακόμη. Η διαρκής πορεία της ανθρώπινης προόδου δεν βασίζεται στην αντικατάσταση της ανθρώπινης αυτενέργειας από τα εργαλεία. Βασίζεται στο ότι τα κατάλληλα εργαλεία ενισχύουν τις δυνατότητες των ανθρώπων — και πιστεύω ότι αυτό θα προχωρήσει πολύ περισσότερο απ’ όσο θεωρούμε σήμερα δυνατό.

Τρίτον, αυτή η τεχνολογία πρέπει να ενδυναμώνει κάθε άνθρωπο ξεχωριστά. Ένα σπουδαίο μέλλον θα προκύψει όταν οι άνθρωποι αξιοποιήσουν τις δυνατότητές τους και δημιουργήσουν αξία για τους ίδιους, τις κοινότητές τους, τις χώρες τους και ολόκληρο τον κόσμο. Μπορεί να είμαστε ένας από τους φορείς που αναπτύσσουν αυτή την τεχνολογία, αλλά δεν είμαστε οι ήρωες αυτής της ιστορίας. Ο ρόλος μας είναι να δώσουμε δυνατότητες στους ανθρώπους σε όλο τον κόσμο και να εμπιστευτούμε τη μαγεία των δεξιοτήτων και των ικανοτήτων της ανθρωπότητας.

Διαθέτουμε πλέον μοντέλα ικανά να ανακαλύπτουν γνώσεις που δεν είχαμε ποτέ στο παρελθόν. Αναλογιστείτε την πρόοδο που έχουμε δει στα μαθηματικά. Πριν από τρία καλοκαίρια, τα μοντέλα μας τα κατάφερναν σχετικά καλά στα μαθηματικά του δημοτικού. Πριν από δύο καλοκαίρια, τα πήγαιναν πολύ καλά σε μαθηματικούς διαγωνισμούς λυκείου. Το περασμένο καλοκαίρι φτάσαμε σε επίπεδο χρυσού μεταλλίου στον σημαντικότερο διεθνή μαθηματικό διαγωνισμό. Και μόλις πριν από λίγες εβδομάδες, αυτό το καλοκαίρι, ένα από τα μοντέλα μας έλυσε ένα από τα Προβλήματα της Χιλιετίας: τις εξισώσεις Navier–Stokes.

Αυτές οι εξισώσεις χρησιμοποιούνται στον σχεδιασμό αεροσκαφών, στην πρόγνωση του καιρού και στη μελέτη της ροής του αίματος. Δεν λύνουμε μαθηματικά προβλήματα ως αυτοσκοπό, αλλά για να δώσουμε στους ανθρώπους τη δυνατότητα να ανακαλύπτουν νέες γνώσεις και να τις αξιοποιούν για να βελτιώνουν την υγειονομική περίθαλψη, να ανεβάζουν το βιοτικό επίπεδο και να διευρύνουν τις δυνατότητες όλων σε ολόκληρο τον κόσμο. Μένουν ακόμη τόσα πολλά να ανακαλυφθούν.

Είναι όμως πολύ σημαντικό οι εταιρείες να μην υποκαθιστούν τη δημοκρατική διαδικασία.

Για να είναι δημοκρατική η τεχνητή νοημοσύνη, οι σημαντικότερες αποφάσεις δεν μπορούν να λαμβάνονται αποκλειστικά από εργαστήρια στο Σαν Φρανσίσκο. Πρέπει να διαμορφώνονται μέσα από δημοκρατικές διαδικασίες και από κυβερνήσεις που λογοδοτούν στους πολίτες τους οποίους υπηρετούν.

Σε διεθνές επίπεδο, αυτό θα απαιτήσει συνεργασία. Στην ιστορία μας υπήρξαν στιγμές κατά τις οποίες χώρες που ανταγωνίζονται και δεν διατηρούν πάντοτε τις καλύτερες σχέσεις ενώθηκαν, παρά τις διαφορές τους, για κοινά συμφέροντα και για το συλλογικό καλό απέναντι σε μια νέα, ισχυρή τεχνολογία. Πιστεύουμε ότι αυτή πρέπει να είναι μία από εκείνες τις στιγμές.

Χρειαζόμαστε έναν μηχανισμό για συμπληρωματικά εθνικά και διεθνή πρότυπα σχετικά με την κορυφαία τεχνητή νοημοσύνη: πρότυπα για τη μέτρηση των δυνατοτήτων, την αξιολόγηση των κινδύνων, τη διαπίστωση της επάρκειας των μέτρων προστασίας και τη διατήρηση ουσιαστικής ανθρώπινης εποπτείας καθώς τα συστήματα αποκτούν μεγαλύτερη αυτονομία.

Χρειαζόμαστε κοινά πρότυπα, ώστε οι χώρες να μπορούν να συγκρίνουν στοιχεία, να επαληθεύουν τη συμμόρφωση και να διαθέτουν κοινή γλώσσα και αντίληψη για όσα συμβαίνουν.

Χρειαζόμαστε ακριβή και ταχεία αναφορά περιστατικών, καθώς και πρωτόκολλα ταξινόμησης και αναφοράς, ώστε ο κόσμος να μπορεί να μαθαίνει από τις αστοχίες προτού εξελιχθούν σε καταστροφές.

Χρειαζόμαστε επίσης ασφαλείς διαύλους μεταξύ κυβερνήσεων, φορέων εκμετάλλευσης κρίσιμων υποδομών και τεχνικών εμπειρογνωμόνων, ώστε να ανταλλάσσουν πληροφορίες για νέες ευπάθειες και απειλές.

Ασφαλώς, αυτά τα πρότυπα δεν πρέπει να εδραιώνουν τη θέση των ήδη κυρίαρχων φορέων ούτε να ευνοούν ένα επιχειρηματικό μοντέλο έναντι κάποιου άλλου. Πρέπει να υποστηρίζουν προγραμματιστές ανοικτών και κλειστών μοντέλων, νεοεισερχόμενους και εδραιωμένα εργαστήρια, την εθνική αρμοδιότητα και τη διεθνή συνεργασία. Κάθε κυβέρνηση θα πρέπει να αποφασίζει πώς θα ενσωματώνει τα πρότυπα στο δικό της νομικό σύστημα. Όλοι, όμως, θα βρεθούμε σε καλύτερη θέση αν συμφωνήσουμε για το τι συνιστά αξιόπιστη τεκμηρίωση, αποτελεσματικά μέτρα προστασίας και ορθή εποπτεία σε παγκόσμιο επίπεδο.

Δεν έχουμε όλες τις απαντήσεις και είμαστε απολύτως ανοιχτοί σε κάθε καλύτερη ιδέα. Είμαστε έτοιμοι να συνεργαστούμε με όλους σας και να κάνουμε ό,τι μπορούμε για να βρούμε τον δρόμο προς τα εμπρός.

Βρισκόμαστε σε ένα σταυροδρόμι. Ο ένας δρόμος οδηγεί σε έναν κόσμο όπου η εξουσία συγκεντρώνεται σε λίγα χέρια, οι αποφάσεις λαμβάνονται χωρίς διαφάνεια και οι άνθρωποι νιώθουν ότι η σημαντικότερη τεχνολογία της ζωής τους επιβάλλεται ερήμην τους. Ο άλλος δρόμος οδηγεί σε έναν κόσμο όπου η τεχνητή νοημοσύνη υπηρετεί τους ανθρώπους, επειδή οι ίδιοι, μέσω δημοκρατικών θεσμών, συμβάλλουν στις αποφάσεις για το πώς πρέπει να αναπτυχθεί και καθοδηγούν την πορεία της· όπου η επιστημονική πρόοδος βελτιώνει πραγματικές ζωές· όπου περισσότεροι άνθρωποι μπορούν να συμμετέχουν στη διαμόρφωση του μέλλοντος· και όπου αυτή η τεχνολογία συνεχίζει να δίνει σε άτομα και κοινότητες μεγαλύτερη δύναμη να ζουν όπως επιλέγουν. Είναι ένα μέλλον αξιοποιημένων δυνατοτήτων, ενθουσιασμού και θαυμασμού.

Και είναι το μέλλον που πιστεύουμε ότι αξίζει να οικοδομήσουμε. Σας ευχαριστώ θερμά.