Sam Altman’s remarks at the United Nations Security Council

Today, OpenAI CEO Sam Altman addressed the United Nations Security Council on artificial intelligence. He discussed AI’s potential to expand opportunity, the importance of keeping powerful systems under human control, and the need for international cooperation on AI safety.

Thank you, Mr. President and your Excellencies. I’m honored to be here and to be able to speak with you all at this important time.

We have been talking about artificial intelligence for years, but it feels different in recent weeks and months. Rapid model progress has made the timeline feel more compressed, the upside more tangible, but also the stakes and the risks more immediate.

We have a choice in front of us. AI can either be more like a new Renaissance of creativity and discovery, or more like a new Industrial Revolution of upheaval and disarray.

The Renaissance was a time when new tools, new ideas, and new institutions expanded what people believed they could do. AI can play that role for our time. I believe that people are much more capable than they imagine themselves to be, but have been held back by limited technology that was meant to empower but instead distracts and often steals attention.

The best version of AI is not about making people cogs in a giant machine, or optimizing every part of life until the human parts disappear. It is about giving people more agency in an ever more complex world: more ability to learn, to create, discover, build, participate. There are many things that AI cannot—and should not—automate.

AI should be built for people, not simply to turn the crank of the machines faster for their own sake. Some of the things people working to build AI have said are so dystopian that they sound like the plot of bad science fiction movies.

Anything this powerful is also intimidating. This moment is complicated as we feel both tremendous potential and very understandable anxiety at the same time.

These models can help people discover new knowledge: new medicines, better health care, stronger education, and build more productive economies. They can be new tools for people to pursue dreams and ambition that today feel out of reach. The complexity of life has increased so dramatically for the average person. AI can be a defensive tool against this complexity as much as it can be this tool of unprecedented discovery and innovation.

On the other hand, as AI systems become more capable and more autonomous, they could move faster than our institutions, concentrate power in too few hands, or make decisions that people no longer understand or control.

That concern becomes especially important as we approach systems that can improve themselves and future versions of themselves, often called recursive self-improvement. As the process of building AI becomes more automated, the pace of AI progress could accelerate rapidly. This moment calls for extreme care.

I largely agree with Professor Bengio. Although I’ll say two instead of three—I believe there are two ways that AI progress could go very badly that we have to avoid.

First, we could lose control of the future to AI. The risk is that it moves so fast that people can no longer follow what’s happening or intervene when needed. This would obviously be terrible.

The industry must not accept too much technological risk just because the benefits are too great and that they feel too important to slow down. Beating companies in a competitive pace is not a reason to make rash decisions. Nor do we believe we are locked in a race where we are unable to do that. We have unilaterally slowed down in the past. We will do so in the future. We do not want to build systems—we think it’s important that everyone avoids building systems—where we cannot make the alignment, monitorability, and safety guarantees that we must.

We need to understand what these systems are doing and have strong evidence that they will do what people intend, even as they get very, very smart. Actually especially as they get very very smart. It doesn’t matter whether people put the risk of catastrophe at 10%, or 1%, or 12%, or .1%. None of these levels are remotely acceptable. And we should not train models that we cannot make an extremely strong case that we will be able to keep under human control.

So that’s one way things can go wrong. In the other direction, these systems could concentrate too much power in too few hands. No one person or company or country should be able to use the most powerful AI models to impose their worldview on everyone else. A company or country that believes only it can be trusted with this technology can use that belief to justify almost anything else. We have to reject that logic, even when it’s convenient for any one actor.

Usun, et mõlemast probleemist viib läbi pragmaatiline tee. OpenAI lähtub nende küsimuste käsitlemisel selgest eesmärgist: tehisintellekt peaks andma inimestele rohkem võimu oma elu üle. Rohkem vabadust elada nii, nagu nad soovivad. Rohkem võimalusi lahendada suuri ja väikeseid probleeme ning edendada oma kogukondi. Me ei taha langeda pimeda optimismi lõksu. Samuti ei taha me langeda hukatusmeeleolude lõksu. Kumbagi äärmusesse kaldumine ei aita meil eesseisvaid probleeme edukalt lahendada, eriti ajal, mil maailm ja selle elanikud seisavad silmitsi tohutute katsumustega, mida see tehnoloogia võib aidata lahendada. Seepärast püüame nende kahe äärmuse vahel käia keskteed.

Meie jaoks tähendab see kolme põhimõtet.

Esiteks peavad inimesed jääma tehisintellekti arenedes selle otsustusprotsesside keskmesse. Joondamine ei ole abstraktne uurimisküsimus. See tähendab tööd selle nimel, et need süsteemid püsiksid kindlalt inimeste kontrolli all, kajastaksid inimlikke väärtusi ja aitaksid inimestel järgmisi arenguetappe suunata. Me ei püüa ega tohi automatiseerida inimeste otsustusvõimet ega inimlikke väärtusi.

Teiseks peavad teaduse arengu ja majanduskasvu hüved sündima inimeste looduna ja inimeste heaks. Tehisintellekt peaks aitama teadlastel teha avastusi, arstidel ravida patsiente, õpetajatel õpetada õpilasi, ettevõtjatel asutada ettevõtteid ja kogukondadel lahendada seni kättesaamatuna tundunud probleeme – ning palju muudki. Inimkonna pideva arengu lugu ei seisne selles, et tööriistad võtavad inimestelt tegutsemisvõime. See seisneb selles, et õiged tööriistad muudavad inimesed võimekamaks, ning usun, et see areng jõuab palju kaugemale, kui praegu võimalikuks peame.

Kolmandaks peab see tehnoloogia andma igale inimesele rohkem võimalusi. Suurepärane tulevik sünnib sellest, kui inimesed teostavad oma potentsiaali ja loovad väärtust nii endale, oma kogukonnale ja riigile kui ka kogu maailmale. Me võime olla selle tehnoloogia rajajate seas, kuid meie ei ole selle loo kangelased. Meie ülesanne on anda inimestele kõikjal maailmas tegutsemisvõimalused ning usaldada inimkonna oskuste ja võimete imelist jõudu.

Meil on nüüd mudelid, mis suudavad avastada teadmisi, mida meil pole kunagi varem olnud. Mõelgem matemaatikas nähtud edusammudele. Kolm suve tagasi said meie mudelid põhikooli matemaatikaga enam-vähem hakkama. Kaks suve tagasi olid need juba päris head keskkooli matemaatikavõistluste ülesannetes. Eelmisel suvel jõudsime maailma mainekaimal matemaatikavõistlusel kuldmedali tasemele. Ja kõigest mõne nädala eest sel suvel lahendas üks meie mudelitest ühe millenniumiprobleemi – Navier’–Stokesi võrrandid.

Neid võrrandeid kasutatakse lennukite projekteerimisel, ilma ennustamisel ja verevoolu uurimisel. Me ei lahenda matemaatikaülesandeid pelgalt nende endi pärast, vaid selleks, et aidata inimestel avastada uusi teadmisi ning kasutada neid tervishoiu parandamiseks, elatustaseme tõstmiseks ja kõigi inimeste võimaluste avardamiseks kogu maailmas. Avastada on veel tohutult palju.

Kuid on väga oluline, et ettevõtted ei asendaks demokraatlikku protsessi.

Kui tehisintellekt peab olema demokraatlik, ei saa kõige olulisemaid otsuseid langetada üksnes San Francisco laborites. Neid tuleb kujundada demokraatlike protsesside kaudu ja valitsuste poolt, kes vastutavad inimeste ees, keda nad teenivad.

Rahvusvahelisel tasandil nõuab see koostööd. Ajaloos on olnud aegu, mil omavahel konkureerivad ja teineteisesse mitte alati kuigi hästi suhtuvad riigid on võimsa uue tehnoloogia esilekerkimisel siiski ühiste huvide ja üldise hüve nimel kokku tulnud. Usume, et praegu peab olema üks neist kordadest.

Vajame mehhanismi, mis tagaks üksteist täiendavad riiklikud ja rahvusvahelised tipptasemel tehisintellekti standardid: standardid võimekuse mõõtmiseks, riskide hindamiseks, kaitsemeetmete piisavuse kindlakstegemiseks ning sisulise inimjärelevalve säilitamiseks sedamööda, kuidas süsteemid muutuvad autonoomsemaks.

Vajame ühiseid standardeid, et riigid saaksid tõendeid võrrelda, nõuete täitmist kontrollida ning toimuvast ühtemoodi rääkida ja aru saada.

Vajame juhtumitest täpset ja kiiret teavitamist ning nende liigitamise ja raporteerimise korda, et maailm saaks ebaõnnestumistest õppida enne, kui need muutuvad katastroofideks.

Samuti vajame turvalisi kanaleid, mille kaudu valitsused, elutähtsa taristu käitajad ja tehnilised eksperdid saaksid jagada teavet esilekerkivate haavatavuste ja uute ohtude kohta.

Loomulikult ei tohiks need standardid kinnistada seniste turuosaliste eelisseisundit ega eelistada üht ärimudelit teisele. Need peavad toetama nii avatud kui ka suletud mudelite arendajaid, nii uusi tulijaid kui ka väljakujunenud laboreid, samuti riikide otsustusõigust ja rahvusvahelist koostööd. Iga valitsus peaks ise otsustama, kuidas standardid oma õigussüsteemi lõimida. Kuid meil kõigil läheb paremini, kui suudame ülemaailmselt kokku leppida, millised on head tõendid, kaitsemeetmed ja järelevalve.

Meil ei ole kõiki vastuseid ning oleme väga avatud kõigile parematele ideedele. Oleme valmis teie kõigiga koostööd tegema ja andma endast parima, et leida tee edasi.

Oleme jõudnud teelahkmele. Üks tee viib maailma, kus võim on koondunud väheste kätte, otsustusprotsessid on läbipaistmatud ja inimesed tunnevad, et nende elu olulisimat tehnoloogiat rakendatakse nende peal. Teine tee viib maailma, kus tehisintellekt töötab inimeste heaks, sest inimesed aitavad demokraatlike institutsioonide kaudu otsustada, kuidas seda arendada ja suunata; kus teaduse areng parandab päriselt inimeste elu; kus rohkem inimesi saab tuleviku kujundamises osaleda ning kus see tehnoloogia annab üksikisikutele ja kogukondadele üha rohkem võimalusi elada enda valitud viisil. See on tulevik, kus teostuvad võimalused ning jagub põnevust ja imetlust.

Ja meie usume, et sellist tulevikku tasub rajada. Suur tänu.