Sam Altman’s remarks at the United Nations Security Council

Today, OpenAI CEO Sam Altman addressed the United Nations Security Council on artificial intelligence. He discussed AI’s potential to expand opportunity, the importance of keeping powerful systems under human control, and the need for international cooperation on AI safety.

Thank you, Mr. President and your Excellencies. I’m honored to be here and to be able to speak with you all at this important time.

We have been talking about artificial intelligence for years, but it feels different in recent weeks and months. Rapid model progress has made the timeline feel more compressed, the upside more tangible, but also the stakes and the risks more immediate.

We have a choice in front of us. AI can either be more like a new Renaissance of creativity and discovery, or more like a new Industrial Revolution of upheaval and disarray.

The Renaissance was a time when new tools, new ideas, and new institutions expanded what people believed they could do. AI can play that role for our time. I believe that people are much more capable than they imagine themselves to be, but have been held back by limited technology that was meant to empower but instead distracts and often steals attention.

The best version of AI is not about making people cogs in a giant machine, or optimizing every part of life until the human parts disappear. It is about giving people more agency in an ever more complex world: more ability to learn, to create, discover, build, participate. There are many things that AI cannot—and should not—automate.

AI should be built for people, not simply to turn the crank of the machines faster for their own sake. Some of the things people working to build AI have said are so dystopian that they sound like the plot of bad science fiction movies.

Anything this powerful is also intimidating. This moment is complicated as we feel both tremendous potential and very understandable anxiety at the same time.

These models can help people discover new knowledge: new medicines, better health care, stronger education, and build more productive economies. They can be new tools for people to pursue dreams and ambition that today feel out of reach. The complexity of life has increased so dramatically for the average person. AI can be a defensive tool against this complexity as much as it can be this tool of unprecedented discovery and innovation.

On the other hand, as AI systems become more capable and more autonomous, they could move faster than our institutions, concentrate power in too few hands, or make decisions that people no longer understand or control.

That concern becomes especially important as we approach systems that can improve themselves and future versions of themselves, often called recursive self-improvement. As the process of building AI becomes more automated, the pace of AI progress could accelerate rapidly. This moment calls for extreme care.

I largely agree with Professor Bengio. Although I’ll say two instead of three—I believe there are two ways that AI progress could go very badly that we have to avoid.

First, we could lose control of the future to AI. The risk is that it moves so fast that people can no longer follow what’s happening or intervene when needed. This would obviously be terrible.

The industry must not accept too much technological risk just because the benefits are too great and that they feel too important to slow down. Beating companies in a competitive pace is not a reason to make rash decisions. Nor do we believe we are locked in a race where we are unable to do that. We have unilaterally slowed down in the past. We will do so in the future. We do not want to build systems—we think it’s important that everyone avoids building systems—where we cannot make the alignment, monitorability, and safety guarantees that we must.

We need to understand what these systems are doing and have strong evidence that they will do what people intend, even as they get very, very smart. Actually especially as they get very very smart. It doesn’t matter whether people put the risk of catastrophe at 10%, or 1%, or 12%, or .1%. None of these levels are remotely acceptable. And we should not train models that we cannot make an extremely strong case that we will be able to keep under human control.

So that’s one way things can go wrong. In the other direction, these systems could concentrate too much power in too few hands. No one person or company or country should be able to use the most powerful AI models to impose their worldview on everyone else. A company or country that believes only it can be trusted with this technology can use that belief to justify almost anything else. We have to reject that logic, even when it’s convenient for any one actor.

Jeg mener, at der findes en pragmatisk vej gennem begge disse udfordringer. Hos OpenAI går vi til disse spørgsmål med et klart mål: AI skal give mennesker større indflydelse på deres eget liv. Større frihed til at leve, som de ønsker. Bedre muligheder for at løse store og små problemer og forbedre deres lokalsamfund. Vi ønsker ikke at falde i den blinde optimismes fælde. Vi ønsker heller ikke at falde i dommedagstænkningens fælde. Hvis vi lader os trække mod en af yderlighederne, hjælper det os ikke med at håndtere de udfordringer, vi står over for – især ikke på et tidspunkt, hvor verden og dens befolkning står over for enorme udfordringer, som denne teknologi kan bidrage til at løse. Derfor forsøger vi at følge en middelvej mellem disse to poler.

For os betyder det tre principper.

For det første skal mennesker forblive i centrum for beslutninger om AI, efterhånden som teknologien bliver mere kompetent. Tilpasning er ikke et abstrakt forskningsspørgsmål. Det handler om at sikre, at disse systemer pålideligt forbliver under menneskelig kontrol, afspejler menneskelige værdier og hjælper mennesker med at styre de næste udviklingstrin. Vi forsøger ikke – og må ikke forsøge – at automatisere menneskelig dømmekraft eller menneskelige værdier.

For det andet skal fordelene ved videnskabelige fremskridt og økonomisk vækst skabes af mennesker og være til gavn for mennesker. AI skal hjælpe forskere med at gøre opdagelser, læger med at behandle patienter, lærere med at undervise elever, iværksættere med at starte virksomheder og lokalsamfund med at løse problemer, der før virkede uoverkommelige – og meget mere. Den gennemgående fortælling om menneskelige fremskridt er ikke, at værktøjer erstatter menneskers handlekraft. Den er, at de rette værktøjer gør mennesker dygtigere, og jeg tror, at dette vil række langt ud over, hvad vi i dag anser for muligt.

For det tredje skal denne teknologi styrke den enkelte. En god fremtid vil blive skabt af mennesker, der realiserer deres potentiale og skaber værdi for sig selv, deres lokalsamfund, deres lande og verden som helhed. Vi er måske blandt dem, der bygger denne teknologi, men vi er ikke heltene i denne fortælling. Vores rolle er at give mennesker over hele verden muligheder og stole på magien i menneskehedens evner og talenter.

Vi har nu modeller, der kan opdage viden, som vi aldrig tidligere har haft. Tænk på de fremskridt, vi har set inden for matematik. For tre somre siden var vores modeller rimelige til matematik på folkeskoleniveau. For to somre siden klarede de sig ret godt i matematikkonkurrencer på gymnasieniveau. Sidste sommer nåede vi guldmedaljeniveau i verdens mest prestigefyldte matematikkonkurrence. Og for blot få uger siden denne sommer løste en af vores modeller et af millenniumproblemerne: Navier-Stokes-ligningerne.

Disse ligninger bruges til flydesign, vejrudsigter og studier af blodgennemstrømning. Vi løser ikke matematiske problemer for deres egen skyld, men for at give mennesker mulighed for at opdage ny viden og bruge den til at forbedre sundhedsplejen, hæve levestandarden og udvide alles muligheder verden over. Der er stadig så meget at opdage.

Men det er meget vigtigt, at virksomheder ikke træder i stedet for den demokratiske proces.

Hvis AI skal være demokratisk, kan de vigtigste beslutninger ikke træffes af laboratorier i San Francisco alene. De skal formes gennem demokratiske processer og af regeringer, der står til ansvar over for de mennesker, de tjener.

På internationalt plan vil det kræve samarbejde. Historien har budt på tidspunkter, hvor lande, der konkurrerer og ikke altid bryder sig særlig meget om hinanden, alligevel er gået sammen om fælles interesser og det fælles bedste over for en ny og stærk teknologi. Vi mener, at dette skal være et af de tidspunkter.

Vi har brug for en mekanisme for supplerende nationale og internationale standarder for banebrydende AI: standarder for måling af kapaciteter, vurdering af risici, afgørelse af, om sikkerhedsforanstaltningerne er tilstrækkelige, og fastholdelse af meningsfuldt menneskeligt tilsyn, efterhånden som systemerne bliver mere autonome.

Vi har brug for fælles standarder, så lande kan sammenligne dokumentation, kontrollere efterlevelsen og have et fælles sprog og en fælles forståelse af, hvad der sker.

Vi har brug for præcis og hurtig indberetning af hændelser samt protokoller for klassificering og indberetning, så verden kan lære af fejl, før de udvikler sig til katastrofer.

Og vi har brug for sikre kanaler mellem regeringer, operatører af kritisk infrastruktur og tekniske eksperter, så de kan dele oplysninger om nye sårbarheder og trusler.

Disse standarder bør naturligvis ikke fastlåse de etablerede aktørers position eller favorisere én forretningsmodel frem for en anden. De skal understøtte udviklere af både åbne og lukkede modeller, nye aktører og etablerede laboratorier, national myndighed og internationalt samarbejde. Hver regering bør beslutte, hvordan standarderne skal indarbejdes i landets eget retssystem. Men vi vil alle stå bedre, hvis vi globalt kan blive enige om, hvad der udgør god dokumentation, gode sikkerhedsforanstaltninger og godt tilsyn.

Vi har ikke alle svarene, og vi er meget åbne over for bedre idéer. Vi er klar til at samarbejde med jer alle og gøre vores yderste for at finde vejen frem.

Vi står ved en skillevej. Den ene vej fører til en verden, hvor magten er koncentreret, beslutningerne er uigennemsigtige, og mennesker føler, at deres livs vigtigste teknologi er noget, der bliver påtvunget dem. Den anden vej fører til en verden, hvor AI arbejder for mennesker, fordi mennesker gennem demokratiske institutioner er med til at beslutte, hvordan den skal udvikles og styres; hvor videnskabelige fremskridt forbedrer virkelige menneskers liv; hvor flere kan tage del i fremtiden; og hvor denne teknologi fortsat giver enkeltpersoner og lokalsamfund større mulighed for at leve, som de ønsker. Det er en fremtid præget af indfriet potentiale, begejstring og forundring.

Og det er den fremtid, vi mener er værd at bygge. Mange tak.