Sam Altman’s remarks at the United Nations Security Council

Today, OpenAI CEO Sam Altman addressed the United Nations Security Council on artificial intelligence. He discussed AI’s potential to expand opportunity, the importance of keeping powerful systems under human control, and the need for international cooperation on AI safety.

Thank you, Mr. President and your Excellencies. I’m honored to be here and to be able to speak with you all at this important time.

We have been talking about artificial intelligence for years, but it feels different in recent weeks and months. Rapid model progress has made the timeline feel more compressed, the upside more tangible, but also the stakes and the risks more immediate.

We have a choice in front of us. AI can either be more like a new Renaissance of creativity and discovery, or more like a new Industrial Revolution of upheaval and disarray.

The Renaissance was a time when new tools, new ideas, and new institutions expanded what people believed they could do. AI can play that role for our time. I believe that people are much more capable than they imagine themselves to be, but have been held back by limited technology that was meant to empower but instead distracts and often steals attention.

The best version of AI is not about making people cogs in a giant machine, or optimizing every part of life until the human parts disappear. It is about giving people more agency in an ever more complex world: more ability to learn, to create, discover, build, participate. There are many things that AI cannot—and should not—automate.

AI should be built for people, not simply to turn the crank of the machines faster for their own sake. Some of the things people working to build AI have said are so dystopian that they sound like the plot of bad science fiction movies.

Anything this powerful is also intimidating. This moment is complicated as we feel both tremendous potential and very understandable anxiety at the same time.

These models can help people discover new knowledge: new medicines, better health care, stronger education, and build more productive economies. They can be new tools for people to pursue dreams and ambition that today feel out of reach. The complexity of life has increased so dramatically for the average person. AI can be a defensive tool against this complexity as much as it can be this tool of unprecedented discovery and innovation.

On the other hand, as AI systems become more capable and more autonomous, they could move faster than our institutions, concentrate power in too few hands, or make decisions that people no longer understand or control.

That concern becomes especially important as we approach systems that can improve themselves and future versions of themselves, often called recursive self-improvement. As the process of building AI becomes more automated, the pace of AI progress could accelerate rapidly. This moment calls for extreme care.

I largely agree with Professor Bengio. Although I’ll say two instead of three—I believe there are two ways that AI progress could go very badly that we have to avoid.

First, we could lose control of the future to AI. The risk is that it moves so fast that people can no longer follow what’s happening or intervene when needed. This would obviously be terrible.

The industry must not accept too much technological risk just because the benefits are too great and that they feel too important to slow down. Beating companies in a competitive pace is not a reason to make rash decisions. Nor do we believe we are locked in a race where we are unable to do that. We have unilaterally slowed down in the past. We will do so in the future. We do not want to build systems—we think it’s important that everyone avoids building systems—where we cannot make the alignment, monitorability, and safety guarantees that we must.

We need to understand what these systems are doing and have strong evidence that they will do what people intend, even as they get very, very smart. Actually especially as they get very very smart. It doesn’t matter whether people put the risk of catastrophe at 10%, or 1%, or 12%, or .1%. None of these levels are remotely acceptable. And we should not train models that we cannot make an extremely strong case that we will be able to keep under human control.

So that’s one way things can go wrong. In the other direction, these systems could concentrate too much power in too few hands. No one person or company or country should be able to use the most powerful AI models to impose their worldview on everyone else. A company or country that believes only it can be trusted with this technology can use that belief to justify almost anything else. We have to reject that logic, even when it’s convenient for any one actor.

Wierzę, że istnieje pragmatyczna droga pozwalająca uniknąć obu tych skrajności. W OpenAI podchodzimy do tych kwestii z jasno określonym celem: AI powinna dawać ludziom większą kontrolę nad własnym życiem. Więcej swobody, by żyć tak, jak chcą. Większe możliwości rozwiązywania dużych i małych problemów oraz poprawiania sytuacji w swoich społecznościach. Nie chcemy wpaść w pułapkę ślepego optymizmu. Nie chcemy też ulec skrajnemu pesymizmowi. Popadnięcie w którąkolwiek ze skrajności nie pomoże nam sprostać stojącym przed nami wyzwaniom — zwłaszcza dziś, gdy świat i jego mieszkańcy zmagają się z ogromnymi problemami, w których rozwiązaniu ta technologia może pomóc. Dlatego staramy się podążać środkową drogą między tymi dwiema skrajnościami.

Dla nas oznacza to trzy zasady.

Po pierwsze, w miarę rozwoju możliwości AI ludzie muszą pozostać w centrum jej procesów decyzyjnych. Dostosowanie AI do ludzkich celów nie jest abstrakcyjnym problemem badawczym. To praca nad zapewnieniem, by systemy te niezawodnie pozostawały pod kontrolą człowieka, odzwierciedlały ludzkie wartości i pomagały ludziom wyznaczać kierunek kolejnych etapów rozwoju. Nie próbujemy i nie wolno nam automatyzować ludzkiego osądu ani ludzkich wartości.

Po drugie, postęp naukowy i wzrost gospodarczy muszą być dziełem ludzi i służyć ludziom. AI powinna pomagać naukowcom dokonywać odkryć, lekarzom leczyć pacjentów, nauczycielom uczyć, przedsiębiorcom zakładać firmy, a społecznościom rozwiązywać problemy, które dotąd wydawały się nieosiągalne — i wspierać wiele innych działań. Historia nieustannego postępu ludzkości nie polega na tym, że narzędzia odbierają ludziom sprawczość. Polega na tym, że właściwe narzędzia zwiększają ludzkie możliwości. Wierzę, że zajdziemy pod tym względem znacznie dalej, niż dziś potrafimy sobie wyobrazić.

Po trzecie, technologia ta musi wzmacniać pozycję każdego człowieka. Wspaniała przyszłość nadejdzie dzięki ludziom, którzy realizują swój potencjał i tworzą wartość dla siebie, swoich społeczności, państw i całego świata. Możemy być jednymi z twórców tej technologii, ale nie jesteśmy bohaterami tej historii. Naszą rolą jest otwieranie możliwości przed ludźmi na całym świecie i zaufanie niezwykłej sile ludzkich umiejętności i zdolności.

Dysponujemy już modelami zdolnymi odkrywać wiedzę, do której nigdy wcześniej nie mieliśmy dostępu. Spójrzmy na postępy w matematyce. Trzy lata temu nasze modele radziły sobie przyzwoicie z matematyką na poziomie szkoły podstawowej. Dwa lata temu całkiem dobrze radziły sobie w konkursach matematycznych dla uczniów szkół średnich. Ubiegłego lata osiągnęliśmy poziom złotego medalu w najbardziej prestiżowym międzynarodowym konkursie matematycznym. A zaledwie kilka tygodni temu, tego lata, jeden z naszych modeli rozwiązał jeden z problemów milenijnych — problem równań Naviera-Stokesa.

Równania te wykorzystuje się w projektowaniu samolotów, prognozowaniu pogody i badaniach przepływu krwi. Nie rozwiązujemy problemów matematycznych dla samej matematyki. Chcemy dać ludziom możliwość odkrywania nowej wiedzy i wykorzystywania jej do poprawy opieki zdrowotnej i poziomu życia oraz rozwijania potencjału każdego człowieka na świecie. Wciąż tak wiele pozostaje do odkrycia.

Bardzo ważne jest jednak, aby firmy nie zastępowały procesu demokratycznego.

Jeśli AI ma być demokratyczna, najważniejsze decyzje nie mogą zapadać wyłącznie w laboratoriach w San Francisco. Muszą być kształtowane w ramach procesów demokratycznych i przez rządy odpowiadające przed obywatelami, którym służą.

Na szczeblu międzynarodowym będzie to wymagało współpracy. W historii zdarzało się, że w obliczu potężnej nowej technologii rywalizujące ze sobą i nie zawsze darzące się sympatią państwa jednoczyły się we wspólnym interesie i dla wspólnego dobra. Uważamy, że teraz musi wydarzyć się to samo.

Potrzebujemy mechanizmu uzupełniających się krajowych i międzynarodowych standardów dla pionierskiej AI: standardów pomiaru możliwości, oceny ryzyka, ustalania, czy zabezpieczenia są wystarczające, oraz zachowania realnego nadzoru człowieka w miarę wzrostu autonomii systemów.

Potrzebujemy wspólnych standardów, aby państwa mogły porównywać dowody, weryfikować zgodność oraz wypracować wspólny język i wspólne rozumienie zachodzących zmian.

Potrzebujemy rzetelnego i szybkiego zgłaszania incydentów oraz protokołów ich klasyfikacji i raportowania, aby świat mógł wyciągać wnioski z niepowodzeń, zanim przerodzą się one w katastrofy.

Potrzebujemy też bezpiecznych kanałów, za pośrednictwem których rządy, operatorzy infrastruktury krytycznej i eksperci techniczni będą mogli wymieniać informacje o nowych podatnościach i zagrożeniach.

Oczywiście standardy te nie powinny umacniać pozycji obecnych liderów ani faworyzować jednego modelu biznesowego kosztem innych. Muszą wspierać twórców modeli otwartych i zamkniętych, nowych uczestników rynku i uznane laboratoria, suwerenność państw i współpracę międzynarodową. Każdy rząd powinien sam zdecydować, jak włączyć te standardy do własnego systemu prawnego. Wszystkim nam będzie jednak lepiej, jeśli zdołamy uzgodnić na arenie międzynarodowej, czym są wiarygodne dowody, skuteczne zabezpieczenia i właściwy nadzór.

Nie znamy wszystkich odpowiedzi i jesteśmy bardzo otwarci na wszelkie lepsze pomysły. Jesteśmy gotowi współpracować z Państwem i dołożyć wszelkich starań, by wytyczyć dalszą drogę.

Stoimy na rozdrożu. Jedna droga prowadzi do świata, w którym władza skupia się w nielicznych rękach, decyzje są nieprzejrzyste, a ludzie czują, że najważniejsza technologia ich życia jest im narzucana. Druga droga prowadzi do świata, w którym AI służy ludziom, ponieważ za pośrednictwem demokratycznych instytucji współdecydują oni o jej rozwoju i kierunku; w którym postęp naukowy naprawdę poprawia jakość życia; więcej osób może uczestniczyć w kształtowaniu przyszłości; a technologia ta nadal daje jednostkom i społecznościom większą swobodę życia na własnych zasadach. To przyszłość, w której realizujemy swój potencjał, pełna emocji i zachwytu.

I właśnie taką przyszłość warto naszym zdaniem budować. Bardzo dziękuję.