Sam Altman’s remarks at the United Nations Security Council

Today, OpenAI CEO Sam Altman addressed the United Nations Security Council on artificial intelligence. He discussed AI’s potential to expand opportunity, the importance of keeping powerful systems under human control, and the need for international cooperation on AI safety.

Thank you, Mr. President and your Excellencies. I’m honored to be here and to be able to speak with you all at this important time.

We have been talking about artificial intelligence for years, but it feels different in recent weeks and months. Rapid model progress has made the timeline feel more compressed, the upside more tangible, but also the stakes and the risks more immediate.

We have a choice in front of us. AI can either be more like a new Renaissance of creativity and discovery, or more like a new Industrial Revolution of upheaval and disarray.

The Renaissance was a time when new tools, new ideas, and new institutions expanded what people believed they could do. AI can play that role for our time. I believe that people are much more capable than they imagine themselves to be, but have been held back by limited technology that was meant to empower but instead distracts and often steals attention.

The best version of AI is not about making people cogs in a giant machine, or optimizing every part of life until the human parts disappear. It is about giving people more agency in an ever more complex world: more ability to learn, to create, discover, build, participate. There are many things that AI cannot—and should not—automate.

AI should be built for people, not simply to turn the crank of the machines faster for their own sake. Some of the things people working to build AI have said are so dystopian that they sound like the plot of bad science fiction movies.

Anything this powerful is also intimidating. This moment is complicated as we feel both tremendous potential and very understandable anxiety at the same time.

These models can help people discover new knowledge: new medicines, better health care, stronger education, and build more productive economies. They can be new tools for people to pursue dreams and ambition that today feel out of reach. The complexity of life has increased so dramatically for the average person. AI can be a defensive tool against this complexity as much as it can be this tool of unprecedented discovery and innovation.

On the other hand, as AI systems become more capable and more autonomous, they could move faster than our institutions, concentrate power in too few hands, or make decisions that people no longer understand or control.

That concern becomes especially important as we approach systems that can improve themselves and future versions of themselves, often called recursive self-improvement. As the process of building AI becomes more automated, the pace of AI progress could accelerate rapidly. This moment calls for extreme care.

I largely agree with Professor Bengio. Although I’ll say two instead of three—I believe there are two ways that AI progress could go very badly that we have to avoid.

First, we could lose control of the future to AI. The risk is that it moves so fast that people can no longer follow what’s happening or intervene when needed. This would obviously be terrible.

The industry must not accept too much technological risk just because the benefits are too great and that they feel too important to slow down. Beating companies in a competitive pace is not a reason to make rash decisions. Nor do we believe we are locked in a race where we are unable to do that. We have unilaterally slowed down in the past. We will do so in the future. We do not want to build systems—we think it’s important that everyone avoids building systems—where we cannot make the alignment, monitorability, and safety guarantees that we must.

We need to understand what these systems are doing and have strong evidence that they will do what people intend, even as they get very, very smart. Actually especially as they get very very smart. It doesn’t matter whether people put the risk of catastrophe at 10%, or 1%, or 12%, or .1%. None of these levels are remotely acceptable. And we should not train models that we cannot make an extremely strong case that we will be able to keep under human control.

So that’s one way things can go wrong. In the other direction, these systems could concentrate too much power in too few hands. No one person or company or country should be able to use the most powerful AI models to impose their worldview on everyone else. A company or country that believes only it can be trusted with this technology can use that belief to justify almost anything else. We have to reject that logic, even when it’s convenient for any one actor.

Uskon, että näiden molempien kysymysten ratkaisemiseen on käytännöllinen tie. OpenAI lähestyy näitä kysymyksiä selkeä tavoite mielessään: tekoälyn tulee antaa ihmisille enemmän valtaa omaan elämäänsä. Enemmän vapautta elää haluamallaan tavalla. Paremmat mahdollisuudet ratkaista suuria ja pieniä ongelmia sekä kehittää omia yhteisöjään. Emme halua langeta sokean optimismin ansaan. Emme myöskään halua vajota tuomiopäiväajatteluun. Kumpikaan ääripää ei auta meitä ratkaisemaan edessämme olevia haasteita – etenkään aikana, jolloin maailma ja sen ihmiset kohtaavat valtavia ongelmia, joiden ratkaisemisessa tämä teknologia voi auttaa. Siksi yritämme kulkea keskitietä näiden kahden ääripään välissä.

Meille se tarkoittaa kolmea periaatetta.

Ensinnäkin ihmisten on pysyttävä tekoälyä koskevan päätöksenteon keskiössä tekoälyn kyvykkyyksien kasvaessa. Linjaaminen ei ole abstrakti tutkimuskysymys. Siinä varmistetaan, että nämä järjestelmät pysyvät luotettavasti ihmisten hallinnassa, ilmentävät inhimillisiä arvoja ja auttavat ihmisiä ohjaamaan kehityksen seuraavia vaiheita. Emme pyri automatisoimaan ihmisten harkintaa tai arvoja, eikä niin pidä tehdä.

Toiseksi tieteen edistyksen ja talouskasvun hyötyjen on synnyttävä ihmisten toiminnasta ja palveltava ihmisiä. Tekoälyn tulisi auttaa tutkijoita tekemään löytöjä, lääkäreitä hoitamaan potilaita, opettajia opettamaan oppilaita, yrittäjiä perustamaan yrityksiä ja yhteisöjä ratkaisemaan ongelmia, jotka aiemmin tuntuivat mahdottomilta – ja paljon muuta. Ihmiskunnan jatkuvan edistyksen tarina ei kerro siitä, että työkalut korvaisivat ihmisten toimijuuden. Se kertoo siitä, että oikeat työkalut lisäävät ihmisten kykyjä. Uskon tämän kehityksen yltävän paljon pidemmälle kuin nyt osaamme kuvitella.

Kolmanneksi tämän teknologian on vahvistettava jokaista yksilöä. Hyvä tulevaisuus syntyy siitä, että ihmiset toteuttavat mahdollisuuksiaan ja luovat arvoa itselleen, yhteisöilleen, mailleen ja koko maailmalle. Saatamme olla tämän teknologian rakentajia, mutta emme ole tämän tarinan sankareita. Meidän tehtävämme on antaa ihmisille kaikkialla maailmassa mahdollisuuksia ja luottaa ihmiskunnan taitojen ja kykyjen ihmeelliseen voimaan.

Meillä on nyt malleja, jotka pystyvät löytämään aivan uutta tietoa. Ajatelkaa matematiikassa nähtyä edistystä. Kolme kesää sitten mallimme hallitsivat alakoulumatematiikan kohtalaisesti. Kaksi kesää sitten ne pärjäsivät jo varsin hyvin lukiotason matematiikkakilpailuissa. Viime kesänä saavutimme kultamitalitason maailman arvostetuimmassa kansainvälisessä matematiikkakilpailussa. Ja vain muutama viikko sitten tänä kesänä yksi malleistamme ratkaisi yhden millenniumpalkinto-ongelmista: Navier–Stokesin yhtälöt.

Näitä yhtälöitä käytetään lentokoneiden suunnittelussa, sääennusteissa ja verenvirtauksen tutkimuksessa. Emme ratkaise matemaattisia ongelmia vain niiden itsensä vuoksi, vaan jotta ihmiset voisivat löytää uutta tietoa ja hyödyntää sitä terveydenhuollon parantamiseen, elintason nostamiseen ja kaikkien mahdollisuuksien laajentamiseen kaikkialla maailmassa. Löydettävää on vielä valtavasti.

On kuitenkin erittäin tärkeää, etteivät yritykset korvaa demokraattista prosessia.

Jos tekoälyn halutaan olevan demokraattista, tärkeimpiä päätöksiä eivät voi tehdä yksin San Franciscon laboratoriot. Niitä on muovattava demokraattisissa prosesseissa ja niiden hallitusten toimesta, jotka ovat vastuussa palvelemilleen ihmisille.

Kansainvälisellä tasolla tämä edellyttää yhteistyötä. Historian saatossa keskenään kilpailevat maat, jotka eivät aina ole pitäneet toisistaan, ovat voimakkaan uuden teknologian edessä silti yhdistäneet voimansa yhteisten etujen ja yhteisen hyvän puolesta. Uskomme, että nyt on jälleen toimittava näin.

Tarvitsemme mekanismin toisiaan täydentäville kansallisille ja kansainvälisille edistyneen tekoälyn standardeille. Niillä on voitava mitata kyvykkyyksiä, arvioida riskejä, määrittää suojatoimien riittävyys ja säilyttää merkityksellinen ihmisten valvonta järjestelmien itsenäistyessä.

Tarvitsemme yhteisiä standardeja, jotta maat voivat vertailla näyttöä, varmistaa vaatimusten noudattamisen sekä muodostaa yhteisen kielen ja käsityksen tapahtumista.

Tarvitsemme täsmällistä ja nopeaa vaaratilanteista ilmoittamista sekä luokittelu- ja raportointikäytäntöjä, jotta maailma voi oppia epäonnistumisista ennen kuin ne muuttuvat katastrofeiksi.

Lisäksi tarvitsemme suojattuja viestintäkanavia hallitusten, kriittisen infrastruktuurin toimijoiden ja teknisten asiantuntijoiden välille, jotta uudet haavoittuvuudet ja uhat voidaan jakaa.

Standardit eivät tietenkään saa vakiinnuttaa nykyisten toimijoiden asemaa tai suosia yhtä liiketoimintamallia muiden kustannuksella. Niiden on tuettava avoimien ja suljettujen mallien kehittäjiä, uusia tulokkaita ja vakiintuneita laboratorioita sekä kansallista toimivaltaa ja kansainvälistä yhteistyötä. Jokaisen hallituksen tulisi itse päättää, miten standardit sisällytetään sen omaan oikeusjärjestelmään. Me kaikki hyödymme kuitenkin siitä, jos pääsemme maailmanlaajuisesti yhteisymmärrykseen siitä, millaista hyvä näyttö, tehokkaat suojatoimet ja asianmukainen valvonta ovat.

Meillä ei ole kaikkia vastauksia, ja otamme paremmat ideat erittäin mielellämme vastaan. Olemme valmiita työskentelemään kanssanne ja tekemään kaikkemme löytääksemme tien eteenpäin.

Olemme tienhaarassa. Yksi tie johtaa maailmaan, jossa valta keskittyy, päätöksenteko on läpinäkymätöntä ja ihmisistä tuntuu, että heidän elinaikansa merkittävintä teknologiaa käytetään heihin ilman heidän vaikutusmahdollisuuksiaan. Toinen tie johtaa maailmaan, jossa tekoäly palvelee ihmisiä, koska ihmiset osallistuvat demokraattisten instituutioiden kautta sen kehityksestä päättämiseen ja ohjaamiseen; jossa tieteen edistys parantaa ihmisten elämää; jossa yhä useammat voivat osallistua tulevaisuuden rakentamiseen ja jossa tämä teknologia antaa yksilöille ja yhteisöille entistä enemmän valtaa elää haluamallaan tavalla. Tässä tulevaisuudessa mahdollisuudet toteutuvat ja koemme innostusta ja ihmetystä.

Juuri tällaisen tulevaisuuden rakentaminen on mielestämme vaivan arvoista. Kiitos oikein paljon.