Today, OpenAI CEO Sam Altman addressed the United Nations Security Council on artificial intelligence. He discussed AI’s potential to expand opportunity, the importance of keeping powerful systems under human control, and the need for international cooperation on AI safety.
Thank you, Mr. President and your Excellencies. I’m honored to be here and to be able to speak with you all at this important time.
We have been talking about artificial intelligence for years, but it feels different in recent weeks and months. Rapid model progress has made the timeline feel more compressed, the upside more tangible, but also the stakes and the risks more immediate.
We have a choice in front of us. AI can either be more like a new Renaissance of creativity and discovery, or more like a new Industrial Revolution of upheaval and disarray.
The Renaissance was a time when new tools, new ideas, and new institutions expanded what people believed they could do. AI can play that role for our time. I believe that people are much more capable than they imagine themselves to be, but have been held back by limited technology that was meant to empower but instead distracts and often steals attention.
The best version of AI is not about making people cogs in a giant machine, or optimizing every part of life until the human parts disappear. It is about giving people more agency in an ever more complex world: more ability to learn, to create, discover, build, participate. There are many things that AI cannot—and should not—automate.
AI should be built for people, not simply to turn the crank of the machines faster for their own sake. Some of the things people working to build AI have said are so dystopian that they sound like the plot of bad science fiction movies.
Anything this powerful is also intimidating. This moment is complicated as we feel both tremendous potential and very understandable anxiety at the same time.
These models can help people discover new knowledge: new medicines, better health care, stronger education, and build more productive economies. They can be new tools for people to pursue dreams and ambition that today feel out of reach. The complexity of life has increased so dramatically for the average person. AI can be a defensive tool against this complexity as much as it can be this tool of unprecedented discovery and innovation.
On the other hand, as AI systems become more capable and more autonomous, they could move faster than our institutions, concentrate power in too few hands, or make decisions that people no longer understand or control.
That concern becomes especially important as we approach systems that can improve themselves and future versions of themselves, often called recursive self-improvement. As the process of building AI becomes more automated, the pace of AI progress could accelerate rapidly. This moment calls for extreme care.
I largely agree with Professor Bengio. Although I’ll say two instead of three—I believe there are two ways that AI progress could go very badly that we have to avoid.
First, we could lose control of the future to AI. The risk is that it moves so fast that people can no longer follow what’s happening or intervene when needed. This would obviously be terrible.
The industry must not accept too much technological risk just because the benefits are too great and that they feel too important to slow down. Beating companies in a competitive pace is not a reason to make rash decisions. Nor do we believe we are locked in a race where we are unable to do that. We have unilaterally slowed down in the past. We will do so in the future. We do not want to build systems—we think it’s important that everyone avoids building systems—where we cannot make the alignment, monitorability, and safety guarantees that we must.
We need to understand what these systems are doing and have strong evidence that they will do what people intend, even as they get very, very smart. Actually especially as they get very very smart. It doesn’t matter whether people put the risk of catastrophe at 10%, or 1%, or 12%, or .1%. None of these levels are remotely acceptable. And we should not train models that we cannot make an extremely strong case that we will be able to keep under human control.
So that’s one way things can go wrong. In the other direction, these systems could concentrate too much power in too few hands. No one person or company or country should be able to use the most powerful AI models to impose their worldview on everyone else. A company or country that believes only it can be trusted with this technology can use that belief to justify almost anything else. We have to reject that logic, even when it’s convenient for any one actor.
Ég tel að raunhæf leið sé fær milli þessara tveggja sjónarmiða. Hjá OpenAI nálgumst við þessar spurningar með skýrt markmið: Gervigreind á að veita fólki aukin völd yfir eigin lífi. Meira frelsi til að lifa eins og það sjálft kýs. Meiri getu til að leysa stór og smá vandamál og bæta samfélög sín. Við viljum ekki falla í gildru blindrar bjartsýni. Við viljum heldur ekki falla í gildru svartsýni og hamfaraspádóma. Það hjálpar okkur ekki að takast farsællega á við áskoranirnar fram undan ef við látum dragast að öðrum hvorum öfgunum, sérstaklega nú þegar heimurinn og íbúar hans glíma við svo gríðarlegar áskoranir sem þessi tækni getur hjálpað okkur að leysa. Þess vegna reynum við að feta meðalveginn milli þessara tveggja póla.
Fyrir okkur felur það í sér þrjár meginreglur.
Í fyrsta lagi verður fólk áfram að vera í forgrunni ákvarðanatöku um gervigreind eftir því sem geta hennar eykst. Samstilling er ekki aðeins fræðilegt rannsóknarefni. Hún felst í að tryggja að þessi kerfi lúti áfram áreiðanlega stjórn manna, endurspegli mannleg gildi og hjálpi fólki að stýra næstu skrefum þróunarinnar. Við erum ekki að reyna að gera mannlega dómgreind eða mannleg gildi sjálfvirk — og megum það ekki.
Í öðru lagi verða vísindaframfarir og hagvöxtur að vera sprottin frá fólki og því til hagsbóta. Gervigreind á að hjálpa vísindafólki að uppgötva, læknum að annast sjúklinga, kennurum að kenna, frumkvöðlum að stofna fyrirtæki og samfélögum að leysa vandamál sem áður virtust óleysanleg — og margt fleira. Saga framfara mannkyns snýst ekki um að verkfæri komi í stað sjálfræðis fólks. Hún snýst um að réttu verkfærin auki getu fólks og ég tel að sú þróun muni ná mun lengra en við álítum nú mögulegt.
Í þriðja lagi verður þessi tækni að efla hvern einstakling. Björt framtíð verður til þegar fólk nýtir hæfileika sína og skapar verðmæti fyrir sjálft sig, samfélög sín, lönd sín og heiminn allan. Við kunnum að vera meðal þeirra sem byggja þessa tækni, en við erum ekki hetjur þessarar sögu. Hlutverk okkar er að gera fólki um allan heim kleift að njóta sín og treysta á töfra mannlegrar færni og hæfileika.
Nú höfum við líkön sem geta aflað þekkingar sem við höfum aldrei áður haft. Lítum á framfarirnar sem orðið hafa í stærðfræði. Fyrir þremur sumrum réðu líkönin okkar þokkalega við stærðfræði á grunnskólastigi. Fyrir tveimur sumrum stóðu þau sig nokkuð vel í stærðfræðikeppnum framhaldsskóla. Síðasta sumar náðum við árangri sem jafngildir gullverðlaunum í virtustu alþjóðlegu stærðfræðikeppninni. Og fyrir aðeins nokkrum vikum í sumar leysti eitt líkana okkar eitt af þúsaldarverðlaunavandamálunum, Navier–Stokes-jöfnurnar.
Þessar jöfnur eru notaðar við hönnun flugvéla, veðurspár og rannsóknir á blóðflæði. Við leysum ekki stærðfræðidæmi þeirra sjálfra vegna, heldur til að gera fólki kleift að afla nýrrar þekkingar og nýta hana til að bæta heilbrigðisþjónustu, auka lífsgæði og efla möguleika allra um heim allan. Enn á eftir að uppgötva ótal margt.
En það er afar mikilvægt að fyrirtæki komi ekki í stað lýðræðislegra ferla.
Ef gervigreind á að vera lýðræðisleg mega mikilvægustu ákvarðanirnar ekki eingöngu vera teknar á rannsóknarstofum í San Francisco. Þær verða að mótast í lýðræðislegum ferlum og af stjórnvöldum sem bera ábyrgð gagnvart fólkinu sem þau þjóna.
Á alþjóðavettvangi krefst þetta samvinnu. Í sögunni hafa komið tímar þegar ríki sem keppa sín á milli og eru ekki alltaf sérlega vinveitt hafa samt tekið höndum saman um sameiginlega hagsmuni og almannahag andspænis öflugri nýrri tækni. Við teljum að nú verði að vera einn slíkra tíma.
Við þurfum kerfi fyrir innlenda og alþjóðlega staðla um háþróaða gervigreind sem styðja hver við annan: staðla til að mæla getu, meta áhættu, ákvarða hvort öryggisráðstafanir dugi og tryggja raunverulegt mannlegt eftirlit eftir því sem kerfin verða sjálfstæðari.
Við þurfum sameiginlega staðla svo ríki geti borið saman gögn, sannreynt að kröfur séu uppfylltar og búið yfir sameiginlegu tungutaki og skilningi á því sem er að gerast.
Við þurfum skjóta og nákvæma tilkynningu atvika, ásamt verklagsreglum um flokkun og tilkynningar, svo heimurinn geti lært af mistökum áður en þau verða að hamförum.
Við þurfum einnig öruggar samskiptaleiðir milli stjórnvalda, rekstraraðila mikilvægra innviða og tæknisérfræðinga til að miðla upplýsingum um nýja veikleika og ógnir.
Þessir staðlar mega augljóslega hvorki festa núverandi markaðsráðandi aðila í sessi né hygla einu viðskiptalíkani umfram annað. Þeir verða að styðja þróunaraðila opinna og lokaðra líkana, nýja aðila jafnt sem rótgrónar rannsóknarstofur, innlent ákvörðunarvald og alþjóðlegt samstarf. Hver ríkisstjórn ætti að ákveða hvernig hún innleiðir staðlana í eigið réttarkerfi. En við stöndum öll betur að vígi ef við getum komið okkur saman um hvað teljist traust gögn, öflugar öryggisráðstafanir og gott eftirlit á heimsvísu.
Við höfum ekki öll svörin og tökum fagnandi öllum betri hugmyndum. Við erum reiðubúin að vinna með ykkur öllum og leggja okkur fram um að finna bestu leiðina áfram.
Við stöndum á tímamótum. Önnur leiðin liggur til heims þar sem völd safnast á fárra hendur, ákvarðanir eru ógagnsæjar og fólki finnst mikilvægasta tækni ævi þess vera þröngvað upp á það. Hin leiðin liggur til heims þar sem gervigreind þjónar fólki vegna þess að fólk tekur, í gegnum lýðræðislegar stofnanir, þátt í að ákveða hvernig hún skuli þróast og stýra þróun hennar; þar sem vísindaframfarir bæta líf fólks í raun; þar sem fleiri geta tekið þátt í að móta framtíðina; og þar sem þessi tækni heldur áfram að veita einstaklingum og samfélögum aukinn mátt til að lifa eins og þau kjósa. Þetta er framtíð full af nýttum tækifærum, eftirvæntingu og undrun.
Og þetta er framtíðin sem við teljum að sé þess virði að byggja upp. Kærar þakkir.
