Sam Altman’s remarks at the United Nations Security Council

Today, OpenAI CEO Sam Altman addressed the United Nations Security Council on artificial intelligence. He discussed AI’s potential to expand opportunity, the importance of keeping powerful systems under human control, and the need for international cooperation on AI safety.

Thank you, Mr. President and your Excellencies. I’m honored to be here and to be able to speak with you all at this important time.

We have been talking about artificial intelligence for years, but it feels different in recent weeks and months. Rapid model progress has made the timeline feel more compressed, the upside more tangible, but also the stakes and the risks more immediate.

We have a choice in front of us. AI can either be more like a new Renaissance of creativity and discovery, or more like a new Industrial Revolution of upheaval and disarray.

The Renaissance was a time when new tools, new ideas, and new institutions expanded what people believed they could do. AI can play that role for our time. I believe that people are much more capable than they imagine themselves to be, but have been held back by limited technology that was meant to empower but instead distracts and often steals attention.

The best version of AI is not about making people cogs in a giant machine, or optimizing every part of life until the human parts disappear. It is about giving people more agency in an ever more complex world: more ability to learn, to create, discover, build, participate. There are many things that AI cannot—and should not—automate.

AI should be built for people, not simply to turn the crank of the machines faster for their own sake. Some of the things people working to build AI have said are so dystopian that they sound like the plot of bad science fiction movies.

Anything this powerful is also intimidating. This moment is complicated as we feel both tremendous potential and very understandable anxiety at the same time.

These models can help people discover new knowledge: new medicines, better health care, stronger education, and build more productive economies. They can be new tools for people to pursue dreams and ambition that today feel out of reach. The complexity of life has increased so dramatically for the average person. AI can be a defensive tool against this complexity as much as it can be this tool of unprecedented discovery and innovation.

On the other hand, as AI systems become more capable and more autonomous, they could move faster than our institutions, concentrate power in too few hands, or make decisions that people no longer understand or control.

That concern becomes especially important as we approach systems that can improve themselves and future versions of themselves, often called recursive self-improvement. As the process of building AI becomes more automated, the pace of AI progress could accelerate rapidly. This moment calls for extreme care.

I largely agree with Professor Bengio. Although I’ll say two instead of three—I believe there are two ways that AI progress could go very badly that we have to avoid.

First, we could lose control of the future to AI. The risk is that it moves so fast that people can no longer follow what’s happening or intervene when needed. This would obviously be terrible.

The industry must not accept too much technological risk just because the benefits are too great and that they feel too important to slow down. Beating companies in a competitive pace is not a reason to make rash decisions. Nor do we believe we are locked in a race where we are unable to do that. We have unilaterally slowed down in the past. We will do so in the future. We do not want to build systems—we think it’s important that everyone avoids building systems—where we cannot make the alignment, monitorability, and safety guarantees that we must.

We need to understand what these systems are doing and have strong evidence that they will do what people intend, even as they get very, very smart. Actually especially as they get very very smart. It doesn’t matter whether people put the risk of catastrophe at 10%, or 1%, or 12%, or .1%. None of these levels are remotely acceptable. And we should not train models that we cannot make an extremely strong case that we will be able to keep under human control.

So that’s one way things can go wrong. In the other direction, these systems could concentrate too much power in too few hands. No one person or company or country should be able to use the most powerful AI models to impose their worldview on everyone else. A company or country that believes only it can be trusted with this technology can use that belief to justify almost anything else. We have to reject that logic, even when it’s convenient for any one actor.

Besoj se ekziston një rrugë pragmatike për t’i trajtuar të dyja këto çështje. Në OpenAI, ne u qasemi këtyre pyetjeve me një synim të qartë: IA-ja duhet t’u japë njerëzve më shumë kontroll mbi jetën e tyre. Më shumë liri për ta jetuar jetën ashtu siç dëshirojnë. Më shumë mundësi për të zgjidhur probleme, të mëdha apo të vogla, dhe për të përmirësuar komunitetet e tyre. Nuk duam të biem në grackën e optimizmit të verbër. Por nuk duam as të biem në grackën e pesimizmit ekstrem. Nëse anojmë drejt cilitdo prej këtyre dy ekstremeve, nuk do të arrijmë t’i përballojmë me sukses sfidat që kemi përpara, sidomos në një kohë kur bota dhe njerëzit e saj përballen me sfida kaq të mëdha, në zgjidhjen e të cilave kjo teknologji mund të ndihmojë. Prandaj, përpiqemi të ndjekim një rrugë të mesme mes këtyre dy skajeve.

Për ne, kjo nënkupton tri parime.

Së pari, ndërsa IA-ja bëhet gjithnjë e më e aftë, njerëzit duhet të mbeten në qendër të vendimmarrjes për IA-në. Përafrimi i IA-së me vlerat dhe synimet njerëzore nuk është thjesht një çështje abstrakte kërkimore. Ai nënkupton punën për të siguruar që këto sisteme të mbeten vazhdimisht nën kontrollin e njerëzve, të pasqyrojnë vlerat njerëzore dhe t’i ndihmojnë njerëzit të drejtojnë fazat e ardhshme të zhvillimit. Ne nuk synojmë dhe nuk duhet të synojmë automatizimin e gjykimit apo të vlerave njerëzore.

Së dyti, përfitimet e përparimit shkencor dhe të rritjes ekonomike duhet të krijohen nga njerëzit dhe të jenë në shërbim të tyre. IA-ja duhet t’i ndihmojë studiuesit të bëjnë zbulime, mjekët të trajtojnë pacientët, mësuesit të mësojnë nxënësit, sipërmarrësit të krijojnë kompani, komunitetet të zgjidhin probleme që më parë dukeshin të pazgjidhshme e shumë më tepër. Historia e vazhdueshme e përparimit njerëzor nuk është historia e mjeteve që zëvendësojnë aftësinë e njerëzve për të vepruar dhe për të marrë vendime. Përkundrazi, është historia e mjeteve të duhura që i bëjnë njerëzit më të aftë dhe besoj se kjo do të shkojë shumë më tej nga sa mund ta imagjinojmë sot.

Së treti, kjo teknologji duhet të fuqizojë çdo individ. Një e ardhme e mirë do të ndërtohet nga njerëzit që realizojnë potencialin e tyre dhe krijojnë vlera për veten, komunitetet e tyre, vendet e tyre dhe botën në tërësi. Ne mund të jemi ndër ata që e ndërtojnë këtë teknologji, por nuk jemi heronjtë e kësaj historie. Roli ynë është t’u japim mundësi njerëzve në mbarë botën të realizojnë potencialin e tyre dhe të besojmë në fuqinë e jashtëzakonshme të aftësive dhe zotësive njerëzore.

Tashmë kemi modele të afta të zbulojnë njohuri që nuk i kemi pasur kurrë më parë. Merrni, për shembull, përparimin që kemi parë në matematikë. Tre vera më parë, modelet tona kishin aftësi të kënaqshme në matematikën e shkollës fillore. Dy vera më parë, ato arrinin rezultate mjaft të mira në konkurset e matematikës për nxënësit e shkollave të mesme. Verën e kaluar, arritëm nivelin e medaljes së artë në konkursin më prestigjioz ndërkombëtar të matematikës. Dhe vetëm pak javë më parë, gjatë kësaj vere, një nga modelet tona zgjidhi një nga Problemet e Çmimit të Mijëvjeçarit, ekuacionet Navier-Stokes.

Këto ekuacione përdoren për projektimin e avionëve, parashikimin e motit dhe studimin e qarkullimit të gjakut. Nuk po zgjidhim probleme matematikore thjesht për hir të tyre, por për t'i fuqizuar njerëzit të zbulojnë njohuri të reja dhe t'i përdorin ato për të përmirësuar kujdesin shëndetësor, për të ngritur standardet e jetesës dhe për të zgjeruar potencialin e të gjithëve në mbarë botën. Mbetet ende kaq shumë për t'u zbuluar.

Por është shumë e rëndësishme që kompanitë të mos zëvendësojnë procesin demokratik.

Nëse IA-ja duhet të jetë demokratike, vendimet më të rëndësishme nuk mund të merren vetëm nga laboratorët në San-Francisko. Ato duhet të formësohen përmes proceseve demokratike dhe nga qeveritë që japin llogari përpara qytetarëve të cilëve u shërbejnë.

Në nivel ndërkombëtar, kjo do të kërkojë bashkëpunim. Historia na ka treguar se ka pasur raste kur vende që konkurrojnë me njëri-tjetrin dhe që jo gjithmonë kanë marrëdhënie të mira, janë bashkuar për interesa të përbashkëta dhe për të mirën kolektive përballë një teknologjie të re e të fuqishme. Ne besojmë se ky duhet të jetë një nga ato momente.

Na nevojitet një mekanizëm për vendosjen e standardeve kombëtare dhe ndërkombëtare plotësuese për IA-në e avancuar: standarde për matjen e aftësive, vlerësimin e rreziqeve, përcaktimin nëse masat mbrojtëse janë të mjaftueshme dhe ruajtjen e mbikëqyrjes kuptimplotë njerëzore, ndërsa sistemet bëhen gjithnjë e më autonome.

Na nevojiten standarde të përbashkëta që vendet të mund të krahasojnë provat, të verifikojnë përputhshmërinë me standardet dhe të kenë një gjuhë dhe kuptim të përbashkët për atë që po ndodh.

Na nevojiten protokolle për raportimin e saktë dhe të shpejtë të incidenteve, si dhe për klasifikimin dhe dokumentimin e tyre, në mënyrë që bota të mësojë nga dështimet përpara se ato të kthehen në katastrofa.

Na nevojiten gjithashtu kanale të sigurta komunikimi mes qeverive, operatorëve të infrastrukturës kritike dhe ekspertëve teknikë për të shkëmbyer informacione mbi cenueshmëritë e reja të sigurisë dhe kërcënimet e reja.

Natyrisht, këto standarde nuk duhet të favorizojnë aktorët ekzistues të tregut apo një model biznesi kundrejt një tjetri. Ato duhet të mbështesin si zhvilluesit e modeleve të hapura, ashtu edhe ata të modeleve të mbyllura, si aktorët e rinj, ashtu edhe laboratorët e konsoliduar, si autoritetin kombëtar, ashtu edhe bashkëpunimin ndërkombëtar. Çdo qeveri duhet të vendosë vetë se si t’i përfshijë standardet në sistemin e saj ligjor. Por të gjithë do të përfitojmë nëse arrijmë të biem dakord në nivel global se çfarë përbën prova të besueshme, masa mbrojtëse të përshtatshme dhe mbikëqyrje efektive.

Ne nuk i kemi të gjitha përgjigjet dhe jemi shumë të hapur ndaj çdo ideje më të mirë. Jemi të gatshëm të bashkëpunojmë me të gjithë ju dhe të bëjmë çmos për të gjetur rrugën përpara.

Ndodhemi në një udhëkryq. Njëra rrugë na çon drejt një bote ku pushteti është i përqendruar, vendimet merren pa transparencë dhe njerëzit ndiejnë se teknologjia më e rëndësishme e jetës së tyre po u imponohet, pa pasur mundësi të ndikojnë në të. Rruga tjetër na çon drejt një bote ku IA-ja është në shërbim të njerëzve, sepse ata, përmes institucioneve demokratike, ndihmojnë për të vendosur se si duhet të zhvillohet dhe për të orientuar zhvillimin e saj; ku përparimi shkencor përmirëson jetën e njerëzve; ku më shumë njerëz mund të marrin pjesë në formësimin e së ardhmes; dhe ku kjo teknologji vazhdon t’u japë individëve dhe komuniteteve më shumë mundësi për ta jetuar jetën ashtu siç dëshirojnë. Kjo është një e ardhme ku potenciali bëhet realitet dhe që ngjall entuziazëm e mahnitje.

Dhe kjo është e ardhmja që besojmë se ia vlen ta ndërtojmë. Ju faleminderit shumë.