Sam Altman’s remarks at the United Nations Security Council

Today, OpenAI CEO Sam Altman addressed the United Nations Security Council on artificial intelligence. He discussed AI’s potential to expand opportunity, the importance of keeping powerful systems under human control, and the need for international cooperation on AI safety.

Thank you, Mr. President and your Excellencies. I’m honored to be here and to be able to speak with you all at this important time.

We have been talking about artificial intelligence for years, but it feels different in recent weeks and months. Rapid model progress has made the timeline feel more compressed, the upside more tangible, but also the stakes and the risks more immediate.

We have a choice in front of us. AI can either be more like a new Renaissance of creativity and discovery, or more like a new Industrial Revolution of upheaval and disarray.

The Renaissance was a time when new tools, new ideas, and new institutions expanded what people believed they could do. AI can play that role for our time. I believe that people are much more capable than they imagine themselves to be, but have been held back by limited technology that was meant to empower but instead distracts and often steals attention.

The best version of AI is not about making people cogs in a giant machine, or optimizing every part of life until the human parts disappear. It is about giving people more agency in an ever more complex world: more ability to learn, to create, discover, build, participate. There are many things that AI cannot—and should not—automate.

AI should be built for people, not simply to turn the crank of the machines faster for their own sake. Some of the things people working to build AI have said are so dystopian that they sound like the plot of bad science fiction movies.

Anything this powerful is also intimidating. This moment is complicated as we feel both tremendous potential and very understandable anxiety at the same time.

These models can help people discover new knowledge: new medicines, better health care, stronger education, and build more productive economies. They can be new tools for people to pursue dreams and ambition that today feel out of reach. The complexity of life has increased so dramatically for the average person. AI can be a defensive tool against this complexity as much as it can be this tool of unprecedented discovery and innovation.

On the other hand, as AI systems become more capable and more autonomous, they could move faster than our institutions, concentrate power in too few hands, or make decisions that people no longer understand or control.

That concern becomes especially important as we approach systems that can improve themselves and future versions of themselves, often called recursive self-improvement. As the process of building AI becomes more automated, the pace of AI progress could accelerate rapidly. This moment calls for extreme care.

I largely agree with Professor Bengio. Although I’ll say two instead of three—I believe there are two ways that AI progress could go very badly that we have to avoid.

First, we could lose control of the future to AI. The risk is that it moves so fast that people can no longer follow what’s happening or intervene when needed. This would obviously be terrible.

The industry must not accept too much technological risk just because the benefits are too great and that they feel too important to slow down. Beating companies in a competitive pace is not a reason to make rash decisions. Nor do we believe we are locked in a race where we are unable to do that. We have unilaterally slowed down in the past. We will do so in the future. We do not want to build systems—we think it’s important that everyone avoids building systems—where we cannot make the alignment, monitorability, and safety guarantees that we must.

We need to understand what these systems are doing and have strong evidence that they will do what people intend, even as they get very, very smart. Actually especially as they get very very smart. It doesn’t matter whether people put the risk of catastrophe at 10%, or 1%, or 12%, or .1%. None of these levels are remotely acceptable. And we should not train models that we cannot make an extremely strong case that we will be able to keep under human control.

So that’s one way things can go wrong. In the other direction, these systems could concentrate too much power in too few hands. No one person or company or country should be able to use the most powerful AI models to impose their worldview on everyone else. A company or country that believes only it can be trusted with this technology can use that belief to justify almost anything else. We have to reject that logic, even when it’s convenient for any one actor.

ሁለቱንም ችግሮች ለማለፍ ተግባራዊ መንገድ አለ ብዬ አምናለሁ። በOpenAI ውስጥ፣ እነዚህን ጥያቄዎች የምንመለከተው ግልጽ ግብ ይዘን ነው፤ AI ሰዎች በራሳቸው ሕይወት ላይ የበለጠ የመወሰን ኃይል እንዲኖራቸው ሊያደርግ ይገባል። በፈለጉት መንገድ ለመኖር የበለጠ ነፃነት። ትልቅም ሆኑ ትንሽ ችግሮችን ለመፍታትና ማኅበረሰቦቻቸውን ለማሻሻል የበለጠ አቅም። ሁሉም ነገር መልካም ይሆናል ብሎ በጭፍን ተስፋ የማድረግ ወጥመድ ውስጥ መግባት አንፈልግም። እንዲሁም ጥፋት አይቀሬ ነው ብሎ ተስፋ የመቁረጥ ወጥመድ ውስጥ መግባት አንፈልግም። ወደ ሁለቱ ጽንፎች መሳብ በፊታችን ላሉት ፈተናዎች ስኬታማ መፍትሔ እንድናገኝ አይረዳንም። በተለይም ዓለምና ሕዝቦቿ፣ ይህ ቴክኖሎጂ ሊፈታቸው በሚያግዝ እጅግ ከባድ ችግሮች በተከበቡበት ጊዜ። ስለዚህ በእነዚህ ሁለት ጽንፎች መካከል ያለውን ሚዛናዊ መንገድ ለመከተል እንጥራለን።

ለእኛ፣ ይህ ሦስት መርሆችን መከተል ማለት ነው።

አንደኛ፣ የAI አቅም እየጨመረ ሲሄድ፣ ሰዎች በAI ውሳኔ አሰጣጥ ማዕከል መቆየት አለባቸው። AIን ከሰው ዓላማና እሴቶች ጋር ማጣጣም፣ ከተግባራዊ ሕይወት የራቀ የምርምር ጥያቄ አይደለም። እነዚህ ሥርዓቶች በአስተማማኝ ሁኔታ በሰው ቁጥጥር ሥር እንዲቆዩ፣ የሰውን እሴቶች እንዲያንጸባርቁ፣ ሰዎችም ቀጣዮቹን የእድገት ደረጃዎች እንዲመሩ እንዲያግዙ የማረጋገጥ ሥራ ነው። የሰውን የማመዛዘን ችሎታ ወይም እሴቶች በራስ-ሰር በሚሠሩ ሥርዓቶች ለመተካት እየሞከርን አይደለም፤ ማድረግም የለብንም።

ሁለተኛ፣ የሳይንሳዊ እድገትና የኢኮኖሚ ዕድገት ጥቅሞች በሰዎች የሚፈጠሩና ለሰዎች የሚውሉ መሆን አለባቸው። AI ተመራማሪዎች አዳዲስ ግኝቶችን እንዲያገኙ፣ ሐኪሞች ታካሚዎችን እንዲያክሙ፣ መምህራን ተማሪዎችን እንዲያስተምሩ፣ ሥራ ፈጣሪዎች ኩባንያዎችን እንዲመሠርቱ፣ ማኅበረሰቦች ከአቅማቸው በላይ የሚመስሉ ችግሮችን እንዲፈቱና ከዚህም በላይ ብዙ እንዲሠሩ ሊረዳ ይገባል። ቀጣይነት ያለው የሰው ልጅ እድገት ታሪክ፣ መሣሪያዎች ሰዎች በራሳቸው የመወሰንና የመሥራት ችሎታን የሚተኩበት አይደለም። ይልቁንም ተገቢዎቹ መሣሪያዎች ሰዎችን የበለጠ ብቁ የሚያደርጉበት ነው። ይህም ይቻላል ብለን ከምናስበው እጅግ በላይ ይደርሳል ብዬ አምናለሁ።

ሦስተኛ፣ ይህ ቴክኖሎጂ እያንዳንዱን ግለሰብ ማብቃት አለበት። ታላቅ መጪ ዘመን የሚፈጠረው፣ ሰዎች አቅማቸውን ሙሉ በሙሉ ሲጠቀሙበትና ለራሳቸው፣ ለማኅበረሰቦቻቸው፣ ለአገሮቻቸውና ለመላው ዓለም ጠቃሚ ነገሮችን ሲገነቡ ነው። እኛ ይህን ቴክኖሎጂ ከሚገነቡት አንዱ ልንሆን እንችላለን፤ የዚህ ታሪክ ጀግኖች ግን አይደለንም። የእኛ ሚና በመላው ዓለም ያሉ ሰዎችን ማብቃትና የሰው ልጅ ክህሎትና ችሎታ በሚፈጥረው ድንቅ ውጤት መተማመን ነው።

አሁን ከዚህ በፊት ኖሮን የማያውቅ እውቀት ሊያገኙ የሚችሉ ሞዴሎች አሉን። በሒሳብ ዘርፍ ያየነውን እድገት እንመልከት። ከሦስት ዓመታት በፊት በበጋ፣ ሞዴሎቻችን በአንደኛ ደረጃ ትምህርት ቤት ሒሳብ መጠነኛ ብቃት ነበራቸው። ከሁለት ዓመታት በፊት በበጋ፣ በሁለተኛ ደረጃ ትምህርት ቤት የሒሳብ ውድድሮች ጥሩ ብቃት ነበራቸው። ባለፈው በጋ፣ ከሁሉ በላይ ታዋቂ በሆነው ዓለም አቀፍ የሒሳብ ውድድር የወርቅ ሜዳሊያ ደረጃ ላይ ደረስን። በዚህ በጋ፣ ከጥቂት ሳምንታት በፊት ደግሞ፣ ከሞዴሎቻችን አንዱ ከሚሊኒየም ሽልማት ችግሮች አንዱን፣ የናቪዬ–ስቶክስ እኩልታዎችን፣ ፈታ።

እነዚህ እኩልታዎች ለአውሮፕላን ንድፍ፣ ለአየር ሁኔታ ትንበያና ለደም ፍሰት ጥናት ያገለግላሉ። የሒሳብ ችግሮችን የምንፈታው ለመፍታት ብቻ አይደለም። ሰዎች አዲስ እውቀት እንዲያገኙና በእሱም የጤና እንክብካቤን እንዲያሻሽሉ፣ የኑሮ ደረጃን እንዲያሳድጉ፣ በመላው ዓለም የእያንዳንዱን ሰው አቅም እንዲያሰፉ ለማስቻል ነው። ገና ያልተገኘ እጅግ ብዙ እውቀት ይቀራል።

ነገር ግን ኩባንያዎች የዲሞክራሲያዊ ሂደቱን ቦታ እንዳይወስዱ ማድረግ እጅግ አስፈላጊ ነው።

AI ዲሞክራሲያዊ እንዲሆን ከተፈለገ፣ ዋነኞቹ ውሳኔዎች በሳን ፍራንሲስኮ ባሉ የምርምር ተቋማት ብቻ ሊወሰኑ አይችሉም። እነዚህ ውሳኔዎች በዲሞክራሲያዊ ሂደቶች እና ለሚያገለግሉት ሕዝብ ተጠያቂ በሆኑ መንግሥታት መቀረጽ አለባቸው።

በዓለም አቀፍ ደረጃ፣ ይህ ትብብርን ይጠይቃል። በታሪካችን ውስጥ፣ ኃይለኛ አዲስ ቴክኖሎጂ ሲመጣ፣ ተቀናቃኝ የሆኑና ሁልጊዜም ጥሩ ግንኙነት የሌላቸው አገሮች እንኳን ለጋራ ፍላጎታቸውና ለሁሉም በጎ ነገር ሲሉ የተባበሩባቸው ጊዜያት ነበሩ። ይህም ከእነዚያ ጊዜያት አንዱ መሆን አለበት ብለን እናምናለን።

እርስ በርስ የሚደጋገፉ አገራዊና ዓለም አቀፍ የግንባር ቀደም AI መስፈርቶችን የሚያስተባብር ሥርዓት ያስፈልገናል። እነዚህም አቅምን የሚለኩ፣ አደጋዎችን የሚገመግሙ፣ የመከላከያ እርምጃዎች በቂ መሆናቸውን የሚወስኑ፣ እንዲሁም ሥርዓቶች ይበልጥ ራሳቸውን ችለው እየሠሩ ሲሄዱ ውጤታማ የሰው ቁጥጥር እንዲቀጥል የሚያደርጉ መስፈርቶች ናቸው።

አገሮች ማስረጃዎችን እንዲያወዳድሩ፣ መስፈርቶች መከበራቸውን እንዲያረጋግጡ፣ እየተከናወነ ስላለውም ነገር የጋራ የመነጋገሪያ ቋንቋና ግንዛቤ እንዲኖራቸው፣ የጋራ መስፈርቶች ያስፈልጉናል።

ዓለም ችግሮች ወደ ከባድ አደጋዎች ከመቀየራቸው በፊት ከእነሱ እንዲማር፣ ትክክለኛና ፈጣን የክስተት ሪፖርት አቀራረብ፣ እንዲሁም ክስተቶችን ለመመደብና ሪፖርት ለማድረግ የሚያገለግሉ ሥነ ሥርዓቶች ያስፈልጉናል።

መንግሥታት፣ ወሳኝ መሠረተ ልማቶችን የሚያስተዳድሩ አካላትና የቴክኒክ ባለሙያዎች፣ እየታዩ ስላሉ የደህንነት ክፍተቶችና አዳዲስ ስጋቶች መረጃ እንዲለዋወጡም፣ ደህንነታቸው የተጠበቀ የመገናኛ መንገዶች ያስፈልጉናል።

በእርግጥ፣ እነዚህ መስፈርቶች ቀድሞ በገበያው ያሉትን አካላት የበላይነት ሊያጸኑ ወይም አንዱን የንግድ አሠራር ከሌላው ሊያስቀድሙ አይገባም። ክፍትና ዝግ ሞዴል አዘጋጆችን፣ አዲስ ገቢዎችንና የተመሠረቱ የምርምር ተቋማትን፣ አገራዊ ሥልጣንንና ዓለም አቀፍ ትብብርን መደገፍ አለባቸው። እያንዳንዱ መንግሥት መስፈርቶቹን በራሱ የሕግ ሥርዓት ውስጥ እንዴት ማካተት እንደሚገባው ሊወስን ይገባል። ሆኖም፣ በዓለም አቀፍ ደረጃ ጥሩ ማስረጃ፣ ጥሩ የመከላከያ እርምጃዎችና ጥሩ ቁጥጥር ምን መምሰል እንዳለባቸው መስማማት ከቻልን፣ ሁላችንም ተጠቃሚ እንሆናለን።

ለሁሉም ጥያቄዎች መልስ የለንም፤ የተሻሉ ሐሳቦችንም ሁሉ ለመቀበል ፍጹም ዝግጁ ነን። ከሁላችሁም ጋር በመሥራት፣ ወደፊት የምንጓዝበትን መንገድ ለማግኘት የሚቻለንን ሁሉ ለማድረግ ዝግጁ ነን።

የትኛውን መንገድ እንደምንከተል መወሰን ያለብን ወሳኝ ምዕራፍ ላይ ነን። አንዱ መንገድ ሥልጣን በጥቂቶች እጅ ወደሚሰበሰብበት፣ ውሳኔዎች ግልጽ ወደማይሆኑበት፣ ሰዎችም በዘመናቸው ከሁሉ በላይ አስፈላጊ የሆነው ቴክኖሎጂ ያለፈቃዳቸው በእነሱ ላይ እየተጫነ እንደሆነ ወደሚሰማቸው ዓለም ይወስዳል። ሌላው መንገድ ደግሞ ሰዎች በዲሞክራሲያዊ ተቋማት አማካይነት AI እንዴት ማደግ እንዳለበት በመወሰንና አቅጣጫውን በመምራት ስለሚሳተፉ፣ AI ለሰዎች ወደሚሠራበት ዓለም ይወስዳል። በዚያ ዓለም ሳይንሳዊ እድገት የሰዎችን ኑሮ በተጨባጭ ያሻሽላል፤ የበለጠ ሰው የወደፊቱን በመቅረጽ ይሳተፋል፤ ይህ ቴክኖሎጂም ግለሰቦችና ማኅበረሰቦች በመረጡት መንገድ እንዲኖሩ የበለጠ አቅም መስጠቱን ይቀጥላል። ይህ አቅም ወደ እውንነት የሚቀየርበት፣ በጉጉትና በአድናቆት የተሞላ መጪ ዘመን ነው።

እኛም ለመገንባት መጣር የሚገባው ይህ መጪ ዘመን ነው ብለን እናምናለን። እጅግ አመሰግናለሁ።