Sam Altman’s remarks at the United Nations Security Council

Today, OpenAI CEO Sam Altman addressed the United Nations Security Council on artificial intelligence. He discussed AI’s potential to expand opportunity, the importance of keeping powerful systems under human control, and the need for international cooperation on AI safety.

Thank you, Mr. President and your Excellencies. I’m honored to be here and to be able to speak with you all at this important time.

We have been talking about artificial intelligence for years, but it feels different in recent weeks and months. Rapid model progress has made the timeline feel more compressed, the upside more tangible, but also the stakes and the risks more immediate.

We have a choice in front of us. AI can either be more like a new Renaissance of creativity and discovery, or more like a new Industrial Revolution of upheaval and disarray.

The Renaissance was a time when new tools, new ideas, and new institutions expanded what people believed they could do. AI can play that role for our time. I believe that people are much more capable than they imagine themselves to be, but have been held back by limited technology that was meant to empower but instead distracts and often steals attention.

The best version of AI is not about making people cogs in a giant machine, or optimizing every part of life until the human parts disappear. It is about giving people more agency in an ever more complex world: more ability to learn, to create, discover, build, participate. There are many things that AI cannot—and should not—automate.

AI should be built for people, not simply to turn the crank of the machines faster for their own sake. Some of the things people working to build AI have said are so dystopian that they sound like the plot of bad science fiction movies.

Anything this powerful is also intimidating. This moment is complicated as we feel both tremendous potential and very understandable anxiety at the same time.

These models can help people discover new knowledge: new medicines, better health care, stronger education, and build more productive economies. They can be new tools for people to pursue dreams and ambition that today feel out of reach. The complexity of life has increased so dramatically for the average person. AI can be a defensive tool against this complexity as much as it can be this tool of unprecedented discovery and innovation.

On the other hand, as AI systems become more capable and more autonomous, they could move faster than our institutions, concentrate power in too few hands, or make decisions that people no longer understand or control.

That concern becomes especially important as we approach systems that can improve themselves and future versions of themselves, often called recursive self-improvement. As the process of building AI becomes more automated, the pace of AI progress could accelerate rapidly. This moment calls for extreme care.

I largely agree with Professor Bengio. Although I’ll say two instead of three—I believe there are two ways that AI progress could go very badly that we have to avoid.

First, we could lose control of the future to AI. The risk is that it moves so fast that people can no longer follow what’s happening or intervene when needed. This would obviously be terrible.

The industry must not accept too much technological risk just because the benefits are too great and that they feel too important to slow down. Beating companies in a competitive pace is not a reason to make rash decisions. Nor do we believe we are locked in a race where we are unable to do that. We have unilaterally slowed down in the past. We will do so in the future. We do not want to build systems—we think it’s important that everyone avoids building systems—where we cannot make the alignment, monitorability, and safety guarantees that we must.

We need to understand what these systems are doing and have strong evidence that they will do what people intend, even as they get very, very smart. Actually especially as they get very very smart. It doesn’t matter whether people put the risk of catastrophe at 10%, or 1%, or 12%, or .1%. None of these levels are remotely acceptable. And we should not train models that we cannot make an extremely strong case that we will be able to keep under human control.

So that’s one way things can go wrong. In the other direction, these systems could concentrate too much power in too few hands. No one person or company or country should be able to use the most powerful AI models to impose their worldview on everyone else. A company or country that believes only it can be trusted with this technology can use that belief to justify almost anything else. We have to reject that logic, even when it’s convenient for any one actor.

ผมเชื่อว่าเราสามารถหาแนวทางที่เป็นไปได้จริงสำหรับทั้งสองเรื่องนี้ ที่ OpenAI เราพิจารณาคำถามเหล่านี้โดยมีเป้าหมายที่ชัดเจนว่า AI ควรช่วยให้ผู้คนมีอำนาจกำหนดชีวิตของตนเองมากขึ้น มีอิสระมากขึ้นในการใช้ชีวิตในแบบที่ต้องการ มีความสามารถมากขึ้นในการแก้ปัญหาไม่ว่าจะเล็กหรือใหญ่ และช่วยให้ชุมชนของตนดีขึ้น เราไม่ต้องการตกอยู่ในกับดักของการมองโลกในแง่ดีโดยไม่พิจารณาความเสี่ยง และก็ไม่ต้องการตกอยู่ในกับดักของการมองอนาคตในแง่ร้ายจนเกินไปเช่นกัน การถูกดึงไปสู่สุดขั้วด้านใดด้านหนึ่งไม่ได้ช่วยให้เรารับมือกับความท้าทายที่อยู่ตรงหน้าได้สำเร็จ โดยเฉพาะในช่วงเวลาที่โลกและผู้คนกำลังเผชิญกับปัญหาใหญ่หลวงมากมายซึ่งเทคโนโลยีนี้สามารถช่วยแก้ไขได้ ดังนั้น เราจึงพยายามเลือกแนวทางที่อยู่ตรงกลางระหว่างสองขั้วนี้

สำหรับเรา นั่นหมายถึงหลักการสามประการ

ประการแรก เมื่อ AI มีความสามารถมากขึ้น มนุษย์ต้องยังคงเป็นศูนย์กลางของการตัดสินใจเกี่ยวกับ AI การทำให้ AI สอดคล้องกับเจตนาและคุณค่าของมนุษย์ไม่ใช่เพียงโจทย์วิจัยเชิงนามธรรม แต่เป็นการทำให้มั่นใจว่าระบบเหล่านี้จะยังคงอยู่ภายใต้การควบคุมของมนุษย์อย่างเชื่อถือได้ สะท้อนคุณค่าของมนุษย์ และช่วยให้ผู้คนมีส่วนกำหนดทิศทางการพัฒนาในขั้นต่อไป เราไม่ได้พยายามและต้องไม่พยายามให้ระบบอัตโนมัติเข้ามาตัดสินแทนมนุษย์หรือกำหนดคุณค่าของมนุษย์แทนเรา

ประการที่สอง ประโยชน์จากความก้าวหน้าทางวิทยาศาสตร์และการเติบโตทางเศรษฐกิจต้องเกิดจากผู้คนและเพื่อผู้คน AI ควรช่วยให้นักวิจัยค้นพบสิ่งใหม่ๆ ช่วยแพทย์รักษาผู้ป่วย ช่วยครูสอนนักเรียน ช่วยผู้ประกอบการก่อตั้งบริษัท ช่วยชุมชนแก้ปัญหาที่ครั้งหนึ่งเคยดูเกินกว่าจะรับมือได้ และช่วยในด้านอื่นๆ อีกมากมาย เรื่องราวของความก้าวหน้าของมนุษย์ที่ดำเนินมาอย่างต่อเนื่องไม่ใช่เรื่องของเครื่องมือที่เข้ามาแทนที่ความสามารถของมนุษย์ในการคิด ตัดสินใจ และลงมือทำ แต่เป็นเรื่องของเครื่องมือที่เหมาะสมซึ่งช่วยให้ผู้คนทำสิ่งต่างๆ ได้มากขึ้น และผมเชื่อว่าสิ่งนี้จะก้าวไปได้ไกลกว่าที่เราเคยคิดว่าเป็นไปได้

ประการที่สาม เทคโนโลยีนี้ต้องช่วยให้แต่ละคนมีพลังในการกำหนดชีวิตของตนเอง อนาคตที่ดีจะเกิดขึ้นเมื่อผู้คนสามารถพัฒนาศักยภาพของตนได้อย่างเต็มที่ และสร้างคุณค่าให้แก่ตนเอง ชุมชน ประเทศ และโลกโดยรวม เราอาจเป็นหนึ่งในผู้สร้างเทคโนโลยีนี้ แต่เราไม่ใช่พระเอกของเรื่องนี้ บทบาทของเราคือการเปิดโอกาสให้ผู้คนทั่วโลกนำเทคโนโลยีนี้ไปใช้สร้างสิ่งต่างๆ ด้วยตนเอง และเชื่อมั่นในพลังอันน่าทึ่งของทักษะและความสามารถของมนุษย์

ตอนนี้เรามีโมเดลที่สามารถค้นพบองค์ความรู้ใหม่ที่มนุษย์ไม่เคยมีมาก่อน ลองดูความก้าวหน้าที่เกิดขึ้นในด้านคณิตศาสตร์ เมื่อสามฤดูร้อนที่แล้ว โมเดลของเราทำโจทย์คณิตศาสตร์ระดับประถมศึกษาได้พอใช้ สองฤดูร้อนที่แล้ว โมเดลทำโจทย์แข่งขันคณิตศาสตร์ระดับมัธยมศึกษาได้ค่อนข้างดี ฤดูร้อนที่แล้ว เราก้าวไปถึงระดับเหรียญทองในการแข่งขันคณิตศาสตร์ระดับนานาชาติที่ทรงเกียรติที่สุด และเมื่อไม่กี่สัปดาห์ที่ผ่านมาในฤดูร้อนนี้ โมเดลหนึ่งของเราสามารถแก้หนึ่งใน Millennium Prize Problems ซึ่งก็คือสมการ Navier-Stokes ได้

สมการเหล่านี้นำไปใช้ในการออกแบบอากาศยาน การพยากรณ์อากาศ และการศึกษาการไหลเวียนของเลือด เราไม่ได้แก้โจทย์คณิตศาสตร์เพียงเพื่อหาคำตอบให้กับโจทย์เหล่านั้น แต่เพื่อช่วยให้ผู้คนค้นพบองค์ความรู้ใหม่และนำความรู้นั้นไปพัฒนาการดูแลสุขภาพ ยกระดับคุณภาพชีวิต และเปิดโอกาสให้ผู้คนทั่วโลกได้พัฒนาศักยภาพของตนเองมากยิ่งขึ้น ยังมีอีกมากมายที่รอให้เราค้นพบ

แต่สิ่งสำคัญอย่างยิ่งคือ บริษัทต่างๆ ต้องไม่เข้ามาทำหน้าที่แทนกระบวนการประชาธิปไตย

หากเราต้องการให้การพัฒนา AI เป็นไปตามหลักประชาธิปไตย การตัดสินใจเรื่องสำคัญที่สุดจะปล่อยให้ห้องแล็บในซานฟรานซิสโกเป็นผู้กำหนดเพียงฝ่ายเดียวไม่ได้ แต่ต้องเปิดให้ประชาชนมีส่วนกำหนดผ่านกระบวนการประชาธิปไตย และผ่านรัฐบาลที่ต้องรับผิดชอบต่อประชาชนที่ตนทำหน้าที่รับใช้

ในระดับนานาชาติ สิ่งนี้จะเกิดขึ้นได้ด้วยความร่วมมือ ตลอดประวัติศาสตร์ที่ผ่านมา มีหลายครั้งที่แม้ประเทศต่างๆ จะแข่งขันกันและมีความขัดแย้งกัน แต่เมื่อเผชิญกับเทคโนโลยีใหม่ที่มีอิทธิพลอย่างมาก ก็ยังสามารถหันมาร่วมมือกันเพื่อผลประโยชน์ที่มีร่วมกันและประโยชน์ของส่วนรวม เราเชื่อว่าครั้งนี้ต้องเป็นหนึ่งในช่วงเวลาเหล่านั้น

เราจำเป็นต้องมีกลไกในการกำหนดมาตรฐาน AI แนวหน้าทั้งในระดับประเทศและระดับนานาชาติที่ทำงานเสริมกัน ครอบคลุมตั้งแต่มาตรฐานสำหรับการวัดความสามารถ การประเมินความเสี่ยง การพิจารณาว่ามาตรการป้องกันเพียงพอหรือไม่ ไปจนถึงการรักษาให้มนุษย์ยังคงมีบทบาทกำกับดูแลอย่างแท้จริง ขณะที่ระบบสามารถทำงานได้อย่างอิสระมากขึ้น

เราจำเป็นต้องมีมาตรฐานร่วมกัน เพื่อให้ประเทศต่างๆ สามารถเปรียบเทียบหลักฐาน ตรวจสอบการปฏิบัติตามมาตรฐาน และมีกรอบภาษาและความเข้าใจร่วมกันเกี่ยวกับสิ่งที่กำลังเกิดขึ้น

เราจำเป็นต้องมีระบบรายงานเหตุการณ์ที่ถูกต้องและรวดเร็ว พร้อมแนวทางในการจำแนกและรายงานเหตุการณ์ เพื่อให้ทั่วโลกสามารถเรียนรู้จากความผิดพลาดก่อนที่จะลุกลามกลายเป็นหายนะ

และเราจำเป็นต้องมีช่องทางการสื่อสารที่ปลอดภัยระหว่างรัฐบาล ผู้ดำเนินงานโครงสร้างพื้นฐานที่สำคัญ และผู้เชี่ยวชาญด้านเทคนิค เพื่อแลกเปลี่ยนข้อมูลเกี่ยวกับช่องโหว่ที่เพิ่งเกิดขึ้นและภัยคุกคามรูปแบบใหม่

แน่นอนว่ามาตรฐานเหล่านี้ไม่ควรเอื้อให้ผู้เล่นรายเดิมครองความได้เปรียบ หรือให้ประโยชน์แก่รูปแบบธุรกิจใดรูปแบบหนึ่งมากกว่าอีกแบบ มาตรฐานต้องรองรับทั้งผู้พัฒนาโมเดลแบบเปิดและแบบปิด ทั้งผู้เล่นรายใหม่และห้องแล็บที่ดำเนินงานมาอย่างยาวนาน รวมถึงต้องเคารพอำนาจของแต่ละประเทศควบคู่ไปกับการส่งเสริมความร่วมมือระหว่างประเทศ แต่ละรัฐบาลควรเป็นผู้ตัดสินใจว่าจะนำมาตรฐานเหล่านี้ไปใช้ในระบบกฎหมายของตนอย่างไร อย่างไรก็ตาม เราทุกฝ่ายจะได้รับประโยชน์มากขึ้น หากสามารถสร้างความเข้าใจร่วมกันในระดับโลกได้ว่า หลักฐานที่น่าเชื่อถือ มาตรการป้องกันที่ดี และการกำกับดูแลที่เหมาะสมควรมีลักษณะอย่างไร

เราไม่ได้มีคำตอบสำหรับทุกเรื่อง และเรายินดีอย่างยิ่งที่จะรับฟังแนวคิดที่ดีกว่า เราพร้อมทำงานร่วมกับทุกท่านและทุ่มเทอย่างเต็มที่เพื่อหาแนวทางที่จะก้าวต่อไป

เรากำลังอยู่ ณ จุดหัวเลี้ยวหัวต่อ เส้นทางหนึ่งจะพาเราไปสู่โลกที่อำนาจอยู่ในมือคนเพียงไม่กี่กลุ่ม การตัดสินใจต่างๆ ขาดความโปร่งใส และผู้คนรู้สึกว่าเทคโนโลยีที่สำคัญที่สุดในยุคสมัยของตนกำลังถูกสร้างและกำหนดขึ้นโดยที่พวกเขาไม่มีสิทธิ์มีเสียง อีกทางหนึ่งคือโลกที่ AI ทำงานเพื่อประโยชน์ของผู้คน เพราะผู้คนสามารถมีส่วนร่วมผ่านสถาบันประชาธิปไตยในการตัดสินใจว่า AI ควรพัฒนาไปอย่างไรและควรได้รับการกำกับไปในทิศทางใด เป็นโลกที่ความก้าวหน้าทางวิทยาศาสตร์ช่วยยกระดับชีวิตของผู้คนอย่างแท้จริง ผู้คนจำนวนมากขึ้นมีส่วนร่วมในการกำหนดอนาคต และเทคโนโลยีนี้ยังคงช่วยให้ทั้งบุคคลและชุมชนมีพลังมากขึ้นในการเลือกใช้ชีวิตในแบบที่ตนต้องการ นี่คืออนาคตที่ศักยภาพต่างๆ กลายเป็นจริง และเต็มไปด้วยความตื่นเต้นและความมหัศจรรย์

และเราเชื่อว่านี่คืออนาคตที่ควรค่าแก่การร่วมกันสร้าง ขอบคุณทุกท่านเป็นอย่างยิ่ง