Sam Altman’s remarks at the United Nations Security Council

Today, OpenAI CEO Sam Altman addressed the United Nations Security Council on artificial intelligence. He discussed AI’s potential to expand opportunity, the importance of keeping powerful systems under human control, and the need for international cooperation on AI safety.

Thank you, Mr. President and your Excellencies. I’m honored to be here and to be able to speak with you all at this important time.

We have been talking about artificial intelligence for years, but it feels different in recent weeks and months. Rapid model progress has made the timeline feel more compressed, the upside more tangible, but also the stakes and the risks more immediate.

We have a choice in front of us. AI can either be more like a new Renaissance of creativity and discovery, or more like a new Industrial Revolution of upheaval and disarray.

The Renaissance was a time when new tools, new ideas, and new institutions expanded what people believed they could do. AI can play that role for our time. I believe that people are much more capable than they imagine themselves to be, but have been held back by limited technology that was meant to empower but instead distracts and often steals attention.

The best version of AI is not about making people cogs in a giant machine, or optimizing every part of life until the human parts disappear. It is about giving people more agency in an ever more complex world: more ability to learn, to create, discover, build, participate. There are many things that AI cannot—and should not—automate.

AI should be built for people, not simply to turn the crank of the machines faster for their own sake. Some of the things people working to build AI have said are so dystopian that they sound like the plot of bad science fiction movies.

Anything this powerful is also intimidating. This moment is complicated as we feel both tremendous potential and very understandable anxiety at the same time.

These models can help people discover new knowledge: new medicines, better health care, stronger education, and build more productive economies. They can be new tools for people to pursue dreams and ambition that today feel out of reach. The complexity of life has increased so dramatically for the average person. AI can be a defensive tool against this complexity as much as it can be this tool of unprecedented discovery and innovation.

On the other hand, as AI systems become more capable and more autonomous, they could move faster than our institutions, concentrate power in too few hands, or make decisions that people no longer understand or control.

That concern becomes especially important as we approach systems that can improve themselves and future versions of themselves, often called recursive self-improvement. As the process of building AI becomes more automated, the pace of AI progress could accelerate rapidly. This moment calls for extreme care.

I largely agree with Professor Bengio. Although I’ll say two instead of three—I believe there are two ways that AI progress could go very badly that we have to avoid.

First, we could lose control of the future to AI. The risk is that it moves so fast that people can no longer follow what’s happening or intervene when needed. This would obviously be terrible.

The industry must not accept too much technological risk just because the benefits are too great and that they feel too important to slow down. Beating companies in a competitive pace is not a reason to make rash decisions. Nor do we believe we are locked in a race where we are unable to do that. We have unilaterally slowed down in the past. We will do so in the future. We do not want to build systems—we think it’s important that everyone avoids building systems—where we cannot make the alignment, monitorability, and safety guarantees that we must.

We need to understand what these systems are doing and have strong evidence that they will do what people intend, even as they get very, very smart. Actually especially as they get very very smart. It doesn’t matter whether people put the risk of catastrophe at 10%, or 1%, or 12%, or .1%. None of these levels are remotely acceptable. And we should not train models that we cannot make an extremely strong case that we will be able to keep under human control.

So that’s one way things can go wrong. In the other direction, these systems could concentrate too much power in too few hands. No one person or company or country should be able to use the most powerful AI models to impose their worldview on everyone else. A company or country that believes only it can be trusted with this technology can use that belief to justify almost anything else. We have to reject that logic, even when it’s convenient for any one actor.

أؤمن بوجود مسار عملي للتعامل مع هذين الاتجاهين. ففي OpenAI، نتناول هذه المسائل بهدف واضح: يجب أن يمنح الذكاء الاصطناعي الناس قدرة أكبر على التحكم في حياتهم. وحرية أكبر في العيش بالطريقة التي يريدونها. وقدرة أكبر على حل المشكلات، كبيرة كانت أم صغيرة، وعلى النهوض بمجتمعاتهم. لا نريد أن نقع في فخ التفاؤل الأعمى. ولا نريد أيضًا أن نقع في فخ الاعتقاد بحتمية الهلاك. فالانجراف إلى أيٍّ من هذين النقيضين لن يساعدنا على التعامل بنجاح مع التحديات التي أمامنا، خصوصًا في وقت يواجه فيه العالم وشعوبه تحديات هائلة يمكن لهذه التكنولوجيا أن تسهم في حلها. لذلك نحاول أن نسلك طريقًا وسطًا بين هذين القطبين.

وهذا يعني لنا الالتزام بثلاثة مبادئ.

أولًا، كلما ازدادت قدرات الذكاء الاصطناعي، وجب أن يظل البشر في صميم عملية اتخاذ القرارات المتعلقة به. فمواءمة الذكاء الاصطناعي ليست مسألة بحثية مجرّدة. بل هي العمل على ضمان بقاء هذه الأنظمة تحت السيطرة البشرية على نحو موثوق، وتجسيدها للقيم الإنسانية، ومساعدتها الناس على توجيه المراحل المقبلة من التطوير. ونحن لا نسعى إلى أتمتة الحكم البشري أو القيم الإنسانية، ولا يجوز لنا ذلك.

ثانيًا، يجب أن تتحقق فوائد التقدم العلمي والنمو الاقتصادي على أيدي الناس ولخدمتهم. وينبغي أن يساعد الذكاء الاصطناعي الباحثين على تحقيق الاكتشافات، والأطباء على علاج المرضى، والمعلمين على تعليم الطلاب، ورواد الأعمال على تأسيس الشركات، والمجتمعات على حل مشكلات بدت يومًا مستعصية، وغير ذلك الكثير. لا تتمثل قصة التقدم البشري المتواصلة في حلول الأدوات محل قدرة الإنسان على الاختيار والفعل. بل في أن الأدوات المناسبة تعزّز قدرات الناس، وأؤمن بأن هذا سيمضي إلى أبعد بكثير مما نتصوره ممكنًا.

ثالثًا، يجب أن تمنح هذه التكنولوجيا كل إنسان قدرة أكبر على تحقيق إمكاناته. فالمستقبل الأفضل سيُبنى عندما يستطيع الناس تحويل قدراتهم إلى قيمة لأنفسهم، ولمجتمعاتهم، وبلدانهم، وللعالم من حولهم. قد نكون من بين من يطوّرون هذه التكنولوجيا، لكننا لسنا أبطال هذه القصة. دورنا هو أن نمكّن الناس في كل مكان، وأن نثق في ذلك السحر الكامن في مهارات البشر وقدراتهم.

لدينا الآن نماذج قادرة على اكتشاف معارف لم نمتلكها من قبل. تأملوا التقدم الذي شهدناه في الرياضيات. في صيف ما قبل ثلاثة أعوام، كان أداء نماذجنا مقبولًا في رياضيات المرحلة الابتدائية. وفي صيف ما قبل عامين، أصبح أداؤها جيدًا جدًا في مسابقات الرياضيات للمرحلة الثانوية. وفي الصيف الماضي، بلغنا مستوى الميدالية الذهبية في أعرق مسابقة دولية للرياضيات. وقبل بضعة أسابيع فقط من هذا الصيف، حلّ أحد نماذجنا إحدى مسائل جائزة الألفية، وهي معادلات نافييه–ستوكس.

تُستخدم هذه المعادلات في تصميم الطائرات، والتنبؤ بالطقس، ودراسة تدفق الدم. ولا نحل المسائل الرياضية لمجرد حلّها، بل لتمكين الناس من اكتشاف معارف جديدة وتسخيرها لتحسين الرعاية الصحية، ورفع مستويات المعيشة، وتوسيع إمكانات الجميع حول العالم. ولا يزال هناك الكثير مما ينتظر الاكتشاف.

لكن من المهم جدًا ألّا تحل الشركات محل العملية الديمقراطية.

إذا أردنا أن يكون الذكاء الاصطناعي ديمقراطيًا، فلا يمكن أن تنفرد مختبرات سان فرانسيسكو باتخاذ أهم القرارات. بل يجب أن تتبلور هذه القرارات عبر عمليات ديمقراطية، وعلى أيدي حكومات تخضع لمساءلة الشعوب التي تخدمها.

على الصعيد الدولي، لن يتحقق ذلك من دون تعاون. فقد عرف التاريخ لحظات وضعت فيها الدول تنافسها وخلافاتها جانبًا، والتقت حول مصالح مشتركة وما يخدم الصالح العام، عندما فرض ظهور تكنولوجيا جديدة وقوية تحديات تتجاوز حدود أي دولة منفردة. ونؤمن بأن هذه واحدة من تلك اللحظات التي تستدعي أن نتقدم معًا.

نحتاج إلى إطار ينسّق بين المعايير الوطنية والدولية الخاصة بالذكاء الاصطناعي الرائد؛ معايير تقيس القدرات، وتقيّم المخاطر، وتتحقق من كفاية تدابير الحماية، وتضمن بقاء الإشراف البشري فاعلًا وذا معنى كلما ازدادت الأنظمة استقلالية.

نحتاج إلى معايير مشتركة تتيح للدول مقارنة الأدلة، والتحقق من الامتثال، والانطلاق من لغة وفهم مشتركين لما يحدث.

نحتاج إلى آليات سريعة ودقيقة للإبلاغ عن الحوادث، وبروتوكولات واضحة لتصنيفها وتوثيقها، حتى يتمكن العالم من استخلاص الدروس من الإخفاقات قبل أن تتفاقم إلى كوارث.

ونحتاج إلى قنوات آمنة تربط الحكومات ومشغّلي البنية التحتية الحيوية والخبراء التقنيين، لتبادل المعلومات عن الثغرات الناشئة والتهديدات الجديدة.

ومن الواضح أن هذه المعايير يجب ألّا تكرّس هيمنة الشركات القائمة أو تفضّل نموذج أعمال على آخر. ويجب أن تدعم مطوّري النماذج المفتوحة والمغلقة، والوافدين الجدد والمختبرات الراسخة، والسلطة الوطنية والتعاون الدولي. وينبغي لكل حكومة أن تقرر كيفية إدماج المعايير في نظامها القانوني. لكننا جميعًا سنكون في وضع أفضل إذا استطعنا الاتفاق عالميًا على مواصفات الأدلة الموثوقة، وتدابير الحماية الكافية، والإشراف الفعّال.

لا نملك كل الإجابات، ونحن منفتحون تمامًا على أي أفكار أفضل. ونحن مستعدون للعمل معكم جميعًا وبذل أقصى جهدنا للتوصل إلى أفضل سبيل للمضي قدمًا.

نحن اليوم عند مفترق طرق حاسم. طريقٌ يقود إلى عالم تتركّز فيه القوة في أيدٍ قليلة، وتُتخذ فيه القرارات خلف ستار من الغموض، ويشعر الناس بأن أهم تكنولوجيا في حياتهم تُفرض عليهم بدل أن يكون لهم دور في تشكيلها. وطريقٌ آخر يقود إلى عالم يعمل فيه الذكاء الاصطناعي لصالح الناس، لأنهم يشاركون، عبر مؤسسات ديمقراطية، في تقرير مسار تطوره وتوجيهه؛ عالم ينعكس فيه التقدم العلمي على حياة الناس فعلًا، وتتسع فيه دائرة المشاركة في صنع المستقبل، وتواصل فيه هذه التكنولوجيا منح الأفراد والمجتمعات قدرة أكبر على عيش حياتهم كما يختارون. ذلك هو المستقبل الذي تتحقق فيه الإمكانات، ويجتمع فيه الأمل والحماس وروح الدهشة.

وهو المستقبل الذي نؤمن بأنه يستحق أن نسعى إلى بنائه. شكرًا جزيلًا لكم.