Sam Altman’s remarks at the United Nations Security Council

Today, OpenAI CEO Sam Altman addressed the United Nations Security Council on artificial intelligence. He discussed AI’s potential to expand opportunity, the importance of keeping powerful systems under human control, and the need for international cooperation on AI safety.

Thank you, Mr. President and your Excellencies. I’m honored to be here and to be able to speak with you all at this important time.

We have been talking about artificial intelligence for years, but it feels different in recent weeks and months. Rapid model progress has made the timeline feel more compressed, the upside more tangible, but also the stakes and the risks more immediate.

We have a choice in front of us. AI can either be more like a new Renaissance of creativity and discovery, or more like a new Industrial Revolution of upheaval and disarray.

The Renaissance was a time when new tools, new ideas, and new institutions expanded what people believed they could do. AI can play that role for our time. I believe that people are much more capable than they imagine themselves to be, but have been held back by limited technology that was meant to empower but instead distracts and often steals attention.

The best version of AI is not about making people cogs in a giant machine, or optimizing every part of life until the human parts disappear. It is about giving people more agency in an ever more complex world: more ability to learn, to create, discover, build, participate. There are many things that AI cannot—and should not—automate.

AI should be built for people, not simply to turn the crank of the machines faster for their own sake. Some of the things people working to build AI have said are so dystopian that they sound like the plot of bad science fiction movies.

Anything this powerful is also intimidating. This moment is complicated as we feel both tremendous potential and very understandable anxiety at the same time.

These models can help people discover new knowledge: new medicines, better health care, stronger education, and build more productive economies. They can be new tools for people to pursue dreams and ambition that today feel out of reach. The complexity of life has increased so dramatically for the average person. AI can be a defensive tool against this complexity as much as it can be this tool of unprecedented discovery and innovation.

On the other hand, as AI systems become more capable and more autonomous, they could move faster than our institutions, concentrate power in too few hands, or make decisions that people no longer understand or control.

That concern becomes especially important as we approach systems that can improve themselves and future versions of themselves, often called recursive self-improvement. As the process of building AI becomes more automated, the pace of AI progress could accelerate rapidly. This moment calls for extreme care.

I largely agree with Professor Bengio. Although I’ll say two instead of three—I believe there are two ways that AI progress could go very badly that we have to avoid.

First, we could lose control of the future to AI. The risk is that it moves so fast that people can no longer follow what’s happening or intervene when needed. This would obviously be terrible.

The industry must not accept too much technological risk just because the benefits are too great and that they feel too important to slow down. Beating companies in a competitive pace is not a reason to make rash decisions. Nor do we believe we are locked in a race where we are unable to do that. We have unilaterally slowed down in the past. We will do so in the future. We do not want to build systems—we think it’s important that everyone avoids building systems—where we cannot make the alignment, monitorability, and safety guarantees that we must.

We need to understand what these systems are doing and have strong evidence that they will do what people intend, even as they get very, very smart. Actually especially as they get very very smart. It doesn’t matter whether people put the risk of catastrophe at 10%, or 1%, or 12%, or .1%. None of these levels are remotely acceptable. And we should not train models that we cannot make an extremely strong case that we will be able to keep under human control.

So that’s one way things can go wrong. In the other direction, these systems could concentrate too much power in too few hands. No one person or company or country should be able to use the most powerful AI models to impose their worldview on everyone else. A company or country that believes only it can be trusted with this technology can use that belief to justify almost anything else. We have to reject that logic, even when it’s convenient for any one actor.

Tôi tin rằng có một con đường thực tế để giải quyết cả hai vấn đề này. Tại OpenAI, chúng tôi tiếp cận những câu hỏi này với một mục tiêu rõ ràng: AI phải trao cho mọi người nhiều quyền tự chủ hơn đối với cuộc sống của chính họ. Tự do hơn để sống theo cách họ mong muốn. Có thêm khả năng giải quyết những vấn đề lớn nhỏ và cải thiện cộng đồng của mình. Chúng tôi không muốn rơi vào cái bẫy của sự lạc quan mù quáng. Chúng tôi cũng không muốn rơi vào cái bẫy của tư tưởng bi quan tận thế. Bị cuốn vào một trong hai thái cực sẽ không giúp chúng ta giải quyết thành công những thách thức trước mắt, nhất là khi thế giới và con người đang đối mặt với những vấn đề vô cùng lớn mà công nghệ này có thể góp phần giải quyết. Vì vậy, chúng tôi cố gắng đi theo con đường trung dung giữa hai thái cực này.

Với chúng tôi, điều đó đồng nghĩa với ba nguyên tắc.

Thứ nhất, khi AI trở nên mạnh mẽ hơn, con người phải tiếp tục giữ vị trí trung tâm trong việc ra quyết định về AI. Căn chỉnh AI không phải là một câu hỏi nghiên cứu trừu tượng. Đó là nỗ lực nhằm bảo đảm các hệ thống này luôn nằm dưới sự kiểm soát của con người một cách đáng tin cậy, phản ánh các giá trị của con người và giúp mọi người định hướng những giai đoạn phát triển tiếp theo. Chúng tôi không tìm cách tự động hóa phán đoán hay các giá trị của con người, và tuyệt đối không được làm như vậy.

Thứ hai, lợi ích từ tiến bộ khoa học và tăng trưởng kinh tế phải do con người tạo ra và phục vụ con người. AI nên giúp các nhà nghiên cứu khám phá, bác sĩ điều trị bệnh nhân, giáo viên dạy học sinh, doanh nhân thành lập công ty, cộng đồng giải quyết những vấn đề từng tưởng như ngoài tầm với, cùng nhiều việc khác. Lịch sử tiến bộ không ngừng của nhân loại không phải là câu chuyện công cụ thay thế năng lực tự quyết của con người. Đó là câu chuyện những công cụ phù hợp giúp con người có năng lực hơn, và tôi tin rằng điều này sẽ còn tiến xa hơn nhiều so với những gì chúng ta nghĩ là có thể.

Thứ ba, công nghệ này phải trao quyền cho từng cá nhân. Một tương lai tốt đẹp sẽ được tạo nên khi mọi người phát huy tiềm năng và tạo ra giá trị cho bản thân, cộng đồng, đất nước mình cũng như toàn thế giới. Chúng tôi có thể là một trong những bên xây dựng công nghệ này, nhưng không phải là những người hùng của câu chuyện. Vai trò của chúng tôi là tạo điều kiện cho mọi người trên khắp thế giới và tin tưởng vào sức mạnh kỳ diệu của kỹ năng cùng năng lực con người.

Giờ đây, chúng ta có những mô hình đủ khả năng khám phá tri thức mà trước đây chưa từng có. Hãy nhìn vào những tiến bộ mà chúng ta đã đạt được trong toán học. Ba mùa hè trước, các mô hình của chúng tôi chỉ làm toán tiểu học ở mức tạm ổn. Hai mùa hè trước, chúng đã làm khá tốt các bài thi toán cấp trung học. Mùa hè năm ngoái, chúng tôi đã đạt trình độ huy chương vàng tại cuộc thi toán quốc tế danh giá nhất. Và chỉ vài tuần trước trong mùa hè này, một trong các mô hình của chúng tôi đã giải được một trong các Bài toán Thiên niên kỷ: phương trình Navier–Stokes.

Những phương trình này được dùng trong thiết kế máy bay, dự báo thời tiết và nghiên cứu dòng máu. Chúng tôi không giải các bài toán chỉ vì bản thân toán học, mà để trao cho mọi người khả năng khám phá tri thức mới và ứng dụng tri thức đó nhằm cải thiện y tế, nâng cao mức sống và mở rộng tiềm năng của tất cả mọi người trên toàn thế giới. Vẫn còn rất nhiều điều cần được khám phá.

Nhưng điều vô cùng quan trọng là các công ty không được thay thế tiến trình dân chủ.

Nếu AI thực sự mang tính dân chủ, những quyết định quan trọng nhất không thể chỉ do các phòng thí nghiệm ở San Francisco đưa ra. Những quyết định ấy phải được định hình thông qua các tiến trình dân chủ và bởi những chính phủ chịu trách nhiệm trước người dân mà họ phục vụ.

Ở cấp độ quốc tế, điều này đòi hỏi sự hợp tác. Trong lịch sử, đã có những lúc các quốc gia cạnh tranh và không phải lúc nào cũng ưa nhau vẫn cùng chung tay vì lợi ích chung và điều tốt đẹp cho tập thể khi đối mặt với một công nghệ mới đầy sức mạnh. Chúng tôi tin rằng đây phải là một trong những thời điểm như vậy.

Chúng ta cần một cơ chế để các tiêu chuẩn quốc gia và quốc tế về AI tiên phong bổ trợ cho nhau: các tiêu chuẩn để đo lường năng lực, đánh giá rủi ro, xác định liệu các biện pháp bảo vệ có đầy đủ hay không và duy trì sự giám sát thực chất của con người khi các hệ thống ngày càng tự chủ.

Chúng ta cần các tiêu chuẩn chung để các quốc gia có thể đối chiếu bằng chứng, xác minh việc tuân thủ, đồng thời có chung ngôn ngữ và cách hiểu về những gì đang diễn ra.

Chúng ta cần báo cáo sự cố chính xác và kịp thời, cùng các quy trình phân loại và báo cáo, để thế giới có thể rút kinh nghiệm từ những thất bại trước khi chúng trở thành thảm họa.

Chúng ta cũng cần các kênh liên lạc an toàn giữa chính phủ, đơn vị vận hành cơ sở hạ tầng trọng yếu và chuyên gia kỹ thuật để chia sẻ những lỗ hổng mới xuất hiện cùng các mối đe dọa mới.

Hiển nhiên, các tiêu chuẩn này không nên củng cố vị thế của những bên đang chiếm ưu thế hay ưu ái mô hình kinh doanh này hơn mô hình khác. Chúng phải hỗ trợ cả các nhà phát triển mô hình mở lẫn mô hình đóng, các bên mới gia nhập lẫn những phòng thí nghiệm lâu năm, thẩm quyền quốc gia lẫn hợp tác quốc tế. Mỗi chính phủ nên tự quyết định cách đưa các tiêu chuẩn vào hệ thống pháp luật của mình. Nhưng tất cả chúng ta sẽ đều có lợi nếu có thể thống nhất trên phạm vi toàn cầu về thế nào là bằng chứng đáng tin cậy, biện pháp bảo vệ hiệu quả và cơ chế giám sát phù hợp.

Chúng tôi không có mọi câu trả lời và luôn sẵn lòng đón nhận những ý tưởng tốt hơn. Chúng tôi sẵn sàng hợp tác với tất cả quý vị và nỗ lực hết sức để tìm ra con đường phía trước.

Chúng ta đang đứng trước ngã rẽ. Một con đường dẫn đến một thế giới nơi quyền lực tập trung, các quyết định thiếu minh bạch và mọi người cảm thấy công nghệ quan trọng nhất trong đời mình là thứ đang bị áp đặt lên họ. Con đường còn lại dẫn đến một thế giới nơi AI phục vụ con người vì chính người dân, thông qua các thể chế dân chủ, góp phần quyết định cách AI phát triển và định hướng nó; nơi tiến bộ khoa học cải thiện cuộc sống thực tế; nơi nhiều người hơn có thể tham gia kiến tạo tương lai; và nơi công nghệ này tiếp tục trao cho các cá nhân và cộng đồng nhiều quyền tự chủ hơn để sống theo lựa chọn của mình. Đó là một tương lai nơi tiềm năng được hiện thực hóa, tràn đầy hứng khởi và kỳ diệu.

Và đó là tương lai mà chúng tôi tin là xứng đáng để kiến tạo. Xin trân trọng cảm ơn.