Sam Altman’s remarks at the United Nations Security Council

Today, OpenAI CEO Sam Altman addressed the United Nations Security Council on artificial intelligence. He discussed AI’s potential to expand opportunity, the importance of keeping powerful systems under human control, and the need for international cooperation on AI safety.

Thank you, Mr. President and your Excellencies. I’m honored to be here and to be able to speak with you all at this important time.

We have been talking about artificial intelligence for years, but it feels different in recent weeks and months. Rapid model progress has made the timeline feel more compressed, the upside more tangible, but also the stakes and the risks more immediate.

We have a choice in front of us. AI can either be more like a new Renaissance of creativity and discovery, or more like a new Industrial Revolution of upheaval and disarray.

The Renaissance was a time when new tools, new ideas, and new institutions expanded what people believed they could do. AI can play that role for our time. I believe that people are much more capable than they imagine themselves to be, but have been held back by limited technology that was meant to empower but instead distracts and often steals attention.

The best version of AI is not about making people cogs in a giant machine, or optimizing every part of life until the human parts disappear. It is about giving people more agency in an ever more complex world: more ability to learn, to create, discover, build, participate. There are many things that AI cannot—and should not—automate.

AI should be built for people, not simply to turn the crank of the machines faster for their own sake. Some of the things people working to build AI have said are so dystopian that they sound like the plot of bad science fiction movies.

Anything this powerful is also intimidating. This moment is complicated as we feel both tremendous potential and very understandable anxiety at the same time.

These models can help people discover new knowledge: new medicines, better health care, stronger education, and build more productive economies. They can be new tools for people to pursue dreams and ambition that today feel out of reach. The complexity of life has increased so dramatically for the average person. AI can be a defensive tool against this complexity as much as it can be this tool of unprecedented discovery and innovation.

On the other hand, as AI systems become more capable and more autonomous, they could move faster than our institutions, concentrate power in too few hands, or make decisions that people no longer understand or control.

That concern becomes especially important as we approach systems that can improve themselves and future versions of themselves, often called recursive self-improvement. As the process of building AI becomes more automated, the pace of AI progress could accelerate rapidly. This moment calls for extreme care.

I largely agree with Professor Bengio. Although I’ll say two instead of three—I believe there are two ways that AI progress could go very badly that we have to avoid.

First, we could lose control of the future to AI. The risk is that it moves so fast that people can no longer follow what’s happening or intervene when needed. This would obviously be terrible.

The industry must not accept too much technological risk just because the benefits are too great and that they feel too important to slow down. Beating companies in a competitive pace is not a reason to make rash decisions. Nor do we believe we are locked in a race where we are unable to do that. We have unilaterally slowed down in the past. We will do so in the future. We do not want to build systems—we think it’s important that everyone avoids building systems—where we cannot make the alignment, monitorability, and safety guarantees that we must.

We need to understand what these systems are doing and have strong evidence that they will do what people intend, even as they get very, very smart. Actually especially as they get very very smart. It doesn’t matter whether people put the risk of catastrophe at 10%, or 1%, or 12%, or .1%. None of these levels are remotely acceptable. And we should not train models that we cannot make an extremely strong case that we will be able to keep under human control.

So that’s one way things can go wrong. In the other direction, these systems could concentrate too much power in too few hands. No one person or company or country should be able to use the most powerful AI models to impose their worldview on everyone else. A company or country that believes only it can be trusted with this technology can use that belief to justify almost anything else. We have to reject that logic, even when it’s convenient for any one actor.

Creidim go bhfuil bealach praiticiúil ann tríd an dá cheann seo. Ag OpenAI, téimid i ngleic leis na ceisteanna seo agus sprioc shoiléir againn: ba cheart do IS níos mó smachta a thabhairt do dhaoine ar a saol féin. Níos mó saoirse chun an saol is mian leo a chaitheamh. Cumas níos fearr fadhbanna, idir bheag agus mhór, a réiteach agus a bpobail a fheabhsú. Ní mian linn titim i ngaiste an dóchais dhaill. Ní mian linn titim i ngaiste an duaircis ach oiread. Ní chuideoidh sé linn na dúshláin atá romhainn a shárú má tharraingítear muid chuig ceachtar den dá fhoirceann, go háirithe tráth a bhfuil dúshláin ollmhóra roimh an domhan agus a mhuintir ar féidir leis an teicneolaíocht seo cabhrú lena réiteach. Mar sin, déanaimid iarracht an bealach meánach a leanúint idir an dá mhalairt seo.

Dúinne, ciallaíonn sé sin trí phrionsabal.

Ar an gcéad dul síos, de réir mar a éiríonn IS níos cumasaí, ní mór do dhaoine fanacht i gcroílár na cinnteoireachta maidir léi. Ní ceist theibí taighde é an t-ailíniú. Is éard atá i gceist leis a chinntiú go bhfanann na córais seo faoi smacht an duine go hiontaofa, go léiríonn siad luachanna daonna, agus go gcabhraíonn siad le daoine na chéad chéimeanna eile den fhorbairt a stiúradh. Nílimid ag iarraidh breithiúnas ná luachanna an duine a uathoibriú, agus ní ceadmhach dúinn é sin a dhéanamh.

Ar an dara dul síos, ní mór do dhaoine tairbhí an dul chun cinn eolaíoch agus an fháis eacnamaíoch a chruthú, agus ní mór iad a bheith chun leasa daoine. Ba cheart do IS cabhrú le taighdeoirí fionnachtana a dhéanamh, le dochtúirí othair a chóireáil, le múinteoirí daltaí a theagasc, le fiontraithe cuideachtaí a bhunú, agus le pobail fadhbanna a réiteach a bhí thar a gcumas dar leo, agus tuilleadh nach é. Ní hé scéal leanúnach dhul chun cinn an chine dhaonna go nglacann uirlisí áit ghníomhú an duine. Is éard atá ann go gcuireann na huirlisí cearta le cumas daoine, agus creidim go rachaidh sé seo i bhfad níos faide ná mar a shílimid is féidir.

Ar an tríú dul síos, ní mór don teicneolaíocht seo cumhacht a thabhairt do gach duine ina cheart féin. Tiocfaidh todhchaí den scoth as daoine a gcumas a fhíorú agus luach a chruthú dóibh féin, dá bpobail, dá dtíortha agus don domhan mór. B’fhéidir go bhfuilimid ar dhuine de lucht tógála na teicneolaíochta seo, ach ní sinne laochra an scéil seo. Is é ár ról daoine ar fud an domhain a chumasú agus muinín a chur i ndraíocht scileanna agus inniúlachtaí an chine dhaonna.

Tá samhlacha againn anois atá in ann eolas nach raibh againn riamh roimhe seo a aimsiú. Smaoinígí ar an dul chun cinn atá feicthe againn sa mhatamaitic. Trí shamhradh ó shin, bhí ár samhlacha réasúnta maith ag matamaitic na bunscoile. Dhá shamhradh ó shin, bhí siad maith go leor ag comórtais mhatamaitice na meánscoile. An samhradh seo caite, bhaineamar leibhéal bonn óir amach sa chomórtas matamaitice idirnáisiúnta is iomráití. Agus cúpla seachtain ó shin an samhradh seo, réitigh ceann dár samhlacha ceann de Dhuaiseanna Mílaoise na Matamaitice: cothromóidí Navier–Stokes.

Úsáidtear na cothromóidí seo i ndearadh aerárthaí, i réamhaisnéis na haimsire agus i staidéar shreabhadh na fola. Ní ar mhaithe leis na fadhbanna féin atáimid ag réiteach fadhbanna matamaitice, ach chun daoine a chumasú le heolas nua a aimsiú agus é a úsáid chun cúram sláinte a fheabhsú, caighdeáin mhaireachtála a ardú agus cumas gach duine ar fud an domhain a mhéadú. Tá an oiread sin fós le haimsiú.

Ach tá sé ríthábhachtach nach nglacfadh cuideachtaí áit an phróisis dhaonlathaigh.

Má tá IS le bheith daonlathach, ní féidir le saotharlanna in San Francisco amháin na cinntí is tábhachtaí a dhéanamh. Ní mór iad a mhúnlú trí phróisis dhaonlathacha agus ag rialtais atá freagrach do na daoine ar a bhfreastalaíonn siad.

Ar an leibhéal idirnáisiúnta, beidh comhar riachtanach chuige seo. Le linn ár staire, bhí tráthanna ann nuair a tháinig tíortha atá in iomaíocht agus nach réitíonn go rómhaith lena chéile le chéile fós ar mhaithe le leasanna comhroinnte agus leas an phobail, agus teicneolaíocht nua chumhachtach tagtha chun cinn. Creidimid gur gá gurb é seo ceann de na tráthanna sin.

Teastaíonn sásra uainn le haghaidh caighdeáin chomhlántacha náisiúnta agus idirnáisiúnta maidir le IS cheannródaíoch: caighdeáin chun cumais a thomhas, rioscaí a mheas, leordhóthanacht cosaintí a chinneadh, agus maoirseacht éifeachtach dhaonna a chaomhnú de réir mar a éiríonn córais níos uathrialaí.

Teastaíonn comhchaighdeáin uainn ionas gur féidir le tíortha fianaise a chur i gcomparáid, comhlíonadh a dheimhniú, agus teanga agus tuiscint chomhroinnte a bheith acu ar a bhfuil ag tarlú.

Teastaíonn tuairisciú cruinn pras ar theagmhais uainn, mar aon le prótacail aicmithe agus tuairiscithe, ionas gur féidir leis an domhan foghlaim ó chliseadh sula ndéantar tubaiste de.

Agus teastaíonn bealaí slána uainn idir rialtais, oibreoirí bonneagair chriticiúil agus saineolaithe teicniúla chun leochaileachtaí atá ag teacht chun cinn agus bagairtí nua a chomhroinnt.

Ar ndóigh, níor cheart do na caighdeáin seo buntáiste buan a thabhairt do lucht ceannais an mhargaidh ná tosaíocht a thabhairt do shamhail ghnó amháin thar cheann eile. Ní mór dóibh tacú le forbróirí samhlacha oscailte agus dúnta, le hiontrálaithe nua agus saotharlanna seanbhunaithe, agus le húdarás náisiúnta agus comhar idirnáisiúnta. Ba cheart do gach rialtas cinneadh a dhéanamh conas caighdeáin a ionchorprú ina chóras dlí féin. Ach beidh buntáiste againn uile más féidir linn teacht ar chomhaontú faoina bhfuil i gceist le fianaise mhaith, cosaintí maithe agus maoirseacht mhaith ar an ardán domhanda.

Níl na freagraí ar fad againn agus táimid an-oscailte d’aon smaointe níos fearr. Táimid réidh le hoibriú libh go léir agus ár seacht ndícheall a dhéanamh chun an bealach chun cinn a aimsiú.

Táimid ag crosbhóthar. Téann cosán amháin i dtreo domhain ina bhfuil an chumhacht comhchruinnithe, ina bhfuil cinntí doiléir, agus ina mbraitheann daoine go bhfuil teicneolaíocht is tábhachtaí a linne á cur i bhfeidhm orthu gan cead cainte acu. Téann an cosán eile i dtreo domhain ina n-oibríonn IS ar son daoine mar go gcabhraíonn daoine, trí institiúidí daonlathacha, lena chinneadh conas ba cheart í a fhorbairt agus a stiúradh; ina bhfeabhsaíonn dul chun cinn eolaíoch saol daoine i ndáiríre; inar féidir le níos mó daoine páirt a ghlacadh sa todhchaí; agus ina leanann an teicneolaíocht seo de chumhacht níos mó a thabhairt do dhaoine aonair agus do phobail chun an saol is mian leo a chaitheamh. Is todhchaí í seo ina mbainfear barr feabhais amach, agus í lán de sceitimíní agus d’iontas.

Agus is í an todhchaí í is fiú a thógáil, dar linn. Go raibh míle maith agaibh.