Pidhato Sam Altman ing Dewan Keamanan PBB
Dina iki, CEO OpenAI Sam Altman ngaturake pidhato ngenani kecerdasan gawéyan ing Dewan Keamanan Perserikatan Bangsa-Bangsa. Dheweke ngrembug potensi AI kanggo nggedhekake kesempatan, wigatine njaga sistem sing kuwasa supaya tetep ana ing kendhali manungsa, lan perlune kerja sama internasional kanggo keamanan AI.
Matur nuwun, Bapak Presiden lan para ingkang minulya. Aku rumangsa kinurmatan bisa ana ing kene lan matur marang panjenengan kabeh ing wektu sing wigati iki.
Wis pirang-pirang taun kita ngrembug kecerdasan gawéyan, nanging sawetara minggu lan sasi pungkasan iki rasane beda. Kemajuan model sing rikat ndadekake wektu sing kasedhiya krasa saya cendhak, manfaate saya nyata, nanging taruhan lan risikone uga saya cedhak.
Ana pilihan ing ngarep kita. AI bisa dadi kaya Renaisans anyar sing nuwuhake kreativitas lan panemon, utawa kaya Revolusi Industri anyar sing nggawa guncangan lan kekacauan.
Renaisans yaiku jaman nalika piranti, gagasan, lan lembaga anyar nggedhekake apa sing dipercaya wong bisa ditindakake. AI bisa nindakake peran kasebut ing jaman kita. Aku percaya wong-wong luwih mampu tinimbang sing dikira, nanging kabisane kakendhaleni dening teknologi winates sing kudune nguwatake, nanging malah ngganggu lan kerep ngrampas kawigaten.
Wujud AI sing paling apik dudu kanggo ndadekake manungsa mung dadi untu rodha ing mesin raseksa, utawa ngoptimalake saben perangan urip nganti sipat manungsane ilang. Tujuane yaiku menehi wong daya tumindak luwih gedhe ing donya sing saya rumit: luwih bisa sinau, nyipta, nemokake, mbangun, lan melu. Ana akeh perkara sing ora bisa—lan ora kena—diotomatisasi dening AI.
AI kudu dibangun kanggo manungsa, ora mung kanggo nyepetake lakune mesin tanpa tujuan liyane. Sawetara pangandikane wong sing makarya mbangun AI nggambarake distopia sing nemen nganti kaya alur film fiksi ilmiah sing ala.
Apa wae sing nduweni kakuwatan samono gedhene uga mesthi nyebabake rasa kuwatir. Wektu iki rumit amarga kita bebarengan ngrasakake potensi sing gedhe banget lan rasa kuwatir sing gampang dimangerteni.
Model-model iki bisa mbantu wong nemokake kawruh anyar: obat-obatan anyar, layanan kesehatan sing luwih apik, pendidikan sing luwih kuwat, lan mbangun ekonomi sing luwih produktif. Model kasebut bisa dadi piranti anyar kanggo mbantu wong nggayuh impen lan gegayuhan sing saiki katon ora kagayuh. Kanggo umume wong, urip wis dadi saya rumit kanthi drastis. AI bisa dadi piranti pangreksa saka kerumitan iki, uga bisa dadi piranti kanggo panemon lan inovasi sing durung tau ana sadurunge.
Ing sisih liya, nalika sistem AI dadi saya mampu lan saya otonom, sistem kasebut bisa maju luwih rikat tinimbang lembaga kita, nglumpukake kakuwasan ing tangan mung sawetara pihak, utawa nggawe keputusan sing ora bisa dimangerteni utawa dikendhaleni maneh dening manungsa.
Keprihatinan iki dadi luwih wigati nalika kita nyedhaki sistem sing bisa mbenakake awake dhewe lan versi sabanjure, sing kerep diarani panyampurnan dhiri rekursif. Nalika proses mbangun AI saya otomatis, laju kemajuan AI bisa saya cepet kanthi drastis. Wektu iki mbutuhake kewaspadaan sing paling dhuwur.
Aku umume sarujuk karo Profesor Bengio. Nanging aku bakal nyebut loro, dudu telu—aku percaya ana rong cara kemajuan AI bisa dadi ala banget lan kudu kita cegah.
Kaping pisan, kita bisa kelangan kendhali mangsa ngarep marang AI. Risikone yaiku AI maju kanthi rikat banget nganti wong-wong ora bisa nututi apa sing kedadeyan utawa melu nangani nalika dibutuhake. Mesthine, iki bakal nggegirisi.
Industri ora kena nampa risiko teknologi sing gedhe banget mung amarga manfaate gedhe lan dirasa penting banget nganti ora bisa diperlambat. Kepingin ngalahake perusahaan liya ing saingan sing rikat dudu alesan kanggo nggawe keputusan grusa-grusu. Kita uga ora percaya yen kita kajebak ing perlombaan sing ndadekake kita ora bisa ngendhaleni laju kasebut. Ing jaman biyen, kita nate nyuda laju kanthi keputusan dhewe. Ing mangsa ngarep, kita bakal nindakake maneh. Kita ora kepengin mbangun sistem—lan kita nganggep kabeh pihak kudu nyingkiri mbangun sistem—yen kita ora bisa menehi jaminan penyelarasan, keterpantauan, lan keamanan sing dibutuhake.
Kita kudu mangerteni apa sing ditindakake sistem kasebut lan duwe bukti kuwat yen sistem bakal nindakake apa sing dikarepake manungsa, senajan dadi pinter banget. Malah luwih-luwih nalika sistem kasebut dadi pinter banget. Ora dadi soal apa wong ngira risiko bencana iku 10%, 1%, 12%, utawa 0,1%. Ora ana siji wae saka tingkat kasebut sing bisa ditampa. Kita ora kena nglatih model yen ora bisa menehi bukti sing kuwat banget yen model kasebut bakal bisa tetep kita kendhaleni minangka manungsa.
Dadi, kuwi salah siji cara kabeh bisa dadi ala. Ing sisih liyane, sistem kasebut bisa nglumpukake kakuwasan sing gedhe banget ing tangan mung sawetara pihak. Ora ana siji wong, perusahaan, utawa negara sing kena nggunakake model AI paling kuwasa kanggo meksa wong liya nampa pandangan donyane. Perusahaan utawa negara sing percaya mung dheweke sing bisa dipercaya nguwasani teknologi iki bisa nggunakake kapercayan kasebut kanggo mbenerake meh kabeh tumindake. Kita kudu nolak logika kasebut, sanajan trep kanggo pihak tartamtu.
Aku percaya ana dalan pragmatis kanggo ngatasi loro-lorone. Ing OpenAI, kita nyedhaki pitakon-pitakon iki kanthi tujuan sing cetha: AI kudu menehi wong kakuwatan luwih gedhe kanggo ngatur uripe dhewe. Luwih bebas nglakoni urip kaya sing dikarepake. Luwih bisa ngrampungake masalah, gedhe utawa cilik, lan mbenakake komunitase. Kita ora kepengin kejebak ing optimisme wuta. Kita uga ora kepengin kejebak ing pandangan yen kabeh bakal tumuju bencana. Keseret menyang salah siji titik ekstrem ora bakal mbantu kita ngrampungake tantangan ing ngarep, luwih-luwih nalika donya lan para pendhudhuke ngadhepi tantangan gedhe banget sing bisa direwangi dening teknologi iki. Mula, kita ngupaya mlaku ing dalan tengah antarane rong kutub kasebut.
Kanggo kita, iki ateges telung prinsip.
Kaping pisan, nalika AI saya mampu, manungsa kudu tetep dadi punjering pengambilan keputusan AI. Penyelarasan dudu pitakon riset sing abstrak. Iki minangka upaya kanggo mesthekake manawa sistem kasebut tansah bisa diandelake tetep ana ing kendhali manungsa, nggambarake nilai-nilai manungsa, lan mbantu wong ngarahake tahap pangembangan sabanjure. Kita ora ngupaya, lan pancen ora kena, ngotomatisasi pertimbangan utawa nilai-nilai manungsa.
Kaping pindho, manfaat kemajuan ilmiah lan pertumbuhan ekonomi kudu digawe dening manungsa lan kanggo manungsa. AI kudu mbantu peneliti nemokake panemon, dhokter nambani pasien, guru mulang siswa, wirausaha ngedegake perusahaan, komunitas ngrampungake masalah sing sadurunge katon ora kagayuh, lan akeh liyane. Crita kemajuan manungsa sing terus lumaku dudu crita piranti ngganteni daya tumindake manungsa. Nanging crita ngenani piranti sing trep ndadekake wong luwih mampu, lan aku percaya pengaruhe bakal ngluwihi apa sing saiki kita kira bisa kelakon.
Kaping telu, teknologi iki kudu nguwatake saben wong. Mangsa ngarep sing becik bakal kawujud nalika wong-wong mujudake potensine lan nyipta nilai kanggo awake dhewe, komunitase, negarane, lan donya kanthi luwih amba. Kita bisa uga dadi salah siji pihak sing mbangun teknologi iki, nanging kita dudu pahlawan ing crita iki. Peran kita yaiku mbisakake wong ing saindenging donya lan percaya marang kaelokan kaprigelan lan kabisaning manungsa.
Saiki kita duwe model sing bisa nemokake kawruh sing durung nate kita duweni. Coba gatekna kemajuan sing wis kita deleng ing matematika. Telung mangsa panas kepungkur, model kita lumayan kanggo matematika tingkat sekolah dhasar. Rong mangsa panas kepungkur, model kasebut wis cukup apik ing kompetisi matematika tingkat sekolah menengah. Mangsa panas kepungkur, kita nggayuh tingkat medhali emas ing kompetisi matematika internasional sing paling bergengsi. Lan mung sawetara minggu kepungkur ing mangsa panas iki, salah siji model kita ngrampungake salah siji Masalah Bebungah Milenium, yaiku persamaan Navier–Stokes.
Persamaan iki digunakake kanggo ngrancang pesawat, prakiraan cuaca, lan nyinaoni ilining getih. Kita ora ngrampungake masalah matematika mung kanggo matematika kuwi dhewe, nanging kanggo nguwatake wong supaya nemokake kawruh anyar lan nggunakake kawruh kasebut kanggo mbenakake layanan kesehatan, ngunggahake taraf urip, lan nggedhekake potensi saben wong ing saindenging donya. Isih akeh banget sing durung ditemokake.
Nanging, perusahaan aja nganti ngganteni proses demokratis. Iki wigati banget.
Yen AI arep asipat demokratis, keputusan sing paling wigati ora kena mung digawe dening laboratorium ing San Francisco. Keputusan kasebut kudu kawangun lumantar proses demokratis lan dening pamrentah sing tanggung jawab marang rakyat sing diladeni.
Ing tingkat internasional, iki mbutuhake kerja sama. Ing sejarah kita, negara-negara sing padha saingan lan ora mesthi rukun nate tetep nyawiji demi kapentingan bebarengan lan kabecikan umum nalika ngadhepi teknologi anyar sing kuwasa. Kita percaya saiki kudu dadi salah siji wektu kaya mangkono.
Kita mbutuhake mekanisme kanggo standar AI tercanggih nasional lan internasional sing padha njangkepi: standar kanggo ngukur kapabilitas, mbiji risiko, nemtokake apa pengamane wis cukup, lan njaga pangawasan manungsa sing nyata nalika sistem dadi saya otonom.
Kita mbutuhake standar bebarengan supaya negara-negara bisa mbandhingake bukti, verifikasi kepatuhan, lan duwe basa sarta pangerten sing padha ngenani apa sing kedadeyan.
Kita mbutuhake pelaporan kedadeyan sing akurat lan cepet, uga protokol klasifikasi lan pelaporan, supaya donya bisa sinau saka kegagalan sadurunge malih dadi bencana.
Kita uga mbutuhake saluran aman antaraning pamrentah, operator infrastruktur kritis, lan ahli teknis kanggo nuduhake kerentanan sing lagi muncul lan ancaman anyar.
Mesthine, standar kasebut aja nganti ngukuhake dominasi pelaku lawas utawa luwih nguntungake siji model bisnis tinimbang liyane. Standar kasebut kudu ndhukung pangembang model mbukak lan katutup, pendatang anyar lan laboratorium mapan, wewenang nasional lan kerja sama internasional. Saben pamrentah kudu nemtokake dhewe carane nglebokake standar kasebut menyang sistem hukume. Nanging kita kabeh bakal luwih becik yen bisa sarujuk ngenani kaya apa bukti, pangaman, lan pangawasan sing apik ing tataran global.
Kita ora duwe kabeh wangsulan lan mbukak banget marang gagasan apa wae sing luwih apik. Kita siyap makarya bareng panjenengan kabeh lan ngupaya kanthi temen kanggo nemokake dalan maju.
Kita saiki ana ing prapatan. Dalan siji tumuju donya sing kakuwasane mung kakumpul ing sawetara pihak, keputusane ora transparan, lan wong-wong rumangsa yen teknologi paling wigati ing uripe ditrapake marang dheweke tanpa melu nemtokake. Dalan sijine tumuju donya sing AI makarya kanggo manungsa amarga masyarakat, lumantar lembaga demokratis, melu nemtokake carane AI kudu dikembangake lan diarahake; kemajuan ilmiah mbenakake urip nyata; luwih akeh wong bisa melu mbangun mangsa ngarep; lan teknologi iki terus menehi kakuwatan luwih gedhe marang individu lan komunitas supaya bisa urip kaya sing dikarepake. Iki mangsa ngarep nalika potensi bisa diwujudake, kebak semangat lan kaelokan.
Lan kita percaya yen mangsa ngarep iki pantes diwujudake. Matur nuwun sanget.


