OpenAI

23 September 2026

Urusan GlobalKeselamatan

Pidato Sam Altman di Dewan Keamanan Perserikatan Bangsa-Bangsa

Hari ini, CEO OpenAI Sam Altman berbicara di hadapan Dewan Keamanan Perserikatan Bangsa-Bangsa mengenai kecerdasan buatan. Ia membahas potensi AI untuk memperluas kesempatan, pentingnya mempertahankan sistem yang kuat di bawah kendali manusia, dan perlunya kerja sama internasional dalam keselamatan AI.

Pidato sebagaimana disampaikan

Terima kasih, Bapak Presiden dan Yang Mulia sekalian. Saya merasa terhormat dapat hadir dan berbicara dengan Anda semua pada saat yang penting ini.

Kita telah membicarakan kecerdasan buatan selama bertahun-tahun, tetapi dalam beberapa minggu dan bulan terakhir situasinya terasa berbeda. Pesatnya kemajuan model membuat rentang waktunya terasa makin singkat dan manfaatnya makin nyata, tetapi juga membuat konsekuensi dan risikonya makin mendesak.

Kita dihadapkan pada sebuah pilihan. AI dapat menjadi seperti Renaisans baru yang melahirkan kreativitas dan penemuan, atau seperti Revolusi Industri baru yang membawa pergolakan dan kekacauan.

Renaisans adalah masa ketika berbagai alat, gagasan, dan lembaga baru memperluas apa yang diyakini dapat dilakukan oleh manusia. AI dapat memainkan peran tersebut pada zaman kita. Saya percaya bahwa manusia jauh lebih mampu daripada yang mereka bayangkan, tetapi selama ini mereka terhambat oleh teknologi terbatas yang seharusnya memberdayakan, tetapi justru mengalihkan perhatian dan sering kali menyita fokus.

Wujud terbaik AI bukanlah menjadikan manusia roda gigi dalam mesin raksasa, atau mengoptimalkan setiap bagian kehidupan hingga unsur kemanusiaannya lenyap. AI seharusnya memberi manusia kendali lebih besar di dunia yang makin kompleks: kemampuan lebih besar untuk belajar, mencipta, menemukan, membangun, dan berpartisipasi. Ada banyak hal yang tidak dapat—dan tidak seharusnya—diotomatiskan oleh AI.

AI harus dibangun untuk manusia, bukan sekadar untuk membuat mesin bekerja makin cepat tanpa tujuan selain itu sendiri. Sebagian pernyataan orang-orang yang berupaya membangun AI begitu distopis hingga terdengar seperti alur film fiksi ilmiah yang buruk.

Apa pun yang sekuat ini tentu juga terasa menggentarkan. Momen ini rumit karena kita sekaligus merasakan potensi yang luar biasa besar dan kecemasan yang sangat dapat dimengerti.

Model-model ini dapat membantu manusia menemukan pengetahuan baru: obat-obatan baru, layanan kesehatan yang lebih baik, pendidikan yang lebih kuat, serta cara membangun perekonomian yang lebih produktif. Model-model ini dapat menjadi alat baru bagi orang-orang untuk mengejar impian dan ambisi yang saat ini terasa mustahil diraih. Bagi kebanyakan orang, kompleksitas hidup telah meningkat secara drastis. AI dapat menjadi sarana perlindungan dari kompleksitas ini, sekaligus menjadi alat untuk menghasilkan penemuan dan inovasi yang belum pernah terjadi sebelumnya.

Di sisi lain, seiring sistem AI menjadi makin mampu dan otonom, sistem tersebut dapat bergerak lebih cepat daripada lembaga kita, memusatkan kekuasaan di tangan segelintir pihak, atau membuat keputusan yang tidak lagi dipahami maupun dikendalikan oleh manusia.

Kekhawatiran itu menjadi sangat penting saat kita mendekati terciptanya sistem yang dapat meningkatkan kemampuan dirinya sendiri dan versi-versinya di masa depan, yang sering disebut peningkatan diri secara rekursif. Seiring proses pembangunan AI menjadi makin otomatis, laju kemajuan AI dapat meningkat dengan cepat. Momen ini menuntut kehati-hatian yang luar biasa.

Secara umum, saya sependapat dengan Profesor Bengio. Meski saya akan menyebut dua, bukan tiga—saya percaya ada dua kemungkinan buruk dalam kemajuan AI yang harus kita hindari.

Pertama, kita dapat kehilangan kendali atas masa depan kepada AI. Risikonya adalah AI bergerak begitu cepat sehingga manusia tidak lagi dapat mengikuti apa yang terjadi atau melakukan intervensi ketika diperlukan. Tentunya, ini akan sangat buruk.

Industri tidak boleh menerima risiko teknologi yang terlalu besar hanya karena manfaatnya begitu besar dan dirasa terlalu penting untuk diperlambat. Mengalahkan perusahaan lain dalam persaingan bukanlah alasan untuk mengambil keputusan gegabah. Kami juga tidak percaya bahwa kami terjebak dalam perlombaan yang membuat kami tidak dapat memperlambat langkah. Di masa lalu, kami pernah memperlambat langkah atas inisiatif sendiri. Kami akan melakukannya lagi di masa depan. Kami tidak ingin membangun sistem—dan menurut kami semua pihak harus menghindari pembangunan sistem—yang tidak dapat diberi jaminan penyelarasan, keterpantauan, dan keselamatan sebagaimana mestinya.

Kita perlu memahami tindakan sistem-sistem ini dan memiliki bukti kuat bahwa sistem tersebut akan melakukan apa yang dikehendaki manusia, bahkan ketika menjadi sangat, sangat cerdas. Bahkan, terutama ketika sistem tersebut menjadi sangat, sangat cerdas. Tidak penting apakah seseorang memperkirakan risiko malapetaka sebesar 10%, 1%, 12%, atau 0,1%. Tidak satu pun tingkat risiko tersebut dapat diterima sedikit pun. Kita juga tidak boleh melatih model jika tidak dapat memberikan alasan yang sangat kuat bahwa model tersebut akan mampu kita pertahankan di bawah kendali manusia.

Jadi, itulah satu kemungkinan buruk yang dapat terjadi. Di sisi lain, sistem-sistem ini dapat memusatkan terlalu banyak kekuasaan di tangan segelintir pihak. Tidak boleh ada satu orang, perusahaan, atau negara yang dapat menggunakan model AI terkuat untuk memaksakan pandangan dunianya kepada semua pihak lain. Perusahaan atau negara yang meyakini bahwa hanya pihaknya yang dapat dipercaya untuk menguasai teknologi ini dapat menggunakan keyakinan tersebut untuk membenarkan hampir segala tindakan lainnya. Kita harus menolak logika tersebut, bahkan ketika logika itu menguntungkan pihak tertentu.

Saya percaya ada jalan pragmatis untuk mengatasi kedua persoalan ini. Di OpenAI, kami menghadapi pertanyaan-pertanyaan ini dengan tujuan yang jelas: AI harus memberi masyarakat kuasa yang lebih besar atas kehidupan mereka sendiri. Lebih banyak kebebasan untuk menjalani hidup sesuai keinginan mereka. Kemampuan lebih besar untuk menyelesaikan masalah, baik besar maupun kecil, dan meningkatkan kehidupan komunitas mereka. Kami tidak ingin terjebak dalam optimisme buta. Kami juga tidak ingin terjebak dalam pesimisme yang menganggap kehancuran tak terelakkan. Terseret ke salah satu ekstrem tidak akan membantu kita mengatasi tantangan di hadapan kita, terutama ketika dunia dan masyarakatnya menghadapi tantangan luar biasa besar yang dapat turut diselesaikan oleh teknologi ini. Karena itu, kami berusaha menempuh jalan tengah di antara kedua kutub tersebut.

Bagi kami, itu berarti tiga prinsip.

Pertama, seiring meningkatnya kemampuan AI, manusia harus tetap menjadi pusat pengambilan keputusan terkait AI. Penyelarasan bukanlah pertanyaan penelitian yang abstrak. Penyelarasan adalah upaya untuk memastikan bahwa sistem-sistem ini senantiasa berada di bawah kendali manusia, mencerminkan nilai-nilai manusia, dan membantu masyarakat mengarahkan tahap-tahap pengembangan berikutnya. Kami tidak berupaya—dan tidak boleh—mengotomatiskan penilaian maupun nilai-nilai manusia.

Kedua, manfaat kemajuan ilmiah dan pertumbuhan ekonomi harus diwujudkan oleh masyarakat dan diperuntukkan bagi masyarakat. AI harus membantu peneliti membuat penemuan, dokter merawat pasien, guru mengajar siswa, wirausahawan mendirikan perusahaan, komunitas menyelesaikan masalah yang sebelumnya terasa mustahil, dan banyak lagi. Sejarah kemajuan manusia yang berkelanjutan bukanlah kisah tentang alat yang menggantikan kemampuan manusia untuk menentukan tindakannya sendiri. Sejarah itu menunjukkan bahwa alat yang tepat membuat manusia lebih mampu, dan saya percaya dampaknya akan jauh melampaui apa yang kini kita anggap mungkin.

Ketiga, teknologi ini harus memberdayakan setiap individu. Masa depan yang gemilang akan terwujud ketika orang-orang mengembangkan potensi mereka dan menciptakan nilai bagi diri sendiri, komunitas, negara, dan dunia secara luas. Kami mungkin termasuk pihak yang membangun teknologi ini, tetapi kami bukan pahlawan dalam kisah ini. Peran kami adalah memberdayakan masyarakat di seluruh dunia dan memercayai keajaiban keterampilan serta kemampuan umat manusia.

Kini kita memiliki model yang mampu menemukan pengetahuan yang belum pernah kita miliki sebelumnya. Pertimbangkan kemajuan yang telah kita lihat dalam matematika. Tiga musim panas lalu, model kami cukup mampu mengerjakan matematika tingkat sekolah dasar. Dua musim panas lalu, model tersebut cukup andal dalam kompetisi matematika tingkat sekolah menengah. Musim panas lalu, kami mencapai kemampuan setara peraih medali emas dalam kompetisi matematika internasional paling bergengsi. Dan baru beberapa minggu lalu pada musim panas ini, salah satu model kami memecahkan salah satu Masalah Hadiah Milenium, yakni persamaan Navier–Stokes.

Persamaan ini digunakan untuk merancang pesawat, meramalkan cuaca, dan mempelajari aliran darah. Kami tidak memecahkan masalah matematika semata-mata demi matematika, melainkan untuk memberdayakan manusia agar dapat menemukan pengetahuan baru dan memanfaatkannya untuk meningkatkan layanan kesehatan dan taraf hidup, serta mengembangkan potensi semua orang di seluruh dunia. Masih begitu banyak hal yang belum ditemukan.

Namun, sangat penting agar perusahaan tidak menggantikan proses demokratis.

Jika AI ingin bersifat demokratis, keputusan terpenting tidak boleh dibuat hanya oleh laboratorium di San Francisco. Keputusan tersebut harus dibentuk melalui proses demokratis dan oleh pemerintah yang bertanggung jawab kepada masyarakat yang mereka layani.

Di tingkat internasional, hal ini akan membutuhkan kerja sama. Dalam sejarah kita, pernah ada masa ketika negara-negara yang bersaing dan tidak selalu saling menyukai tetap bersatu demi kepentingan bersama dan kebaikan kolektif saat menghadapi teknologi baru yang sangat kuat. Kami percaya inilah salah satu masa tersebut.

Kita membutuhkan mekanisme untuk standar AI terdepan nasional dan internasional yang saling melengkapi: standar untuk mengukur kemampuan, menilai risiko, menentukan apakah langkah pengamanan sudah memadai, serta mempertahankan pengawasan manusia yang bermakna seiring makin otonomnya sistem.

Kita membutuhkan standar bersama agar negara-negara dapat membandingkan bukti, memverifikasi kepatuhan, serta memiliki bahasa dan pemahaman bersama mengenai apa yang sedang terjadi.

Kita membutuhkan pelaporan insiden yang akurat dan cepat, serta protokol klasifikasi dan pelaporan, agar dunia dapat belajar dari kegagalan sebelum kegagalan itu berubah menjadi malapetaka.

Kita juga membutuhkan saluran aman antara pemerintah, pengelola infrastruktur kritis, dan pakar teknis untuk berbagi informasi tentang kerentanan yang mulai muncul dan ancaman baru.

Tentunya, standar ini tidak boleh mengukuhkan dominasi pelaku lama atau mengutamakan satu model bisnis dibandingkan model lainnya. Standar tersebut harus mendukung pengembang model terbuka maupun tertutup, pendatang baru maupun laboratorium mapan, kewenangan nasional maupun kerja sama internasional. Setiap pemerintah harus memutuskan cara memasukkan standar ke dalam sistem hukumnya sendiri. Namun, kita semua akan lebih baik jika dapat menyepakati seperti apa bukti, langkah pengamanan, dan pengawasan yang baik di tingkat global.

Kami tidak memiliki semua jawabannya dan sangat terbuka terhadap gagasan yang lebih baik. Kami siap bekerja bersama Anda semua dan berupaya sekeras mungkin untuk menemukan jalan ke depan.

Kita berada di persimpangan jalan. Satu jalan mengarah ke dunia tempat kekuasaan terpusat, keputusan tidak transparan, dan orang-orang merasa bahwa teknologi terpenting dalam hidup mereka diterapkan kepada mereka tanpa melibatkan mereka. Jalan lainnya mengarah ke dunia tempat AI bekerja untuk masyarakat karena masyarakat, melalui lembaga demokratis, turut menentukan bagaimana AI harus dikembangkan dan diarahkan; tempat kemajuan ilmiah meningkatkan kehidupan nyata; tempat lebih banyak orang dapat berpartisipasi dalam membentuk masa depan; dan tempat teknologi ini terus memberi individu serta komunitas kuasa yang lebih besar untuk menjalani hidup sesuai pilihan mereka. Inilah masa depan yang penuh dengan potensi yang terwujud, kegembiraan, dan keajaiban.

Dan kami percaya masa depan ini layak dibangun. Terima kasih banyak.

Penulis

OpenAI