Ucapan Sam Altman di Majlis Keselamatan Pertubuhan Bangsa-Bangsa Bersatu

Hari ini, Ketua Pegawai Eksekutif OpenAI, Sam Altman, berucap di Majlis Keselamatan Pertubuhan Bangsa-Bangsa Bersatu mengenai kecerdasan buatan. Beliau membincangkan potensi AI untuk meluaskan peluang, kepentingan memastikan sistem berkuasa kekal di bawah kawalan manusia dan keperluan untuk kerjasama antarabangsa dalam keselamatan AI.

Terima kasih, Tuan Presiden dan para pemimpin yang dihormati. Saya berbesar hati dapat berada di sini dan berucap kepada anda semua pada detik penting ini.

Kita telah bertahun-tahun membincangkan kecerdasan buatan, tetapi keadaan terasa berbeza sejak beberapa minggu dan bulan kebelakangan ini. Kemajuan pesat model menyebabkan tempoh masanya terasa semakin singkat dan manfaatnya semakin nyata, tetapi pada masa yang sama, kepentingan serta risikonya juga semakin mendesak.

Kita berdepan dengan satu pilihan. AI boleh membawa Zaman Pembaharuan baharu yang penuh kreativiti dan penemuan, atau Revolusi Perindustrian baharu yang sarat dengan pergolakan dan kekacauan.

Zaman Pembaharuan ialah era apabila alat, idea dan institusi baharu memperluas tanggapan manusia tentang perkara yang mampu mereka lakukan. AI boleh memainkan peranan tersebut pada zaman kita. Saya percaya manusia jauh lebih berkeupayaan daripada yang mereka sangkakan, tetapi selama ini mereka dibatasi oleh teknologi terhad yang sepatutnya memperkasa, namun sebaliknya mengganggu dan sering merampas perhatian.

Versi terbaik AI bukanlah untuk menjadikan manusia sekadar roda kecil dalam sebuah mesin gergasi atau mengoptimumkan setiap aspek kehidupan sehingga unsur kemanusiaan lenyap. Sebaliknya, AI harus memberi manusia lebih kuasa untuk menentukan tindakan sendiri dalam dunia yang semakin rumit: lebih keupayaan untuk belajar, mencipta, mengetahui, membina dan mengambil bahagian. Terdapat banyak perkara yang tidak boleh—dan tidak seharusnya—diautomasikan oleh AI.

AI harus dibina untuk manusia, bukan semata-mata untuk mempercepat operasi mesin tanpa tujuan yang bermakna. Sesetengah perkara yang diperkatakan oleh mereka yang berusaha membina AI begitu distopia sehingga kedengaran seperti jalan cerita filem fiksyen sains yang buruk.

Apa-apa sahaja yang begitu berkuasa sememangnya menggerunkan. Detik ini rumit kerana kita merasakan potensi yang amat besar dan kebimbangan yang sangat munasabah pada masa yang sama.

Model ini dapat membantu manusia mengetahui ilmu baharu: ubat baharu, penjagaan kesihatan yang lebih baik, pendidikan yang lebih kukuh serta pembinaan ekonomi yang lebih produktif. Model ini boleh menjadi alat baharu untuk membantu manusia mengejar impian dan cita-cita yang kini terasa mustahil untuk dicapai. Kerumitan hidup telah meningkat dengan begitu mendadak bagi orang biasa. AI boleh menjadi alat pertahanan terhadap kerumitan ini, selain berfungsi sebagai alat penemuan dan inovasi yang belum pernah wujud sebelum ini.

Sebaliknya, apabila sistem AI menjadi semakin berkeupayaan dan berautonomi, sistem tersebut boleh bergerak lebih pantas daripada institusi kita, menumpukan kuasa pada segelintir pihak atau membuat keputusan yang tidak lagi difahami atau dikawal oleh manusia.

Kebimbangan itu menjadi semakin penting apabila kita menghampiri sistem yang boleh menambah baik dirinya sendiri dan versi masa depannya, yang sering disebut sebagai penambahbaikan kendiri rekursif. Apabila proses membina AI menjadi semakin berautomasi, kadar kemajuan AI boleh meningkat dengan pantas. Detik ini menuntut kewaspadaan yang amat tinggi.

Saya sebahagian besarnya bersetuju dengan Profesor Bengio. Namun, saya akan menyebut dua dan bukannya tiga—saya percaya terdapat dua kemungkinan kemajuan AI membawa akibat yang amat buruk dan perlu kita elakkan.

Pertama, kita boleh kehilangan kawalan masa depan kepada AI. Risikonya ialah AI bergerak begitu pantas sehingga manusia tidak lagi dapat mengikuti perkembangan atau campur tangan apabila diperlukan. Sudah tentu, hal ini amat buruk.

Industri tidak boleh menerima risiko teknologi yang terlalu besar hanya kerana manfaatnya begitu besar dan dirasakan terlalu penting untuk diperlahankan. Hasrat mengatasi syarikat lain dalam persaingan bukan alasan untuk membuat keputusan terburu-buru. Kami juga tidak percaya bahawa kami terperangkap dalam perlumbaan yang menghalang kami daripada memperlahankan kemajuan. Kami pernah memperlahankan kemajuan secara sepihak sebelum ini. Kami akan berbuat demikian lagi pada masa hadapan. Kami tidak mahu membina sistem—dan berpendapat penting agar semua pihak mengelakkan pembinaan sistem—yang tidak dapat kami jamin tahap penjajaran, kebolehpantauan dan keselamatannya seperti yang diperlukan.

Kita perlu memahami tindakan sistem ini dan mempunyai bukti kukuh bahawa sistem tersebut akan bertindak mengikut kehendak manusia, walaupun ketika menjadi sangat, sangat pintar. Malah, lebih-lebih lagi ketika sistem itu menjadi sangat, sangat pintar. Tidak kira sama ada manusia menganggarkan risiko malapetaka pada 10%, 1%, 12% atau 0.1%. Tiada satu pun tahap ini yang boleh diterima sama sekali. Kita juga tidak seharusnya melatih model jika kita tidak dapat mengemukakan hujah yang amat kukuh bahawa model tersebut boleh dikekalkan di bawah kawalan manusia.

Jadi, itulah salah satu perkara buruk yang boleh berlaku. Pada sudut yang lain, sistem ini boleh menumpukan terlalu banyak kuasa pada tangan segelintir pihak. Tiada individu, syarikat atau negara patut dibenarkan menggunakan model AI paling berkuasa untuk memaksakan pandangan dunia mereka kepada orang lain. Syarikat atau negara yang percaya bahawa hanya mereka boleh dipercayai untuk mengendalikan teknologi ini boleh menggunakan kepercayaan tersebut untuk mewajarkan hampir apa-apa tindakan lain. Kita mesti menolak logik itu, walaupun logik tersebut memudahkan mana-mana pihak.

Saya percaya terdapat jalan pragmatik untuk menangani kedua-duanya. Di OpenAI, kami menangani persoalan ini dengan matlamat yang jelas: AI harus memberi manusia lebih kuasa terhadap kehidupan mereka sendiri. Lebih kebebasan untuk menjalani kehidupan mengikut kehendak mereka. Lebih keupayaan untuk menyelesaikan masalah, sama ada besar mahupun kecil, dan menambah baik komuniti mereka. Kami tidak mahu terperangkap dalam keyakinan membuta tuli. Kami juga tidak mahu terperangkap dalam pandangan bahawa malapetaka tidak dapat dielakkan. Terjerumus ke mana-mana satu pandangan ekstrem tidak akan membantu kita berjaya menangani cabaran yang mendatang, khususnya ketika dunia dan penduduknya menghadapi cabaran amat besar yang dapat dibantu oleh teknologi ini. Jadi, kami cuba mengambil jalan tengah antara kedua-dua pendirian ini.

Bagi kami, hal ini bererti tiga prinsip.

Pertama, apabila AI menjadi semakin berkeupayaan, manusia mesti kekal sebagai teras dalam proses membuat keputusan AI. Penjajaran bukanlah persoalan penyelidikan yang abstrak. Usaha ini memastikan sistem tersebut sentiasa berada di bawah kawalan manusia, mencerminkan nilai kemanusiaan dan membantu manusia membimbing peringkat pembangunan yang seterusnya. Kami tidak berusaha untuk mengautomasikan pertimbangan atau nilai kemanusiaan, dan kami sememangnya tidak boleh berbuat demikian.

Kedua, manfaat kemajuan sains dan pertumbuhan ekonomi mesti dihasilkan oleh manusia dan untuk manusia. AI harus membantu penyelidik membuat penemuan, doktor merawat pesakit, guru mendidik pelajar, usahawan menubuhkan syarikat, komuniti menyelesaikan masalah yang sebelum ini dirasakan mustahil untuk ditangani dan banyak lagi. Kisah kemajuan manusia yang berterusan bukanlah tentang alat menggantikan keupayaan manusia untuk menentukan tindakan sendiri. Sebaliknya, alat yang tepat menjadikan manusia lebih berkeupayaan, dan saya percaya kesannya akan jauh melangkaui apa yang kita fikirkan mungkin.

Ketiga, teknologi ini mesti memperkasa setiap individu. Masa depan yang hebat akan tercipta apabila manusia merealisasikan potensi mereka dan membina nilai untuk diri sendiri, komuniti, negara serta dunia secara keseluruhan. Kami mungkin antara pembina teknologi ini, tetapi kami bukan wira dalam kisah ini. Peranan kami adalah untuk membolehkan manusia di seluruh dunia berkarya dan menaruh kepercayaan pada keajaiban kemahiran serta kebolehan umat manusia.

Kini kita mempunyai model yang mampu mengetahui ilmu yang tidak pernah kita miliki sebelum ini. Pertimbangkan kemajuan yang telah kita saksikan dalam matematik. Tiga musim panas lalu, model kami agak baik dalam matematik sekolah rendah. Dua musim panas lalu, model tersebut agak mahir dalam pertandingan matematik sekolah menengah. Musim panas lalu, kami mencapai tahap pingat emas dalam pertandingan matematik antarabangsa yang paling berprestij. Dan hanya beberapa minggu lalu pada musim panas ini, salah satu model kami menyelesaikan satu daripada Masalah Hadiah Milenium, iaitu persamaan Navier–Stokes.

Persamaan ini digunakan dalam reka bentuk pesawat, ramalan cuaca dan kajian aliran darah. Kami tidak menyelesaikan masalah matematik semata-mata untuk matematik, tetapi untuk memperkasa manusia mengetahui ilmu baharu dan menggunakannya bagi meningkatkan penjagaan kesihatan, taraf hidup serta potensi setiap orang di seluruh dunia. Masih banyak lagi yang belum diketahui.

Namun, amat penting agar syarikat tidak mengambil alih peranan proses demokrasi.

Jika AI mahu bersifat demokratik, keputusan terpenting tidak boleh dibuat oleh makmal di San Francisco semata-mata. Keputusan tersebut mesti dibentuk melalui proses demokrasi dan oleh kerajaan yang bertanggungjawab kepada rakyat yang mereka berkhidmat.

Pada peringkat antarabangsa, hal ini memerlukan kerjasama. Dalam sejarah kita, pernah ada masanya negara-negara yang bersaing dan tidak sentiasa sehaluan tetap bersatu demi kepentingan bersama dan kebaikan sejagat apabila berdepan dengan teknologi baharu yang hebat. Kami percaya bahawa inilah salah satu detik tersebut.

Kita memerlukan mekanisme bagi standard AI termaju kebangsaan dan antarabangsa yang saling melengkapi: piawaian untuk mengukur keupayaan, menilai risiko, menentukan sama ada langkah perlindungan mencukupi dan mengekalkan pengawasan manusia yang bermakna apabila sistem menjadi semakin berautonomi.

Kita memerlukan piawaian bersama supaya negara-negara dapat membandingkan bukti, mengesahkan pematuhan serta berkongsi bahasa dan pemahaman tentang perkara yang sedang berlaku.

Kita memerlukan pelaporan insiden yang tepat dan pantas serta protokol pengelasan dan pelaporan agar dunia dapat belajar daripada kegagalan sebelum kegagalan itu menjadi malapetaka.

Kita juga memerlukan saluran selamat antara kerajaan, pengendali infrastruktur kritikal dan pakar teknikal untuk berkongsi kelemahan yang baru muncul serta ancaman baharu.

Sudah tentu, piawaian ini tidak seharusnya mengukuhkan kedudukan penyandang atau memihak kepada satu model perniagaan berbanding yang lain. Piawaian ini mesti menyokong pembangun model terbuka dan tertutup, peserta baharu dan makmal yang telah mantap, kuasa kebangsaan serta kerjasama antarabangsa. Setiap kerajaan harus menentukan cara untuk menerapkan piawaian dalam sistem perundangannya sendiri. Namun, kita semua akan mendapat manfaat jika dapat mencapai persetujuan tentang ciri bukti, langkah perlindungan dan pengawasan yang baik pada peringkat global.

Kami tidak mempunyai semua jawapan dan amat terbuka kepada sebarang idea yang lebih baik. Kami bersedia untuk bekerjasama dengan anda semua dan berusaha sedaya upaya untuk menentukan langkah seterusnya.

Kita kini berada di persimpangan. Satu jalan menuju ke dunia yang kuasanya tertumpu, keputusannya tidak telus dan penduduknya merasakan bahawa teknologi terpenting dalam hayat mereka sedang dikenakan terhadap mereka. Jalan yang satu lagi menuju ke dunia yang AI berfungsi untuk manusia kerana manusia, melalui institusi demokrasi, turut menentukan cara AI dibangunkan dan membimbingnya; kemajuan sains meningkatkan kehidupan sebenar; lebih ramai orang dapat turut serta dalam membentuk masa depan; dan teknologi ini terus memberi individu serta komuniti kuasa yang lebih besar untuk menjalani kehidupan mengikut pilihan mereka. Inilah masa depan yang merealisasikan potensi serta dipenuhi keterujaan dan keajaiban.

Dan inilah masa depan yang kami percaya wajar dibina. Terima kasih banyak.