Konsensus Senyap
Nota penulis: Esei hari ini diadaptasi daripada syarahan yang disampaikan oleh penulis baru-baru ini dalam siri Syarahan Vik-Bailey di Harvard. Tulisan ini mencerminkan pandangan penulis sendiri, dan tidak semestinya pandangan OpenAI atau mana-mana pekerjanya yang lain.
Terima kasih kerana hadir hari ini. Ketika kita berbicara, sedang berlangsung antara rangkaian peristiwa keselamatan siber paling penting dalam sejarah: pendedahan beberapa kerentanan keselamatan kritikal yang digelar oleh sesetengah pihak sebagai “Oktober Hitam”. Kerentanan dalam beberapa bahagian infrastruktur teras internet ini ditemukan oleh sistem AI perbatasan, dan pendedahannya merupakan sebahagian daripada usaha mendesak untuk memperkukuh keselamatan perisian di seluruh dunia. Inilah perkara mendesak bulan ini; bulan depan akan ada yang lain. Penemuan kerentanan perisian ialah keupayaan dwiguna yang telah dicapai oleh sistem AI hari ini. Namun, tidak lama lagi keupayaan lain akan muncul, lalu mencetuskan projek mendesak tersendiri untuk memanfaatkan sisi baiknya sebelum pihak berniat jahat mengeksploitasi sisi buruknya. Semua perkara mendesak ini pasti akan bertindih, dan sebahagian besar daripada apa yang kita sebut sebagai “dasar AI” hari ini mungkin akan digubal di tengah-tengah kekalutan ini.
Namun, bukan hal-hal reaktif dan mendesak ini yang ingin saya bincangkan dengan anda hari ini. Sebaliknya, saya mahu berbicara tentang arah yang mungkin kita tuju jika dilihat dalam gambaran yang lebih luas. Di tengah-tengah desakan yang bertubi-tubi ini, sukar untuk memikirkan persoalan yang lebih abstrak dan seolah-olah jauh daripada kenyataan. Namun, persoalan ini penting. Tanpa gambaran tentang masa depan jangka panjang yang ingin kita capai—dan yang ingin kita elakkan—kita mungkin berakhir dengan hasil keseluruhan yang tidak kita ingini, walaupun kita membuat keputusan bijak pada setiap langkah.
Sering dikatakan bahawa industri teknologi tidak mempunyai visi positif tentang ke mana hasil ciptaannya akan membawa kita. Saya tidak bersetuju: San Francisco dan hab keusahawanan lain dipenuhi visi positif tentang masa depan teknologi kita. Orang benar-benar sedang membangunkan kereta terbang, kenderaan autonomi, robot pelbagai saiz dan bentuk, pelakuran nuklear dan, sudah tentu, kecerdasan am buatan. Sebaliknya, yang kurang ialah visi positif tentang masa depan institusi kita: bagaimana semua ini akan berfungsi?
Namun, itu bukan bermakna tiada langsung visi untuk institusi pada masa depan. Malangnya, visi yang paling kerap saya temui bukanlah visi yang boleh saya sifatkan sebagai positif. Kalaupun disuarakan, biasanya hanya dalam bisikan. Namun, lebih kerap ia tidak disebut, hanya dapat difahami secara tersirat. Saya menamakannya konsensus senyap.
Bayangkan sebuah syarikat yang boleh melakukan hampir segala-galanya tanpa tenaga manusia. Sistem AInya menjalankan penyelidikan dan pembangunan, membuat penemuan, merundingkan kontrak, memperuntukkan modal dan mengeluarkan barangan. Andaikan syarikat itu lebih cekap melakukan semua ini berbanding pesaing manusianya, walaupun manusia tersebut menggunakan AI untuk meningkatkan kemampuan mereka. Jika penglibatan manusia hanya melambatkan perniagaan, pengurus dan pemilik manusia akan mempunyai dorongan kuat untuk melepaskan tangan daripada stereng. Jika hal ini berlaku di seluruh ekonomi global, logik persaingan pasaran akan mendorong manusia melepaskan kedudukan dominan mereka dalam perdagangan global. Lama-kelamaan, pasaran mungkin memenuhi permintaan mesin sama banyak dengan, atau lebih daripada, permintaan dan kehendak manusia.
Apa yang berlaku selepas itu, tiada siapa yang tahu. Mungkin manusia akan mendapat manfaat yang amat besar. Jika mesin yang telah mengambil alih peranan kita sangat menghargai nilai intrinsik manusia, kita boleh menikmati hasil kerja dan kekayaan yang dijananya. Atau mungkin, setelah kehilangan kuasa ekonomi dan semakin kehilangan kuasa politik, kita manusia akan semakin tidak relevan di dunia, semakin tidak mampu menentukan hala tuju hal ehwal dunia. Mungkin segelintir manusia akan memegang kuasa dan kekayaan yang luar biasa dengan mengorbankan orang ramai yang sebahagian besarnya kehilangan kuasa, atau mungkin kita semua akan berkongsi nasib yang sama, kehilangan kuasa. Walau apa pun perinciannya, persamaan yang mendasari konsensus senyap ini ialah berakhirnya kedudukan dominan manusia dalam dunia yang kita kenali.
Tiada satu pun senario ini memerlukan AI memberontak terhadap penciptanya. Pemiliknya juga tidak perlu menginginkan manusia kehilangan kuasa untuk semua ini berlaku. Setiap keputusan untuk menyerahkan tugas boleh masuk akal jika dilihat secara berasingan. Namun, secara keseluruhan, keputusan-keputusan itu boleh menghasilkan dunia yang menyaksikan manusia telah melepaskan kuasa sebenar ke atas sebahagian besar tamadun kita. Walaupun kita mencapai kemajuan luar biasa dalam menangani persoalan rumit tentang keselamatan AI dan penjajarannya dengan nilai manusia, kita masih mungkin mendapati bahawa kita telah tunduk kepada entiti mesin jenis baharu. Menurut konsensus senyap ini, dalam versi masa depan yang bahagia, entiti itu akan bersifat baik hati, sebuah mesin yang mengutamakan kepentingan terbaik manusia. Sebuah mesin, seperti dalam puisi Brautigan, yang penuh rahmat kasih sayang.
Menurut konsensus senyap ini, kepada mesin-mesin inilah kita akan menyerahkan kunci syarikat kita, dan semakin lama, institusi pentadbiran kita juga. Mesin akan menguruskannya dengan lebih berkesan, lebih cekap, dengan kebijaksanaan dan pertimbangan yang lebih baik daripada kemampuan kita manusia. Maka, lama-kelamaan, kita akan melepaskan tangan daripada stereng dan membiarkan mesin yang penyayang mengambil alih pemanduan. Kita akan menjadi seperti penumpang dalam sebuah kereta—kereta yang sangat bagus, mungkin jauh lebih mewah daripada yang dapat kita bayangkan hari ini—namun tetap sekadar penumpang, tanpa kawalan terhadap hala tujunya. Kalaupun kita bekerja, kebanyakannya hanyalah sejenis ritual atau lakonan, lebih menyerupai permainan untuk menghiburkan spesies kita.
Sesetengah pemerhati akan berhujah bahawa konsensus senyap ini berasaskan premis yang salah, kerana kita manusia sememangnya tidak mengawal dunia pada hari ini. Kritikan ini wajar diingat: tiada satu kelompok bernama “kita” yang menentukan apa yang harus dilakukan. Sama ada kita suka atau tidak, kita hidup dalam dunia yang kuasanya amat tersebar. Namun, hal ini juga tidak sepatutnya membuat kita leka: walaupun “kita” tidak “mengawal” dunia, manusia secara kolektif memang memegang kedudukan dominan dalam hal ehwal dunia. Tiada spesies haiwan yang benar-benar mampu menyaingi kita untuk menguasai sumber. Kita patut menolak tanggapan yang cetek dari segi intelektual bahawa manusia boleh mengawal dunia secara berpusat dari atas. Namun, penolakan itu tidak patut disamakan dengan penafian terhadap hakikat yang jelas bahawa manusia, secara kolektif, ialah pelaku utama di Bumi.
Sesetengah orang yang sanggup menyuarakan konsensus senyap ini percaya bahawa masa depan sedemikian benar-benar baik. Yang lain tidak mempercayainya, tetapi pasrah bahawa hal itu tidak dapat dielakkan. Konsensus senyap ini bukan suatu konsensus kerana semua orang bersetuju bahawa ia baik, dan bukan juga rancangan rahsia dalam kalangan pembangun AI. Konsensus itu hanyalah bahawa pelepasan kedudukan dominan manusia dalam hal ehwal dunia tidak dapat dielakkan, atau sekurang-kurangnya amat sukar untuk membayangkan visi masa depan lain yang benar-benar mampu bertahan dengan kehadiran mesin supercerdas. Seseorang boleh menentang kesudahan itu dengan ikhlas, namun tetap sukar membayangkan visi alternatif yang munasabah. Hakikat bahawa konsensus ini kebanyakannya tidak disuarakan, paling kuat pun sekadar bisikan, itulah petandanya.
Saya membenci konsensus senyap ini. Saya menolak pelepasan kedudukan dominan manusia. Saya muak dengan anggapan bahawa hal ini tidak dapat dielakkan. Saya mengingatkan diri bahawa saya tidak akan sanggup menatap mata indah anak lelaki saya yang masih bayi jika saya tunduk kepada konsensus senyap ini. Maka, kepada konsensus senyap ini, saya berkata tidak. Saya percaya sudah tiba masanya untuk membincangkan konsensus senyap ini secara terbuka, untuk menyedarkan diri daripada menerima visi ini hampir tanpa disedari.
Masalahnya begini: ada sebabnya konsensus senyap ini menjadi suatu kesepakatan. Sukar untuk menjelaskan bagaimana manusia akan terus memegang stereng apabila wujud kecerdasan mesin yang jauh melampaui kecerdasan manusia. Kebanyakan percubaan untuk menjelaskannya bergantung pada hujah bahawa AI hanyalah alat, suatu instrumen pengecaman corak yang tidak mampu mencapai “pemahaman sebenar”. Saya bimbang hujah-hujah ini tidak akan bertahan berdepan realiti yang bakal tiba. Saya bimbang hujah-hujah ini sendiri merupakan satu bentuk sikap leka—pendirian yang lebih berasaskan penafian terhadap kemampuan AI, bukannya keyakinan yang berakar pada visi yang jelas untuk masa depan yang diterajui manusia. Kita tidak boleh mengatakan bahawa AI tiada “pemahaman sebenar” sedangkan AI mula mencapai kemajuan dalam masalah intelektual yang gagal diselesaikan oleh manusia selama berdekad-dekad dan berabad-abad.
Jadi, mengapa saya percaya manusia mesti mengekalkan kedudukan dominan? Jawapan mudahnya ialah kerana saya seorang manusia, dan saya memang berpihak sepenuhnya kepada manusia tanpa rasa bersalah.
Namun, ada juga sebab yang lebih mendalam. Kedudukan dominan kita tidak berasaskan akal kita, bukan juga pada usaha mengekalkan monopoli kita terhadap “pemahaman sebenar” selama-lamanya. Sebaliknya, kedudukan dominan kita berasaskan sejarah kita.
Kerana kitalah yang bangkit daripada lumpur. Kitalah yang membina masyarakat primitif daripada tanah dan batu. Kitalah yang mendongak ke arah bintang dan bertanya mengapa. Kitalah, dengan pergaduhan dan kasih sayang, kedengkian dan kegembiraan kita, yang menemukan moral, etika dan undang-undang. Kitalah yang menyanyi dan menari, menulis dan menggubah. Kitalah yang mencipta sejarah, dan kitalah yang menulisnya. Warisan itu milik kita. Tamadun yang telah kita bina ialah nyala api yang kita pelihara, dan nyala api itu milik kita. Sejarah kita ialah warisan gemilang yang diamanahkan kepada kita semua. Sebahagian daripada amanah itu ialah penyertaan kita dalam apa yang disebut oleh Michael Oakeshott sebagai “perbualan umat manusia”, usaha agung yang bermula sejak zaman purba.
Sepanjang sejarah yang panjang dan berliku itu, kita membina sebuah tamadun yang, di Amerika, diasaskan pada hak individu, dengan penghormatan terhadap jalan yang dirintis oleh setiap orang dalam mengharungi kehidupan. Kehidupan manusia boleh menjadi lebih baik atau lebih buruk: kita menikmati hasil keputusan yang bijak, dan kita menanggung akibat apabila tersilap. Hak untuk menempuh jalan sendiri tidak bergantung pada sama ada seseorang itu paling pintar atau paling bijaksana. Kedudukan saya sebagai warganegara tidak hilang hanya kerana jiran saya mempunyai pertimbangan yang lebih baik. Saya juga tidak melihat sebab mengapa kemunculan mesin yang lebih cerdas patut menghapuskan kedudukan itu. Malah, saya melihat segala sebab untuk menghalang penghapusan itu daripada berlaku.
Ada yang mungkin berhujah bahawa mesin juga merupakan pewaris kerana telah membaca hampir seluruh rekod bertulis warisan ini. Dalam erti kata tertentu, memang benar. Namun, seseorang yang telah membaca setiap surat di loteng rumah keluarga anda tidak dengan sendirinya menjadi ahli keluarga anda. Sistem AI akan turut serta dalam perbualan umat manusia, pada mulanya sebagai pemerhati dan semakin lama sebagai peserta. Namun, AI tidak boleh mendominasinya atau menjadikan perbualan itu tidak lagi bermakna. Melepaskan kedudukan dominan bererti mengkhianati nenek moyang kita, sama seperti mengkhianati anak cucu kita. Jika perjuangan ini pun tidak berbaloi, tiada perjuangan yang berbaloi.
Saya sendiri percaya bahawa pendukung konsensus senyap ini tersilap tentang sifat kecerdasan super mesin kelak. Bahawa mereka terlepas pandang sesuatu yang penting tentang cara dunia berfungsi, bahawa mereka menyamakan kecerdasan dengan kuasa. Jika lima atau sepuluh tahun lalu anda menerangkan kepada seorang pendukung konsensus senyap ini kemampuan sistem AI yang ada hari ini sekalipun, mereka mungkin meramalkan bahawa pengangguran kini jauh lebih tinggi daripada keadaan sebenar, dan bahawa kehilangan kuasa manusia secara menyeluruh sudah berlaku jauh lebih meluas daripada kenyataannya. Saya percaya kecerdasan dan keupayaan kolektif manusia jauh lebih besar daripada yang disangka oleh pendukung konsensus senyap ini, dan masyarakat kita akan terbukti lebih berdaya tahan daripada ramalan mereka.
Namun, saya mungkin tersilap. Sebagai contoh, mungkin sahaja syarikat berautonomi penuh akan mengatasi perusahaan manusia sepenuhnya. Jika itu benar, logik ekonomi semata-mata akan menuntut agar semakin banyak modal diserahkan kepada mesin. Dalam masa depan ini, manusia tidak perlu menyaksikan mesin menggulingkan tamadun mereka untuk kehilangan kuasa; logik perusahaan kapitalis hanya perlu terus berjalan seperti biasa. Dalam keadaan ini, perbandingan paling dekat bagi revolusi AI ialah revolusi pertanian, apabila kaedah pengeluaran baharu mengubah struktur masyarakat manusia secara mendasar. Sama sekali tidak jelas bahawa perubahan ini menyenangkan bagi manusia yang mengalaminya; malah, terdapat bukti kukuh bahawa perubahan ini memburukkan kesejahteraan manusia selama beribu-ribu tahun.
Saya tidak tahu sama ada inilah masa depan yang bakal kita hadapi. Malah, dalam tulisan lain saya telah berhujah bahawa saya tidak percaya demikian. Namun, ramai rakan sekerja saya—orang yang pintar, prihatin dan berprinsip—percaya bahawa inilah kemungkinan besar masa depan kita. Jika mereka betul, perjuangan kita menentang konsensus senyap ini akan menjadi lebih mencabar. Kita perlu berenang melawan arus ekonomi, dan dalam berbuat demikian, menolak banyak pegangan yang menjadi dogma bagi pendukung individualisme liberal klasik seperti saya. Usaha ini penuh bahaya, dan kemungkinan untuk gagal bukanlah kecil. Namun, jika ini pun bukan suatu perjuangan yang berbaloi, tiada perjuangan yang berbaloi.
Mengekalkan kedudukan dominan bermakna mengekalkan kebertanggungjawaban manusia dan institusi manusia. Ini bermakna pembangun AI patut dipertanggungjawabkan apabila mengamalkan pembangunan yang tidak selamat. Namun, individu dan firma yang menggunakan AI juga patut dipertanggungjawabkan apabila penyalahgunaan atau kekurangan pengawasan mereka menyebabkan kemudaratan. Hal ini memerlukan bukan sahaja undang-undang, tetapi juga infrastruktur teknikal untuk memastikan kebertanggungjawaban. Tindakan setiap ejen mesti dapat dikaitkan dengan orang yang bertanggungjawab terhadapnya. Ejen yang tidak terikat kepada seseorang manusia pula—jika dibenarkan sama sekali untuk mengambil bahagian dalam ekonomi yang sah—mesti beroperasi dalam batas kawalan keselamatan. Sebarang keupayaan ejen untuk menubuhkan syarikat, memiliki harta atau mengambil tindakan undang-undang secara autonomi hendaklah diberikan dengan amat berhati-hati, jika hendak diberikan sama sekali.
Dalam industri saya pula, kita boleh mula memikirkan dengan serius cara membina mesin cerdas yang selaras dengan kedudukan dominan manusia. Kita boleh membina ejen yang kebenarannya jelas dan terhad, tindakannya boleh diaudit, dan kuasanya boleh ditarik balik oleh pengguna. Kebertanggungjawaban atas tindakan yang memberi kesan besar kepada orang lain tidak semestinya memerlukan pengawasan terhadap kehidupan peribadi biasa atau penamatan kebebasan bersuara tanpa mendedahkan identiti. Kita boleh membuat komitmen terhadap privasi pengguna dan kedaulatan individu ke atas harta serta data digital mereka, termasuk keupayaan sebenar untuk membawa data itu ke tempat lain. Kita boleh mereka bentuk sistem yang membantu orang membina pemahaman dan membuat keputusan, selain sistem yang melaksanakan tugas. Kita juga boleh menguji sama ada produk yang kita bina menjadikan penggunanya lebih berupaya untuk bertindak dalam dunia ini.
Semua ini belum merupakan pelan lengkap untuk masyarakat yang memiliki kecerdasan melampaui manusia. Saya akan meragui sesiapa yang mendakwa memiliki pelan sedemikian. Namun, inilah titik permulaannya.
Masa depan diselubungi kabus tebal. Namun, kita masih boleh bertindak hari ini. Bersama-sama, kita boleh bermula dengan menyatakan konsensus senyap ini secara terbuka, memperlihatkan bentuknya dengan jelas kepada semua. Kita masing-masing boleh meluaskan cita-cita kita secara radikal. Kita boleh memilih untuk tidak membiarkan AI mengecilkan potensi kita, sebaliknya berusaha gigih agar AI mengembangkannya. Kita boleh belajar mengajukan soalan yang semakin berani, menyoal dunia dengan semangat dan kesungguhan baharu, serta memanfaatkan mesin kita yang berkuasa untuk berbuat demikian. Kita boleh menjadi manusia jenis baharu—bukan manusia transmanusia, tetapi manusia yang lebih luas keupayaannya.
Saya memikirkan hal ini apabila melihat anak lelaki saya yang masih bayi. Saya tidak mahu dia sekadar dijaga oleh mesin yang baik hati, walau betapa selesanya kehidupan yang dapat disediakan oleh mesin itu. Saya mahu dia mewarisi dunia yang membolehkannya mengajukan soalan yang belum pernah terfikir oleh sesiapa, membina sesuatu yang belum pernah terlintas di fikiran orang lain. Saya tidak mahu dia memiliki kereta yang lebih bagus dengan tempat duduk penumpang yang lebih empuk. Saya mahu dia memegang stereng.
- 2026


