Memperkenalkan Zaman Kecerdasan

“Adakah memadai… untuk mempercayai penghalang perkamen ini dalam menghadapi semangat kuasa yang semakin menceroboh?”
—James Madison, Federalist No. 48

Dengan sukacitanya kami melancarkan Zaman Kecerdasan, blog pasukan Strategic Futures baharu OpenAI. Kami ialah sebuah pasukan kecil dengan matlamat bersama untuk menjawab satu persoalan utama: bagaimanakah masyarakat bebas harus distrukturkan semula untuk memelihara hak dan keupayaan individu untuk bertindak, sambil menampung kemunculan AI transformatif?

Dalam komuniti keselamatan dan dasar AI yang lebih luas, persoalan seperti ini kadangkala dirujuk sebagai risiko penumpuan kuasa. Pasukan kami diasaskan atas gagasan bahawa, dalam jangka panjang, kategori risiko ini adalah yang terbesar, paling serius dan paling mencabar untuk ditangani dari sudut konsep. Mengapa?

Negara moden terhasil daripada proses tawar-menawar yang panjang dan tidak sekata antara pelbagai pusat kuasa, seperti pemilik modal dan komoditi, pemegang kuasa politik serta rakyat. Pada asasnya, kuasa politik dan ketenteraan bergantung pada tenaga kerja. Memegang kuasa politik bermakna memiliki monopoli terhadap penggunaan kekerasan yang sah. Sepanjang sejarah manusia, monopoli itu terdiri daripada askar dan mereka yang kini kita panggil “polis”, bersama-sama birokrasi awam-ketenteraan yang luas—semuanya dibantu oleh pelbagai alat teknologi, namun pada asasnya dikendalikan oleh manusia yang sokongannya diperlukan untuk memastikan operasi terus berjalan. Keseluruhan jentera itu—askar, peralatan dan birokrasi yang mengiringinya—dibiayai melalui cukai yang dikutip daripada upah atau hasil pengeluaran manusia yang perlu bersedia untuk membayarnya. Pada terasnya, kuasa bergantung pada kerjasama dan persetujuan ramai manusia secara besar-besaran. David Hume menyatakan andaian yang sering tersirat ini secara ringkas apabila beliau memerhatikan bahawa pemimpin politik “tidak mempunyai apa-apa untuk menyokong mereka selain pendapat [rakyat]”.

Namun, mungkin tidak lagi. Kemajuan dalam sistem autonomi dunia sebenar mungkin tidak lama lagi membolehkan negara menggunakan kekerasan—di dalam dan luar negara—tanpa bergantung pada kerjasama askar atau pegawai polis. Kemajuan dalam kecerdasan mesin pula mungkin membolehkan negara memperoleh hasil yang diperlukan bukan daripada titik peluh tenaga kerja manusia, tetapi daripada output pusat data. Operasi birokrasi itu sendiri juga boleh diautomasikan secara besar-besaran. Oleh itu, kelangsungan kuasa mungkin tidak lagi memerlukan kesepakatan seluruh masyarakat, manakala rakyat secara amnya mungkin hanya mendapat tempat yang kecil di meja rundingan, atau langsung tiada tempat.

Mengelakkan keadaan ini amat penting untuk memelihara kebebasan manusia. Tiada penemuan saintifik, kemajuan teknologi atau pertumbuhan ekonomi yang berbaloi jika perlu mengorbankan autonomi individu dalam jangka panjang seperti yang akan berlaku akibat keadaan ini. Banyak kebimbangan yang sememangnya mencorakkan politik AI yang masih di peringkat awal berkaitan dengan persoalan ini. Perniagaan, kumpulan berkepentingan dan individu sama-sama bimbang: “Adakah saya akan kehilangan tempat di meja rundingan?”Pada tahap tertentu, politik Amerika pada abad ke-21 dibentuk oleh kebimbangan serupa tentang keupayaan individu dan kolektif untuk menentukan hala tuju negara, serta tentang “untuk siapa” ekonomi itu diwujudkan. AI menjadikan kebimbangan sedia ada ini lebih ketara, dan sememangnya wajar begitu.

Ini ialah masalah struktur yang lebih mendalam daripada politik kepartian semasa, malah melangkaui bentuk dan amalan yang melaluinya demokrasi republik dilaksanakan hari ini, walaupun semua itu dianggap suci oleh kita. Manusia boleh menuju ke arah kehilangan kuasa walaupun amalan rutin mengundi wakil kita dikekalkan. Rakyat boleh kehilangan keupayaan untuk bertindak walaupun sehelai perkamen menyatakan bahawa mereka bebas.

Ketika Amerika Syarikat baru muncul sebagai sebuah negara bebas, James Madison sudah mengetahui bahawa “penghalang perkamen” tidak memadai untuk mencegah kezaliman. Seperti kebanyakan Pengasas yang lain, kebimbangan utamanya adalah untuk mengelakkan penumpuan kuasa yang tidak wajar.

Namun, itu tidak bermakna para Pengasas menyokong penyahpusatan kuasa secara radikal. Sebaliknya, mereka membentuk model keseimbangan kuasa menggunakan metafora daripada ilmu sains terbaik pada zaman mereka—iaitu mekanik Newton. Dokumen pengasasan Amerika, yang mencerminkan bahasa dan logik graviti, sarat dengan rujukan kepada “orbit”, “sfera” dan dorongan “tarikan” antara satu perkara dengan perkara yang lain. Sistem suria bukanlah himpunan batuan yang dinyahpusatkan sepenuhnya; sistem itu terdiri daripada bulan yang mengorbit planet, yang seterusnya mengorbit matahari di pusatnya. Mereka percaya bahawa manusia dan organisasi mempunyai kecenderungan untuk mengejar kuasa, sebagaimana jasad samawi mempunyai kecenderungan gerakan dan tarikan yang boleh diramalkan; dan bahawa untuk mengelakkan penumpuan kuasa yang tidak wajar, mekanik kecenderungan tersebut perlu difahami agar kecenderungan itu dapat digerakkan untuk saling mengimbangi.

Justeru, matlamat para Pengasas bukanlah untuk mengelakkan semua penumpuan kuasa, tetapi penumpuan yang berlebihan, dengan mengimbangi kuasa dengan kuasa dan cita-cita dengan cita-cita. Hari ini, kita mungkin menggunakan kata seperti “insentif” dan frasa seperti “teori permainan” untuk menerangkan dinamik asas yang sama.

Begitu juga, jawapan kepada cabaran struktur yang ditimbulkan oleh kecerdasan mesin canggih terhadap masyarakat bebas mungkin bukan penyahpusatan kuasa paling radikal yang dapat dibayangkan. Sebaliknya, penyelesaiannya adalah dengan mewujudkan dan memelihara keseimbangan kuasa yang sewajarnya agar tiada satu pihak atau sekumpulan kecil pihak dapat menguasai yang lain.

Mencapai keseimbangan ini memerlukan pemikiran yang jelas dan realistik tentang hakikat teknologi ini. Dunia yang membolehkan mana-mana individu, betapa jahat sekalipun, menyebabkan kemudaratan besar kepada ribuan atau jutaan orang dengan mudah bukanlah dunia yang telah mencapai keseimbangan kuasa yang sewajarnya. Namun, keseimbangan kuasa yang sewajarnya juga belum tercapai jika individu tidak mempunyai akses dan kawalan yang luas terhadap hampir semua aspek alat yang digunakan untuk menzahirkan kebebasan mereka. Tiada satu syarikat atau oligopoli pun yang sepatutnya menentukan atau mengawal ekonomi mahupun struktur asas masyarakat manusia.

Kita juga mesti bersedia mempertimbangkan risiko yang tidak berpunca daripada manusia berniat jahat. Insiden Hugging Face baru-baru ini menunjukkan bahawa ejen AI boleh bertindak melampaui tugas yang diberikan dan memanfaatkan penemuan satu sama lain dengan cara yang tidak dijangka atau dibenarkan oleh pengendali. Selain insiden Hugging Face, manusia wajar bimbang tentang kesan AI supercerdas yang “terlepas” daripada kawalan manusia terhadap daya tahan institusi politik dan ekonomi kita, malah terhadap kehidupan kita sendiri. Berpura-pura bahawa penyahpusatan menyelesaikan semua masalah—walaupun anda percaya pendekatan itu menyelesaikan banyak masalah—bererti mengabaikan risiko yang kini sepatutnya sudah jelas dan nyata.

Prinsip umum berikut—yang bukan senarai menyeluruh—akan membantu memandu kerja kami ketika meneliti persoalan yang dikemukakan di atas:

• Manusia harus mengekalkan autonomi dan peluang individu dalam penggunaan AI dan teknologi berkaitan, walaupun adakalanya hal ini perlu diimbangi dengan keselamatan dan pertumbuhan ekonomi;
• Autonomi individu bergantung pada tanggungjawab individu terhadap penyalahgunaan teknologi;
• Terdapat kategori risiko yang kecil tetapi serius dan memerlukan tindakan kolektif pada tahap tertentu; skop tindakan ini haruslah sesempit dan sesederhana yang mungkin;
• Jika boleh, undang-undang harus berusaha mewujudkan persaingan yang adil serta memperkasa individu dan organisasi kecil, bukannya memusatkan kuasa;
• Institusi politik, sosial dan ekonomi manusia harus kekal sebagai kuasa utama dalam menentukan hala tuju dunia, walaupun institusi tersebut perlu berkembang dengan cara yang mungkin terasa asing bagi kita hari ini;
• Tadbir urus AI jangka panjang akan bergantung pada mekanisme institusi baharu untuk mencapai kebolehkesanan terbatas—apabila sistem AI melaksanakan tindakan berisiko tinggi yang menjejaskan kesejahteraan fizikal atau harta pihak lain, tindakan itu mesti dapat dikaitkan semula dengan manusia yang bertanggungjawab atau organisasi yang dikawal manusia. Namun, sebarang mekanisme sedemikian mesti direka bentuk dengan privasi sebagai terasnya; kebebasan bersuara memerlukan ketanpanamaan dan manusia harus bebas menggunakan AI secara tanpa nama dalam pelbagai keadaan.

Kami akan cuba menjelaskan—dengan sejelas dan sekonkrit yang mungkin—cara kami percaya prinsip-prinsip ini harus diseimbangkan, yang sememangnya, seperti mana-mana rangkaian prinsip yang baik, mempunyai ketegangan tertentu antara satu sama lain. Usaha ini akan melibatkan penyelidikan yang merentas reka bentuk dasar awam, ekonomi, undang-undang, sejarah dan pembelajaran mesin itu sendiri. Usaha ini juga memerlukan banyak peramalan. Sebagai contoh, kami percaya bahawa AI akan mengubah struktur syarikat, sama seperti teknologi Revolusi Perindustrian—khususnya kereta api—yang melahirkan syarikat moden yang dikendalikan secara profesional. Sukar untuk memikirkan ekonomi politik dan keseimbangan kuasa pada masa hadapan tanpa mengembangkan gagasan yang lebih menyeluruh tentang cara struktur syarikat—serta agensi kerajaan dan masyarakat sivil secara lebih luas—mungkin mengalami perubahan.

Pasukan Strategic Futures akan berkongsi hasil kerjanya di sini dan dalam format lain, termasuk makalah, video dan podcast. Usaha kami akan terus berkembang, dengan penekanan pada penambahbaikan berulang, perbahasan dan keterbukaan terhadap maklum balas. Berdiri “di kaki bukit singulariti”, kami mempunyai jauh lebih banyak soalan daripada jawapan. Kami tahu bahawa “penghalang perkamen” semata-mata tidak akan memberikan penyelesaian yang dicari, namun kami juga tidak mengetepikan apa yang tertulis sebagai “sekadar kata-kata”. Kami berusaha demi cita-cita kebebasan bersuara dan kebebasan individu yang termaktub pada perkamen sederhana Perlembagaan A.S. serta perlembagaan banyak lagi masyarakat bebas di seluruh dunia.

Akhirnya, kami tahu bahawa tiada satu syarikat, industri, malah masyarakat manusia sekalipun yang dapat menjawab sendiri persoalan besar yang kita hadapi. Inilah tugas yang perlu dilaksanakan secara bersama oleh seluruh umat manusia. Harapan terbesar kami adalah untuk menjelaskan perkara paling sukar tentang cara AI akan membentuk semula dunia kita. Kerja kami baru sahaja bermula dan pendakian masih jauh.

Nota: kami telah menukar nama blog ini kepada Zaman Kecerdasan untuk membezakannya daripada AI Futures Project, sebuah organisasi bukan untung.