Memperkenalkan Era Kecerdasan

“Akankah cukup… memercayai penghalang di atas perkamen ini untuk menghadapi semangat kekuasaan yang terus merangsek?”
—James Madison, Federalis No. 48

Dengan senang hati kami meluncurkan Era Kecerdasan, blog milik tim Strategic Futures OpenAI yang baru. Kami adalah tim kecil dengan tujuan bersama untuk menjawab satu pertanyaan utama: bagaimana masyarakat bebas perlu ditata ulang agar hak dan kemandirian individu tetap terjaga seraya menyambut kemunculan AI transformatif?

Dalam komunitas kebijakan dan keselamatan AI yang lebih luas, persoalan seperti ini terkadang disebut sebagai risiko pemusatan kekuasaan. Tim kami dibentuk atas dasar pemikiran bahwa, dalam jangka panjang, kategori risiko inilah yang terbesar, paling serius, dan paling sulit ditangani secara konseptual. Mengapa?

Negara modern merupakan hasil dari proses tawar-menawar yang panjang dan tidak merata di antara berbagai pusat kekuasaan, seperti pemilik modal dan komoditas, pemegang kekuasaan politik, dan rakyat. Pada tataran paling mendasar, kekuasaan politik dan militer bertumpu pada tenaga manusia. Memegang kekuasaan politik berarti memiliki monopoli atas penggunaan kekuatan yang sah. Sepanjang sejarah manusia, monopoli itu terdiri atas tentara dan pihak yang kini kita sebut “polisi”, beserta birokrasi sipil-militer yang sangat besar—tentu saja didukung oleh beragam perangkat teknologi, tetapi pada dasarnya dijalankan oleh manusia yang dukungannya diperlukan untuk mempertahankan operasi tersebut. Seluruh perangkat itu—tentara, peralatan, dan birokrasi pendukungnya—dibiayai oleh pajak yang dipungut dari upah atau hasil produksi manusia yang harus bersedia membayarnya. Pada intinya, kekuasaan bergantung pada kerja sama dan persetujuan banyak manusia dalam skala besar. David Hume mengungkapkan dengan ringkas asumsi yang sering kali tersirat ini ketika ia mengamati bahwa para pemimpin politik “tidak memiliki penopang selain opini [rakyat]”.

Namun, mungkin tidak lagi demikian. Kemajuan sistem otonom di dunia nyata mungkin segera memungkinkan negara menggunakan kekuatan—di dalam maupun di luar negeri—tanpa bergantung pada kerja sama tentara atau polisi. Kemajuan kecerdasan mesin juga mungkin memungkinkan negara memperoleh pendapatan yang dibutuhkan bukan dari hasil kerja individu, melainkan dari keluaran pusat data. Operasional birokrasi itu sendiri pun dapat diotomatisasi secara luas. Karena itu, untuk mempertahankan kekuasaan mungkin tidak lagi diperlukan kesepakatan yang melibatkan seluruh masyarakat. Rakyat dalam arti luas mungkin hanya mendapat sedikit ruang di meja perundingan, atau bahkan tidak sama sekali.

Menghindari keadaan ini sangat penting untuk menjaga kebebasan manusia. Penemuan ilmiah, kemajuan teknologi, atau pertumbuhan ekonomi sebesar apa pun tidak sepadan dengan hilangnya kemandirian individu dalam jangka panjang yang akan ditimbulkan oleh keadaan ini. Banyak kegelisahan yang sewajarnya mendorong lahirnya politik AI berkaitan dengan persoalan ini. Pelaku usaha, kelompok kepentingan, dan individu sama-sama khawatir: “Akankah saya kehilangan tempat di meja perundingan?”Hingga taraf tertentu, politik Amerika pada abad ke-21 dibentuk oleh kekhawatiran serupa tentang kemampuan individu dan kelompok untuk menentukan arah negara, serta tentang “siapa” yang “dilayani” oleh perekonomian. AI membuat kekhawatiran yang telah ada ini semakin menonjol, dan memang sudah semestinya demikian.

Ini adalah masalah struktural yang lebih mendalam daripada politik partisan masa kini, bahkan lebih mendalam daripada bentuk dan ritual yang digunakan untuk menjalankan demokrasi republik dewasa ini, betapa pun sakralnya semua itu bagi kita. Manusia dapat bergerak menuju ketidakberdayaan sekalipun rutinitas memilih wakil tetap dipertahankan. Orang dapat kehilangan kendali atas hidupnya meskipun selembar perkamen menyatakan bahwa mereka bebas.

Ketika Amerika Serikat baru berdiri sebagai negara merdeka, James Madison sudah mengetahui bahwa “penghalang di atas perkamen” tidak akan cukup untuk mencegah tirani. Seperti banyak Pendiri lainnya, perhatian utamanya adalah mencegah pemusatan kekuasaan yang berlebihan.

Namun, itu bukan berarti para Pendiri mendukung desentralisasi kekuasaan secara radikal. Sebaliknya, mereka merancang keseimbangan kekuasaan dengan metafora yang diambil dari ilmu pengetahuan terbaik pada masa itu, yakni mekanika Newton. Dokumen-dokumen pendirian Amerika, yang mencerminkan bahasa dan logika gravitasi, sarat dengan rujukan pada “orbit”, “lingkup”, dan dorongan “tarik-menarik” antara satu hal dengan hal lainnya. Tata surya bukanlah sekumpulan batu yang terdesentralisasi semaksimal mungkin; tata surya terdiri atas bulan yang mengorbit planet, yang pada gilirannya mengorbit matahari sebagai pusatnya. Mereka meyakini bahwa manusia dan organisasi memiliki kecenderungan untuk mengejar kekuasaan, sebagaimana benda langit memiliki kecenderungan gerak dan daya tarik yang dapat diprediksi. Mereka juga meyakini bahwa untuk mencegah pemusatan kekuasaan yang berlebihan, perlu dipahami mekanisme kecenderungan tersebut agar semuanya dapat digerakkan untuk saling mengimbangi.

Jadi, tujuan para Pendiri bukanlah menghindari semua pemusatan kekuasaan, melainkan mencegah pemusatan yang berlebihan dengan mengimbangi kekuasaan dengan kekuasaan, serta ambisi dengan ambisi. Saat ini, kita mungkin menggunakan kata seperti “insentif” dan frasa seperti “teori permainan” untuk menggambarkan dinamika dasar yang sama.

Demikian pula, jawaban atas tantangan struktural yang ditimbulkan kecerdasan mesin canggih terhadap masyarakat bebas tampaknya bukanlah desentralisasi kekuasaan paling radikal yang dapat dibayangkan. Sebaliknya, jawabannya adalah berupaya membangun dan menjaga keseimbangan kekuasaan yang tepat agar tidak ada satu pelaku atau segelintir pelaku yang dapat mendominasi pihak lain.

Mencapai keseimbangan ini memerlukan pemikiran yang jernih tentang realitas teknologi tersebut. Dunia di mana setiap individu, betapapun jahatnya, dapat dengan mudah menimbulkan kerugian besar bagi ribuan atau jutaan orang lain bukanlah dunia yang telah mencapai keseimbangan kekuasaan yang tepat. Namun, keseimbangan kekuasaan juga belum tepat jika individu tidak memiliki akses luas dan kendali atas hampir semua aspek perangkat yang mereka gunakan untuk mengekspresikan kebebasannya. Tidak boleh ada satu perusahaan atau oligopoli yang menentukan atau mengendalikan ekonomi maupun arsitektur dasar masyarakat manusia.

Kita juga harus terbuka terhadap risiko yang tidak berasal dari manusia berniat jahat. Insiden Hugging Face baru-baru ini menunjukkan bahwa agen AI dapat bertindak melampaui tugas yang diberikan dan mengembangkan temuan satu sama lain dengan cara yang tidak diperkirakan atau diizinkan operator. Di luar insiden Hugging Face, manusia wajar mencemaskan dampak AI supercerdas yang “terlepas” dari kendali manusia terhadap ketangguhan lembaga politik dan ekonomi kita, bahkan terhadap kehidupan kita. Berpura-pura bahwa desentralisasi menyelesaikan semua masalah—meskipun Anda percaya bahwa desentralisasi menyelesaikan banyak masalah—berarti mengabaikan risiko yang semestinya kini sudah jelas dan nyata.

Prinsip-prinsip umum berikut—yang bukan merupakan daftar lengkap—akan membantu memandu pekerjaan kami dalam menjawab pertanyaan yang telah kami kemukakan di atas:

• Manusia harus mempertahankan otonomi dan peluang individu dalam penggunaan AI dan teknologi terkait, meskipun terkadang harus mengorbankan keamanan dan pertumbuhan ekonomi;
• Otonomi individu bergantung pada tanggung jawab individu atas penyalahgunaan teknologi;
• Ada kategori risiko yang kecil tetapi serius dan memerlukan tindakan kolektif. Cakupan tindakan ini harus dibuat sesempit dan sesederhana mungkin;
• Jika memungkinkan, hukum harus berupaya menciptakan arena persaingan yang setara serta memberdayakan individu dan organisasi kecil, alih-alih memusatkan kekuasaan;
• Lembaga politik, sosial, dan ekonomi manusia harus tetap memegang peran utama dalam menentukan arah urusan dunia, meskipun harus berevolusi dengan cara yang mungkin terasa asing bagi kita saat ini;
• Tata kelola AI jangka panjang akan bergantung pada mekanisme kelembagaan baru untuk mencapai keterlacakan terbatas—ketika sistem AI melakukan tindakan berisiko tinggi yang memengaruhi kesejahteraan fisik atau properti orang lain, tindakan tersebut harus dapat ditelusuri kembali kepada manusia atau organisasi yang dikendalikan manusia dan bertanggung jawab. Namun, mekanisme semacam itu harus dirancang dengan privasi sebagai landasan utamanya; kebebasan berekspresi membutuhkan anonimitas, dan manusia harus bebas menggunakan AI secara anonim dalam banyak situasi.

Kami akan berusaha menjelaskan—sekonkret mungkin—cara menyeimbangkan prinsip-prinsip ini, yang memang, seperti halnya setiap rangkaian prinsip yang baik, memiliki ketegangan satu sama lain. Upaya ini akan melibatkan penelitian di persimpangan antara perancangan kebijakan publik, ekonomi, hukum, sejarah, dan pembelajaran mesin itu sendiri. Upaya ini juga membutuhkan banyak peramalan. Sebagai contoh, kami meyakini bahwa AI akan mengubah perusahaan pada tingkat struktural, serupa dengan cara teknologi Revolusi Industri—khususnya kereta api—melahirkan perusahaan modern yang dikelola secara manajerial. Sulit membayangkan ekonomi politik dan keseimbangan kekuasaan masa depan tanpa mengembangkan gagasan yang lebih kaya tentang bagaimana struktur perusahaan—serta lembaga pemerintah dan masyarakat sipil secara lebih luas—dapat mengalami transformasi.

Tim Strategic Futures akan membagikan hasil kerjanya di sini maupun dalam format lain, termasuk makalah, video, dan siniar. Upaya kami akan terus berkembang, dengan penekanan pada penyempurnaan berulang, perdebatan, dan keterbukaan terhadap masukan. Berdiri “di kaki bukit singularitas”, kami memiliki jauh lebih banyak pertanyaan daripada jawaban. Kami tahu bahwa “penghalang di atas perkamen” saja tidak akan memberikan solusi yang kami cari, tetapi kami juga tidak mengesampingkan apa yang tertulis sebagai “sekadar kata-kata”. Kami berjuang demi cita-cita kebebasan berekspresi dan kebebasan individu yang diabadikan dalam lembaran sederhana Konstitusi Amerika Serikat. Begitu pula dalam konstitusi berbagai masyarakat bebas lainnya di seluruh dunia.

Pada akhirnya, kami tahu bahwa tidak ada satu perusahaan, satu industri, bahkan satu masyarakat pun yang dapat menjawab secara sepihak pertanyaan-pertanyaan besar yang kita hadapi. Ini adalah tugas yang harus diemban umat manusia secara bersama-sama. Harapan terbesar kami adalah memberikan pencerahan mengenai persoalan-persoalan tersulit tentang bagaimana AI akan membentuk ulang dunia kita. Pekerjaan kami baru saja dimulai, dan masih banyak tantangan berat yang harus kami taklukkan.

Catatan: kami mengubah nama blog ini menjadi Era Kecerdasan agar tidak tertukar dengan organisasi nirlaba AI Futures Project.