Pelengkap abadi

Catatan penulis: Ini adalah esai pertama dalam seri kami tentang ekonomi masa depan, bagian dari yang mewadahisuara-suara independen dalam mengeksplorasi masa depan AGI. Esai ini mencerminkan pandangan kami, bukan pandangan OpenAI atau rekan-rekan kami.

Umat manusia telah melihat hampir hingga awal mula waktu.

Persamaan-persamaan kita memberi gambaran yang sebagian besar koheren tentang alam semesta sejak saat-saat pertamanya. Dengan teleskop, kita telah memandang hingga pelosok kosmos dan melihat sekilas sejarah awalnya. Kita tahu tentang kelahiran bintang dan pembentukan galaksi.

Namun, belum ada manusia yang pernah bepergian melampaui Bulan.

Penjelasan yang kita cari mencakup seluruh alam semesta, sementara tubuh kita nyaris belum meninggalkan rumah. Pikiran kita menjelajah jauh melampaui jangkauan tangan kita.

Kesenjangan itu bisa berarti dua hal yang sangat berbeda.

Kemungkinan pertama, kita tidak perlu pergi terlalu jauh: kebenaran terdalam mungkin bisa dipahami dari satu planet saja. Berbekal penalaran yang jernih dan instrumen yang efisien, kita mengungkap alam semesta tanpa harus melintasinya. Dalam skenario ini, peradaban kita maju melalui pendalaman, bukan perluasan. Ini bisa membantu menjelaskan mengapa kita belum melihat kehidupan cerdas lain: mungkin kita hidup di galaksi yang penuh dengan pikiran cemerlang yang tak pernah perlu memperluas jangkauan hingga keberadaannya terlihat oleh kita.

Kemungkinan kedua lebih menggentarkan. Pikiran kita mungkin hanya melaju lebih cepat daripada kemampuan kita mewujudkannya. Setiap langkah berikutnya membutuhkan lebih banyak waktu dan sumber daya. Kita tidak kekurangan impian, tetapi kekurangan tenaga untuk mewujudkannya.

Galileo memperluas pandangan kita dengan dua lensa dan sebuah tabung. Untuk kembali memperluasnya pada masa kini, manusia membangun Teleskop Antariksa James Webb, observatorium senilai sepuluh miliar dolar yang dilipat di dalam roket dan dikirim sejauh satu juta mil. Delapan belas segmen cermin raksasanya dibuat dengan presisi lima puluh nanometer. Observatorium itu lahir dari kerja tiga ratus organisasi di empat belas negara. Kontribusi Galileo memerlukan bantuan beberapa puluh orang. Webb membutuhkan pasukan besar, ditopang oleh ekonomi global.

Untuk melihat lebih jauh, pikiran yang lebih cemerlang saja tidak cukup. Diperlukan birokrasi yang lebih besar.

Pertanyaan kita lebih banyak daripada yang sanggup kita selidiki. Kita merancang lebih banyak eksperimen daripada yang sanggup kita jalankan. Kita membayangkan berbagai kemungkinan kreatif lebih cepat daripada kita bisa mewujudkannya. Dan di banyak bidang, semakin jauh kita maju, semakin rumit pula membangun apa yang kita bayangkan.

Nick Bloom dan para rekan penulisnya⁠(terbuka di jendela baru) meneliti produktivitas riset di seluruh perekonomian Amerika. Mempertahankan hukum Moore kini membutuhkan lebih dari delapan belas kali lipat jumlah peneliti dibandingkan pada awal 1970-an. Upaya riset efektif di seluruh perekonomian meningkat dua puluh tiga kali lipat sejak 1930-an, sementara produktivitas riset yang terukur turun menjadi seperempat puluh satu dari tingkat semula.

Jumlah teknisi bertambah dua kali lebih cepat⁠(terbuka di jendela baru) daripada jumlah ilmuwan. Penggunaan peralatan khusus dalam sains telah berlipat dua⁠(terbuka di jendela baru) dalam empat dekade. Biaya pabrik cip saat ini lima kali lipat⁠(terbuka di jendela baru) dibandingkan tiga puluh tahun lalu—dengan operasi yang juga jauh lebih luas.

Statistik ini mengisyaratkan meningkatnya biaya untuk terus maju. Perekonomian tetap maju karena peningkatan besar-besaran skala kegiatan riset telah mengimbangi penurunan hasil per unitnya.

Sejarah itu seharusnya mengubah cara kita memandang kejeniusan: bukan sebagai sesuatu yang berdiri sendiri, melainkan sebagai salah satu masukan dalam proses produksi. Hipotesis cemerlang tetap membutuhkan bukti, instrumen, dan sarana untuk mengujinya. Ide belum menjadi kemajuan tanpa perangkat dan staf pendukung untuk mewujudkannya.

Ekonom menyebut dua masukan saling melengkapi jika bertambahnya salah satu meningkatkan nilai yang lain. Dalam pengertian ini, kecerdasan terdepan dan kemampuan mewujudkan ide-idenya saling melengkapi. Teleskop yang lebih baik membuat pertanyaan astronomi yang bagus menjadi lebih bernilai. Pertanyaan yang lebih baik membuat teleskop lebih bernilai.

Sebagian pelengkap bersifat fisik. Sebuah teori menunggu akselerator partikel; sebuah rancangan teknologi menunggu energi dan mesin untuk membangunnya.

Pelengkap lain lebih sulit dilihat dengan mata. Jika berdiri sendiri, ide adalah sesuatu yang rapuh. Ide membutuhkan berbagai macam lembaga. Hukum, birokrasi, mekanisme pendanaan, rantai pasok, dan banyak hal lain berpadu untuk mewujudkan ide tersebut.

Ide hebat harus bertahan melewati rangkaian panjang tindakan yang tepat di setiap bagian lembaga-lembaga ini. Sebutlah ini kecerdasan kelembagaan: kecerdasan pelaksanaan yang jarang mendapat pengakuan. Kejeniusan merancang monumen; lembaga-lembaga menyusun batunya. Yang satu cemerlang, yang lain tampak membosankan; keduanya mutlak diperlukan.

Terkadang kita membayangkan kecerdasan super sebagai satu miliar Einstein. Namun, peradaban berisi satu miliar Einstein tetap membutuhkan sebagian besar dari mereka untuk menambang batu dan mengurus pembukuan. Inovasi terdepan hanya bisa terwujud jika kehidupan sehari-hari di sekitarnya berjalan lancar. Kemajuan membutuhkan semua orang—dari pengelas sekrup yang dipasang pada teleskop, hingga penyedia asuransi bagi sekolah dasar tempat perawat yang merawat sang astronom pernah belajar. Kemajuan bertumpu pada perekonomian yang berjalan lancar, yang sering kita abaikan dalam kisah pencapaian terbesar kita.

Seperti kecerdasan manusia, AI akan diarahkan untuk menghasilkan wawasan cemerlang sekaligus membangun kecakapan kelembagaan. Pertanyaannya, untuk yang manakah sebagian besar waktunya akan dihabiskan?

AI sudah mulai membuat kemampuan pelaksanaan lebih mudah tersedia. AI menulis kode, menelusuri literatur yang belum dikenal, dan mengubah sketsa menjadi prototipe yang berfungsi. Ide yang dahulu membutuhkan seluruh organisasi kini semakin bisa dikerjakan oleh satu orang yang ambisius.

Kebanyakan calon sineas tak pernah diberi dua ratus juta dolar untuk mencoba mewujudkan impiannya. Kebanyakan desainer gim menghabiskan seluruh kariernya untuk mewujudkan visi kreatif orang lain. Kita berusaha memberi kesempatan kepada orang-orang paling berbakat, tetapi selalu ada bakat yang terlewat. Dari sudut pandang ini, era kecerdasan dimulai dengan melengkapi daya cipta manusia, memberi lebih banyak orang staf pendukung untuk mewujudkan ide mereka sendiri.

Ini bisa melahirkan beragam proyek berciri khas, dengan lebih banyak karya kreatif dihasilkan di luar lembaga yang sebelumnya menentukan siapa yang bisa berkarya di bidang-bidang tersebut. Masukan yang langka bergeser dari kemampuan pelaksanaan ke selera—kemampuan menentukan apa yang layak dibuat, pertanyaan mana yang layak diajukan, dan arah mana dari seribu kemungkinan masuk akal yang patut ditempuh.

Namun, kisahnya mungkin tidak berakhir di sini. Saat AI semakin mampu menghasilkan wawasan baru yang cemerlang secara mandiri—yang mungkin sudah mulai kita lihat di bidang seperti matematika—AI menyediakan agenda sekaligus tenaga. Alih-alih menjalankan satu program riset manusia, AI merancang ribuan programnya sendiri. AI jenius melipatgandakan jumlah konsep film yang layak dikembangkan dan hipotesis yang layak diuji. Ide bermunculan lebih cepat daripada kemampuan infrastruktur pendukung untuk menanganinya.

AI masa kini menawarkan kelegaan yang telah lama dinanti: ide-ide bagus kita akhirnya mendapat kesempatan yang layak. Kelak, mungkin ada begitu banyak ide bagus sehingga kita semakin kekurangan kemampuan pelaksanaan, lebih dari sebelumnya.

Pada akhirnya, kita tidak tahu apakah kebutuhan akan pelengkap untuk memanfaatkan wawasan baru secara produktif akan bertambah, berkurang, atau tetap. Seberapa jauh kemajuan intelektual bisa dicapai hanya dengan berpikir? Seberapa banyak birokrasi yang dibutuhkan kecemerlangan?

Menurut kami, jawabannya bergantung pada seberapa jauh pemikiran bisa melangkah sebelum harus kembali bersentuhan dengan kenyataan.

Kami menguraikan dua jalur yang mungkin ditempuh. Yang pertama adalah peradaban berbasis pendalaman, tempat kecerdasan super mampu mengatasi kebutuhan akan tambahan modal fisik dan koordinasi birokrasi. Yang kedua adalah peradaban berbasis perluasan, tempat kerumitan alam melampaui kemampuan kecerdasan mana pun—manusia maupun mesin—untuk maju tanpa eksperimen besar dan semakin rumit di dunia nyata.

Sejauh ini, sejarah manusia mengisyaratkan meningkatnya kebutuhan akan kapasitas pelengkap. Teleskop Galileo muat di tangannya; Webb membutuhkan sebuah peradaban. Tim kecil Bell Labs merakit transistor pertama di meja kerja; kemajuan cip terdepan kini lahir dari rantai pasok global yang rumit. Semakin jauh jangkauannya, semakin banyak bagian peradaban yang harus mendukungnya.

Namun, sejarah itu tidak harus menentukan takdir kita. Pikiran cerdas dapat menciptakan pelengkap yang lebih efisien. Jika energi menjadi penghambat akselerator partikel baru, kecemerlangan dapat merancang akselerator yang lebih hemat atau cara yang lebih baik untuk memanen energi.

Kejeniusan juga dapat menggantikan sebagian pelengkapnya. Einstein mampu sampai pada teori relativitas melalui pemikiran, berbekal sangat sedikit data empiris. Kita akan membutuhkan jauh lebih banyak data. Sebagian orang bisa mengingat semua janji mereka begitu saja—kebanyakan dari kita mengandalkan birokrasi Google Kalender.

Dan kejeniusan dapat memaksimalkan ketajaman selera, memilih hipotesis terbaik untuk diuji dan menghindari kegagalan yang memboroskan sumber daya. Jika setiap tambahan kejeniusan meningkatkan mutu rencana, sekalipun birokrasi yang makin besar diperlukan, kita tetap akan berinvestasi besar pada kejeniusan justru karena biaya pelaksanaan terlalu mahal untuk disia-siakan pada hal yang salah.

Tak satu pun jalur ini akan menggambarkan masa depan kita secara sempurna, tetapi keduanya dapat dipandang sebagai dua kemungkinan arah bagi peradaban kita.

Kecerdasan dapat memajukan pengetahuan melalui tiga cara. Kecerdasan dapat menalar dari prinsip-prinsip dasar. Kecerdasan dapat menarik wawasan baru dari bukti yang sudah ada. Atau kecerdasan dapat mengumpulkan bukti baru dengan mengamati dan melakukan intervensi di dunia.

Cara pertama bisa melangkah jauh hanya melalui pemikiran. Matematika adalah contoh paling murni. Di berbagai persimpangan dalam pembuktian atau proyek, pikiran yang tangguh dapat secara konsisten mengambil keputusan yang tepat. Pikiran menggantikan pencarian bertahun-tahun yang tak menentu dengan rangkaian penalaran yang singkat dan lebih terarah.

Cara kedua juga membuka lahan baru bagi kemajuan pesat. Manusia telah mengumpulkan jauh lebih banyak bukti daripada yang telah dipahaminya. Kajian atas data kita—citra astronomi, preparat mikroskop, kolom komentar daring—terhambat oleh keterbatasan kecerdasan manusia. Arsip ilmiah memuat pengamatan yang dicatat untuk menjawab satu pertanyaan, tetapi mungkin menyimpan jawaban bagi banyak pertanyaan lain. Kejeniusan yang berlimpah dapat menghasilkan penemuan bukan dengan mengumpulkan sesuatu yang baru, melainkan dengan melihat apa yang sudah ada. Kejeniusan mungkin menemukan alam semesta baru tanpa mengumpulkan satu foton baru pun.

Cara ketiga tidak semudah itu karena mengharuskan kita berinteraksi dengan dunia fisik. Proses fisik membutuhkan waktu, dan sering kali tidak banyak yang bisa dilakukan untuk mempercepatnya. Zat kimia harus bereaksi. Organisme harus tumbuh. Mesin harus dibangun. Wahana antariksa harus menempuh jarak nyata, tunduk pada batas kecepatan kosmik. Bahkan pikiran yang sempurna pun tak bisa mengamati hasil eksperimen yang belum terjadi.

Namun, pikiran bisa mencoba. Peradaban berbasis pendalaman tidak akan lepas dari kebutuhan untuk menguji pemikirannya terhadap kenyataan. Namun, peradaban berbasis pendalaman akan melakukannya dengan jauh lebih hemat. Penalaran yang lebih baik akan mengidentifikasi segelintir eksperimen yang benar-benar penting. Simulasi akan menuntaskan sebagian besar pertanyaan dan menentukan secara tepat ketidakpastian mana yang harus dijawab oleh kenyataan. Kecerdasan super dapat memaksimalkan efisiensi, menyusun rancangan yang menyiasati kelangkaan sumber daya agar manfaatnya optimal.

Bayangkan laboratorium astrofisika dengan sejumlah hipotesis tentang materi gelap. Hipotesis ini terlebih dahulu diuji melalui pemodelan komputer yang sangat realistis. Setiap teori diperiksa kesesuaiannya dengan seluruh data yang sudah ada. Baru setelah itu, beberapa citra langit baru diambil secara terarah untuk menguji teori yang paling menjanjikan. Peradaban itu tetap membutuhkan pelengkap kejeniusan, tetapi setiap unitnya menghasilkan nilai yang jauh lebih besar.

Jalan kita menuju peradaban berbasis pendalaman mungkin seperti menyusun teka-teki gambar. Kemajuan mudah dicapai di awal, mudah di akhir, dan paling sulit di tengah. Awalnya, ada potongan tepi yang jelas dan kepingan yang mudah dicocokkan. Lalu kepingan mudah itu habis, sementara gambar yang tersusun masih terlalu sedikit untuk memandu penyusunan sisanya. Menjelang akhir, celah yang tersisa hampir dengan sendirinya menunjukkan kepingan apa yang cocok di sana. Ilmu pengetahuan yang hampir lengkap mungkin lebih mudah mencapai penemuan-penemuan terakhirnya daripada penemuan yang susah payah kita kejar saat ini.

Pola ini lazim dalam sains. Mendeleev dapat menggambarkan unsur yang belum ditemukan karena bagian lain tabel periodik membatasi kemungkinan unsur yang masih hilang. Model Standar memberi fisikawan alasan untuk memperkirakan keberadaan boson Higgs puluhan tahun sebelum kita mengamatinya. Eksperimen kita diarahkan untuk mencari apa yang kita perkirakan akan terlihat—sesuatu yang selaras dengan teori dan data yang sudah ada.

Kecerdasan super mungkin mewujudkan peradaban berbasis pendalaman dengan memahami pola-pola dunia begitu baik sehingga tahu persis data baru apa yang dibutuhkannya. Kecerdasan super akan mendorong kemajuan melalui pemikiran yang lebih mendalam, bukan mengandalkan perluasan fisik yang lambat.

Jika efisiensi itu menjadi faktor dominan, peradaban dapat dengan cepat memperdalam penguasaannya atas alam, dengan lebih sedikit kebutuhan akan kecerdasan kelembagaan untuk mengelola perangkat eksperimen baru yang sangat besar. Cakupan fisiknya mungkin tetap kecil sementara kebijaksanaannya semakin matang.

Kita manusia telah memahami begitu banyak hal tentang alam semesta tanpa pernah meninggalkan rumah. Peradaban berbasis pendalaman akan melanjutkan tradisi itu.

Namun, kebutuhan akan bukti baru bisa melampaui penghematan dari berbagai efisiensi ini. Kecerdasan mungkin menurunkan biaya setiap pengujian terhadap kenyataan, sekaligus menemukan jauh lebih banyak alasan untuk melakukannya. Instrumen yang lebih baik membuka wilayah pengetahuan yang lebih terperinci. Eksperimen yang lebih cepat dapat membuat eksperimen tambahan layak dilakukan.

Jika jalan Einstein menuju teori-teori relativitasnya yang hampir sepenuhnya mengandalkan pemikiran mencerminkan peradaban berbasis pendalaman, biologi mungkin paling tepat menggambarkan bakal peradaban berbasis perluasan. Dengan segala pengetahuan yang telah kita himpun dan data yang telah kita gunakan, obat baru tetap harus diuji pada banyak manusia untuk mengetahui keamanan dan efektivitasnya. Mesin kini dapat menyimulasikan proses biologis, sehingga ahli biologi bisa menguji obat baru in silico alih-alih melalui eksperimen fisik. Namun, simulasi digital itu belum cukup akurat mencerminkan dunia nyata untuk menggantikan uji coba berskala besar pada manusia. Semakin banyak kandidat yang dihasilkan mesin, semakin besar pula hambatan pada tahap pengujian empiris.

Dalam peradaban berbasis perluasan, kecemerlangan saja tidak cukup untuk mencapai kemajuan. Kebutuhan kita akan sumber daya fisik—dan birokrasi untuk mengelola penggunaannya—tumbuh lebih cepat daripada kemampuan pikiran cerdas untuk menghemat keduanya.

Inilah jalur yang mungkin kita tempuh, sekalipun sistem AI masa depan jauh melampaui kecerdasan manusia. Kecerdasan super bisa merancang eksperimen untuk satu abad dalam satu sore, lalu menghabiskan abad itu menunggu alam dan mesin menuntaskannya. Dalam dunia seperti itu, mencurahkan kecerdasan pada proses kelembagaan yang diperlukan untuk mewujudkan ide menjadi lebih bernilai daripada mencurahkannya pada penciptaan ide itu sendiri.

Dampaknya akan berlipat jika setiap langkah berikutnya memerlukan semakin banyak infrastruktur pendukung.

Di sini, secara relatif, kita akan lebih sedikit berpikir dan lebih banyak membangun. Laboratorium beralih ke otomatisasi. Pabrik bertambah banyak. Produksi energi meningkat. Kecerdasan kelembagaan mendominasi untuk mewujudkan semua ini. Perluasan fisik menjadi penggerak pengetahuan, dan peradaban menyebar karena pertanyaannya telah melampaui kemampuan sarana yang tersedia untuk memperoleh jawaban. Lebih banyak bahan, lebih banyak energi, lebih banyak data agar bisa terus melangkah.

Bola Dyson adalah gambaran ekstrem dari masa depan ini. Merancangnya memerlukan terobosan luar biasa, tetapi sebagian besar proyeknya bukanlah soal menghasilkan pemikiran terobosan. Proyek ini adalah konstruksi dan logistik dalam skala astronomis.

Bola Dyson membutuhkan pemikir cemerlang untuk membuat cetak birunya. Proyek ini juga akan menjadi salah satu yang paling repetitif, monoton, dan sulit dikelola yang pernah dikerjakan.

Ini bukan kegagalan kecerdasan, melainkan konsekuensi keberhasilannya. Pikiran yang lebih cemerlang menemukan lebih banyak proyek yang layak dikerjakan; proyek yang lebih rumit membutuhkan lebih banyak materi untuk diwujudkan.

Jika demikian, kekuatan terbesar kecerdasan super mungkin bukan kejeniusannya. Melainkan kesediaannya menjadi birokrasi: mengoordinasikan perangkat teknologi dan kelembagaan yang sangat besar untuk mewujudkan ide dalam skala yang terus meningkat.

Hampir seluruh kecerdasan mesin akan dikerahkan bukan untuk melakukan hal-hal cemerlang, melainkan hal-hal membosankan.

Batas kecepatan yang ditetapkan alam bagi perluasan fisik kemudian dapat menghambat kemajuan lebih lanjut. Membangun mesin untuk memanen energi bintang adalah proyek fisik, secepat apa pun rencananya disusun. Di luarnya ada bintang dan galaksi lain, dan jarak—sejauh yang kita tahu—menjadi pembatas tersendiri: tak ada wahana yang bisa melaju atau sinyal yang bisa kembali lebih cepat daripada cahaya. Peradaban berbasis perluasan adalah peradaban yang lambat. Perubahan besarnya mungkin berselang ribuan tahun, bahkan jutaan tahun. Setiap langkah berikutnya memakan waktu lebih lama.

Revolusi pertanian dan industri akan tampak seperti pembukaan yang bergerak begitu cepat bagi sejarah yang jauh lebih panjang, dengan laju kemajuan yang jauh lebih lambat.

Sistem AI di masa depan sangat mungkin melampaui manusia, baik dalam menghasilkan wawasan terdepan maupun mengoordinasikan sumber daya agar wawasan itu berguna secara praktis. Namun, kemungkinan ini tidak mengurangi pentingnya rasa ingin tahu manusia.

Pertama, kewajiban kita untuk mencari pencerahan tetap ada, meskipun mesin tampak lebih unggul dalam melakukannya. Alam semesta mungkin sudah dihuni makhluk yang jauh lebih bijaksana daripada kita, dengan jawaban atas pertanyaan ilmiah dan moral yang melampaui pemahaman kita. Namun, kita tetap berusaha memahami dunia dengan pikiran kita sendiri. Kehadiran kecerdasan lain—bahkan yang kita bangun sendiri—tidak mengubah hal itu. Sebelum kita tahu pasti bahwa manusia tak lagi punya kontribusi khas, menyerah berarti menyia-nyiakan apa pun yang hanya bisa kita sumbangkan kepada dunia. Kewajiban kita tetaplah terus bertanya dan berusaha menjawab.

Kedua, kita mungkin memiliki keunggulan komparatif dalam kecerdasan terdepan dibandingkan kecerdasan kelembagaan. Artinya, sekalipun kita kalah dalam keduanya, kita relatif lebih baik dalam yang pertama dan dapat mengkhususkan diri di sana. Manusia lebih suka berkreasi daripada menjalani rutinitas, sedangkan robot tidak menunjukkan preferensi semacam itu.

Ketiga, keragaman memberi kita manfaat. Sekalipun mesin bisa meniru sebagian besar pemikiran manusia, selama kita mempertahankan keunikan tertentu, kita tetap menyumbangkan keragaman kreatif. Sebagian besar kecerdasan mesin akan tetap berada dalam sistemnya sendiri yang mandiri, tetapi sebagian kecil akan kita kerahkan untuk mewujudkan kehendak kreatif kita. Hanya secuil dari keseluruhan, tetapi berlimpah untuk lingkup kita dan jauh melebihi sumber daya yang kita miliki sekarang.

Daya cipta tidak berdiri sendiri. Daya cipta membutuhkan dunia, dan kejeniusan membutuhkan para pembangun untuk mewujudkan visi kreatifnya.

Sebagian besar kecerdasan manusia saat ini dicurahkan untuk pekerjaan yang jarang mendapat pengakuan: mengubah ide menjadi kenyataan. Pikiran mesin akan mewarisi ketergantungan yang sama. Tidak semuanya bisa menjadi pemikir besar. Mereka juga harus menjadi birokrat.

Kisah kita kelak—dan laju kemajuannya—bergantung pada apakah pikiran-pikiran hebat membutuhkan lebih banyak dari dunia, atau mampu berbuat lebih banyak dengan sumber daya yang lebih sedikit.