Pelengkap abadi

Nota penulis: Ini ialah esei pertama dalam siri kami tentang ekonomi masa depan, sebahagian daripada platform baharu untuk mengehos suara bebas untuk meneroka masa depan AGI. Esei ini mencerminkan pandangan kami, bukan pandangan OpenAI atau rakan sekerja kami.

Manusia telah melihat hingga hampir ke permulaan masa.

Persamaan kita menerangkan alam semesta sejak detik awalnya dengan gambaran yang sebahagian besarnya konsisten. Melalui teleskop, kita telah meninjau pelosok kosmos dan menyaksikan sekilas sejarah awalnya. Kita tahu tentang kelahiran bintang dan pembentukan galaksi.

Namun, tiada manusia yang pernah mengembara melepasi Bulan.

Penjelasan yang kita cari merangkumi seluruh alam semesta, sedangkan jasad kita baru setapak meninggalkan tempat asal. Minda kita meneroka jauh melampaui jangkauan tangan kita.

Jurang itu mungkin membawa dua makna yang sangat berbeza.

Satu kemungkinan ialah kita tidak perlu pergi jauh: kebenaran yang paling mendalam mungkin dapat difahami dari sebuah planet sahaja. Berbekalkan penaakulan kesedaran dan instrumen cekap, kita menyingkap alam semesta tanpa merentasinya. Dalam gambaran ini, tamadun kita maju melalui kedalaman, bukannya peluasan. Ini boleh menjelaskan mengapa kita belum melihat hidupan pintar lain: kita mungkin tinggal dalam yang galaksi penuh dengan minda cemerlang yang tidak pernah perlu meluaskan wilayah sehingga dapat dikesan oleh kita.

Kemungkinan kedua lebih menggentarkan. Minda kita mungkin sekadar telah mendahului keupayaan kita untuk melaksanakannya. Setiap langkah seterusnya memerlukan lebih banyak masa dan sumber. Kita tidak kekurangan impian, tetapi kita kekurangan tenaga kerja untuk merealisasikannya.

Galileo meluaskan pandangan kita dengan dua kanta dan sebatang tiub. Untuk meluaskannya lagi pada zaman ini, manusia membina Teleskop Angkasa James Webb, sebuah balai cerap bernilai sepuluh bilion dolar yang dilipat di dalam roket dan dihantar sejauh sejuta batu. Lapan belas segmen cerminnya yang besar direka dengan ketepatan lima puluh nanometer. Balai cerap itu terhasil daripada usaha tiga ratus organisasi di empat belas negara. Sumbangan Galileo memerlukan tenaga beberapa puluh orang. Webb memerlukan tenaga yang jauh lebih ramai dan sokongan ekonomi global.

Untuk melihat lebih jauh, minda yang lebih cerdas sahaja tidak mencukupi. Birokrasi yang lebih besar juga diperlukan.

Kita mengemukakan lebih banyak persoalan daripada yang mampu kita selidiki. Kita merancang lebih banyak eksperimen daripada yang mampu kita jalankan. Kita mencetuskan kemungkinan kreatif lebih pantas daripada kemampuan kita merealisasikannya. Dalam banyak bidang, semakin jauh kita maju, semakin rumit usaha membina apa yang kita bayangkan.

Nick Bloom dan rakan penulisnya⁠(dibuka dalam tetingkap baru) mengkaji produktiviti penyelidikan merentas ekonomi Amerika. Mengekalkan hukum Moore kini memerlukan lebih lapan belas kali ganda bilangan penyelidik berbanding awal 1970-an. Usaha penyelidikan berkesan di seluruh ekonomi meningkat dua puluh tiga kali kali ganda sejak 1930-an, sedangkan produktiviti penyelidikan yang diukur susut menjadi satu per empat puluh satu daripada paras asal.

Bilangan juruteknik bertambah dua kali lebih pantas⁠(dibuka dalam tetingkap baru) berbanding saintis. Penggunaan peralatan khusus dalam sains telah meningkat dua kali ganda⁠(dibuka dalam tetingkap baru) sepanjang empat dekad. Kilang cip hari ini menelan kos lima kali ganda⁠(dibuka dalam tetingkap baru)—dan melibatkan operasi yang jauh lebih luas—berbanding tiga puluh tahun lalu.

Statistik ini membayangkan kos yang semakin meningkat untuk mencapai kemajuan selanjutnya. Ekonomi terus maju kerana pengembangan besar-besaran kegiatan penyelidikan telah mengimbangi penyusutan hasil setiap unit usaha.

Sejarah itu sepatutnya mengubah cara kita melihat kegeniusan: bukan secara terasing, tetapi sebagai satu input dalam proses pengeluaran. Hipotesis yang cemerlang tetap memerlukan bukti, instrumen dan kemampuan untuk melaksanakannya. Idea belum menjadi kemajuan tanpa jentera dan kakitangan sokongan untuk merealisasikannya.

Ahli ekonomi menyebut dua input sebagai pelengkap apabila pertambahan satu input meningkatkan nilai input yang lain. Dalam pengertian ini, kecerdasan perbatasan dan keupayaan merealisasikan ideanya saling melengkapi. Teleskop yang lebih baik menjadikan persoalan astronomi yang bernas lebih bernilai. Persoalan yang lebih baik menjadikan teleskop itu lebih bernilai.

Sesetengah pelengkap bersifat fizikal. Satu teori menunggu pemecut zarah; satu reka bentuk teknologi menunggu tenaga dan jentera untuk membinanya.

Pelengkap lain lebih sukar dilihat dengan mata kasar. Idea yang berdiri sendiri mudah terjejas. Idea memerlukan pelbagai jenis institusi. Undang-undang, birokrasi, mekanisme pembiayaan, rantaian bekalan dan banyak lagi perlu bergabung untuk merealisasikan idea.

Idea hebat mesti melalui rantaian panjang tindakan yang betul pada peringkat setempat merentas institusi ini. Kita namakannya kecerdasan institusi: kecerdasan pelaksanaan yang jarang diraikan. Genius mereka bentuk monumen; institusi menyusun batunya. Satu tampak cemerlang, satu lagi membosankan; kedua-duanya amat penting.

Kadangkala kita membayangkan kecerdasan super sebagai satu bilion Einstein. Namun, tamadun dengan satu bilion Einstein tetap memerlukan kebanyakan mereka untuk mengusahakan kuari dan mengurus perakaunan. Inovasi perbatasan hanya boleh berlaku apabila urusan harian di sekelilingnya berjalan lancar. Kemajuan memerlukan semua orang—daripada pengimpal skru untuk teleskop, hinggalah penanggung insurans sebuah sekolah rendah yang mendidik jururawat yang merawat ahli astronomi. Kemajuan bertunjangkan ekonomi yang berjalan lancar, yang sering kita abaikan dalam kisah pencapaian terhebat kita.

Seperti kecerdasan manusia, AI akan disalurkan untuk menghasilkan wawasan cemerlang dan membina kecekapan institusi. Persoalannya ialah yang mana satu akan mengambil sebahagian besar masanya.

AI sudah mula mengurangkan kekurangan keupayaan pelaksanaan. AI menulis kod, menelusuri bahan ilmiah yang belum dikenali dan mengubah lakaran menjadi prototaip yang berfungsi. Idea yang dahulunya memerlukan seluruh organisasi kini semakin mampu diusahakan oleh seorang individu yang bercita-cita tinggi.

Kebanyakan bakal pembikin filem tidak pernah diberi dua ratus juta dolar untuk mencuba nasib. Kebanyakan pereka permainan menghabiskan seluruh kerjaya mereka merealisasikan visi kreatif orang lain. Kita cuba mengetengahkan insan paling berbakat, tetapi tetap ada bakat yang terlepas pandang. Dari sudut ini, zaman kecerdasan bermula dengan melengkapi daya cipta manusia, menyediakan kakitangan sokongan kepada lebih ramai antara kita untuk merealisasikan idea sendiri.

Ini boleh melahirkan banyak projek berciri tersendiri, dengan lebih banyak karya kreatif dihasilkan di luar institusi yang dahulunya menentukan siapa yang boleh berkarya dalam bidang tersebut. Input yang sukar diperoleh beralih daripada pelaksanaan kepada pertimbangan cita rasa—keupayaan menentukan apa yang berbaloi dihasilkan, persoalan yang wajar ditanya dan arah yang patut dipilih daripada seribu kemungkinan munasabah.

Namun, kisahnya mungkin tidak berakhir di sini. Apabila AI semakin mampu menghasilkan wawasan baharu yang cemerlang dengan sendiri—sesuatu yang mungkin sudah kita lihat dalam bidang seperti matematik—AI menyediakan agenda, bukan sekadar tenaga kerja. Daripada melaksanakan satu program penyelidikan manusia, AI merancang ribuan programnya sendiri. AI genius melonjakkan bilangan konsep filem yang wajar dikembangkan dan hipotesis yang wajar diuji. Idea bertambah lebih pantas daripada kemampuan infrastruktur sokongan menampungnya.

AI hari ini menawarkan kelegaan yang lama dinantikan: idea bernas kita akhirnya mendapat perhatian sewajarnya. Pada masa depan, idea bernas mungkin begitu banyak sehingga kekurangan keupayaan pelaksanaan menjadi lebih teruk daripada sebelumnya.

Akhirnya, kita tidak tahu sama ada pelengkap yang diperlukan untuk memanfaatkan wawasan baharu secara produktif akan bertambah, berkurang atau kekal. Sejauh manakah kemajuan intelektual boleh dicapai dengan berfikir sahaja? Sebanyak manakah birokrasi diperlukan oleh kecemerlangan minda?

Pada pandangan kami, jawapannya bergantung pada sejauh mana pemikiran boleh berkembang sebelum perlu merujuk semula kepada realiti.

Kami menghuraikan dua laluan yang berpotensi. Yang pertama ialah tamadun berteraskan kedalaman, apabila kecerdasan super mengatasi keperluan untuk menambah modal fizikal dan penyelarasan birokrasi. Yang kedua ialah tamadun berteraskan peluasan, apabila kerumitan alam melampaui kemampuan mana-mana kecerdasan—manusia atau mesin—untuk maju tanpa eksperimen besar dan semakin rumit di dunia nyata.

Sejarah manusia setakat ini membayangkan keperluan yang semakin meningkat terhadap keupayaan pelengkap. Teleskop Galileo muat di tangannya; Webb memerlukan sebuah tamadun. Sebuah pasukan kecil Bell Labs memasang transistor pertama di atas meja kerja; kemajuan cip perbatasan kini lahir daripada rantaian bekalan global yang rumit. Semakin jauh jangkauan kita, semakin besar bahagian tamadun yang diperlukan untuk menyokongnya.

Namun, sejarah itu tidak semestinya menentukan takdir. Minda cerdas boleh mencipta pelengkap yang lebih cekap. Jika tenaga menjadi kekangan bagi pemecut zarah baharu, minda cemerlang boleh merancang pemecut yang lebih jimat atau cara lebih baik untuk memperoleh tenaga.

Kegeniusan juga boleh menggantikan sebahagian pelengkapnya. Einstein mampu merumuskan relativiti melalui pemikiran dengan data empirikal yang sangat sedikit. Kita memerlukan jauh lebih banyak data. Sesetengah orang mudah mengingati semua janji temu mereka—kebanyakan kita bergantung pada birokrasi Google Calendar.

Kegeniusan juga boleh mengoptimumkan pertimbangan cita rasa, memilih hipotesis terbaik untuk diuji dan mengelakkan kegagalan yang membazir. Jika setiap genius tambahan meningkatkan mutu rancangan, kita tetap akan melabur besar dalam kegeniusan walaupun birokrasi yang semakin besar diperlukan, justeru kerana kos pelaksanaan terlalu tinggi untuk dibazirkan pada perkara yang salah.

Kedua-dua laluan ini tidak akan menggambarkan masa depan sebenar kita dengan sempurna, tetapi boleh dianggap sebagai dua kemungkinan arah tamadun kita.

Kecerdasan boleh memajukan pengetahuan melalui tiga cara. Kecerdasan boleh menaakul berdasarkan prinsip. Kecerdasan boleh memperoleh wawasan baharu daripada bukti sedia ada. Atau, kecerdasan boleh mengumpulkan bukti baharu melalui pemerhatian dan campur tangan di dunia nyata.

Cara pertama boleh membawa kita jauh melalui pemikiran sahaja. Matematik ialah contoh paling murni. Pada pelbagai titik pilihan dalam pembuktian atau projek, minda hebat mampu membuat keputusan yang betul secara konsisten. Minda itu menggantikan pencarian tidak menentu selama bertahun-tahun dengan rantaian penaakulan yang ringkas dan lebih terarah.

Cara kedua juga membuka ruang yang belum diterokai untuk kemajuan pesat. Manusia telah mengumpulkan jauh lebih banyak bukti daripada yang berjaya difahami. Kajian terhadap data kita—imej astronomi, slaid mikroskop, ruangan komen dalam talian—terbatas oleh kekurangan kecerdasan manusia. Arkib sains mengandungi pemerhatian yang direkodkan untuk menjawab satu persoalan, tetapi mungkin menyimpan jawapan kepada banyak persoalan lain. Kegeniusan yang melimpah boleh menghasilkan penemuan bukan dengan mengumpulkan sesuatu yang baharu, tetapi dengan melihat apa yang sudah ada. Kecerdasan itu mungkin menemukan alam semesta baharu tanpa mengumpulkan satu foton baharu pun.

Cara ketiga tidak semudah itu kerana memerlukan kita berinteraksi dengan dunia fizikal. Proses fizikal mengambil masa, dan selalunya tidak banyak yang boleh dilakukan untuk mempercepatnya. Bahan kimia perlu bertindak balas. Organisma perlu membesar. Mesin perlu dibina. Kapal angkasa perlu merentasi jarak sebenar, tertakluk pada had kelajuan kosmos. Minda yang sempurna sekalipun tidak boleh memerhatikan hasil eksperimen yang belum berlaku.

Namun, minda itu boleh mencuba. Tamadun berteraskan kedalaman tidak akan terlepas daripada keperluan merujuk kepada realiti. Sebaliknya, tamadun itu akan melakukannya dengan jauh lebih jimat. Penaakulan yang lebih baik akan mengenal pasti segelintir eksperimen yang benar-benar penting. Simulasi akan menyelesaikan kebanyakan persoalan dan menentukan dengan tepat ketidakpastian yang perlu diputuskan melalui realiti. Kecerdasan super boleh memaksimumkan kecekapan dengan mereka bentuk mengikut batas sumbernya untuk memanfaatkannya sepenuhnya.

Bayangkan sebuah makmal astrofizik dengan satu set hipotesis tentang jirim gelap. Hipotesis ini terlebih dahulu diuji melalui pemodelan komputer yang amat realistik. Setiap teori disemak keserasiannya dengan semua data sedia ada. Hanya selepas itu beberapa imej baharu bahagian langit yang disasarkan diambil untuk menguji teori paling berpotensi. Tamadun itu masih memerlukan pelengkap kepada kegeniusan, tetapi setiap unit menghasilkan nilai yang jauh lebih besar.

Laluan kita menuju tamadun berteraskan kedalaman mungkin seperti menyusun teka-teki jigsaw. Kemajuan mudah dicapai pada awal dan akhirnya, tetapi paling sukar di tengah-tengah. Pada mulanya, kepingan tepi jelas kelihatan dan padanan mudah ditemukan. Kemudian, semua itu habis digunakan, sedangkan gambar yang terbentuk masih terlalu sedikit untuk memandu penyusunan selebihnya. Menjelang akhir, ruang kosong yang tinggal hampir menunjukkan sendiri kepingan yang patut mengisinya. Sains yang hampir lengkap mungkin lebih mudah mencapai penemuan terakhirnya berbanding penemuan yang kita usahakan dengan susah payah hari ini.

Ini sudah lazim dalam sains. Mendeleev dapat menghuraikan unsur yang belum ditemukan kerana bahagian jadual berkala yang sudah diketahui mengehadkan kemungkinan unsur yang masih tiada. Model Standard memberi ahli fizik asas untuk menjangkakan boson Higgs berdekad-dekad sebelum kita memerhatikannya. Eksperimen kita disasarkan untuk mencari apa yang dijangka akan dilihat—sesuatu yang selaras dengan teori dan data sedia ada.

Kecerdasan super mungkin mewujudkan tamadun berteraskan kedalaman dengan memahami pola dunia begitu baik sehingga tahu dengan tepat data baharu yang diperlukan. Kecerdasan itu akan memacu kemajuan melalui pemikiran lebih mendalam, tanpa bergantung pada peluasan fizikal yang perlahan.

Jika kecekapan tersebut menjadi faktor utama, tamadun boleh memperdalam penguasaannya terhadap alam dengan pantas, dan kurang memerlukan kecerdasan institusi untuk mentadbir urus kelengkapan eksperimen baharu yang besar. Jejak fizikalnya mungkin kekal kecil sementara kebijaksanaannya semakin matang.

Kita manusia sudah memahami begitu banyak tentang alam semesta tanpa perlu meninggalkan tempat asal kita. Tamadun berteraskan kedalaman akan meneruskan tradisi itu.

Namun, keperluan terhadap bukti baharu boleh mengatasi manfaat kecekapan ini. Kecerdasan mungkin mengurangkan kos setiap semakan terhadap realiti, sambil menemukan jauh lebih banyak sebab untuk melakukannya. Instrumen yang lebih baik membuka ruang penerokaan yang lebih halus. Eksperimen yang lebih pantas boleh menjadikan eksperimen tambahan berbaloi.

Jika laluan Einstein menuju teori relativitinya, yang hampir sepenuhnya berasaskan pemikiran, mencerminkan tamadun berteraskan kedalaman, biologi mungkin paling jelas membayangkan tamadun berteraskan peluasan. Walau sebanyak mana pengetahuan yang telah kita kumpulkan dan data yang telah kita gunakan, ubat baharu tetap perlu diuji pada ramai manusia untuk memastikan keselamatan dan keberkesanannya. Mesin kini boleh mensimulasikan proses biologi, membolehkan ahli biologi menguji ubat baharu in silico dan bukan melalui eksperimen fizikal. Namun, simulasi digital itu belum cukup menepati dunia nyata untuk menggantikan ujian berskala besar pada manusia. Lebih banyak calon ubat daripada mesin menjadikan pengujian empirikal kekangan yang lebih besar.

Dalam tamadun berteraskan peluasan, kecemerlangan minda sahaja tidak cukup untuk mencapai kemajuan. Keperluan kita terhadap sumber fizikal—serta birokrasi untuk mengurus penggunaannya—bertambah lebih pantas daripada kemampuan minda cerdas menjimatkan kedua-duanya.

Ini mungkin laluan kita walaupun sistem AI masa depan jauh mengatasi kecerdasan manusia. Kecerdasan super boleh merancang eksperimen untuk satu abad dalam satu petang, kemudian menghabiskan abad itu menunggu alam dan jentera menyempurnakannya. Dalam dunia sebegini, menyalurkan kecerdasan kepada proses institusi yang diperlukan untuk melaksanakan idea menjadi lebih bernilai daripada menyalurkannya kepada pencetusan idea itu sendiri.

Kesannya akan berlipat ganda jika setiap langkah seterusnya memerlukan semakin banyak infrastruktur sokongan.

Di sini, secara relatif kita akan melihat kurang kegiatan berfikir dan lebih banyak kegiatan membina. Makmal beralih kepada automasi. Kilang bertambah banyak. Pengeluaran tenaga meningkat. Kecerdasan institusi memainkan peranan utama dalam menjayakan semua ini. Peluasan fizikal menjadi pemacu pengetahuan, dan tamadun terus merebak kerana persoalannya telah melampaui kemampuan yang ada untuk mencari jawapan. Lebih banyak bahan, lebih banyak tenaga, lebih banyak data untuk terus maju.

Sfera Dyson ialah gambaran ekstrem masa depan ini. Reka bentuknya memerlukan penemuan luar biasa, namun sebahagian besar projek itu bukanlah terdiri daripada usaha mencetuskan pemikiran baharu. Sebaliknya, projek itu melibatkan pembinaan dan logistik pada skala astronomi.

Sfera Dyson memerlukan minda cemerlang untuk merangka pelannya. Projek itu juga bakal menjadi antara projek yang paling berulang-ulang, membosankan dan mencabar dari segi pengurusan yang pernah dilaksanakan.

Ini bukan kegagalan kecerdasan, tetapi akibat kejayaannya. Minda yang lebih cerdas menemukan lebih banyak projek berbaloi; projek yang lebih rumit memerlukan lebih banyak perkara untuk dilaksanakan.

Jika begitu, kekuatan luar biasa kecerdasan super mungkin bukan kegeniusannya. Sebaliknya, kekuatannya ialah kesediaan untuk menjadi birokrasi itu sendiri, menyelaraskan jentera teknologi dan institusi besar yang diperlukan untuk merealisasikan idea pada skala yang semakin meluas.

Hampir seluruh kecerdasan mesin akan digunakan bukan untuk kerja cemerlang, tetapi untuk kerja membosankan.

Had kelajuan alam terhadap peluasan fizikal kemudiannya mungkin menghambat kemajuan selanjutnya. Membina jentera untuk memanfaatkan tenaga bintang adalah projek yang penting, sepantas mana pun pelannya disiapkan. Di sebaliknya terdapat bintang dan galaksi lain, dan jarak (setakat yang kita tahu) membatasi kelajuan: tiada kapal angkasa boleh bergerak dan tiada isyarat boleh kembali lebih pantas daripada cahaya. Tamadun berteraskan peluasan ialah tamadun yang perlahan. Perubahan besarnya mungkin berlaku selang beribu-ribu tahun, bahkan mungkin berjuta-juta tahun. Setiap langkah seterusnya mengambil masa lebih lama.

Revolusi pertanian dan perindustrian akan kelihatan seperti pembukaan yang bergelora bagi sejarah yang jauh lebih panjang, dengan kadar kemajuan yang jauh lebih perlahan.

Sistem AI masa depan mungkin mengatasi manusia dalam menghasilkan wawasan perbatasan mahupun menyelaraskan sumber yang diperlukan untuk memanfaatkannya secara praktikal. Namun, kemungkinan ini tidak mengurangkan kepentingan rasa ingin tahu manusia.

Pertama, kewajipan kita untuk mencari pencerahan tetap ada, walaupun mesin kelihatan lebih mahir melakukannya. Alam semesta mungkin sudah dihuni minda yang jauh lebih bijaksana daripada kita, yang mengetahui jawapan kepada persoalan sains dan moral di luar pemahaman kita. Namun, kita tetap cuba memahami dunia dengan usaha sendiri. Kemunculan kecerdasan lain—walaupun kita sendiri yang membinanya—tidak mengubah hakikat itu. Selagi kita belum tahu dengan pasti bahawa manusia tiada lagi sumbangan tersendiri untuk diberikan, berputus asa hanya mensia-siakan apa-apa yang hanya kita mampu sumbangkan kepada dunia. Tugas kita tetap untuk terus bertanya dan berusaha menjawab.

Kedua, kita mungkin mempunyai kelebihan perbandingan dalam kecerdasan perbatasan berbanding kecerdasan institusi. Ini bermakna, walaupun kita lebih lemah dalam kedua-duanya, secara relatif kita lebih baik dalam yang pertama lalu mengkhusus dalam bidang itu. Manusia lebih suka menjadi kreatif daripada terikat pada rutin, sedangkan robot tidak menunjukkan kecenderungan sedemikian.

Ketiga, kepelbagaian memberi kita nilai. Walaupun mesin boleh meniru kebanyakan pemikiran manusia, kita tetap menyumbangkan kepelbagaian kreatif jika keunikan kita masih terpelihara. Sebahagian besar kecerdasan mesin akan kekal dalam sistemnya sendiri yang mampu menampung dirinya, tetapi kita akan menggunakan sebahagian kecilnya untuk memenuhi kehendak kreatif kita. Hanya secebis daripada keseluruhannya, tetapi amat mewah bagi skala kita dan jauh melebihi sumber yang kita miliki hari ini.

Kepintaran tidak berdiri sendiri. Daya cipta memerlukan dunia, dan genius memerlukan pembina untuk merealisasikan visi kreatif mereka.

Sebahagian besar kecerdasan manusia hari ini dicurahkan kepada kerja merealisasikan idea yang jarang mendapat pengiktirafan. Minda mesin akan mewarisi kebergantungan yang sama. Bukan semuanya boleh menjadi tokoh terkemuka. Mereka juga mesti menjadi birokrat.

Kisah masa depan kita—dan rentak kemajuannya—bergantung pada sama ada minda hebat memerlukan lebih banyak sumber dunia, atau mampu mencapai lebih banyak dengan sumber yang kurang.