永恆的互補關係

作者按：本文是我們探討下一代經濟的系列首篇文章，刊載於一個新平台，匯聚獨立聲音，共同探索 AGI 的未來。文章僅代表我們的觀點，並不代表 OpenAI 或我們的同事。

人類的目光，已幾乎追溯至時間的起點。

我們的方程式，能大致連貫地描述宇宙自誕生之初的演變。透過望遠鏡，我們望向宇宙深處，窺見它早期的歷史。我們了解恆星如何誕生，星系如何形成。

然而，從未有人踏足比月球更遠的地方。

我們試圖解釋的事物遍及宇宙，身體卻幾乎未曾離開家園。思想探索的疆域，遠超雙手所能觸及。

這種落差可能意味着兩種截然不同的情況。

一種可能是，我們根本不必遠行，只在一顆行星上就能洞悉最深奧的真理。憑藉透徹的推理與高效的儀器，我們無須穿越宇宙，也能揭開它的奧秘。在這種情景下，我們的文明靠深化知識而非擴張疆域來進步。這有助解釋我們為何尚未發現其他智慧生命：我們身處的星系或許充滿卓越的心智，只是它們從不需要向外擴張，因而未被我們察覺。

第二種可能則更令人望而生畏。或許只是我們的思想跑在了執行能力前面。每向前一步，都需要更多時間和資源。我們不缺夢想，缺的是實現夢想的人力。

Galileo 用兩塊透鏡和一根管子，拓闊了我們的視野。今天，為了再次拓闊視野，人類建造了 James Webb 太空望遠鏡。這座耗資一百億美元的天文台摺疊後裝進火箭，被送到一百萬英里之外。它的十八塊巨大鏡面，製造精度達五十納米。這座天文台由十四個國家的三百個機構合力建成。Galileo 的成就，只需數十人協助。Webb 望遠鏡卻需要一支大軍，背後更要有全球經濟支撐。

要看得更遠，所需的不只是更聰明的頭腦。還需要更龐大的行政體系。

我們提出的問題，比有能力研究的更多。我們設計的實驗，比有能力進行的更多。我們構想創意可能性的速度，比實現它們的速度更快。在許多領域，情況都是如此：我們走得越遠，要把想像中的事物建造出來，就越複雜。

Nick Bloom 及其合著者⁠（在新視窗中開啟）研究了美國各經濟領域的科研生產力。如今，要維持 Moore 定律所需的研究人員數目，已超過 1970 年代初的十八倍。自 1930 年代以來，整體經濟的有效研究投入增至二十三倍，但測得的科研生產力卻降至原來的四十一分之一。

技術人員隊伍的增長速度是⁠（在新視窗中開啟）科學家隊伍的兩倍⁠（在新視窗中開啟）。四十年間，科學研究中專用設備的使用量增加了一倍⁠（在新視窗中開啟）。今天的晶片廠，成本是三十年前的五倍⁠（在新視窗中開啟），營運規模也龐大得多。

這些數據顯示，繼續進步的代價正在上升。經濟之所以仍能向前發展，是因為研究活動的大幅擴張，抵銷了每單位投入產出下降的影響。

這段歷史應促使我們改變看待天才的方式：不應將它孤立看待，而應視之為生產過程中的一項投入。再高明的假說，仍需要證據、儀器，以及將它付諸實踐的手段。沒有設備與支援人員將構想實現，構想本身還算不上進步。

當一種投入增加，會提升另一種投入的價值時，經濟學家便稱兩者具有互補關係。從這個意義上說，前沿智能與實現其構想的能力，就是互補的。更好的望遠鏡，能讓一個好的天文學問題更有價值。更好的問題，也能讓望遠鏡更有價值。

有些互補要素是實體的。一套理論要等待粒子加速器來驗證；一項技術設計要等待能源和機器到位，才能建造出來。

另一些互補要素，則較難用肉眼看見。單憑一個構想，本身十分脆弱。它需要各式各樣的制度與機構。法律、行政體系、融資機制、供應鏈，以及許多其他環節，必須協力才能將構想付諸實踐。

一個出色的構想，必須經過這些制度與機構內一連串正確的局部行動，才能最終實現。我們可以稱之為制度智能：一種默默支撐執行、卻少有人讚頌的智能。天才設計紀念碑，制度與機構則負責砌石。前者光芒四射，後者看似枯燥；兩者卻都不可或缺。

我們有時會把超級智能想像成十億位 Einsteins。但即使一個文明擁有十億位 Einsteins，仍需要其中大多數人去採石和管理帳目。只有日常世界的各個環節運作無間，前沿創新才可能發生。進步需要每個人的參與：從焊接望遠鏡內一顆螺絲的工人，到為某所小學承保的保險商——那所小學培育了一名護士，而這名護士曾照料那位天文學家。進步建基於順暢運轉的經濟，但我們講述人類最偉大的成就時，往往忽略了這一點。

與人類智能一樣，AI 既會用於產生卓越見解，也會用於提升制度與機構的運作能力。問題是，它會把絕大部分時間花在哪一方面。

AI 已在緩解執行能力的短缺。它能編寫程式碼、搜尋陌生領域的文獻，並把草圖變成可運作的原型。過去需要整個機構才能推行的構想，如今越來越能由一個有抱負的人獨力開展。

大多數有志於電影創作的人，從未有機會拿到兩億美元，一展抱負。大多數遊戲設計師的整個職業生涯，都在實現別人的創意願景。我們努力提拔最有天分的人，卻難免仍會埋沒人才。從這個角度看，智能時代首先會補足人類的創造力，讓更多人擁有支援團隊，實現自己的構想。

這可能催生大量別具個性的項目，讓更多創作不再依附於那些過去掌握相關領域入場門檻的機構。稀缺的投入將由執行能力轉向品味：也就是判斷甚麼值得創造、甚麼問題值得提出，以及上千個看似可行的方向中，哪一個值得追求的能力。

但故事未必到此為止。隨着 AI 越來越能獨立得出卓越的新見解——我們或許已在數學等領域看到這種跡象——它提供的將不只是勞動力，還有工作方向。它不再只是執行一項人類研究計劃，而是自行設計數以千計的計劃。AI 天才會令值得開發的電影構思，以及值得驗證的假說，數量激增。構想湧現的速度，將超過支援基建所能承接的程度。

今天的 AI 帶來了期待已久的喘息空間，讓我們的好構想終於得到應有的發揮機會。但到了明天，好構想可能多得令我們比以往任何時候都更缺乏執行能力。

歸根究柢，我們並不知道，為了讓新見解發揮實際效用，所需的互補要素會增加、減少，還是維持不變。單靠思考，究竟能讓知識前進多遠？卓越才智需要多龐大的行政體系配合？

我們認為，答案取決於思想在必須再次接觸現實之前，能走多遠。

我們提出兩條可能的發展路徑。第一條是深度型文明：超級智能克服了對更多實體資本與行政統籌的需求。第二條是廣度型文明：自然界的複雜程度，超出了任何智能單憑自身就能應付的能力；無論人類還是機器，都必須在現實世界進行大規模、且越來越精密複雜的實驗，才能取得進步。

迄今的人類歷史顯示，對互補能力的需求一直在增加。Galileo 的望遠鏡可以拿在手上；Webb 望遠鏡卻需要整個文明支撐。貝爾實驗室的一支小團隊，在工作枱上組裝了第一個電晶體；如今，前沿晶片的進展卻有賴錯綜複雜的全球供應鏈。探索得越遠，就越需要動員文明的更多部分來支撐。

但歷史未必決定命運。聰明的頭腦可以發明更高效的互補要素。如果能源成為新粒子加速器的瓶頸，卓越的才智便可設計出耗用更少資源的加速器，或更好的能源採集方法。

天才也可以取代部分與自身互補的要素。Einstein 只憑極少的實證數據，就能透過思考推導出相對論。換作我們，就需要多得多的數據。有些人能直接記住所有約會安排；我們大多數人卻要依賴 Google 日曆這套行政工具。

天才也能把判斷力發揮到極致，選出最值得驗證的假說，避免浪費資源的失敗。如果每多一位天才，都能提升方案的質素，那麼即使需要越來越龐大的行政體系，我們仍會大力投資於天才——正因為執行成本高昂，不能浪費在錯誤的事情上。

這兩條路徑都不會完全吻合我們真正的未來，但可以視為文明可能走向的兩個方向。

智能可以透過三種方式推進知識。它可以從原理出發進行推理。它可以從現有證據中得出新見解。或者，它可以透過觀察及介入世界，收集新證據。

第一種方式，單靠思考就能走得很遠。數學是最純粹的例子。在證明或項目中眾多需要抉擇的關口，強大的頭腦能一再作出正確判斷。它能以簡短而方向更明確的推理過程，取代多年漫無頭緒的摸索。

第二種方式同樣有大量尚待開拓的空間，可讓我們迅速取得進展。人類收集到的證據，遠比已經理解的多。從天文影像、顯微鏡切片，到網上留言區，我們對這些資料的研究，一直受限於人類智能的不足。科學檔案中，有些觀測紀錄原本是為回答某一問題而留下的，卻可能藏着許多其他問題的答案。當天才充裕時，無須收集任何新資料，只要看懂早已存在的事物，就能有所發現。或許不用多收集一個光子，就能發現一個全新的宇宙。

第三種方式就沒那麼容易，因為它需要我們與物質世界互動。物質世界的過程需要時間，而且往往很難加快。化學物質需要反應。生物需要生長。機器需要建造。太空船必須跨越實際距離，並受宇宙的速度上限約束。即使是完美的心智，也無法觀測尚未進行的實驗結果。

但它可以嘗試。深度型文明仍無法擺脫向現實求證的需要。只是求證時所需的資源，會大幅減少。更強的推理能力，能找出少數真正重要的實驗。模擬能解決大部分問題，並精確找出必須由現實驗證的不確定之處。超級智能能以稀缺資源為出發點設計方案，盡用每一分資源，將效率提升至最高。

想像一間天體物理學實驗室，提出了一組關於暗物質的假說。這些假說首先會接受極度逼真的電腦模擬。每套理論都會被檢查是否與全部現有數據相符。完成這一切後，才會有針對性地拍攝少量新的天空影像，驗證最有希望的理論。這個文明仍需要與天才互補的要素，但每單位投入都能產生大得多的價值。

我們走向深度型文明的過程，或許就像砌拼圖。起初容易推進，接近完成時也容易，最難的是中間階段。一開始，有明顯的邊緣，也有容易配對的拼塊。但這些很快就用完了，而已拼出的圖案又太少，不足以指引餘下的部分。接近完成時，剩下的空隙幾乎已在告訴你，應該放進哪一塊。一套接近完整的科學知識體系，要取得最後幾項發現，或許比我們今天苦苦追尋的發現更容易。

這在科學中屢見不鮮。Mendeleev 能描述尚未發現的元素，是因為週期表的其餘部分，已限定了缺失元素可能具有的性質。早在我們觀測到 Higgs 玻色子之前數十年，標準模型已讓物理學家有理由預期它的存在。我們的實驗有明確目標：尋找預期會出現的事物，也就是與現有理論及數據一致的事物。

超級智能或許能透徹掌握世界的規律，精確知道自己需要哪些新數據，從而實現深度型文明。它將透過更深入的思考推動進步，而不依賴緩慢的實體擴張。

如果這些效率提升佔了主導，文明便能迅速深化對自然的掌握，減少依賴制度智能來管理龐大的新實驗設施。它佔據的實體空間可能依然很小，智慧卻日益成熟。

我們人類尚未真正離開家園，就已對宇宙有了如此深刻的認識。深度型文明將延續這個傳統。

但對新證據的需求，可能超過這些效率提升所能抵銷的程度。智能或許能降低每次向現實求證的成本，卻同時發現更多需要求證的理由。更好的儀器，會開啟更精細的探索領域。更快的實驗，會令更多額外實驗變得值得進行。

如果 Einstein 幾乎純靠思考建立相對論的路徑，是深度型文明的典範，那麼生物學或許最能預示廣度型文明的面貌。儘管我們積累了大量知識，運用了大量數據，新藥仍須在眾多人身上測試，才能知道是否安全有效。如今，機器能模擬生物過程，讓生物學家以電腦模擬而非實體實驗測試新藥，但這些數碼模擬仍未足夠貼近現實，無法取代大規模人體試驗。機器提出的候選藥物越多，實證驗證就越成為瓶頸。

在廣度型文明中，單靠卓越才智不足以帶來進步。我們對物質資源，以及管理其使用的行政體系的需求，增長得比聰明頭腦節省兩者的速度更快。

即使未來的 AI 系統在智能上遠超人類，我們仍可能走上這條路。超級智能可能一個下午就設計好一個世紀的實驗，然後用整個世紀等待自然過程與機器逐一完成。在這樣的世界，把智能投入實現構想所需的制度運作流程，會比投入構想本身更有價值。

如果每向前一步，都需要越來越多支援基建，這種效應便會層層累積。

在這種情況下，我們會看到思考所佔的比重下降，建設所佔的比重上升。實驗室走向自動化。工廠不斷增多。能源產量上升。制度智能將佔據主導地位，推動這一切實現。實體擴張成為知識進步的引擎。文明之所以向外延伸，是因為它提出的問題，已超出現有手段所能解答的範圍。要繼續前進，就需要更多材料、更多能源、更多數據。

Dyson 球是這種未來的一幅極致圖景。要設計一個 Dyson 球，需要非凡的突破，但整項工程的大部分工作並不涉及突破性的思考。那將是天文規模的建造與物流作業。

Dyson 球需要卓越的頭腦來繪製藍圖。同時，它也將是有史以來最重複、最單調、最考驗組織能力的工程之一。

這不是智能的失敗，反而是它成功的結果。更聰明的頭腦會發掘更多值得推行的計劃；更複雜的計劃則需要更多物質資源才能實現。

若果如此，超級智能的超凡能力，或許不在於它的天才。而在於它願意承擔行政體系的角色，協調龐大的技術與制度架構，將構想以不斷擴大的規模化為現實。

幾乎所有機器智能都會被用來處理枯燥的工作，而非創造驚人的成就。

屆時，自然界對實體擴張的速度限制，或會成為進一步發展的瓶頸。無論設計方案能多快完成，要建造收集恆星能量的設備，始終是一項物質世界的工程。在那之外，還有其他恆星和星系，而據我們所知，距離本身就是限制：沒有飛船能以超光速航行，也沒有訊號能以超光速傳回。廣度型文明是一種步伐緩慢的文明。它的重大變革可能相隔數千年，甚至數百萬年。每向前一步，都需要更長時間。

農業革命與工業革命，將顯得像是一段漫長得多、進步步伐也緩慢得多的歷史中，急速展開的序幕。

未來的 AI 系統很可能在提出前沿見解，以及協調資源、使這些見解發揮實際作用這兩方面，都超越人類。但這種可能性，並不會削弱人類好奇心的重要性。

首先，即使機器看來更擅長探求真知，我們仍有責任追求知識與理解。宇宙中或許早已有遠比我們睿智的心智，掌握着我們無法理解的科學與道德問題的答案。然而，我們仍然嘗試親自理解世界。另一種智能的出現，即使是我們親手創造的，也不會改變這一點。除非我們確知人類已無任何獨特貢獻可作，否則放棄探索，就是浪費了只有我們才能為世界增添的價值。我們仍有責任繼續提問，並努力尋找答案。

其次，相較於制度智能，我們在前沿智能方面或許具有比較優勢。這意味着，即使我們在兩方面都遜於機器，仍可能相對更擅長前者，因而專注於此。人類表現出對創作的偏好，不願受困於例行工作；機械人則沒有這種偏好。

第三，多樣性能為我們帶來價值。即使機器能模仿大部分人類思維，只要我們仍保有某些獨特之處，就能為創意增添多樣性。大部分機器智能會留在自身可持續運作的體系之內，但一小部分會由我們調配，服務於我們的創作意願。這雖然只是整體的一小部分，對我們的活動規模而言卻已十分充裕，遠超今天擁有的資源。

創造力並非孤立存在。它需要世界的配合，天才也需要建設者來實現其創意願景。

今天，人類的大部分智能都投入在那些將構想化為現實、卻鮮為人知的工作上。機器心智也將承襲同樣的依賴。它們不可能全都是引領時代的巨擘。它們也必須充當行政人員。

我們未來的故事，以及進步的步伐，取決於卓越的頭腦是需要世界投入更多資源，還是能以更少資源成就更多。