永恆的互補

作者說明：這是我們「下一個經濟時代」系列的首篇文章，刊載於一個新平台，匯聚獨立觀點，共同探索 AGI 的未來。本文反映的是我們個人的看法，不代表 OpenAI 或同事的立場。

人類的目光，幾乎已觸及時間的起點。

我們透過方程式，已能大致連貫地解釋宇宙自誕生之初的歷程。透過望遠鏡，我們望向宇宙深處，窺見宇宙的早期歷史。我們了解恆星如何誕生、星系如何形成。

然而，從未有人到過比月球更遠的地方。

我們追問的範圍遍及宇宙，身體卻幾乎還沒離開家園。思緒所及之處，遠遠超出雙手所能觸及的範圍。

這種落差可能有兩種截然不同的含義。

一種可能是，我們根本不必走得太遠；只在一顆星球上，就可能參透最深奧的真理。憑藉明晰的推理與高效的儀器，我們不必遍歷宇宙，就能揭開它的奧祕。在這種情境下，我們的文明靠深度而非廣度向前發展。這也有助於解釋，為何我們尚未發現其他智慧生命：我們所在的星系或許充滿卓越的心智，只是它們從不需要向外擴張，也就不會引起我們的注意。

第二種可能則更令人望而生畏。我們的思考，可能只是跑在了執行能力前面。每往前一步，都需要更多時間與資源。我們不缺夢想，缺的是實現夢想的人力。

Galileo 用兩片透鏡與一根鏡筒，就拓展了我們的視野。為了在今天再次拓展視野，人類打造了 James Webb 太空望遠鏡：一座耗資一百億美元的天文台，摺疊收納在火箭中，送往一百萬英里之外。十八片巨大分段鏡面的製造精度達五十奈米。這座天文台由十四個國家、三百個組織共同打造。Galileo 的成就只需要幾十雙手相助。Webb 望遠鏡卻需要一支大軍，以及背後整個全球經濟的支援。

要看得更遠，靠的不只是更聰明的頭腦。還需要更龐大的行政體系。

我們提出的問題比能研究的多，設計的實驗比能執行的多，構想創意的速度也比付諸實行快。在許多領域中，我們越是前進，要打造想像中的事物就越複雜。

Nick Bloom 與共同作者⁠(在新視窗中開啟)研究了美國整體經濟中的研究生產力。如今要維持 Moore 定律，所需研究人員的數量是 1970 年代初期的十八倍以上。自 1930 年代以來，整體經濟的有效研究投入增至二十三倍，衡量所得的研究生產力卻降至原來的四十一分之一。

技術人員人數的成長速度是科學家的兩倍⁠(在新視窗中開啟)。四十年來，科學研究中專用設備的使用量已增加一倍⁠(在新視窗中開啟)。如今一座晶圓廠的成本是三十年前的五倍⁠(在新視窗中開啟)，營運規模也龐雜得多。

這些數據顯示，進一步發展的代價可能正不斷上升。經濟之所以仍能前進，是因為研究活動的規模大幅擴張，彌補了每單位投入產出效益的下降。

這段歷史應讓我們重新思考天才的角色。我們不該把天才孤立看待，而應視為生產過程中的一項投入。再出色的假說，仍需要證據、儀器，以及付諸實行的手段。沒有設備和支援人員將想法付諸實行，想法本身還稱不上進步。

當一項投入的增加會提升另一項投入的價值時，經濟學家稱兩者具有互補關係。從這個意義上說，前沿智慧與將相關想法付諸實行的能力正是互補的。更好的望遠鏡，讓好的天文學問題更有價值。更好的問題，也讓望遠鏡更有價值。

有些互補要素是實體的。一套理論等著粒子加速器來驗證；一項技術設計等著能源與機械設備來建造。

另一些互補要素則難以用肉眼看見。想法本身很脆弱，需要各式各樣的制度與組織支撐。法律、行政體系、資金機制、供應鏈及其他許多環節必須相互配合，才能將想法付諸實行。

一個偉大的想法，必須仰賴這些制度與組織在漫長鏈條的各個環節上都採取正確行動，才能走到最後。我們將其稱為組織智慧：一種鮮少受到讚頌的執行智慧。天才設計豐碑；組織砌石築造。一者才華耀眼，另一者看似枯燥，卻都不可或缺。

我們有時會將超級智慧想像成十億個 Einsteins。但即使一個文明擁有十億個 Einsteins，其中大多數仍得去採石場開採石材、管理帳務。唯有周遭日常世界的運作環環相扣、順暢無阻，前沿創新才有可能發生。進步需要每個人的參與：從焊接望遠鏡上一顆螺絲的工人，到替一所小學承保的保險業者；那所小學教出了一名護理師，而那名護理師照護了天文學家。進步建立在運轉順暢的經濟之上，但我們在講述最偉大成就的故事時，常常忽略這一點。

如同人類智慧，AI 也將同時用於提出卓越洞見與執行組織工作。問題是，AI 會把絕大部分時間花在哪一邊。

AI 已開始紓解執行能力不足的問題，能撰寫程式碼、搜尋陌生領域的文獻，並把草圖變成可運作的原型。過去有些想法需要整個組織才能推動，如今卻越來越有可能由一個有抱負的人獨力完成。

大多數胸懷抱負的電影創作者一生都不會獲得兩億美元來放手一試。大多數遊戲設計師整個職涯都在將別人的創意構想付諸實行。我們努力提拔最有天賦的人，卻難免仍有遺珠。從這個角度看，智慧時代首先會為人類創造力提供助力，讓更多人擁有支援團隊，把自己的構想化為成果。

這可能催生大量獨具個性的計畫，讓更多創作在既有機構之外誕生；過去，這些機構掌握著進入相關領域創作的門檻。屆時，相較於執行能力，品味將成為更稀缺的要素，也就是判斷什麼值得製作、什麼問題值得提出，以及在上千個看似可行的方向中，哪一個值得追求的能力。

但故事可能不會就此結束。隨著 AI 逐漸有能力自行提出出色的新洞見，AI 提供的將不只是勞動力，也包括研究方向。我們或許已在數學等領域看見 AI 展現這種能力。AI 不再只是執行人類的一項研究計畫，而是自行設計出數千項。AI 天才將讓值得開發的電影構想、值得驗證的假說急速增加。想法湧現的速度快過支援基礎設施所能承接的速度。

今天的 AI 帶來了盼望已久的喘息空間，讓我們的好想法終於得到應有的重視與資源。但到了明天，好想法可能多到讓我們比以往任何時候都更缺乏執行能力。

說到底，要讓新洞見產生實際效益，所需的互補要素究竟會增加、減少，還是維持不變，我們並不知道。光憑思考，能在知識上取得多少進展？卓越才智需要多龐大的行政體系來支撐？

在我們看來，答案取決於思考在必須再次接觸現實之前，能獨自走多遠。

我們將描繪兩條可能的路徑。第一條是深度文明：超級智慧不再需要更多實體資本與行政協調，就能取得進展。第二條是廣度文明：自然界過於複雜，無論人類還是機器智慧，都得仰賴大規模且日益精密的現實世界實驗，才能持續進步。

迄今的人類歷史似乎顯示，對互補能力的需求正不斷上升。Galileo 的望遠鏡能握在手中；Webb 望遠鏡卻需要整個文明來支撐。貝爾實驗室的一個小團隊在工作檯上組裝出第一顆電晶體；如今，前沿晶片技術的進展卻來自錯綜複雜的全球供應鏈。每向外探索得更遠，就得動員文明中更多力量來支援。

但歷史不一定就是命運。聰明的頭腦可以發明更有效率的互補要素。如果能源成為新粒子加速器的瓶頸，卓越才智便能設計出更精簡的加速器，或找到更好的能源取得方式。

天才也能取代部分原本需要的互補要素。Einstein 憑著極少的實證資料，就能透過思考推導出相對論。換作我們，就需要多得多的資料。有些人能把所有約定牢記在心；我們大多數人則得仰賴 Google 日曆這套行政系統。

天才也能將判斷什麼值得追求的能力發揮到極致，選出最值得驗證的假說，避開徒耗資源的失敗。如果每多一位天才都能提升計畫品質，那麼，即使仍需要日益龐大的行政體系，我們也會大力投資天才；正因為執行成本高昂，更不能浪費在錯誤的事情上。

這兩條路徑都無法完整描述我們真正的未來，但可以視為文明可能前進的兩個方向。

智慧可以透過三種方式推進知識：從原理出發進行推理、從既有證據中得出新洞見，或透過觀察與干預世界來蒐集新證據。

第一種方式光靠思考就能走得很遠。數學是最純粹的例子。在證明或計畫的眾多岔路口，強大的頭腦能夠一次又一次做出正確判斷，用簡短而更有方向的推理鏈，取代多年跌跌撞撞的摸索。

第二種方式同樣有很大的空間能快速取得進展。人類蒐集的證據遠多於已經理解的證據。無論是天文影像、顯微鏡玻片，還是網路留言區，我們研究這些資料的能力都受限於可用的人類智慧。科學檔案中的觀測資料原本是為了回答某個問題而記錄，卻可能藏著許多其他問題的答案。當天才不再稀缺，新發現不一定要靠蒐集新資料，也可能來自看懂早已存在的事物。或許無須多捕捉一顆光子，就能發現一個全新的宇宙。

第三種方式就沒那麼容易，因為它要求我們與物質世界互動。物理過程需要時間，而且往往沒有多少辦法能加快。化學物質必須發生反應。生物必須生長。機器必須經過建造。太空船必須跨越實際距離，並受宇宙速度極限的約束。即使是完美的心智，也無法觀察到尚未發生的實驗結果。

但仍可以試著推想。深度文明依然需要向現實求證，只是會以極為節省資源的方式進行。更好的推理能找出少數真正重要的實驗。模擬能解決大部分疑問，並準確找出必須由現實來釐清的不確定之處。超級智慧能將效率推向極致，依據有限資源來設計方案，讓每一分資源都發揮最大效益。

想像一間天文物理實驗室正在研究一組關於暗物質的假說。這些假說會先交由極度擬真的電腦模型進行模擬，逐一檢查每套理論是否與所有既有資料相符。完成這一切後，才針對特定目標拍攝少量新的天空影像，驗證最有希望的理論。這個文明仍需要與天才互補的要素，但每單位投入都能創造遠高於以往的價值。

我們通往深度文明的道路可能就像拼拼圖。開頭容易，結尾容易，中間最難。起初，有明顯的邊緣，也有容易配對的拼片。接著，這些線索用完了，拼出的圖像卻還太少，不足以指引剩下的部分。到了接近完成時，剩餘的空缺幾乎已直接告訴你該填入什麼。當科學體系趨近完整時，最後幾項發現或許反而比我們今天苦苦追尋的成果更容易取得。

這在科學中屢見不鮮。Mendeleev 能描述尚未發現的元素，是因為週期表其餘部分已限定了缺失元素可能具有的性質。早在觀測到 Higgs 玻色子之前數十年，標準模型就讓物理學家有理由預期它的存在。我們的實驗有明確目標：尋找預期會看見的事物，也就是與既有理論及資料相符的事物。

超級智慧或許能透徹掌握世界的規律，準確知道需要哪些新資料，進而促成深度文明。進步將靠更深入的思考推動，而不必依賴緩慢的實體擴張。

如果這些效率提升成為主導力量，文明就能迅速加深對自然的掌握，較不需要依靠組織智慧來管理龐大的新實驗設施。它的智慧日益成熟，實體規模卻可能仍然很小。

我們人類幾乎不曾離開家園，卻已對宇宙有了如此豐富的理解。深度文明將延續這項傳統。

然而，對新證據的需求可能大到讓這些效率提升仍不足以因應。智慧或許能降低每次向現實求證的成本，卻也會發現更多必須求證的理由。更好的儀器能開拓更精微的探索疆界。實驗速度加快，也可能讓更多實驗變得值得進行。

如果 Einstein 幾乎純靠思考推導出相對論的歷程代表了深度文明，那麼生物學或許最能預示廣度文明的樣貌。無論我們累積了多少知識、運用了多少資料，新藥仍必須在大量受試者身上進行試驗，才能知道是否安全有效。如今，機器已能模擬生物過程，讓生物學家透過電腦模擬而非實體實驗來測試新藥。但這些數位模擬還不夠貼近現實，無法取代大規模人體試驗。機器提出越多候選藥物，實證驗證就越成為瓶頸。

在廣度文明中，光有卓越才智還不足以推動進步。我們需要更多實體資源，也需要更龐大的行政體系來管理資源。即使聰明的頭腦能設法節省資源與行政投入，也趕不上這兩方面需求增加的速度。

即使未來的 AI 系統遠遠超越人類智慧，我們仍可能走上這條路。超級智慧可能在一個下午就設計出足夠做一世紀的實驗，接著仍得等上一世紀，讓這些實驗隨著自然過程與機械運作逐一完成。在這樣的世界裡，將智慧投入執行想法所需的組織流程，會比投入構思本身更有價值。

如果每往前一步都需要更多支援基礎設施，這種效應就會不斷累積放大。

屆時，思考所占的比重會相對降低，建設的比重則會提高。實驗室走向自動化。工廠大量增加。能源產量上升。組織智慧將居於主導地位，促成這一切。實體擴張成為知識的引擎；文明向外延伸，是因為提出的問題已超出現有手段所能回答的範圍。要繼續前進，就需要更多材料、更多能源、更多資料。

戴森球就是這種未來的極端縮影。設計戴森球需要非凡的突破，但整項計畫的大部分工作並不需要突破性的思考，而是規模驚人的建設與後勤作業。

戴森球需要卓越的頭腦來繪製藍圖。但它也將是有史以來最重複、最單調、組織協調最艱鉅的工程之一。

這不是智慧的失敗，而是智慧成功的結果。更聰明的頭腦會發現更多值得投入的計畫；更複雜的計畫則需要更多物質才能實現。

若真如此，超級智慧最強大的能力或許不在於才華，而在於願意承擔行政工作，協調龐大的技術與組織體系，將想法化為現實，而且規模越來越大。

幾乎所有機器智慧都會被用來處理枯燥的工作，而非展現才華。

屆時，實體擴張的速度受到自然法則限制，可能成為進一步發展的瓶頸。無論藍圖畫得多快，建造汲取恆星能量的設備終究得在物質世界中完成。再往外，還有其他恆星與星系。就我們所知，距離本身也會限制速度：沒有太空船能超光速航行，也沒有訊號能以超光速傳回。廣度文明的發展步調緩慢，重大變革可能相隔數千年，甚至數百萬年。每往前一步，都需要更長的時間。

相較於此後更漫長、進步步調更緩慢的歷史，農業革命與工業革命將顯得像是急促狂奔的序幕。

未來的 AI 系統很可能不僅在提出前沿洞見方面超越人類，也更擅長協調資源，讓這些洞見產生實際用途。但這種可能性並不減損人類好奇心的重要性。

首先，即使機器看似更擅長求知明理，我們仍有追求理解的責任。宇宙中或許早已存在遠比我們睿智的心智，掌握著超出我們理解能力的科學與道德問題的答案。但我們依然努力親自理解這個世界。另一種智慧的到來，即使是我們親手打造的智慧，也不會改變這一點。在我們確知人類再也無法做出獨特貢獻之前，放棄就意味著浪費了那些只有我們才能為世界帶來的價值。我們仍有責任持續提問，並努力尋找答案。

其次，相較於組織智慧，我們或許在前沿智慧上更具比較優勢。也就是說，即使我們在兩方面都不如機器，仍可能相對更擅長前者，因而專注於此。人類偏好創造性工作，而非例行公事；機器人則沒有這種偏好。

第三，多樣性能帶來價值。即使機器能模仿大部分人類思維，只要我們仍保有某些獨特之處，就能為創意增添多樣性。大部分機器智慧會留在能自我維持的體系中，但其中一小部分會由我們調度，用來完成我們想做的創作。這雖然只占整體的一小部分，對我們的活動規模而言卻已十分充裕，遠超過今天可用的資源。

創造力從不孤立存在。它需要世界的支持，天才也需要建造者，才能實現創意願景。

如今，人類的大部分智慧都用於將想法化為現實，這些工作卻鮮少受到讚頌。機器智慧同樣得仰賴這些工作，不可能全都扮演思想巨擘，也必須承擔行政工作。

我們未來的故事與進展步調取決於卓越的頭腦究竟需要世界提供更多資源，還是能用更少的資源成就更多。