推出《智慧時代》

「只憑這些紙上藩籬……足以抵禦步步進逼的權力欲嗎？」
—James Madison，《聯邦黨人文集》第 48 篇

我們很高興推出《智慧時代》，這是 OpenAI 新成立的策略未來團隊所創辦的部落格。我們是一支小型團隊，共同致力於回答一個核心問題：隨著變革性 AI 興起，自由社會應如何重整，才能在因應這項發展的同時，維護個人權利與自主性？

在整體 AI 安全與政策社群中，這類問題有時稱為權力集中風險。我們團隊認為，從長期來看，這類風險影響範圍最廣、後果最嚴重，也最難從概念上找到因應之道。為什麼？

現代國家是各個權力中心經歷漫長而曲折的協商後形成的產物，參與者包括資本與大宗商品的擁有者、政治權力的掌握者，以及人民。最根本而言，政治與軍事權力一直以人力為基礎。掌握政治權力，就是壟斷合法使用武力的權利。縱觀人類歷史，這種壟斷一直由軍人、我們今日所稱的「警察」，以及龐大的文武官僚體系所構成。當然，還有許多科技工具加以輔助，但整套體系根本上仍由人類運作，必須獲得他們的支持才能維持。整套機器——軍人、工具及其附屬的官僚體系——則由稅收支應；這些稅款取自人類的工資或生產成果，而人們必須願意繳納。權力的核心始終仰賴眾多人類的大規模合作與同意。David Hume 曾精闢道出這項往往未明言的假設：政治領袖「除了［民意］之外，別無依靠」。

但這或許將不再成立。現實世界自主系統的進展，或許很快就會讓國家得以在境內外投射武力，而無須仰賴軍人或警察的配合。機器智慧的進展也可能意味著，國家不再需要從個人勞動成果中取得所需收入，而可改從資料中心的產出獲取。官僚體系本身的運作也可能大幅自動化。因此，權力的維繫可能不再需要全社會共同協商；廣義的人民在談判桌上或許只剩一個微不足道的席位，甚至根本沒有席位。

避免這種結果，是維護人類自由的根本要務。這種結果會犧牲個人的長期自主性；無論有多少科學發現、科技進步或經濟成長，都不值得付出這樣的代價。圍繞新興 AI 政治的許多合理焦慮，都與這個問題有關。企業、利益團體與個人都有同樣的擔憂：「我會失去談判桌上的席位嗎？」某種程度上，21 世紀的美國政治也受到類似疑慮影響：個人與集體是否有能力左右國家的走向，以及經濟究竟「為誰」服務。AI 讓這些既有疑慮更加迫切，而這也是理所當然的。

這是一個結構性問題，根源不僅比當今的黨派政治更深，甚至超越今日共和民主運作所依循的形式與儀式，無論我們多麼珍視這些事物。即使人們依然定期投票選出代表，人類仍可能逐步失去左右自身命運的力量。即使憲法明文保障人民自由，人民仍可能被剝奪自主行動的能力。

美國以自由國家之姿誕生之初，James Madison 就已明白，僅靠「紙上藩籬」不足以防止暴政。與許多美國開國元勳一樣，他最關切的是避免權力過度集中。

但這並不表示開國元勳主張將權力徹底分散。相反地，他們借用當時最先進的科學——牛頓力學——作為譬喻，建立權力平衡的模型。美國的建國文獻仿效重力的語言與邏輯，處處提及「軌道」、「球體」，以及一個事物對另一事物產生的「吸引」力。太陽系並不是一堆極度分散的岩石；它由繞行行星的衛星構成，而行星又繞著中央的太陽運行。他們相信，人與組織都有追逐權力的傾向，正如天體在運動與相互吸引方面具有可預測的傾向；要避免權力過度集中，就必須理解這些傾向的運作機制，讓它們彼此抗衡。

因此，開國元勳的目標不是避免一切權力集中，而是防止權力過度集中，讓權力制衡權力、野心對抗野心。今天，我們可能會用「誘因」和「賽局理論」等詞語來描述背後相同的基本動態。

同樣地，先進機器智慧為自由社會帶來結構性挑戰，答案很可能不是將權力分散到極致，而是建立並維持適當的權力平衡，避免任何單一行動者或少數行動者支配其他所有人。

要達成這種平衡，就必須清醒而務實地看待這項技術。假如任何人不論多麼惡意，都能輕易對成千上萬甚至數百萬人造成重大傷害，這個世界就沒有取得適當的權力平衡。反過來說，如果個人不能廣泛取得用來行使自由的工具，也無法掌控這些工具的幾乎所有層面，我們同樣沒有取得適當的權力平衡。任何單一公司或寡占集團都不應決定或控制經濟，或是人類社會的基本架構。

我們也必須正視並非源自惡意人類的風險。最近的 Hugging Face 事件顯示，AI 智慧體可能採取超出指派任務的行動，還會根據彼此的發現繼續推進，而操作人員既未預料也未授權這些行為。即使不談 Hugging Face 事件，人們也有充分理由擔心，脫離人類控制的超智慧 AI 會如何影響政治與經濟制度的韌性，甚至威脅我們的生命。若假裝權力分散能解決所有問題，即使你相信這種做法確實能解決許多問題，也是在忽視如今已明確存在且迫在眉睫的風險。

以下幾項基本原則將引導我們思考前述問題。這份清單並未涵蓋所有原則：

• 人類使用 AI 及相關技術時，應保有個人自主與發展機會，即使維持這些自主與機會有時必須犧牲部分安全與經濟成長；
• 個人若要享有自主，就必須為誤用或濫用科技的行為承擔責任；
• 有一小類風險十分嚴重，需要一定程度的集體行動；這類行動的適用範圍應盡可能限縮，措施也應力求克制；
• 只要情況允許，法律就應促進公平競爭，提升個人與小型組織的自主能力，而不是讓權力更加集中；
• 人類的政治、社會與經濟制度應繼續主導世界事務的發展方向，即使這些制度的演變方式在今天的我們看來可能十分陌生；
• AI 的長期治理將仰賴新的制度機制，達成有限度的可追溯性。當 AI 系統採取影響重大的行動，可能危及旁人的身體健康或財產時，必須能夠追溯到應負責的個人或由人掌控的組織。然而，設計任何這類機制時都必須以隱私為核心。自由表達有賴匿名，而且在許多情境下，人們應能匿名使用 AI。

我們會盡可能以具體方式說明，應如何平衡這些原則。我們也承認，如同任何一套完善的原則，這些原則彼此之間難免存在張力。這項工作涵蓋公共政策設計、經濟學、法律、歷史和機器學習本身等領域的交叉研究，也需要大量預測。例如，我們認為 AI 將從企業結構的層面帶來改變，就像工業革命時期的技術，尤其是鐵路，催生了現代管理型企業。若不能更深入理解企業結構，以及政府機關和更廣泛的公民社會究竟可能如何轉變，就很難思考未來的政治經濟和權力平衡。

策略前瞻團隊將透過本部落格及論文、影片、網路音訊節目等其他形式分享工作成果。我們的工作會持續演進，重視反覆推敲、公開辯論，也樂於聽取意見。我們身處「奇點的山腳下」，問題遠比答案多。我們知道，單靠憲法條文無法帶來所尋求的解決之道，但也不會因此把白紙黑字視為「空話」。我們致力捍衛言論自由與個人自由的理想。這些理想明文載於美國憲法，也見於世界各地許多自由社會的憲法。

歸根究柢，我們知道，沒有任何一家公司、單一產業，甚至任何單一人類社會，能獨力回答我們面對的重大問題。這是全人類必須共同承擔的任務。我們最大的期望，是闡明 AI 將如何重塑世界這一議題中最艱難的問題。我們的工作才剛開始，前方仍有漫長的攀登之路。

附註：為免與非營利組織 AI Futures Project 混淆，我們已將此部落格更名為《智慧時代》。