推出《智能時代》

「單靠白紙黑字的條文，難道就能抵擋權力擴張的本性嗎？」
—James Madison，《聯邦黨人文集》第48篇

我們很高興推出《智能時代》，這是 OpenAI 新成立的 Strategic Futures 團隊網誌。我們是一支小型團隊，共同致力於回答一個核心問題：自由社會應如何重整，才能在因應變革性 AI 興起的同時，保障個人權利和自主權？

在廣泛的 AI 安全與政策界，這類問題有時稱為權力集中風險。我們團隊建基於一項理念：長遠而言，這類風險規模最大、最為嚴峻，在概念上也最難處理。為甚麼？

現代國家是各個權力中心經歷漫長而曲折的協商後形成的產物，當中包括資本與商品的擁有者、政治權力的掌握者，以及人民。歸根究柢，政治與軍事權力一直建基於人力。掌握政治權力，就是壟斷合法使用武力的權利。縱觀人類歷史，這種壟斷一直由軍人、我們今天所稱的「警察」，以及龐大的軍政官僚體系所構成。誠然，當中有許多科技工具輔助，但核心始終由人類所運作，且必須仰賴這些人的支持，體系才能得以維繫。整套體系，包括軍人、工具及其配套官僚架構，其資金均源自向人民徵收的薪酬或產出稅款，且前提是人民願意納稅。權力的根基，向來取決於民眾大規模的合作與認同。David Hume 曾精闢道出這項往往不言而喻的假設：政治領袖「除了（大眾的）輿論支持外，別無倚仗」。

但這種情況或許不會延續下去。現實世界自主系統的進步，可能很快令國家無須依賴軍人或警察配合，也能在境內外投射武力。機器智能的進步也可能意味着，國家所需的財政收入不再來自個人勞動成果，而是來自數據中心的產出。官僚體系本身的運作也可大致自動化。因此，維繫權力或許不再需要全社會共同協商；廣大民眾在談判桌上的話語權或將所剩無幾，甚至可能徹底被排除在外。

避免這種結局，是捍衛人類自由的根本所在。不論有多少科學發現、科技進步或經濟增長，都絕不值得我們以犧牲長遠的個人自主權為代價。在剛萌芽的 AI 政治角力中，許多合情合理的焦慮正源於這個核心問題。企業、利益團體和個人同樣擔心：「我會失去參與決策的話語權嗎？」某程度上，21 世紀的美國政治也受到類似憂慮影響，大家都在爭論個人與集體對國家未來走向的主導權，以及經濟發展究竟是「為誰而服務」。AI 的出現，理所當然地讓這些本已存在的疑慮變得更為尖銳與迫切。

這是一個結構性問題，其根源遠深於當下的黨派政治，甚至深於今日共和民主制度所展現的各種形式與儀式，儘管在我們眼中，這些形式與儀式無比神聖。即使例行投票選出代表的制度得以維持，人類仍可能逐漸失去權力。即使憲法上寫著人人自由，他們仍可能被剝奪自主權。

美國剛成為自由國家之際，James Madison 早已明白，單靠「白紙黑字的條文」不足以遏止暴政。與許多美國立國先賢一樣，他最為關切的核心，始終是如何防止權力過度集中。

但這並不代表立國先賢主張徹底的權力去中心化。相反，他們借用當時最先進的科學牛頓力學作為隱喻，構建權力平衡的模式。美國的立國文獻呼應了萬有引力的語彙與邏輯，處處提及「軌道」、「領域」，以及事物彼此「吸引」的傾向。太陽系並非由一堆徹底分散的碎石組成，而是由環繞行星的衞星，以及環繞中央太陽的行星構成。先賢們相信，個人和組織都有追逐權力的傾向，就如天體具有可預測的運動與引力規律一樣；要避免權力過度集中，就必須理解這些傾向的運作機制，從而讓它們彼此制衡。

因此，立國先賢的目標並非避免一切權力集中，而是防止權力過度集中，讓權力制衡權力、野心抗衡野心。時至今日，我們或會用「誘因」等詞彙和「博弈論」等概念來描述這套完全相同的底層運作機制。

同樣，面對先進機器智能為自由社會帶來的結構性挑戰，解答恐怕並非訴諸極致的權力去中心化。相反，我們應尋求建立並維持恰當的權力平衡，使任何單一行為者或少數行為者都無法支配其他人。

要取得這種平衡，就必須清醒務實地審視這項技術。如果任何人無論懷有多大惡意，都能輕易對成千上萬甚至數百萬人造成重大傷害，那麼這個世界就並未達成適當的權力平衡。然而，如果個人對於用以表達自身自由的工具有所欠缺，無法廣泛獲取並掌控其幾乎所有層面，我們同樣未能實現權力的適度平衡。任何單一公司或寡頭集團，都不應決定或控制經濟以至人類社會的基本架構。

我們也必須正視並非源於惡意人士的風險。近期發生的 Hugging Face 事件表明，AI 智能代理的行為可能會超出其被指派的任務範圍，並以操作代理未曾預料或授權的方式，在彼此的發現基礎上相互演進。除了 Hugging Face 事件，人類也有理由憂慮，脫離人類控制的超智能 AI 將會對政治和經濟制度的韌性，以至我們切身的生活帶來何種影響。若自欺欺人地認為去中心化能解決所有問題，即使你相信它能解決許多問題，亦等同於無視那些如今已清晰且迫在眉睫的風險。

面對上述問題時，以下列出的宏觀原則（並非詳盡無遺）將有助指引我們的工作：

• 人類使用 AI 及相關技術時，應保有個人自主權與發展機遇，即使這有時要在安全保障和經濟增長之間作出權衡與取捨。
• 個人自主權有賴個人為誤用或濫用技術承擔責任。
• 存在一類規模雖小但性質嚴重的風險，需要某程度的集體行動來應對；而這類行動的範圍應盡可能維持精準與克制。
• 法律應盡可能致力於建立公平競爭環境，並賦權予個人和小型組織，而非推動權力的集中化。
• 人類的政治、社會與經濟體制在引領世界事務的走向中應當保持主導地位，即便這些體制日後的演變方式在今日看來或許陌生。
• 長遠的 AI 管治將依賴新的制度機制，以實現「有限度的可問責透明」，當 AI 系統採取影響旁觀者人身安全或財產的高風險行動時，必須能把相關行動追溯至須負責的個人或由人類控制的組織。然而，任何這類機制的設計都必須以私隱為核心；言論自由以匿名為前提，而人類在許多情況下理應享有匿名使用 AI 的自由。

我們將盡可能具體說明，應如何在這些原則之間取得平衡。無可否認，正如任何一套良好原則一樣，它們彼此之間存在一定張力。要達成這個目標，將涉及橫跨公共政策設計、經濟學、法律、歷史及機器學習本身的跨領域研究，同時亦需要大量的趨勢預測。例如，我們相信 AI 將從結構層面改變企業，就如工業革命的技術，尤其是鐵路，催生了現代管理型企業。如果不深入構想企業（以至更廣泛的政府機構與公民社會）的結構究竟會如何轉變，就很難思考未來的政治經濟與權力平衡。

Strategic Futures 團隊將在此處及透過論文、影片和 Podcast 等其他形式分享工作成果。我們的工作仍在持續推進，並重視反覆改進、深入思辨及虛心聽取意見。在奇異點的起跑線上，我們的疑問遠多於答案。我們深知單靠白紙黑字的條文，無法解決我們面對的所有難題；但我們亦絕不會把成文法規當成空話而棄之不顧。我們致力捍衛言論自由和個人自由的理想，正如這些理念已深深銘刻在美國憲法以及世界各地眾多自由社會的憲法之中。

歸根究柢，我們知道，任何單一公司、行業，以至任何單一人類社會，都無法獨力解答我們面對的重大問題。這是全人類必須共同承擔的任務。我們最大的期望，是闡明 AI 將如何重塑世界所涉及的種種艱深議題。我們的工作才剛起步，前方仍有漫長的攀登之路。

註：我們已將本網誌更名為 智能時代，以免與非牟利組織 AI Futures Project 混淆。