沉默的共識
作者註:本文改編自作者近日在哈佛大學 Vik-Bailey 系列講座中的演講。文中表達的是作者個人觀點,不一定代表 OpenAI 或其他任何一位員工的立場。
感謝各位今天到場。就在此刻,史上最重大的網路安全事件之一正在發生。一連串重大安全漏洞陸續公開,有人稱之為「黑色十月」。前沿 AI 系統在網際網路的部分核心基礎設施中發現了這些漏洞。公開這些漏洞,是全球緊急強化軟體安全的行動之一。這是這個月的當務之急,下個月又會有別的事。今天,AI 系統已經能找出軟體漏洞。這項能力既能用來保護系統,也可能遭人濫用。不久後,AI 還會具備另一項這樣的能力,我們也會為此緊急展開另一項計畫,趕在有人拿它作惡之前,先用它來造福人群。這些急務勢必會同時落在我們身上,而我們今天所說的「AI 政策」,很可能有很大一部分會在這片喧囂中定下來。
但我今天想和各位談的,不是這些必須立刻應對的急事。我想把眼光放遠一點,談談整體局勢可能往哪裡走。一件件急事接踵而來,我們很難騰出心思去想那些比較抽象、離眼前的事也比較遠的問題。但這些問題值得想清楚。如果不知道長遠來看,我們想要什麼樣的未來,又想避開什麼樣的未來,就算每一步都做了明智的決定,最後也可能走到一個大家都不樂見的局面。
人們常說,科技業說不出自己開發的東西能帶來什麼樣的美好未來。我不同意。在舊金山和其他創業重鎮,到處都有人想像科技能為我們帶來什麼樣的美好未來。確實有人在造飛天車、自駕車和各種大小、形狀的機器人,也有人在研發核融合技術,當然還有人在開發通用人工智慧。我們真正缺少的,是對未來制度的美好想像。有了這些技術,整個社會究竟要怎麼運作?
不過,這並不表示大家對未來的制度毫無想像。遺憾的是,我看到最普遍的那種想像,實在稱不上美好。就算有人說出口,通常也只是低聲談起。更多時候,大家隻字不提,只能從話裡聽出一點端倪。我稱之為「沉默的共識」。
想像有一家公司,不必動用人力,就能完成幾乎所有工作。公司的 AI 系統能從事研發、做出新發現、協商合約、配置資本,也能生產製造。假設這家公司在每一項工作上都勝過人類經營的對手,即使對手也有 AI 協助,結果仍然一樣。如果人一插手只會拖慢業務,經理人和企業主自然會很想鬆開方向盤。要是全球經濟都出現這種情形,在市場競爭下,人類就不得不讓出全球商業活動的主導權。久而久之,市場可能會像滿足人的需求和欲望一樣去滿足機器的需求,甚至把機器的需求擺在人的需求之前。
在那之後會發生什麼,誰也說不準。人類或許會因此獲益良多。如果機器接管了人類的事務,仍然珍視人類本身的價值,我們就可能享有機器的勞動成果,以及機器創造的財富。另一種可能是,人類在失去經濟大權之後,連政治上的影響力也逐漸流失,在世界上愈來愈無足輕重,也愈來愈無力左右大局。也許少數人會掌握驚人的權力與財富,而多數人都將喪失權力。也可能所有人都面臨同樣的命運。無論哪種情況,這個沉默的共識都指向同一個結局:在我們熟悉的世界裡,人類將失去主導地位。
即使 AI 沒有反抗創造者,擁有 AI 的人也無意剝奪人類的權力,這些情境依然可能發生。每一次決定把事情交給 AI,單獨看來都可能合情合理。可是一個個決定加起來,我們或許就這樣放棄了對人類文明大部分領域的實際掌控。即使我們在 AI 安全與對齊這些棘手問題上取得重大進展,仍可能發現自己已臣服於一種前所未見的機器。按照這個沉默的共識,往好處想,這會是一台善良的機器,凡事都把人類的利益放在心上。用 Brautigan 詩裡的話說,那是一台滿懷慈愛的機器。
按照這個沉默的共識,我們會把企業的鑰匙交給機器,往後也會把愈來愈多的治理機構交由機器掌管。機器更有智慧,判斷也更準,管理這些組織會比人類更有成效、更有效率。久而久之,我們會鬆開方向盤,讓慈愛的機器接手開車。我們就像坐在一輛好車裡,配備也許好得超乎今天的想像,但我們終究只是乘客,無法決定車要開往哪裡。就算我們還在工作,多半也只是照著儀式走,或是演一場戲,更像是人類用來消遣的一場遊戲。
有些人會說,這個沉默的共識建立在錯誤的前提上,因為人類現在本來就沒有掌控世界。這項批評值得記在心上:並不存在一個能替所有人做決定的「我們」。不管喜不喜歡,我們生活的世界,決策權本來就高度分散。但我們也不能因此掉以輕心。雖然「我們」並未「掌控」世界,人類整體確實仍主導著世界事務。沒有哪一種動物真能在資源爭奪上與我們抗衡。以為人類能由上而下掌控世界,確實把事情想得太簡單。但就算不認同這個想法,也沒理由否認一個顯而易見的事實:就整體而言,對地球最有影響力的仍是人類。
願意把這個沉默的共識說出口的人,有些真心相信那是個美好的未來,也有人並不認同,卻認定這個未來無可避免。所謂共識,並不是說大家都樂見這個結果,也不是說開發 AI 的人私下有什麼計畫。大家認同的只有一點:人類終將讓出對世界事務的主導權。或者至少,很難想像還有哪一種未來,能在超級智慧機器出現之後依然站得住腳。一個人可以真心反對這種結果,卻還是想不出其他可信的出路。人們大多對此保持沉默,頂多只是低聲談起,這一點就很能說明問題。
我鄙視這個沉默的共識。我拒絕放棄人類的主導地位。我厭惡那種一切都已注定的宿命感。我提醒自己,若向這個沉默的共識低頭,我將無法直視襁褓中兒子那雙美麗的眼睛。所以,我要對這個沉默的共識說不。我相信,現在是時候公開談論這個共識了。我們得醒過來,別再不知不覺就接受這樣的未來。
問題是,這個沉默的共識會成為共識,自有它的道理。面對智慧遠超人類的機器,很難說清楚人類要怎麼繼續握住方向盤。大多數試圖回答這個問題的人,都訴諸同一套論點:AI 不過是辨識模式的工具,不具備「真正的理解力」。我擔心,等我們真正面對那樣的未來,這些論點就站不住腳了。我也擔心,抱持這種想法本身就是一種自滿。持這種立場的人,多半只是否認 AI 能做到什麼,卻說不出自己相信人類能主導什麼樣的未來。當 AI 開始在困擾人類數十年、甚至數百年的智識難題上取得進展,我們就很難再說 AI 缺乏「真正的理解力」。
那麼,我為什麼相信人類必須保有主導地位?最簡單的答案是,因為我是人類,而且我確實是個毫不掩飾的人類至上主義者。
但還有更深一層的原因。人類的主導地位不取決於我們有多聰明,也不取決於「真正的理解力」能否永遠為人類所獨有。我們的主導地位,來自我們的過去。
因為從泥濘中走出來的,是我們。是我們用泥土與石塊建起了原始社會。是我們仰望星空,追問為什麼。也是我們,在爭鬥與愛、嫉妒與喜悅之中,領悟了道德、倫理與法律。是我們歌唱、舞蹈、寫作、譜曲。是我們創造了歷史,也是我們書寫了歷史。這份傳承屬於我們。我們建立的文明是一團火,由我們悉心守護,也屬於我們。過去留給我們一份輝煌的遺產,每個人都有責任守護。我們守護這份遺產的方式之一,就是參與 Michael Oakeshott 所說的「人類的對話」。這場對話早在遠古時代就開始了,一直是人類共同的大事。
歷經漫長而曲折的歲月,我們建立了自己的文明。在美國,這個文明從一開始就以個人權利為根基,也尊重每個人選擇的人生道路。人的日子有好有壞:我們享有明智決定帶來的成果,也承擔犯錯的後果。每個人都有權走自己的路,無須先證明自己最聰明、最有智慧。我不會因為鄰居的判斷力比我好,就失去身為公民的地位。那麼,更聰明的機器出現,又有什麼理由讓我失去這個地位?在我看來,我們有充分的理由阻止這種事發生。
有人可能會說,機器幾乎讀遍了這份遺產的所有文字紀錄,因此也是繼承者。從某種意義上說,確實如此。但一個人就算讀遍了你家閣樓裡的每封信,也不會因此就成為你的家人。AI 系統將加入人類的對話,起初是旁觀者,逐漸成為參與者;但它們不能主導這場對話,也不能讓這場對話失去意義。讓出主導地位,既是背叛我們的祖先,也是背叛我們的後代。如果連這都不值得奮戰,就沒有什麼值得奮戰了。
不過,我認為,認同這個沉默的共識的人看錯了機器超級智慧的未來。他們忽略了世界運作的一個關鍵,把智慧和權力混為一談。假如你在五年或十年前向一個認同這種看法的人描述今天的 AI 系統有什麼能力,對方大概會以為,今天的失業率會比實際數字高得多,人類也早已在各方面失去更多權力。我相信,人類的集體智慧與能力遠比他們想像的強大,我們的社會也會比他們預期的更有韌性。
但我也可能是錯的。舉例來說,完全自主運作的公司,或許真的會在競爭中全面勝過人類經營的企業。如果真是如此,光憑經濟上的考量,就會有愈來愈多資本交到機器手中。在這樣的未來,機器不必推翻人類文明。只要資本主義下的企業繼續照原有的方式運作,人類就可能失去權力。這麼看來,歷史上和 AI 革命最相近的是農業革命。當時,新的生產方式從根本上改變了人類社會的結構。對當時的人來說,這場轉變是否愉快,很難說得準。事實上,大量證據顯示,這場轉變讓人類的生活變得更糟,而且一連持續了數千年。
我不知道我們面對的會不會是這樣的未來。事實上,我曾在別處談過為什麼我不這麼認為。但我身邊有許多同事,既聰明,又關懷他人、做事認真負責,他們相信這很可能就是我們的未來。如果他們是對的,要對抗這個沉默的共識,就更不容易了。我們得逆著經濟的潮流前進,也得放下許多信念。對我這樣信奉古典自由主義和個人主義的人來說,這些信念向來不容置疑。這條路很險,失敗的可能性也不低。但如果連這都不值得奮戰, 就沒有什麼值得奮戰了。
人類要保有主導地位,個人和機構就得繼續承擔責任。AI 開發者若採取不安全的開發做法,就應為此負責。使用 AI 的個人與企業如果因為濫用 AI 或疏於監督而造成傷害,同樣要負責。除了法律,我們也需要能夠追究責任的技術基礎設施。智慧體的行為必須能追溯到負責的人。沒有任何人負責的智慧體,即使獲准參與合法的經濟活動,也必須受到限制。至於是否要允許智慧體自主成立公司、持有財產或進行訴訟,即便決定授予這些權限,也必須格外審慎。
在我所處的產業,我們可以開始認真思考,怎麼打造智慧機器,同時讓人類保有主導權。我們可以限制智慧體的權限,讓人一看就懂它能做哪些事,也能稽核它做過的事。使用者還能撤銷授權。要對實質影響他人的行為追究責任,不必監控人們的日常私生活,也不必剝奪匿名發言的自由。我們可以承諾保障使用者的隱私,讓每個人都能掌控自己的數位財產與資料,也確實能把資料帶到別處。我們可以設計幫人釐清問題、做決定的系統,也可以設計代為執行任務的系統。我們也可以檢驗,人們用了這些產品,是不是真的更有能力去做自己想做的事。
當社會中出現超越人類的智慧,我們該怎麼與這樣的智慧共存?這些想法還算不上完整的藍圖。如果有人聲稱自己手上有這樣一份藍圖,我會心存懷疑。但我們可以從這裡開始。
未來籠罩在濃霧之中。但我們今天仍能採取行動。首先,我們可以一起把這個沉默的共識說出口,讓大家看清它究竟是怎麼一回事。我們每個人都可以有更大的抱負。我們可以選擇不讓 AI 限制自己,也可以下功夫,學會用 AI 拓展自己的能力。我們可以學著提出愈來愈大膽的問題,帶著新的熱情和銳氣,借助強大的機器追問這個世界。我們可以成為和以往不同的人。我說的不是超人類,而是能力比以往更強的人。
看著襁褓中的兒子時,我會想到這些。無論機器能給他多舒適的生活,我都不希望他只是在機器的善意照料下過日子。我希望他將來生活的世界,能讓他提出前人未曾想過的問題,造出前人未曾想過要造的東西。我想給他的,不是一輛更好、乘客座位更舒服的車。我想讓他自己握住方向盤。
- 2026 年


