每隔幾個世代,就會有一項新技術改變一切。
想像電力在 1920 年代來到美國鄉村小鎮。在電力設施普及之前,人們的日常生活受到許多現實條件的限制:得搬水、手洗衣物、用冰保存食物,太陽下山後,一天大部分活動也隨之結束。電力並沒有一夜之間改變每個家庭,而且它帶來的好處也不是所有人都能同樣受惠。但隨著使用範圍擴大,日常生活也改變了。夜晚的燈光延長人們活動的時間。電動幫浦、電器和冷藏設備減輕了許多最繁重的日常勞動。收音機則把數百英里外的新聞、音樂,以及與外界的連結,帶進家庭與社區之中。
電力最初帶來的是實際效益,但它更深遠的影響,在於隨著越來越多人能使用它,無數新的可能性也隨之開啟。隨著時間推移,各種嶄新的應用不斷出現,機器和電腦大幅加速了醫學、工程及許多其他領域的進展。到 20 世紀末,人類平均壽命已增加超過 20 年,經通膨調整後的中位收入也約成長為三倍。這些進步在很大程度上來自醫療、衛生和生活水準的進步,而廣泛的電氣化及相關技術發展,正是促成或加速這些改變的重要因素。
如今,AI 正帶來同樣的變革。AI 很快就能展現非凡的能力。但重點不在技術本身,而在於人們如何運用它。它可以幫助人們處理醫療帳單、學習新技能、創辦小型企業、照顧年邁的父母、理解法律或財務決策、把想法化為現實,甚至推動科學發現。
夜晚有了燈光所帶來的新鮮感或許很快就消退了,但人們運用電力所創造出的各種可能性卻沒有。而且,由於科技長久以來持續為人類帶來繁榮,我們認為 AI 也應讓每個人在需要的時候、需要的地方,都能依自己的需求充分使用。
那樣的未來不會自動發生。變革性技術可以集中權力,也可以讓權力更廣泛地分散。它可能只讓少數人受益,也可能為更多人創造機會。我們的方法根植於這樣的信念:AI 應為人們服務,幫助他們追求自己的目標、提升自身能力,並盡可能讓更多人共享這項技術帶來的成果。
我們的第一項承諾,是打造服務全人類的 AI。這表示我們希望廣泛賦能每一個人,而不是看到權力集中在少數企業、政府或個人手中。我們相信,更安全的未來,是權力能夠廣泛分散,讓世界上更多人都能參與建立 AI 韌性生態系。*
我們對 AI 抱持樂觀態度,因為我們相信它能擴展人類能力與帶來繁榮。但我們也清楚看見其中的風險。強大的系統必須保持安全、符合人類意圖,並受人類控制。OpenAI 的使命是確保 AGI 造福全人類。這表示我們要打造的系統是協助人們完成自己想做的事,而不是取代人類判斷何者重要。
把一切完全自動化並不是我們想要的未來,那會令人失去成就感,也充滿風險。AI 應幫助人們追求目標,而不是與這些目標脫節。隨著 AI 系統能力提升,人類角色變得更重要:設定方向、做出取捨、運用判斷,並將價值觀、品味、關懷與責任融入其中。
從長遠來看,人類最重要的角色之一,就是決定什麼事情值得去做。
我們相信,在未來幾年內,由 AI 進行 AI 研究將成為決定進展速度的因素。這很重要,因為對齊本身就是一個艱難的研究問題。為了取得快速而深入的進展,我們的研究人員需要 AI 系統協助測試想法、找出錯誤、探索不同方案,並與我們共同持續改進。
然而,技術進步越快,人類的判斷與公共協調就越重要,而不是越不重要。未來應由人們、各種機構和社會共同塑造,而不只是由打造最強大系統的企業塑造。
隨著前沿 AI 持續發展,我們預期國家與全球層級的協調將變得更加重要。我們長期以來一直相信,最終應有一個國際組織協助協調全球最重要的 AI 發展工作,以降低災難性風險。合作與共同的安全標準,是邁向未來的重要基礎,尤其是在商業與國家層級的競爭難以避免的情況下。這類組織的重要目標之一,應是讓全球能採取協調一致的行動,包括在需要時放慢前沿 AI 的發展速度,使社會韌性、安全與 AI 對齊的進展得以同步跟上。
打造自動化 AI 研究員:打造一套能加速並逐步自動化研究流程本身,同時仍可被引導、具問責性,並與人類保持連結的 AI 系統。我們內部相信,到 2028 年 3 月,我們相當大一部分的研究可能會由 AI 系統與我們自己的研究人員協作完成。為了在 AI 對齊上取得足夠進展,我們相信需要 AI 與我們一同持續精進。這將幫助我們因應邁向後 AGI 世界的轉變,並共同決定通往未來的方向。
加速經濟發展:加速科學進展、生產力提升與經濟成長,同時努力確保成果能廣泛共享。每個人都應有機會共享 AI 創造的繁榮成果。
讓地球上的每個人都擁有個人 AGI:每個人都能依自己的選擇,從人類最具變革性的技術中受益。
為了實現這一點,我們正進入 OpenAI 的第三階段。
OpenAI 的第一階段,主要是朝著實現 AGI 的目標進行研究。第二階段始於我們的研究開始在現實世界產生影響,而 OpenAI 也成為一家產品公司:部署系統,從人們的使用方式中學習,並持續推動安全且符合我們使命的 AGI 發展。
現在,我們正進入第三階段。AI 正開始重塑經濟。現在的核心問題是,如何讓先進 AI 更普及、更容易負擔、更安全、更實用,且更容易使用,讓每個人和每個組織都能從中受益。打造前沿能力只是其中一部分,更重要的是把這些能力轉化為人們真正能運用、並藉此發展成長的工具。
最重要的是,我們相信權力的廣泛分配將有助於通往更好的未來。人類歷史顯示,權力集中會帶來脆弱性,而權力廣泛共享會讓社會更具韌性、更能適應變化,也更加自由。
這就是為什麼讓更多人都能使用 AI 如此重要。也正因如此,安全、隱私、可負擔性、開放的生態系,以及公共監督同樣重要。
理想的 AI 未來不應是少數機構掌握大部分能力和大部分收益,而應是一個讓更多人、企業、社群和國家都能建設、受益並掌握力量的未來。我們相信,這場轉型應屬於每個人。
如果我們把這件事做好,AI 可以成為提高大眾生產力、創造力、科學進展和經濟機會的基礎,而我們也將實現使命:確保 AGI 造福全人類。
*AI 韌性是指社會建立起來的一整套組織、制度與個人能力,使社會能預先因應 AI 帶來的衝擊,在面對衝擊時維持運作、適應變化,並迅速恢復。例如,汽車改變了社會,但它之所以能廣泛造福人群,是因為社會建立了一整套配套措施,包括安全帶、交通法規、駕駛執照、碰撞測試和道路基礎設施。目標不是阻止人們開車,而是讓這項強大的技術具備足夠韌性,得以被廣泛使用。


