每隔幾代人,就會有一項新技術改變一切。
想像電力在 1920 年代來到美國鄉郊小鎮。在電力設施普及之前,人們的日常生活受到許多現實條件的限制:挑水、手洗衣物、用冰保存食物,以及在太陽下山後結束一天中大部分活動。電力並沒有一夜之間改變每個家庭,而且它帶來的好處也不是所有人都能同樣受惠。但隨着使用範圍擴大,日常生活也改變了。夜間照明延長人們活動的時間。電動水泵、電器和冷藏設備減輕了一些最艱辛的日常勞動。收音機把數百英里外的新聞、音樂,以及與外界的連結,帶進家中和社區空間。
電力最初帶來的是實際效益,但其更深層影響,來自當更多人能使用它時所開啟的新可能。隨着時間推移,各種嶄新的應用不斷出現,機器和電腦大大加速了醫學、工程及許多其他領域的進步。到 20 世紀末,人類平均壽命增加了 20 多年,經通脹調整後的收入中位數也增至約三倍。這些進步在很大程度上來自醫療、衞生和生活水平的進步,而廣泛的電氣化及相關技術發展,正是促成或加速這些改變的重要因素。
如今,AI 正帶來同樣的變革。AI 很快將能做到非凡的事情。但重點不在於技術本身。重點在於人們能用它做什麼。它可以幫助人們理解醫療帳單、學習新技能、創辦小生意、照顧年邁父母、理解法律或財務決定、把想法變成現實,甚至推動科學發現。
夜間有燈光的驚奇感或許很快消退,但人們運用電力所創造出的各種可能性卻沒有。而且,由於科技長久以來持續為人類帶來繁榮,我們認為 AI 也應讓每個人在需要的時候、需要的地方,都能依自己的需求充分使用。
那樣的未來不會自動發生。變革性技術可以集中權力,也可以擴大權力分佈。它可能只讓少數人受益,也可能為更多人創造機會。我們的方法植根於這一信念:AI 應為人服務,幫助人們追求自己的目標、提升能力,並盡可能讓更多人共享這項技術帶來的成果。
我們的第一項承諾,是建設服務人類的 AI。這意味着我們希望廣泛賦能人們,而不是看到權力集中在少數企業、政府或個人手中。我們相信,更安全的未來是權力得到廣泛分配,讓世界上更多人都能參與建設 AI 韌性生態系統。*
我們對 AI 抱持樂觀態度,因為我們相信它能擴展人類能力與帶來繁榮。但我們也清楚看見其中風險。強大的系統必須保持安全、符合人類意圖,並受人類控制。OpenAI 的使命,是確保 AGI 造福全人類。這表示我們要打造的系統是協助人們完成自己想做的事,而不是取代人類判斷何者重要。
把一切完全自動化,並不是我們想要的未來。那會令人缺乏滿足感,也充滿風險。AI 應幫助人們追求目標,而不是與這些目標脫節。隨着 AI 系統能力提升,人類的角色會變得更重要:設定方向、作出取捨、運用判斷,並把價值觀、品味、關懷和責任融入其中。
從長遠看,人類的一個關鍵角色將是決定什麼值得去做。
我們相信,在未來幾年,由 AI 進行 AI 研究將成為決定進展速度的因素。這很重要,因為對齊本身就是一個艱難的研究問題。為取得快速而深入的進展,我們的研究員將需要 AI 系統幫助測試想法、找出錯誤、探索替代方案,並與我們一同反覆調整。
然而,技術進步越快,人類的判斷與公共協調就越重要,而不是越不重要。未來應由人、機構和社會共同塑造,而不僅由建造最強大系統的企業塑造。
隨着前沿 AI 持續發展,我們預期國家和全球層面的協調將變得更重要。我們長久以來相信,最終應有一個國際組織,協助協調重要的 AI 發展工作,以降低災難性風險。合作和共享安全標準,是邁向未來的重要基礎,尤其是在商業與國家層面的競爭難以避免的情況下。這類組織的重要目標之一,應是讓世界能採取協調行動,包括在有需要時放慢前沿發展,使社會韌性、安全和 AI對齊能跟上步伐。
建立自動化 AI 研究員:打造一個能加速並逐步自動化研究流程本身,同時仍可引導、可問責,並與人保持連繫的 AI 系統。我們內部相信,到 2028 年 3 月,可能已有相當一部分研究由 AI 系統與我們的研究員共同完成。為在對齊方面取得足夠進展,我們相信需要 AI 與我們一同反覆調整。這將幫助我們應對邁向後 AGI 世界的過渡,並共同決定通往未來的方向。
加速經濟發展:透過加快科學進展、生產力和經濟增長,同時致力確保成果得到廣泛分享。每個人都應有機會共享 AI 創造的繁榮成果。
為地球上每個人提供個人 AGI:讓每個人能以自己選擇的方式,從人類最具變革性的技術中受益。
為實現這一點,我們正進入 OpenAI 的第三階段。
OpenAI 的第一階段,是圍繞邁向 AGI 開展研究。第二階段始於我們的研究開始在現實世界產生影響,而 OpenAI 也成為一家產品公司:部署系統,從人們的使用方式中學習,並持續推進安全且符合我們使命的 AGI。
現在,我們正進入第三階段。AI 正開始重塑經濟。當前的核心問題,是如何讓先進 AI 更普及、更容易負擔、更安全、更實用,且更容易使用,讓每個人和每個組織都能從中受益。打造前沿能力只是其中一部分。更大的任務,是把這種能力轉化為人們真正能用來蓬勃發展的工具。
最重要的是,我們相信廣泛分配權力將有助於帶來更好的未來。人類歷史顯示,權力集中會造成脆弱性,而權力廣泛共享則使社會更具韌性、適應力和自由。
這就是為什麼讓更多人都能使用 AI 如此重要。也正因如此,安全、隱私、可負擔性、開放的生態系統,以及公共監督同樣重要。
理想的 AI 未來不應是少數機構掌握大部分能力和大部分收益,而應是一個讓更多人、企業、社群和國家都能建設、受益並掌握權力的未來。我們相信,這場轉型應屬於每一個人。
如果我們把這件事做好,AI 可以成為提高大眾生產力、創造力、科學進展和經濟機會的基礎,而我們也將實現使命:確保 AGI 造福全人類。
*AI 韌性是指社會可建立的各類組織、系統和個人能力,用以預測、承受、適應並迅速從 AI 驅動的衝擊中恢復。例如,汽車改變了社會,但它之所以能廣泛造福人群,是因為社會建立了一整套配套措施:包括安全帶、交通法規、駕駛執照、碰撞測試和道路基礎設施。目標並不是阻止人們駕駛,而是讓一項強大的技術具備足夠韌性,以便廣泛使用。


