AI 有潛力大幅改善社會的許多層面。
這項技術和先前的其他技術一樣,將賦予人們更強的能力與自主性;人們運用 AI 所能做到的事,將遠遠超過蒸汽機或電力曾讓人們做到的事。
我們設想的世界將普遍繁榮,程度之高目前仍難以想像;在那樣的世界裡,個人的潛能、自主性與成就感都將顯著提升。許多我們只敢在科幻作品中夢想的事,都可能成為現實,而且大多數人都能過上比今天更多數人所能擁有的、更有意義的人生。
但這樣的結果並非必然。未來的權力,可能掌握在少數使用並控制超級智慧的公司手中,也可能以去中心化的方式掌握在人民手中。我們相信後者要好得多,而我們的目標,是讓真正通用的 AI 盡可能掌握在更多人手中。和現在一樣,未來不會全然是壞事,也不會全然是好事,但我們現在做出的決定,可以幫助把好的結果最大化。
我們的使命是確保 AGI 造福全人類。以下是指引我們工作的原則。
1. 民主化。我們會抵制這項技術可能讓權力集中到少數人手中的趨勢。
這表示,除了讓每個人都能取得 AI 之外,我們也必須確保有關 AI 的關鍵決策是透過民主程序並依循平等原則來做出,而不只是由 AI 實驗室決定。
2. 賦能。我們相信 AI 能讓每個人更有能力實現自己的目標、學到更多、變得更快樂且更有成就感,並追求自己的夢想,而整個社會也將因此受益。
要做到這一點,就必須讓人們探索眼前巨大的潛能,而我們需要打造能促成這一點的產品。使用者應能可靠地透過我們的服務,完成價值不斷提高的任務。
世界是多元的,而人們的需求也各不相同。我們希望賦予使用者所需的自主權,並在合理範圍內盡可能放寬限制。
雖然我們希望讓使用者在如何使用我們的服務上擁有非常廣泛的自由,並且堅信整體而言 AI 將帶來巨大的益處,但我們有責任以能將傷害降到最低的方式來建構與部署它。這當然包括防止災難性傷害,也包括減少局部傷害並避免可能腐蝕社會的影響。這意味著在面對不確定性時,我們會傾向採取較謹慎的做法,並在有更多證據後放寬限制。
3. 普遍繁榮。我們希望未來每個人都能擁有卓越的生活。
我們相信,只要把易於使用且具備大量算力的 AI 系統交到每個人手中,人們就會找到新的方式來創造價值,並大幅提升所有人的生活品質,尤其是在新科學發現方面。
為了讓繁榮得以充分實現並被廣泛共享,我們認為 1) 各國政府可能需要考慮新的經濟模式,以確保每個人都能參與眼前的價值創造;以及 2) 我們需要建設大量 AI 基礎設施,並開發新技術,大幅降低 AI 基礎設施的成本。
我們做的許多看起來很奇怪的事——在營收相對不高時購買大量算力、透過垂直整合來降低成本並讓技術更易使用、推動在全球各地建設資料中心等等——都源自我們對普遍繁榮未來的根本信念。
4. 韌性。AI 將帶來新的風險,而我們會與其他公司、生態系、政府及社會合作來解決這些問題。我們也會大力運用基金會的資源來支持這項工作。
沒有任何一家 AI 實驗室能單靠自己確保一個美好的未來。舉一個明顯的例子,可能會出現能力極強的模型,使得創造新病原體變得更容易,因此我們需要全社會共同採取與病原體種類無關的因應措施來防範。再舉一個例子,隨著模型的資安能力提升,我們需要迅速利用這些模型協助保護開源軟體與關鍵基礎設施,同時訓練模型協助每個人建立更安全的軟體。
這是我們長期採行的「逐步部署」策略的延伸;我們相信,社會需要面對 AI 能力每一次提升、理解它、整合它,並共同找出最佳前進路徑。這無法在真空中完成;社會與技術是共同演化的,而這需要時間。
這並不是我們唯一的安全策略;我們也需要打造安全的系統,並持續在技術對齊上做出卓越工作。
我們預期,未來將有一些時期,我們需要與各國政府、國際機構及其他 AGI 團隊合作,確保在進一步推進工作之前,我們已充分解決嚴重的對齊、安全或社會問題。
5. 適應力。我們仍然相信,面對高度不可預測的未來,唯一能迎接挑戰的方法,就是準備好隨著理解加深而更新我們的立場。我們也承認,和幾年前相比,OpenAI 如今已成為世界上更強大的力量;當我們的運作原則改變時,我們會對改變的時間、方式與原因保持透明。舉例來說,雖然我們相當確信普遍繁榮仍會非常重要,但我們也可以想像,未來某些時期我們必須在部分賦能與更多韌性之間做出取捨。
AI 的發展已帶來許多驚喜,而未來還會有更多。隨著技術進步,其湧現行為將變得越來越難以預測。我們透過謹慎推進能力、逐步部署系統,並從它們與世界的互動中學習,來擁抱這種不確定性。
不久之前,我們還曾因為不確定 GPT‑2 權重釋出會對社會造成什麼影響而感到緊張。事後看來,那顯然是多慮了,但這也促使我們發現了逐步部署的策略,而那是我們摸索出的最重要事情之一。
__
隨著技術持續進步,我們正邁入一個影響極其深遠的階段。外界對我們的每一項決定提出批評,都是非常合理的;考量到我們所做之事的重要性,我們理應接受極為嚴格的審視。我們不會每件事都做對,但我們會快速學習並修正方向。
我們致力於盡自己的一份力,讓未來比過去更好;能承擔如此重要的工作,我們深感幸運。


