AI 有潛力大幅改善社會的許多層面。
這項技術和以往其他技術一樣,會賦予人們更強的能力和自主性;人們日後利用 AI 能做到的事,將遠遠超過蒸汽機或電力曾經讓人做到的事。
我們設想的世界,是一個繁榮普及的世界,其程度之高目前仍難以想像;也是一個個人潛能、自主性和實現自我的程度都大幅提升的世界。許多我們只敢在科幻作品中幻想的事,都可能成為現實,而大多數人都可能過上比今天更多數人所能達到、更有意義的人生。
但這種結果並非必然。未來的權力,既可能掌握在少數幾家運用和控制超級智能的公司手中,也可能以去中心化方式由人們共同掌握。我們相信後者好得多,而我們的目標,是讓真正通用的 AI 盡可能交到更多人手上。和現在一樣,未來不會全然是壞事,也不會全然是好事,但我們現在作出的決定,可以幫助把好的結果最大化。
我們的使命是確保 AGI 惠及全人類。以下是指引我們工作的原則。
1. 民主化。我們會抵抗這項技術把權力集中到少數人手中的可能性。
這意味著,除了讓所有人都能使用 AI 之外,我們還需要確保有關 AI 的關鍵決策,是透過民主程序並以平等原則作出,而不只是由 AI 實驗室決定。
2. 賦能。我們相信,AI 可以賦予每個人力量,去實現目標、學得更多、生活得更快樂和更有滿足感,並追逐夢想,而整個社會亦會因此受益。
要做到這一點,就必須讓人們探索眼前巨大的潛力,而我們需要建立能促成這一點的產品。使用者應該能穩定地透過我們的服務,完成愈來愈有價值的任務。
世界是多元的,而人們的需要各不相同。我們希望給予使用者所需的自主權,並在合理範圍內盡量容許更多可能。
雖然我們希望讓使用者在如何使用我們的服務方面擁有非常廣泛的自由,亦深信 AI 整體上將帶來巨大益處,但我們有責任以盡量減少傷害的方式來建立和部署它。這當然包括防止災難性傷害,但亦包括減少局部傷害,以及避免對社會造成潛在的侵蝕性影響。這意味著在面對不確定性時要傾向審慎,並在有更多證據時放寬限制。
3. 普世繁榮。我們希望未來每個人都能擁有美好生活。
透過把易於使用且具備大量算力的 AI 系統交到每個人手中,我們相信人們會找到新的方式來創造價值,並大幅提升所有人的生活質素,尤其是在發現新科學方面。
要讓繁榮得以充分實現並廣泛共享,我們相信:1)各國政府可能需要考慮新的經濟模式,以確保每個人都能參與眼前的價值創造;以及 2)我們需要建設龐大的 AI 基礎設施,並開發新技術,以大幅降低 AI 基礎設施的成本。
我們做的很多事情看起來或許有點奇怪——例如在收入相對不高時購買大量算力、透過垂直整合來降低成本並令技術更易使用、推動在世界各地建設資料中心,等等——背後都是因為我們對普世繁榮未來的根本信念。
4. 韌性。AI 將帶來新的風險,而我們會與其他公司、生態系統、政府和社會合作解決這些問題。我們會大幅運用基金會的資源來支持這項工作。
沒有任何一家 AI 實驗室能單靠自己確保美好的未來。舉一個明顯的例子,可能會出現能力極強的模型,令製造新病原體變得更容易,而我們需要全社會共同應對,利用不針對特定病原體的對策來防禦。再舉一個例子,隨著模型的網絡安全能力提升,我們需要迅速利用這些模型協助保障開源軟件和關鍵基礎設施的安全,同時訓練模型幫助所有人建立更安全的軟件。
這是我們長期奉行的「逐步部署」策略的延伸;我們相信,社會需要面對 AI 能力逐級提升的每一個階段,理解它、整合它,並共同找出最佳前路。這不能在真空中完成;社會與科技是共同演進的,而這需要時間。
這並不代表這是我們唯一的安全策略;我們亦需要建立安全的系統,並持續在技術對齊方面做好出色工作。
我們預期,在某些時期,我們需要與政府、國際機構及其他 AGI 工作合作,以確保在我們進一步推進工作之前,已充分解決嚴重的對齊、安全或社會問題。
5. 適應力。我們仍然相信,面對高度不可預測的未來,唯一能迎接挑戰的方法,就是隨著了解增加,準備好更新我們的立場。我們亦承認,與幾年前相比,OpenAI 如今已成為世界上一股大得多的力量;當我們的營運原則何時、如何及為何改變,我們都會保持透明。舉一個具體例子,雖然我們相當有信心普世繁榮會一直非常重要,但我們也能想像未來某些時期,我們必須在部分賦能與更強韌性之間作出取捨。
AI 的發展已帶來許多驚喜,未來還會有更多。隨著技術進步,其湧現行為將愈來愈難預測。我們會透過審慎推進能力、以迭代方式部署系統,以及從它們與世界的互動中學習,來擁抱這種不確定性。
其實並非太久以前,我們在發布 GPT‑2 的權重時仍感到緊張,因為我們不肯定這會對社會帶來甚麼影響。事後看來,那顯然是多慮了,但正正因此,我們發現了逐步部署這一策略,而這一直是我們摸索出來最重要的事情之一。
__
隨著技術持續進步,我們正步入一個影響極為深遠的階段。外界對我們每一個決定提出批評,都是非常合理的;考慮到我們所做事情的重要分量,我們理應受到極高程度的審視。我們不會每件事都做對,但我們會迅速學習並調整方向。
我們致力盡自己一分力,令未來比過去更好;能夠承擔如此重要的工作,我們深感幸運。


