跳到主要內容
OpenAI

2025年11月6日

公司

AI 發展與建議

AI 正在開啟前所未有的知識與能力,我們的責任是引導這股力量,帶來更普及、更持久的效益。

正在載入...

隨著「圖靈測試」的概念化為現實,許多人難免感到有點錯愕:人們談論了數十年的里程碑,竟然這樣就實現了,但日常生活似乎照常進行。目標原本遙不可及,忽然近在眼前,轉眼間我們已經跨過那道門檻。市面上出現許多出色的新產品,即使電腦如今能與人對話並思考複雜問題,世界卻未有天翻地覆的改變。

多數人仍將人工智能視為聊天機械人或更聰明的搜尋工具,但如今已有系統能在極具挑戰性的智力競賽中勝過最聰明的人類受試者。能解決這類難題的人工智能系統,距離成為真正的 AI 研究員已不遠,不再只是剛起步的階段,而是接近成熟。多數人使用人工智能的方式,與其現有能力之間仍存在巨大落差。

能自主發現新知,或提升人類效率的人工智能系統,將深刻改變世界。

短短數年間,人工智能已從只能完成人類幾秒內可解的任務(特別是在軟件工程領域),進步至可處理人類需數小時才能完成的工作。我們預期不久後人工智能將能完成人類需花數天甚至數週的任務;至於能在短時間內完成需人類數百年才能達成的工作,仍超出我們的想像。

與此同時,達到相同智能等級的成本急劇下降,根據合理推算,過去數年每年平均降幅達 40 倍! 

到 2026 年,我們預期人工智能將能自主達成微小發現。到 2028 年及以後,我們相當有信心會出現能帶來重大發現的系統,雖然也可能有誤,但這正是研究進展所顯示的方向。

我們一直相信,人工智能的發展會以出乎意料的方式展開,而社會亦會找到與技術共存共進的方法。即使未來數年人工智能的能力迅速躍進,我們仍預期日常生活不會劇變,生活方式往往比科技更具慣性。

我們相信未來將出現更多新的、更好的生活方式,讓更多人能擁有充實的人生。的確,工作的樣貌將會改變,經濟轉型在某些層面上或會非常艱難,甚至可能需要重新定義社會經濟契約。然而,在一個資源普及且豐足的世界裡,人們的生活或會比今日更美好。

人工智能將協助人們了解健康狀況,加速材料科學、藥物開發及氣候建模等領域的發展,並讓世界各地的學生更容易獲得個人化教育。展示這些具體效益,有助凝聚共識,讓人工智能不僅提升效率,更能讓生活變得更美好。

OpenAI 深切重視安全,我們認為「安全」的本質,是透過減少負面影響來放大人工智能的正面價值。儘管潛在效益可觀,我們仍視超級智能系統的風險為可能造成災難的挑戰,並相信透過對安全性價值對齊實證研究,可協助全球作出關鍵決策,例如當系統愈來愈接近具自我改進能力時,是否應放慢發展步伐,以更審慎地研究。顯然,在未能穩定確保價值一致及控制超級智能之前,任何人都不應部署這些系統,而這仍需大量技術投入。 

以下是我們認為有助推動人工智能良性發展的重點方向:

前沿實驗室共同訂立標準並互相分享見解。 

我們認為前沿實驗室應就共同的安全原則達成共識,並分享安全研究、交流新風險經驗,以及建立減少競爭壓力的機制,多管齊下。我們可以想像,若前沿實驗室能就人工智能控制評估建立一致標準,將大有助益。

人類社會曾經歷類似過程,制定出建築規範與消防標準,這些制度至今已拯救無數生命。

若有一套與技術能力相稱的公共監督與問責制度,既能推動人工智能的正面影響,也能減輕潛在風險。 

關於人工智能,目前主要有兩種觀點。其一認為人工智能屬於「一般科技」,將如以往的科技革命,從印刷術到互聯網一般逐步發展。技術發展的步伐會讓人們與社會有時間適應,而傳統公共政策工具應足以應對。我們需要優先考慮的措施包括促進創新、保障與 AI 對話的私隱,並與聯邦政府合作防止不當分子濫用強大系統。

我們相信人工智能已大致達到現今世代的能力水平,並應廣泛普及。這意味著大多數開發者、開放原始碼模型及現有技術的部署,原則上僅需在現行監管架構下運作,無須再加諸過多規範負擔。理論上也不應面對各州標準不一、規範分散的情況。

另一派觀點則認為,超級智能會以人類前所未見的方式與速度發展及擴散。在此情況下,我們仍應推行上述措施,同時必須展現更高的創新能力。倘若這類技術的發展確實超出社會能以「一般方式」適應的範圍,那麼傳統監管模式的成效恐怕亦有限。在這種情況下,我們或需與多國行政機關及相關單位(例如各安全研究機構)緊密合作,加強協調,尤其針對兩大範疇:防止 AI 被用於生物恐怖主義並運用 AI 偵測及預防相關威脅,以及評估自我改進型 AI 的潛在影響。

首要方向應是確保對公共機構負責,但達成這項目標的方法可能需要有別於以往。

建立 AI 韌性生態系統。 

無論最終實現哪一派觀點,建立 AI 韌性生態系統都是關鍵。回顧互聯網出現之初,人類並非依靠單一政策或企業保護,而是發展出整個網絡安全領域,涵蓋軟件、加密協定、標準、監控系統與緊急應變團隊等。該生態系統雖未能完全消除風險,但成功將風險降至社會可接受的水平,使人們得以信任數碼基礎設施,並以此發展生活與經濟。我們也須為 AI 建立類似體系,而各國政府在推動相關產業政策及促進此項發展上,將發揮重要作用。

前沿實驗室與政府應持續就人工智能影響進行報告與評估。 

了解人工智能如何具體影響世界,有助更有效地引導技術朝正面方向發展。預測並不容易;例如,AI 對就業的影響難以預期,部分原因在於現時 AI 的優劣勢與人類截然不同。實際監測與評估正在發生的變化,將能提供寶貴見解。

以強化個人能力為核心的發展方向。 

我們相信成年人應能在社會既定規範範圍內,自主使用 AI。我們預期,在未來數年內,先進 AI 將成為與電力、潔淨水源或食物同等重要的基礎公共資源。最終,我們認為社會應推動這些工具的普及化,並以協助人們實現目標為長遠願景。

作者

OpenAI