隨著「圖靈測試」中廣為人知的概念化為現實,許多人難免感到有些錯愕:人們談論了數十年的里程碑,竟然就這樣實現了,但我們的日常生活似乎還是照樣過。目標原本遙不可及,忽然近在眼前,然後轉眼間我們便跨越了那道門檻。市面上出現許多出色的新產品,電腦如今能與使用者你來我往地對話、能思考複雜的問題,但世界並未出現天翻地覆的改變。
多數人仍將 AI 視為聊天機器人或更聰明的搜尋工具,但如今已有系統能在極具挑戰性的智力競賽中,勝過最聰明的人類受試者。能解決這類困難問題的 AI 系統,距離成為真正的 AI 研究員已經不遠了,不再只是剛起步的早期階段,而是快接近成熟階段。大多數人使用 AI 的方式,與 AI 目前的實際能力之間,仍存在巨大落差。
能自主發現新知,或提升人類效率的 AI 系統,將深刻改變這個世界。
短短幾年間,AI 已從只能完成「人類幾秒可解」的任務(特別是在軟體工程領域),進步到能處理「人類需花上數小時」的工作。我們預期不久後,AI 將能完成人類需花數天甚至數週的任務;至於能在短時間完成需人類數百年才能達成的工作,仍超出我們的想像。
與此同時,達到同等智慧等級的成本已大幅下降,根據合理推算,過去幾年來,平均每年降幅達 40 倍!
在 2026 年,我們預期 AI 將能自主達成微小的發現。到了 2028 年或更久之後,我們相當有信心會出現能有重大發現的系統,雖然也可能出錯,但這正是我們研究進展所顯示的方向。
我們始終相信,AI 的發展會以出乎意料的方式展開,而社會也會隨之找到共存與共進的節奏。即使未來幾年 AI 能力迅速躍進,我們仍預期日常生活不會發生劇變,人們的生活習慣往往比科技變化得慢。
我們相信,未來將出現更多新的、更好的生活方式,讓更多人能擁有充實的生活。的確,工作的樣貌會有所不同,經濟轉型在某些層面來說也會非常艱難,甚至可能迫使社會經濟契約重新定義。然而,在資源普及且豐足的世界裡,人們的生活或將遠勝於今日。
AI 將協助人們了解健康狀況,加速材料科學、藥物開發與氣候建模等領域的進展,並讓世界各地的學生更容易獲得個人化教育。我們盼能透過展現具體效益來凝聚共識,讓 AI 不只是提升效率,更能讓生活變得更美好。
OpenAI 深切重視安全,我們認為「安全」的本質,是透過減少負面影響來放大人工智慧的正面價值。儘管潛在效益相當可觀,我們仍將超級智慧系統的風險視為可能帶來災難的挑戰,並相信透過對安全性與價值一致的實證研究,可協助全球作出關鍵決策。例如,當系統逐步接近具備自我改進能力時,是否應放慢發展步伐,並以更加審慎的態度來研究。顯然,在無法穩定確保價值一致並控制超級智慧之前,任何人都不應部署超級智慧系統,而這仍需大量技術投入。
以下是我們認為有助於推動人工智慧良性發展的重點方向:
我們認為前沿實驗室應就共同的安全原則達成共識,並分享安全研究、交流新風險經驗,以及建立減少競爭壓力的機制,多管齊下。我們可以想像,若前沿實驗室能就人工智慧控制評估建立一致標準,將大有助益。
人類社會曾歷經類似的過程,制定出了建築規範與消防標準,這些制度至今已拯救了無數生命。
關於人工智慧,目前主要有兩種觀點。其一認為人工智慧屬於「一般科技」,將如以往的科技革命,從印刷術到網際網路一般逐步發展。技術發展的節奏會讓人們與社會有時間適應,而傳統公共政策工具應足以因應。我們需要優先考慮的措施包括促進創新、保護與 AI 對話的隱私,並與聯邦政府合作,防止不當分子濫用強大系統。
我們相信人工智慧已大致達到目前世代應有的水準,並應廣泛普及。這表示多數開發者、開放原始碼模型,以及現有技術的部署,原則上僅需在現有監管架構下運作,不宜再加諸過多規範負擔。理論上也不應面臨各州標準不一、規範分散的局面。
另一派觀點則認為,超級智慧以人類前所未見的方式與速度發展與擴散。在這種情況下,我們仍應執行前述多項措施,同時也必須展現更高的創新能力。倘若這類技術的發展確實超出社會能以「一般方式」適應的範圍,那麼傳統監管模式的效果恐怕也會受到一定限制。在這種情況下,我們可能需要與多國的行政機關與相關單位(如各安全研究機構)緊密合作,並加強協調,特別是在兩大領域:防止 AI 被用於生物恐怖主義並運用 AI 偵測與預防相關威脅,以及評估自我改進型 AI 可能帶來的影響。
首要方向應是確保對公共機構負責,但達成這項目標的方式可能需要不同於以往。
無論最後成真的是哪一派觀點,建立 AI 韌性生態系統都無比重要。回顧網際網路問世之初,人們並非依靠單一政策或企業來加以保護,而是發展出整個網路安全領域,涵蓋軟體、加密協定、標準、監控系統與緊急應變團隊等。這個生態系統雖未能完全消除風險,但成功將風險降低到社會可接受的程度,使人們得以信任數位基礎設施,並以此發展生活與經濟。我們也需要為 AI 建立類似體系,而各國政府在推動相關產業政策、促進這項發展上,將扮演關鍵角色。
了解人工智慧如何具體影響世界,有助於更有效地引導技術朝正面方向發展。預測並不容易;例如,AI 對就業的影響難以預期,部分原因在於目前 AI 的優劣勢與人類截然不同。實際監測與評估正在發生的變化,將能提供極具價值的洞見。
我們相信,成年人應能在社會既定的規範範圍內,自主運用 AI。我們預期,在未來幾年內,先進 AI 將成為與電力、潔淨水源或食物同等重要的基礎公共資源。最終,我們認為社會應推動這些工具的普及化,並以協助人們實現目標為長遠願景。


