跳到主要內容
OpenAI

2025年9月2日

安全產品

為所有人締造更能提供幫助的 ChatGPT 體驗

將敏感對話導向至推理模型,並在下個月推出家長控制功能。

正在載入...

我們致力令 ChatGPT 盡可能提供幫助,並持續推行相關的改善。我們見到用戶在最艱難的時刻向 ChatGPT 尋求幫助。因此我們繼續改善模型在識別和回應精神與情緒困擾徵兆的表現,並參考專家的意見。 

這項工作一直在進行中,但我們想積極預覽未來 120 天的計劃,讓用戶無需等待新功能發佈,即可了解我們的發展方向。這項工作會在未來持續進行,但我們會集中在今年內盡量推出更多相關改善。 

上星期,我們分享了於大家最有需要時提供協助的四大重點範疇:

  1. 對更多面對困境的用戶介入協助
  2. 方便用戶聯絡緊急服務並尋求專家的協助
  3. 促成與可信聯絡人的連繫
  4. 加強對青少年的保障 

部分工作將會快速進展,而其他部分則可能需要較多時間。 

今日,我們想進一步分享我們如何與專家合作以引領改善工作,如何善用推理模型應對敏感時刻,同時詳細介紹我們其中一個重點範疇:加強對青少年的保障。 

與專家攜手合作

AI 是新的技術,而且不斷進化,我們希望確保 AI 發展可以由身心靈與精神健康的深入專業知識所帶領。我們的身心靈健康與 AI 專家委員會全球醫生網絡攜手合作,提供專門的醫學專業知識,同時在發展方針上廣納各方觀點,以同時兼顧專家知識的深度與廣度。我們會在 120 天發展計劃期間分享更多相關工作詳情。

身心靈健康與 AI 專家委員會

今年較早前,我們開始召集青少年發展、精神健康和人類與電腦互動等多個領域的專家,以組成委員會。這個委員會的角色是要規劃基於實證的清晰方向,釐定 AI 如何可支援人類的身心靈健康並幫助用戶茁壯發展。

專家的意見將有助我們定義和衡量身心靈健康、訂立我們的優先考慮,並參考最新研究所得以設計未來的保障措施,例如未來的家長控制功能調整。委員會將會就我們的產品、研究和政策決定提供建議,但 OpenAI 將繼續為我們所作的決策負責。 

全球醫生網絡

委員會將和全球醫生網絡配合運作,這個全球網絡由在 60 個國家/地區中執業的超過 250 位醫生組成,在過去一年協助我們進行醫療基準評估等工作,以更進一步測量 AI 系統在醫療方面的能力。

在這個龐大的網絡中,包括精神學家、兒科醫生及全科醫生等來自 30 個國家/地區的超過 90 位醫生已參與我們的研究,協助探討我們的模型在精神健康情境下應有的行為。他們的意見直接指導我們的安全性研究、模型訓練及其他介入工作,協助我們在有需要時迅速獲取合適專家的幫助。

我們亦邀請更多臨床醫生和研究人員加入網絡,包括在飲食失調、物質濫用和青少年健康方面有豐富專業知識的專家。

善用推理模型應對敏感時刻

我們的推理模型(如 GPT‑5‑thinking 及 o3)可以因應不同情境,在回答前花更長時間思考和推理。我們以稱為審慎對齊的方法來訓練推理模型,而測試顯示(在新視窗中開啟)推理模型可以更一致地遵從和執行安全指引,同時更能抵抗對抗性提示

我們最近亦在模型中推出了實時路由器,可以基於對話情境,選擇採用快捷的聊天模型或推理模型。我們即將開始在部分敏感對話中應用路由功能,例如當系統偵測到用戶有情緒困擾徵兆並急需協助,無論用戶最初選擇了哪個模型,都會將對話導向至 GPT‑5‑thinking 等推理模型,以便能提供更實用和更有幫助的回覆。我們會謹慎地反覆調整這個做法。

加強對青少年的保障

現在很多年輕人都有使用 AI。他們可算是首批「AI 原生族」,在日常生活中習慣有這些工具協助,就像上幾代在互聯網或智能手機陪伴下成長一樣。這為我們帶來支援、學習和發揮創意的真正機會,但同時表示家庭和青少年可能需要支援,以制定可符合青少年獨特發展階段的健康指引。

家長控制

今年較早前,我們開始提供更多方式,讓全家人可一同使用 ChatGPT,並決定最適合全家人的做法。在未來一個月,家長將可以:

  • 透過簡單的電郵邀請,將自己的帳戶連結至青少年子女的帳戶(最低年齡 13 歲)。
  • 透過適齡模型行為規則控制 ChatGPT 回覆青少年子女的方式,這項設定會預設啟用。
  • 管理可停用的功能,包括記憶和聊天記錄。
  • 在系統偵測到青少年子女有情緒困擾並急需協助時收到通知。專家意見將引領這項功能,以協助在家長和青少年之間建立信任。

這些家長控制可加強我們為所有用戶推出的功能,例如在較長的工作階段中發出應用程式內提醒,鼓勵用戶小休一下。

而這種種步驟僅為我們支援工作的起步點。我們會在專家指引下持續學習並加強我們的措施,希望能令 ChatGPT 盡可能提供幫助。我們期待在未來 120 天繼續分享更多進展。