我們的若干原則存在衝突,故希望藉此解釋我們就青少年安全、自由和私隱之間的矛盾所作的決定。
保護使用 AI 的私隱對我們乃至社會都極為重要。隨着大家越來越常與 AI 談論私事;與先前的科技相比,AI 或許是大家最個人、最敏感的其中一個帳戶。如果您與醫生討論病歷,或與律師討論法律情況,我們認為保密這些資訊並提供較高程度的保障,將最符合社會的利益。而隨着越來越多人會向 AI 提出敏感問題和個人疑慮,我們亦相信,與 AI 的對話也需要同樣程度的保障,並正在向決策者倡導這一點。
我們正在開發先進的安全功能,務求確保您的資料私隱,即使是 OpenAI 的員工也無法查閱。然而,正如其他類型的權利一樣,資料私隱仍受特定例外情況約束,例如:自動化系統會監控潛在的嚴重濫用情況,而對某人生命的威脅、傷害他人的計劃等重大風險,或潛在的大規模網絡安全事件等社會風險,則可能會獲上報作人手審核。
第二個原則關於自由。我們希望用戶能夠在非常廣泛的安全範圍內,以他們心儀的方式使用我們的工具。隨着我們的模型越來越易於使用,我們亦一直致力逐步提升用戶的自由度。舉例而言,我們模型的預設行為不會帶來太多調情對話,但假如成年用戶有所要求,我們的模型應可加以迎合。以更複雜的情況為例,模型預設不應提供自殺方法的說明,但如果成人用戶要求協助撰寫描述自殺的虛構故事,模型應可協助處理這個請求。正如我們的內部討論所述:「像對待成人一樣對待我們的成人用戶」,在不構成傷害或損害他人自由的前提下,我們希望盡可能擴大自由度。
第三項原則關於保護青少年。相對私隱和自由,青少年的安全是我們的優先考慮;鑑於 AI 技術的新穎及強大本質,我們相信未成年人士需要重點保護。
首先,我們必須區分成年用戶與未滿 18 歲的用戶 (ChatGPT 的對象為 13 歲或以上人士)。我們正在建立年齡預測系統,根據用戶使用 ChatGPT 的方式來估算其年齡。如有不確定的情況,我們則會預設提供適合 18 歲以下人士的體驗以策安全。在部分情況或國家/地區,我們亦可能會要求用戶提供身份證明文件。雖然這對成人而言可能有損私隱,但我們相信這是值得妥協的取捨。
我們會對使用我們服務的青少年實施不同的規則。例如,ChatGPT 將接受訓練,即使在創作環境也不會提出上述的調情談話,亦不會參與有關自殺自殘的討論。如遇未滿 18 歲的用戶有自殺念頭,我們會嘗試聯絡用戶的家長,並在無法成功聯絡的情況聯絡有關當局,務求防止突發的傷害情況。我們今天進一步分享了有關年齡預測系統和新的家長控制功能之建立方法,務求落實我們的原則。
我們明白這些原則存在衝突,而且並非所有人都會認同我們解決衝突的方式。雖然這些決定艱鉅,但與專家討論之後,我們認為這是最好的定案,並希望開誠公開我們的目的。



