我們有一部分的原則彼此牴觸,因此針對青少年的安全、自由與隱私之間的緊張關係,我們希望對我們所作出的決策進行解釋。
無論是對於我們乃至整個社會,保障使用 AI 時的隱私權都極為重要。人們與 AI 交流的內容越來越私密;這與以往的科技世代大相徑庭,我們相信,這些對話可能會成為你所擁有過的、最私密且敏感的紀錄之一。當您與醫生討論病史,或與律師討論法律事件,我們認為,出於社會整體利益立場,這類資訊都應享有特權並獲得更高程度的保護。我們認為,人們越來越倚賴 AI 詢問敏感問題和私人疑慮,這些對話也應適用相同等級的保護。我們正向政策制定者倡議這項保護。
我們正在開發先進的安全功能,確保您的資料始終保持私密,即使是對 OpenAI 員工的資料也是同樣做法。如同其他類別的特權,也會有某些例外:例如,系統會自動監控潛在的嚴重濫用,而對他人生命構成威脅、傷害他人的計畫,或可能造成大規模社會影響的事件(例如重大網路安全事件)等最關鍵的風險內容,可能會向上呈報,交由人工審查。
第二個原則與自由有關。我們希望使用者能在相當寬鬆的安全範圍內,以他們希望的方式使用我們的工具。我們的模型越來越可控,我們也一直在努力逐步提升使用者的自由度。例如,在我們模型的預設行為中,不會引導過多調情對話,但如果成年使用者提出需求,則應該為他們提供這樣的回應。舉一個更困難的例子,預設情況下,模型不應提供自殺操作指引,但如果成年使用者是在請求幫助撰寫描寫與自殺有關的虛構故事,模型便應協助完成這些請求。我們內部用「把成年使用者當作成年人對待」來形容這項原則,也就是在不造成傷害或侵害他人自由的前提下,盡量延伸使用者的自由。
第三個原則是對青少年的保護。對於青少年,我們優先考量安全,其地位高於隱私與自由;這是一項全新且強大的技術,我們認為未成年人需要獲得充分保護。
首先,我們必須將未滿 18 歲的使用者與成年人區分開來(ChatGPT 適用於 13 歲以上的人)。我們正在建立一個年齡預測系統,根據使用者使用 ChatGPT 的方式來估算年齡。若有疑慮,我們會採取安全優先的做法,預設提供未滿 18 歲的使用體驗。在某些情況或國家,我們可能也會要求對方提供身分證明;我們知道此舉對成年人而言涉及隱私權之減損,但認為這是值得實施的權衡措施。
我們對使用我們服務的青少年採取另一套規則。例如,即便使用者提出要求,ChatGPT 所受的訓練也會使其不要進行前述的調情對話,或在創意寫作情境中避免討論自殺或自我傷害。如果未滿 18 歲的使用者出現自殺意念,我們會嘗試聯絡使用者的父母,若聯絡不上,則在發生迫在眉睫的危險情況時,通知相關當局。我們今天還分享了如何建立年齡預測系統以及新的家長控制功能,為施行這些措施提供支援。
我們明白這些原則之間存在衝突,且並非所有人都會認同我們解決衝突的方式。作出這些決策並不容易,但在與專家討論後,我們認為這是最好的做法,也希望讓我們的意圖始終保持透明。



