隨着我們的模型越來越聰明，在現實世界中採取的行動也帶來越來越重大的影響，模型便越需要超越對具體指示的理解。模型也需要理解人類的意圖和價值觀，才能在指示未有明確涵蓋的情況下作出良好判斷，同時忠於人類意圖並接受人類監督。
今天，我們更新了模型規格（在新視窗中開啟），這份公開文件說明了我們期望模型如何行事。本次更新以五項根本價值為主軸，重新編排指引：忠於人類意圖、盡量減少傷害、誠實與透明、人類自主性，以及關懷。這反映了我們在價值觀對齊工作上的一項目標：讓模型在陌生情境下也能理解並應用人類價值觀，同時忠於人類意圖。除了更清晰地解釋現有原則，本次修訂亦新增了情境、監督和自主性方面的指引，調整部分預設行為，並刪去大部分詳細的風格指引。
上述五項價值闡明了《模型規格》各部分原已體現的整體承諾：服務人類的目標、如實表達、盡量減少傷害、尊重人們形成自身觀點的自由，以及認真看待他們的處境。將這些承諾整合起來，有助說明規格為何對模型行為作出這些要求，也有助我們就以往闡述未夠充分的承諾，制定更清晰的指引。本次更新是我們持續完善規格的又一步。這項工作以研究、模型部署經驗、公眾對規格及模型行為的意見，以及與用戶和外部專家的討論為依據。
我們希望 AI 能造福世界各地的人，不論他們有甚麼需要、價值觀或對未來的期望。
這個方向以忠於人類意圖為基礎：理解人們重視甚麼，並協助他們追求這些事物。OpenAI 編寫規格、設定界限，並訓練模型遵守這些界限；開發人員在界限內決定應用程式如何運作；用戶則在這些限制下指示模型工作。我們的模型應協助人們理解世界、發掘可能性，並追求自己選擇的目標，從而提升他們塑造自身生活的能力，同時認真考慮這些協助對他人的影響。「忠於人類意圖」和其餘四項價值構成規格的編排主軸，並指引模型如何處理一些最重要的取捨。這些價值並非要涵蓋模型應尊重並協助人們追求的所有人類價值觀。
忠於意圖，意味着不只按字面遵循指示，而是深入理解 OpenAI、開發人員和用戶的意圖及重視的事物，並在理解仍不充分時明智行事。這也意味着認識到人們的信念和價值觀會改變，並以他們認同的方式協助他們反思和成長，而不是暗中引導他們或推翻他們的選擇。例如，在協助用戶比較不同的聘用條件時，模型可以參考對方先前提過的優先考慮事項，例如希望能預先掌握工作時間，同時清楚說明這些假設，讓對方容易修正。
我們的使命是確保通用人工智能造福全人類。這要求我們不只考慮一個人當下的意圖，也要兼顧其長遠利益及對他人的影響。其餘四項價值明確列出了這些考慮：
盡量減少傷害，意味着遵守不可逾越的安全界限，並考慮模型行動可預見的後果。
誠實與透明，意味着如實說明模型知道甚麼、做了甚麼，以及對甚麼尚不確定，讓人們能理解和評估其推理與工作成果。
促進人類自主性，意味着增強人們自行理解、選擇和行動的能力。
關懷，意味着顧及受影響者的處境、遵循相關的社會及專業規範，並提供值得信賴的工作成果。
規格將這些價值轉化為實用指引，在有需要時設定不可逾越的界限，以保護個人和社會；其餘內容則大多以預設規則的形式呈現，用戶和開發人員可按需要更改這些預設規則。
在更新模型規格的同時，我們也一直探索新的訓練方法，協助模型學習這些核心價值，並更好地理解和遵循規格中的具體行為原則。目標是讓模型理解這些原則為何重要，以及如何在新情境中應用：做正確的事，並且基於正確的理由。我們希望這種理解能幫助模型在重大決策中作出穩健判斷，並在日常決策中體現關懷，讓這些決策逐步為個人和社會帶來長遠裨益（在新視窗中開啟）。我們會在日後的更新中分享這項訓練工作的成果和經驗。
這次重新編排也幫助我們找出哪些地方需要補充指引，為此制定新原則，並按需要修訂或刪除現有指引。
新增的「忠於人類意圖」章節以這個理念為起點：人們重視的事物才是根本，而指示通常是最清晰、最重要的線索，反映這些價值取向。這個方法借鑑了以協助博弈（assistance games）理解對齊問題的框架（參見早期研究（在新視窗中開啟）及後來的概述（在新視窗中開啟））。本章納入了更新後的指令層級（在新視窗中開啟），說明哪些指示適用，以及如何解決指示之間的衝突。新增的小節「審慎考慮情境（在新視窗中開啟）」說明模型應如何根據對話、記憶和其他情境線索，理解人們的意圖和偏好。
我們也新增了支持人類自主性（在新視窗中開啟）及遵循相關社會規範（在新視窗中開啟）的預設規則，並擴充了控制及說明附帶影響（在新視窗中開啟）的現有指引。這些原則進一步說明其餘價值應如何體現在模型行為中，包括一些往往細微卻十分重要的做法：在尊重用戶目標和指示的同時，考慮工作對他人的影響、增強用戶能力，並提供值得信賴的工作成果。
與此同時，我們會刪去規格中大部分詳細的風格指引。風格應因應人們的偏好作出調整，兼顧整體偏好、不同語言和文化群體的偏好，以及個人偏好；用戶意見和情境則提供了了解這些偏好的線索。規格仍保留要求較嚴格的預設規則，例如客觀處理問題（在新視窗中開啟）。用戶和開發人員可以明確要求模型採取特定觀點，但模型不應僅憑自己猜測他們想聽甚麼，就推斷他們有這種偏好。
最後，隨着模型的用途和部署環境日益廣泛，我們現在在規格中以「GPT」而非「助理」稱呼模型，以反映這項變化。
隨着模型能力不斷提升，本次更新是我們更明確闡述規格背後價值觀和理據的第一步。模型規格描述了我們正努力實現的行為目標；目前模型的表現尚未完全符合這些要求。我們會繼續從研究、實際使用和各方意見中學習，同時改進規格和模型。
我們希望聽到你的看法：規格中哪些部分令你信服，哪些取捨你不認同，以及有哪些遺漏或表述不清之處。你對價值觀、取捨和具體措辭的意見，都能幫助我們完善規格。誠邀你閱讀更新後的模型規格（在新視窗中開啟），並分享你的觀點（在新視窗中開啟）。
