OpenAI API

我們即將推出一項 API，可供存取 OpenAI 開發的新 AI 模型。與多數針對單一使用案例設計的人工智慧系統不同，目前的 API 提供一種通用的「文字輸入、文字輸出」介面，讓使用者可用於執行幾乎所有英文的任務。您現在可以申請存取權，以便將 API 整合至您的產品、開發全新應用程式，或協助我們探索這項科技的優勢與限制。

只要輸入任何文字提示，API 將回傳一段文字補全內容，並嘗試符合您所提供的模式。您可以展示幾個您希望它執行的範例來將它「程式化」；成功機率通常取決於任務的複雜程度。API 也允許您透過您提供的範例資料集 (無論檔案大小) 上進行訓練或透過學習來自使用者或標註者提供的人類回饋，來針對特定任務調整效能。

我們設計這個 API 既簡單，讓所有人都能使用，也具備足夠彈性，讓機器學習團隊能提高生產力。事實上，我們許多團隊現在都採用了這個 API，才能專注於機器學習研究，而不是分散式系統問題。目前 API 運行來自 GPT‑3⁠(在新視窗中開啟) 系列的模型權重，並進行了許多速度及吞吐量方面的改進。機器學習發展非常快速，我們持續升級我們的科技，讓使用者能保持最新狀態。

該領域發展迅速，經常出現令人意想不到的人工智慧新應用方式，帶來的影響有好有壞。我們將終止明顯有害使用案例的 API 存取權限，例如騷擾、垃圾訊息、激進化行為或草根行銷 (astroturfing) 等情形。但我們也知道，我們無法預見這項科技的所有可能後果，因此我們選擇以私人 beta、而非全面公開，並開發工具協助使用者更有效地控制 API 所回傳的內容，同時持續研究語言科技中與安全相關的面向 (例如分析、減緩及介入有害偏見)。我們將分享我們的研究成果，讓使用者及更廣泛的社群能夠打造為人類帶來利益的人工智慧系統。

除了作為收入來源以協助我們在實現使命⁠的過程中支付相關成本⁠之外，API 也促使我們更加專注於通用人工智慧科技的發展──推進技術本身、提升其可用性，並審慎思考其對現實世界的影響。我們期望這項 API 能大幅降低開發有益人工智慧產品的門檻⁠(在新視窗中開啟)，從而催生出現今難以想像的各種工具及服務。

有興趣探索這項 API 嗎？加入 Algolia⁠(在新視窗中開啟)、Quizlet⁠(在新視窗中開啟) 及 Reddit⁠(在新視窗中開啟) 等公司，以及如 米德爾伯里學院⁠(在新視窗中開啟) (Middlebury Institute) 等機構的研究人員，一同參與我們的私人 beta⁠(在新視窗中開啟)。

最終來說，我們最重視的⁠是確保通用人工智慧能造福全人類。我們認為開發商業產品是確保我們擁有足夠資金來實現目標的其中一種方式。

我們也認為，要在全球安全部署強大的人工智慧系統，將是一項極具挑戰的任務。在推出 API 的同時，我們正與合作夥伴密切合作，觀察人工智慧系統在現實世界中應用時會出現哪些挑戰。這將有助於引導我們的努力方向，了解未來人工智慧系統的部署方式以及需要採取哪些措施，以確保其對所有人均為安全且有益處。

我們這麼做有三大原因。首先，將這項科技商業化能協助我們支付持續進行的人工智慧研究、提升安全性及投入改善政策相關的費用。

其次，API 背後的許多模型規模龐大，開發及部署需仰賴大量專業知識，且執行成本極高。這使得除了大型公司之外，其他人難以受益於這項核心科技。我們希望這項 API 能讓強大的人工智慧系統更容易為中小型企業及各類組織所取得與運用。

第三，API 模型讓我們更容易應對這項科技受到濫用的問題。由於我們難以預測模型後續使用案例的情況，因此透過 API 發佈並逐步擴大開放範圍，相對來說更為安全；相較之下，若直接釋出開源模型，受到濫用而造成有害影響時將無法調整存取權限。

針對 GPT‑2，我們當時最主要的擔憂之一是模型可能被惡意使用 (例如用於散播錯誤資訊)，而一旦模型開源，就很難加以防範。對於 API，我們能透過將存取對象限制為受核准的客戶及使用案例，來更有效地防止濫用行為。所提議的應用程式上線前，必須通過我們的強制生產審閱流程。在生產審閱流程中，我們會從幾個面向評估各項應用程式，並提出以下問題： 這是否屬於目前支援的使用案例？、這項應用程式的開放程度有多高？、這項應用程式的風險程度有多高？、您打算如何應對潛在的濫用情形？及誰是您這項應用程式的最終使用者？。

我們會終止對他人造成 (或意圖造成) 身體、情緒或心理傷害的使用案例之 API 存取權限，包括但不限於騷擾、蓄意誤導、激進化、草根行銷 (astroturfing) 或垃圾訊息，以及缺乏足夠防範機制來限制終端使用者濫用的應用程式。我們在實際運行 API 的過程中累積更多經驗後，將持續調整可支援的使用類別，既擴大應用範圍，也針對具有濫用疑慮的案例制定更細緻的分類。

我們審核 API 使用申請時考量的一項關鍵因素，是該應用程式在系統的核心生產能力展現出的開放行為與受限行為的程度。API 開放應用程式 (即透過任意提示即可不受阻礙地產出大量可自訂文字的應用程式) 特別容易遭到濫用。限制措施可協助讓產生使用案例更加安全，包括設計上納入人為審核機制、限制終端使用者的存取權限、對輸出內容進行後處理、內容篩選、限制輸入／輸出的長度、進行主動監控，以及主題範圍的限制。

我們也持續進行研究，了解 API 提供的模型可能被濫用的情況，並透過我們的學術合作計畫⁠(在新視窗中開啟)與第三方研究人員合作。我們目前僅與少數研究人員合作，並已與學術合作夥伴米德爾伯里學院 (Middlebury Institute)⁠(在新視窗中開啟)、華盛頓大學 (University of Washington) 及艾倫人工智慧研究所 (Allen Institute for AI)⁠(在新視窗中開啟) 獲得初步成果。目前已有數萬人申請參與此計畫，我們現階段優先審核專注於公平性及多元代表性研究的申請案件。

減少有害偏見等負面影響極具挑戰性，也是整個產業共同面對的重要課題。正如我們在 GPT‑3 論文⁠(在新視窗中開啟)及模型說明卡⁠(在新視窗中開啟)中所述，我們的 API 模型確實存在偏見，並會反映在產生的文字中。以下是我們為解決這些問題所採取的措施：

• 我們已制定使用準則，協助開發者理解並解決潛在安全問題。
• 我們正與使用者密切合作，了解使用案例並開發相關工具，以揭露並介入以減緩有害偏見問題。
• 我們正進行自主研究，了解有害偏見的具體表現方式以及公平性與多元代表性等更廣泛的議題，藉此改善現有模型的文件說明，並為未來模型的各項改善提供參考依據。
• 我們了解到，偏見問題是系統與其部署脈絡相互作用下的結果；我們科技打造的應用程式屬於社會系統，因此我們與開發者合作，確保他們執行適當流程及人為審查機制，以監控不當行為。

我們的目標是持續深入了解 API 在各種使用情境中可能造成的危害，並持續改善我們的工具及流程，協助將危害降至最低。

更新於 2020 年 9 月 18 日