OpenAI API

我們推出可取用 OpenAI 開發全新 AI 模型的 API。大部分 AI 系統專為單一用例而設計，而目前的 API 卻與此不同，提供「文字輸入、文字輸出」的通用介面，用戶幾乎可以在任何英文任務上試用。您現在可以提出存取要求，將 API 與您的產品整合、開發全新應用程式，或者協助我們探索此科技的強項和限制。

API 收到任何文字提示後，會回覆一段文字補全，嘗試配合所提供的模式。只要向 API 提供幾個例子以說明您想完成的工作，即可為它「編程」；成功率因應任務的複雜程度而異。此外，為 API 提供範例資料集（小型或大型均可）進行訓練，或讓它學習由用戶或標示者提供的人類反饋，您便可以使用 API 來訓練特定任務的表現。

我們設計的 API 簡單易用，又具有彈性，任何人都可以使用，同時能夠提升機器學習團隊的工作效率。事實上，我們許多團隊正在使用 API，以便專注於機器學習研究，而不是分散式系統問題。目前，API 利用 GPT‑3⁠（在新視窗中開啟） 家族的權重運行模型，令速度和吞吐量都顯著提升。機器學習領域瞬息萬變，我們持續升級科技，讓用戶緊隨最新技術。

這個領域的發展速度，意味著會經常出現令人驚嘆的全新 AI 應用程式，當中有好有壞。如果發現含有騷擾、濫發、激進或虛假內容等明顯有害的用例，我們會終止這些用例存取 API。但我們亦明白我們無法預測此科技可能造成的所有後果。因此，我們今天推出私人測試版而非一般公開版，以建立工具協助用戶更容易控制 API 回覆的內容，同時研究語言科技的安全相關範疇（例如分析、緩解和干預有害偏見）。我們會分享學習到的知識，讓我們的用戶和更廣泛的社群能夠建立更多有益人類的 AI 系統。

API 除了是收入來源，協助支付費用⁠以實踐我們的使命⁠之外，還推動我們進一步專注於通用 AI 科技。當中包括提升科技、讓科技可為大眾服務，同時考慮科技對真實世界的影響。我們希望 API 可大幅降低生產有助益的 AI 產品的門檻⁠（在新視窗中開啟），帶來現時無法想像的超凡工具和服務。

有興趣探索 API？快來與 Algolia⁠（在新視窗中開啟）、Quizlet⁠（在新視窗中開啟） 和 Reddit⁠（在新視窗中開啟） 等公司，以及來自 Middlebury Institute⁠（在新視窗中開啟） 等機構的研究人員一起探索我們的私人測試版⁠（在新視窗中開啟）。

歸根究底，我們最關心⁠的是確保通用人工智能可惠及所有人。我們認為，開發商業產品是確保我們有足夠資金取得成功的其中一個方法。

此外，我們也相信，在世界上安全地部署強大 AI 系統並不容易。透過推出 API，我們與合作夥伴緊密合作，了解在真實世界應用 AI 系統時會遇到的挑戰。這將協助引導我們了解如何部署未來的 AI 系統，以及確保這些系統安全，並惠及所有人。

原因有三個。第一，科技商業化協助我們支付持續研究 AI、確保安全性和制定政策的開支。

第二，多數支援 API 的模型規模都十分龐大，開發和部署需要運用大量專業知識，導致運行成本非常高。這樣實在難以惠及所有人，只有大型企業才能受惠於所涉及的科技。我們希望 API 能夠讓中小型企業存取強大的 AI 系統。

第三，API 模型讓我們更容易應對濫用科技的情況。由於我們難以預測模型的下游用例，我們認為透過 API 推出模型然後逐步擴充存取會更為安全。如果我們推出開放原始碼的模型，一旦出現有害的應用程式，便無法調整存取權限。

對於 GPT‑2，我們其中一個主要憂慮是惡意使用模型（例如散佈虛假資訊），如果我們開放模型的原始碼，便難以防止這類行為。至於 API，我們只讓獲批准的客戶和用例存取，這樣我們便可更有效地防止濫用情況。我們實行強制性生產審核，所有建議應用程式都必須通過審核方可發佈。在生產審核中，我們會從幾個方面評估應用程式，包括發問以下問題： 這是否目前受支援的用例？、應用程式有多開放？、應用程式有多大風險？、如何應對潛在的濫用情況？以及誰是應用程式的終端用戶？

如果用例造成他人的人身、情緒或心理傷害，包括但不限於騷擾、蓄意欺騙、激進、虛假或濫發的內容，以及應用程式沒有足夠的防護機制來限制終端用戶的濫用行為，我們就會終止 API。隨著在實際運行 API 時汲取到更多經驗，我們會繼續提升支援的使用類別，以擴展我們支援的應用程式範圍，同時就濫用疑慮建立更細緻的分類。

在批准 API 使用時考慮的其中一個關鍵因素，是應用程式針對系統的基礎產生能力展現出的開放和限制行為的程度。API 的開放式應用程式（即可以透過任何提示不受阻礙地產生大量可自訂文字）特別容易被濫用。可以讓生成式用例更安全的限制包括加入人為監控的系統設計、終端用戶存取限制、輸出的後期處理、內容篩選、輸入/輸出長度限制、積極監察和主題性限制。

此外，我們仍然持續研究透過 API 提供的模型潛在濫用情況，包括透過我們的學術取用計劃⁠（在新視窗中開啟）與第三方研究人員合作。目前從極少數研究人員開始著手研究，我們的學術合作夥伴 Middlebury Institute⁠（在新視窗中開啟）、華盛頓大學和艾倫人工智能研究所⁠（在新視窗中開啟）已取得一些成果。此計劃已收到超過一萬份申請，目前優先審批專攻公平性和代表性的研究。

緩解有害偏見等負面影響是整個業界面對的難題，而且極為重要。正如在 GPT‑3 論文⁠（在新視窗中開啟）和模型卡⁠（在新視窗中開啟）中的討論一樣，我們的 API 模型在產生的文本中會顯現出偏見。我們正在採取以下步驟來應對問題：

• 我們制定使用指引以協助開發人員了解與應對潛在的安全問題。
• 我們正在與用戶緊密合作，了解他們的用例，並建立處理和干預的工具以緩解有害偏見。
• 我們正在研究有害偏見的表現形式，以及公平性和代表性更廣泛的問題，透過改善現有模型文件和提升未來模型，為我們的工作提供有用的資訊。
• 我們承認偏見在系統和應用情境的交匯點出現；由於使用我們的科技建立的應用程式是社會技術系統，所以我們與開發商合作，確保他們制定適當流程和人為監控系統，以監察不良行為。

我們的目標是繼續增進對 API 於每個使用情境中造成的潛在傷害的了解，並持續優化我們的工具和流程以盡可能地降低潛在的傷害。

2020 年 9 月 18 日更新