我們現正進行收購 Promptfoo 的程序。Promptfoo 是一個 AI 安全平台，協助企業在 AI 系統開發過程中識別並修復漏洞。完成收購後，我們會把 Promptfoo 的技術直接整合到 OpenAI Frontier ，亦即我們用來建立和營運「AI 同事」的平台。
隨著企業把 AI 同事部署到實際工作流程中，評估、系統防護和合規會成為不可或缺的基礎要求。企業需要有系統的方法來測試智能代理的行為，在部署前識別風險，並持續保留清晰記錄，以支援長期的監督、管治與問責。
Promptfoo 團隊由 Ian Webster 和 Michael D’Angelo 領導，開發了一系列強大的工具，已獲超過 25% 的《Fortune》全球 500 強企業採用，同時亦推出廣泛使用的開源（在新視窗中開啟） CLI 及程式庫，用於對 LLM 應用程式進行評估與紅隊測試。未來我們會繼續發展這個開源項目，同時進一步提升 Frontier 的整合式企業能力。
「Promptfoo 在企業規模下評估、保護及測試 AI 系統方面擁有深厚的工程專業能力。他們的工作幫助企業部署安全可靠的 AI 應用程式，我們很期待把這些能力直接整合到 Frontier。」
我們將重點強化多項核心能力，支援企業在 Frontier 上建立智能代理：
- 平台內建安全與安全性測試：自動化安全測試和紅隊測試能力會成為 Frontier 平台的原生功能，協助企業識別並修復多種風險，例如提示詞注入、越獄攻擊、資料外洩、工具誤用，以及違反政策的智能代理行為。
- 將系統防護與評估整合到開發流程：Frontier 會深入整合識別、調查及修復智能代理風險所需的開發流程，讓系統防護成為企業 AI 系統開發和營運方式的重要部分。
- 監督與問責：整合式報告及追蹤功能有助機構記錄測試、監察變更，並應對 AI 管治、風險及合規要求日益提升的需要。
「我們創立 Promptfoo，是因為開發人員需要一個實際可行的方法來保護 AI 系統。隨著 AI 智能代理與真實資料和系統的連結越來越多，確保智能代理安全可靠變得比以往更具挑戰性，但亦更加關鍵。加入 OpenAI 讓我們可以加快這方面的工作，為建立現實世界 AI 系統的團隊帶來更強大的安全、安全性和管治能力。」
我們很高興歡迎 Promptfoo 團隊加入，持續攜手構建企業部署安全可靠 AI 所需的工具。
本次收購仍須符合慣常交割條件後方可完成。
作者
OpenAI
