OpenAI adquirirà Promptfoo
Accelerem les capacitats de proves i avaluació de seguretat d'agents a OpenAI Frontier
Adquirim Promptfoo, una plataforma de seguretat d'IA que ajuda les empreses a identificar i corregir vulnerabilitats en sistemes d'IA durant el desenvolupament. Quan es formalitzi l'adquisició, integrarem la tecnologia de Promptfoo directament a OpenAI Frontier, la nostra plataforma per crear i operar companys de feina d'IA.
A mesura que les empreses despleguen companys de feina d'IA en fluxos de treball reals, l'avaluació, la seguretat i el compliment normatiu esdevenen requisits fonamentals. Les empreses necessiten maneres sistemàtiques de provar el comportament dels agents, detectar riscos abans del desplegament i mantenir registres clars per donar suport a la supervisió, la governança i la responsabilitat amb el pas del temps.
L'equip de Promptfoo, liderat per Ian Webster i Michael D’Angelo, ha creat un potent conjunt d'eines en què confien més del 25 per cent de les empreses del Fortune 500, juntament amb una CLI i una biblioteca de codi obert(s'obre en una finestra nova) molt utilitzades per avaluar i fer red-teaming d'aplicacions de LLM. Junts, continuarem desenvolupant el projecte de codi obert alhora que impulsarem les capacitats empresarials integrades dins de Frontier.
«Promptfoo aporta una gran experiència en enginyeria en l'avaluació, la protecció i les proves de sistemes d'IA a escala empresarial. La seva feina ajuda les empreses a desplegar aplicacions d'IA segures i fiables, i ens fa il·lusió incorporar aquestes capacitats directament a Frontier.»
Desenvoluparem diverses capacitats bàsiques per a les empreses que creen agents amb Frontier:
- Proves de seguretat i protecció integrades a la plataforma: Les capacitats automatitzades de proves de seguretat i red-teaming passaran a ser una part nativa de la plataforma Frontier, ajudant les empreses a identificar i corregir riscos com ara la injecció d'indicacions, els jailbreaks, les fuites de dades, l'ús indegut d'eines i els comportaments d'agents fora de la política.
- Seguretat i avaluació integrades en els fluxos de desenvolupament: Frontier s'integrarà a fons amb els fluxos de treball necessaris per identificar, investigar i corregir riscos dels agents més aviat, fent de la seguretat una part essencial de com es desenvolupen i operen els sistemes d'IA empresarials.
- Supervisió i responsabilitat: Els informes integrats i la traçabilitat ajudaran les organitzacions a documentar les proves, supervisar els canvis al llarg del temps i complir les creixents expectatives de governança, risc i compliment normatiu per a la IA.
«Vam crear Promptfoo perquè els desenvolupadors necessitaven una manera pràctica de protegir els sistemes d'IA. A mesura que els agents d'IA es connecten més amb dades i sistemes reals, protegir-los i validar-los és més difícil i més important que mai. Unir-nos a OpenAI ens permet accelerar aquesta feina i aportar capacitats més sòlides de seguretat, protecció i governança als equips que construeixen sistemes d'IA del món real.»
Ens fa il·lusió donar la benvinguda a l'equip de Promptfoo i continuar desenvolupant les eines que les empreses necessiten per desplegar una IA segura i fiable.
El tancament de l'adquisició està subjecte a les condicions de tancament habituals.
