OpenAI förvärvar Promptfoo
Accelererar säkerhetstestning och utvärderingsfunktioner för agenter i OpenAI Frontier
Vi förvärvar Promptfoo, en AI-säkerhetsplattform som hjälper företag att identifiera och åtgärda sårbarheter i AI-system under utveckling. När förvärvet är slutfört kommer vi att integrera Promptfoo:s teknik direkt i OpenAI Frontier, vår plattform för att skapa och hantera AI-kollegor.
När företag driftsätter AI-kollegor i verkliga arbetsflöden blir utvärdering, säkerhet och efterlevnad grundläggande krav. Företag behöver systematiska sätt att testa agenters beteende, upptäcka risker före driftsättning och upprätthålla tydliga register för att stödja tillsyn, styrning och ansvarsskyldighet över tid.
Promptfoo-teamet (leds av Ian Webster och Michael D’Angelo) har skapat en kraftfull verktygssvit som över 25 procent av Fortune 500-företagen litar på tillsammans med en populärt CLI med öppen källkod(öppnas i ett nytt fönster) och ett bibliotek för utvärdering och red-teaming LLM-applikationer. Vi kommer tillsammans att fortsätta arbeta på det öppna källkodsprojektet och samtidigt vidareutveckla de integrerade företagsfunktionerna i Frontier.
"Promptfoo bidrar med stor teknisk expertis inom utvärdering, säkring och testning av AI-system i stor skala på företagsnivå. Deras arbete hjälper företag att driftsätta säkra och tillförlitliga AI-applikationer och vi ser fram emot att plocka in dessa funktioner i Frontier."
Vi kommer att bygga vidare på flera grundläggande funktioner för företag som skapar agenter på Frontier:
- Säkerhetstestning inbyggt i plattformen: Automatiserad säkerhetstestning och read teaming-funktioner kommer att bli en inbyggd del i Frontier-plattformen vilket hjälper företag att identifiera och åtgärda risker såsom promptinjektioner, jailbreaks, dataläckor, felaktig användning av verktyg, och agentbeteenden som strider mot policyn.
- Säkerhet och utvärdering integrerat i utvecklingsarbetsflöden: Frontier kommer att integreras med de arbetsflöden som behövs för att identifiera, undersöka och åtgärda agentrisker vilket gör säkerhet till en central del av hur AI-system för företag utvecklas och drivs.
- Tillsyn och ansvarsskyldighet: Integrerad rapportering och spårbarhet kommer hjälpa organisationer att dokumentera testning, övervaka förändringar över tid och uppfylla ökande förväntningar på styrning, riskhantering och efterlevnad för AI.
"Vi startade Promptfoo eftersom utvecklare behövde ett praktiskt sätt att säkra AI-system. I takt med att AI-agenter blir mer uppkopplade mot verkliga data och system blir det svårare och viktigare att säkra och validera dem. Genom att samarbeta med OpenAI kan vi påskynda arbetet och skapa starkare funktioner för säkerhet och styrning för team som bygger AI-system för verklig användning."
Vi är glada att välkomna Promptfoo-teamet och fortsätta skapa de verktyg som företag behöver för att driftsätta säker och tillförlitlig AI.
Slutförandet av förvärvet är föremål för sedvanliga slutförandevillkor.
