OpenAI übernimmt Promptfoo
Beschleunigung agentischer Sicherheitstest- und Evaluierungsfähigkeiten in OpenAI Frontier
Wir übernehmen Promptfoo, eine KI-Sicherheitsplattform, die Unternehmen dabei hilft, Schwachstellen in KI-Systemen während der Entwicklung zu identifizieren und zu beheben. Sobald die Übernahme abgeschlossen ist, werden wir die Technologie von Promptfoo direkt in OpenAI Frontier, unsere Plattform zum Entwickeln und Betreiben von KI-Mitarbeitern, integrieren.
Wenn Unternehmen KI-Mitarbeiter in reale Arbeitsabläufe integrieren, werden Evaluierung, Sicherheit und Compliance zu grundlegenden Anforderungen. Unternehmen benötigen systematische Methoden, um das Verhalten von Agenten zu testen, Risiken vor der Bereitstellung zu erkennen und klare Aufzeichnungen zu führen, um Aufsicht, Governance und Nachvollziehbarkeit im Laufe der Zeit zu unterstützen.
Das Promptfoo-Team, angeführt von Ian Webster und Michael D’Angelo, hat eine leistungsstarke Suite von Tools entwickelt, der über 25 % der Fortune-500-Unternehmen vertrauen, sowie eine weit verbreitete Open-Source(wird in einem neuen Fenster geöffnet)-CLI und -Bibliothek zur Evaluierung und zum Red-Teaming von LLM-Anwendungen. Gemeinsam werden wir das Open-Source-Projekt weiterentwickeln und zugleich die integrierten Enterprise-Funktionen innerhalb von Frontier ausbauen.
„Promptfoo verfügt über tiefgreifende Engineering-Expertise in der Bewertung, Absicherung und dem Testen von KI-Systemen im Enterprise-Maßstab. Seine Arbeit hilft Unternehmen, sichere und zuverlässige KI-Anwendungen bereitzustellen, und wir freuen uns, diese Fähigkeiten direkt in Frontier zu integrieren.”
Wir werden mehrere zentrale Funktionen für Unternehmen ausbauen, die Agenten auf Frontier entwickeln:
- In die Plattform integriertes Security- und Safety-Testing: Automatisierte Sicherheitstests und Red Teaming-Funktionen werden zu einem nativen Bestandteil der Frontier-Plattform werden und Unternehmen dabei helfen, Risiken wie Prompt Injections, Jailbreaks, Datenlecks, Tool-Missbrauch und nicht richtlinienkonformes Agentenverhalten zu identifizieren und zu beheben.
- In Entwicklungs-Workflows integrierte Sicherheit und Evaluierung: Frontier wird tief in die Workflows integriert, die erforderlich sind, um Agentenrisiken frühzeitig zu identifizieren, zu untersuchen und zu beheben, wodurch Sicherheit zu einem Kernbestandteil der Entwicklung und des Betriebs von Enterprise-KI-Systemen wird.
- Aufsicht und Nachvollziehbarkeit: Integrierte Berichterstattung und Rückverfolgbarkeit helfen Organisationen dabei, Tests zu dokumentieren, Änderungen im Zeitverlauf zu überwachen und wachsenden Erwartungen in Bezug auf Governance, Risikomanagement und Compliance für KI gerecht zu werden.
„Wir haben Promptfoo gegründet, weil Entwickler:innen eine praktische Möglichkeit zur Sicherung von KI-Systemen benötigten. Da KI-Agenten immer stärker mit realen Daten und Systemen vernetzt sind, ist ihre Absicherung und Validierung anspruchsvoller und wichtiger denn je. Die Übernahme durch OpenAI ermöglicht es uns, diese Arbeit zu beschleunigen und den Teams, die reale KI-Systeme entwickeln, stärkere Sicherheits-, Schutz- und Governance-Funktionen bereitzustellen.”
Wir freuen uns sehr, das Promptfoo-Team willkommen zu heißen und weiterhin die Tools zu entwickeln, die Unternehmen benötigen, um sichere, zuverlässige KI bereitzustellen.
Der Abschluss der Übernahme unterliegt den üblichen Abschlussbedingungen.
