OpenAI annonce l’acquisition de Promptfoo
Accélérer les capacités de test et d’évaluation de la sécurité agentive dans OpenAI Frontier
Nous faisons l’acquisition de Promptfoo, une plateforme de sécurité de l’intelligence artificielle qui aide les entreprises à identifier et à corriger les vulnérabilités des systèmes d’intelligence artificielle pendant le développement. Une fois l’acquisition finalisée, nous intégrerons la technologie de Promptfoo directement à OpenAI Frontier, notre plateforme de conception et d’exploitation d’agents IA.
À mesure que les entreprises déploient des agents IA dans leurs flux de travail, l’évaluation, la sécurité et la conformité deviennent des exigences fondamentales. Les entreprises ont besoin de méthodes systématiques pour tester le comportement des agents, détecter les risques avant le déploiement et consigner le tout à des fins de supervision, de gouvernance et de responsabilisation.
L’équipe de Promptfoo, dirigée par Ian Webster et Michael D’Angelo, a développé une suite d’outils performants, adoptée par plus de 25 % des entreprises du Fortune 500, ainsi qu’une interface de ligne de commande et une bibliothèque libres(s'ouvre dans une nouvelle fenêtre) largement utilisées pour l’évaluation et les exercices d’équipe rouge des applications LLM. Ensemble, nous continuerons à développer le projet libre tout en améliorant les capacités intégrées de Frontier pour les entreprises.
« Promptfoo offre une expertise approfondie en ingénierie pour évaluer, sécuriser et tester des systèmes d’IA à l’échelle de l’entreprise. Son travail aide les entreprises à déployer des applications d’IA sécurisées et fiables, et nous avons hâte d’intégrer directement ces capacités à Frontier. »
Nous nous appuierons sur plusieurs capacités de base pour les entreprises qui développent des agents de pointe sur Frontier :
- Tests de sécurité et de sûreté intégrés à la plateforme : Les capacités de tests de sécurité automatisés et d’exercices d’équipe rouge deviendront une partie native de la plateforme Frontier, en aidant les entreprises à identifier et à corriger des risques comme les injections d’invite, les débridages, les fuites de données, l’utilisation abusive d’outils et les comportements d’agents non conformes aux politiques.
- Sécurité et évaluation intégrées aux flux de travail de développement : Frontier s’intégrera en profondeur aux flux de travail nécessaires pour identifier, analyser et atténuer plus tôt les risques liés aux agents, faisant de la sécurité un élément central de la façon dont les systèmes d’IA d’entreprise sont développés et exploités.
- Supervision et responsabilisation : Les rapports intégrés et la traçabilité aideront les organisations à documenter les tests, à surveiller les changements au fil du temps et à répondre aux attentes croissantes en matière de gouvernance, de gestion des risques et de conformité pour l’IA.
« Nous avons lancé Promptfoo pour répondre aux besoins des équipes de développement qui cherchaient un moyen pratique de sécuriser les systèmes d’IA. À mesure que les agents d’IA deviennent plus connectés aux données et aux systèmes réels, les sécuriser et les valider devient plus difficile et plus important que jamais. Notre intégration à OpenAI nous permet d’accélérer ce travail et d’offrir des capacités de sécurité, de sûreté et de gouvernance renforcées aux équipes qui développent des systèmes d’IA. »
Nous sommes ravis d’accueillir l’équipe Promptfoo et de continuer à développer les outils dont les entreprises ont besoin pour déployer une IA sécurisée et fiable.
L’acquisition est assujettie aux conditions de clôture habituelles.
