OpenAI vai adquirir a Promptfoo
Acelerando recursos de testes e avaliação de segurança com agentes no OpenAI Frontier
Estamos adquirindo a Promptfoo, uma plataforma de segurança de IA que ajuda empresas a identificar e remediar vulnerabilidades em sistemas de IA durante o desenvolvimento. Assim que a aquisição for concluída, vamos integrar a tecnologia da Promptfoo diretamente ao OpenAI Frontier, nossa plataforma para criar e operar colegas de trabalho de IA.
À medida que empresas implementam colegas de trabalho de IA em fluxos de trabalho reais, avaliação, segurança e conformidade se tornam requisitos fundamentais. Empresas precisam de formas sistemáticas de testar o comportamento de agentes, detectar riscos antes da implantação e manter registros claros para apoiar supervisão, governança e prestação de contas ao longo do tempo.
A equipe da Promptfoo, liderada por Ian Webster e Michael D’Angelo, construiu um conjunto poderoso de ferramentas em que mais de 25% das empresas da Fortune 500 confiam, além de uma CLI e uma biblioteca open source(abre em uma nova janela) amplamente usadas para avaliar e realizar red teaming em aplicações de LLMs. Juntos, vamos continuar desenvolvendo o projeto open source e, ao mesmo tempo, avançar as capacidades empresariais integradas no Frontier.
"A Promptfoo traz profunda expertise de engenharia para avaliar, proteger e testar sistemas de IA em escala empresarial. O trabalho deles ajuda empresas a implantar aplicações de IA seguras e confiáveis, e estamos animados para levar essas capacidades diretamente ao Frontier."
Vamos ampliar várias capacidades centrais para empresas que desenvolvem agentes no Frontier:
- Testes de segurança e proteção integrados na plataforma: capacidades automatizadas de testes de segurança e red teaming se tornarão parte nativa da plataforma Frontier, ajudando empresas a identificar e remediar riscos como injeções de prompt, jailbreaks, vazamentos de dados, uso indevido de ferramentas e comportamentos de agentes fora de política.
- Segurança e avaliação integradas aos fluxos de desenvolvimento: o Frontier vai se integrar profundamente aos fluxos de trabalho necessários para identificar, investigar e remediar riscos de agentes com mais antecedência, tornando a segurança uma parte central de como sistemas de IA corporativos são desenvolvidos e operados.
- Supervisão e prestação de contas: relatórios integrados e rastreabilidade ajudarão organizações a documentar testes, monitorar mudanças ao longo do tempo e atender às crescentes expectativas de governança, risco e conformidade para IA.
"Criamos a Promptfoo porque desenvolvedores precisavam de uma forma prática de proteger sistemas de IA. À medida que agentes de IA ficam mais conectados a dados e sistemas reais, protegê-los e validá-los é mais desafiador e importante do que nunca. Entrar para a OpenAI nos permite acelerar esse trabalho, levando recursos mais fortes de segurança, proteção e governança às equipes que constroem sistemas de IA do mundo real."
Estamos animados para receber a equipe da Promptfoo e continuar desenvolvendo as ferramentas de que empresas precisam para implantar IA segura e confiável.
A conclusão da aquisição está sujeita às condições habituais de fechamento.
