OpenAI acquisirà Promptfoo
Accelerare le capacità di test e valutazione della sicurezza degli agenti in OpenAI Frontier
Stiamo acquisendo Promptfoo, una piattaforma di sicurezza per l’IA che aiuta le aziende a individuare e correggere le vulnerabilità nei sistemi di IA durante lo sviluppo. Una volta finalizzata l'acquisizione, integreremo la tecnologia di Promptfoo direttamente in OpenAI Frontier, la nostra piattaforma progettata per creare e gestire collaboratori IA.
Man mano che le aziende implementano collaboratori IA nei flussi di lavoro reali, valutazione, sicurezza e conformità diventano requisiti fondamentali. Le aziende hanno bisogno di metodi sistematici per testare il comportamento degli agenti, individuare i rischi prima dell’implementazione e mantenere registri chiari a supporto della supervisione, della governance e della responsabilità nel tempo.
Il team di Promptfoo, guidato da Ian Webster e Michael D’Angelo, ha sviluppato una potente suite di strumenti utilizzata da oltre il 25% delle aziende Fortune 500, insieme a una CLI e a una libreria open source(si apre in una nuova finestra) ampiamente adottate. Insieme, continueremo a sviluppare il progetto open source, portando avanti allo stesso tempo le funzionalità enterprise integrate in Frontier.
“Promptfoo offre una solida esperienza ingegneristica nella valutazione, nella sicurezza e nei test dei sistemi di IA su scala aziendale. Il loro lavoro aiuta le aziende a distribuire applicazioni di IA sicure e affidabili e siamo entusiasti di integrare queste capacità direttamente in Frontier."
Continueremo a sviluppare diverse capacità fondamentali per le aziende che creano agenti su Frontier:
- Test di sicurezza e safety integrati nella piattaforma: le funzionalità di test di sicurezza automatizzati e di red teaming diventeranno una parte nativa della piattaforma Frontier, aiutando le aziende a individuare e mitigare rischi come le iniezioni di prompt, i jailbreak, le fughe di dati, l’uso improprio degli strumenti e comportamenti degli agenti non conformi alle policy.
- Sicurezza e valutazione integrate nei flussi di lavoro di sviluppo: Frontier si integrerà profondamente con i flussi di lavoro necessari per individuare, analizzare e mitigare i rischi degli agenti in anticipo, rendendo la sicurezza una componente fondamentale dello sviluppo e della gestione dei sistemi di IA aziendali.
- Supervisione e responsabilità: la reportistica integrata e la tracciabilità aiuteranno le organizzazioni a documentare i test, monitorare le modifiche nel tempo e soddisfare le crescenti esigenze di governance, rischio e conformità per l’IA.
Abbiamo creato Promptfoo perché gli sviluppatori avevano bisogno di un modo pratico per mettere in sicurezza i sistemi di IA. Man mano che gli agenti di IA si integrano sempre più con dati e sistemi reali, garantirne la sicurezza e verificarne il funzionamento diventa sempre più complesso e importante. Entrare a far parte di OpenAI ci consente di accelerare questo lavoro, offrendo ai team che sviluppano sistemi di IA per il mondo reale capacità più solide in materia di sicurezza, protezione e governance.
Siamo entusiasti di dare il benvenuto al team di Promptfoo e di continuare a sviluppare gli strumenti di cui le aziende hanno bisogno per distribuire sistemi di IA sicuri e affidabili.
Il completamento dell’acquisizione è soggetto alle consuete condizioni di chiusura.
