OpenAI va achiziționa Promptfoo
Accelerarea capacităților de testare și evaluare a securității agentice în OpenAI Frontier
Achiziționăm Promptfoo, o platformă de securitate IA care ajută întreprinderile să identifice și să remedieze vulnerabilitățile din sistemele IA în timpul dezvoltării. Odată ce achiziția va fi finalizată, vom integra tehnologia Promptfoo direct în OpenAI Frontier. platforma noastră pentru construirea și operarea colegilor de lucru IA.
Pe măsură ce întreprinderile implementează colegi IA în fluxuri de lucru reale, evaluarea, securitatea și conformitatea devin cerințe fundamentale. Întreprinderile au nevoie de modalități sistematice de a testa comportamentul agenților, de a detecta riscurile înainte de implementare și de a menține înregistrări clare pentru a sprijini supravegherea, guvernanța și responsabilitatea în timp.
Echipa Promptfoo, condusă de Ian Webster și Michael D'Angelo, a construit o suită puternică de instrumente în care se încred peste 25% dintre companiile din Fortune 500, împreună cu un CLI și o bibliotecă open-source(se deschide într-o fereastră nouă) utilizate pe scară largă pentru evaluarea și red teamingul aplicațiilor LLM. Împreună, vom continua să construim proiectul open-source, dezvoltând în același timp capacitățile integrate pentru întreprinderi în cadrul Frontier.
„Promptfoo aduce competență inginerească vastă în evaluarea, securizarea și testarea sistemelor IAl a scară largă. Munca lor ajută companiile să implementeze aplicații IA sigure și fiabile, iar noi suntem încântați să aducem aceste capabilități direct în Frontier.”
Vom dezvolta mai multe capacități de bază pentru întreprinderile care construiesc agenți în Frontier:
- Testarea securității și a siguranței încorporată în platformă: Testarea automată a securității și capacitățile de red teaming vor deveni o parte nativă a platformei Frontier, ajutând întreprinderile să identifice și să remedieze riscuri precum injecțiile prompte, jailbreakurile, scurgerile de date, utilizarea necorespunzătoare a instrumentelor și comportamentele agenților care nu respectă politica.
- Securitate și evaluare integrate în fluxurile de lucru de dezvoltare: Frontier se va integra profund cu fluxurile de lucru necesare pentru a identifica, investiga și remedia riscurile agenților mai devreme, făcând din securitate o parte esențială a modului în care sunt dezvoltate și gestionate sistemele IA ale întreprinderilor.
- Supraveghere și responsabilitate: Raportarea integrată și trasabilitatea vor ajuta organizațiile să documenteze testele, să monitorizeze schimbările în timp și să îndeplinească așteptările tot mai mari privind guvernanța, riscul și conformitatea pentru IA.
„Am înființat Promptfoo deoarece dezvoltatorii aveau nevoie de o modalitate practică de a securiza sistemele IA. Pe măsură ce agenții IA devin tot mai conectați la date și sisteme reale, securizarea și validarea acestora este mai dificilă și mai importantă ca oricând. Alăturarea la OpenAI ne permite să accelerăm această activitate, aducând capacități mai puternice de securitate, siguranță și guvernanță echipelor care construiesc sisteme IA pentru utilizări concrete.”
Suntem încântați să-i urăm bun venit echipei Promptfoo și să continuăm să dezvoltăm instrumentele de care companiile au nevoie pentru a implementa IA sigură și fiabilă.
Finalizarea achiziției este supusă condițiilor obișnuite de încheiere a tranzacțiilor.
