OpenAI omandab Promptfoo
Agentliku turvalisuse testimise ja hindamise võimekuse kiirendamine OpenAI Frontieris
Omandame Promptfoo, tehisintellekti turbeplatvormi, mis aitab sul arenduse käigus tuvastada ja kõrvaldada tehisintellektisüsteemide turvaauke. Kui omandamine on lõpule viidud, integreerime Promptfoo tehnoloogia otse OpenAI Frontieri, meie platvormi, mis on mõeldud AI töökaaslaste loomiseks ja käitamiseks.
Kuna ettevõtted juurutavad AI töökaaslasi päris töövoogudesse, muutuvad hindamine, turvalisus ja nõuetele vastavus alustaladeks. Ettevõtted vajavad süstemaatilisi viise agentide käitumise testimiseks, riskide tuvastamiseks enne juurutamist ning selgete dokumentide säilitamiseks, et toetada järelevalvet, juhtimist ja vastutust aja jooksul.
Promptfoo tiim, mida juhivad Ian Webster ja Michael D’Angelo, on loonud võimsa tööriistakomplekti, mida usaldab üle 25% Fortune 500 ettevõtetest, ning laialdaselt kasutatava avatud lähtekoodiga(avaneb uues aknas) CLI ja teegi LLM-rakenduste hindamiseks ja lööktestimiseks. Koos jätkame avatud lähtekoodiga projekti arendamist, edendades samal ajal Frontieriga ettevõttevõimekusi.
„Promptfoo toob kaasa sügava insenertehnilise asjatundlikkuse tehisintellektisüsteemide hindamisel, turvamisel ja testimisel ettevõtte tasemel suurel skaalal. Nende töö aitab ettevõtetel juurutada turvalisi ja usaldusväärseid AI rakendusi ning meil on hea meel tuua need võimalused otse Frontieri,“
Tuginedes mitmele põhivõimekusele ettevõtetele, kes loovad agente Frontieris:
- Platvormi sisse ehitatud turvalisuse ja ohutuse testimine: Automatiseeritud turvatestimine ja lööktestimise võimekus saavad Frontieri platvormi loomulikuks osaks, aidates ettevõtetel tuvastada ja kõrvaldada riske, nagu viipade süstimine, jailbreakid, andmelekked, tööriistade väärkasutus ja poliitikavastane agendi käitumine.
- Turvalisus ja hindamine integreeritud arendustöövoogudesse: Frontier integreerub põhjalikult töövoogudega, mis on vajalikud agentide riskide varasemaks tuvastamiseks, uurimiseks ja kõrvaldamiseks, muutes turvalisuse ettevõtte tehisintellekti süsteemide arendamise ja käitamise keskseks osaks.
- Järelevalve ja vastutus: Integreeritud aruandlus ja jälgitavus aitavad organisatsioonidel testimist dokumenteerida, aja jooksul muudatusi jälgida ning täita tehisintellekti puhul kasvavaid juhtimise, riskide ja vastavuse ootusi.
„Alustasime Promptfoo’ga, sest arendajad vajasid praktilist viisi tehisintellekti süsteemide turvamiseks. Kuna tehisintellekti agendid muutuvad üha enam ühendatuks reaalsete andmete ja süsteemidega, on nende turvamine ja valideerimine keerukam ning olulisem kui kunagi varem. OpenAI-ga liitumine võimaldab meil seda tööd kiirendada, tuues reaalse maailma tehisintellekti süsteeme loovatele meeskondadele tugevamad turbe-, ohutus- ja juhtimisvõimekused,”
Meil on hea meel tervitada Promptfoo meeskonda ja jätkata selliste tööriistade loomist, mida ettevõtted vajavad turvalise ja usaldusväärse tehisintellekti juurutamiseks.
Tehingu lõpuleviimine sõltub tavapärastest tingimustest.
