Bibilhin ng OpenAI ang Promptfoo
Pinapabilis ang mga kakayahan sa agentic na pagsubok at pagsusuri ng seguridad sa OpenAI Frontier
Binibili namin ang Promptfoo, isang AI security platform na tumutulong sa mga enterprise na matukoy at ma-remediate ang mga kahinaan sa seguridad sa mga system ng AI habang nasa development. Kapag natapos na ang acquisition, isasama namin ang teknolohiya ng Promptfoo nang direkta sa OpenAI Frontier, ang aming platform para sa pagbuo at pagpapatakbo ng mga AI na katrabaho.
Habang nagde-deploy ang mga enterprise ng mga AI na katuwang sa trabaho sa tunay na mga workflow, nagiging pundamental na mga pangangailangan ang pagsusuri, seguridad, at pagsunod sa mga regulasyon. Kailangan ng mga negosyo ng mga sistematikong paraan para subukan ang pag-uugali ng agent, matukoy ang mga panganib bago ang pag-deploy, at mapanatili ang malinaw na mga rekord para suportahan ang pangangasiwa, pamamahala, at pananagutan sa paglipas ng panahon.
Nakabuo ang Promptfoo team, na pinamumunuan nina Ian Webster at Michael D’Angelo, ng power hanay ng mga tool na pinagkakatiwalaan ng mahigit 25 porsiyento ng mga kumpanya sa Fortune 500, kasama ang malawakang ginagamit na open-source(magbubukas sa bagong window) CLI at library para sa pagsusuri at red-teaming ng mga LLM application. Sama-sama, patuloy naming bubuuin ang open-source na proyekto habang isinusulong din ang pinagsamang mga kakayahan para sa enterprise sa loob ng Frontier.
“Nagdadala ang Promptfoo ng malalim na ekspertis sa engineering sa pagsusuri, pagseguro, at pagsubok ng mga AI system sa antas ng enterprise. Tumutulong ang kanilang gawain sa mga negosyo na mag-deploy ng ligtas at maaasahang mga AI application, at nasasabik kaming isama ang mga kakayahang ito nang direkta sa Frontier.”
Magpapatuloy kami sa pagbuo batay sa ilang pangunahing kakayahan para sa mga enterprise na gumagawa ng mga agent sa Frontier:
- Naka-built in sa platform ang security at safety testing: Ang mga kakayahan sa awtomatikong security testing at red-teaming ay magiging likas na bahagi ng Frontier platform, na tutulong sa mga enterprise na matukoy at maayos ang mga panganib tulad ng mga prompt injection, jailbreak, pagtagas ng data, maling paggamit ng mga tool, at mga pag-uugali ng agent na labag sa patakaran.
- Seguridad at pagsusuri na naka-integrate sa mga daloy ng trabaho sa pag-develop: Malalim na i-integrate ang Frontier sa mga workflow na kailangan para matukoy, masiyasat, at matugunan ang mga panganib ng mga agent nang mas maaga, kaya nagiging pangunahing bahagi ang seguridad sa paraan ng pagbuo at pagpapatakbo ng mga enterprise AI system sa mga workflow na kailangan para matukoy, masiyasat, at matugunan ang mga panganib ng mga agent nang mas maaga, kaya nagiging pangunahing bahagi ang seguridad sa paraan ng pagbuo at pagpapatakbo ng mga enterprise AI system.
- Pangangasiwa at pananagutan: makakatulong ang pinagsamang pag-uulat at pagsubaybay sa mga organisasyon na idokumento ang pagsusuri, subaybayan ang mga pagbabago sa paglipas ng panahon, at matugunan ang lumalaking inaasahan sa pamamahala, panganib, at pagsunod para sa AI.
“Nagsimula kami ng Promptfoo dahil kailangan ng mga developer ng praktikal na paraan para maseguro ang mga system ng AI.” Habang nagiging mas nakakonekta ang mga AI agent sa totoong data at mga system, mas nagiging mahirap at mas mahalaga kaysa dati ang pagse-secure at pagbe-verify sa mga ito. Nagbibigay-daan ang pagsali sa OpenAI sa amin na pabilisin ang gawaing ito, na nagdadala ng mas matitibay na kakayahan sa seguridad, kaligtasan, at pamamahala sa mga team na bumubuo ng mga AI system na ginagamit sa totoong mundo.”
Nasasabik kaming tanggapin ang Promptfoo team at ipagpatuloy ang pagbuo ng mga tool na kailangan ng mga negosyo para mag-deploy ng secure at maaasahang AI.
Ang pagsasara ng pag-aquire ay napapailalim sa karaniwang mga kundisyong hinihingi para sa pagsasara.
