OpenAI akan mengakuisisi Promptfoo
Mempercepat kemampuan pengujian dan evaluasi keamanan berbasis di OpenAI Frontier
Kami mengakuisisi Promptfoo, sebuah platform keamanan AI yang membantu perusahaan mengidentifikasi dan memulihkan kerentanan dalam sistem AI selama pengembangan. Setelah akuisisi diselesaikan, kami akan mengintegrasikan teknologi Promptfoo secara langsung ke dalam OpenAI Frontier, platform terdepan kami untuk membangun dan mengoperasikan rekan kerja AI.
Saat perusahaan menerapkan asisten AI ke dalam alur kerja nyata, evaluasi, keamanan, dan kepatuhan menjadi persyaratan mendasar. Perusahaan membutuhkan cara sistematis untuk menguji perilaku agen, mendeteksi risiko sebelum penerapan, dan menyimpan catatan yang jelas untuk mendukung pengawasan, tata kelola, dan akuntabilitas dari waktu ke waktu.
Tim Promptfoo, yang dipimpin oleh Ian Webster dan Michael D’Angelo, telah membangun serangkaian alat canggih yang dipercaya oleh lebih dari 25 persen perusahaan Fortune 500, bersama dengan CLI dan pustaka sumber terbuka(terbuka di jendela baru) yang banyak digunakan untuk mengevaluasi dan melakukan red teaming pada aplikasi LLM. Bersama-sama, kami akan terus membangun proyek sumber terbuka ini sambil juga memajukan kemampuan perusahaan terintegrasi di dalam Frontier.
“Promptfoo menghadirkan keahlian teknik yang mendalam dalam mengevaluasi, mengamankan, dan menguji sistem AI dalam skala perusahaan. Pekerjaan mereka membantu bisnis menerapkan aplikasi AI yang aman dan andal, dan kami sangat senang dapat menghadirkan kemampuan ini langsung ke Frontier.”
Kami akan mengembangkan beberapa kemampuan inti untuk perusahaan yang membangun agen di Frontier:
- Pengujian keamanan dan keselamatan yang terintegrasi ke dalam platform: Kemampuan pengujian keamanan otomatis dan red teaming akan menjadi bagian integral dari platform Frontier, membantu perusahaan mengidentifikasi dan mengatasi risiko seperti injeksi prompt, jailbreak, kebocoran data, penyalahgunaan alat, dan perilaku agen di luar kebijakan.
- Keamanan dan evaluasi terintegrasi dalam alur kerja pengembangan: Frontier akan terintegrasi secara mendalam dengan alur kerja yang diperlukan untuk mengidentifikasi, menyelidiki, dan mengatasi risiko agen lebih awal, menjadikan keamanan sebagai bagian inti dari cara sistem AI perusahaan dikembangkan dan dioperasikan.
- Pengawasan dan akuntabilitas: Pelaporan dan ketertelusuran terintegrasi akan membantu organisasi mendokumentasikan pengujian, memantau perubahan dari waktu ke waktu, dan memenuhi ekspektasi tata kelola, risiko, dan kepatuhan yang semakin meningkat untuk AI.
“Kami mendirikan Promptfoo karena para pengembang membutuhkan cara praktis untuk mengamankan sistem AI. eiring agen AI semakin terhubung dengan data dan sistem nyata, mengamankan dan memvalidasinya menjadi lebih menantang dan penting daripada sebelumnya. Bergabung dengan OpenAI memungkinkan kami untuk mempercepat pekerjaan ini, menghadirkan kemampuan keamanan, keselamatan, dan tata kelola yang lebih kuat kepada tim yang membangun sistem AI dunia nyata.”
Kami dengan senang hati menyambut tim Promptfoo dan terus membangun alat yang dibutuhkan perusahaan untuk menerapkan AI yang aman dan andal.
Penutupan akuisisi ini tunduk pada ketentuan penutupan yang lazim.
