OpenAI kaupir Promptfoo
Að flýta fyrir getu til fulltrúaöryggisprófana og mats á OpenAI Frontier
Við erum að kaupa Promptfoo, gervigreindaröryggisverkvang sem hjálpar fyrirtækjum að bera kennsl á og bæta úr öryggisveikleikum í gervigreindarkerfum á þróunarstigi. Þegar kaupunum er lokið munum við samþætta tækni Promptfoo beint inn í OpenAI Frontier, verkvanginn okkar til að byggja og reka samstarfsmenn í gervigreind.
Þegar fyrirtæki innleiða gervigreindarsamstarfsmenn í raunveruleg vinnuflæði verður mat, öryggi og samræmi að grunnkröfum. Fyrirtæki þurfa kerfisbundnar leiðir til að prófa hegðun fulltrúa, greina áhættu áður en innleiðing fer fram og halda skýrar skrár til að styðja við eftirlit, stjórnun og ábyrgð með tímanum.
Promptfoo-teymið, undir forystu Ian Webster og Michael D’Angelo, hefur byggt öflugan verkfærapakka sem yfir 25 prósent Fortune 500 fyrirtækja treysta, ásamt víða notuðu opnum(opnast í nýjum glugga) CLI og forritasafni til að meta og framkvæma rauðteymi á LLM forritum. Saman munum við halda áfram að þróa opna hugbúnaðarverkefnið og efla samþætta fyrirtækjagetu innan Frontier.
„Promptfoo býr yfir djúpri verkfræðilegri sérþekkingu á mati, öryggistryggingu og prófunum á gervigreindarkerfum í stórum stíl á fyrirtækjastigi.“ Vinna þeirra hjálpar fyrirtækjum að innleiða örugg og áreiðanleg gervigreindarforrit, og við erum spennt að færa þessa getu beint inn í Frontier.“
Við munum byggja á nokkurri kjarnagetu fyrir fyrirtæki sem þróa fulltrúa í Frontier:
- Öryggisprófanir innbyggðar í verkvanginn: Sjálfvirkar öryggisprófanir og hæfni rauðteymis verða innbyggður hluti af Frontier-verkvanginum, sem hjálpar fyrirtækjum að bera kennsl á og bæta úr áhættum eins og kvaðningarvörpun, átt, gagnaleka, misnotkun verkfæra og hegðun fulltrúa utan stefnu.
- Öryggi og mat samþætt í þróunarverkflæði: Frontier mun samþættast djúpt við verkflæðin sem þarf til að bera kennsl á, rannsaka og bregðast við áhættu fulltrúa fyrr, og gera öryggi að kjarnaþætti í því hvernig gervigreindarkerfi fyrirtækja eru þróuð og rekin.
- Eftirlit og ábyrgð: Samþætt skýrslugerð og rekjanleiki munu hjálpa fyrirtækjum að skrá prófanir, fylgjast með breytingum með tímanum og uppfylla vaxandi væntingar um stjórnarhætti, áhættustýringu og reglufylgni fyrir gervigreind.
„Við stofnuðum Promptfoo vegna þess að forritarar þurftu á hagnýtri leið að halda til að tryggja öryggi gervigreindarkerfa.“ Eftir því sem gervigreindarfulltrúar tengjast raunverulegum gögnum og kerfum meira, verður erfiðara og mikilvægara en nokkru sinni fyrr að tryggja öryggi þeirra og sannreyna þau. Að ganga til liðs við OpenAI gerir okkur kleift að flýta fyrir þessu starfi og færa teymunum sem byggja raunveruleg gervigreindarkerfi öflugri getu á sviði öryggis, trausts og stjórnarhátta.
Við erum spennt að bjóða Promptfoo-teyminu velkomið og halda áfram að þróa þau verkfæri sem fyrirtæki þurfa til að innleiða örugga og áreiðanlega gervigreind.
Lokun yfirtökunnar er háð hefðbundnum lokaskilyrðum.
