Az OpenAI felvásárolja a Promptfoo-t
Az ügynökalapú biztonsági tesztelési és értékelési képességek felgyorsítása az OpenAI élvonalbeli Frontier platformján
Felvásároljuk a Promptfoo-t, egy AI-biztonsági platformot, amely segít a vállalatoknak az AI-rendszerek sebezhetőségeinek azonosításában és elhárításában a fejlesztés során. Amint a felvásárlás lezárul, a Promptfoo technológiáját közvetlenül integráljuk a(z) OpenAI Frontierbe, az AI-munkatársak létrehozására és működtetésére szolgáló platformunkba.
Ahogy a vállalatok AI-munkatársakat telepítenek valós munkafolyamatokba, az értékelés, a biztonság és a megfelelőség alapvető követelménnyé válnak. A vállalatoknak rendszerszerű módszerekre van szükségük az ügynökök viselkedésének tesztelésére, a kockázatok felderítésére a bevezetés előtt, valamint a világos nyilvántartások vezetésére, hogy hosszú távon támogassák a felügyeletet, az irányítást és a felelősségvállalást.
A Promptfoo csapata, Ian Webster és Michael D’Angelo vezetésével, egy hatékony eszközkészletet épített, amelyben a Fortune 500 vállalatok több mint 25 százalékának bizalmát élvezi, és emelett egy széles körben használt nyílt forráskódú(új ablakban nyílik meg) CLI-t és könyvtárat az LLM-alkalmazások értékeléséhez és piros csapatos teszteléséhez. A nyílt forráskódú projekt építését együtt folytatjuk, miközben a Frontier élvonalbeli integrált vállalati képességeket is továbbfejlesztjük.
„A Promptfoo mély mérnöki szakértelmet biztosít az AI-rendszerek vállalati szintű értékelésében, biztonságossá tételében és tesztelésében. Munkájuk segít a vállalkozásoknak biztonságos és megbízható AI-alkalmazások bevezetésében, és izgatottan várjuk, hogy ezeket a képességeket közvetlenül a Frontierbe is behozzuk.”
Több alapvető képességre építünk majd a Frontier platformon ügynököket építő vállalatok számára:
- A platformba beépített biztonsági és védelmi tesztelés: Az automatizált biztonsági tesztelés és a piros csapatos tesztelés képességei a Frontier platform natív részévé válnak, segítve a vállalatokat az olyan kockázatok azonosításában és elhárításában, mint az utasítás injekciók, a jailbreakek, az adatszivárgások, az eszközök nem rendeltetésszerű használata és a szabályzatnak nem megfelelő ügynök viselkedések.
- A biztonság és az értékelés integrálása a fejlesztési munkafolyamatokba: A Frontier mélyen integrálódik azokba a munkafolyamatokba, amelyek az ügynökkockázatok korábbi azonosításához, kivizsgálásához és elhárításához szükségesek, így a biztonság a nagyvállalati AI-rendszerek fejlesztésének és üzemeltetésének alapvető részévé válik.
- Felügyelet és elszámoltathatóság: Az integrált jelentéskészítés és a nyomon követhetőség segíti a szervezeteket a tesztelés dokumentálásában, a változások időbeli nyomon követésében, valamint abban, hogy megfeleljenek az AI-re vonatkozó irányítási, kockázatkezelési és megfelelőségi elvárások növekedésének.
„Azért indítottuk el a Promptfoo-t, mert a fejlesztőknek gyakorlati módszerre volt szükségük az AI-rendszerek biztonságossá tételéhez. Ahogy az AI-ügynökök egyre inkább valós adatokhoz és rendszerekhez kapcsolódnak, a biztonságossá tételük és validálásuk minden eddiginél nagyobb kihívást jelent, és fontosabb is. Az OpenAI-hoz való csatlakozás lehetővé teszi számunkra, hogy felgyorsítsuk ezt a munkát, és erősebb biztonsági, védelmi és irányítási képességeket biztosítsunk a valós környezetben működő AI-rendszereket építő csapatok számára."
Izgatottan üdvözöljük a Promptfoo csapatát, és tovább folytatjuk azonz eszközöknek a fejlesztését, amelyekre a vállalatoknak szükségük van a biztonságos, megbízható AI telepítéséhez.
Az akvizíció zárása a szokásos zárási feltételek teljesülésétől függ.
