OpenAI द्वारा Promptfoo का अधिग्रहण
OpenAI Frontier में एजेंटिक सिक्योरिटी टेस्टिंग और इवैल्यूएशन क्षमताओं को तेज़ करना
हम Promptfoo का अधिग्रहण कर रहे हैं, जो एक AI सिक्योरिटी प्लेटफॉर्म है जो एंटरप्राइज़ को डेवलपमेंट के दौरान AI सिस्टम्स में कमजोरियों की पहचान करने और उन्हें ठीक करने में मदद करता है. अधिग्रहण अंतिम होने के बाद हम Promptfoo की टेक्नोलॉजी को सीधे OpenAI Frontier, में इंटीग्रेट करेंगे, जो AI coworkers को बनाने और ऑपरेट करने के लिए हमारा प्लेटफॉर्म है.
जैसे-जैसे एंटरप्राइज़ वास्तविक वर्कफ्लोज़ में AI coworkers को तैनात करते हैं, इवैल्यूएशन, सिक्योरिटी और कंप्लायंस बुनियादी आवश्यकताएँ बन जाते हैं. एंटरप्राइज़ को एजेंट के व्यवहार का टेस्ट करने, डिप्लॉयमेंट से पहले जोखिमों का पता लगाने, और समय के साथ ओवरसाइट, गवर्नेंस और अकाउंटेबिलिटी को सपोर्ट करने के लिए स्पष्ट रिकॉर्ड बनाए रखने के लिए व्यवस्थित तरीकों की जरूरत होती है.
Ian Webster और Michael D’Angelo के नेतृत्व में Promptfoo टीम ने ऐसे शक्तिशाली टूल्स का एक सूट बनाया है जिस पर Fortune 500 की 25 प्रतिशत से अधिक कंपनियाँ भरोसा करती हैं, साथ ही LLM एप्लिकेशन्स के इवैल्यूएशन और रेड-टीमिंग के लिए व्यापक रूप से उपयोग होने वाला open-source(एक नई विंडो में खुलेगा) CLI और लाइब्रेरी भी विकसित की है. साथ मिलकर हम open-source प्रोजेक्ट को आगे बनाते रहेंगे और साथ ही Frontier के भीतर इंटीग्रेटेड एंटरप्राइज़ क्षमताओं को भी आगे बढ़ाएँगे.
“Promptfoo एंटरप्राइज़ स्तर पर AI सिस्टम्स के इवैल्यूएशन, सिक्योर करने और टेस्टिंग में गहरी इंजीनियरिंग विशेषज्ञता लेकर आता है. उनका काम बिज़नेस को सुरक्षित और भरोसेमंद AI एप्लिकेशन्स डिप्लॉय करने में मदद करता है, और हम इन क्षमताओं को सीधे Frontier में लाने के लिए उत्साहित हैं.”
Frontier पर एजेंट बनाने वाले एंटरप्राइज़ के लिए हम कई मुख्य क्षमताओं पर आगे निर्माण करेंगे.
- प्लेटफॉर्म में बिल्ट-इन सिक्योरिटी और सेफ्टी टेस्टिंग: ऑटोमेटेड सिक्योरिटी टेस्टिंग और रेड-टीमिंग क्षमताएँ Frontier प्लेटफॉर्म का एक नेटिव हिस्सा बनेंगी, जो एंटरप्राइज़ को prompt injections, jailbreaks, डेटा लीक्स, टूल मिसयूज़ और पॉलिसी से बाहर एजेंट व्यवहार जैसे जोखिमों की पहचान करने और उन्हें ठीक करने में मदद करेंगी.
- डेवलपमेंट वर्कफ्लोज़ में इंटीग्रेटेड सिक्योरिटी और इवैल्यूएशन: Frontier उन वर्कफ्लोज़ के साथ गहराई से इंटीग्रेट होगा जो एजेंट जोखिमों की जल्दी पहचान, जाँच और उन्हें ठीक करने के लिए जरूरी हैं, जिससे सिक्योरिटी एंटरप्राइज़ AI सिस्टम्स को डेवलप और ऑपरेट करने का एक मुख्य हिस्सा बन जाएगी.
- ओवरसाइट और अकाउंटेबिलिटी: इंटीग्रेटेड रिपोर्टिंग और ट्रेसएबिलिटी संगठनों को टेस्टिंग को डॉक्यूमेंट करने, समय के साथ होने वाले बदलावों की निगरानी करने, और AI के लिए बढ़ती गवर्नेंस, जोखिम और कंप्लायंस अपेक्षाओं को पूरा करने में मदद करेगी.
“हमने Promptfoo की शुरुआत इसलिए की क्योंकि डेवलपर्स को AI सिस्टम्स को सुरक्षित बनाने का एक व्यावहारिक तरीका चाहिए था. जैसे-जैसे AI एजेंट वास्तविक डेटा और सिस्टम्स से अधिक जुड़े होते जा रहे हैं, उन्हें सुरक्षित करना और वैलिडेट करना पहले से कहीं अधिक चुनौतीपूर्ण और महत्वपूर्ण हो गया है. OpenAI से जुड़ने से हम इस काम को तेज़ी से आगे बढ़ा सकते हैं, और वास्तविक दुनिया के AI सिस्टम्स बनाने वाली टीमों तक और मजबूत सिक्योरिटी, सेफ्टी और गवर्नेंस क्षमताएँ पहुँचा सकते हैं.”
हमें Promptfoo टीम का स्वागत करते हुए खुशी हो रही है और हम ऐसे टूल्स बनाते रहेंगे जिनकी एंटरप्राइज़ को सुरक्षित और भरोसेमंद AI को डिप्लॉय करने के लिए जरूरत होती है.
अधिग्रहण का समापन सामान्य क्लोज़िंग शर्तों के अधीन है.
