OpenAI შეიძენს Promptfoo-ს
OpenAI Frontier-ში აგენტური უსაფრთხოების ტესტირებისა და შეფასების შესაძლებლობების დაჩქარება
ჩვენ ვიძენთ Promptfoo-ს — AI უსაფრთხოების პლატფორმას, რომელიც კომპანიებს ეხმარება, AI სისტემებში არსებული მოწყვლადობები განვითარების ეტაპზე გამოავლინონ და აღმოფხვრან. გარიგების დასრულების შემდეგ Promptfoo-ს ტექნოლოგიას პირდაპირ OpenAI Frontier-ში დავინტეგრირებთ — ჩვენს პლატფორმაში, რომელიც AI თანამშრომლების შექმნასა და მართვას ემსახურება.
როდესაც კომპანიები AI თანამშრომლებს რეალურ სამუშაო პროცესებში ნერგავენ, შეფასება, უსაფრთხოება და შესაბამისობა ფუნდამენტურ მოთხოვნებად იქცევა. კომპანიებს სჭირდებათ სისტემური გზები, რათა შეამოწმონ აგენტების ქცევა, დანერგვამდე გამოავლინონ რისკები და დროთა განმავლობაში შეინარჩუნონ მკაფიო ჩანაწერები ზედამხედველობის, მმართველობისა და ანგარიშვალდებულების მხარდასაჭერად.
Promptfoo-ს გუნდმა, იენ ვებსტერისა და მაიკლ დ’ანჯელოს ხელმძღვანელობით, შექმნა ძლიერი ინსტრუმენტების ნაკრები, რომელსაც Fortune 500-ის კომპანიების 25 პროცენტზე მეტი ენდობა, ასევე ფართოდ გამოყენებული ღია კოდის(იხსნება ახალ ფანჯარაში) CLI და ბიბლიოთეკა LLM აპლიკაციების შეფასებისა და red-teaming-ისთვის. ერთად ჩვენ გავაგრძელებთ ღია კოდის პროექტის განვითარებას და ამავე დროს Frontier-ში ინტეგრირებულ საწარმოო შესაძლებლობებსაც წავწევთ წინ.
„Promptfoo-ს აქვს ღრმა საინჟინრო ექსპერტიზა საწარმოო მასშტაბზე AI სისტემების შეფასებაში, დაცვასა და ტესტირებაში. მათი მუშაობა ბიზნესებს ეხმარება, დანერგონ უსაფრთხო და სანდო AI აპლიკაციები, და მოხარულები ვართ, რომ ამ შესაძლებლობებს პირდაპირ Frontier-ში მოვიტანთ.“
ჩვენ ავაგებთ რამდენიმე ძირითად შესაძლებლობას კომპანიებისთვის, რომლებიც Frontier-ზე აგენტებს ქმნიან:
- პლატფორმაში ჩაშენებული უსაფრთხოებისა და დაცულობის ტესტირება: უსაფრთხოების ავტომატური ტესტირება და red-teaming-ის შესაძლებლობები Frontier პლატფორმის ბუნებრივ ნაწილად გადაიქცევა, რაც კომპანიებს დაეხმარება ისეთი რისკების გამოვლენასა და აღმოფხვრაში, როგორიცაა პრომპტ ინიექცია, jailbreak-ები, მონაცემთა გაჟონვა, ხელსაწყოების არასწორი გამოყენება და პოლიტიკასთან შეუსაბამო აგენტური ქცევები.
- უსაფრთხოებისა და შეფასების ინტეგრაცია განვითარების სამუშაო პროცესებში: Frontier ღრმად ინტეგრირდება იმ სამუშაო პროცესებთან, რომლებიც აგენტური რისკების უფრო ადრეულ ეტაპზე გამოვლენის, გამოკვლევისა და აღმოფხვრისთვის არის საჭირო, და უსაფრთხოებას საწარმოო AI სისტემების შექმნისა და მართვის ძირითად ნაწილად აქცევს.
- ზედამხედველობა და ანგარიშვალდებულება: ინტეგრირებული ანგარიშგება და მიკვლევადობა ორგანიზაციებს დაეხმარება, დაადასტურონ ტესტირება, დროთა განმავლობაში აკონტროლონ ცვლილებები და დააკმაყოფილონ AI-სთვის მზარდი მმართველობის, რისკისა და შესაბამისობის მოლოდინები.
„Promptfoo იმიტომ დავიწყეთ, რომ დეველოპერებს AI სისტემების დასაცავად პრაქტიკული გზა სჭირდებოდათ. რაც უფრო მეტად ერთვებიან AI აგენტები რეალურ მონაცემებსა და სისტემებში, მათი დაცვა და ვალიდაცია მით უფრო რთული და მნიშვნელოვანი ხდება. OpenAI-სთან შეერთება გვაძლევს საშუალებას, ეს სამუშაო დავაჩქაროთ და რეალური სამყაროს AI სისტემების შემქმნელ გუნდებს უფრო ძლიერი უსაფრთხოების, დაცულობისა და მმართველობის შესაძლებლობები მივაწოდოთ.“
მოხარულები ვართ, რომ Promptfoo-ს გუნდს მივესალმებით და გავაგრძელებთ იმ ინსტრუმენტების შექმნას, რომლებიც კომპანიებს უსაფრთხო და სანდო AI-ის დასანერგად სჭირდებათ.
გარიგების დახურვა ექვემდებარება დახურვის ჩვეულ პირობებს.
