Η OpenAI εξαγοράζει την Promptfoo
Επιτάχυνση των δυνατοτήτων δοκιμών ασφάλειας και αξιολόγησης πρακτόρων στο OpenAI Frontier
Η OpenAI εξαγοράζει την Promptfoo, μια πλατφόρμα ασφάλειας ΤΝ που βοηθά τις επιχειρήσεις να εντοπίζουν και να διορθώνουν ευπάθειες σε συστήματα ΤΝ κατά τη διάρκεια της ανάπτυξης. Μόλις ολοκληρωθεί η εξαγορά, θα ενσωματώσουμε την τεχνολογία της Promptfoo απευθείας στο OpenAI Frontier, την πλατφόρμα μας για τη δημιουργία και διαχείριση συνεργατών ΤΝ.
Καθώς οι επιχειρήσεις ενσωματώνουν συνεργάτες ΤΝ σε πραγματικές ροές εργασίας, η αξιολόγηση, η ασφάλεια και η συμμόρφωση εξελίσσονται σε θεμελιώδεις απαιτήσεις. Οι οργανισμοί χρειάζονται συστηματικούς τρόπους για να δοκιμάζουν τη συμπεριφορά πρακτόρων, να εντοπίζουν κινδύνους πριν από την ανάπτυξη και να διατηρούν σαφή αρχεία που υποστηρίζουν την εποπτεία, τη διακυβέρνηση και την ανάληψη ευθύνης με την πάροδο του χρόνου.
Η ομάδα της Promptfoo, με επικεφαλής τους Ίαν Γουέμπστερ και Μάικλ Ντ' Άντζελο, έχει δημιουργήσει μια ισχυρή σουίτα εργαλείων που χρησιμοποιείται ήδη από πάνω από το 25% των εταιρειών του Fortune 500, καθώς και ένα ευρέως χρησιμοποιούμενο έργο ανοιχτού κώδικα(ανοίγει σε νέο παράθυρο) CLI και βιβλιοθήκη για την αξιολόγηση και το αντιπαραθετικό έλεγχο ασφαλείας (red teaming) σε εφαρμογές LLM. Μαζί, θα συνεχίσουμε να αναπτύσσουμε το έργο ανοιχτού κώδικα, ενώ παράλληλα θα προωθούμε τις ενοποιημένες εταιρικές δυνατότητες μέσα στο Frontier.
«Η Promptfoo φέρνει τη βαθιά τεχνογνωσία μηχανικής στην αξιολόγηση, την ασφάλεια και τις δοκιμές συστημάτων ΤΝ σε εταιρική κλίμακα. Το έργο τους βοηθά τις επιχειρήσεις να αναπτύσσουν ασφαλείς και αξιόπιστες εφαρμογές ΤΝ και χαιρόμαστε που φέρνουμε αυτές τις δυνατότητες απευθείας στο Frontier.»
Θα βασιστούμε σε ορισμένες βασικές δυνατότητες για επιχειρήσεις που δημιουργούν πράκτορες στο Frontier:
- Δοκιμές ασφάλειας και προστασίας, ενσωματωμένες στην πλατφόρμα: Οι αυτοματοποιημένες δοκιμές ασφάλειας και οι δυνατότητες αντιπαραθετικού ελέγχου ασφαλείας (red teaming) θα αποτελούν εγγενές μέρος της πλατφόρμας Frontier, βοηθώντας τις επιχειρήσεις να εντοπίζουν και να διορθώνουν κινδύνους όπως επιθέσεις μέσω έγχυσης προτροπών, προσπάθειες παράκαμψης περιορισμών, διαρροές δεδομένων, κακή χρήση εργαλείων και συμπεριφορές πρακτόρων που παραβιάζουν τις πολιτικές.
- Ασφάλεια και αξιολόγηση, ενσωματωμένες στις ροές εργασίας ανάπτυξης: Το Frontier θα ενσωματώνεται σε βάθος με τις ροές εργασίας που απαιτούνται για τον εντοπισμό, τη διερεύνηση και τη διόρθωση κινδύνων που σχετίζονται με πράκτορες σε πρώιμο στάδιο, καθιστώντας την ασφάλεια βασικό στοιχείο του τρόπου με τον οποίο αναπτύσσονται και λειτουργούν τα εταιρικά συστήματα ΤΝ.
- Εποπτεία και ανάληψη ευθύνης: Οι ενσωματωμένες δυνατότητες αναφοράς και ιχνηλασιμότητας θα βοηθούν τους οργανισμούς να τεκμηριώνουν τις δοκιμές, να παρακολουθούν αλλαγές με την πάροδο του χρόνου και να ανταποκρίνονται στις αυξανόμενες απαιτήσεις διακυβέρνησης, διαχείρισης κινδύνων και συμμόρφωσης για την ΤΝ.
«Ξεκινήσαμε την Promptfoo επειδή οι προγραμματιστές χρειάζονταν έναν πρακτικό τρόπο για να ασφαλίζουν συστήματα ΤΝ. Καθώς οι πράκτορες ΤΝ συνδέονται όλο και περισσότερο με πραγματικά δεδομένα και συστήματα, η ασφάλισή τους και η επικύρωσή τους γίνεται πιο δύσκολη και πιο σημαντική από ποτέ. Η ένταξή μας στην OpenAI μάς επιτρέπει να επιταχύνουμε αυτή την προσπάθεια, φέρνοντας ισχυρότερες δυνατότητες ασφάλειας, προστασίας και διακυβέρνησης στις ομάδες που δημιουργούν συστήματα ΤΝ για πραγματικές εφαρμογές.»
Χαιρόμαστε ιδιαίτερα που καλωσορίζουμε την ομάδα της Promptfoo και που θα συνεχίσουμε να αναπτύσσουμε τα εργαλεία που χρειάζονται οι επιχειρήσεις για να δημιουργούν ασφαλή και αξιόπιστα συστήματα ΤΝ.
Η ολοκλήρωση της εξαγοράς τελεί υπό τις συνήθεις προϋποθέσεις ολοκλήρωσης.
