OpenAI Promptfoo-ны сатып алады
OpenAI Frontier-та агенттік қауіпсіздік тестілеуі мен бағалау мүмкіндіктерін жеделдету
Біз Promptfoo-ны сатып алып жатырмыз. Бұл — әзірлеу барысында кәсіпорындарға AI жүйелеріндегі осалдықтарды анықтап, түзетуге көмектесетін AI қауіпсіздігі платформасы. Сатып алу аяқталған соң, біз Promptfoo технологиясын OpenAI Frontier-ға — AI әріптестерін құруға және пайдалануға арналған платформамызға — тікелей енгіземіз.
Кәсіпорындар AI әріптестерін нақты жұмыс үдерістеріне енгізген сайын, бағалау, қауіпсіздік және сәйкестік іргелі талаптарға айналады. Кәсіпорындарға агент әрекетін сынаудың, енгізуге дейін тәуекелдерді анықтаудың және уақыт өте келе қадағалау, басқару және есептілікке қолдау көрсететін нақты жазбаларды жүргізудің жүйелі тәсілдері қажет.
Иэн Уэбстер мен Майкл Д’Анджело жетекшілік ететін Promptfoo командасы Fortune 500 компанияларының 25 пайызынан астамы сенетін қуатты құралдар жиынтығын, сондай-ақ LLM (үлкен тілдік модель) қолданбаларын бағалау мен red-teaming жасауға арналған кең қолданылатын ашық кодты(жаңа терезеде ашылады) CLI мен кітапхананы құрды. Біз бірге ашық кодты жобаны дамытуды жалғастыра отырып, Frontier ішіндегі біріктірілген корпоративтік мүмкіндіктерді де ілгерілетеміз.
«Promptfoo ірі кәсіпорын ауқымында AI жүйелерін бағалау, қорғау және тестілеу бойынша терең инженерлік сараптаманы алып келеді. Олардың жұмысы бизнеске қауіпсіз әрі сенімді AI қолданбаларын енгізуге көмектеседі, және біз бұл мүмкіндіктерді Frontier-ға тікелей енгізуге қуаныштымыз.»
Біз Frontier-та агенттер құрып жатқан кәсіпорындар үшін бірнеше негізгі мүмкіндікті дамытамыз:
- Платформаға кіріктірілген қауіпсіздік пен қауіпсіз пайдалану тестілеуі: Автоматтандырылған қауіпсіздік тестілеуі мен red-teaming мүмкіндіктері Frontier платформасының табиғи бөлігіне айналып, кәсіпорындарға көмексөзге зиян келтіру, jailbreak, дерек ағуы, құралдарды теріс пайдалану және саясатқа сай келмейтін агент әрекеттері сияқты тәуекелдерді анықтап, түзетуге көмектеседі.
- Әзірлеу жұмыс үдерістеріне біріктірілген қауіпсіздік пен бағалау: Frontier агент тәуекелдерін ертерек анықтау, зерттеу және түзету үшін қажет жұмыс үдерістерімен терең бірігіп, қауіпсіздікті корпоративтік AI жүйелерін әзірлеу мен пайдаланудың негізгі бөлігіне айналдырады.
- Қадағалау және есептілік: Біріктірілген есеп беру мен қадағалану ұйымдарға тестілеуді құжаттауға, уақыт өте келе өзгерістерді бақылауға және AI үшін күшейіп келе жатқан басқару, тәуекел және сәйкестік талаптарын орындауға көмектеседі.
«Біз Promptfoo-ны әзірлеушілерге AI жүйелерін қорғаудың практикалық жолы қажет болғандықтан бастадық. AI агенттері нақты деректер мен жүйелерге көбірек қосылған сайын, оларды қорғау мен валидациялау бұрынғыдан да күрделірек әрі маңыздырақ бола түседі. OpenAI-ға қосылу бұл жұмысты жеделдетуге мүмкіндік береді және нақты әлемдегі AI жүйелерін құрып жатқан командаларға қауіпсіздік, қауіпсіз пайдалану және басқару мүмкіндіктерін күшейтіп жеткізуге жол ашады.»
Біз Promptfoo командасын қуана қарсы аламыз және кәсіпорындарға қауіпсіз, сенімді AI енгізу үшін қажет құралдарды жасауды жалғастырамыз.
Сатып алу мәмілесінің жабылуы әдеттегі жабылу шарттарына байланысты.
