OpenAI-ը ձեռք է բերում Promptfoo-ն
OpenAI Frontier-ում գործակալական անվտանգության թեստավորման և գնահատման հնարավորությունների արագացում
Մենք ձեռք ենք բերում Promptfoo-ն՝ ԱԲ անվտանգության հարթակ, որը օգնում է ձեռնարկություններին մշակման ընթացքում հայտնաբերել և շտկել ԱԲ համակարգերի խոցելիությունները։ Ձեռքբերման ավարտից հետո մենք Promptfoo-ի տեխնոլոգիան անմիջապես կինտեգրենք OpenAI Frontier-ի մեջ, մեր հարթակը՝ արհեստական ինտելեկտի վրա հիմնված գործընկերներ կառուցելու և գործարկելու համար։
Քանի որ ձեռնարկությունները իրական աշխատանքային հոսքերում տեղակայում են ԱԲ-ի գործընկերներ, գնահատումը, անվտանգությունը և համապատասխանությունը դառնում են հիմնարար պահանջներ։ Ձեռնարկություններին անհրաժեշտ են համակարգված եղանակներ՝ ագենտների վարքագիծը փորձարկելու, տեղակայումից առաջ ռիսկերը հայտնաբերելու և հստակ գրառումներ պահպանելու համար՝ ժամանակի ընթացքում վերահսկողությանը, կառավարմանը և հաշվետվողականությանը աջակցելու նպատակով։
Promptfoo-ի թիմը՝ Իան Վեբսթերի և Մայքլ Դ’Անջելոյի ղեկավարությամբ, ստեղծել է հզոր գործիքների հավաքածու, որին վստահում են Fortune 500 ընկերությունների ավելի քան 25 տոկոսը, ինչպես նաև լայնորեն օգտագործվող բաց կոդով(բացվում է նոր պատուհանում) CLI և գրադարան՝ LLM հավելվածների գնահատման և նախափորձարկման համար։ Միասին մենք կշարունակենք կառուցել բաց կոդով նախագիծը՝ միաժամանակ առաջ մղելով Frontier-ի ներսում ինտեգրված ձեռնարկատիրական հնարավորությունները։
«Promptfoo-ն խորը ճարտարագիտական փորձառություն է բերում ձեռնարկության մասշտաբով արհեստական բանականության համակարգերի գնահատման, անվտանգության և փորձարկման գործում։ Նրանց աշխատանքը օգնում է բիզնեսներին տեղակայել անվտանգ և հուսալի ԱԲ հավելվածներ, և մենք ոգևորված ենք այս հնարավորությունները անմիջապես առաջադեմ-ի մեջ բերելու համար»։
Մենք կհիմնվենք մի քանի հիմնական հնարավորությունների վրա՝ ձեռնարկությունների համար, որոնք գործակալներ են ստեղծում Frontier-ում.
- Հարթակում ներկառուցված անվտանգության և պաշտպանության թեստավորում. Ավտոմատացված անվտանգության թեստավորումը և Red-Teaming հնարավորությունները կդառնան Frontier հարթակի անբաժանելի մասը՝ օգնելով ձեռնարկություններին բացահայտել և վերացնել ռիսկերը, ինչպիսիք են արագ ներարկումները, jailbreak-ները, տվյալների արտահոսքը, գործիքների չարաշահումը և ագենտների քաղաքականությունից դուրս վարքագիծը։
- Անվտանգություն և գնահատում՝ ինտեգրված մշակման աշխատանքային հոսքերում. Frontier-ը խորապես կինտեգրվի գործակալների ռիսկերը վաղ փուլում հայտնաբերելու, հետաքննելու և վերացնելու համար անհրաժեշտ աշխատանքային հոսքերի հետ՝ անվտանգությունը դարձնելով ձեռնարկության արհեստական բանականության համակարգերի մշակման և շահագործման հիմնական մասը։
- Հսկողություն և հաշվետվողականություն. Ինտեգրված հաշվետվությունը և հետագծելիությունը կօգնեն կազմակերպություններին փաստաթղթավորել թեստավորումը, վերահսկել ժամանակի ընթացքում փոփոխությունները և բավարարել արհեստական բանականության կառավարման, ռիսկերի և համապատասխանության աճող սպասումները։
«Մենք սկսեցինք Promptfoo-ն, քանի որ մշակողներին անհրաժեշտ էր արհեստական բանականության համակարգերը պաշտպանելու գործնական միջոց։ Քանի որ ԱԲ-ի գործակալները դառնում են ավելի միացված իրական տվյալներին և համակարգերին, դրանց անվտանգությունն ու վավերացումը ավելի դժվար և կարևոր է, քան երբևէ։ OpenAI-ին միանալը մեզ թույլ է տալիս արագացնել այս աշխատանքը՝ իրական աշխարհի ԱԲ համակարգեր կառուցող թիմերին տրամադրելով ավելի ուժեղ անվտանգության, անվտանգային և կառավարման հնարավորություններ»։
Մենք ուրախ ենք ողջունել Promptfoo թիմին և շարունակել ստեղծել այն գործիքները, որոնք ձեռնարկություններին անհրաժեշտ են անվտանգ և հուսալի արհեստական բանականություն տեղակայելու համար։
Ձեռքբերման ավարտը ենթակա է սովորական փակման պայմաններին:
