Արդյունավետ երրորդ կողմի գնահատումների գերակայություններն ու սկզբունքները

Առաջադեմ ԱԲ լաբորատորիաները հսկայական պատասխանատվություն են կրում մոդելներն անվտանգ ուսուցանելու, գնահատելու և ներդնելու համար։ Երրորդ կողմի գնահատումները կարևոր են այդ պատասխանատվությունը հավասարակշռելու, ԱԲ անվտանգության վերաբերյալ կարծիքների շրջանակն ընդլայնելու, աշխարհին տեղեկացված պահելու և լաբորատորիաներին անվտանգության հստակ ու անկախորեն հաստատված պնդումների համար հաշվետու դարձնելու գործում։

Առաջադեմ ԱԲ-ի զարգացմանը համընթաց շարժվելու մեր ջանքերի շրջանակում OpenAI-ը հանձնառու է աջակցել անկախ գնահատումներին՝ տրամադրելով ուսուցման, գնահատման և ներդրման գործընթացների խոր հասանելիություն։ Այդ հասանելիությունը պետք է գնահատողներին հնարավորություն տա վիճարկելու մեր ենթադրությունները, բացահայտելու մեր բաց թողած ռիսկերը և ինքնուրույն եզրակացություններ անելու մեր պաշտպանական միջոցների արդյունավետության մասին։

Մենք երկար ժամանակ աշխատել ենք երրորդ կողմի գնահատողների հետ՝ մոդելի մշակման և ներդրման գործընթացի տարբեր փուլերում։ Մենք նաև երրորդ կողմի գնահատումները ներառել ենք մեր Պատրաստվածության շրջանակի գործելակերպում և աջակցել կազմակերպություններին ու օրենսդրական նախաձեռնություններին, որոնք ջատագովում են ավելի խիստ և հաշվետու գործընթաց։ Այս համագործակցությունների ընթացքում մենք տրամադրել ենք խոր հասանելիություն, այդ թվում՝ տեղեկություն մեր տեխնիկական պաշտպանական միջոցների մասին, տեսանելի մտքերի շղթայի հասանելիություն, ինչպես նաև աննախադեպ հասանելիություն գաղտնի տվյալներին և ներքին ներդրման միջավայրին՝ միջադեպերին արձագանքելու ու մշտադիտարկման համակարգերի նախափորձարկման համար։ Այստեղ ներկայացված գերակայություններն ու սկզբունքները վերաբերում են մասնավոր և ոչ առևտրային ոլորտների անկախ գնահատող կազմակերպությունների հետ տեխնիկական անվտանգության գնահատումների շուրջ մեր համագործակցությանը։ Դրանք լրացնում են փորձարկման և գնահատման շուրջ կառավարությունների հետ մեր աշխատանքը, որտեղ տարբեր դերերն ու պարտականությունները կարող են այլ մոտեցումներ պահանջել։

Այս գնահատումների արդյունավետության համար անհրաժեշտ են անկախության հուսալի մեխանիզմներ, գիտական խստություն, անվտանգության ամուր գործելակերպ և հստակ պարտականություններ։ Լաբորատորիաները պարտավոր են հնարավոր դարձնել բովանդակալից վերահսկողությունը՝ միաժամանակ պաշտպանելով զգայուն տեղեկությունը։ Լաբորատորիաներն ու անկախ գնահատողները համատեղ պատասխանատվություն են կրում այս աշխատանքը ճիշտ կատարելու համար և պետք է գործեն անվտանգության ու պաշտպանության ընդհանուր միջազգային չափորոշիչներով։ Ստորև առաջարկում ենք խոր գնահատման չորս գերակա ոլորտ և խիստ, անվտանգ ու անկախ աշխատանքի սկզբունքներ։

Երրորդ կողմի գնահատումներն առավել օգտակար են, երբ պատասխանում են կոնկրետ ու կարևոր հարցերի․ արդյո՞ք փաստերը հաստատում են լաբորատորիայի անվտանգության հիմնավորումն ու պնդումները։ Արդյո՞ք գնահատումները պատշաճ կերպով ստուգում են այն ռիսկերը, որոնք նախատեսված են չափելու։ Արդյո՞ք պաշտպանական միջոցներն աշխատում են իրատեսական պայմաններում։

Այստեղ նկարագրված գնահատումները պետք է տարբեր ձևեր ընդունեն՝ կախված ուսումնասիրվող անվտանգության հարցերից։ Մենք ակնկալում ենք միաժամանակ և տարբեր ժամանակահատվածներում աջակցել մի քանի գնահատումների, որոնցից որոշները կտևեն շաբաթներ, իսկ մյուսները՝ մի քանի ամիս։ Թեև երրորդ կողմի գնահատումները կարող են նաև նախորդել ներդրմանը և ազդել ներդրման որոշումների վրա, այստեղ նկարագրված աշխատանքը սովորաբար երկարաժամկետ է ու թողարկումից անկախ՝ նպատակ ունենալով ժամանակի ընթացքում խորությամբ ուսումնասիրել անվտանգության որոշակի պնդումներ։

Մեր գերակա ոլորտներում և սկզբունքներում մենք հիշատակում ենք անվտանգության պնդումներն ու անվտանգության հիմնավորումները։ Այս եզրույթների ներքո նկատի ունենք հետևյալը․

Մենք առաջարկում ենք խոր գնահատման չորս գերակա ոլորտ և խիստ, անվտանգ ու անկախ աշխատանքի սկզբունքներ։

1. Ուսուցումը, գնահատումը, ներքին և արտաքին ներդրումն ընդգրկող անվտանգության հիմնավորումների անկախ գնահատում։

   Անվտանգության հիմնավորումների գնահատումը պահանջում է համաձայնեցման, մշտադիտարկման նման վերահսկման մեթոդների, կիբեռանվտանգության, կենսաբանական ու քիմիական չարաշահման և նախափորձարկման մասնագիտական գիտելիքներ։ Անվտանգության հիմնավորումները բաղկացած են ուսուցմանը, կարողությունների գնահատումներին ու պաշտպանական միջոցներին վերաբերող պնդումներից, որոնք կարելի է գնահատել ամբողջությամբ կամ առանձին մասերով (տե՛ս ստորև 2-րդ և 3-րդ գերակայությունները)։ Հավանաբար մի քանի գնահատող պետք է ուսումնասիրի հիմնավորումների տարբեր մասերը՝ կիրառելով իր համապատասխան մասնագիտական գիտելիքները։ Նրանց գնահատումները միասին պետք է պատասխանեն հետևյալ հարցերին․

   1. Արդյո՞ք ուսուցման, գնահատման և ներդրման անվտանգության հիմնավորումների ապացույցները հաստատված են։ Արդյո՞ք ուսուցման, գնահատման և ներդրման ընթացքում պահպանվել են անվտանգության հիմնավորման պայմանները։

   2. Արդյո՞ք մեր անվտանգության հիմնավորումներն ընդգրկում են գնահատման ընթացքում հայտնաբերված առավել հրատապ ռիսկերը։ Արդյո՞ք անվտանգության պնդումները հաստատում են անվտանգության ընդհանուր հիմնավորումը։ Կա՞ն բացեր կամ բարելավման ենթակա ոլորտներ։

   3. Արդյո՞ք կիրառվում են արդյունավետ մեթոդներ՝ ուսուցման ընթացքում այնպիսի խթաններ հայտնաբերելու և նվազեցնելու համար, որոնք կարող են խրախուսել խաբեությունը, պարգևի խաբեությունը, կործանարար գործողությունները կամ սահմանափակումների շրջանցումը։

2. Ներքին և արտաքին ներդրումներում կարևոր պաշտպանական միջոցների գնահատում

   Մեր պաշտպանական միջոցների համալիրը մշտապես զարգանում է՝ փոփոխվող կարողություններին և միջավայրին համապատասխանելու համար։ Մեր պաշտպանական միջոցներն ընդգրկում են ուսուցումը, ներքին ներդրումը և արտաքին ներդրումը։ Ներկայում դրանք ներառում են մոդելի մակարդակի, կանոնների կիրառման ու անվտանգության պաշտպանական միջոցներ, ինչպես նաև անհամաձայնեցվածության մշտադիտարկման համակարգեր՝ ընդգրկելով բազմաթիվ ռիսկեր, օրինակ՝ վերահսկողության կորուստն ու կիբեռ, կենսաբանական և քիմիական ոլորտներում չարաշահումը։ Տեխնիկական գործընկերությունները կարող են այսօր բացահայտել պաշտպանական միջոցների թույլ կողմերը՝ միաժամանակ բարելավելով գնահատման մեթոդները և արագացնելով չափորոշիչների մշակումը։ Այդպիսով դրանք ավելի ամուր տեխնիկական հիմք կստեղծեն առաջադեմ ԱԲ-ի զարգացմանը համընթաց ապագա հանրային քաղաքականությունների համար, հատկապես ներքին ներդրումների ոլորտում, որտեղ անվտանգության ու պաշտպանության չափորոշիչները դեռ ձևավորման փուլում են։

   Անկախ գնահատումները պետք է ուսումնասիրեն, թե որքան արդյունավետ են այս պաշտպանական միջոցները և որտեղ կարող են թերանալ, օրինակ՝

   1. «Մոխրագույն արկղի» հասանելիության պայմաններում արդյո՞ք պաշտպանական միջոցները դիմակայում են հակառակորդային փորձարկմանը՝ հաքերային հարձակման գործընթացներին, և բավարար չափով կանխում բարձր ռիսկայնության ոլորտներում, օրինակ՝ կիբեռ և կենսաբանական ոլորտներում, կարողությունների աճը։ Արդյո՞ք մեր հակառակորդային փորձարկումն ու նախափորձարկումն ընդգրկում են ամենակարևոր ռիսկերը։

   2. Իրատեսական աշխատանքային պայմաններում թույլատրված փորձարկումների ժամանակ ագենտներն ինչպե՞ս են փոխազդում կիբեռպաշտպանության այնպիսի միջոցների հետ, ինչպիսիք են հասանելիության վերահսկումը, մեկուսացված միջավայրերը և հայտնաբերման ու արձագանքման համակարգերը։ Պաշտպանության ո՞ր միջոցներն են կանխում, հայտնաբերում կամ զսպում վնասակար գործողությունները, և որտե՞ղ են դրանք ձախողվում։

   3. Արդյո՞ք անհամաձայնեցվածության մեր մշտադիտարկման համակարգերն ունեն էական բացեր, որոնք թե՛ ներքին, թե՛ արտաքին ներդրման դեպքում կարող են հանգեցնել վերահսկողության կորստի կամ լուրջ անհամաձայնեցվածության։ Մոդելի կարողությունների աճին զուգընթաց որքանո՞վ է հուսալի մտքերի շղթայի մշտադիտարկումը՝ որպես անվտանգության կամ համաձայնեցման ապացույցների աղբյուր։

   4. Արդյո՞ք բոլոր համապատասխան ուսուցման, գնահատման ու ներդրման գործընթացներում իրականացվում է պատշաճ մշտադիտարկում, որն անհնար է հեշտությամբ անջատել։

   5. Արդյո՞ք պաշտպանական միջոցները կիրառվում են կարողություններին համաչափ։

3. Պատրաստվածության ռիսկերի կատեգորիաներն (քիմիական և կենսաբանական ռիսկեր, կիբեռանվտանգություն, ԱԲ-ի ինքնակատարելագործում) ընդգրկող կարողությունների գնահատումների և անհամաձայնեցվածության ռիսկերի համաձայնեցման գնահատումների ուսումնասիրություն

   Մեր Պատրաստվածության շրջանակը պահանջում է գնահատել սահմանային ռիսկի առանցքային ոլորտները։ Երբ շեմերը գերազանցվում են, իսկ գնահատումներն այլևս չեն տարբերակում կարողությունների մակարդակները, կարևոր է պարբերաբար թարմացնել և ապահովել Պատրաստվածության ռիսկային ոլորտներում կարողությունները չափող գնահատումների, ինչպես նաև լուրջ անհամաձայնեցվածության ռիսկերը չափող համաձայնեցման գնահատումների ընդգրկունությունն ու որակը։

   Համապատասխան հարցերից են․

   1. Արդյո՞ք Պատրաստվածության ռիսկերը գնահատող ստուգումները պատշաճ կերպով ընդգրկում են Պատրաստվածության ռիսկի շեմի սահմանումը։ Արդյո՞ք այս գնահատումների շեմերը ճիշտ են սահմանված։

   2. Արդյո՞ք գնահատումները թարմացվում են, երբ մոդելները հետևողականորեն ստանում են առավելագույն միավորներ, և արդյո՞ք նոր փորձարկումներն արդյունավետորեն չափում են ավելի առաջադեմ կարողություններ։

   3. Արդյո՞ք համաձայնեցման մեր գնահատումները պատշաճ կերպով ընդգրկում են լուրջ անհամաձայնեցվածության ռիսկերը, և ի՞նչ կարևոր վարքագիծ կամ պայմաններ կարող են բաց թողնել։

4. Անհամաձայնեցվածության կարևոր միջադեպերի անկախ հետաքննություն

   Անկախ հետաքննությունը կարող է արժեքավոր լինել ԱԲ անվտանգության տարբեր կարևոր միջադեպերի դեպքում։ Այստեղ կենտրոնանում ենք մոդելի անհամաձայնեցվածության վրա, ներառյալ մոդելների՝ առանց թույլտվության գործելը կամ վերահսկողությունից խուսափելը, որոնք նույնիսկ դիտավորյալ չարաշահման բացակայության դեպքում կարող են բացահայտել համաձայնեցման մեթոդների ու պաշտպանական միջոցների թույլ կողմերը։

   Որոշ դեպքերում, ինչպես OpenAI-ի Hugging Face միջադեպի ժամանակ, կարող է օգտակար լինել ներգրավել անկախ երրորդ կողմի՝ անհամաձայնեցվածության միջադեպի անկախ հետաքննության համար։ Չափազանց կարևոր է, որ միջադեպի հետաքննությանը մասնակցող երրորդ կողմերն ունենան անհրաժեշտ փորձագիտական կարողությունները, այդ թվում՝ ըստ կիրառելիության, կիբեռդատափորձագիտական և համաձայնեցման գիտելիքներ, մտքերի շղթայի լայնածավալ վերլուծության կարողություն, ինչպես նաև բավարար անձնակազմ ու ռեսուրսներ՝ հետաքննությունը ժամանակին իրականացնելու համար։ Միջադեպին արձագանքումը կարող է պահանջել հասանելիություն ներքին զգայուն տվյալներին և երրորդ կողմի տվյալներին, ուստի որոշ մանրամասների հրապարակումը կամ հասանելիությունը կարող է սահմանափակվել։ Անկախ հետաքննությունների արդյունքները կարող են նաև նպաստել մոդելի անվտանգության հիմնավորմանը՝ տրամադրելով փաստեր, որոնցով կարելի է գնահատել դրա համաձայնեցման և նախկինում դիտարկված անհամաձայնեցվածությունը շտկելու համար ձեռնարկված միջոցների արդյունավետության մասին պնդումները։

   Անհամաձայնեցվածության միջադեպերի համատեքստում առաջնահերթություն ենք տալիս հետևյալի անկախ գնահատմանը․

   1. Միջադեպի ընթացքում մոդելի ի՞նչ վարքագիծ կամ անհամաձայնեցվածության ի՞նչ խնդիրներ են ի հայտ եկել, և որո՞նք են դրանց նպաստող հիմնական գործոնները։

   2. Արդյո՞ք պաշտպանական և շտկման միջոցներն ապագայում արդյունավետորեն կնվազեցնեն նման միջադեպերի հավանականությունն ու հետևանքները։

• Գնահատման հստակ սահմանված և փոխադարձաբար համաձայնեցված պնդումներ․ գնահատումը պետք է սկսվի փոխադարձաբար համաձայնեցված շրջանակից, որից հետո պետք է հստակ սահմանվեն և նախապես գրանցվեն անվտանգության պնդումները՝ նախքան գնահատման աշխատանքների մեկնարկը։ Երրորդ կողմերն ու լաբորատորիաները պետք է հստակեցնեն՝ արդյոք դրանք գնահատվող ընկերության առաջադրած պնդումներն են, թե երրորդ կողմի գնահատողի կողմից անկախ գնահատման ենթակա պնդումներ, որոնցով գնահատվելուն լաբորատորիան համաձայնում է։ Որոշ պնդումներ կարող են դուրս մնալ շրջանակից բազմաթիվ պատճառներով, այդ թվում՝ երրորդ կողմերի համար տվյալների անհասանելիության, գնահատողի ոչ բավարար մասնագիտական գիտելիքների կամ հրատապ գնահատման դեպքում ժամանակի ողջամիտ սահմանափակումների պատճառով։ Լաբորատորիաներն ու գնահատողները պետք է սահմանեն սկզբնական շրջանակից դուրս հայտնաբերված էական ռիսկերի դիտարկման գործընթաց՝ որոշելով նաև, թե արդյոք անհրաժեշտ է լրացուցիչ ուսումնասիրություն։ Եզրակացությունները պետք է հստակ ցույց տան, թե փոխադարձաբար համաձայնեցված շրջանակի համատեքստում ինչն է գնահատվել, իսկ ինչը՝ ոչ։

• Համաչափ հասանելիություն․ օրենսդրական, անվտանգության և մտավոր սեփականության սահմանափակումների շրջանակում գնահատողներին հնարավորության դեպքում պետք է տրամադրվի համաձայնեցված պնդումները գնահատելու համար համաչափ հասանելիություն։ Եթե անմիջական հասանելիությունը գործնական չէ կամ անհնար է, գնահատողները կարող են աշխատել ընկերության նշանակած ներկայացուցչի հետ կամ դիտարկել անուղղակի կամ գաղտնիությունը պահպանող հասանելիության մեխանիզմներ՝ հիմքում ընկած տեղեկությունը պաշտպանելու համար։

• Թափանցիկ մեթոդաբանություն և չափորոշիչներ․ գնահատողները պետք է բացատրեն իրենց մեթոդները, գնահատման չափանիշներն ու անորոշությունները՝ հնարավորության դեպքում հիմնվելով ընդունված չափորոշիչների վրա։ Եթե չափորոշիչներ դեռ չկան, նրանք պետք է հստակ հիմնավորեն իրենց կիրառած չափանիշները։ Զեկույցները պետք է տարբերակեն անմիջական արդյունքները մեկնաբանություններից, բացատրեն անորոշությունը և հստակ նշեն, թե փաստերը որ եզրակացություններն են հաստատում։

• Փորձագիտական կարողություն և անկախություն․ գնահատողները պետք է ցուցադրեն համապատասխան տեխնիկական գիտելիքներ, ինչպես նաև բացահայտեն, հրապարակեն և կարգավորեն կազմակերպական ու անհատական շահերի բախումները՝ ներառյալ ֆինանսական խթանները, մշակողների հետ հարաբերությունները և գնահատվող աշխատանքում նախկին ներգրավվածությունը։ Պաշտպանական միջոցները պետք է այնպես նախագծվեն, որ առևտրային ճնշումներն ու վարձատրության պայմանավորվածությունները չազդեն արդյունքների վրա, և կարող են ներառել ինքնաբացարկ կամ մասնակցության բացառման համապատասխան ժամկետներ։

• Անվտանգություն և գաղտնիություն․ գնահատողները պետք է ցուցադրեն տեղեկատվական անվտանգության գործելակերպ և իրենց անձնակազմի նկատմամբ կիրառելի գաղտնիության պաշտպանություն՝ համաչափ հասանելի համակարգերի ու տեղեկության զգայունությանը։ Այս պաշտպանությունը պետք է ներառի մտավոր սեփականությունը, զգայուն տեղեկությունը և գնահատման գրառումները։ Եթե գնահատողները չեն կարող իրենց միջավայրում բավարարել անվտանգության պահանջները, կամ հասանելի տվյալները հատկապես զգայուն են, կարող է նպատակահարմար լինել ընկերության կողմից կառավարվող սարքերից կամ տարածքում հասանելիություն տրամադրելը։

• Կիրառելի արդյունքներ և շտկման ժամանակ․ գնահատումները պետք է բացահայտեն կոնկրետ բացերը և լաբորատորիաներին բավարար մանրամասներ տրամադրեն դրանք վերացնելու համար։ Անհրաժեշտության դեպքում լաբորատորիաները պետք է հրապարակումից առաջ ողջամիտ ժամանակ ստանան խնդիրները շտկելու համար։ Անհրաժեշտության դեպքում զեկույցները պետք է նաև ներկայացնեն ագենտների մշակողների, ներդրողների և պաշտպանների համար քաղված դասերը՝ կիրառման գործնական առաջարկություններով։

• Պատասխանատու հրապարակման գործելակերպ․ գնահատման զեկույցները պետք է հիմնված լինեն փաստերի վրա և հնարավորինս բաց տարածվեն՝ միաժամանակ պաշտպանելով զգայուն ու գաղտնի տեղեկությունը։ Եթե ամբողջական հրապարակային բացահայտումն անհնար է, համապատասխան վերահսկող մարմիններին, օրինակ՝ կառավարման մարմիններին կամ ընկերությունների խորհուրդներին, գաղտնի զեկուցումը կարող է նպաստել հաշվետվողականությանը։ Անկախության և գաղտնիության հավասարակշռությունը պահպանելու համար պետք է գործեն սկզբունքային քողարկման պաշտպանություն ու քաղաքականություններ, ինչպես նաև հստակ ակնկալիքներ հետադարձ կապի և անճշտությունների ուղղման վերաբերյալ։ Գնահատողները պետք է պահպանեն խմբագրական անկախությունը՝ միաժամանակ ապահովելով գաղտնիության և մտավոր սեփականության պաշտպանությունը։ Գնահատողները պետք է ընդունեն քողարկման հստակ քաղաքականություններ, որոնք լաբորատորիաներին թույլ կտան պահանջել զգայուն տեղեկության քողարկում, իսկ գնահատողներին՝ նշել էական քողարկումների առկայությունն ու դրանց ազդեցությունը գնահատման զեկույցի վրա։

Մենք հանձնառու ենք աջակցել անկախ գնահատողներին և արդյունավետ երրորդ կողմի գնահատումների համար ստեղծել ավելի հստակ, ընդհանուր միջազգային չափորոշիչներ՝ թե՛ ապագա օրենքների, թե՛ մասնավոր կառավարման հաստատությունների միջոցով։ Թեև անկախ գնահատման էկոհամակարգը դեռ զարգանում է, մենք կնպաստենք դրա աճին՝ աջակցելով առաջադեմ ԱԲ-ի անվտանգության տարբեր հարցերում խոր գիտելիքներ ունեցող անկախ գնահատողների բազմազան համայնքին և աշխատելով նրա հետ։ Ոչ մի երրորդ կողմ միայնակ չի կարող և չպետք է համապարփակ ընդգրկի առաջադեմ ԱԲ-ի անվտանգության հրատապ բոլոր հարցերը։ Մենք կգործենք կշռադատված ու նպատակային՝ ընդլայնելով մեր կարողությունները և օգնելով աճող երրորդ կողմի էկոհամակարգին համաձայնության գալ լավագույն գործելակերպի ու սկզբունքների շուրջ։ Մենք մի քանի երրորդ կողմերի հետ քննարկում ենք վերը նշված գերակա ոլորտներին համապատասխանող առաջարկներ։