Օգնում ենք ձևավորել առաջադեմ AI-ի ընդհանուր ստանդարտներ
Ավելի ու ավելի կարողունակ մոդելները կարող են ուժեղացնել կիբերպաշտպանությունը, արագացնել գիտական հայտնագործությունները և ընդլայնել փորձագիտական գիտելիքի հասանելիությունը։ Բայց դրանք կարող են նաև ստեղծել անվտանգության և ապահովության ռիսկեր, եթե դրանց կարողությունները սխալ ընկալվեն, պաշտպանական մեխանիզմները բավարար չլինեն, կամ կառավարությունները չունենան արձագանքելու համար անհրաժեշտ տեղեկությունը։ Օգուտները անվտանգ և վստահորեն իրացնելու համար հասարակություններին պետք կգան տեխնիկական և կառավարման կարողություն ունեցող հաստատություններ, որոնք կկարողանան գնահատել, պաշտպանել և կառավարել ավելի ու ավելի կարողունակ համակարգերը։
Սա պատճառներից մեկն է, որ OpenAI-ն օգնել է հիմնել Linux Foundation-ի հյուրընկալած Appia Foundation(բացվում է նոր պատուհանում)-ը։ Appia-ն կմշակի բաց, մոդուլային բնութագրեր, որոնց նպատակն է միջազգային ստանդարտներն ու հաստատված շրջանակները վերածել AI-ի արժեքային շղթայի ողջ երկայնքով կիրառելի գործնական գնահատման չափանիշների։ Նրա աշխատանքը կարող է նպաստել վստահության կարևոր, մինչ այժմ պակասող շերտի ձևավորմանը, որի միջոցով երրորդ կողմերը ստուգում են ստանդարտներին համապատասխանությունը՝ ստեղծելով ավելի հստակ և վերօգտագործելի ապացույցներ, երբ մոդելները, ենթակառուցվածքներն ու հավելվածները մշակվում են տարբեր կազմակերպությունների կողմից։ Այս աշխատանքով Appia-ն կօգնի ստեղծել ընդհանուր տեխնիկական լեզու, որը ազգային և միջազգային հաստատություններին թույլ կտա վստահել միմյանց աշխատանքին։
Մենք այս նախաձեռնությունը դիտարկում ենք որպես կարևոր հաջորդ քայլ այն ավելի լայն աշխատանքում, որն անհրաժեշտ է առաջադեմ AI համակարգերի համար պահանջվող հաստատությունները, ստանդարտներն ու գնահատման գործելակերպերը ամրապնդելու նպատակով։
Մեր վերջերս հրապարակած սահմանային AI-ի ժողովրդավարական կառավարման նախագիծը այդ աշխատանքի ճանապարհային քարտեզն է առաջարկում։ Այն կոչ է անում ձևավորել կայուն ԱՄՆ շրջանակ, ուժեղացված AI ստանդարտների և նորարարության կենտրոն (CAISI) և կառավարության ամբողջ համակարգում՝ ավելի լայն դիմակայունության ռազմավարություն։ Այն նաև ընդունում է, որ սահմանային ռիսկերը միջազգային ընդգրկում ունեն։ Երկրները պետք է համատեղ աշխատեն՝ մշակելու համատեղելի անվտանգության շրջանակներ, ռիսկերի վերաբերյալ արդյունքները փոխանակելու վստահելի ուղիներ և միջադեպերին համակարգված արձագանքներ։
Ազգային կարողություններն ու միջազգային համագործակցությունը պետք է փոխադարձաբար ամրապնդեն միմյանց։ CAISI-ի նման ուժեղ հաստատությունները կարող են զարգացնել տեխնիկական փորձագիտություն, գնահատել սահմանային համակարգերը և աջակցել անկախ գնահատման էկոհամակարգին։ Կարողունակ ազգային հաստատությունների ցանցը կարող է այնուհետև հաստատել ընդհանուր մեթոդներ, ճանաչել վստահելի ապացույցները և կառավարություններին տալ համատեղ գործելու համար անհրաժեշտ ընդհանուր տեխնիկական ըմբռնումը։
Ստանդարտները այդ ջանքի առանցքում են և պետք է հիմնված լինեն վստահարժան գնահատման գործելակերպի ու տեխնիկական խստության վրա։ Մեր վստահելի երրորդ կողմի գնահատումների ընդհանուր ուղեցույցում մենք ներկայացրել ենք, թե սահմանային գնահատումները ինչն են ավելի ու ավելի անհրաժեշտ բացահայտել՝ փորձարկված համակարգը, դրա գործիքների հասանելիությունն ու գնահատման միջավայրը, կարողությունները ի հայտ բերելու մեթոդները, հասանելի ռեսուրսները և արդյունքները վավերացնելու համար կատարված ստուգումները։ Մենք այս սկզբունքները գործնականում կիրառել ենք նաև ԱՄՆ CAISI-ի և Մեծ Բրիտանիայի AISI-ի հետ փորձարկման գործընկերությունների միջոցով, որոնց աշխատանքը սահմանային կարողությունների գնահատումների և կենսաբանական չարաշահումների դեմ պաշտպանական միջոցների շուրջ հանգեցրել է մեր համակարգերում կոնկրետ բարելավումների։ Այս աշխատանքը կարևոր դեր է կատարում՝ հիմք ստեղծելով այնպիսի գործելակերպերի համար, որոնք կարելի է ստանդարտացնել՝ կատարողականը համադրելի ձևով ստուգելու նպատակով։
Այս գործելակերպերը լրացնում են OpenAI-ի անվտանգության ավելի լայն ենթակառուցվածքը։ Մեր Preparedness Framework-ը հիմքն է այն բանի, թե ինչպես ենք սահմանում և գործնականացնում առաջադեմ AI համակարգերից բխող ամենալուրջ ռիսկերի կառավարման մեր մոտեցումը՝ ներառյալ մեր ներքին գործելակերպերը։ Մեր Սահմանային կառավարման շրջանակը այդ մոտեցման համապատասխան մասերը ներառում է հանրային կառավարման փաստաթղթում, որը կենտրոնացած է որոշակի կարգավորող պարտավորությունների վրա, այդ թվում՝ ռիսկերի գնահատում, մոդելների հաշվետվություն, անվտանգության վերահսկումներ, միջադեպերին արձագանք և արտաքին փորձագետների կարծիքների ներառում։ Միասին այս փաստաթղթերը օգնում են լայն հանձնառությունները վերածել գործնական գործելակերպերի, որոնք հնարավոր է ստուգել և բարելավել։
Appia-ի աշխատանքը ուղղված է հաջորդ մարտահրավերին՝ ապահովել, որ այդ գործելակերպերը փոխգործարկելի լինեն կազմակերպությունների, իրավազորությունների և մատակարարման շղթայի միջև։
OpenAI-ն արդեն ներդրում ունի ստանդարտների և նախաստանդարտացման նախաձեռնությունների ավելի լայն էկոհամակարգում։ Մենք մասնակցում ենք Ստանդարտացման միջազգային կազմակերպության և Միջազգային էլեկտրատեխնիկական հանձնաժողովի Համատեղ տեխնիկական կոմիտե 1-ի՝ Արհեստական բանականության ենթակոմիտե 42-ին(բացվում է նոր պատուհանում) և Ստանդարտների և տեխնոլոգիաների ազգային ինստիտուտի ղեկավարած Արհեստական բանականության կոնսորցիումին(բացվում է նոր պատուհանում); օգնել ենք հիմնադրել Սահմանային մոդելների ֆորումը և Linux Foundation-ի Ագենտային արհեստական բանականության հիմնադրամը(բացվում է նոր պատուհանում); մասնակցում ենք Անվտանգ արհեստական բանականության կոալիցիային(բացվում է նոր պատուհանում); ընդգրկված ենք Բովանդակության ծագման և իսկության կոալիցիայի(բացվում է նոր պատուհանում) ղեկավար կոմիտեում; և ներգրավվում ենք Ինտերնետային ինժեներիայի աշխատանքային խմբի(բացվում է նոր պատուհանում) ու Արագ առցանց նույնականացման դաշինքի(բացվում է նոր պատուհանում) գործընթացներում՝ փոխգործարկելի տեխնիկական ստանդարտների առաջմղման համար։
Այս հարթակներում, այդ թվում՝ այժմ նաև Appia-ի միջոցով, մեր նպատակն է սահմանային AI-ի մշակումից քաղված դասերը վերածել բաց, տեխնիկապես հիմնավորված գործելակերպերի, որոնք կառավարությունները, ընկերությունները և անկախ գնահատողները կարող են կիրառել տարբեր իրավազորություններում։
