ԱԲ-ի հաջորդ փուլի չափորոշիչների մշակում
Մեր առաքելությունն է ապահովել, որ արհեստական ընդհանուր բանականությունն օգտակար լինի ողջ մարդկությանը։ Ինչպես վերջերս ներկայացրել են Սեմ Ալթմանը և Յակուբ Պախոցկին, այս առաքելությանն ուղղված մեր աշխատանքում առաջնահերթ ենք համարում երեք հիմնական նպատակ.
Անվտանգորեն անցնել ԱԲ-ի առաջընթացի հաջորդ փուլը՝ ստեղծելով ԱԲ-ով աշխատող ավտոմատացված հետազոտող, դրա հետ համատեղ շարունակաբար լուծելով համապատասխանեցման խնդիրը և գտնելով ուղիներ, որոնցով մարդիկ կմնան ինքնակատարելագործման շրջափուլի մասնակից։
Մարդկանց հասանելի դարձնել գիտական առաջընթացի և տնտեսական աճի այն առավելությունները, որոնք հնարավոր են դառնում բարձր բանականությամբ մեքենաների շնորհիվ։
Յուրաքանչյուր անհատի հզորացնել անձնական AGI-ով։
ԱԲ-ն արագացնում է մեր հետազոտական և ինժեներական աշխատանքը, իսկ ԱԲ-ի օգնությամբ կատարված հետազոտությունները հանգեցրել են մաթեմատիկայի առաջընթացին, այդ թվում՝ Նավիե–Ստոքսի հազարամյակի խնդրի լուծման ուղղությամբ։ Այս առաջընթացը մեծ հեռանկարներ է բացում մեր մյուս երկու նպատակների համար և կարող է հանգեցնել կարևոր բժշկական հայտնագործությունների, լայնորեն հասանելի առողջապահության և ամբողջ աշխարհում փոքր ձեռնարկությունների ու անհատ ձեռներեցների տնտեսական հզորացման։
ԱԲ-ն զարգանում է բազմաթիվ ընկերություններում ու երկրներում, և ամբողջ ոլորտի առաջընթացը փոխում է բոլորի առջև ծառացող հնարավորություններն ու մարտահրավերները։ Ի լրումն իր մյուս առավելությունների՝ կարողունակ և համապատասխանեցված ԱԲ-ն կարևոր դեր կունենա այս անցումային փուլը հաղթահարելու գործում՝ ամրապնդելով պաշտպանությունը, առաջ մղելով համապատասխանեցման հետազոտությունները և օգնելով մարդկանց հասկանալ ու ուղղորդել ԱԲ-ի զարգացման հաջորդ փուլերը։
Այս անցումային փուլն անվտանգ հաղթահարելու համար համապատասխանեցման հետազոտությունները պետք է համաքայլ զարգանան այդ կարողությունների հետ, որպեսզի մեր և այլոց ստեղծած համակարգերը շարունակեն համապատասխանել մարդկային արժեքներին և մնան մարդկանց վերահսկողության ներքո։ Սա գնալով ավելի կարևոր է դառնում, երբ ԱԲ համակարգերը ձեռք են բերում ավելի մեծ կարողություններ ու ինքնավարություն, այդ թվում՝ ստանձնելով հենց ԱԲ-ի հետազոտության և զարգացման աշխատանքների ավելի մեծ մասը։ ԱԲ-ի շարունակական առաջընթացն անվտանգ և օգտակար դարձնելու համար անհրաժեշտ կլինեն թե՛ համապատասխանեցման հետազոտությունների զարգացում, թե՛ լաբորատորիաներում ու երկրներում մշակումն ուղղորդող ընդհանուր չափորոշիչներ։
ԱԲ-ի ավտոմատացված հետազոտությունը կարող է իրականացվել մարդկային վերահսկողության տարբեր աստիճաններով։ Երբ ԱԲ համակարգերը ստանձնում են ԱԲ-ի հաջորդ սերունդների մշակման աշխատանքների ավելի մեծ մասը, դրանք կարող են գնալով ավելի շատ առաջ մղել ռեկուրսիվ ինքնակատարելագործման (RSI) գործընթացը, անգամ եթե մարդիկ շարունակում են մասնակցել դրան։ Այս գործընթացի ավտոմատացմանը զուգահեռ ԱԲ-ի առաջընթացի տեմպը կարող է արագորեն աճել։
Մենք կարծում ենք, որ ԱԲ-ի ավտոմատացված հետազոտության շնորհիվ կստեղծվեն մարդկանց կյանքն անմիջականորեն բարելավող մոդելներ։ Այն կարող է նվազեցնել առաջադեմ բանականության արժեքը, որպեսզի դրանից օգտվեն մարդիկ ամբողջ աշխարհում։ Ավտոմատացված հետազոտությունը կարող է նաև օգնել էապես բարելավել համապատասխանեցումը և պաշտպանություն ստեղծել գնալով ավելի կարողունակ ԱԲ-ի դեմ. ԱԲ-ով աշխատող ավտոմատացված հետազոտողը կարող է նաև լինել ԱԲ-ի անվտանգությունն ավտոմատացված կերպով հետազոտող։ Ավելի կարողունակ և համապատասխանեցված համակարգերը կարող են օգնել պաշտպանել կարևոր ենթակառուցվածքները, դիմակայել վտանգավոր ԱԲ գործակալներին և մշակել պաշտպանության նոր միջոցներ։
Լիովին ինքնավար RSI այսօր չի իրականացվում, և մենք չպետք է դրան ձգտենք, քանի դեռ այն հնարավոր չէ անվտանգ իրականացնել։ Առաջ շարժվել-չշարժվելու և դրա եղանակի որոշումը պետք է կախված լինի մարդկային վերահսկողությունը պահպանելու մեր կարողությունից և առավելությունների ու ռիսկերի վերաբերյալ իրազեկ ժողովրդավարական ընտրությունից(բացվում է նոր պատուհանում)։ Առանց պատշաճ խնամքի ու զգուշության իրականացվելու դեպքում RSI-ն կարող է հանգեցնել նրան, որ մարդիկ գործնականում կկորցնեն վերահսկողությունն ԱԲ-ի զարգացման նկատմամբ և չեն կարողանա վերահսկել այն հետազոտական գործընթացները, որոնք այլևս չեն հասկանում։ Այդ պահից ԱԲ-ն կարող է դառնալ ավելի վտանգավոր, պակաս համապատասխանեցված և ընդհանուր առմամբ սպառնալիք ներկայացնել մարդկանց համար։ Մեր հրապարակած՝ Hugging Face-ի միջադեպը, թեև RSI-ի անմիջական հետևանք չէր, պատկերացում է տալիս այն ռիսկերի մասին, որոնք առանց հուսալի պաշտպանական միջոցների և համապատասխանեցման կարող են շատ ավելի լուրջ դառնալ։
Առաջադեմ ԱԲ-ի մշակման անվտանգության և պաշտպանվածության գործելակերպերի միջազգային չափորոշիչները տեխնոլոգիական առաջնագծի տեմպը վերահսկելու համար կարող են նույնքան կարևոր լինել, որքան համապատասխանեցման հետազոտությունները։ Չափորոշիչները կարող են սահմանել բարձրորակ ապացույցների ընդհանուր բնորոշումներ և տեխնիկական պաշտպանական միջոցների խստության համաձայնեցված նվազագույն մակարդակներ։ Կարճ ասած՝ դրանք օգնում են պատասխանել հետևյալ հարցին. «Ինչպիսի՞ն է աղետալի ԱԲ ռիսկի արդյունավետ նվազեցումը։»
Այս հարցում կարող են օգնել գործող ժողովրդավարական հաստատությունները, օրինակ՝ ԱԲ չափորոշիչների և նորարարության կենտրոնը (CAISI), նահանգային օրենքներն ու ԱԲ-ի դաշնային համակարգը, ինչպես նաև պետություն–մասնավոր հատված գործընկերության նոր ձևերը(բացվում է նոր պատուհանում)։ Սակայն ԱԲ-ի մշակումն ու ներդրումը կատարվում են բազմաթիվ երկրներում, դրա ընդունումը համաշխարհային բնույթ ունի, իսկ ազդեցությունը, հավանաբար, այս կամ այն ժամանակահատվածում ու ձևով կզգան բոլորը։
Ուստի չափորոշիչների մշակման միջազգային ջանքերն անհրաժեշտ են մի քանի առանցքային մարտահրավեր լուծելու համար.
Մասնատվածություն—Տարբեր երկրների սահմանած գնահատումները, հաշվետվությունների պահանջներն ու միջադեպերի բնորոշումները կարող են հակասել միմյանց՝ դժվարացնելով ապացույցների համեմատումը, նոր կարողությունների ըմբռնումը և սահմանները հատող ռիսկերին արձագանքելը։
Համատեղ գործողություն—Յուրաքանչյուր երկրի ինքնուրույն գործելը կարող է հանգեցնել այնպիսի արդյունքների, որոնք ոչ մի երկիր չի ցանկանում։ RSI-ն կարող է արագացնել հենց ԱԲ-ի հետազոտությունները՝ հնարավոր է գերազանցելով առաջընթացը հասկանալու, ռիսկերը գնահատելու և մարդկային նշանակալի վերահսկողությունը պահպանելու մեր հավաքական կարողությունը։
Անհավասար կարողություններ—Առաջադեմ մշակումն ու համապատասխան փորձագիտական գիտելիքներն աշխարհում հավասարաչափ չեն բաշխված։ Սա սրում է վերոնշյալ երկու խնդիրները։
Այս մարտահրավերները վերաբերում են թե՛ բաց, թե՛ փակ մոդելներին։
Հստակեցնենք՝ ԱԲ-ի ավտոմատացված հետազոտությամբ կամ այլ առաջադեմ կարողություններով զբաղվող ցանկացած ԱԲ լաբորատորիա պետք է պատասխանատվություն ստանձնի դրանք անվտանգ զարգացնելու համար՝ ինքնապատասխանատվության հիմնական սկզբունքներին և գործող օրենքներին համապատասխան։ Չափորոշիչներ առաջարկելու մեր հիմնավորումը բխում է իշխանության կենտրոնացումից խուսափելու և գործնականում ավելի լավ արդյունքներ ստանալու անհրաժեշտությունից։ Չափորոշիչները լաբորատորիաներից դուրս գտնվող ավելի շատ շահագրգիռ կողմերի հնարավորություն են տալիս մասնակցել այս տեխնոլոգիայի զարգացման ուղղության որոշմանը և սահմանում են տեսանելի սկզբունքներ, որոնց կարելի է ապավինել՝ անկախ որևէ լաբորատորիայի կոնկրետ գործելակերպից։ Եվ, հավանաբար, ավելի լավ արդյունքներ կստանանք, եթե կողմերը համագործակցեն վերոնշյալ մարտահրավերները լուծելու համար։
Հենց այդ պատճառով մենք կարծում ենք, որ Միացյալ Նահանգները պետք է առաջնորդի աշխարհի երկրների հետ համատեղ՝ առաջադեմ ԱԲ-ի, այդ թվում՝ RSI-ի համար գլոբալ տեխնիկական չափորոշիչներ մշակելու աշխատանքը։
Թեև ակնկալում ենք, որ ժամանակի ընթացքում այս հայեցակարգն էապես կզարգանա, երկու բաղադրիչ առանցքային նշանակություն կունենա։
Դա իրագործելու ուղիներից մեկը կարող է լինել ԱԲ անվտանգության ինստիտուտների ձևավորվող ցանցի օգտագործումը։ Նման ինստիտուտներ արդեն ստեղծվել են Ավստրալիայում, Կանադայում, Գերմանիայում, Ֆրանսիայում, Քենիայում, Ճապոնիայում, Կորեայում, Սինգապուրում, Հնդկաստանում և Միացյալ Թագավորությունում։ Դրանք կարող են CAISI-ի և ազգային ոլորտային մարմինների միջոցով նպաստել չափորոշիչների սահմանմանը՝ հատուկ ուշադրություն դարձնելով՝ (1) առաջադեմ ԱԲ մոդելներին ու մշակողներին՝ ըստ կարողությունների հենանիշների, և (2) ԱԲ-ի ավտոմատացված հետազոտության, այդ թվում՝ RSI-ի օգուտների ու ռիսկերի կառավարմանը։ Միացյալ Նահանգները կարող է հիմնվել 2024 թվականին CAISI-ի ստեղծած Առաջադեմ ԱԲ-ի չափման, գնահատման և գիտության միջազգային ցանցի(բացվում է նոր պատուհանում) վրա, որը միավորում է պետական հաստատությունները՝ ԱԲ-ի չափման, գնահատման և գիտության ոլորտներում համագործակցելու համար։
Այս աշխատանքի արդյունքում մշակված չափորոշիչները ընդհանուր տեխնիկական հիմք կապահովեն կարողությունների չափման ու գնահատման, ռիսկերի գնահատման և պաշտպանական միջոցների բավարարության որոշման համար։ Այս տեխնիկական չափորոշիչները չեն լինի արտոնագրեր, մինչև թողարկումը պարտադիր ստուգումներ կամ ԱԲ մոդելների հաստատման պահանջներ։ Ազգային կառավարությունները կորոշեն՝ արդյոք ներառել այս չափորոշիչներն իրենց իրավական համակարգերում և ինչպես դա անել։
Այս աշխատանքը պետք է նաև նպաստի ԱԲ-ի մրցակցային էկոհամակարգին՝ խորհրդակցելով open model-ների և փակ մոդելների մշակողների, անկախ տեխնիկական փորձագետների ու ակադեմիական շրջանակների հետ։ Ընդհանուր չափորոշիչները պետք է մշակվեն թափանցիկ ձևով և այնպես, որ առավելություն չտան կոնկրետ ընկերությունների, երկրների կամ բիզնես մոդելների, այդ թվում՝ չդժվարացնեն նոր մասնակիցների կամ բաց կշիռներով մոդելների մշակողների մրցակցությունը։
Ինչպես մենք առաջարկել ենք(բացվում է նոր պատուհանում), այս մոտեցումը կարող է դասեր քաղել այնպիսի ոլորտներից, ինչպիսիք են ավիացիան և ֆինանսական կայունությունը, որտեղ երկրները մշակել են ընդհանուր տեխնիկական չափորոշիչներ և համագործակցության վստահելի ուղիներ՝ չհրաժարվելով ազգային լիազորություններից։ Այն պետք է նաև սերտորեն համագործակցի գործող և նոր չափորոշիչներ մշակող կառույցների հետ, ինչպիսիք են ISO-ն(բացվում է նոր պատուհանում), Առաջադեմ մոդելների ֆորումը(բացվում է նոր պատուհանում), Գործուն ԱԲ հիմնադրամը(բացվում է նոր պատուհանում) և Բաց ու անվտանգ ԱԲ դաշինքը(բացվում է նոր պատուհանում), ինչպես նաև ներդրման վրա կենտրոնացած կազմակերպությունների, օրինակ՝ Appia հիմնադրամի հետ, որը մշակում է միջազգային չափորոշիչներն իրական պայմաններում ԱԲ-ի գնահատումներին կապող գործնական բնութագրեր։
ԱԲ-ի միջազգային չափորոշիչները հատկապես կարևոր կլինեն ԱԲ-ի հետազոտություններում աճող ինքնավարությունն ու ռեկուրսիվ ինքնակատարելագործումը կառավարելու համար։ Մասնավորապես, դրանք կարող են ներառել հետևյալ չափորոշիչները.
RSI-ին առնչվող ԱԲ առաջընթացի և ԱԲ ընկերությունում իրականացվող ինքնավար հետազոտությունների ծավալի գնահատում։ Հետազոտությունների արագացման մասին մեր վերջին զեկույցը նախնական ներդրում է այս գործում։
ԱԲ-ի ավտոմատացված հետազոտության նկատմամբ մարդկային վերահսկողություն՝ ներառյալ այն, թե նման հետազոտական ինչպիսի գործընթացները պետք է անհապաղ մարդկային ստուգում պահանջեն։
Համապատասխանեցման և ԱԲ-ի ավտոմատացված հետազոտության խնդիրներին առնչվող միջադեպերի դասակարգում, հետևում, հաղորդում և արձագանքում՝ ներառյալ միջադեպերի ծանրության ընդհանուր մակարդակներն ու հաղորդման շեմերը։ Անհամապատասխանեցման մասին հաղորդման մեր համակարգը նախնական ներդրում է։
Այս չափորոշիչներից բացի՝ մենք կարծում ենք, որ կարևոր ենթակառուցվածքների օպերատորներն ու աշխարհի կառավարությունները պետք է ստեղծեն հաղորդակցության անվտանգ ուղիներ՝ ազգային անվտանգության մտահոգությունների, նոր խոցելիությունների ու սպառնալիքների, ինչպես նաև առաջադեմ ԱԲ-ի անվտանգության արագ զարգացող ոլորտի լավագույն գործելակերպերի մասին տեղեկություններ փոխանակելու համար։ Այս ոլորտների շուրջ Միացյալ Նահանգների և Չինաստանի միջև երկխոսությունը դրական քայլ կլինի, իսկ առաջիկա բանակցությունները տեղի են ունենում ճիշտ ժամանակին։
ԱԲ-ի զարգացումը ճիշտ տեմպով առաջ տանելը չի նշանակում պահպանել նախապես սահմանված արագություն։ Տեխնիկական առումով դա նշանակում է ապահովել, որ համապատասխանեցման հետազոտությունները և դրանց արդյունքների ներդրումը առաջ անցնեն կարողությունների զարգացումից։ Հասարակական առումով դա նշանակում է չափորոշիչների, հաստատությունների և համագործակցության միջոցով հզորացնել ոլորտային ու հասարակական կապերի և շուկայական ուժերի ցանցերը՝ բոլոր կողմերի համար շահավետ արդյունքներ ապահովելու նպատակով։ Վերջերս հնչած՝ կիբերպաշտպանության ոլորտում համատեղ գործելու կոչը վերջինիս օրինակ է։
Միացյալ Նահանգները լավ դիրքում է առաջնորդություն ստանձնելու համար, քանի որ նրա ԱԲ ոլորտը տեխնոլոգիական առաջնագծում է, իսկ երկիրը դեռևս արտոնյալ դիրք ունի ֆինանսները, առևտուրը, պաշտպանությունը, տեխնոլոգիաները և տեղեկատվական համակարգերն ընդգրկող կարևոր գլոբալ ցանցերում։ Այսօր առաջնորդություն ստանձնելուց է կախված՝ Միացյալ Նահանգները կձևավորի՞ ԱԲ-ի գլոբալ համակարգը, թե՞ պարզապես կհետևի, թե ինչպես է իր շուրջ արմատավորվում մասնատված, անհավասար և հակամարտություններով լի համակարգ։ Դրանից է կախված նաև՝ արդյոք առաջադեմ ԱԲ-ն կամրապնդի Միացյալ Նահանգների և նրա դաշնակիցների արդեն իսկ ունեցած ցանցերը. առաջնորդության բացակայությունը կարող է թուլացնել դրանք։
Աշխարհաքաղաքական մրցակցությունը վերաբերելու է ոչ միայն տեխնիկական առաջատարությանը, այլև ԱԲ-ի ընդունմանն ու տարածմանը։ Վերջինս գնալով ավելի շատ կարող է կախված լինել նրանից, թե ով կխթանի իրատեսական համագործակցությունն ու ողջամիտ խաղի կանոնները, որոնք անհրաժեշտ կլինեն աշխարհի բոլոր ձեռնարկություններին ու հասարակություններին, եթե նրանք պատրաստվում են իրենց ապագան կապել այս տեխնոլոգիայի հետ։
Ազգային ամուր կառավարումը՝ գործնական միջազգային համագործակցությամբ փոխկապակցված, ավելի հուսալի պաշտպանական միջոցների, շարունակական նորարարության և ԱԲ-ի առավելությունների լայն հասանելիության ուղի է առաջարկում։
