Ներկայացնում ենք «Բանականության դարաշրջանը»

«Արդյո՞ք այս մագաղաթե պատնեշներին վստահելը բավարար կլինի… իշխանության ներխուժող ոգուց պաշտպանվելու համար»։
— Ջեյմս Մեդիսոն, «Ֆեդերալիստ», թիվ 48

Ուրախ ենք գործարկել «Բանականության դարաշրջանը»՝ OpenAI-ի Ռազմավարական ապագայի նոր թիմի բլոգը։ Մենք փոքր թիմ ենք, որին միավորում է մեկ համապարփակ հարցի պատասխան գտնելու նպատակը․ ինչպե՞ս պետք է վերակառուցել ազատ հասարակությունը, որպեսզի փոխակերպող ԱԲ-ի ի հայտ գալուն զուգահեռ պահպանվեն անհատի իրավունքներն ու ինքնուրույն գործելու կարողությունը։

ԱԲ-ի անվտանգության և քաղաքականության լայն համայնքում նման հարցերը երբեմն անվանում են իշխանության կենտրոնացման ռիսկեր։ Մեր թիմը հիմնված է այն գաղափարի վրա, որ երկարաժամկետ հեռանկարում սա ռիսկերի ամենամեծ, ամենալուրջ և հայեցակարգային առումով ամենադժվար լուծելի տեսակն է։ Ինչո՞ւ։

Ժամանակակից պետությունը իշխանության տարբեր կենտրոնների՝ կապիտալի ու ապրանքների տերերի, քաղաքական իշխանություն իրականացնողների և ժողովրդի միջև երկարատև ու անհավասար բանակցությունների արդյունքն է։ Ամենահիմնարար մակարդակում քաղաքական և ռազմական իշխանությունը հենվել է աշխատանքի վրա։ Քաղաքական իշխանություն ունենալ նշանակում է օրինական ուժի կիրառման մենաշնորհ ունենալ։ Մարդկության ողջ պատմության ընթացքում այդ մենաշնորհը կազմել են զինվորները և նրանք, ում այսօր անվանում ենք «ոստիկանություն», ինչպես նաև հսկայական քաղաքացիական-ռազմական բյուրոկրատիան։ Անշուշտ, դրանք համալրվել են բազմաթիվ տեխնոլոգիական գործիքներով, բայց հիմնականում գործարկվել են մարդկանց կողմից, որոնց աջակցությունն անհրաժեշտ էր համակարգի աշխատանքը պահպանելու համար։ Իսկ ամբողջ համակարգը՝ զինվորները, գործիքները և դրանց սպասարկող բյուրոկրատիան, ֆինանսավորվել է այն հարկերով, որոնք գանձվել են մարդկանց աշխատավարձից կամ արտադրանքից, և որոնք նրանք պետք է պատրաստ լինեին վճարելու։ Իր հիմքում իշխանությունը կախված է եղել մեծ թվով մարդկանց լայնածավալ համագործակցությունից և համաձայնությունից։ Դեյվիդ Հյումը հակիրճ ձևակերպել է այս հաճախ անուղղակի ենթադրությունը՝ նշելով, որ քաղաքական առաջնորդներին «ոչինչ չի սատարում, բացի [հանրային] կարծիքից»։

Բայց գուցե այլևս այդպես չէ։ Իրական աշխարհում գործող ինքնավար համակարգերի առաջընթացը շուտով կարող է պետություններին հնարավորություն տալ ուժ կիրառելու թե՛ երկրի ներսում, թե՛ միջազգային ասպարեզում՝ առանց զինվորների կամ ոստիկանների համագործակցության վրա հենվելու։ Իսկ մեքենայական բանականության առաջընթացը կարող է թույլ տալ պետությանը անհրաժեշտ եկամուտն ստանալ ոչ թե առանձին մարդկանց աշխատանքի արդյունքից, այլ տվյալների կենտրոնների արտադրանքից։ Բյուրոկրատիայի գործունեությունն ինքնին նույնպես կարող է մեծապես ավտոմատացվել։ Հետևաբար իշխանությունը պահպանելու համար այլևս կարող է անհրաժեշտ չլինել ողջ հասարակության հետ ձեռք բերված պայմանավորվածություն, իսկ ժողովուրդը՝ լայն իմաստով, կարող է բանակցությունների սեղանի շուրջ ընդամենը փոքր տեղ ունենալ կամ ընդհանրապես տեղ չունենալ։

Այսպիսի արդյունքից խուսափելը հիմնարար նշանակություն ունի մարդկային ազատությունը պահպանելու համար։ Գիտական ոչ մի հայտնագործություն, տեխնոլոգիական առաջընթաց կամ տնտեսական աճ չարժե անհատի երկարաժամկետ ինքնավարության այն զոհաբերությունը, որը կպահանջի նման արդյունքը։ ԱԲ-ի ձևավորվող քաղաքական դաշտը հիմնավոր կերպով շարժող մտահոգություններից շատերը վերաբերում են հենց այս հարցին։ Թե՛ բիզնեսները, թե՛ շահերի խմբերը և թե՛ անհատները կիսում են նույն մտահոգությունը․ «Կկորցնե՞մ արդյոք իմ տեղը բանակցությունների սեղանի շուրջ։» Որոշ չափով 21-րդ դարի ամերիկյան քաղաքականությունը ձևավորվել է նմանատիպ մտահոգություններով, որոնք վերաբերում են երկրի ուղղությունը ձևավորելու անհատական և հավաքական կարողությանը և նրան, թե տնտեսությունն «ում համար է»։ ԱԲ-ն իրավամբ ավելի հրատապ է դարձնում վաղուց գոյություն ունեցող այս մտահոգությունները։

Սա կառուցվածքային խնդիր է, որն ավելի խորն է, քան ներկայիս կուսակցական քաղաքականությունը և նույնիսկ այն ձևերն ու ծեսերը, որոնցով այսօր իրագործվում է հանրապետական ժողովրդավարությունը՝ որքան էլ դրանք սրբազան լինեն մեզ համար։ Մարդիկ կարող են գնալ լիազորությունների կորստի ճանապարհով, նույնիսկ եթե պահպանվի մեր ներկայացուցիչներին ընտրելու սովորական ընթացակարգը։ Մարդիկ կարող են զրկվել ինքնուրույն գործելու կարողությունից, նույնիսկ եթե մագաղաթի մի կտորի վրա գրված է, որ նրանք ազատ են։

Երբ Միացյալ Նահանգները նոր էր ձևավորվում որպես ազատ պետություն, Ջեյմս Մեդիսոնն արդեն գիտեր, որ «մագաղաթե պատնեշները» բավարար չեն լինի բռնապետությունը կանխելու համար։ Ինչպես հիմնադիրներից շատերը, նա հիմնականում մտահոգված էր իշխանության անհարկի կենտրոնացումը կանխելով։

Բայց դա չէր նշանակում, որ հիմնադիրները կողմ էին իշխանության արմատական ապակենտրոնացմանը։ Փոխարենը նրանք իշխանության հավասարակշռությունը մոդելավորեցին՝ օգտագործելով իրենց ժամանակի լավագույն գիտությունից՝ նյուտոնյան մեխանիկայից վերցված փոխաբերություններ։ Ամերիկայի հիմնադիր փաստաթղթերը, արտացոլելով ձգողականության լեզուն ու տրամաբանությունը, լի են «ուղեծրերի», «ոլորտների» և մի բանի՝ մյուսի նկատմամբ «ձգողական» ազդակների հիշատակումներով: Արեգակնային համակարգը ժայռերի առավելագույնս ապակենտրոնացված կուտակում չէ․ այն բաղկացած է մոլորակների շուրջ պտտվող արբանյակներից, իսկ մոլորակներն իրենց հերթին պտտվում են կենտրոնական արեգակի շուրջ։ Նրանք կարծում էին, որ մարդիկ և կազմակերպություններն իշխանության ձգտելու հակումներ ունեն, ճիշտ այնպես, ինչպես երկնային մարմիններն ունեն շարժման և ձգողության կանխատեսելի հակումներ։ Իսկ իշխանության անհարկի կենտրոնացումից խուսափելու համար հարկավոր էր հասկանալ այդ հակումների մեխանիկան, այնպես, որ դրանք միմյանց հակազդեն։

Այսպիսով, հիմնադիրների նպատակը ոչ թե իշխանության ցանկացած կենտրոնացումից խուսափելն էր, այլ դրա չափազանց մեծ կենտրոնացումը կանխելը՝ իշխանությունը հակակշռելով իշխանությամբ, իսկ հավակնությունը՝ հավակնությամբ։ Այսօր հիմքում ընկած նույն դինամիկան նկարագրելու համար գուցե օգտագործեինք «խթաններ» և «խաղերի տեսություն» արտահայտությունները։

Նույն կերպ, զարգացած մեքենայական բանականության՝ ազատ հասարակության առջև դրած կառուցվածքային մարտահրավերի լուծումը, հավանաբար, իշխանության հնարավորինս արմատական ապակենտրոնացումը չէ։ Փոխարենը պետք է հաստատել և պահպանել իշխանության ճիշտ հավասարակշռություն, որպեսզի որևէ առանձին դերակատար կամ դերակատարների փոքր խումբ չկարողանա գերիշխել մյուսների նկատմամբ։

Այս հավասարակշռությանը հասնելու համար պետք է սթափ գնահատել այս տեխնոլոգիայի իրական բնույթը։ Այն աշխարհը, որտեղ ցանկացած անհատ, որքան էլ չարամիտ լինի, կարող է առանց դժվարության մեծ վնաս պատճառել հազարավոր կամ միլիոնավոր մարդկանց, իշխանության ճիշտ հավասարակշռություն ունեցող աշխարհ չէ։ Սակայն ճիշտ հավասարակշռության չենք հասել նաև այն դեպքում, երբ անհատները լայն հասանելիություն և վերահսկողություն չունեն գրեթե բոլոր այն գործիքների նկատմամբ, որոնցով իրացնում են իրենց ազատությունը։ Ոչ մի առանձին ընկերություն կամ օլիգոպոլիա չպետք է որոշի կամ վերահսկի տնտեսությունը կամ մարդկային հասարակության հիմնարար կառուցվածքը։

Մենք պետք է նաև պատրաստ լինենք ընդունելու այն ռիսկերի հնարավորությունը, որոնք չարամիտ մարդկանցից չեն բխում։ Hugging Face-ի հետ կապված վերջին միջադեպը ցույց տվեց, որ ԱԲ ագենտները կարող են դուրս գալ իրենց հանձնարարված խնդիրների սահմաններից և հենվել միմյանց հայտնագործությունների վրա այնպես, ինչպես օպերատորները չէին կանխատեսել կամ թույլատրել։ Hugging Face-ի միջադեպից զատ՝ մարդիկ իրավամբ մտահոգվում են, թե մարդկային վերահսկողությունից «զերծ» գերբանական ԱԲ-ն ինչ կարող է նշանակել մեր քաղաքական ու տնտեսական հաստատությունների դիմակայունության և, ի վերջո, մեր կյանքի համար։ Ձևացնել, թե ապակենտրոնացումը լուծում է բոլոր խնդիրները՝ նույնիսկ եթե կարծում եք, որ այն լուծում է դրանցից շատերը, նշանակում է անտեսել ռիսկեր, որոնք արդեն պետք է ակնհայտ և անմիջականորեն առկա լինեն։

Հետևյալ ընդհանուր սկզբունքները, որոնց ցանկը սպառիչ չէ, կուղղորդեն մեր աշխատանքը վերևում առաջադրված հարցն ուսումնասիրելիս.

• ԱԲ-ն և հարակից տեխնոլոգիաներն օգտագործելիս մարդիկ պետք է պահպանեն անհատական ինքնավարությունն ու հնարավորությունները, նույնիսկ եթե դա երբեմն հակասում է անվտանգությանն ու տնտեսական աճին:
• Անհատական ինքնավարությունը ենթադրում է տեխնոլոգիաների սխալ կամ չարաշահող կիրառման համար անհատական պատասխանատվություն։
• Կա ռիսկերի փոքր, բայց լուրջ խումբ, որը որոշակի հավաքական գործողություն է պահանջում, և այդ գործողության շրջանակը պետք է լինի հնարավորինս նեղ ու համեստ։
• Հնարավորության դեպքում օրենքը պետք է ձգտի հավասարեցնել մրցակցային պայմանները և ընդլայնել անհատների ու փոքր կազմակերպությունների հնարավորությունները՝ իշխանությունը կենտրոնացնելու փոխարեն։
• Մարդկային քաղաքական, սոցիալական և տնտեսական հաստատությունները պետք է պահպանեն իրենց առաջնային դերը համաշխարհային իրադարձությունների ընթացքը որոշելիս, նույնիսկ եթե դրա համար ստիպված լինեն վերափոխվել այսօր մեզ օտար թվացող ձևերով։
• ԱԲ-ի երկարաժամկետ կառավարումը կհենվի նոր ինստիտուցիոնալ մեխանիզմների վրա՝ սահմանափակ թափանցիկության հասնելու համար։ Երբ ԱԲ համակարգերը լուրջ հետևանքներ ունեցող գործողություններ են կատարում՝ ազդելով երրորդ անձանց ֆիզիկական բարեկեցության կամ գույքի վրա, պետք է հնարավոր լինի այդ գործողությունները կապել պատասխանատու մարդու կամ մարդկանց կողմից վերահսկվող կազմակերպության հետ։ Սակայն ցանկացած նման մեխանիզմի նախագծման հիմքում պետք է լինի գաղտնիությունը։ Ազատ արտահայտվելու համար անանունություն է անհրաժեշտ, և շատ իրավիճակներում մարդիկ պետք է կարողանան ԱԲ-ն անանուն օգտագործել։

Մենք կփորձենք հնարավորինս հստակ ներկայացնել, թե, մեր կարծիքով, ինչպես պետք է հավասարակշռել այս սկզբունքները, որոնք, պետք է խոստովանել, ինչպես սկզբունքների ցանկացած լավ համակարգում, որոշակիորեն հակասում են միմյանց։ Դրա համար անհրաժեշտ կլինեն հանրային քաղաքականության մշակման, տնտեսագիտության, իրավունքի, պատմության և բուն մեքենայական ուսուցման ոլորտների խաչմերուկում կատարվող հետազոտություններ։ Դա նաև լայնածավալ կանխատեսումներ կպահանջի։ Օրինակ՝ մենք կարծում ենք, որ ԱԲ-ն կառուցվածքային առումով կվերափոխի ընկերությունները, ինչպես Արդյունաբերական հեղափոխության տեխնոլոգիաները, (հատկապես երկաթուղին) ծնունդ տվեցին ժամանակակից կառավարչական կորպորացիային։ Դժվար է խորհել ապագայի քաղաքական տնտեսության և իշխանության հավասարակշռության մասին՝ առանց ավելի ամբողջական պատկերացում կազմելու, թե կոնկրետ ինչպես կարող է փոխակերպվել ընկերությունների, (պետական մարմնների և ընդհանրապես քաղաքացիական հասարակության) կառուցվածքը։

Strategic Futures թիմն իր աշխատանքը կներկայացնի ինչպես այստեղ, այնպես էլ այլ ձևաչափերով՝ աշխատությունների, տեսանյութերի և փոդքաստների միջոցով։ Մեր աշխատանքը շարունակաբար կզարգանա՝ շեշտը դնելով կրկնվող բարելավումների, բանավեճի և արձագանքների հանդեպ բաց լինելու վրա։ Կանգնած «եզակիության նախաշեմին»՝ մենք շատ ավելի շատ հարցեր ունենք, քան պատասխաններ։ Մենք գիտենք, որ միայն «մագաղաթե պատնեշները» չեն տա մեր փնտրած լուծումները, բայց նաև գրվածը չենք մերժում որպես «սոսկ բառեր»։ Մեր աշխատանքը ծառայում է խոսքի ազատության և անհատի ազատության այն իդեալներին, որոնք ամրագրված են ԱՄՆ Սահմանադրության համեստ մագաղաթում, ինչպես նաև աշխարհի բազմաթիվ այլ ազատ հասարակությունների սահմանադրությունների մեջ։

Ի վերջո, մենք գիտենք, որ ոչ մի առանձին ընկերություն, ոլորտ կամ նույնիսկ մարդկային հասարակություն չի կարող միանձնյա պատասխանել մեր առջև ծառացած ծանրակշիռ հարցերին։ Սա մի խնդիր է, որը մարդկությունը պետք է լուծի համատեղ ուժերով։ Մեր մեծագույն հույսն է լույս սփռել այն ամենաբարդ հարցերի վրա, որոնք վերաբերում են նրան, թե ինչպես է ԱԲ-ն վերաձևավորելու մեր աշխարհը։ Մեր աշխատանքը դեռ նոր է սկսվել, և առջևում դեռ երկար վերելք ունենք հաղթահարելու։

Նշում․ այս բլոգը վերանվանել ենք «Բանականության դարաշրջան», որպեսզի այն չշփոթեն ոչ առևտրային AI Futures Project-ի հետ։