Սեմ Ալթմանի ելույթը ՄԱԿ-ի Անվտանգության խորհրդում

Այսօր OpenAI-ի գործադիր տնօրեն Սեմ Ալթմանը ՄԱԿ-ի Անվտանգության խորհրդում ելույթ ունեցավ արհեստական բանականության թեմայով։ Նա խոսեց հնարավորություններն ընդլայնելու ԱԲ-ի ներուժի, հզոր համակարգերը մարդու վերահսկողության ներքո պահելու կարևորության և ԱԲ-ի` անվտանգության հարցում միջազգային համագործակցության անհրաժեշտության մասին։

Շնորհակալություն, պարո՛ն նախագահ, ձերդ գերազանցություններ։ Ինձ համար մեծ պատիվ է այս կարևոր պահին այստեղ լինել և ձեզ բոլորիդ դիմելու հնարավորություն ունենալ։

Մենք տարիներ շարունակ խոսել ենք արհեստական բանականության մասին, սակայն վերջին շաբաթներին և ամիսներին ամեն ինչ կարծես փոխվել է։ Մոդելների արագ առաջընթացը կարծես սեղմել է ժամանակացույցը, առավելություններն ավելի շոշափելի դարձրել, իսկ կարևորությունն ու ռիսկերն` ավելի անմիջական դարձրել։

Մենք կանգնած ենք ընտրության առաջ։ ԱԲ-ն կարող է դառնալ ստեղծագործականության ու բացահայտումների նոր Վերածնունդ կամ ցնցումների ու քաոսի նոր Արդյունաբերական հեղափոխություն։

Վերածնունդն այն ժամանակաշրջանն էր, երբ նոր գործիքները, գաղափարներն ու հաստատություններն ընդլայնեցին մարդկանց պատկերացումները սեփական հնարավորությունների մասին։ ԱԲ-ն կարող է նույն դերը կատարել մեր ժամանակներում։ Կարծում եմ՝ մարդիկ շատ ավելի ունակ են, քան պատկերացնում են, սակայն նրանց հետ է պահել սահմանափակ տեխնոլոգիան, որը կոչված էր զորացնելու նրանց, բայց փոխարենը շեղում է և հաճախ խլում նրանց ուշադրությունը։

ԱԲ-ի լավագույն տարբերակը մարդկանց հսկայական մեքենայի պտուտակներ դարձնելու կամ կյանքի ամեն մի մասը կատարելագործելու մասին չէ՝ մինչև մարդկային տարրերն անհետանան։ Այն շարունակ բարդացող աշխարհում մարդկանց ավելի մեծ ինքնուրույնություն տալու մասին է՝ սովորելու, ստեղծագործելու, բացահայտելու, կառուցելու և մասնակցելու ավելի մեծ կարողություն։ Շատ բաներ կան, որոնք ԱԲ-ն չի կարող և չպետք է ավտոմատացնի։

ԱԲ-ն պետք է ստեղծվի մարդկանց համար, ոչ թե պարզապես մեքենաներն ավելի արագ աշխատեցնելու՝ հանուն բուն արագության։ ԱԲ ստեղծող մարդկանց որոշ հայտարարություններ այնքան հակաուտոպիական են, որ հիշեցնում են վատ գիտաֆանտաստիկ ֆիլմերի սյուժեներ։

Այսքան հզոր ցանկացած բան նաև վախ է ներշնչում։ Այս պահը բարդ է, քանի որ միաժամանակ զգում ենք և՛ վիթխարի ներուժ, և՛ լիովին հասկանալի անհանգստություն։

Այս մոդելները կարող են օգնել մարդկանց նոր գիտելիքներ բացահայտել` ստեղծել նոր դեղամիջոցներ, բարելավել առողջապահությունն ու կրթությունը և կառուցել ավելի արդյունավետ տնտեսություններ։ Դրանք կարող են մարդկանց համար նոր գործիքներ դառնալ՝ այսօր անհասանելի թվացող երազանքներին ու հավակնություններին հասնելու համար։ Սովորական մարդու կյանքն անհամեմատ ավելի բարդ է դարձել։ ԱԲ-ն կարող է լինել ինչպես պաշտպանական միջոց այս բարդության դեմ, այնպես էլ աննախադեպ բացահայտումների ու նորարարության գործիք։

Մյուս կողմից, երբ ԱԲ համակարգերն ավելի ունակ ու ինքնավար դառնան, դրանք կարող են ավելի արագ զարգանալ, քան մեր հաստատությունները, իշխանությունը կենտրոնացնել չափազանց փոքրաթիվ մարդկանց ձեռքում կամ կայացնել որոշումներ, որոնք մարդիկ այլևս չեն հասկանա կամ չեն վերահսկի։

Այս մտահոգությունն առանձնապես կարևոր է դառնում, երբ մոտենում ենք այնպիսի համակարգերի ստեղծմանը, որոնք կարող են կատարելագործել իրենց և իրենց հետագա տարբերակները. սա հաճախ անվանում են ռեկուրսիվ ինքնակատարելագործում։ ԱԲ-ի ստեղծման գործընթացի ավտոմատացմանը զուգահեռ դրա առաջընթացը կարող է կտրուկ արագանալ։ Այս պահը ծայրահեղ զգուշություն է պահանջում։

Ես հիմնականում համաձայն եմ պրոֆեսոր Բենժիոյի հետ։ Թեև երեքի փոխարեն երկուսը կնշեմ՝ կարծում եմ, որ ԱԲ-ի առաջընթացը կարող է երկու խիստ վտանգավոր ուղղությամբ ընթանալ, և մենք պետք է խուսափենք դրանցից։

Առաջին՝ մենք կարող ենք ապագայի վերահսկողությունը զիջել ԱԲ-ին։ Վտանգն այն է, որ այն կարող է այնքան արագ զարգանալ, որ մարդիկ այլևս չկարողանան հետևել տեղի ունեցողին կամ անհրաժեշտության դեպքում միջամտել։ Սա, անշուշտ, սարսափելի կլիներ։

Ոլորտը չպետք է չափազանց մեծ տեխնոլոգիական ռիսկի դիմի միայն այն պատճառով, որ օգուտներն այնքան մեծ են, որ զարգացման տեմպը դանդաղեցնելը չափազանց մեծ կորուստ է թվում։ Մրցակցային պայքարում մյուս ընկերություններից առաջ անցնելը հապճեպ որոշումներ կայացնելու պատճառ չէ։ Մենք նաև չենք կարծում, թե հայտնվել ենք այնպիսի մրցավազքում, որ այլևս ի վիճակի չենք դանդաղեցնելու ընթացքը։ Նախկինում մենք սեփական նախաձեռնությամբ դանդաղեցրել ենք աշխատանքը և ապագայում էլ այդպես կվարվենք։ Մենք չենք ուզում ստեղծել համակարգեր, (կարծում ենք, որ բոլորը պետք է խուսափեն այնպիսի համակարգեր ստեղծելուց) որոնց դեպքում չենք կարող ապահովել համապատասխանեցման, վերահսկելիության և անվտանգության անհրաժեշտ երաշխիքները։

Մենք պետք է հասկանանք, թե ինչ են անում այս համակարգերը, և համոզիչ ապացույցներ ունենանք, որ դրանք կգործեն մարդկանց մտադրություններին համապատասխան, նույնիսկ երբ չափազանց խելացի դառնան։ Իրականում՝ հատկապես երբ չափազանց խելացի դառնան։ Կարևոր չէ՝ մարդիկ աղետի ռիսկը գնահատում են 10%, 1%, 12%, թե 0.1%։ Այս մակարդակներից ոչ մեկը նույնիսկ մոտ չէ ընդունելի լինելուն։ Մենք չպետք է մարզենք մոդելներ, եթե չենք կարող չափազանց համոզիչ հիմնավորել, որ ի վիճակի կլինենք դրանք պահել մարդու վերահսկողության ներքո։

Այսպիսով, սա իրադարձությունների վատ զարգացման ուղիներից մեկն է։ Մյուս դեպքում այս համակարգերը կարող են չափազանց մեծ իշխանություն կենտրոնացնել փոքրաթիվ մարդկանց ձեռքում։ Ոչ մի անհատ, ընկերություն կամ երկիր չպետք է կարողանա ամենահզոր ԱԲ մոդելներն օգտագործել՝ իր աշխարհայացքը բոլորին պարտադրելու համար։ Ընկերությունը կամ երկիրը, որը կարծում է, թե միայն իրեն կարելի է վստահել այս տեխնոլոգիան, կարող է այդ համոզմամբ արդարացնել գրեթե ցանկացած այլ քայլ։ Մենք պետք է մերժենք այդ տրամաբանությունը, նույնիսկ երբ այն ձեռնտու է որևէ առանձին դերակատարի։

Կարծում եմ՝ այս երկու հարցն էլ լուծելու գործնական ուղի կա։ OpenAI-ում այս հարցերին մոտենում ենք հստակ նպատակով. ԱԲ-ն պետք է մարդկանց ավելի մեծ վերահսկողություն տա սեփական կյանքի նկատմամբ։ Ավելի մեծ ազատություն՝ ապրելու այնպես, ինչպես ցանկանում են։ Ավելի մեծ կարողություն՝ լուծելու մեծ ու փոքր խնդիրներ և բարելավելու իրենց համայնքները։ Մենք չենք ուզում ընկնել ո՛չ կույր լավատեսության, ո՛չ էլ աղետապաշտության ծուղակը։ Այս ծայրահեղություններից որևէ մեկով տարվելը չի օգնի հաջողությամբ հաղթահարել մեր առջև ծառացած դժվարությունները, հատկապես հիմա, երբ աշխարհն ու մարդիկ բախվում են այնպիսի վիթխարի խնդիրների, որոնց լուծմանը այս տեխնոլոգիան կարող է նպաստել։ Ուստի փորձում ենք այս երկու բևեռների միջև միջին ուղով ընթանալ։

Մեզ համար դա նշանակում է առաջնորդվել երեք սկզբունքով։

Առաջին՝ ԱԲ-ի կարողությունների աճին զուգահեռ մարդիկ պետք է շարունակեն առանցքային դեր ունենալ ԱԲ-ի վերաբերյալ որոշումների կայացման գործում։ Համապատասխանեցումը վերացական հետազոտական հարց չէ։ Դա աշխատանք է, որի նպատակն է ապահովել, որ այս համակարգերը մշտապես և հուսալիորեն մնան մարդու վերահսկողության ներքո, արտացոլեն մարդկային արժեքները և օգնեն մարդկանց ուղղորդել զարգացման հաջորդ փուլերը։ Մենք չենք փորձում և չպետք է փորձենք ավտոմատացնել մարդկային դատողությունը կամ արժեքները։

Երկրորդ՝ գիտական առաջընթացն ու տնտեսական աճը պետք է ստեղծվեն մարդկանց կողմից և ծառայեն մարդկանց։ ԱԲ-ն պետք է օգնի հետազոտողներին բացահայտումներ անել, բժիշկներին՝ բուժել հիվանդներին, ուսուցիչներին՝ կրթել աշակերտներին, ձեռնարկատերերին՝ ընկերություններ հիմնել, համայնքներին՝ լուծել նախկինում անհասանելի թվացող խնդիրներ, և շատ ավելին։ Մարդկության շարունակական առաջընթացի պատմությունը չի վկայում, որ գործիքները փոխարինում են մարդու ինքնուրույն գործելու կարողությանը։ Այն ցույց է տալիս, որ ճիշտ գործիքները մարդկանց ավելի ունակ են դարձնում, և, իմ համոզմամբ, այս գործընթացը շատ ավելի հեռուն կգնա, քան այսօր հնարավոր ենք համարում։

Երրորդ՝ այս տեխնոլոգիան պետք է անհատապես զորացնի մարդկանց։ Հիանալի ապագան կերտվելու է այն մարդկանց շնորհիվ, որոնք իրացնում են իրենց ներուժը և արժեք ստեղծում իրենց, իրենց համայնքների, երկրների և ամբողջ աշխարհի համար։ Մենք գուցե այս տեխնոլոգիան ստեղծողներից ենք, բայց այս պատմության հերոսները մենք չենք։ Մեր դերն է հնարավորություններ տալ մարդկանց ամբողջ աշխարհում և վստահել մարդկային հմտությունների ու կարողությունների հրաշագործ ուժին։

Այժմ ունենք մոդելներ, որոնք կարող են բացահայտել նախկինում մեզ անհայտ գիտելիքներ։ Դիտարկենք մաթեմատիկայում արձանագրված առաջընթացը։ Երեք ամառ առաջ մեր մոդելները միջին մակարդակով էին լուծում տարրական դպրոցի մաթեմատիկական խնդիրները։ Երկու ամառ առաջ դրանք բավական լավ էին լուծում ավագ դպրոցի մաթեմատիկական մրցույթների խնդիրները։ Անցյալ ամռանը հասանք աշխարհի ամենահեղինակավոր միջազգային մաթեմատիկական մրցույթի ոսկե մեդալի մակարդակին։ Իսկ այս ամառ՝ ընդամենը մի քանի շաբաթ առաջ, մեր մոդելներից մեկը լուծեց Հազարամյակի մրցանակային խնդիրներից մեկը՝ Նավիե-Ստոքսի հավասարումները։

Այս հավասարումներն օգտագործվում են ինքնաթիռների նախագծման, եղանակի կանխատեսման և արյան հոսքի ուսումնասիրության համար։ Մենք մաթեմատիկական խնդիրները չենք լուծում պարզապես հանուն դրանց լուծման, այլ որպեսզի մարդկանց հնարավորություն տանք նոր գիտելիքներ բացահայտել և դրանք օգտագործել առողջապահությունը բարելավելու, կենսամակարդակը բարձրացնելու և ամբողջ աշխարհում յուրաքանչյուրի ներուժն ընդլայնելու համար։ Դեռ այնքան շատ բան կա բացահայտելու։

Սակայն չափազանց կարևոր է, որ ընկերությունները չփոխարինեն ժողովրդավարական գործընթացին։

Եթե ԱԲ-ն պետք է ժողովրդավարական լինի, կարևորագույն որոշումները չեն կարող կայացվել միայն Սան Ֆրանցիսկոյի լաբորատորիաներում։ Դրանք պետք է ձևավորվեն ժողովրդավարական գործընթացներով և այն կառավարությունների կողմից, որոնք հաշվետու են այն ժողովրդին, որին ծառայում են:

Միջազգային մակարդակում դրա համար համագործակցություն կպահանջվի։ Մեր պատմության ընթացքում եղել են ժամանակներ, երբ միմյանց հետ մրցող և ոչ միշտ միմյանց համակրող երկրները, բախվելով նոր հզոր տեխնոլոգիայի, այնուամենայնիվ միավորվել են հանուն ընդհանուր շահերի և համընդհանուր բարօրության։ Մենք կարծում ենք, որ սա պետք է լինի այդպիսի պահերից մեկը։

Մեզ անհրաժեշտ է առաջադեմ ԱԲ-ի փոխլրացնող ազգային և միջազգային չափորոշիչների մեխանիզմ՝ կարողությունները չափելու, ռիսկերը գնահատելու, պաշտպանական միջոցների բավարար լինելը որոշելու և համակարգերի ինքնավարության աճին զուգահեռ մարդու գործուն վերահսկողությունը պահպանելու համար։

Մեզ անհրաժեշտ են ընդհանուր չափորոշիչներ, որպեսզի երկրները կարողանան համադրել փաստական տվյալները, ստուգել պահանջների պահպանումը և ընդհանուր լեզու ու պատկերացում ունենալ տեղի ունեցողի վերաբերյալ։

Մեզ անհրաժեշտ են միջադեպերի մասին ճշգրիտ և արագ հաղորդումներ, ինչպես նաև դասակարգման ու հաղորդման արձանագրություններ, որպեսզի աշխարհը կարողանա դասեր քաղել ձախողումներից՝ նախքան դրանք աղետների վերածվելը։

Մեզ նաև անհրաժեշտ են անվտանգ կապուղիներ կառավարությունների, կարևոր ենթակառուցվածքների օպերատորների և տեխնիկական փորձագետների միջև՝ ի հայտ եկող խոցելիությունների ու նոր սպառնալիքների մասին տեղեկություններ փոխանակելու համար։

Ակնհայտ է, որ այս չափորոշիչները չպետք է ամրապնդեն գործող խոշոր դերակատարների դիրքերը կամ բիզնեսի մի մոդելը գերադասեն մյուսից։ Դրանք պետք է աջակցեն բաց և փակ մոդելներ մշակողներին, նորեկներին ու կայացած լաբորատորիաներին, ազգային լիազորություններին և միջազգային համագործակցությանը։ Յուրաքանչյուր կառավարություն պետք է որոշի, թե ինչպես ներառել չափորոշիչներն իր իրավական համակարգում։ Սակայն բոլորս կշահենք, եթե համաշխարհային մակարդակում կարողանանք համաձայնության գալ, թե ինչպիսին պետք է լինեն հիմնավոր ապացույցները, արդյունավետ պաշտպանական միջոցները և պատշաճ վերահսկողությունը։

Մենք չունենք բոլոր պատասխանները և պատրաստ ենք լսելու ցանկացած ավելի լավ գաղափար։ Մենք պատրաստ ենք աշխատել բոլորիդ հետ և անել առավելագույնը՝ առաջընթացի ուղին գտնելու համար:

Մենք կանգնած ենք խաչմերուկում։ Մի ուղին տանում է դեպի մի աշխարհ, որտեղ իշխանությունը կենտրոնացած է, որոշումները՝ անթափանց, իսկ մարդիկ զգում են, որ իրենց կյանքի կարևորագույն տեխնոլոգիան ստեղծվում և կիրառվում է առանց իրենց մասնակցության։ Մյուս ուղին տանում է դեպի մի աշխարհ, որտեղ ԱԲ-ն ծառայում է մարդկանց, քանի որ նրանք ժողովրդավարական հաստատությունների միջոցով մասնակցում են դրա զարգացման և ուղղորդման վերաբերյալ որոշումների կայացմանը, որտեղ գիտական առաջընթացը բարելավում է մարդկանց իրական կյանքը, ավելի շատ մարդիկ կարող են մասնակցել ապագայի կերտմանը, իսկ այս տեխնոլոգիան շարունակում է անհատներին ու համայնքներին ավելի մեծ հնարավորություն տալ ապրելու այնպես, ինչպես իրենք են ընտրում։ Սա իրացված ներուժով, ոգևորությամբ և զարմանքով լի ապագա է։

Եվ մենք հավատում ենք, որ արժե կերտել հենց այդ ապագան։ Շատ շնորհակալ եմ։