Արհեստական բանականության հավասարեցման անկախ հետազոտությունների զարգացում

Քանի որ արհեստական բանականության համակարգերը դառնում են ավելի կարողունակ և ինքնավար, համապատասխանության հետազոտությունը պետք է և՛ համընթաց քայլի, և՛ բազմազանությունը մասշտաբավորի։ OpenAI-ում մենք մեծ ներդրումներ ենք կատարում առաջատար համադրման և անվտանգության հետազոտությունների մեջ, քանի որ դա կարևոր է մեր առաքելության համար։ Մենք նաև հավատում ենք, որ AGI-ի անվտանգությունն ու օգտակարությունը բոլորի համար ապահովելը չի կարող իրականացվել միայն մեկ կազմակերպության կողմից, և մենք ցանկանում ենք աջակցել անկախ հետազոտություններին և հայեցակարգային մոտեցումներին, որոնք կարող են զարգանալ առաջատար լաբորատորիաներից դուրս։ Մենք հավատում ենք, որ արհեստական բանականության ապագան չի զարգանա ճիշտ այնպես, ինչպես որևէ մեկը կանխատեսում է, և որ շատ ավելի շատ մարդիկ պետք է մասնակցեն արդյունքի ձևավորմանը։

Այսօր մենք հայտարարում ենք 7,5 միլիոն ԱՄՆ դոլարի դրամաշնորհի մասին՝ The Alignment Project⁠(բացվում է նոր պատուհանում)-ին, որը անկախ համադրման հետազոտությունների համար գլոբալ հիմնադրամ է՝ ստեղծված ՄԹ ԱԲ անվտանգության ինստիտուտի (UK AISI) կողմից։ Renaissance Philanthropy-ն աջակցում է դրամաշնորհի կառավարմանը։ Այս ներդրումը նպաստում է The Alignment Project-ը դարձնել մինչ օրս անկախ համապատասխանության հետազոտության համար նախատեսված ամենամեծ նպատակային ֆինանսավորման նախաձեռնություններից մեկը և ամրապնդում է ավելի լայն, անկախ էկոհամակարգը։

OpenAI-ի նման առաջադեմ լաբորատորիաները եզակի դիրքում են՝ իրականացնելու համահունչեցման հետազոտություններ, որոնք կախված են առաջադեմ մոդելների հասանելիությունից և զգալի հաշվարկային հզորություններից՝ աշխատանք, որը հաճախ դժվար է անկախ հետազոտողների համար ուսումնասիրել։ Մենք մեր ներքին համապատասխանեցման ջանքերի մեծ մասը նվիրում ենք մասշտաբային մեթոդների մշակմանը, որպեսզի համապատասխանեցման առաջընթացը համընթաց լինի ունակությունների առաջընթացին։ Մենք հավատում ենք իտերատիվ տեղակայմանը՝ աստիճանաբար ավելացնելով կարողությունները և միաժամանակ ամրապնդելով պաշտպանիչ միջոցները, ինչը օգնում է խնդիրները վաղ փուլում հայտնաբերել և մեզ տալիս է գործնականում աշխատող լուծումների վերաբերյալ կոնկրետ ապացույցներ։ Պատասխանատու զարգացումը պահանջում է էական համահունչեցման և անվտանգության աշխատանք, որը սերտորեն ինտեգրված է մոդելի կառուցման և տեղակայման հետ։

Զուգահեռաբար, ոլորտը շահում է անկախ, հետախուզական հետազոտությունների կայուն ներդրումներից, որոնք կարող են ընդլայնել գաղափարների տարածքը և բացահայտել նոր ուղղություններ։ Անկախ հետազոտությունը մնում է էական. օգտակար հետազոտության բազմաթիվ տեսակներում լաբորատորիաները չունեն համեմատական առավելություն։ Առողջ համահունչ էկոհամակարգը կախված է անկախ թիմերից, որոնք փորձարկում են բազմազան ենթադրություններ, մշակում են այլընտրանքային շրջանակներ և ուսումնասիրում են գաղափարներ, որոնք կարող են ոչ միշտ հստակ համընկնել որևէ կազմակերպության ճանապարհային քարտեզի հետ։

Եվ քանի որ AGI-ի ուղղությամբ առաջընթացը, ի վերջո, կարող է կախված լինել հիմնարար բեկումներից, որոնք փոխում են համապատասխանեցման խնդրի ձևը և այն, թե որ մոտեցումներն են առավել օգտակար, կարևոր է աջակցել այնպիսի հետազոտությանը, որը նշանակություն կունենա նույնիսկ այն դեպքում, եթե պարզվի, որ այսօր գերիշխող մեթոդները չեն մասշտաբավորվում այնպես, ինչպես մենք ակնկալում ենք։ Այդ աշխարհներում հատկապես կարևոր է ունենալ ուժեղ արտաքին էկոհամակարգ, որը կատարում է հիմնարար, հայեցակարգային և չկապակցված աշխատանք։ Արհեստական բանականության համապատասխանեցման և անվտանգության խնդիրը աննախադեպ կարևորություն ունի, և մեզ անհրաժեշտ են բոլորի ջանքերը, քանի որ դեռևս չգիտենք, թե որ մոտեցումները կդառնան ամենակայունը, երբ հնարավորությունները շարունակեն զարգանալ։

Մեր դրամաշնորհը՝ մոտավորապես 5,6 միլիոն ֆունտ ստեռլինգ ընթացիկ փոխարժեքներով, կհամաֆինանսավորի The Alignment Project-ը⁠(բացվում է նոր պատուհանում) ՝ այլ հանրային, բարեգործական և ոլորտային աջակիցների հետ միասին։ Ընդհանուր ֆոնդը գերազանցում է 27 միլիոն ֆունտ ստեռլինգը և նախատեսված է աջակցելու ամբողջ աշխարհում համապատասխանեցման հետազոտությունների նախագծերի լայն պորտֆելին՝ ընդգրկելով այնպիսի բազմազան թեմաներ, ինչպիսիք են հաշվարկային բարդության տեսությունը, տնտեսական տեսությունը և խաղերի տեսությունը, ճանաչողական գիտությունը, ինչպես նաև տեղեկատվության տեսությունը և կրիպտոգրաֆիան։ Առանձին նախագծերը սովորաբար ֆինանսավորվում են 50000 ֆունտից մինչև 1 միլիոն ֆունտ, և կարող են նաև ստանալ հաշվարկային ռեսուրսների և փորձագիտական աջակցության կամընտիր հասանելիություն։

Մեր ֆինանսավորումը չի ստեղծում նոր ծրագիր կամ ընտրության գործընթաց և չի ազդում գործող գործընթացի վրա. այն ավելացնում է արդեն իսկ ստուգված, բարձրորակ նախագծերի⁠(բացվում է նոր պատուհանում) թիվը, որոնք կարող են ֆինանսավորվել ընթացիկ փուլում։

ՄԹ AISI-ը լավ դիրքավորված է այս մասշտաբի և ընդգրկույթի համապատասխանեցման ֆինանսավորումը նպատակային ուղղորդելու համար։ Այն միավորում է հաստատված միջոլորտային կոալիցիա՝ ընդգրկելով կառավարությունը, ակադեմիան, բարեգործությունը և արդյունաբերությունը, ինչպես նաև արդեն ընթացքի մեջ գտնվող դրամաշնորհների տրամադրման գործընթաց և փորձագիտական վերանայում անցած առաջարկների մեծ քանակ։ Որպես ՄԹ կառավարության հետազոտական կազմակերպություն՝ Գիտության, Նորարարության և Տեխնոլոգիաների դեպարտամենտի (DSIT) կազմում, այն ունի նաև մանդատ, որը կենտրոնացած է լուրջ ԱԲ ռիսկերի վրա և ունի փորձ հետազոտությունների ֆինանսավորման ծրագրեր իրականացնելու գործում։

Քանի որ ԱԲ-ի ապագան չի զարգանա ճիշտ այնպես, ինչպես որևէ մեկը կանխատեսում է, և կարող է շատ արագ առաջ գնալ, մենք հավատում ենք, որ ժողովրդավարացումը, «ԱԲ-ի դիմադրողականությունը» և իտերատիվ տեղակայումը էական են։ Մինչ մենք OpenAI-ում շարունակում ենք առաջ մղել մեր առաջատար համապատասխանեցման և անվտանգության հետազոտությունները, առաջընթացը կշահի ամուր, բազմազան և անկախ էկոհամակարգից, որը հետապնդում է լրացուցիչ մոտեցումներ՝ հնարավորությունների զարգացմանը զուգընթաց։ Այս դրամաշնորհը մեկ քայլ է այդ նպատակին հասնելու ճանապարհին։ Մենք անհամբեր սպասում ենք շարունակել համագործակցությունը ավելի լայն հետազոտական համայնքի հետ, երբ ոլորտը զարգանում է։