Մոդելի թարմացված բնութագրեր՝ ավելի ունակ ու օգտակար ԱԲ-ի համար
Մեր մոդելներն ավելի խելացի են դառնում, իսկ աշխարհում նրանց գործողություններն ավելի մեծ հետևանքներ են ունենում։ Ուստի գնալով ավելի կարևոր է, որ նրանք չսահմանափակվեն միայն ստացած կոնկրետ հրահանգները մեկնաբանելով։ Մոդելները պետք է նաև հասկանան մարդկանց մտադրություններն ու արժեքները, որպեսզի կարողանան ողջամիտ որոշումներ կայացնել հրահանգներում ուղղակիորեն չնախատեսված իրավիճակներում՝ հավատարիմ մնալով մարդու մտադրություններին և գործելով նրա վերահսկողության ներքո։
Այսօր մենք թարմացնում ենք մոդելի բնութագրերը(բացվում է նոր պատուհանում)՝ մեր հրապարակային փաստաթուղթն այն մասին, թե ինչպես ենք ցանկանում, որ մեր մոդելներն իրենց պահեն։ Թարմացված տարբերակում ուղեցույցները վերակազմակերպված են հինգ հիմնարար արժեքի շուրջ՝ հավատարմություն մարդու մտադրություններին, վնասի նվազագույնի հասցնում, ազնվություն և թափանցիկություն, մարդու ինքնուրույնություն և հոգատարություն։ Սա արտացոլում է արժեքներին համապատասխանեցման ուղղությամբ մեր աշխատանքի նպատակներից մեկը՝ հասնել նրան, որ մոդելները հասկանան ու կիրառեն մարդկային արժեքներն անծանոթ իրավիճակներում՝ հավատարիմ մնալով մարդու մտադրություններին։ Գործող սկզբունքների ավելի հստակ բացատրություններից բացի, վերանայված տարբերակն ավելացնում է համատեքստի, վերահսկողության և ինքնուրույնության վերաբերյալ ուղեցույցներ, ճշգրտում վարքագծի որոշ լռելյայն կանոններ և հանում ոճի վերաբերյալ մանրամասն ցուցումների մեծ մասը։
Այս հինգ արժեքներն արտահայտում են ընդհանուր հանձնառություններ, որոնք արդեն իսկ արտացոլված են մոդելի բնութագրերի տարբեր մասերում՝ ծառայել մարդու նպատակներին, լինել ճշմարտախոս, նվազագույնի հասցնել վնասը, հարգել սեփական հայացքները ձևավորելու մարդկանց ազատությունը և լրջորեն վերաբերվել նրանց հանգամանքներին։ Այս հանձնառությունների համախմբումն օգնում է բացատրել, թե ինչու են բնութագրերը մոդելներից պահանջում հենց այդպիսի վարքագիծ, և մշակել ավելի հստակ ուղեցույցներ այն հարցերի համար, որոնցում այդ հանձնառությունները լիարժեք չէին արտահայտված։ Այս թարմացումը ևս մեկ քայլ է բնութագրերը կատարելագործելու մեր աշխատանքում, որի հիմքում հետազոտություններն են, մոդելների ներդրման փորձը, բնութագրերի և մոդելների վարքագծի վերաբերյալ հանրության կարծիքները, ինչպես նաև օգտատերերի ու արտաքին փորձագետների հետ քննարկումները։
Մենք ցանկանում ենք, որ ԱԲ-ն օգուտ բերի ամբողջ աշխարհի մարդկանց՝ իրենց տարբեր կարիքներով, արժեքներով և ապագայի հանդեպ հույսերով։
Այս մոտեցման հիմքը հավատարմությունն է մարդու մտադրություններին՝ հասկանալ, թե ինչն է մարդկանց համար կարևոր, և օգնել նրանց հասնել դրան։ OpenAI-ը գրում է բնութագրերը, սահմաններ է դնում և մոդելներին ուսուցանում է պահպանել դրանք։ Մշակողները ղեկավարում են հավելվածների աշխատանքն այդ սահմաններում, իսկ օգտատերերն ուղղորդում են մոդելի աշխատանքը՝ հաշվի առնելով այդ սահմանափակումները։ Մեր մոդելները պետք է ընդլայնեն սեփական կյանքը կերտելու մարդկանց հնարավորությունները՝ օգնելով նրանց հասկանալ աշխարհը, բացահայտել հնարավորություններ և ձգտել իրենց ընտրած նպատակներին։ Միաժամանակ նրանք պետք է լրջորեն հաշվի առնեն, թե այդ օգնությունն ինչպես է ազդում ուրիշների վրա։ Մարդու մտադրություններին հավատարմությունն ու մյուս չորս արժեքները բնութագրերի կառուցվածքի հիմքն են և ուղղորդում են մեր մոդելներին, երբ նրանք ստիպված են հավասարակշռել իրար հակասող ամենակարևոր պահանջներից մի քանիսը։ Դրանք չեն հավակնում ընդգրկել մարդկային բոլոր արժեքները, որոնք մեր մոդելները պետք է հարգեն և օգնեն մարդկանց իրագործել։
Հավատարմությունը նշանակում է ոչ թե պարզապես բառացիորեն հետևել հրահանգներին, այլ խորապես հասկանալ, թե ինչ են մտադիր անել և ինչն են արժևորում OpenAI-ը, մշակողներն ու օգտատերերը, և խոհեմորեն գործել, երբ այդ ըմբռնումը թերի է։ Դա նաև նշանակում է ընդունել, որ մարդկանց համոզմունքներն ու արժեքները կարող են փոխվել, և օգնել նրանց խորհել ու զարգանալ իրենց համար ընդունելի ձևերով՝ առանց թաքուն ուղղորդելու նրանց կամ անտեսելու նրանց ընտրությունը։ Օրինակ՝ աշխատանքի առաջարկները համեմատելիս մոդելը կարող է հիմնվել այն առաջնահերթությունների վրա, որոնց մասին մարդն արդեն հայտնել է, օրինակ՝ կանխատեսելի աշխատանքային ժամերի։ Ընդ որում, մոդելը պետք է հստակ ցույց տա այդ ենթադրությունները և հնարավորություն տա հեշտությամբ ուղղելու դրանք։
Մեր առաքելությունն է ապահովել, որ արհեստական ընդհանուր բանականությունն օգուտ բերի ողջ մարդկությանը։ Դրա համար պետք է հաշվի առնել ոչ միայն մարդու տվյալ պահի մտադրությունները, այլև նրա երկարաժամկետ շահերն ու ուրիշների վրա ազդեցությունը։ Մյուս չորս արժեքները հստակեցնում են այս նկատառումները․
Վնասը նվազագույնի հասցնելը նշանակում է պահպանել անվտանգության խիստ սահմանները և հաշվի առնել մոդելի գործողությունների կանխատեսելի հետևանքները։
Ազնվությունն ու թափանցիկությունը նշանակում են ճշմարտացիորեն ներկայացնել, թե մոդելն ինչ գիտի, ինչ է անում և ինչում վստահ չէ, որպեսզի մարդիկ կարողանան հասկանալ ու գնահատել նրա դատողությունն ու աշխատանքը։
Մարդու ինքնուրույնությանը նպաստելը նշանակում է ամրապնդել ինքնուրույն հասկանալու, ընտրելու և գործելու մարդկանց կարողությունը։
Հոգատարությունը նշանակում է ուշադրություն դարձնել ազդեցություն կրող մարդկանց հանգամանքներին, հետևել համապատասխան սոցիալական ու մասնագիտական նորմերին և կատարել այնպիսի աշխատանք, որի վրա մարդիկ կարող են հույս դնել։
Բնութագրերն այս արժեքները վերածում են գործնական ուղեցույցների՝ սահմանելով խիստ սահմաններ այնտեղ, որտեղ դա անհրաժեշտ է մարդկանց ու հասարակությանը պաշտպանելու համար։ Մնացած դեպքերում դրանք հիմնականում լռելյայն կանոններ են, որոնք օգտատերերն ու մշակողները կարող են փոխել։
Մոդելի բնութագրերի այս թարմացմանը զուգահեռ մենք ուսումնասիրում ենք ուսուցման նոր մեթոդներ, որոնք կօգնեն մեր մոդելներին յուրացնել այս հիմնարար արժեքները և ավելի լավ հասկանալ ու պահպանել բնութագրերում սահմանված վարքագծի կոնկրետ սկզբունքները։ Նպատակն է ձևավորել ըմբռնում, թե ինչու են այդ սկզբունքները կարևոր և ինչպես կիրառել դրանք նոր իրավիճակներում՝ կատարել ճիշտ գործողություններ՝ ճիշտ շարժառիթներով։ Մենք ցանկանում ենք, որ այս ըմբռնումը նպաստի խոհեմությանը՝ կարևոր հետևանքներ ունեցող որոշումներում, և հոգատարությանը՝ առօրյա որոշումներում, որոնք միասին կարող են տևական օգուտ բերել մարդկանց ու հասարակությանը(բացվում է նոր պատուհանում)։ Հետագա թարմացումներում կներկայացնենք ուսուցման այս աշխատանքի արդյունքներն ու քաղած դասերը։
Այս վերակազմակերպումը նաև օգնեց պարզել, թե որտեղ են լրացուցիչ ուղեցույցներ անհրաժեշտ, մշակել նոր սկզբունքներ այդ բացերը լրացնելու համար և ըստ անհրաժեշտության վերանայել կամ հեռացնել գործող ուղեցույցները։
Մարդու մտադրություններին հավատարմության մասին նոր բաժնի ելակետն այն գաղափարն է, որ առաջնայինն այն է, ինչ մարդիկ արժևորում են, իսկ հրահանգները սովորաբար այդ արժեքների ամենահստակ և ամենակարևոր ցուցիչներն են։ Այս մոտեցումը հիմնվում է արժեքներին համապատասխանեցումը «օգնության խաղերի» միջոցով դիտարկող հայեցակարգի վրա (տե՛ս վաղ շրջանի աշխատանքը(բացվում է նոր պատուհանում) և ավելի ուշ հրապարակված ակնարկը(բացվում է նոր պատուհանում))։ Բաժինն ընդգրկում է թարմացված հրահանգների հիերարխիան(բացվում է նոր պատուհանում), որը բացատրում է, թե որ հրահանգներն են կիրառվում և ինչպես են լուծվում հակասությունները։ Նոր՝ համատեքստը մանրակրկիտ հաշվի առնելու(բացվում է նոր պատուհանում) ենթաբաժինը բացատրում է, թե զրույցները, հիշողությունները և համատեքստային այլ տվյալներն ինչպես պետք է օգնեն մոդելին հասկանալ մարդկանց մտադրություններն ու նախապատվությունները։
Մենք նաև ավելացրել ենք լռելյայն կանոններ՝ մարդու ինքնուրույնությանն աջակցելու(բացվում է նոր պատուհանում) և համապատասխան սոցիալական նորմերին հետևելու(բացվում է նոր պատուհանում) վերաբերյալ, ինչպես նաև ընդլայնել կողմնակի ազդեցությունները վերահսկելու և դրանց մասին տեղեկացնելու(բացվում է նոր պատուհանում) գործող ուղեցույցները։ Այս սկզբունքները սահմանում են լրացուցիչ, հաճախ նուրբ, բայց կարևոր ձևեր, որոնցով մյուս արժեքները պետք է արտացոլվեն մոդելի վարքագծում՝ հաշվի առնել աշխատանքի ազդեցությունն ուրիշների վրա, զարգացնել օգտատերերի կարողությունները և կատարել հուսալի աշխատանք՝ միաժամանակ հարգելով օգտատիրոջ նպատակներն ու հրահանգները։
Միաժամանակ մենք բնութագրերից հեռացնում ենք ոճի վերաբերյալ մանրամասն ցուցումների մեծ մասը։ Ոճը պետք է հարմարվի մարդկանց նախապատվություններին՝ թե՛ ընդհանուր առմամբ, թե՛ առանձին լեզուների ու մշակույթների շրջանակում, թե՛ յուրաքանչյուր մարդու համար։ Այդ նախապատվությունները պարզելու հիմք պետք է ծառայեն օգտատերերի արձագանքներն ու համատեքստը։ Բնութագրերում պահպանվում են ավելի խիստ լռելյայն կանոններ, օրինակ՝ հարցերին անաչառ մոտենալը(բացվում է նոր պատուհանում)։ Օգտատերերն ու մշակողները կարող են ուղղակիորեն խնդրել մոդելին որդեգրել որոշակի տեսակետ, սակայն մոդելը չպետք է ենթադրի այդպիսի նախապատվություն՝ հիմնվելով միայն իր պատկերացման վրա, թե նրանք ինչ են ուզում լսել։
Վերջապես, քանի որ մեր մոդելների կիրառություններն ու օգտագործման միջավայրերը գնալով բազմազան են դառնում, բնութագրերում մոդելն այժմ անվանում ենք «GPT»՝ «օգնական»-ի փոխարեն։
Մոդելների կարողությունների աճին զուգընթաց այս թարմացումն առաջին քայլն է՝ ավելի հստակ ներկայացնելու բնութագրերի հիմքում ընկած արժեքներն ու հիմնավորումները։ Մոդելի բնութագրերը նկարագրում են այն վարքագիծը, որին մենք ձգտում ենք․ մեր մոդելները դեռ լիովին չեն համապատասխանում դրան։ Մենք կշարունակենք բարելավել թե՛ բնութագրերը, թե՛ մոդելները՝ սովորելով հետազոտություններից, իրական կիրառությունից և արձագանքներից։
Ուզում ենք իմանալ, թե բնութագրերի որ մասերն եք համոզիչ համարում, որտեղ համաձայն չեք դրանցում ընտրված հավասարակշռության հետ, և ինչն է անտեսված կամ անհստակ մնացել։ Արժեքների, փոխզիջումների և կոնկրետ ձևակերպումների վերաբերյալ ձեր կարծիքները կարող են օգնել մեզ բարելավել բնութագրերը։ Հրավիրում ենք կարդալ մոդելի թարմացված բնութագրերը(բացվում է նոր պատուհանում) և կիսվել ձեր կարծիքով(բացվում է նոր պատուհանում)։
