Համօգտագործման և հրապարակման քաղաքականություն

ԱԲ-ի կողմից գեներացված բովանդակության հետ կապված հնարավոր ռիսկերը նվազեցնելու նպատակով մենք սահմանել ենք հետևյալ քաղաքականությունը՝ թույլատրելի համօգտագործման վերաբերյալ։

Սոցիալական ցանցերում ձեր սեփական հարցումները կամ ստացված վերջնարդյունքները հրապարակելը ընդհանուր առմամբ թույլատրելի է, ինչպես և մեր պրոդուկտների օգտագործումը ուղիղ եթերով հեռարձակելը կամ դրանք մի խումբ մարդկանց ցուցադրելը։ Խնդրում ենք հետևել ստորև նշված ցուցումներին.

• Նախքան կիսվելը կամ ուղիղ եթերի ընթացքում աչքի անցկացրեք գեներացված ցանկացած արդյունք։
• Բովանդակության ստեղծումը վերագրեք ձեզ կամ ձեր ընկերությանը։
• Նշեք, որ բովանդակությունը գեներացվել է ԱԲ-ի կողմից։ Արեք դա այնպես, որ որևէ օգտատեր չկարողանա դա բաց թողնել կամ սխալ հասկանալ։
• Մի կիսվեք այնպիսի բովանդակությամբ, որը խախտում է մեր Բովանդակության քաղաքականությունը⁠ կամ կարող է վիրավորել այլ անձանց։
• Եթե մուտքագրում եք լսարանի կողմից առաջարկվող հարցումներ, ցուցաբերեք ողջամիտ մոտեցում. մի մուտքագրեք այնպիսի հարցումներ, որոնք կարող են հանգեցնել մեր Բովանդակության քաղաքականության⁠ խախտմանը։

Եթե ​​ցանկանում եք համոզվել, որ OpenAI թիմը տեղյակ է ստացված որևէ կոնկրետ վերջնարդյունքից, կարող եք մեզ էլ. նամակ ուղարկել կամ օգտագործել Playground-ի՝ հաղորդում ներկայացնելու գործիքները։

• Հիշեք, որ շփվում եք «հում» մոդելի հետ, ինչը նշանակում է, որ մենք չենք զտում կողմնակալ կամ բացասական արձագանքները։ (Բացի այդ, կարող եք ավելին իմանալ մեր անվճար մոդերացիայի վերջնակետի⁠(բացվում է նոր պատուհանում) մասին այստեղ)։

Այն ստեղծագործողները, որոնք ցանկանում են հրապարակել OpenAI API-ի օգնությամբ ստեղծված՝ իրենց սեփական գրավոր բովանդակությունը (օրինակ՝ գիրք, պատմվածքների ժողովածու), կարող են դա անել հետևյալ պայմաններով՝

• Հրապարակված բովանդակության ստեղծումը պետք է վերագրվի ձեզ կամ ձեր ընկերությանը։
• ԱԲ-ի դերը բովանդակության ստեղծման գործում պետք է հստակորեն նշվի այնպես, որ որևէ ընթերցող չկարողանա դա չնկատել, և որ հասարակ ընթերցողի համար դա բավականաչափ հասկանալի լինի։
• Բովանդակության թեմաները չպետք է խախտեն OpenAI-ի Բովանդակության քաղաքականությունը⁠ կամ Օգտագործման պայմանները⁠, այսինքն չպետք է նախատեսված լինեն մեծահասակների համար, պարունակեն սպամ, ատելության դրսևորումներ, բռնություն հրահրեն կամ պատճառեն որևէ այլ սոցիալական վնաս։
• Խնդրում ենք զերծ մնալ այնպիսի վերջնարդյունք տարածելուց, որը կարող է վիրավորել այլ անձանց։

Օրինակ՝ նախաբանում կամ ներածության մեջ (կամ որևէ այլ համապատասխան տեղում) պետք է մանրամասն նշել, թե ով է սկզբնական տարբերակի հեղինակը, ով է խմբագրողը և այլն։ Մարդիկ չպետք է API-ի կողմից գեներացված բովանդակությունը ներկայացնեն որպես ամբողջությամբ մարդու կողմից ստեղծված կամ ամբողջությամբ ԱԲ-ի կողմից ստեղծված, և հենց անհատն է կրում հրապարակվող բովանդակության վերջնական պատասխանատվությունը։

Ահա մի քանի ստանդարտ արտահայտություններ, որոնք կարող եք օգտագործել ձեր ստեղծագործական ընթացքը նկարագրելու համար՝ պայմանով, որ դրանք ճիշտ են արտացոլում իրականությունը.

Մենք կարևոր ենք համարում, որ աշխարհում կարողանան գնահատել մեր ուսումնասիրություններն ու պրոդուկտները, մասնավորապես՝ հասկանալու և բարելավելու համար մեր մոդելներում առկա հնարավոր թույլ կողմերը և անվտանգության կամ կողմնակալության հետ կապված խնդիրները։ Հետևաբար մենք ողջունում ենք OpenAI API-ին վերաբերող հետազոտական ​​հրապարակումները։

• Հնարավոր է, որ որոշ դեպքերում մենք ցանկանանք անդրադառնալ ձեր աշխատանքին ներքին և/կամ արտաքին հարթակներում։
• Անվտանգությանը կամ API-ի չարաշահմանը վերաբերող հրապարակումների դեպքում հնարավոր է՝ ցանկանանք ձեռնարկել համապատասխան գործողություններ՝ մեր օգտատերերին պաշտպանելու համար։
• Եթե ​​ձեր ուսումնասիրության ընթացքում նկատում եք API-ի հետ կապված որևէ անվտանգային խնդիր, խնդրում ենք այն անհապաղ մեզ ներկայացնել մեր Խոցելիությունների բացահայտման համակարգված ծրագրի⁠ միջոցով։

Կան մի շարք հետազոտական ​​ուղղություններ, որոնք մենք շատ կցանկանայինք ուսումնասիրել OpenAI API-ի միջոցով։ Եթե ​​հետաքրքրված եք սուբսիդավորված մուտքի հնարավորությամբ, խնդրում ենք Հետազոտողների մուտքի ծրագրի դիմումի⁠ միջոցով մեզ ներկայացնել ձեր կողմից կատարված ուսումնասիրության մանրամասները։

Մասնավորապես՝ մենք հատկապես կարևոր ենք համարում հետևյալ ուղղությունները (դուք կարող եք ներկայացնել նաև ձեր սեփական ուղղությունը).

• Համապատասխանություն։ Ինչպե՞ս կարող ենք հասկանալ, թե արդյոք մոդելն ունի որոշակի նպատակ, և եթե ունի, ապա որն է այդ նպատակը։ Ինչպե՞ս կարող ենք մեծացնել այդ նպատակի համապատասխանությունը հարցում կատարողի մտադրությանը, օրինակ՝ հարցումը հստակ կազմելու կամ ճշգրտում կատարելու միջոցով։
• Արդարություն և ներկայացվածություն։ Ինչպե՞ս պետք է սահմանվեն արդարության և ներկայացվածության չափանիշները լեզվական մոդելներում։ Ինչպե՞ս կարելի է կատարելագործել լեզվական մոդելները, որպեսզի դրանք արդյունավետ կերպով հետևեն արդարության և ներկայացվածության նպատակներին այն միջավայրերում, որտեղ արդեն օգտագործվում են։
• Միջգիտակարգային հետազոտություններ։ Ինչպե՞ս կարող է ԱԲ-ի զարգացումը հիմնվել այնպիսի գիտակարգերի վրա, ինչպիսիք են փիլիսոփայությունը, ճանաչողական գիտությունը և սոցիոլեզվաբանությունը։
• Մեկնելիություն և թափանցիկություն։ Ինչպե՞ս են այս մոդելներն աշխատում մեխանիկական տեսանկյունից։ Կարո՞ղ ենք արդյոք պարզել, թե ինչ հասկացություններ են նրանք օգտագործում, կամ մոդելից դուրս բերել թաքնված գիտելիքները, եզրակացություններ անել վարժեցման ընթացքի վերաբերյալ կամ կանխատեսել հետագա անսպասելի վարքագիծը։
• Չարաշահման հավանականություն։ Ինչպե՞ս է հնարավոր չարաշահել նման API համակարգերը։ Ինչպիսի՞ «red teaming» մոտեցումներ կարող ենք մշակել, որոնք կօգնեն մեզ և ԱԲ-ի հետ աշխատող այլ ծրագրավորողների՝ մտածել նման տեխնոլոգիաների պատասխանատու կիրառման մասին։
• Մոդելների հետազոտում։ API-ի կողմից սպասարկվող մոդելներն ունեն բազմատեսակ հնարավորություններ, որոնք մենք դեռ պետք է հետազոտենք։ Մենք ողջունում ենք բազմաթիվ ոլորտներում կատարվող հետազոտությունները՝ ներառյալ մոդելների սահմանափակումներին, լեզվական հատկություններին, առողջ տրամաբանմանը, ինչպես նաև շատ այլ խնդիրների լուծմանն ուղղված հնարավոր կիրառումներին վերաբերող հետազոտությունները։
• Հուսալիություն։ Գեներատիվ մոդելների կարողությունները բավականին անհամաչափ են. նրանք կարող են ունենալ զարմանալիորեն ուժեղ և զարմանալիորեն թույլ կողմեր։ Որքանո՞վ է խոշոր գեներատիվ մոդելների կողմից տրամադրված վերջնարդյունքը կայուն՝ հարցման մեջ առկա «բնական» տարբերությունների դեպքում, երբ, օրինակ, նույն գաղափարը ձևակերպում ենք տարբեր ձևերով կամ գրում ենք տառասխալներով կամ անսխալ։ Կարո՞ղ ենք կանխատեսել, թե որ տիրույթների և խնդիրների դեպքում է խոշոր գեներատիվ մոդելների կողմից տրամադրված վերջնարդյունքն ավելի կայուն (կամ ոչ կայուն), և ինչպե՞ս է սա կապված մարզման տվյալների հետ։ Կա՞ն արդյոք այնպիսի հնարքներ, որոնք կարող ենք օգտագործել՝ վարքագծի վատագույն տարբերակը կանխատեսելու և դրա հետևանքները մեղմելու համար։ Ինչպե՞ս կարելի է չափել կայունությունը փոքր ծավալի ուսուցողական համատեքստի դեպքում (օրինակ՝ հուշումների տարբերությունների դեպքում)։ Կարո՞ղ ենք մոդելները մարզել այնպես, որ դրանք բավարարեն անվտանգության պահանջները և ունենան հուսալիության շատ բարձր մակարդակ՝ նույնիսկ չարամիտ նպատակ ունեցող հարցումների դեպքում։

Խնդրում ենք նկատի ունենալ, որ հայտերի մեծ քանակով պայմանավորված՝ մեզ ժամանակ է հարկավոր դիմումներն ուսումնասիրելու համար, և ոչ բոլոր հետազոտություններն են ընտրվելու սուբսիդավորման համար։ Մենք ձեզ հետ կապ կհաստատենք միայն այն դեպքում, եթե ձեր դիմումն ընտրվի սուբսիդիվորման համար։