OpenAI API

Մենք թողարկում ենք API՝ OpenAI-ի կողմից մշակված նոր մոդելներ մուտք գործելու համար։ Ի տարբերություն արհեստական բանականության համակարգերի, որոնք նախատեսված են մեկ օգտագործման դեպքի համար, API-ն այսօր ապահովում է ընդհանուր նշանակության «տեքստը մուտքագրել, տեքստը դուրս գրել» ինտերֆեյս, որը թույլ է տալիս օգտատերերին փորձարկել այն գրեթե ցանկացած անգլերեն լեզվով առաջադրանքի վրա։ Դուք այժմ կարող եք մուտքի թույլտվություն խնդրել՝ API-ը Ձեր արտադրանքի մեջ ինտեգրելու, բոլորովին նոր հավելված մշակելու կամ մեզ օգնելու ուսումնասիրել այս տեխնոլոգիայի ուժեղ և թույլ կողմերը։

Ցանկացած տեքստային հարցման դեպքում API-ը կվերադարձնի տեքստի լրացում՝ փորձելով համապատասխանել Ձեզ կողմից տրված ձևանմուշին։ Դուք կարող եք «ծրագրավորել» այն՝ ցույց տալով ընդամենը մի քանի օրինակ, թե ինչ կցանկանայիք, որ այն անի։ Դրա հաջողությունը սովորաբար կախված է առաջադրանքի բարդությունից։ API-ն նաև թույլ է տալիս կատարելագործել կոնկրետ առաջադրանքների կատարողականը՝ ուսուցումով ձեր տրամադրած օրինակների տվյալների հավաքածուի (փոքր կամ մեծ) վրա կամ սովորելով օգտատերերի կամ պիտակավորողների կողմից տրամադրված մարդկային կարծիքից։

Մենք նախագծել ենք API-ն այնպես, որ այն լինի և՛ պարզ օգտագործման համար, և՛ բավականաչափ ճկուն՝ մեքենայական ուսուցման թիմերի արտադրողականությունը բարձրացնելու համար։ Իրականում, մեր թիմերից շատերն այժմ օգտագործում են API-ը, որպեսզի կարողանան կենտրոնանալ մեքենայական ուսուցման հետազոտությունների վրա՝ այլ ոչ թե բաշխված համակարգերի խնդիրների վրա։ Այսօր API-ն գործարկում է GPT‑3⁠(բացվում է նոր պատուհանում) ընտանիքի կշիռներով մոդելներ՝ արագության և թողունակության բազմաթիվ բարելավումներով։ Մեքենայական ուսուցումը շատ արագ է զարգանում, և մենք անընդհատ թարմացնում ենք մեր տեխնոլոգիաները, որպեսզի մեր օգտատերերը տեղեկացված մնան։

Ոլորտի առաջընթացի տեմպը նշանակում է, որ հաճախակի հայտնվում են ԱԲ զարմանալի նոր հավելվածներ՝ ինչպես դրական, այնպես էլ բացասական։ Մենք կդադարեցնենք API-ի մուտքը ակնհայտորեն վնասակար օգտագործման դեպքերի համար, ինչպիսիք են ոտնձգությունը, սպամը, արմատականացումը կամ աստրոտուրֆինգը։ Բայց մենք նաև գիտենք, որ չենք կարող կանխատեսել այս տեխնոլոգիայի բոլոր հնարավոր հետևանքները, ուստի այսօր մենք մեկնարկում ենք մասնավոր բետա տարբերակով՝ այլ ոչ թե ընդհանուր հասանելիությամբ, ստեղծելով գործիքներ, որոնք կօգնեն օգտատերերին ավելի լավ վերահսկել մեր API-ի վերադարձվող բովանդակությունը և ուսումնասիրելով լեզվական տեխնոլոգիայի անվտանգությանը վերաբերող ասպեկտները (օրինակ՝ վնասակար կողմնակալության վերլուծությունը, մեղմացումը և միջամտությունը): Մենք կկիսվենք մեր սովորածով, որպեսզի մեր օգտատերերը և ավելի լայն համայնքը կարողանան ստեղծել ավելի մարդասիրական ԱԲ համակարգեր։

Բացի նրանից, որ հանդիսանում է եկամտի աղբյուր՝ ծախսերը հոգալու⁠ մեր առաքելության⁠ հետապնդման համար, API-ը մեզ դրդել է սրել մեր ուշադրությունը ընդհանուր նշանակության արհեստական բանականության տեխնոլոգիայի վրա՝ զարգացնելով տեխնոլոգիան, դարձնելով այն օգտագործելի և հաշվի առնելով դրա ազդեցությունը իրական աշխարհում։ Մենք հույս ունենք, որ API-ը զգալիորեն կնվազեցնի արհեստական բանականության վրա հիմնված օգտակար արտադրանք ստեղծելու խոչընդոտը⁠(բացվում է նոր պատուհանում), որի արդյունքում կստեղծվեն գործիքներ և ծառայություններ, որոնք այսօր դժվար է պատկերացնել։

Հետաքրքրվա՞ծ եք ուսումնասիրել API-ն: Միացե՛ք այնպիսի ընկերությունների, ինչպիսիք են Algolia⁠(բացվում է նոր պատուհանում), Quizlet⁠(բացվում է նոր պատուհանում) և Reddit⁠(բացվում է նոր պատուհանում), ինչպես նաև այնպիսի հաստատությունների հետազոտողների, ինչպիսիք են Middlebury Institute⁠(բացվում է նոր պատուհանում) -ը, մեր մասնավոր բետա⁠(բացվում է նոր պատուհանում) տարբերակում:

Վերջին հաշվով, այն, ինչ մեզ ամենից շատ հետաքրքրում է⁠, ապահովել, որ արհեստական ընդհանուր բանականությունը բոլորին օգուտ բերի։ Մենք առևտրային արտադրանքների մշակումը համարում ենք հաջողության հասնելու համար բավարար ֆինանսավորում ապահովելու միջոցներից մեկը։

Մենք նաև հավատում ենք, որ աշխարհում հզոր արհեստական բանականության համակարգերի անվտանգ տեղակայումը դժվար կլինի ճիշտ իրականացնել։ API-ը թողարկելիս մենք սերտորեն համագործակցում ենք մեր գործընկերների հետ՝ հասկանալու, թե ինչ մարտահրավերներ են առաջանում, երբ արհեստական բանականության համակարգերն օգտագործվում են իրական աշխարհում։ Սա կօգնի մեզ ուղղորդել մեր ջանքերը՝ հասկանալու, թե ինչպես կընթանա ապագա արհեստական բանականության համակարգերի տեղակայումը և ինչ պետք է անենք, որպեսզի դրանք անվտանգ և օգտակար լինեն բոլորի համար։

Կան երեք հիմնական պատճառներ, թե ինչու մենք դա արեցինք։ Նախ, տեխնոլոգիայի առևտրայնացումը մեզ օգնում է վճարել մեր շարունակական ԱԲ հետազոտությունների, անվտանգության և քաղաքականության ջանքերի համար։

Երկրորդը, API-ի հիմքում ընկած մոդելներից շատերը շատ մեծ են, եւ դրանք շատ թանկ են աշխատում։ Սա դժվարացնում է հիմքում ընկած տեխնոլոգիայից օգտվելը որևէ մեկի համար, բացառությամբ խոշոր ընկերությունների։ Մենք հույս ունենք, որ API-ը հզոր արհեստական բանականության համակարգերը կդարձնի ավելի հասանելի փոքր բիզնեսների և կազմակերպությունների համար։

Երրորդը, API մոդելը թույլ է տալիս մեզ ավելի հեշտությամբ արձագանքել տեխնոլոգիայի չարաշահմանը։ Քանի որ դժվար է կանխատեսել մեր մոդելների հետագա օգտագործման դեպքերը, ավելի անվտանգ է թողարկել դրանք API-ի միջոցով և ժամանակի ընթացքում ընդլայնել հասանելիությունը, քան թողարկել բաց կոդով մոդել, որտեղ մուտքը չի կարող ճշգրտվել, եթե պարզվի, որ այն վնասակար հավելվածներ ունի։

GPT‑2‑ի դեպքում մեր հիմնական մտահոգություններից մեկը մոդելի չարամիտ օգտագործումն էր (օրինակ՝ ապատեղեկատվության համար), ինչը դժվար է կանխել, երբ մոդելը բաց կոդով է։ API-ի համար մենք կարող ենք ավելի լավ կանխել չարաշահումը՝ սահմանափակելով հասանելիությունը հաստատված հաճախորդներին և օգտագործման դեպքերին։ Մենք ունենք պարտադիր արտադրության վերանայման գործընթաց՝ նախքան առաջարկվող հավելվածները կարող են գործարկվել։ Արտադրական ակնարկներում մենք գնահատում ենք հավելվածները մի քանի առանցքներով՝ տալով հետևյալ հարցերը. արդյո՞ք սա ներկայումս աջակցվող օգտագործման դեպք է, որքանո՞վ է հավելվածը բաց, որքանո՞վ է հավելվածը ռիսկային, ինչպե՞ս եք պլանավորում լուծել հնարավոր չարաշահման խնդիրը, և ովքե՞ր են ձեր հավելվածի վերջնական օգտատերերը։

Մենք դադարեցնում ենք API-ի մուտքը այն դեպքերի համար, որոնք, ինչպես պարզվել է, մարդկանց պատճառում են (կամ նախատեսված են պատճառելու) ֆիզիկական, հուզական կամ հոգեբանական վնաս, ներառյալ, բայց չսահմանափակվելով դրանով, ոտնձգություններով, դիտավորյալ խաբեությամբ, արմատականացմամբ, աստրոտուրֆինգով կամ սպամով, ինչպես նաև այն հավելվածների համար, որոնք չունեն բավարար պաշտպանիչ միջոցներ վերջնական օգտատերերի կողմից չարաշահումը սահմանափակելու համար։ Քանի որ մենք ավելի շատ փորձ ենք ձեռք բերում գործնականում API-ի գործարկման մեջ, մենք անընդհատ կատարելագործելու ենք օգտագործման կատեգորիաները, որոնք կարող ենք աջակցել՝ ինչպես ընդլայնելու հավելվածների շրջանակը, այնպես էլ ստեղծելու ավելի նուրբ կատեգորիաներ նրանց համար, որոնց սխալ օգտագործման վերաբերյալ մտահոգություններ ունենք։

Մեկ հիմնական գործոնը, որը մենք հաշվի ենք առնում API-ի օգտագործումը հաստատելիս, այն է, թե որքանով է հավելվածը ցուցադրում բաց կամ սահմանափակված վարքագիծ՝ կապված համակարգի հիմքում ընկած գեներատիվ ունակությունների հետ։ API-ի բաց վերջավոր հավելվածները (այսինքն՝ այնպիսիք, որոնք միացնում են առանց խափանման մեծ քանակությամբ հարմարեցվող տեքստի գեներացում կամայական հարցումների միջոցով) հատկապես ենթակա են չարաշահման։ Գեներատիվ օգտագործման դեպքերը ավելի անվտանգ դարձնելու սահմանափակումները ներառում են համակարգերի դիզայնը, որը մարդուն պահում է գործընթացում, վերջնական օգտատերերի հասանելիության սահմանափակումները, արդյունքների հետմշակումը, բովանդակության զտումը, մուտքագրում/արտածում երկարության սահմանափակումները, ակտիվ մոնիտորինգը և թեմատիկ սահմանափակումները:

Մենք նաև շարունակում ենք հետազոտություններ անցկացնել API-ի կողմից մատուցվող մոդելների հնարավոր չարաշահման վերաբերյալ՝ ներառյալ երրորդ կողմի հետազոտողների հետ մեր  ակադեմիական մուտքի ծրագրի⁠(բացվում է նոր պատուհանում) միջոցով։ Այս պահին մենք սկսում ենք շատ սահմանափակ թվով հետազոտողներով և արդեն ունենք որոշ արդյունքներ մեր ակադեմիական գործընկերներից՝  Middlebury Institute⁠(բացվում է նոր պատուհանում),  Վաշինգտոնի համալսարանից և Allen Institute for AI⁠(բացվում է նոր պատուհանում)։ Մենք արդեն տասնյակ հազարավոր դիմորդներ ունենք այս ծրագրի համար և ներկայումս առաջնահերթություն ենք տալիս արդարության և ներկայացուցչության հետազոտությանը կենտրոնացած  դիմումներին։

Բացասական ազդեցությունների, ինչպիսիք են վնասակար կողմնակալությունները, մեղմացումը բարդ, ոլորտային և չափազանց կարևոր խնդիր է։ Ինչպես մենք քննարկում ենք GPT‑3 հոդվածում⁠(բացվում է նոր պատուհանում) և մոդելի քարտում⁠(բացվում է նոր պատուհանում), մեր API մոդելները ցուցաբերում են կողմնակալություններ, որոնք կարտացոլվեն գեներացված տեքստում։ Ահա այն քայլերը, որոնք մենք ձեռնարկում ենք այս խնդիրները լուծելու համար։

• Մենք մշակել ենք օգտագործման ուղեցույցներ, որոնք օգնում են ծրագրավորողներին հասկանալ և լուծել հնարավոր անվտանգության խնդիրները:
• Մենք սերտորեն համագործակցում ենք օգտատերերի հետ՝ հասկանալու նրանց օգտագործման դեպքերը և մշակելու գործիքներ՝ բացահայտելու և միջամտելու՝ վնասակար կողմնակալությունը մեղմելու համար։
• Մենք իրականացնում ենք մեր սեփական հետազոտությունները վնասակար կողմնակալության դրսևորումների և արդարության ու ներկայացման ավելի լայն խնդիրների վերաբերյալ, որոնք կօգնեն ուղղորդել մեր աշխատանքը՝ բարելավելով գոյություն ունեցող մոդելների փաստաթղթավորումը, ինչպես նաև ապագա մոդելների տարբեր բարելավումներ կատարելով:
• Մենք գիտակցում ենք, որ կողմնակալությունը խնդիր է, որը դրսևորվում է համակարգի և տեղակայված համատեքստի հատման կետում. մեր տեխնոլոգիայով կառուցված հավելվածները սոցիալ-տեխնիկական համակարգեր են, ուստի մենք համագործակցում ենք մեր ծրագրավորողների հետ՝ ապահովելու համար, որ նրանք ներդնեն համապատասխան գործընթացներ և մարդկային ներգրավվածության համակարգեր՝ անբարենպաստ վարքագիծը վերահսկելու համար։

Մեր նպատակն է շարունակել զարգացնել API-ի հնարավոր վնասների վերաբերյալ մեր պատկերացումները օգտագործման յուրաքանչյուր համատեքստում և անընդհատ կատարելագործել մեր գործիքներն ու գործընթացները՝ դրանք նվազագույնի հասցնելու համար։

Թարմացվել է 2020 թվականի սեպտեմբերի 18-ին