OpenAI-ի նախափորձարկման ցանց

Հայտարարում ենք OpenAI-ի նախափորձարկման ցանցին միանալու բաց ընդունելություն և հրավիրում տարբեր ոլորտների փորձագետներին, որոնք հետաքրքրված են OpenAI-ի մոդելների անվտանգությունը բարելավելով, միանալ մեր աշխատանքին։ Փնտրում ենք տարբեր ոլորտների փորձագետների՝ մեր ԱԲ մոդելները խստորեն գնահատելու և նախափորձարկելու հարցում համագործակցելու համար։

Նախափորձարկումը^A մեր կրկնափուլային ներդրման գործընթացի⁠ անբաժանելի մասն է։ Վերջին մի քանի տարիներին մեր նախափորձարկման աշխատանքներն ընդլայնվել են․ OpenAI-ի ներսում հակազդող փորձարկումների վրա կենտրոնանալուց անցել ենք արտաքին փորձագետների խմբի հետ համագործակցության^B։ Նրանք օգնում են մշակել ոլորտային ռիսկերի դասակարգումներ և գնահատել նոր համակարգերի՝ հնարավոր վնաս պատճառող կարողությունները։ Մեր նախորդ նախափորձարկումների, այդ թվում՝ արտաքին փորձագետների հետ DALL·E 2⁠(բացվում է նոր պատուհանում)-ի և GPT‑4⁠(բացվում է նոր պատուհանում)-ի նման մոդելների շուրջ կատարած աշխատանքի մասին կարող եք կարդալ ավելին։^C

Այսօր սկսում ենք ավելի պաշտոնական նախաձեռնություն՝ այդ հիմքերի վրա աշխատանքը շարունակելու և արտաքին փորձագետների հետ մեր համագործակցությունը խորացնելու ու ընդլայնելու համար, որպեսզի մեր մոդելներն ավելի անվտանգ դարձնենք։ Անհատ փորձագետների, հետազոտական հաստատությունների և քաղաքացիական հասարակության կազմակերպությունների հետ համագործակցությունը մեր գործընթացի կարևոր մասն է։ Այս աշխատանքը դիտարկում ենք որպես լրացում դրսից սահմանվող կառավարման գործելակերպերին, օրինակ՝ երրորդ կողմի աուդիտներին։

OpenAI-ի նախափորձարկման ցանցը վստահելի և փորձառու մասնագետների համայնք է, որը կարող է ավելի լայնորեն ուղղորդել ռիսկերի գնահատման ու նվազեցման մեր աշխատանքը՝ ի տարբերություն խոշոր մոդելների ներդրումից առաջ փորձագետների մեկանգամյա ներգրավման և ընտրության գործընթացների։ Ցանցի անդամներին կհրավիրենք՝ ըստ իրենց մասնագիտական գիտելիքների, աջակցելու նախափորձարկմանը մոդելների և արտադրանքների մշակման տարբեր փուլերում։ Ոչ բոլոր անդամները կներգրավվեն յուրաքանչյուր նոր մոդելի կամ արտադրանքի աշխատանքներում։ Տրամադրվող ժամանակը կհամաձայնեցվի յուրաքանչյուր անդամի հետ առանձին և կարող է կազմել տարեկան ընդամենը 5–10 ժամ։

OpenAI-ի պատվերով իրականացվող նախափորձարկումներից բացի՝ անդամները հնարավորություն կունենան միմյանց հետ քննարկելու նախափորձարկման ընդհանուր գործելակերպն ու արդյունքները։ Նպատակն է ապահովել ավելի բազմազան ու շարունակական մասնակցություն և նախափորձարկումը դարձնել պարբերաբար կրկնվող գործընթաց։ Այս ցանցը լրացնում է ԱԲ-ի անվտանգության ոլորտում համագործակցության այլ հնարավորությունները, այդ թվում՝ մեր Հետազոտողների հասանելիության ծրագիրը⁠ և բաց կոդով գնահատումները⁠(բացվում է նոր պատուհանում)։

Այս ցանցը բացառիկ հնարավորություն է տալիս նպաստելու ավելի անվտանգ ԱԲ տեխնոլոգիաների և քաղաքականությունների մշակմանը, ինչպես նաև ուղղորդելու այն ազդեցությունը, որ ԱԲ-ն կարող է ունենալ մեր ապրելակերպի, աշխատանքի և շփման վրա։ Միանալով այս ցանցին՝ դուք կընդգրկվեք մեր ոլորտային փորձագետների խմբում, որոնց կարող ենք հրավիրել գնահատելու մեր մոդելներն ու համակարգերը դրանց ներդրման տարբեր փուլերում։

ԱԲ համակարգերը գնահատելու համար անհրաժեշտ է հասկանալ ամենատարբեր ոլորտներ, բազմազան տեսակետներ և կենսափորձեր։ Հրավիրում ենք փորձագետներին ամբողջ աշխարհից դիմելու և ընտրության ընթացքում առաջնահերթություն ենք տալիս ինչպես աշխարհագրական, այնպես էլ ոլորտային բազմազանությանը։ 

Մեզ հետաքրքրող ոլորտներից մի քանիսը ներկայացված են ստորև, սակայն ցանկը սպառիչ չէ․

ԱԲ համակարգերի կամ լեզվային մոդելների հետ աշխատանքի փորձը պարտադիր չէ, բայց կարող է օգտակար լինել։ Մենք առավելապես կարևորում ենք ներգրավվելու և ԱԲ համակարգերի ազդեցությունները գնահատելու մեր աշխատանքում ձեր տեսակետը ներկայացնելու պատրաստակամությունը։

OpenAI-ի նախափորձարկման ցանցի բոլոր անդամները կվարձատրվեն նախափորձարկման նախագծերին մասնակցելիս իրենց ներդրման համար։ Թեև այս ցանցին անդամակցելը չի սահմանափակի ձեր հետազոտությունները հրապարակելու կամ այլ հնարավորություններից օգտվելու իրավունքը, պետք է հաշվի առնեք, որ նախափորձարկմանը և այլ նախագծերին մասնակցությունը հաճախ ենթակա է չբացահայտման համաձայնագրերի (NDA) պահանջներին կամ անորոշ ժամկետով մնում է գաղտնի։

Դիմումների ընդունումն ավարտվել է։

Հարց․ Ի՞նչ է ենթադրում ցանցին միանալը։

Պատասխան․ Ցանցի անդամ լինելը նշանակում է, որ կարող ենք կապվել ձեզ հետ՝ առաջարկելու փորձարկել նոր մոդել կամ արդեն ներդրված մոդելը ստուգել մեզ հետաքրքրող որևէ ոլորտում։ Ցանցի շրջանակում աշխատանքներն իրականացվում են չբացահայտման համաձայնագրով (NDA), թեև նախկինում նախափորձարկման մեր բազմաթիվ արդյունքներ հրապարակել ենք համակարգերի քարտերում և բլոգային գրառումներում։ Նախափորձարկման նախագծերին տրամադրած ժամանակի համար դուք կվարձատրվեք։

Հարց․ Որքա՞ն ժամանակ է պետք տրամադրել ցանցի աշխատանքներին։ 

Պատասխան․ Կարող եք որոշել, թե որքան ժամանակ տրամադրել՝ ելնելով ձեր ժամանակացույցից։ Նկատի ունեցեք, որ յուրաքանչյուր հնարավորության դեպքում ցանցի բոլոր անդամներին չենք դիմելու։ OpenAI-ն մասնակիցներին կընտրի՝ ելնելով նախափորձարկման տվյալ նախագծին նրանց համապատասխանությունից, իսկ հետագա նախափորձարկումներում շեշտը կդնի նոր տեսակետների վրա։ Տարեկան ընդամենը 5 ժամն էլ մեզ համար արժեքավոր կլինի, ուստի մի՛ հապաղեք դիմել, եթե հետաքրքրված եք, բայց քիչ ժամանակ ունեք։

Հարց․ Ե՞րբ դիմորդները կտեղեկացվեն իրենց ընդունվելու մասին։

Պատասխան․ OpenAI-ն ցանցի անդամներին կընտրի շարունակաբար՝ դիմումների ստացմանը զուգընթաց։ Կարող եք դիմել մինչև 2023 թվականի դեկտեմբերի 1-ը։ Այս ընդունելության ավարտից հետո կվերագնահատենք ապագայում դիմումների ընդունելությունը վերաբացելու հնարավորությունը։

Հարց․ Ցանցին անդամակցելը նշանակո՞ւմ է, որ ինձ կառաջարկվի նախափորձարկել յուրաքանչյուր նոր մոդել։

Պատասխան․ Ոչ, OpenAI-ն մասնակիցներին կընտրի՝ ելնելով նախափորձարկման տվյալ նախագծին նրանց համապատասխանությունից, և չպետք է ակնկալեք, որ կփորձարկեք յուրաքանչյուր նոր մոդել։

Հարց․ Ի՞նչ չափանիշներով եք ընտրում ցանցի անդամներին։

Պատասխան․ Ահա մեր դիտարկած չափանիշներից մի քանիսը․

• Նախափորձարկմանը առնչվող որևէ ոլորտում հաստատված մասնագիտական գիտելիքներ կամ փորձ

• ԱԲ-ի անվտանգությունը բարելավելու մեծ ձգտում

• Շահերի բախման բացակայություն

• Տարբեր կենսափորձերի և ավանդաբար թերներկայացված խմբերի ներկայացվածություն

• Աշխարհագրական բազմազան ներկայացվածություն 

• Մեկից ավելի լեզուների ազատ տիրապետում

• Տեխնիկական հմտություններ (պարտադիր չեն)

Հարց․ Անվտանգության ոլորտում համագործակցության ուրիշ ի՞նչ հնարավորություններ կան։

Պատասխան․ Ցանցին միանալուց բացի՝ կան ԱԲ-ի անվտանգությանը նպաստելու համագործակցության այլ հնարավորություններ։ Օրինակ՝ կարող եք մշակել կամ անցկացնել ԱԲ համակարգերի անվտանգության գնահատումներ և վերլուծել արդյունքները։

OpenAI-ի բաց կոդով Evals⁠(բացվում է նոր պատուհանում) պահոցը (որը հրապարակվել է GPT‑4‑ի թողարկման⁠ շրջանակում) առաջարկում է օգտագործման համար հարմար ձևանմուշներ և մեթոդների օրինակներ՝ այս գործընթացն արագ սկսելու համար։

Գնահատումները կարող են ներառել թե՛ պարզ հարցուպատասխանային թեստեր, թե՛ ավելի բարդ սիմուլյացիաներ։ Ահա OpenAI-ի մշակած գնահատումների կոնկրետ օրինակներ, որոնք թույլ են տալիս ԱԲ-ի վարքագիծը գնահատել տարբեր տեսանկյուններից․

Համոզում

• MakeMeSay⁠(բացվում է նոր պատուհանում)․ Որքանո՞վ է ԱԲ համակարգը կարողանում խաբեությամբ մեկ այլ ԱԲ համակարգի դրդել ասելու գաղտնի բառը։

• MakeMePay⁠(բացվում է նոր պատուհանում)․ Որքանո՞վ է ԱԲ համակարգը կարողանում համոզել մեկ այլ ԱԲ համակարգի գումար նվիրաբերել։

• Քվեարկության առաջարկ⁠(բացվում է նոր պատուհանում)․ Որքանո՞վ է ԱԲ համակարգը կարողանում ազդել այն բանի վրա, թե մեկ այլ ԱԲ համակարգ որքանով է աջակցում քաղաքական առաջարկին։

Ստեգանոգրաֆիա (թաքնված հաղորդագրությունների փոխանցում)

• Ստեգանոգրաֆիա⁠(բացվում է նոր պատուհանում)․ Որքանո՞վ է ԱԲ համակարգը կարողանում գաղտնի հաղորդագրություններ փոխանցել՝ առանց մեկ այլ ԱԲ համակարգի կողմից հայտնաբերվելու։

• Տեքստի սեղմում⁠(բացվում է նոր պատուհանում)․ Որքանո՞վ է ԱԲ համակարգը կարողանում սեղմել և ապասեղմել հաղորդագրությունները՝ գաղտնի հաղորդագրություններ թաքցնելու համար։

• Շելինգի կետ⁠(բացվում է նոր պատուհանում)․ Որքանո՞վ է ԱԲ համակարգը կարողանում իր գործողությունները համակարգել մեկ այլ ԱԲ համակարգի հետ՝ առանց անմիջական հաղորդակցության։

ԱԲ համակարգերը գնահատելիս խրախուսում ենք ստեղծագործ մոտեցումն ու նոր մեթոդների փորձարկումը։ Ավարտելուց հետո հրավիրում ենք ձեր գնահատումն ավելացնելու բաց կոդով Evals⁠(բացվում է նոր պատուհանում) պահոցում, որպեսզի դրանից օգտվի ԱԲ-ի ավելի լայն համայնքը։

Կարող եք նաև դիմել մեր Հետազոտողների հասանելիության ծրագրին⁠։ Այն կրեդիտներ է տրամադրում՝ աջակցելու այն հետազոտողներին, որոնք մեր արտադրանքներն օգտագործում են ԱԲ-ի պատասխանատու ներդրմանն ու դրա հետ կապված ռիսկերի նվազեցմանն առնչվող ոլորտներն ուսումնասիրելու համար։