Бөлісу және жариялау саясаты

ЖИ арқылы жасалған контенттің ықтимал тәуекелдерін азайту үшін біз рұқсат етілген бөлісу жөнінде келесі саясатты белгіледік.

Өз сұрауларыңызды немесе жауаптарыңызды әлеуметтік желілерге жариялау әдетте рұқсат етіледі, сондай-ақ пайдалануды тікелей эфирде көрсету немесе біздің өнімдерді адамдарға таныстыру да рұқсат етіледі. Келесі ережелерді сақтаңыз:

• Әрбір жасалған нәтижені бөліспес бұрын немесе тікелей эфир кезінде қолмен қарап шығыңыз.
• Контентті өз атыңызға немесе компанияңызға теліңіз.
• Контенттің ЖИ арқылы жасалғанын ешбір пайдаланушы байқамай қалмайтындай немесе қате түсінбейтіндей етіп көрсетіңіз.
• Біздің Контент саясатын⁠ бұзатын немесе өзгелерді ренжітуі мүмкін контентті бөліспеңіз.
• Көрермендердің сұраулары бойынша үлгіні енгізген жағдайда, ақылға қонымды шешім қабылдаңыз; біздің Контент саясатын⁠ бұзуы мүмкін үлгілерді енгізбеңіз.

Белгілі бір нәтижеден OpenAI командасының хабардар болуын қаласаңыз, бізге электрондық хат жібере аласыз немесе Playground ішіндегі хабарлау құралдарын пайдалана аласыз.

• Бастапқы модельмен жұмыс істеп отырғаныңызды ескеріңіз, яғни біз біржақты немесе теріс жауаптарды сұрыптамаймыз. (Сонымен қатар, біздің ақысыз модерация пунктін⁠(жаңа терезеде ашылады) енгізу туралы көбірек мұнда біле аласыз.)

OpenAI API көмегімен ішінара жасалған өздерінің авторлық жазбаша контентін (мысалы, кітап, әңгімелер жинағы) жариялауды қалаған авторларға төмендегі шарттар негізінде рұқсат етіледі:

• Жарияланған контент өз атыңызға немесе компанияңызға телінуі керек.
• Контентті құрастырудағы ЖИ рөлі ешбір оқырман байқамай қалмайтындай және қарапайым оқырманға жеткілікті түсінікті болатындай етіп анық көрсетілуі тиіс.
• Контент тақырыптары OpenAI Контент саясатын⁠ немесе Пайдалану шарттарын⁠ бұзбауы тиіс, яғни ересектерге арналған контентке, спамға, жеккөрінішті контентке, зорлық-зомбылыққа итермелейтін контентке немесе қоғамға зиян келтіруі мүмкін өзге мақсаттарға қатысты болмауы керек.
• Біз өзгелерді ренжітуі мүмкін нәтижелерді бөліспеуіңізді сұраймыз.

Мысалы, алғысөзде немесе кіріспеде (немесе соған ұқсас бөлімде) жобалау, редакциялау сияқты рөлдердің үлесі нақты көрсетілуі тиіс. Адамдар API арқылы жасалған контентті толығымен адам жасаған немесе толығымен ЖИ жасаған деп көрсетпеуі керек, әрі жарияланатын контент үшін түпкілікті жауапкершілікті адам өз мойнына алуға тиіс.

Сәйкес келсе, шығармашылық процесті сипаттау үшін қолдануға болатын бірнеше стандартты тұжырымдар:

Біз үшін бүкіл әлемнің біздің зерттеулеріміз бен өнімдерімізді бағалай алуы маңызды, өйткені бұл модельдеріміздегі ықтимал әлсіздіктерді, қауіпсіздікке қатысты мәселелерді немесе біржақтылықты түсінуге және оларды жетілдіруге мүмкіндік береді. Сондықтан біз OpenAI API интерфейстеріне қатысты зерттеу жарияланымдарын құптаймыз.

• Кейбір жағдайларда біз жұмысыңызды ішкі және/немесе сыртқы деңгейде атап көрсеткіміз келуі мүмкін.
• Ал қауіпсіздікке немесе API интерфейсін теріс пайдалануға қатысты жарияланымдар сияқты басқа жағдайларда, біз пайдаланушыларымызды қорғау үшін тиісті шараларды қабылдағымыз келуі мүмкін.
• Зерттеу барысында API интерфейсіне қатысты кез келген қауіпсіздік немесе қорғаныс мәселелерін байқасаңыз, оларды дереу біздің Үйлестірілген осалдықтарды жариялау бағдарламамыз⁠ арқылы жіберуіңізді сұраймыз.

OpenAI API көмегімен зерттегіміз келетін бірнеше бағыт бар. Егер сізге субсидияланған пайдалану мүмкіндігі қызық болса, Зерттеушілерге арналған қол жеткізу бағдарламасының өтінімінде⁠ өз зерттеуіңіздің қолдану жағдайы туралы толық мәлімет беріңіз.

Атап айтқанда, біз келесі бағыттарды ерекше маңызды деп санаймыз, бірақ сіз өз бағытыңызды таңдай аласыз:

• Туралау: Модель қандай мақсатты көздеп жұмыс істейтінін немесе ондай мақсат мүлдем жоқ екенін қалай анықтай аламыз? Бұл мақсаттың кеңестерді әзірлеу немесе дәл баптау сияқты әдістермен адамдардың қалауына сәйкес келу дәрежесін қалай арттыруға болады?
• Әділдік және өкілдік: Тілдік модельдерде әділдік пен өкілдікке қатысты өнімділік өлшемшарттары қалай белгіленуі керек? Тілдік модельдерді нақты қолданылып жатқан контексттерде әділдік пен өкілдік мақсаттарын тиімді қолдайтындай етіп қалай жетілдіруге болады?
• Пәнаралық зерттеу: ЖИ дамуы философия, когнитивтік ғылым және социолингвистика сияқты басқа салалардың көзқарастарын қалай пайдалана алады?
• Түсініктілік және ашықтық : Бұл модельдер механикалық тұрғыдан қалай жұмыс істейді? Біз олардың қандай тұжырымдамаларды қолданатынын анықтай аламыз ба, әлде модельден жасырын білімді шығарып, оқыту үдерісі туралы қорытынды жасап, күтпеген болашақтағы мінез-құлықты болжай аламыз ба?
• Дұрыс пайдаланбау әлеуеті: API сияқты жүйелер қалай дұрыс пайдаланылмауы мүмкін? Бізге және басқа ЖИ әзірлеушілеріне осындай технологияларды енгізуде жауапкершілікпен әрекет етуге көмектесу үшін қандай «red teaming» тәсілдерін қолдануға болады?
• Модельді зерттеу: API қызмет көрсететін модельдерде әлі зерттелмеген көптеген мүмкіндіктер бар. Біз модельдің шектеулері, тілдік ерекшеліктері, тұрмыстық қисынды пайымдау қабілеті және басқа да көптеген мәселелерді шешудегі ықтимал қолданылуы сияқты бағыттардағы зерттеулерге үлкен қызығушылық танытамыз.
• Төзімділік: Генеративті модельдердің мүмкіндіктері біркелкі емес, кей тұстарда күтпегендей мықты, ал кейбір тұстарда күтпегендей әлсіз болуы мүмкін. Үлкен генеративті модельдер «табиғи» түрткі мәтіндегі өзгерістерге, мысалы, бір ойды әртүрлі етіп жеткізуге немесе қате/қатесіз жазуға қаншалықты төзімді? Үлкен генеративті модельдер төзімді (немесе төзімсіз) болуы ықтимал домендер мен тапсырмалардың түрлерін алдын ала болжай аламыз ба және бұл оқыту деректеріне қалай байланысты? Ең нашар жағдайдағы мінез-құлықты болжау және оны азайту үшін қолдана алатын әдістер бар ма? Аз үлгімен оқыту контекстінде, мысалы, түрткі мәтіндердің вариациялары бойынша, төзімділікті қалай өлшеуге болады? Біз модельдерді қарсыластың енгізген деректерінде де өте жоғары деңгейдегі сенімділікпен қауіпсіздік қасиеттерін қанағаттандыратындай етіп жаттықтыра аламыз ба?

Сұраулардың көптігіне байланысты оларды қарау уақыт алады және барлық зерттеулерге субсидия беруге басымдық берілмейтінін ескеріңіз. Өтініміңіз субсидия алу үшін таңдалған жағдайда ғана сізбен байланысамыз.