Әзірлеушілерге өз қолданбаларын ықтимал теріс пайдаланудан қорғауға көмектесу үшін біз анағұрлым жылдам әрі дәлірек Moderation соңғы нүктесін(жаңа терезеде ашылады) ұсынып отырмыз. Бұл соңғы нүкте OpenAI API әзірлеушілеріне қажетсіз контентті анықтайтын GPT‑негізіндегі жіктеуіштерге тегін қолжеткізуді береді — бұл осы жүйелерді адам бақылауымен қадағалауға көмектесу үшін AI жүйелерін пайдаланудың бір мысалы. Біз сондай-ақ әдіснамамызды сипаттайтын техникалық мақаланы(жаңа терезеде ашылады) және бағалау үшін қолданылған деректер жиынын(жаңа терезеде ашылады) жарияладық.
Мәтіндік кіріс берілген кезде Moderation соңғы нүктесі контенттің сексуалдық, өшпенді, зорлық-зомбылықты не өзіне зиян келтіруді насихаттайтынын бағалайды — мұндай контентке біздің контент саясатымыз(жаңа терезеде ашылады) тыйым салады. Соңғы нүкте жылдам, дәл және қолданбалардың кең ауқымында тұрақты жұмыс істеуге үйретілген. Ең маңыздысы, бұл өнімдердің ауқымды түрде пайдаланушыларға ұсынылғанның өзінде қате нәрсені «айтып қою» ықтималдығын азайтады. Соның нәтижесінде AI білім беру сияқты сезімтал салаларда да артықшылықтар бере алады, мұнда оны басқаша жағдайда сеніммен пайдалану мүмкін болмас еді.
Moderation соңғы нүктесі әзірлеушілерге инфрақұрылымға жасаған инвестицияларымыздың пайдасын көруге көмектеседі. Өздерінің жіктеуіштерін құрып, қолдап отырудың орнына — бұл, біздің мақалада(жаңа терезеде ашылады) сипатталғандай, ауқымды процесс — олар оның орнына бір ғана API шақыруы арқылы дәл жіктеуіштерге қол жеткізе алады.
OpenAI-дің AI экожүйесін қауіпсізірек етуге бағытталған міндеттемесінің бір бөлігі ретінде біз бұл соңғы нүктені OpenAI API арқылы жасалған барлық контентті тегін модерациялауға мүмкіндік беру үшін ұсынып отырмыз. Мысалы, OpenAI API клиенті Inworld(жаңа терезеде ашылады) өздерінің AI-негізіндегі виртуалды кейіпкерлері аудиториясына сай болуына көмектесу үшін Moderation соңғы нүктесін пайдаланады. OpenAI технологиясын қолдана отырып, Inworld негізгі өніміне — есте қаларлық кейіпкерлер жасауға — назар аудара алады. Қазіргі уақытта біз үшінші тарап traffic-ін мониторингтеуді қолдамаймыз.
Moderation соңғы нүктесін қолдануды бастау үшін құжаттаманы(жаңа терезеде ашылады) қарап шығыңыз. Оқыту үдерісі мен модель өнімділігі туралы толығырақ мәлімет біздің мақалада(жаңа терезеде ашылады) қолжетімді. Біз сондай-ақ осы санаттар аясында таңбаланған Common Crawl деректерін қамтитын бағалау деректер жиынын(жаңа терезеде ашылады) жарияладық, бұл осы саладағы әрі қарайғы зерттеулерге серпін береді деп үміттенеміз.
